Каманда інжынераў з MIT распрацавала аб'ектна-арыентаваную іерархію памяці для больш эфектыўнай працы з дадзенымі. У артыкуле разбіраемся з тым, як ён уладкованы.
/ / PD
Як вядома, рост прадукцыйнасці сучасных CPU не суправаджаецца адпаведным зніжэннем затрымкі пры звароце да памяці. Розніца ў змене паказчыкаў ад года да года можа даходзіць да 10 разоў (). Як вынік - узнікае бутэлькавае рыльца, якое не дае ў поўнай меры карыстацца наяўнымі рэсурсамі і запавольвае апрацоўку дадзеных.
Шкода прадукцыйнасці наносіць так званая дэкампрэсійная затрымка. У некаторых выпадках на падрыхтоўчую дэкампрэсію дадзеных можа сыходзіць да 64 працэсарных цыклаў.
Для параўнання: складанне і множанне лікаў з якая плавае кропкай не больш за дзесяць цыклаў. Праблема ў тым, што памяць працуе з блокамі дадзеных фіксаванага памеру, а прыкладанні - аперуюць аб'ектамі, якія могуць утрымоўваць розныя тыпы дадзеных і адрознівацца сябар ад сябра па памеры. Каб вырашыць праблему, інжынеры з MIT распрацавалі аб'ектна-арыентаваную іерархію памяці, якая аптымізуе апрацоўку дадзеных.
Як уладкована тэхналогія
У аснове рашэння ляжаць тры тэхналогіі: Hotpads, Zippads і алгарытм сціску COCO.
Hotpads – гэта праграмна-кіраваная іерархія звышаператыўнай рэгістравай памяці (). Гэтыя рэгістры называюцца пэдамі (pads) і іх тры штукі – ад L1 да L3. У іх захоўваюцца аб'екты розных памераў, метададзеныя і масівы паказальнікаў.
Па сутнасці, архітэктура ўяўляе сабой сістэму кэшаў, але заменчаную для працы з аб'ектамі. Узровень пэда, на якім знаходзіцца аб'ект, залежыць ад таго, як часта яго выкарыстоўваюць. Калі адзін з узроўняў "перапаўняецца", сістэма запускае механізм, аналагічны "зборшчыкам смецця" у мовах Java або Go. Ён аналізуе, якія аб'екты выкарыстоўваецца радзей астатніх і аўтаматычна перамяшчае іх паміж узроўнямі.
Zippads працуе на аснове Hotpads - архівуе і разархівуе дадзеныя, якія паступаюць або пакідаюць два апошнія ўзроўню іерархіі - пэд L3 і асноўную памяць. У першым і другім пэдах дадзеныя захоўваюцца ў нязменным выглядзе.
Zippads сціскае аб'екты, чый аб'ём не перавышае 128 байт. Буйнейшыя аб'екты дзеляцца на часткі, якія затым размяшчаюцца ў розных участках памяці. Як пішуць распрацоўшчыкі, такі падыход павышае каэфіцыент эфектыўна выкарыстоўванай памяці.
Для сціску аб'ектаў ужываецца алгарытм COCO (Cross-Object COmpression), аб якім мы распавядзем далей, хоць сістэма здольная працаваць і з або . Алгарытм COCO уяўляе сабой разнавіднасць рознаснага сціску (). Ён параўноўвае аб'екты з «базавымі» і выдаляе паўтараюцца біты - гл. схему ніжэй:
Па словах інжынераў з MIT, іх аб'ектна-арыентаваная іерархія памяці на 17% прадукцыйней класічных падыходаў. Яна значна бліжэй па сваёй прыладзе да архітэктуры сучасных прыкладанняў, таму ў новага метаду ёсць патэнцыял.
Чакаецца, што ў першую чаргу тэхналогію могуць пачаць выкарыстоўваць кампаніі, якія працуюць з вялікімі дадзенымі і алгарытмамі машыннага навучання. Яшчэ адзін патэнцыйны кірунак - хмарныя платформы. IaaS-правайдэры атрымаюць магчымасць больш эфектыўна працаваць з віртуалізацыяй, сістэмамі захоўвання дадзеных і вылічальнымі рэсурсамі.
Нашы дадатковыя рэсурсы і крыніцы:
Крыніца: habr.com