Неизбежността на навлизането на FPGA в центровете за данни

Не е необходимо да сте дизайнер на чипове, за да програмирате за FPGA, точно както не е необходимо да сте програмист на C++, за да пишете код на Java. И в двата случая обаче вероятно ще бъде полезно.

Целта на комерсиализирането както на Java, така и на FPGA технологиите е да се опровергае последното твърдение. Добри новини за FPGA - използвайки правилните абстракционни слоеве и набор от инструменти, през последните 35 години от изобретяването на програмируемото логическо устройство, създаването на алгоритми и потоци от данни за FPGA вместо CPU, DSP, GPU или всяка друга форма на персонализирани ASIC стана все по-често. по-лесно.

Удивителната навременност на тяхното създаване е очевидна във факта, че точно когато централните процесори вече не можеха да останат единственият изчислителен модул на центровете за данни за изпълнение на много задачи - поради различни причини - FPGA постигнаха своята ефективност, предлагайки скорост, ниска латентност, мрежови възможности и памет - хетерогенни изчислителни възможности на съвременните FPGA SoC, които са почти пълноценни изчислителни системи. Въпреки това, FPGA също се комбинират успешно с други устройства в хибридни системи и според нас тепърва започват да намират своето достойно място в изчислителната йерархия.

Ето защо организирахме конференцията The Next FPGA Platform в Сан Хосе на 22 януари. Естествено, един от основните доставчици на FPGA в света и пионер в тази област е Xilinx. Иво Болсенс, старши вицепрезидент и главен технологичен директор на Xilinx, говори на конференцията и ни даде своите мисли днес за това как Xilinx помага за създаването на променливи изчислителни системи за центрове за данни.

На системните архитекти и програмисти отне много време, за да създадат хетерогенен център за данни, който ще включва различни видове компютърна мощност, която решава проблемите в изчисленията, съхранението и работата в мрежа. Това изглежда необходимо поради факта, че става все по-трудно да се следва Законът на Мур, използвайки различни CMOS устройства. Засега нашият език все още е ориентиран към процесора и все още говорим за „ускоряване на приложенията“, което означава, че караме програмите да работят по-добре от това, което може да се направи само с процесори. С течение на времето центровете за данни ще се превърнат в колекции от изчислителна мощност, съхранение на данни и протоколи, които свързват всичко заедно, и ние ще се върнем към термини като „компютри“ и „приложения“. Хибридните изчисления ще станат толкова нормални, колкото днешните облачни услуги, работещи на десктоп или виртуални машини, и в един момент ние просто ще използваме думата „компютинг“, за да опишем как работят. В един момент – и е вероятно FPGA да помогнат за началото на тази ера – ще го наречем отново обработка на данни.

Приемането на FPGA в центрове за данни ще изисква промяна в начина на мислене. „Когато мислите за начини за ускоряване на днешните приложения, трябва да се спуснете до основите на това как работят, какви ресурси се използват, къде се изразходва времето“, обяснява Болсенс. – Трябва да проучите общия проблем, който се опитвате да разрешите. Много приложения, работещи в центрове за данни днес, се мащабират, за да консумират големи количества ресурси. Вземете например машинното обучение, което използва огромен брой изчислителни възли. Но когато говорим за ускорение, трябва да мислим не само за ускоряване на изчисленията, но и за ускоряване на инфраструктурата.“

Например, при вида операции за машинно обучение, които Bolsens изучава на практика, приблизително 50% от времето се изразходва за прехвърляне на данни напред и назад между разпръснати изчислителни мощности, а само останалата половина от времето се изразходва за самите изчисления.

„Тук смятам, че FPGA може да помогне, защото можем да гарантираме, че както изчислителните, така и комуникационните аспекти на приложението са оптимизирани. И можем да направим това на ниво цялостна инфраструктура и на ниво чип. Това е едно от големите предимства на FPGA, което ви позволява да създавате комуникационни мрежи за специфични нужди на приложението. Въз основа на типични модели на движение на данни в натоварвания на AI, не виждам нужда от сложна архитектура, базирана на превключватели. Можете да изградите мрежа с голям поток от данни. Същото важи и за задачите за обучение на невронни мрежи - можете да изградите мрежова мрежа с размери на пакети, които се адаптират към конкретна задача. Използвайки FPGA, протоколите за пренос на данни и топологиите на вериги могат да бъдат много прецизно мащабирани и пригодени към конкретно приложение. А в случай на машинно обучение също е ясно, че не се нуждаем от числа с плаваща запетая с двойна точност и можем да коригираме и това.“

Разликата между FPGA и CPU или персонализирана ASIC е, че последните са програмирани фабрично и след това вече не можете да променяте мнението си относно типовете данни, които се изчисляват или елементите, които се изчисляват, или относно естеството на данните поток през устройството. FPGA ви позволяват да промените решението си, ако работните условия се променят.

В миналото това предимство имаше цена, когато програмирането на FPGA не беше за хора със слаби сърца. Необходимо е да се отворят компилаторите на FPGA, за да се интегрират по-добре с инструментите, които програмистите използват за писане на CPU-паралелни приложения на C, C++ или Python, и да се възложи част от работата на библиотеки, които ускоряват процедурите на FPGA. Това прави стекът за машинно обучение Vitis, захранващ ML платформи като Caffe и TensorFlow, с библиотеки за изпълнение на конвенционални AI модели или добавяне на FPGA възможности към задачи като транскодиране на видео, разпознаване на видео обекти и анализ на данни. , управление на финансовия риск и всякакви трети -партийни библиотеки.

Тази концепция не е много по-различна от проекта CUDA на Nvidia, стартиран преди десетилетие, който разтоварва паралелните изчисления към GPU ускорителите, или от инструментариума ROCm на AMD, или от обещанието на проекта OneAPI на Intel, който трябва да работи на различни CPU, GPU и FPGA.

Единственият въпрос е как всички тези инструменти ще бъдат свързани заедно, така че всеки човек да може да програмира набор от изчислителни мощности по свое усмотрение. Това е важно, защото FPGA са станали по-сложни, много по-сложни от всеки от наличните процесори. Те са произведени с помощта на най-модерните производствени процеси и най-модерните технологии за опаковане на чипове. И те ще намерят своята ниша, тъй като вече не можем да губим време, пари, енергия и интелект - всичко това са твърде скъпи ресурси.

„FPGA предлагат технологични предимства“, казва Болсенс. – И това не е просто обичайната реклама за адаптивност и възможност за преконфигуриране. Във всички важни приложения - машинно обучение, анализ на графики, високоскоростна търговия и др. - те имат способността да адаптират към конкретна задача не само пътя на разпространение на данните, но и архитектурата на паметта - как данните се движат в рамките на чипа. FPGA също имат много повече памет, вградена в тях, отколкото други устройства. Трябва също така да се вземе предвид, че ако дадена задача не се побира в една FPGA, можете да я мащабирате в множество чипове, без да се натъквате на недостатъците, които ви очакват, когато мащабирате задачи в множество процесори или графични процесори.

Източник: www.habr.com