Неизбежността на навлизането на FPGA в дата центровете

Не е необходимо да бъдеш разработчик на чипове, за да програмираш за FPGA, както не е необходимо да си програмист на C++, за да пишеш код на Java. Въпреки това, в двете ситуации вероятно би било полезно.

Целта на комерсиализацията на двете технологии, Java и FPGA, е да опровергае последното твърдение. Добрата новина за FPGA е, че с използването на подходящи нива на абстракция и инструментални комплекти през последните 35 години, откакто беше изобретено програмируемото логическо устройство, става все по-лесно да се създават алгоритми и потоци данни за FPGA вместо за CPU, DSP, GPU или всякакви други разновидности на специализирани ASIC.

Удивителната навременност на тяхното създаване се проявява в момента, в който CPU не могат повече да останат единственият изчислителен модул. дата-центрове за извършване на множество задачи – по най-разнообразни причини – FPGA достигнаха своята ефективност, предлагаща бързина, малки закъснения, мрежови възможности и памет – хетерогенни изчислителни възможности на съвременните FPGA SoC, представляващи практически пълноценни изчислителни системи. Въпреки това, FPGA успешно съчетават и с други устройства в хибридни системи и, по наше мнение, едва започват да намират своето законно място в йерархията на изчисленията.

Затова организирахме конференцията The Next FPGA Platform в Сан Хосе на 22 януари. Естествено, един от основните доставчици на FPGA в света и пионер в тази област е компанията Xilinx. Иво Болсенс, старши вицепрезидент и технически директор на Xilinx, изнесе доклад на конференцията и ни разказа за своите съвременни размисли относно това как Xilinx помага за създаването на адаптивни изчислителни системи за дата центрове.

На системните архитекти и програмисти им отне духовно времето, за да стигнат до хетерогенен дата център, в който ще бъдат представени компютърни ресурси от различен тип, решаващи задачи по изчисления, съхранение и организиране на мрежи. Това изглежда необходимо, тъй като следването на закона на Мур с различни КМОП става все по-трудно. Докато езикът ни все още е свързан с CPU и все още говорим за „ускорение на приложения“, имайки предвид подобряване на работата на програмите в сравнение с това, което може да се постигне само с CPU. След известно време дата центровете ще се трансформират в набори от изчислителни мощности, хранилища на данни и протоколи, свързващи всичко заедно, и ще се върнем към такива термини като „изчисления“ и „приложения“. Хибридните изчисления ще станат такава норма, каквато днешните „облачни“ услуги, работещи на основата на обикновени или виртуални машини, и в някакъв момент ще използваме просто термина „изчисления“ за описание на тяхната работа. В един момент – и вероятно настъплението на тази ера ще бъде активно подпомогнато от FPGA – отново ще наречем това обработка на данни.

За внедряването на FPGA в дата центровете ще е нужно да се промени начина на мислене. „Разсъждавайки за начини за ускоряване на днешните приложения, трябва да се върнем до основите на това как се изпълняват, какви ресурси се използват, за какво отива времето“, обяснява Болсенс. – Нужно е да се изследва общият проблем, който се опитвате да решите. Много приложения, работещи в дата центровете днес, се мащабират, изисквайки голямо количество ресурси. Нека вземем за пример машинното обучение, използващо огромно количество изчислителни възли. Но когато говорим за ускорение, трябва да мислим не само за ускорение на изчисленията, а и за ускорение на инфраструктурата.

Например, при операциите, свързани с машинно обучение, които Болсенс е изучавал на практика, около 50% от времето се отделя за прехвърляне на данни напред и назад между разпределените изчислителни ресурси, а само оставилата половина от времето се използва за самите изчисления.

Тук, според мен, FPGA може да помогне, тъй като можем да оптимизираме както изчислителните аспекти, така и аспектите на предаване на данни за приложението. И можем да го правим на ниво обща инфраструктура и на ниво чип. Това е едно от големите предимства на FPGA, позволяваща изграждането на комуникационни мрежи, адаптирани към конкретните нужди на приложението. Наблюдавайки типичните закономерности при преместването на данни в задачи, свързани с изкуствения интелект, не виждам нужда от сложна архитектура, основана на комутатори. Може да бъде изградена мрежа с голям поток от данни. Същото важи и за задачите за обучение на невронни мрежи – може да бъде изградена мрежа с клетки, с размери на пакетите, адаптиращи се към конкретната задача. С използването на FPGA можем много точно да мащабиране и адаптираме протоколите за предаване на данни и топологията на схемата към конкретното приложение. А при машинното обучение също е ясно, че не се нуждаем от числа с двойна плаваща запетая и това също можем да адаптираме.

Разликата между FPGA и CPU или специализирана ASIC е, че последните се програмират при производството и след това не можете да промените нищо относно типовете изчисляеми данни или елементи, или относно природата на потока данни, преминаващ през устройството. FPGA позволява да промените решението si, ако условията на работа се променят.

В миналото това предимство беше скъпо, когато програмирането за FPGA беше предназначено за хора с по-слаб дух. Необходимо е да се отворят компилатори за FPGA, за да се интегрират по-добре с инструментите, използвани от програмистите за създаване на приложения с паралелни изчисления за CPU на езици като C, C++ или Python, и да се предаде част от работа на библиотеките, ускоряващи процедурите на FPGA. Това е основната задача на стека за машинно обучение Vitis, който е в основата на платформи за МО като Caffe и TensorFlow и предлага библиотеки за стартиране на стандартни ИИ модели или добавяне на възможности на FPGA към задачи като видео прекодиране, разпознаване на обекти на видео, анализ на данни, управление на финансови рискове и всякакви външни библиотеки.

Тази концепция не се различава значително от проекта CUDA от Nvidia, стартиран преди десет години, който прехвърля паралелни изчисления на GPU ускорители, или от набора инструменти ROCm от AMD, или от обещанията на проекта OneAPI от Intel, който трябва да работи на различни CPU, GPU и FPGA.

Въпросът е как всички тези инструменти ще бъдат свързани, така че всеки да може да програмира набор от изчислителни ресурси по свое усмотрение. Това е важно, защото FPGA станаха много по-сложни от всеки съществуващ CPU. Те се произвеждат с най-съвременни технологични процеси и техники за опаковане на чипове. И те ще намерят своята ниша, тъй като вече не можем да си позволим да губим време, пари, енергия и интелект – всичко това е твърде ценен ресурс.

"FPGA предлагат технологични предимства, - казва Болсенс. - И това не е просто обикновена реклама относно адаптивността и преоборудваемостта. Във всички важни приложения – машинно обучение, анализ на графи, високооборотна търговия и т.н. – те имат възможност да адаптират конкретната задача не само по пътя на разпространение на данни, но и по архитектурата на паметта – начина, по който данните се движат в рамките на чипа. Освен това, FPGA съдържат много повече памет от другите устройства. Също така трябва да се вземе предвид, че ако задачата не се побира в един FPGA, можете да я мащабирате на няколко чипа, без да се сблъскате с недостатъците, които ви очакват при мащабиране на задачи на няколко CPU или GPU."

Източник: habr.com