Intel работи върху оптични чипове за по-ефективен AI

Фотонните интегрални схеми или оптичните чипове имат потенциала да предложат много предимства пред електронните си двойници, като например по-ниска консумация на енергия и намалено забавяне при изчисленията. Ето защо много изследователи смятат, че те могат да бъдат изключително ефективни в задачите на машинното обучение и създаването на изкуствен интелект (AI). Intel също вижда големи перспективи за използването на силициева фотоника в тази област. Група изследователи в научна статия описва подробно нови методи, които могат да доведат оптичните невронни мрежи една стъпка по-близо до реалността.

В скорошна Публикации в блога на Intel, посветен на машинното обучение, разказва как са започнали изследванията в областта на оптичните невронни мрежи. Научната работа на David AB Miller и Michael Reck демонстрира, че вид фотонна верига, известна като Mach-Zehnder интерферометър (MZI), може да бъде конфигурирана да извършва 2 × 2 матрично умножение, при което, ако се постави MZI в триъгълна мрежа за умножаване големи матрици, можете да получите схема, която реализира алгоритъма за умножение матрица-вектор - основното изчисление, използвано в машинното обучение.

Новото изследване на Intel се фокусира върху това, което се случва, когато различни дефекти, на които са изложени оптичните чипове по време на производството (тъй като изчислителната фотоника е аналогова по природа) причиняват разлики в изчислителната точност между различни чипове от един и същи тип. Въпреки че вече са провеждани подобни проучвания, в миналото те са се фокусирали повече върху оптимизацията след производството, за да се премахнат възможните неточности. Но този подход има слаба мащабируемост, тъй като мрежите стават все по-големи и по-големи, което води до повече процесорна мощност, необходима за създаване на оптични мрежи. Вместо оптимизация след производството, Intel разгледа възможността за еднократно обучение на чипове преди производство чрез използване на устойчива на шум архитектура. Референтната оптична невронна мрежа беше обучена веднъж, след което параметрите на обучение бяха разпределени в няколко произведени мрежови екземпляра с разлики в техните компоненти.

Екипът на Intel разгледа две архитектури за изграждане на системи с изкуствен интелект, базирани на MZI: GridNet и FFTNet. GridNet поставя MZI в предсказуема мрежа, докато FFTNet ги поставя в модел на пеперуда. След обучение и в симулации на референтна задача за дълбоко обучение за разпознаване на ръкописни цифри (MNIST), изследователите установиха, че GridNet постига по-висока точност от FFTNet (98% срещу 95%), но архитектурата на FFTNet е „значително по-стабилна“. Всъщност производителността на GridNet падна под 50% с добавянето на изкуствен шум (смущение, което имитира възможни дефекти при производството на оптични чипове), докато за FFTNet тя остана почти постоянна.

Учените казват, че техните изследвания полагат основата за методи за обучение на AI, които могат да премахнат необходимостта от фина настройка на оптичните чипове след тяхното производство, спестявайки ценно време и ресурси.

„Както при всеки производствен процес, ще възникнат определени дефекти, което означава, че ще има малки разлики между чиповете и те ще повлияят на точността на изчисленията“, пише Казимир Вижински, старши директор на Intel AI Product Group. „Ако оптичните невронни същности се превърнат в жизнеспособна част от хардуерната екосистема на ИИ, те ще трябва да преминат към по-големи чипове и индустриални производствени технологии. Нашето изследване показва, че избирането на правилната архитектура предварително може значително да увеличи вероятността получените чипове да постигнат желаната производителност, дори при наличието на производствени вариации.“

Докато Intel основно прави изследвания, докторът на MIT Yichen Shen основа базираната в Бостън стартираща компания Lightelligence, която е събрала 10,7 милиона долара финансиране на рисков капитал и наскоро демонстриран прототип на оптичен чип за машинно обучение, който е 100 пъти по-бърз от съвременните електронни чипове, а също така намалява консумацията на енергия с порядък, което още веднъж ясно демонстрира обещанието на фотонните технологии.

Източник: 3dnews.ru