Intel работи върху оптични чипове за по-ефективен ИИ

Фотонните интегрални схеми или оптични чипове притежават много предимства в сравнение с електронните аналози, включително намалено енергийно потребление и по-малка забавяне при изчисленията. Затова много изследователи смятат, че те могат да се окажат изключително ефективни в задачите по машинно обучение и създаване на изкуствен интелект (ИИ). Компанията Intel също вижда голям потенциал за прилагане на кремниевата фотоника в това направление. Група от нейните изследователи в научна статия подробно описва нови методи, които могат да приближат оптичните невронни мрежи с една стъпка по-близо до реалността.

В неотдавнашна публикация в блога на Intel, посветена на машинното обучение, се разказва как започнаха изследванията в областта на оптичните невронни мрежи. Научните трудове на Дейвид Милър (David A. B. Miller) и Майкъл Рек (Michael Reck) демонстрират, че типът фотонна верига, известен като интерферометър Маха-Цендера (MZI), може да бъде конфигуриран за извършване на умножение на матрици с размер 2 × 2, а ако поставите MZI в триъгълна мрежа за умножение на по-големи матрици, може да получите схема, която реализира алгоритъм за умножение на матрица на вектор — основното изчисление, използвано в машинното обучение.

Новото проучване на Intel се фокусира върху това, какво се случва при появата на различни дефекти, на които са подложени оптичните чипове по време на производството (тъй като изчислителната фотоника по своята същност е аналогова), което води до различия в точността на изчисленията между различни чипове от един и същи тип. Въпреки че подобни проучвания вече са проведени, в миналото те са били по-фокусирани върху оптимизацията след производството за премахване на възможни неточности. Този подход обаче има лоша мащабируемост, тъй като мрежите стават все по-големи, което води до увеличаване на изчислителната мощност, необходима за настройка на оптичните мрежи. Вместо да оптимизира след производството, Intel разгледа възможността за еднократно обучение на чиповете преди производството, благодарение на използването на архитектура, устойчива на смущения. Референтната оптична невронна мрежа беше обучена само веднъж, след което обучителните параметри бяха разпределени на няколко произведени екземпляра на мрежата с различия в компонентите им.

Екипът на Intel разгледа две архитектури за изграждане на изкуствени интелигентни системи на базата на MZI: GridNet и FFTNet. GridNet предсказуемо разполага MZI в мрежа, докато FFTNet ги разполага под формата на "пеперуди". След обучението на двете в симулацията на референтната задача за дълбоко обучение за разпознаване на ръкописни цифри (MNIST), изследователите установиха, че GridNet постигна по-висока точност в сравнение с FFTNet (98 % спрямо 95 %), но архитектурата FFTNet се оказа "значително по-надеждна". Всъщност производителността на GridNet спадна под 50 % при добавяне на изкуствен шум (смутове, имитиращи възможни дефекти при производството на оптични чипове), докато за FFTNet тя остана почти постоянна.

Учени твърдят, че техните проучвания полагат основите за методи на обучение на изкуствен интелект, които ще помогнат да се избегне необходимостта от финна настройка на оптични чипове след производството им, спестявайки ценно време и ресурси.

„Както и във всеки производствен процес, се появяват определени дефекти, които означават, че между микрочиповете ще има малки разлики, които ще влияят на точността на изчисленията“, пише старшият директор на групата продукти Intel AI Казимир Вежински. „Ако оптичните невронни чипове станат жизнеспособна част от хардуерната екосистема на изкуствения интелект, те ще трябва да преминат към по-големи микрочипове и технологии за промишлено производство. Нашите изследвания показват, че изборът на правилната архитектура предварително може значително да увеличи вероятността получените микрочипове да постигнат желаната производителност, дори при наличие на производствени вариации.

В същото време, докато Intel основно провежда изследвания, кандидатът на физико-математическите науки от Масачузетския технологичен институт Ишен Шен основа стартъп Lightelligence, базиран в Бостън, който привлече венчурно финансиране на стойност 10,7 млн. долара и недавно демонстрира прототип на оптичен чип за машинно обучение, който е 100 пъти по-бърз от съвременните електронни чипове и също така значително намалява енергийното потребление, което отново ясно демонстрира перспективите на фотонните технологии.

Източник: 3dnews.ru