Intel работи върху оптични чипове за по-ефективен ИИ

Фотонни интегрални схеми или оптични чипове потенциално предлагат множество предимства в сравнение с електронните аналози, като намалена енергийна консумация и намалено забавяне в изчисленията. Ето защо многобройни изследователи смятат, че те могат да се окажат изключително ефективни в задачите по машинно обучение и създаване на изкуствен интелект (ИИ). Компанията Intel също вижда големи възможности за прилагане на кремниевата фотоника в това направление. Група от нейни изследователи в научна статия подробно описва нови методи, които могат да приближат оптичните невронни мрежи на една крачка по-близо до реалността.

В скорошна публикация в блога на Intel, посветена на машинното обучение, се разказва как е започнало изследването в областта на оптичните невронни мрежи. Научните работи на Дейвид Милър (David A. B. Miller) и Майкъл Рек (Michael Reck) демонстрират, че тип фотонна верига, известна като интерферометър Маха-Цендера (MZI), може да бъде конфигурирана за извършване на умножения на матрици с размер 2 × 2, при което, ако се постави MZI в триъгълна мрежа за умножение на големи матрици, може да се получи схема, която реализира алгоритъм за умножение на матрица с вектор — основно изчисление, използвано в машинното обучение.

Ново изследване на Intel се фокусира върху изучаването на процесите, които протичат при появата на различни дефекти, на които са изложени оптичните чипове по време на производството (тъй като изчислителната фотоника по своята природа е аналогова), причиняващи различия в точността на изчисленията между различни чипове от един и същи тип. Въпреки че подобни изследвания вече са провеждани, в миналото те бяха основно насочени към оптимизация след производството, за да се отстранят възможните неточности. Но този подход има лоша мащабируемост, тъй като мрежите стават все по-големи, което води до увеличаване на изчислителната мощност, необходима за настройка на оптичните мрежи. Вместо оптимизация след производството, Intel разгледа възможността за еднократно обучение на чиповете преди производството чрез използването на архитектура, устойчива на смущения. Стандартизирана оптична невронна мрежа беше обучена веднъж, след което параметрите на обучението бяха разпределени между няколко произведени екземпляра на мрежата с различия в техните компоненти.

Екипът на Intel разгледа две архитектури за изграждане на системи за изкуствен интелект, основани на MZI: GridNet и FFTNet. GridNet предсказуемо разполага MZI в мрежа, докато FFTNet ги разполага под формата на „пеперуди“. След обучението на двете архитектури при моделиране на еталонна задача за дълбоко обучение - разпознаване на ръкописни цифри (MNIST), изследователите установиха, че GridNet е достигнал по-висока точност отколкото FFTNet (98% спрямо 95%), но архитектурата FFTNet се оказа „значително по-надеждна“. Всъщност производителността на GridNet падна под 50% след добавянето на изкуствен шум (смущения, имитиращи възможни дефекти в производството на оптични чипове), докато за FFTNet тя остана почти постоянна.

Учените твърдят, че техните изследвания полагат основите на методи за обучение на изкуствен интелект, които ще помогнат да се елиминира необходимостта от фина настройка на оптичните чипове след тяхното производство, спестявайки ценно време и ресурси.

„Както при всякакъв производствен процес, се появяват определени недостатъци, което означава, че между чиповете ще има малки разлики и те ще окажат влияние на точността на изчисленията“, пише старши директор на продуктовата група Intel AI Казимир Вежински (Casimir Wierzynski). „Ако оптичните невронни модули станат жизнеспособна част от хардуерната екосистема на изкуствения интелект, ще им бъде необходимо да преминат към по-големи чипове и технологии за масово производство. Нашите изследвания показват, че изборът на правилната архитектура предварително може значително да увеличи вероятността, че получените чипове ще достигнат желаната производителност, дори при наличие на производствени вариации.“

В същото време, докато Intel основно провежда изследвания, кандидатът на физико-математическите науки от Масачузетския технологичен институт Ишен Шен (Yichen Shen) основа стартапа Lightelligence, базиран в Бостон, който привлече венчурно финансиране в размер на 10,7 млн. USD и недавно демонстрира прототип на оптичен чип за машинно обучение, който е 100 пъти по-бърз от съвременните електронни чипове и също така значително намалява енергопотреблението, което отново ярко демонстрира перспективите на фотонните технологии.

Източник: 3dnews.ru