Intel werkt aan optische chips voor een efficiëntere AI

Photonische geïntegreerde schakelingen of optische chips bieden potentieel tal van voordelen ten opzichte van hun elektronische tegenhangers, zoals verlaagd energieverbruik en minder vertraging bij berekeningen. Daarom geloven veel onderzoekers dat ze extreem effectief kunnen zijn in taken op het gebied van machine learning en kunstmatige intelligentie (AI). Intel ziet ook grote mogelijkheden voor de toepassing van siliciumfotonica in dit domein. Een groep van hun onderzoekers in een wetenschappelijk artikel beschreef gedetailleerd nieuwe methoden die optische neurale netwerken een stap dichter bij de realiteit kunnen brengen.

Intel werkt aan optische chips voor een efficiëntere AI

In een recente blogpost van Intel, gewijd aan machine learning, wordt besproken hoe het onderzoek naar optische neurale netwerken is begonnen. De wetenschappelijke werken van David Miller (David A. B. Miller) en Michael Reck hebben aangetoond dat een type fotonische schakeling, bekend als de Mach-Zehnder-interferometer (MZI), kan worden geconfigureerd voor het uitvoeren van matrixvermenigvuldiging van 2 × 2. Als de MZI in een driehoekig raster wordt geplaatst voor het vermenigvuldigen van grotere matrices, kan er een schakeling ontstaan die het algoritme voor matrix-vectorvermenigvuldiging implementeert — een belangrijke berekening die wordt gebruikt in machine learning.

Een nieuw onderzoek van Intel richtte zich op het begrijpen van wat er gebeurt wanneer verschillende defecten optreden bij de productie van optische chips (aangezien computationele fotonica van nature analoog is), wat leidt tot verschillen in rekendiscreties tussen verschillende chips van hetzelfde type. Hoewel dergelijke onderzoeken eerder zijn uitgevoerd, was de focus in het verleden meer gericht op optimalisatie na de productie om mogelijke onjuistheden te verhelpen. Deze benadering heeft echter slechte schaalbaarheid, aangezien netwerken steeds groter worden, wat leidt tot een toenemende rekencapaciteit die nodig is voor het afstellen van optische netwerken. In plaats van optimalisatie na de productie, overwoog Intel de mogelijkheid van een eenmalige training van de chips vóór de fabricage door gebruik te maken van een storing-bestendige architectuur. Een referentie optisch neuraal netwerk werd één keer getraind, waarna de leerparameters werden verdeeld over verschillende gefabriceerde exemplaren van het netwerk met verschillen in hun componenten.

Het team van Intel overwoog twee architecturen voor het bouwen van kunstmatige intelligentiesystemen op basis van MZI: GridNet en FFTNet. GridNet plaatst MZI voorspelbaar in een raster, terwijl FFTNet ze in de vorm van ‘vlinders’ plaatst. Na training van beide in simulaties op een referentietaak voor diep leren voor het herkennen van handgeschreven cijfers (MNIST), ontdekten de onderzoekers dat GridNet een hogere nauwkeurigheid bereikte dan FFTNet (98% tegen 95%), maar dat de FFTNet-architectuur ‘aanzienlijk betrouwbaarder’ bleek te zijn. In feite daalde de prestaties van GridNet onder de 50% met de toevoeging van kunstmatige ruis (storingen die mogelijke productiedefecten van optische chips nabootsen), terwijl voor FFTNet deze vrijwel constant bleef.

Wetenschappers beweren dat hun onderzoek de basis legt voor trainingsmethoden voor kunstmatige intelligentie die de noodzaak voor het fijn afstellen van optische chips na hun productie kan elimineren, waardoor kostbare tijd en middelen worden bespaard.

«Net als bij elk productieproces zijn er bepaalde defecten die betekenen dat er kleine verschillen tussen de chips zullen zijn, en deze zullen de nauwkeurigheid van de berekeningen beïnvloeden», schrijft Kazimir Wierzynski, senior directeur van het Intel AI-producten team. «Als optische neurale netwerken een levensvatbaar onderdeel van het hardware-ecosysteem van kunstmatige intelligentie worden, zullen ze moeten overstappen op grotere chips en industriële productietechnologieën. Onze onderzoeken tonen aan dat de juiste architectuur van tevoren kiezen de kans aanzienlijk kan vergroten dat de geproduceerde chips de gewenste prestaties bereiken, zelfs met productvariaties.»

Tegelijkertijd, terwijl Intel voornamelijk onderzoek doet, heeft de kandidaat in de wiskunde- en natuurwetenschappen van het Massachusetts Institute of Technology, Yichen Shen, de start-up Lightelligence opgericht, gevestigd in Boston, die 10,7 miljoen dollar aan durfkapitaal heeft opgehaald en recentelijk gedemonstreerd een prototype van een optische chip voor machine learning, die 100 keer sneller is dan huidige elektronische chips, en ook de energieverbruik met een orde van grootte vermindert, wat nogmaals de mogelijkheden van fotonische technologieën aantoont.



Bron: 3dnews.ru
Koop betrouwbare webhosting met bescherming tegen DDoS, VPS VDS servers 🔥 Koop betrouwbare webhosting met bescherming tegen DDoS, VPS VDS servers | ProHoster