Les circuits intégrés photoniques ou puces optiques présentent de nombreux avantages potentiels par rapport à leurs homologues électroniques, tels qu'une réduction de la consommation d'énergie et une diminution de la latence dans les calculs. C'est pourquoi de nombreux chercheurs estiment qu'ils peuvent s'avérer extrêmement efficaces dans les tâches d'apprentissage automatique et de création d'intelligence artificielle (IA). La société Intel entrevoit également de grandes perspectives pour l'application de la photonica sur silice dans ce domaine. Son équipe de chercheurs dans a décrit en détail de nouvelles méthodes qui pourraient rapprocher les réseaux neuronaux optiques de la réalité.
Dans une récente , consacrée à l'apprentissage automatique, il est expliqué comment ont débuté les recherches sur les réseaux neuronaux optiques. Les travaux scientifiques de David Miller (David A. B. Miller) et de Michael Reck (Michael Reck) ont démontré qu'un type de circuit photonique, connu sous le nom d'interféromètre de Mach-Zehnder (MZI), peut être configuré pour effectuer des multiplications de matrices de taille 2 × 2. En positionnant un MZI dans une grille triangulaire pour multiplier de grandes matrices, il est possible d'obtenir un circuit qui implémente l'algorithme de multiplication d'une matrice par un vecteur — le calcul fondamental utilisé en apprentissage automatique.
Une nouvelle étude d'Intel se concentre sur ce qui se passe lors de l'apparition de divers défauts auxquels sont soumis les puces optiques lors de leur fabrication (puisque la photonique computationnelle est par nature analogique), entraînant des différences dans la précision des calculs entre différentes puces du même type. Bien que de telles études aient déjà été réalisées, elles étaient auparavant davantage axées sur l'optimisation post-fabrication pour éliminer les éventuelles inexactitudes. Cependant, cette approche présente une mauvaise évolutivité, car les réseaux deviennent de plus en plus importants, ce qui entraîne une augmentation de la puissance de calcul nécessaire pour ajuster les réseaux optiques. Au lieu d'optimiser après fabrication, Intel a envisagé la possibilité d'un apprentissage unique des puces avant la fabrication grâce à l'utilisation d'une architecture robuste aux interférences. Un réseau neuronal optique de référence a été entraîné une fois, après quoi les paramètres d'apprentissage ont été répartis sur plusieurs exemplaires fabriqués du réseau présentant des différences dans leurs composants.
L'équipe d'Intel a examiné deux architectures pour la construction de systèmes d'intelligence artificielle basés sur MZI : GridNet et FFTNet. GridNet place prévisiblement les MZI dans une grille, tandis que FFTNet les dispose sous forme de « papillons ». Après l'entraînement des deux dans la modélisation d'une tâche de référence d'apprentissage profond de reconnaissance de chiffres manuscrits (MNIST), les chercheurs ont constaté que GridNet atteignait une précision plus élevée que FFTNet (98 % contre 95 %), mais l'architecture FFTNet était « considérablement plus fiable ». En effet, les performances de GridNet sont tombées en dessous de 50 % avec l'ajout de bruit artificiel (perturbations imitant d'éventuels défauts lors de la fabrication des puces optiques), tandis que pour FFTNet, elles sont restées presque constantes.
Les scientifiques affirment que leurs recherches jettent les bases de méthodes d'apprentissage de l'intelligence artificielle qui élimineront le besoin de réglages fins des puces optiques après leur fabrication, économisant ainsi un temps et des ressources précieux.
«Comme dans tout processus de production, des défauts se produisent, ce qui signifie qu'il y aura de petites variations entre les puces, et cela influencera la précision des calculs», déclare Kazimir Wierzynski, directeur senior du groupe produits AI d'Intel. «Si les noyaux neuronaux optiques deviennent une partie viable de l'écosystème matériel de l'intelligence artificielle, ils devront passer à des puces plus grandes et à des technologies de production industrielle. Nos recherches montrent que le choix de la bonne architecture à l'avance peut considérablement augmenter la probabilité que les puces obtenues atteignent la performance souhaitée malgré les variations de production.»
En attendant, alors qu'Intel mène principalement des recherches, le candidat au doctorat en sciences physiques et mathématiques du Massachusetts Institute of Technology, Yichen Shen, a fondé une startup basée à Boston, Lightelligence, qui a levé 10,7 millions de dollars de financement par capital-risque et un prototype de puce optique pour l'apprentissage machine, qui est 100 fois plus rapide que les puces électroniques modernes, tout en réduisant de manière significative la consommation d'énergie, ce qui illustre à nouveau les perspectives des technologies photoniques.
Source : 3dnews.ru
