Amerikanische Wissenschaftler haben vorgeschlagen, thermodynamische Rechentechnologie in KI-gestĂŒtzten Bildgeneratoren einzusetzen, wodurch die Energiekosten fĂŒr einige Operationen um bis zu 10 Milliarden Mal gesenkt werden könnten.
Generative KI-Modelle wie DALL-E, Midjourney und Stable Diffusion erzeugen fotorealistische Bilder, verbrauchen aber enorm viel Energie. Diese Modelle basieren auf Diffusion. WĂ€hrend des Trainings werden ihnen groĂe BilddatensĂ€tze zugefĂŒhrt, denen schrittweise Rauschen hinzugefĂŒgt wird, bis das Bild dem Flimmern eines alten Fernsehers Ă€hnelt. AnschlieĂend beherrscht das neuronale Netzwerk den umgekehrten Prozess und generiert auf Anfrage neue Bilder. Das Problem besteht darin, dass die Berechnungen, die fĂŒr KI-Algorithmen zum HinzufĂŒgen und Entfernen von Rauschen erforderlich sind, zu viel Energie verbrauchen. Thermodynamische Berechnungen ermöglichen es, diesen Energieverbrauch so weit zu reduzieren, dass er die Möglichkeiten moderner digitaler GerĂ€te ĂŒbersteigt, so Forscher des Lawrence Berkeley National Laboratory in Kalifornien.
Die thermodynamische Datenverarbeitung nutzt physikalische Schaltkreise, deren Parameter sich in Reaktion auf Störungen, wie beispielsweise zufĂ€llige Temperaturschwankungen in der Umgebung, verĂ€ndern. Das Startup Normal Computing entwickelte einen Chip mit acht miteinander verbundenen Resonatoren. Die Verbindungen richten sich nach der Art des zu lösenden Problems. Die Resonatoren werden dann der Ă€uĂeren Umgebung ausgesetzt, wodurch Störungen in den Schaltkreis eingeleitet und Berechnungen durchgefĂŒhrt werden. Sobald das System ein Gleichgewicht erreicht hat, wird die Lösung aus der neuen Resonatorkonfiguration ausgelesen.
Wissenschaftler des Lawrence Berkeley National Laboratory haben gezeigt, dass sich ein thermodynamisches neuronales Netzwerk realisieren lĂ€sst. Diese Methode bildet die Grundlage fĂŒr die Bildgenerierung mithilfe thermodynamischer Berechnungen. Ein Satz von Bildern wird in einen thermodynamischen Computer eingespeist, dessen Komponenten dann den natĂŒrlichen KrĂ€ften der Umgebung ausgesetzt werden, bis die Verbindungen zwischen ihnen ein Gleichgewicht erreichen. AnschlieĂend wird die Wahrscheinlichkeit berechnet, mit der ein thermodynamischer Computer mit einem bestimmten Verbindungszustand diesen Prozess umkehren kann. Die Werte dieser Verbindungen werden so angepasst, dass diese Wahrscheinlichkeit maximiert wird.
Simulationen haben bestĂ€tigt, dass es möglich ist, einen thermodynamischen Computer zu bauen, dessen Einstellungen Bilder handgeschriebener Ziffern erzeugen können. Dies gelingt ohne energieintensive digitale neuronale Netze oder einen fehleranfĂ€lligen Pseudozufallszahlengenerator. Im Vergleich zu digitalen neuronalen Netzen sind thermodynamische Computer, wie die Wissenschaftler einrĂ€umen, noch primitiv, und es ist ihnen noch nicht bekannt, wie sie fĂŒr den Betrieb auf dem Niveau von DALL-E ausgelegt werden können. Hinsichtlich der Energieeffizienz versprechen sie jedoch einen deutlichen Vorteil.
Source:
Source: 3dnews.ru
