Amerikanska forskare har föreslagit att använda termodynamisk beräkningsteknik i AI-drivna bildgeneratorer, vilket skulle kunna minska energikostnaderna för vissa operationer med upp till 10 miljarder gånger.
Generativa AI-modeller, inklusive DALL-E, Midjourney och Stable Diffusion, producerar fotorealistiska bilder men förbrukar en enorm mängd energi. Dessa är diffusionsmodeller. Under träningen matas de med stora uppsättningar bilder, till vilka brus gradvis läggs till tills bilden liknar den statiska bilden på en gammal TV. Det neurala nätverket bemästrar sedan den omvända processen och genererar nya bilder på begäran. Problemet är att de beräkningar som krävs för AI-algoritmer som lägger till och sedan tar bort brus förbrukar för mycket energi. Termodynamiska beräkningar gör att de kan reduceras utöver vad modern digital utrustning kan, enligt forskare vid Lawrence Berkeley National Laboratory i Kalifornien.
Termodynamisk beräkning använder fysiska kretsar som ändrar sina parametrar som svar på brus, såsom slumpmässiga termiska fluktuationer i miljön. Startupföretaget Normal Computing byggde ett chip baserat på åtta sammankopplade resonatorer – kontakterna är anslutna beroende på vilken typ av problem chipet löser. Resonatorerna exponeras sedan för den yttre miljön, vilket introducerar brus i kretsen och utför därmed beräkningar. När systemet når jämvikt avläses lösningen från den nya resonatorkonfigurationen.
Forskare vid Lawrence Berkeley National Laboratory har visat att det är möjligt att bygga en termodynamisk version av ett neuralt nätverk. Denna metod lägger grunden för att generera bilder med hjälp av termodynamiska beräkningar. En uppsättning bilder matas in i en termodynamisk dator, och datorns komponenter exponeras sedan för miljöns naturliga krafter tills länkarna som förbinder dessa komponenter når ett jämviktstillstånd. Sannolikheten för att en termodynamisk dator med ett givet tillstånd på länkarna kommer att kunna reversera denna process beräknas sedan, och värdena på dessa länkar justeras för att maximera denna sannolikhet.
Simuleringar har bekräftat att det är möjligt att bygga en termodynamisk dator vars inställningar kan generera bilder av handskrivna siffror. Detta uppnås utan energikrävande digitala neurala nätverk eller en bullrig pseudoslumptalsgenerator. Jämfört med digitala neurala nätverk medger forskarna att termodynamiska datorer fortfarande är primitiva, och de vet ännu inte hur de ska utformas för att fungera på DALL-E-nivå. Men när det gäller energieffektivitet lovar de en betydande fördel.
Källa:
Källa: 3dnews.ru
