FlexGen — un motore per l'esecuzione di bot AI simili a ChatGPT su sistemi con una sola GPU
Un gruppo di ricercatori della Stanford University, University of California, Berkeley, ETH Zurich, Higher School of Economics, Carnegie Mellon University, e delle aziende Yandex e Meta, ha pubblicato il codice sorgente di un motore per l'esecuzione di modelli linguistici di grandi dimensioni su sistemi a risorse limitate. Ad esempio, il motore consente di creare funzionalità simili a ChatGPT e Copilot, attraverso l'esecuzione di modelli già addestrati […]
