Selskabet Standard Intelligence har annonceret offentliggørelsen af hertz-dev, den første åbne AI-model til syntese af tale i fuld duplex, som kan bruges som grundlag for at skabe systemer til realtids stemmekommunikation eller generering af samtaletale. Modellen muliggør generering af tale, der ligner de stemmedata, den er trænet på, og sikrer interaktion i stil med live menneskelig kommunikation uden forsinkelser, der minder om en afbrudt telefonopkald. Projektets resultater distribueres under Apache 2.0-licensen.
På et system med en NVIDIA GeForce RTX 4090 GPU er den gennemsnitlige forsinkelse før generering 120 ms (teoretisk op til 65 ms), hvilket er cirka dobbelt så hurtigt som eksisterende modeller, der er offentligt tilgængelige. Den offentliggjorte version er opbygget ved hjælp af en 'transformer'-arkitektur, dækker 8,5 milliarder parametre og er trænet med 500 milliarder tokens. Størrelsen af den sammenfattede kontekst (antallet af tokens, som modellen kan behandle og huske under talegenerering) er 2048 tokens eller cirka 4 minutters tale.
Kilde: opennet.ru
