I ricercatori di sicurezza di Microsoft hanno sviluppato una tecnica di attacco tramite canali laterali chiamata Whisper Leak, che permette, attraverso un'analisi passiva del traffico cifrato trasmesso tramite connessione TLS, di classificare i temi delle richieste ai servizi basati su modelli linguistici di grandi dimensioni. Le informazioni sulle dimensioni dei pacchetti di rete e sui ritardi tra le loro trasmissioni si sono rivelate sufficienti per determinare i temi delle richieste a chatbot AI con un'accuratezza superiore al 98%. In pratica, il metodo proposto può essere utilizzato per identificare nel traffico in transito tematiche specifiche delle richieste, ad esempio tentativi di ottenere informazioni su attività illecite, senza dover decrittare il contenuto.
Il toolkit per estrarre dati dai dump di traffico, addestrare il modello e testare l'efficacia del metodo è stato pubblicato su GitHub. La possibilità di effettuare attacchi è stata dimostrata per 28 popolari modelli linguistici di grandi dimensioni dei principali produttori. Ad esempio, l'accuratezza nella determinazione delle richieste relative al tema "riciclaggio di denaro" per molti servizi AI è stata del 100%, presente nel traffico analizzato 1 richiesta rilevante e 10.000 richieste non correlate al tema desiderato.
La causa della fuga di informazioni è che i modelli generano risposte alle richieste passo dopo passo, un token alla volta, utilizzando ogni token precedente come contesto per determinare la parola o la frase successiva più probabile. Di conseguenza, a ogni token viene inviato un pacchetto di rete separato e il ritardo tra i pacchetti corrisponde al ritardo nella determinazione del prossimo token da parte del modello.
In TLS, se non viene utilizzata la compressione dei dati, lo scambio di testo cifrato è pari alla dimensione del testo in chiaro più una costante. Creando un modello che accoppia i set di token desiderati con le dimensioni dei pacchetti e i ritardi tra le loro trasmissioni, è possibile determinare con buona precisione la presenza nel traffico di temi ricercati. Nel corso della ricerca sono stati preparati tre modelli di machine learning simili, basati sulle architetture delle reti neurali LightGBM, Bi-LSTM e BERT. Per ciascun modello sono stati condotti esperimenti per determinare il tema ricercato analizzando solo le dimensioni dei pacchetti, solo i ritardi tra i pacchetti e entrambi i criteri.
Per ridurre l'efficacia dell'analisi passiva dei temi delle richieste, è stato proposto agli sviluppatori di servizi AI di allegare un riempimento accessorio casuale, di bufferizzare la trasmissione dei token o di eseguire un'inserimento di pacchetti fittizi.
Fonte: opennet.ru
