I ricercatori di sicurezza di Microsoft hanno sviluppato una tecnica di attacco tramite canali laterali chiamata Whisper Leak, che consente, attraverso un'analisi passiva del traffico crittografato trasmesso tramite una connessione TLS, di classificare i temi delle richieste ai servizi basati su modelli linguistici avanzati. Le informazioni sulla dimensione dei pacchetti di rete e sui ritardi nella loro trasmissione si sono rivelate sufficienti per determinare i temi delle richieste ai chatbot AI con un'accuratezza superiore al 98%. In pratica, il metodo proposto può essere utilizzato per identificare nel traffico transitivo dell'utente determinati temi delle richieste, ad esempio, tentativi di ottenere informazioni su attività illecite, senza la necessità di decriptare il contenuto.
È stato pubblicato su GitHub un toolkit per l'estrazione dei dati dai dump di traffico, l'addestramento del modello e il test della metodologia. La possibilità di condurre attacchi è stata dimostrata per 28 modelli linguistici avanzati popolari dei principali produttori. Ad esempio, l'accuratezza nella determinazione delle richieste sul tema "riciclaggio di denaro" per molti servizi AI ha raggiunto il 100%, in presenza di 1 richiesta di interesse nel traffico analizzato e 10.000 richieste non correlate al tema richiesto.
La causa della perdita di informazioni è che i modelli generano la risposta a una richiesta passo dopo passo, token per token, utilizzando ogni token precedente come contesto per determinare la parola o frase più probabile successiva. Di conseguenza, a ogni token viene inviato un pacchetto di rete separato e il ritardo tra i pacchetti corrisponde al tempo necessario al modello per determinare il token successivo.
Nel TLS, se non viene utilizzata la compressione dei dati, lo scambio di testo cifrato corrisponde alla dimensione del testo non cifrato più una costante. Creando un modello che abbini insiemi di token a dimensioni di pacchetti e ritardi nella loro trasmissione, è possibile determinare con sufficiente precisione la presenza nel traffico dei temi ricercati. Durante la ricerca sono stati preparati tre modelli di apprendimento automatico basati su architetture di reti neurali LightGBM, Bi-LSTM e BERT. Per ciascun modello sono stati condotti esperimenti per identificare il tema ricercato analizzando solo la dimensione dei pacchetti, solo i ritardi tra i pacchetti e entrambi i criteri.
Per ridurre l'efficacia dell'analisi passiva dei temi delle richieste, agli sviluppatori di servizi AI è stato suggerito di aggiungere riempimenti casuali, di bufferizzare la trasmissione dei token o di eseguire la sostituzione con pacchetti fittizi.
Fonte: opennet.ru
