Microsofti turva-uuringute meeskond on välja töötanud kõrvalseire rünnakute tehnika Whisper Leak, mis võimaldab TLS-ühenduse kaudu edastatavat krüpteeritud liiklust passiivse analüüsi alusel klassifitseerida suurte keelereeglite mudelite teenuste päringute teemade põhjal. Teave võrgupakettide suuruse ja edastamise viivituste kohta osutus piisavaks AI-vestlusrobotitele suunatud päringute teemade määramiseks rohkem kui 98% täpsusega. Praktikas võib esitatud meetodit kasutada kasutaja ülekantud liikluses konkreetsete küsimuste teemade, näiteks teabe hankimise seadusvastaste tegevuste kohta, tuvastamiseks, ilma sisu dekodeerimata.
Andmete väljavõtmisvahendid liiklusdumpidest, mudeli koolitamine ja meetodi testimine on avaldatud GitHubis. Rünnaku võimalust on demonstreeritud 28 tuntud suurte keelemudelite puhul, mida pakuvad juhtivad tootjad. Näiteks oli paljude AI-teenuste jaoks, mis käsitlesid teemat "rahapesu", küsimuste tuvastamise täpsus 100%, kui analüüsitavas liikluses oli 1 otsitav küsimus ja 10000 küsimust, mis ei olnud seotud vajalikuga.
Teabe lekkimise põhjuseks on see, et mudelid genereerivad vastust päringule samm-sammult, üks tõkend korraga, kasutades igal sammul eelmist tõkendi konteksti järgmise kõige tõenäolisema sõna või väljendi määramiseks. Seetõttu saadetakse iga tõkendi jaoks eraldi võrgu pakett ja pakettide vaheline hilinemine vastab mudeli järgmise tõkendi määramise vahelisele viivitusele.
TLS-is, kui andmekompressiooni ei kasutata, siis krüpteeritud teksti suurus on samaväärne dekrüpteeritud teksti suuruse ja konstantsusega. Modelleerimisel, mis seob otsitavad tokenite kogumid pakettide suuruse ja nende saatmise viibega, on võimalik üsna täpselt tuvastada liikluses otsitud teemasid. Uuringu käigus valmistati kolm sarnast masinõppe mudelit, mis põhinevad närvivõrkude arhitektuuridel LightGBM, Bi-LSTM ja BERT. Iga mudeli puhul viidi läbi katsed otsitava teema määramiseks, analüüsides ainult pakettide suuruseid, ainult pakettide vahelisi viive ja mõlemaid kriteeriume.
Passiivse analüüsi tõhususe vähendamiseks on AI-teenuste arendajatele soovitatud lisada juhuslikku täiendavat täidist, vahemälusid tokenite edasiandmiseks või asendada valepakette.
Allikas: opennet.ru
