Hulumtuesit e sigurisë nga kompania Microsoft zhvilluan një teknikë sulmi përmes kanaleve jonormale të quajtur Whisper Leak, e cila lejon klasifikimin e temave të kërkesave për shërbimet e bazuara në modelet e mëdha gjuhësore përmes një analize passive të trafikut të enkriptuar të transmetuar përmes një lidhjeje TLS. Informacioni mbi madhësinë e paketave rrjet dhe vonesat midis transmetimeve u tregua mjaftueshëm për të përcaktuar temat e kërkesave për chatbotët AI me saktësi mbi 98%. Praktikisht, metoda e propozuar mund të përdoret për të identifikuar në trafikun transit të përdoruesve tema të caktuara kërkesash, për shembull, përpjekje për të marrë informacion mbi veprimtari të paligjshme, pa dekoduar përmbajtjen.
Mjeti për nxjerrjen e të dhënave nga dump-et e trafikut, trajnimin e modelit dhe testimin e punës së metodës është publikuar në GitHub. Mundësia e kryerjes së një sulmi është demonstruar për 28 modelet e mëdha gjuhësore të njohura nga prodhues të mëdhenj. Për shembull, saktësia e identifikimit të kërkesave në temën "pastrimi i parave" për shumë shërbime AI ishte 100%, në prani të një kërkese të dëshiruar në trafikun e analizuar dhe 10,000 kërkesa të tjera, që nuk lidhen me temën e nevojshme.
Arsyeja e shkarkimit të informacionit është se modelet gjenerojnë përgjigje për kërkesat hap pas hapi, një token në çdo herë, duke përdorur tokenin e mëparshëm si kontekst për të përcaktuar fjalën ose frazën më të mundshme të ardhshme. Sipas kësaj, për çdo token dërgohet një paketë rrjeti e veçantë dhe vonesa ndërmjet paketave korrespondon me vonesën ndërmjet përcaktimit të tokenit të ardhshëm nga modeli.
Në TLS, nëse s'ka kompresim të dhënash, shkëmbimi i tekstit të enkriptuar barazon me madhësinë e tekstit të pa enkriptuar plus një konstantë. Kur krijohet një model që mapon grupe të kërkuara tokenesh me madhësitë e paketave dhe vonesat ndërmjet dërgimit të tyre, është e mundur të përcaktohet mjaft saktë prania e temave të kërkuara në trafik. Në hulumtim janë përgatitur tri variante të modeleve të tilla të mësimit të makinerisë, të bazuara në arkitekturat e rrjeteve nervore LightGBM, Bi-LSTM dhe BERT. Për çdo model janë kryer eksperimentet për të përcaktuar temën e kërkuar gjatë analizës duke shqyrtuar vetëm madhësinë e pakove, vetëm vonesat midis pakove dhe të dy kriteret.
Për të reduktuar efektivitetin e analizës pasive të tematikës së kërkesave, u propozua zhvilluesve të shërbimeve AI të bashkangjisin mbushje të rastësishme, të buferojnë transmetimin e tokenëve ose të realizojnë zëvendësimin e pakove fiktive.
Burimi: opennet.ru
