{"id":147923,"date":"2025-11-10T23:11:54","date_gmt":"2025-11-10T21:11:56","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/ataka-whisper-leak-po-opredeleniyu-tematiki-obshheniya-s-ai-chatbotami-cherez-analiz-tls-trafika"},"modified":"2025-11-10T23:11:54","modified_gmt":"2025-11-10T21:11:56","slug":"ataka-whisper-leak-po-opredeleniyu-tematiki-obshheniya-s-ai-chatbotami-cherez-analiz-tls-trafika","status":"publish","type":"post","link":"https:\/\/prohoster.info\/nl\/blog\/news\/ataka-whisper-leak-po-opredeleniyu-tematiki-obshheniya-s-ai-chatbotami-cherez-analiz-tls-trafika","title":{"rendered":"De Whisper Leak-aanval voor het bepalen van het onderwerp van communicatie met AI-chatbots door middel van analyse van TLS-verkeer","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Beveiligingsonderzoekers van Microsoft hebben een aanvankelijke aanvalstechniek ontwikkeld genaamd Whisper Leak, waarmee ze op basis van passieve analyse van versleuteld verkeer dat via een TLS-verbinding wordt verzonden, de onderwerpen van verzoeken aan diensten op basis van grote taalmachines kunnen classificeren. Informatie over de grootte van netwerkpakketten en tijdsvertragingen tussen hun verzending bleek voldoende te zijn om de onderwerpen van verzoeken aan AI-chatbots te bepalen met een nauwkeurigheid van meer dan 98%. In de praktijk kan de voorgestelde methode worden toegepast om bepaalde onderwerpen van verzoeken in het transitverkeer van gebruikers te identificeren, bijvoorbeeld pogingen om informatie over illegale activiteiten te verkrijgen, zonder de inhoud te decoderen. <\/p>\n
De toolkit voor het extraheren van gegevens uit verkeersdumpbestanden, het trainen van modellen en het testen van de werking van de methode is gepubliceerd op GitHub. De mogelijkheid om een aanval uit te voeren werd gedemonstreerd voor 28 populaire grote taalmodellen van de grootste fabrikanten. Bijvoorbeeld, de nauwkeurigheid van het identificeren van verzoeken over het onderwerp «witwassen van geld» was voor veel AI-diensten 100%, met 1 relevante aanvraag in de geanalyseerde traffic en 10000 aanvragen die niet verband hielden met het juiste onderwerp.
<\/center> <\/p>\n
De oorzaak van de informatielekken is dat de modellen de antwoorden op verzoeken stap voor stap genereren, \u00e9\u00e9n token tegelijk, waarbij bij elke stap het vorige token als context wordt gebruikt om het volgende meest waarschijnlijke woord of zin te bepalen. Dienovereenkomstig wordt er voor elk token een apart netwerkpakket verzonden en de vertraging tussen pakketten komt overeen met de vertraging tussen de determinatie van het volgende token door het model. <\/p>\n
In TLS, als er geen gegevenscompressie wordt gebruikt, is de ruil van ciphertext gelijk aan de grootte van de ongecodeerde tekst plus een constante. Bij het cre\u00ebren van een model dat de doelsets van tokens koppelt aan de grootte van pakketten en vertragingen tussen hun verzending, kan de aanwezigheid van de gevraagde onderwerpen in het verkeer vrij nauwkeurig worden bepaald. Tijdens de studie zijn drie varianten van dergelijke machine learning-modellen ontwikkeld, gebaseerd op de netwerkarchitecturen LightGBM, Bi-LSTM en BERT. Voor elk model zijn experimenten uitgevoerd om het gevraagde onderwerp vast te stellen door alleen de grootte van pakketten, alleen de vertragingen tussen pakketten of beide criteria te analyseren.
![\"De](\"\/wp-content\/uploads\/2025\/11\/9e2db8a564ae07b2ae7ced2d2f744e46.png\")
<\/center> <\/p>\n![\"De](\"\/wp-content\/uploads\/2025\/11\/d6be536d5b8814af45a42317c9454a44.png\")
<\/center> <\/p>\n