SÀkerhetsforskare frÄn Microsoft har utvecklat en teknik för sidokanalsattacker, kallad Whisper Leak, som möjliggör, baserat pÄ passiv analys av krypterad trafik som överförs via TLS-anslutningar, klassificering av Àmnen för förfrÄgningar till tjÀnster baserade pÄ stora sprÄkmodeller. Informationen om storleken pÄ nÀtverkspaket och fördröjningar mellan deras överföring visade sig vara tillrÀcklig för att bestÀmma Àmnena för förfrÄgningar till AI-chatbotar med en noggrannhet pÄ över 98%. I praktiken kan den föreslagna metoden anvÀndas för att identifiera specifika Àmnen i anvÀndartrafik, till exempel försök att fÄ information om olagliga aktiviteter, utan att dekryptera innehÄllet.
Verktygen för att extrahera data frÄn trafikdumpningar, trÀna modellen och testa metodens effektivitet har publicerats pÄ GitHub. Möjligheten att genomföra attacken har demonstrerats för 28 populÀra stora sprÄkmodeller frÄn de största tillverkarna. Till exempel var noggrannheten för att identifiera förfrÄgningar om "pengatvÀtt" för mÄnga AI-tjÀnster 100%, nÀr det i den analyserade trafiken fanns 1 önskad förfrÄgan och 10 000 förfrÄgningar som inte var relaterade till det aktuella Àmnet.
Anledningen till informationslÀckaget Àr att modeller genererar svar pÄ förfrÄgningar steg för steg, en token i taget, dÀr varje steg anvÀnder den tidigare token som kontext för att bestÀmma det mest sannolika nÀsta ordet eller frasen. Följaktligen skickas ett separat nÀtverkspaket för varje token och fördröjningen mellan paketen motsvarar fördröjningen mellan modellens bestÀmning av nÀsta token.
I TLS, om ingen datakomprimering anvÀnds, Àr utbytet av chiffertext lika med storleken pÄ den okrypterade texten plus en konstant. Genom att skapa en modell som kopplar önskade uppsÀttningar av tokens med paketstorlekar och fördröjningar mellan deras överföring kan man ganska exakt bestÀmma nÀrvaron av önskade Àmnen i trafiken. Under studien har tre varianter av sÄdana maskininlÀrningsmodeller utvecklats, baserade pÄ neurala nÀtverksarkitekturer som LightGBM, Bi-LSTM och BERT. För varje modell har experiment genomförts för att bestÀmma det önskade Àmnet vid analys av enbart paketstorlekar, enbart fördröjningar mellan paketen och bÄda kriterierna.
För att minska effektiviteten av passiv analys av förfrÄgningarnas Àmne föreslÄs utvecklare av AI-tjÀnster att bifoga slumpmÀssigt tillÀggsfyllnad, buffra tokenöverföringen eller utföra substitution av falska paket.
KĂ€lla: opennet.ru
