Resultaterne af undersøgelsen af sikkerheden i det isolerede miljø til udførelse af Python-kode, anvendt af Google i chatbotten Gemini, er offentliggjort. Chatbotten Gemini tilbyder værktøjer til at generere kode ud fra opgavebeskrivelser og giver mulighed for med det samme at køre den oprettede kode i Python, så udvikleren slipper for unødvendige handlinger ved testning. Koden kører i et isoleret miljø, der er adskilt fra omverdenen og kun tillader udførelse af Python-interpretatoren. For at bestemme indholdet af sandbox-miljøet lykkedes det forskerne at køre kode, der bruger funktionerne i Python-biblioteket os til at gennemgå indholdet af alle kataloger og kortlægge filsystemet.
Der var særlig interesse for eksekveringsfilen /usr/bin/entry/entry_point, som fyldte 579 MB. For at udtrække denne fil oprettede forskerne et script, der sekventielt viste indholdet i små portioner i Base64-format. På deres side automatiserede de sammenføjningen af datastykkerne ved hjælp af værktøjet Caido og fik en kopi af filen på deres system.
Til analysen af den modtagne eksekveringsfil blev værktøjet binwalk anvendt, som er beregnet til at udtrække filer indlejret i firmware. Blandt de udtrukne data fandtes et katalog kaldet google3, hvor, ifølge filnavnene, der befandt sig Python-kode med forskellige komponenter til at muliggøre drift af tjenesten, f.eks. RPC til interaktion mellem AI-modellen Gemini og Googles eksterne tjenester som YouTube, Google Flights og Google Maps.
Undersøgelse af indholdet af filerne viste, at dette ikke var fortrolig kode, og den var godkendt til offentlig adgang af Googles sikkerhedstjeneste. Desuden afslørede en yderligere analyse af dumpen tilstedeværelsen af proto-filer (Protocol Buffer) med specifikationer for interne datakonstruktioner, der gør det muligt at forstå detaljerne i datatransmissionen mellem forskellige Google-tjenester. Nytten af de afdækkede proto-filer er tvivlsom, da lignende proto-filer allerede blev udtrukket af andre forskere fra Google App Engine for syv år siden.
Kilde: opennet.ru
