Den hurtige udvikling af neurale netværk har længe vækket bekymring hos eksperter over sikringen af privatlivets fred ved interaktion med sådanne algoritmer. I denne uge kom endnu en bekræftelse på, at disse bekymringer ikke er ubegrundede. Bruger på sociale medier X, Kevin Bankster, bemærkede, at Googles neurale netværk Gemini automatisk skanner PDF-filer gemt i Google Drev uden at have fået brugerens klare samtykke.
«Jeg åbnede lige min selvangivelse i Google Docs, og Gemini opsummerede den uden tilladelse. Så… Scanning af selv personlige dokumenter, jeg åbner i Google Docs, sker automatisk? <…> Jeg bad ikke om dette. Nu skal jeg finde nye indstillinger, som jeg aldrig er blevet informeret om, for at deaktivere dette», skrev Bankster på sin konto på X.
Hvad der præcist har forårsaget denne adfærd hos Gemini er stadig uklart. Ifølge selve algoritmen skal de privatlivsindstillinger, der anvendes til at informere Gemini, være offentligt tilgængelige, men det er de ikke. Dette kan betyde, at algoritmen enten giver falske oplysninger, eller at nogle interne systemer i Google fungerer direkte forkert. Uanset hvad, ser det ikke godt ud, selvom man antager, at neurale netværk ikke bruger brugerens personlige data til træning.
Med hensyn til Bankster skrev han efter noget tid, at han fandt en indstilling, der kan aktiveres, hvilket tillader Gemini at scanne dokumenter i Gmail, Google Docs og Google Drev. Han bemærkede dog, at indstillingen var deaktiveret, men algoritmen stadig skannede dokumentet af en eller anden grund og skabte en opsummeret tekst på baggrund af det. Bankster mener, at problemet kan være relateret til, at han registrerede sig i Google Workspace Labs i 2023, hvilket kan have medført, at indstillingerne for Gemini blev anvendt forkert.
Kilde:
Kilde: 3dnews.ru
