Neuraalvõrk Gemini tabati kasutajate Google'i „Drive'i” PDF-failide skannimises.

Nehoroodne arengud tehisintellekti valdkonnas on ammu põhjustanud eksperdihirme privaatsuse säilitamise osas selliste algoritmidega suhtlemisel. Sellel nädalal ilmus uus tõendusmaterjal, et need hirmud on põhjendatud. Sotsiaalmeedia kasutaja Kevin Bankster juhtis tähelepanu sellele, et Google'i tehisintellekt Gemini skannib automaatselt Google Drive'is salvestatud PDF-failide sisu, ilma et kasutajalt oleks saadud selget nõusolekut.

«Avastasin just oma maksudeklaratsiooni Google Docs'is ja Gemini koostas selle kokku ilma loata. Nii et... Gemini skannib automaatselt isegi isiklikke dokumente, mida ma Google Docs'is avamise? <…> Ma ei palunud seda. Nüüd pean leidma uusi seadistusi, millest mulle kunagi ei räägitud, et seda välja lülitada,» kirjutas Bankster oma X võrgustiku kontol.

Mis põhjustas Gemini sellise käitumise, ei ole selge. Algoritmi enda arvates peaks privaatsusseaded, mida Gemini teavitamiseks kasutatakse, olema avalikult kättesaadavad, kuid see ei ole nii. See võib tähendada, et kas algoritm annab valeinfot või mõned Google'i sisemised süsteemid ei toimi selgelt korrektselt. Igal juhul ei näe see väga hea välja, isegi kui eeldada, et närvivõrk ei kasuta kasutajate isikuandmeid õppimiseks.

Mis puudutab Bäxterit, siis pärast teatud aega kirjutas ta, et suutis seadetes leida valiku, mille aktiveerimine võimaldab Geminil skannida dokumente Gmailis, Google Docsis ja Google Drive'is. Samuti märkis ta, et valik oli välja lülitatud, kuid algoritm skaneeris siiski mingil põhjusel dokumenti ja koostas selle põhjal kokkuvõtte. Bäxter arvab, et probleem võib olla seotud sellega, et ta registreerus Google Workspace Labs'is 2023. aastal, mistõttu Gemini seaded võisid rakenduda valesti.

Allikas:

• tomshardware.com

Allikas: 3dnews.ru