Нейросетният Gemini беше уличен в сканиране на PDF файлове на потребителите на Google Диск

Бързото развитие на невронните мрежи отдавна е предизвикало притеснения сред експертите относно защитата на личните данни при взаимодействие с такива алгоритми. Тази седмица се появи ново потвърждение, че тези опасения не са безпочвени. Потребител на социалната мрежа X, Кевин Банкстер (Kevin Bankster), обеляза, че невронната мрежа Gemini на компанията Google автоматично сканира PDF файловете, съхранявани в Google Диск, без да е получила явно съгласие от потребителя.

„Току-що отворих данъчната си декларация в Google Документи и Gemini без разрешение я обобщи. И така… Gemini автоматично сканира дори лични документи, които отварям в Google Документи? Не съм искал това. Сега трябва да намеря нови настройки, за които никога не съм бил информиран, за да го изключа“, написа Банкстер в своя акаунт в мрежата X.

Не е ясно каква точно е причината за такова поведение на Gemini. Според самия алгоритъм настройките за конфиденциалност, използвани за информиране на Gemini, трябва да са публично достъпни, но това не е така. Това може да означава, че либо алгоритъмът предоставя неверна информация, либо някои вътрешни системи на Google явно функционират неправилно. Във всеки случай, това не изглежда добре, дори да приемем, че невронната мрежа не използва лични данни на потребителите за обучение.

Що се отнася до Банкстер, след известно време той написа, че е успял да намери настройка, чиято активизация позволява на Gemini да сканира документи в Gmail, Google Документи и Google Диск. В същото време отбеляза, че опцията е била деактивирана, но алгоритъмът по някаква причина все пак е просканировал документа и е създал обобщен текст на неговата база. Банкстер смята, че проблемът може да е свързан с регистрацията му в Google Workspace Labs през 2023 година, поради което настройките на Gemini могат да са били приложени неправилно.

Източник:

• tomshardware.com

Източник: 3dnews.ru