Бързото развитие на невронните мрежи отдавна предизвиква опасения у експертите относно сигурността на личните данни при взаимодействие с такива алгоритми. Тази седмица се появи ново потвърждение, че тези опасения не са напразни. Потребителят на социалната мрежа X, Кевин Банкстер, забеляза, че невронната мрежа Gemini на Google автоматично сканира PDF файлове, съхранявани в Google Диск, без да получи явно съгласие от потребителя.
„Току-що отворих данъчната си декларация в Google Документи и Gemini без разрешение я резюмира. И така… Gemini автоматично сканира дори лични документи, които отварям в Google Документи? Не исках това. Сега трябва да намеря нови настройки, за които никога не ми е било казано, за да го изключа“, написа Банкстер в профила си в мрежата X.
Каква точно е причината за такова поведение на Gemini все още не е ясно. Според самият алгоритъм, настройките за конфиденциалност, използвани за информираност на Gemini, трябва да бъдат открито достъпни, но това не е така. Това може да означава, че или алгоритъмът предоставя неверна информация, или някои вътрешни системи на Google просто не функционират правилно. Във всеки случай, изглежда не особено добре, дори да се приеме, че невронната мрежа не използва лични данни на потребителите за обучение.
Що се отнася до Банкстер, след известно време той написа, че е успял да намери в настройките опция, която позволява на Gemini да сканира документи в Gmail, Google Документи и Google Диск. Той отбеляза, че опцията е била изключена, но по някаква причина алгоритъмът все пак е сканирал документа и е създал обобщен текст на неговата основа. Банкстер смята, че проблемът може да е свързан с факта, че се е регистрирал в Google Workspace Labs през 2023 г., което може да е довело до неправилно приложение на настройките на Gemini.
Източник:
Източник: 3dnews.ru
