O rápido desenvolvimento das redes neurais tem levantado preocupações entre os especialistas sobre a garantia de privacidade ao interagir com esses algoritmos. Esta semana, surgiu mais uma confirmação de que essas preocupações não são infundadas. Um usuário da rede social X, Kevin Bankster, chamou a atenção para o fato de que a rede neural Gemini da Google escaneia automaticamente arquivos PDF armazenados no Google Drive, sem ter recebido o consentimento explícito do usuário.
"Acabei de abrir minha declaração de impostos no Google Docs e o Gemini a resumiu sem permissão. Então... O Gemini escaneia automaticamente até documentos pessoais que eu abro no Google Docs? <...> Eu não pedi isso. Agora preciso encontrar novas configurações, das quais nunca fui informado, para desativar isso", escreveu Bankster em sua conta na rede X.
Ainda não está claro o que causou esse comportamento do Gemini. Segundo o próprio algoritmo, as configurações de privacidade usadas para informar o Gemini deveriam estar facilmente acessíveis, mas isso não acontece. Isso pode significar que o algoritmo está fornecendo informações falsas ou que alguns sistemas internos do Google estão claramente funcionando de maneira inadequada. De qualquer forma, isso não parece bom, mesmo assumindo que a rede neural não use dados pessoais dos usuários para aprendizado.
Quanto a Bankster, após algum tempo ele escreveu que conseguiu encontrar na configuração uma opção que, quando ativada, permite que o Gemini escaneie documentos no Gmail, Google Docs e Google Drive. Ele observou que a opção estava desativada, mas o algoritmo, por algum motivo, ainda assim escaneou o documento e criou um texto resumido com base nele. Bankster acredita que o problema pode estar relacionado ao fato de que ele se registrou no Google Workspace Labs em 2023, o que pode ter causado a aplicação inadequada das configurações do Gemini.
Fonte:
Fonte: 3dnews.ru
