Нейрондық желілердің қарқынды дамуы сарапшылар арасында мұндай алгоритмдермен әрекеттесу кезінде құпиялылықты қамтамасыз ету туралы алаңдаушылық туғызды. Осы аптада бұл қорқыныштардың бекер емес екендігі тағы да расталды. Әлеуметтік желі қолданушысы X Кевин Банкстер Google компаниясының Gemini нейрондық желісі Google Drive-та сақталған PDF файлдарын пайдаланушының нақты келісімінсіз автоматты түрде сканерлейтініне назар аударды.
«Google Docs-те менің салық декларациямды аштым және Gemini оны рұқсатсыз қорытындылады. Сонымен... Gemini мен Google Docs-та ашатын жеке құжаттарды автоматты түрде сканерлей ме? <…> Мен мұны сұраған жоқпын. Енді мұны өшіру үшін маған ешқашан хабарланбаған жаңа параметрлерді табу керек», - деп жазды Банкстер Network X аккаунтында.
Егіздердің мұндай әрекетке не себеп болғаны әлі белгісіз. Алгоритмнің өзіне сәйкес, Gemini-ге хабарлау үшін пайдаланылатын құпиялылық параметрлері жалпыға қолжетімді болуы керек, бірақ олай емес. Бұл алгоритмнің жалған ақпарат шығаратынын немесе кейбір Google ішкі жүйелерінің дұрыс жұмыс істемейтінін білдіруі мүмкін. Кез келген жағдайда, нейрондық желі қолданушылардың жеке деректерін оқыту үшін пайдаланбайды деп есептесек те, бұл өте жақсы көрінбейді.
Банкстерге келетін болсақ, біраз уақыттан кейін ол параметрлерде қосылса, Gemini-ге Gmail, Google Docs және Google Drive-та құжаттарды сканерлеуге мүмкіндік беретін опцияны таба алатынын жазды. Сонымен бірге ол опцияның өшірілгенін, бірақ қандай да бір себептермен алгоритм әлі де құжатты сканерлеп, оның негізінде жалпылама мәтінді жасағанын атап өтті. Банкстер бұл мәселе оның 2023 жылы Google Workspace Labs жүйесіне тіркелгенімен байланысты болуы мүмкін деп санайды, бұл Gemini параметрлерінің дұрыс қолданылмауына себеп болуы мүмкін.
Ақпарат көзі:
Ақпарат көзі: 3dnews.ru
