Amazon Q 챗봇은 '환각'에 취약하고 AWS 데이터 센터의 좌표도 유출했습니다.

Platformer 보도에 따르면, Amazon이 최근 공개한 챗봇 Amazon Q는 이런 유형의 솔루션에서 전형적인 환각 증상을 보이며 민감한 데이터가 유출된다고 합니다. 미리보기 버전 사용자는 이제 회사 데이터 센터의 위치, 비공개 할인 프로그램, 아직 공개되지 않은 기능에 대한 데이터에 액세스할 수 있습니다. 이 사건은 레벨 2 보안 침해로 평가되었는데, 이는 팀이 밤새도록, 그리고 주말 내내 작업해야 할 정도로 심각한 사안이라는 것을 의미합니다. Q의 문제는 아마존이 AI 비서 시장에서 자리를 잡으려고 애쓰는 불편한 시기에 발생했습니다. 이 분야의 선구자는 마이크로소프트, 구글, 그리고 몇몇 스타트업이었습니다. 4월에 이 회사는 스타트업 Anthropic에 XNUMX억 달러를 투자할 계획을 발표했고, 이번 주에는 마침내 자체 챗봇 Q를 공개했습니다.
출처 : 3dnews.ru