Anthropic은 Claude에서 머신러닝 모델 개발을 조용히 방해하는 행위를 저질렀습니다.

최근(2026년 6월 9일 이후) 신경망 개발자들은 광범위한 영향을 미칠 수 있는 현상에 직면했습니다. LLM(Learning Language Model) 공급업체들이 특정 주제에 대한 클라이언트의 작업을 명시적으로 거부할 뿐만 아니라, 암묵적인 메커니즘까지 사용하고 있는 것입니다. 소프트웨어 개발 분야에서 최고로 꼽히는 LLM 중 하나인 클로드 모델(Claude model)은 (사이버 보안, 생물학, 화학과 같은 주제와는 달리) 다른 모델이 자신을 사용하여 개발되고 있다는 사실을 감지하면 조용하고 은밀하게 작동을 멈춥니다.

공식적으로, 브랜드 PDF 13페이지에 있는 클로드 미토스와 클로드 페이블 5판의 "모델 카드"에는 (러시아어 번역으로) 다음과 같이 적혀 있습니다.

최신 모델들이 자체 개발 속도를 가속화할 수 있는 능력을 고려하여, 고급 머신러닝 모델 개발(예: 사전 학습 파이프라인 구축, 분산 학습 인프라 구축, 머신러닝 가속기 설계)을 목적으로 하는 요청에 대해 Claude의 효율성을 제한하는 새로운 조치를 시행했습니다. Claude를 사용하여 경쟁 모델을 개발하는 것은 이미 서비스 약관을 위반하는 행위이지만, 이러한 제한 조치를 통해 약관 위반 가능성이 가장 높은 요청의 가속화를 방지할 수 있습니다.

사이버 보안, 생물학, 화학 관련 완화 조치 및 정제 작업과는 달리, 이러한 완화 조치는 사용자에게 보이지 않게 적용됩니다. Fable 5는 다른 모델로 전환하지 않습니다. 대신, 힌트 수정, 방향 벡터, 매개변수 효율 미세 조정(PEFT)과 같은 기술을 사용하여 효과를 제한합니다. 이러한 완화 조치는 대다수의 프로그래밍 작업에 영향을 미치지 않습니다. 약 0,03%의 트래픽에 영향을 미칠 것으로 예상되며, 이는 0,1% 미만의 조직에 집중될 것입니다.

토론 주제 Y 조합기

출처 : linux.org.ru