Nemrég (2026. június 9-től) a mesterséges intelligencia fejlesztői egy jelenséggel szembesültek, amelynek messzemenő következményei lehetnek. Az LLM gyártói már nemcsak nyíltan tagadják meg az ügyfelektől bizonyos témák feldolgozását, hanem rejtett mechanizmusok is bevezetésre kerülnek. A Claude nevű jól ismert modell, amelyet a legjobbak között tartanak nyilván, sőt talán a legjobbnak is számít a programfejlesztéshez, halkan és észrevétlenül (ellentétben olyan területekkel, mint a kiberbiztonság, biológia és kémia) lelassul, ha észleli, hogy más modellek fejlesztésére próbálnak általa törekedni.
A Claude Mythos és Claude Fable 5-ös verziójának "model card"-jában, a 13. oldalon a hivatalos PDF szerint (orosz fordításban) ez áll:
A modern modellek saját fejlődésük felgyorsítására való képességére való tekintettel új intézkedéseket vezettünk be, amelyek korlátozzák a Claude hatékonyságát a gépi tanulás fejlett modelljeinek kifejlesztésére irányuló lekérdezések során (például előképzési csatornák létrehozása, elosztott tanulási infrastruktúra vagy gépi tanulás gyorsítóinak tervezése). A Claude versenytárs modellek fejlesztésére való felhasználása már megsérti szolgáltatási feltételeinket, de ennek a korlátozásnak a végrehajtása védelmi intézkedéseink révén elkerülheti azok cselekedeteinek felgyorsítását, akik a leginkább hajlamosak ezen feltételek megszegésére.
A kiberbiztonság, biológia és kémia területén bevezetett védelmi intézkedéseinkhez, valamint a desztillálási kísérletekhez képest ezek a védelmi intézkedések nem lesznek láthatóak a felhasználó számára. A Fable 5 nem fog másik modellre váltani. Ehelyett a védelmi intézkedések olyan módszerekkel korlátozzák a hatékonyságot, mint a lekérdezések módosítása, irányító vektorok vagy paraméterezhető hatékony finomhangolás (PEFT). Ezek a védelmi intézkedések nem fognak hatni a programozási munkák túlnyomó részére. Becslésünk szerint körülbelül 0,03%-os forgalmat érintenek, amely kevesebb mint 0,1%-nyi szervezetet céloz meg.
Beszélgetés a Y combinator
Forrás: linux.org.ru
