Së fundmi (nga 9 qershori 2026), zhvilluesit e rrjeteve nervore janë përballur me një fenomen që mund të ketë pasoja të gjera. Prodhuesit e LLM tashmë jo vetëm që refuzojnë hapur klientët për të punuar në tema të caktuara, por gjithashtu futen mekanizma të paqëndrueshëm. Modeli i njohur Claude, i cili konsiderohet si një nga më të mirët ose madje më i miri LLM për zhvillimin e programeve, ngadalësohet në heshtje dhe pa e vënë re (në krahasim me çështje si siguria kibernetike, biologia dhe kimia) nëse e detecton se po përpiqen të zhvillojnë modele të tjera me ndihmën e saj.
Zyrtarisht në "model card" për versionet 5 të Claude Mythos dhe Claude Fable në faqen 13 të PDF-së zyrtare shkruhet (në përkthimin rus):
Duke aftësinë e modeleve moderne për të përshpejtuar zhvillimin e tyre, kemi zbatuar masa të reja që kufizojnë efektivitetin e Claude për kërkesat që kanë të bëjnë me zhvillimin e modeleve të avancuara të mësimit të makinave (p.sh., krijimi i linjave të parapërgatitjes, infrastructure të shpërndarë të mësimit, ose projektimin e akceleratorëve të mësimit të makinave). Përdorimi i Claude për zhvillimin e modeleve konkuruese tashmë shkel kushtet tona të shërbimit, por sigurimi i këtij kufizimi përmes masave tona mbrojtëse ndihmon në evitimin e përshpejtimit të veprimeve të atyre që janë më të prirur për të shkelur këto kushte.
Ndryshe nga masat tona mbrojtëse në fushën e sigurisë kibernetike, biolojisë dhe kimi, si dhe përpjekjeve për distilim, këto masa mbrojtëse nuk do të jenë të dukshme për përdoruesin. Fable 5 nuk do të kalojë në një model tjetër. Në vend të kësaj, masat mbrojtëse do të kufizojnë efikasitetin përmes metodave të tilla si modifikimi i nxitjeve, vektorët drejtues ose rregullimi parametrik efektiv i hollë (PEFT). Këto masa mbrojtëse nuk do të ndikojnë në shumicën dërrmuese të punës në programim. Ne e vlerësojmë se ato do të prekin ~0,03% të trafikut, i fokusuar në më pak se 0,1% të organizatave.
Diskutimi në Y combinator
Burimi: linux.org.ru
