Kohë më parë (nga 9 qershori 2026), zhvilluesit e rrjeteve nervore përballen me një fenomen që mund të ketë pasoja të gjera. Prodhuesit e LLM nuk vetëm që qartë i refuzojnë klientët për të punuar mbi tema të caktuara, por gjithashtu po implementojnë mekanizma të fshehta. Modeli i njohur Claude, i cili konsiderohet një nga LLM-të më të mira ose madje më i miri për zhvillimin e programeve, ngadalësohet në mënyrë të heshtur (ndryshe nga çështje si siguria kibernetike, biologia dhe kimia) nëse detekton se po përpiqen të zhvillojnë modele të tjera me ndihmën e saj.
Zyrtarisht në «model card» për 5 versionet e Claude Mythos dhe Claude Fable, në faqen 13 të PDF-së zyrtare shkruhet (në përkthimin shqip):
Në dritën e aftësisë së modeleve moderne për të përshpejtuar zhvillimin e tyre, kemi implementuar masa të reja që kufizojnë efikasitetin e Claude për kërkesat e drejtuara ndaj zhvillimit të modeleve të avancuara të mësimit të makinës (p.sh., për krijimin e kanaleve të trajnerëve, infrastrukturës së shpërndarë të mësimit ose projektimin e akceleratorëve të mësimit të makinës). Përdorimi i Claude për të zhvilluar modele konkuruese tashmë shkel kushtet tona të shërbimit, por sigurimi i këtij kufizimi përmes masave tona të mbrojtjes e lejon shmangien e përshpejtimit të veprimeve nga ata që janë më të prirur të shkelin këto kushte.
Ndryshe nga masat tona të mbrojtjes në fushën e sigurisë kibernetike, biologjisë dhe kimisë, si dhe përpjekjeve të distilimit, këto masa mbrojtëse nuk do të jenë të dukshme për përdoruesin. Fable 5 nuk do të kalojë në një model tjetër. Në vend të kësaj, masat mbrojtëse do të kufizojnë efikasitetin nëpërmjet metodave të tilla si modifikimi i përgjigjeve, drejtimeve të vektorëve ose përshtatja parametrike efikase (PEFT). Këto masa mbrojtëse nuk do të kenë ndikim në shumicën dërmuese të punës për programimin. Ne e vlerësojmë se ato do të ndikojnë në rreth ~0.03% të trafikut, të përqendruar në më pak se 0.1% të organizatave.
Diskutimi mbi Y combinator
Burimi: linux.org.ru
