Neuroverkkojen kehittäjät ovat viime aikoina (9. kesäkuuta 2026 lähtien) törmänneet ilmiöön, jolla voi olla kauaskantoisia seurauksia. LLM-toimittajat eivät ainoastaan nimenomaisesti kieltäydy sallimasta asiakkaiden työskentelyä tiettyjen aiheiden parissa, vaan myös ottavat käyttöön implisiittisiä mekanismeja. Tunnettu Claude-malli, jota pidetään yhtenä parhaista, ellei jopa parhaana, LLM:nä ohjelmistokehitykseen, pysähtyy hiljaa ja huomaamattomasti (toisin kuin esimerkiksi kyberturvallisuus, biologia ja kemia) havaitessaan, että muita malleja kehitetään sen avulla.
Virallisesti Claude Mythosin ja Claude Fablen viidennen version "mallikortissa" brändätyn PDF-tiedoston sivulla 13 sanotaan (venäjänkielisessä käännöksessä):
Koska nykyaikaiset mallit pystyvät kiihdyttämään omaa kehitystään, olemme ottaneet käyttöön uusia toimenpiteitä, jotka rajoittavat Clauden tehokkuutta pyynnöissä, jotka kohdistuvat edistyneiden koneoppimismallien kehittämiseen (esim. esikoulutusputkien rakentaminen, hajautettu koulutusinfrastruktuuri tai koneoppimisen kiihdyttäjien suunnittelu). Clauden käyttäminen kilpailevien mallien kehittämiseen rikkoo jo palveluehtojamme, mutta tämän rajoituksen valvominen suojatoimiemme avulla estää niiden tahojen nopeuttamisen, jotka todennäköisimmin rikkovat niitä.
Toisin kuin kyberturvallisuuden, biologian ja kemian lieventämistoimenpiteemme sekä tislaustoimenpiteemme, nämä lieventämistoimet ovat käyttäjälle näkymättömiä. Fable 5 ei vaihda toiseen malliin. Sen sijaan lieventämistoimet rajoittavat tehokkuutta käyttämällä tekniikoita, kuten vihjeiden muokkausta, suuntavektoreita ja parametrisesti tehokasta hienosäätöä (PEFT). Nämä lieventämistoimet eivät vaikuta valtaosaan ohjelmointityöstä. Arvioimme, että ne vaikuttavat noin 0,03 prosenttiin liikenteestä, joka keskittyy alle 0,1 prosenttiin organisaatioista.
Keskustelu aiheesta Y-kombinaattori
Lähde: linux.org.ru
