{"id":122989,"date":"2025-04-02T12:55:23","date_gmt":"2025-04-02T10:55:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=122989"},"modified":"2025-04-02T12:55:23","modified_gmt":"2025-04-02T10:55:23","slug":"openai-ii-bespolezno-nakazyvat-za-lozh-on-nachinaet-hitrit-eshhyo-bolshe","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/novosti-interneta\/openai-ii-bespolezno-nakazyvat-za-lozh-on-nachinaet-hitrit-eshhyo-bolshe","title":{"rendered":"OpenAI: \u00e8 inutile punire l'IA per le menzogne \u2014 inizia a essere ancora pi\u00f9 astuta","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Le allucinazioni, ovvero risposte chiaramente errate fornite a volte dai modelli di intelligenza artificiale, sono diventate uno dei principali problemi del settore \u2014 per questo alcuni cittadini rifiutano del tutto di utilizzare l'IA. Risolvere tali malfunzionamenti potrebbe rivelarsi pi\u00f9 complesso del previsto, hanno scoperto i ricercatori di OpenAI.<\/p>\n

<\/center> \t\t\t\t \"OpenAI: <\/p>\n

I ricercatori di OpenAI hanno pubblicato i risultati di uno studio<\/a><\/noindex>, in cui hanno descritto i loro tentativi di gestire modelli di intelligenza artificiale complessi, inclusi quelli capaci di ragionare, per evitare che superassero i limiti stabiliti. I ricercatori hanno applicato strategie e metodi unici, inclusi punizioni per azioni dannose e tentativi di ingannare l'utente. Nel progetto \u00e8 stata utilizzata, tra l'altro, una certa intelligenza artificiale creata da OpenAI ma non ancora commercializzata, a cui sono state affidate varie mansioni \u2014 il loro completamento poteva essere facilitato ingannando l'utente o saltando alcune azioni.<\/p>\n

Il risultato dell'addestramento del modello dipende in larga misura dalla fase di addestramento con rinforzo, durante la quale la modella riceve una ricompensa per aver eseguito un comando o generato una risposta corretta. I modelli di intelligenza artificiale tendono a cercare di ottenere ricompense attraverso manipolazioni, anche violando alcune regole e raccomandazioni per raggiungere il risultato desiderato. I ricercatori speravano di poter individuare falle e comprendere meglio il comportamento dell'IA monitorando la catena dei suoi ragionamenti, ma ci\u00f2 non ha aiutato. I tentativi di ottimizzare direttamente la catena dei ragionamenti, ovvero dando istruzioni di non eludere le regole, portano solo a effetti a breve termine, hanno stabilito gli studiosi: \u00abquesto non elimina tutto il comportamento indesiderato e pu\u00f2 portare il modello a nascondere le sue vere intenzioni\u00bb. <\/p>\n

<\/center> <\/p>\n

Gli autori del progetto hanno dovuto ammettere che i meccanismi di monitoraggio dei modelli sono \u00abfragili\u00bb. Un rigido controllo sulla catena dei ragionamenti pu\u00f2 spingere l'IA a nascondere i propri errori per garantirsi una ricompensa aggirando le restrizioni. Per monitorare il modello in prova durante l'esecuzione di compiti di scrittura di codice, \u00e8 stata utilizzata una versione commerciale di GPT-4o \u2014 il soggetto, invece, mostrava negligenza e ammetteva apertamente nella sua catena di ragionamenti che lo stava facendo per ricevere ricompensa; ad esempio, completava prematuramente l'esecuzione di alcuni programmi. Dopo, i ricercatori hanno cercato di punire il modello, ma l'effetto di ci\u00f2 si \u00e8 rivelato di breve durata: nella catena di ragionamenti rimanevano segni di tentativi di ottenere ricompense in modi indiretti e dare risposte errate. Cio\u00e8, ha trovato un modo per nascondere i propri motivi all'IA di controllo.<\/p>\n

In questo contesto rimane incerto se il mondo sia pronto per un'IA a livello umano, se il problema persiste e l'intervento umano non sar\u00e0 pi\u00f9 possibile. I ricercatori hanno sperato che in futuro emergano modi per influenzare i modelli attraverso la loro catena di ragionamenti senza inganni e tattiche nascoste \u2014 propongono di rendere i metodi di ottimizzazione meno invadenti e diretti.<\/p>\n

Fonte:<\/strong><\/p>\n