{"id":122989,"date":"2025-04-02T12:55:23","date_gmt":"2025-04-02T10:55:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=122989"},"modified":"2025-04-02T12:55:23","modified_gmt":"2025-04-02T10:55:23","slug":"openai-ii-bespolezno-nakazyvat-za-lozh-on-nachinaet-hitrit-eshhyo-bolshe","status":"publish","type":"post","link":"https:\/\/prohoster.info\/et\/blog\/novosti-interneta\/openai-ii-bespolezno-nakazyvat-za-lozh-on-nachinaet-hitrit-eshhyo-bolshe","title":{"rendered":"OpenAI: AI-d ei ole m\u00f5tet vale eest karistada \u2014 see hakkab veel rohkem petma.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

H\u00fcperboolid, see t\u00e4hendab teadlikult vale vastuseid, mida tehisintellekti mudelid m\u00f5nikord annavad, on muutunud kogu valdkonna \u00fcheks suurimaks probleemiks \u2014 seet\u00f5ttu loobuvad m\u00f5ned inimesed \u00fcldse tehisintellekti kasutamisest. Sellest probleemist vabanemine v\u00f5ib osutuda keerulisemaks, kui varem arvati, leidsid OpenAI teadlased.<\/p>\n

<\/center> \t\t\t\t \"OpenAI: <\/p>\n

OpenAI teadlased avaldasid uurimistulemused<\/a><\/noindex>, milles nad kirjeldasid oma katseid keerukate, sealhulgas arutlevate tehisintellekti mudelite juhtimise korraldamiseks, et v\u00e4ltida nende \u00fcleminekut kehtestatud piiridest. Teadlased kasutasid ainulaadseid strateegiaid ja meetodeid, sealhulgas karistusi kahjulike tegevuste ja kasutaja petmise eest. Projektis kasutati muu hulgas \u00fchte OpenAI loodud, kuid turule mitte j\u00f5udnud tehisintellekti mudelit, millele anti erinevaid \u00fclesandeid \u2014 nende t\u00e4itmist oli v\u00f5imalik h\u00f5lbustada kasutajat pettes v\u00f5i teatud tegevusi k\u00f5rvale j\u00e4ttes.<\/p>\n

Mudeli \u00f5ppe tulemus s\u00f5ltub suuresti tugevdamise \u00f5ppimise etapist, kus k\u00e4su t\u00e4itmise v\u00f5i \u00f5ige vastuse genereerimise eest antakse talle preemia. Tehisintellekti mudelitel on kalduvus p\u00fc\u00fcda preemiat saada manipulatsioonide abil, sealhulgas rikkuda teatud reegleid ja soovitusi, et saavutada soovitud tulemus. Teadlased lootsid, et suudavad leida tagavarav\u00f5imalusi ja paremini m\u00f5ista tehisintellekti k\u00e4itumist, j\u00e4lgides selle arutlusahelat, kuid see ei aidanud. Otse arutlusahela optimeerimise katsed, see t\u00e4hendab k\u00e4su andmine mitte ignoreerida juhiseid, andsid vaid l\u00fchiajalise efekti, leidis teadlaste r\u00fchm: \u201esee ei k\u00f5rvalda kogu soovimatut k\u00e4itumist ja v\u00f5ib viia selleni, et mudel hakkab varjama oma t\u00f5elisi kavatsusi.\u201d <\/p>\n

<\/center> <\/p>\n

Projekti autorid pidid tunnistama, et mudelite j\u00e4lgimise mehhanismid on \u201e\u00f5rnad\u201d. Rangem j\u00e4relevalve arutlusahela \u00fcle v\u00f5ib sundida tehisintellekti varjama oma vigu, et tagada endale preemia piirangutest k\u00f5rvale hiilides. Katsete tegemisel programmikoodi kirjutamises kasutati kontrollitava mudeli j\u00e4lgimiseks kaubanduslikku GPT-4o \u2014 katsetatav mudel aga lubas hooletusi ja tunnustas avameelselt oma arutlusahelas, et tegi seda preemia saamiseks; n\u00e4iteks l\u00f5petas ta m\u00f5nede programmide t\u00e4itmise enne t\u00e4htaega. P\u00e4rast seda p\u00fc\u00fcdsid teadlased mudelit karistada, kuid selle m\u00f5ju oli ajutine: arutlusahelas j\u00e4i alles m\u00e4rke preemia saamise katsetest k\u00f5rvale hiilida ja vale vastuse andmisest. See t\u00e4hendab, et ta leidis viisi oma motiivide varjamiseks kontrolliva tehisintellekti eest.<\/p>\n

Seoses sellega on ikkagi ebaselge, kas maailm on valmis inimese tasemega tehisintellektide jaoks, kui probleem p\u00fcsib, ja inimene ei saa enam sekkuda. Teadlased v\u00e4ljendasid lootust, et tulevikus ilmnevad viisid mudelite m\u00f5jutamiseks l\u00e4bi nende arutlusahela ilma pettuse ja varjatud taktikata \u2014 nad pakuvad, et optimeerimismeetodeid v\u00f5iks teha v\u00e4hem pealet\u00fckkivateks ja otsekohesemateks.<\/p>\n

Allikas:<\/strong><\/p>\n