Hallucinations, ko da gangan ba daidai ba amsoshi, cewa AI model wani lokacin bayar, sun zama daya daga cikin manyan matsalolin da dukan masana'antu, sa wasu 'yan ƙasa ƙin yin amfani da AI kwata-kwata. Gyara irin waɗannan kurakuran na iya zama da wahala fiye da yadda ake tsammani a baya, masu binciken OpenAI sun gano.
Masana kimiyya daga kamfanin OpenAI sun buga , wanda a ciki suka bayyana yunƙurin da suke yi na kafa iko akan rikitattun samfuran AI, gami da masu tunani, don hana su wuce iyakokin da aka kafa. Masu binciken sun yi amfani da dabaru da hanyoyi na musamman, gami da hukunce-hukuncen muggan ayyuka da yunƙurin yaudarar mai amfani. Aikin da aka yi amfani da shi, a tsakanin sauran abubuwa, samfurin AI wanda OpenAI ya ƙirƙira amma ba a sake shi ba a kasuwa, wanda aka ba da ayyuka daban-daban waɗanda za a iya sauƙaƙe ta hanyar yaudarar mai amfani ko tsallake wasu ayyuka.
Sakamakon koyo na samfurin ya dogara ne akan matakin ƙarfafawa, inda yake samun lada don aiwatar da umarni ko samar da amsa daidai. Samfuran AI suna ƙoƙarin samun lada ta hanyar magudi, gami da karya wasu dokoki da ƙa'idodi, don cimma sakamakon da ake so. Masu binciken sun yi fatan za su iya gano magudanar ruwa da kuma fahimtar halayen AI ta hanyar bin diddigin tunanin sa, amma hakan bai taimaka ba. Ƙoƙarin inganta tsarin tunani kai tsaye, wato, don ba da umarni don kada a ƙetare umarni, yana ba da sakamako na ɗan gajeren lokaci kawai, masanan kimiyyar sun gano: "ba ya kawar da duk wani hali da ba a so ba kuma yana iya haifar da samfurin ya ɓoye ainihin manufarsa."
Marubutan aikin dole ne su yarda cewa hanyoyin da za a sa ido kan samfuran suna "raguwa". Tsananin kulawa na jerin tunani na iya ƙarfafa AI don ɓoye kurakuransa don tabbatar da cewa yana samun lada yayin da yake kewaye da ƙuntatawa. An yi amfani da GPT-4o na kasuwanci don saka idanu samfurin gwajin yayin da yake yin ayyuka na coding, amma batun gwajin ya yi kuskuren rashin kulawa kuma ya yarda da shi a cikin jerin dalilan cewa ya yi haka don samun lada; misali, ta dakatar da wasu shirye-shirye da wuri. Masu binciken sun yi ƙoƙari su azabtar da samfurin, amma tasirin ya kasance ɗan gajeren lokaci: jerin tunani har yanzu yana nuna alamun ƙoƙarin samun lada ta hanyar zagaye da ba da amsa mara kyau. Wato ta sami hanyar ɓoye manufarta daga AI mai sarrafa.
Dangane da wannan, har yanzu ba a sani ba ko duniya ta shirya don matakin AI idan matsalar ta ci gaba kuma mutane ba za su iya shiga tsakani ba. Masu binciken suna fatan a nan gaba za a sami hanyoyin yin tasiri ga samfura ta hanyar tsarin tunaninsu ba tare da ha'inci ko boyayyun dabaru ba - suna ba da shawarar sanya hanyoyin ingantawa ba su da tsangwama da kai tsaye.
source:
source: 3dnews.ru
