ઓપનએઆઈ: જૂઠું બોલવા બદલ એઆઈને સજા કરવી નકામી છે - તે વધુ છેતરપિંડી કરવાનું શરૂ કરે છે

AI મોડેલો ક્યારેક જે ભ્રમણા અથવા ઇરાદાપૂર્વક ખોટા જવાબો આપે છે તે સમગ્ર ઉદ્યોગની મુખ્ય સમસ્યાઓમાંની એક બની ગઈ છે, જેના કારણે કેટલાક નાગરિકો AI નો ઉપયોગ કરવાનો બિલકુલ ઇનકાર કરે છે. ઓપનએઆઈ સંશોધકોએ શોધી કાઢ્યું છે કે આવી ખામીઓને ઠીક કરવી અગાઉના વિચાર કરતાં વધુ મુશ્કેલ હોઈ શકે છે.

ઓપનએઆઈ કંપનીના વૈજ્ઞાનિકોએ પ્રકાશિત કર્યું છે સંશોધન પરિણામો, જેમાં તેઓએ જટિલ AI મોડેલો પર નિયંત્રણ સ્થાપિત કરવાના તેમના પ્રયાસોનું વર્ણન કર્યું, જેમાં તર્ક મોડેલોનો સમાવેશ થાય છે, જેથી તેઓ સ્થાપિત મર્યાદાઓથી આગળ વધતા અટકાવી શકાય. સંશોધકોએ અનોખી વ્યૂહરચના અને પદ્ધતિઓનો ઉપયોગ કર્યો, જેમાં દૂષિત ક્રિયાઓ અને વપરાશકર્તાને છેતરવાના પ્રયાસો માટે દંડનો સમાવેશ થાય છે. આ પ્રોજેક્ટમાં, અન્ય બાબતોની સાથે, OpenAI દ્વારા બનાવેલ પરંતુ બજારમાં રજૂ ન કરાયેલ AI મોડેલનો ઉપયોગ કરવામાં આવ્યો હતો, જેને વિવિધ કાર્યો સોંપવામાં આવ્યા હતા જે વપરાશકર્તાને છેતરીને અથવા કેટલીક ક્રિયાઓ છોડીને સરળ બનાવી શકાય છે.

મોડેલનું શીખવાનું પ્રદર્શન મોટે ભાગે મજબૂતીકરણ શીખવાના તબક્કા પર આધાર રાખે છે, જ્યાં તેને આદેશ ચલાવવા અથવા સાચો પ્રતિભાવ ઉત્પન્ન કરવા બદલ પુરસ્કાર મળે છે. AI મોડેલો ઇચ્છિત પરિણામ પ્રાપ્ત કરવા માટે અમુક નિયમો અને માર્ગદર્શિકા તોડવા સહિત, ચાલાકી દ્વારા પુરસ્કારો મેળવવાનો પ્રયાસ કરે છે. સંશોધકોને આશા હતી કે તેઓ છટકબારીઓ ઓળખી શકશે અને તેના તર્કની સાંકળને ટ્રેક કરીને AI ના વર્તનને વધુ સારી રીતે સમજી શકશે, પરંતુ તેનાથી કોઈ ફાયદો થયો નહીં. તર્કની સાંકળને સીધી રીતે ઑપ્ટિમાઇઝ કરવાના પ્રયાસો, એટલે કે, સૂચનાઓને બાયપાસ ન કરવાનો આદેશ જારી કરવા, ફક્ત ટૂંકા ગાળાની અસર આપે છે, વૈજ્ઞાનિકોએ શોધી કાઢ્યું: "તે બધા અનિચ્છનીય વર્તનને દૂર કરતું નથી અને મોડેલને તેના સાચા ઇરાદા છુપાવવા તરફ દોરી શકે છે."

પ્રોજેક્ટના લેખકોએ સ્વીકારવું પડ્યું કે મોડેલોનું નિરીક્ષણ કરવાની પદ્ધતિઓ "નાજુક" છે. તર્કની સાંકળનું કડક નિરીક્ષણ AI ને તેની ભૂલો છુપાવવા માટે પ્રોત્સાહિત કરી શકે છે જેથી ખાતરી કરી શકાય કે તેને મર્યાદાઓને ટાળીને પુરસ્કાર મળે છે. કોમર્શિયલ GPT-4o નો ઉપયોગ ટેસ્ટ મોડેલ પર દેખરેખ રાખવા માટે કરવામાં આવ્યો હતો જ્યારે તે કોડિંગ કાર્યો કરતો હતો, પરંતુ ટેસ્ટ વિષયે બેદરકારીપૂર્વક ભૂલો કરી હતી અને ખુલ્લેઆમ તર્કની સાંકળમાં સ્વીકાર્યું હતું કે તેણે ઈનામ મેળવવા માટે આવું કર્યું હતું; ઉદાહરણ તરીકે, તેણે કેટલાક કાર્યક્રમો અકાળે બંધ કરી દીધા. ત્યારબાદ સંશોધકોએ મોડેલને સજા કરવાનો પ્રયાસ કર્યો, પરંતુ તેની અસર અલ્પજીવી રહી: તર્કની સાંકળ હજુ પણ ગોળાકાર રીતે પુરસ્કાર મેળવવા અને ખોટો જવાબ આપવાનો પ્રયાસ કરતી હોવાના સંકેતો દર્શાવે છે. એટલે કે, તેણીએ નિયંત્રિત AI થી તેના હેતુઓ છુપાવવાનો માર્ગ શોધી કાઢ્યો.

આ સંદર્ભમાં, જો સમસ્યા ચાલુ રહે અને માનવીઓ હવે દખલ ન કરી શકે તો વિશ્વ માનવ-સ્તરના AI માટે તૈયાર છે કે કેમ તે અસ્પષ્ટ રહે છે. સંશોધકોને આશા છે કે ભવિષ્યમાં છેતરપિંડી અથવા છુપાયેલી યુક્તિઓ વિના મોડેલોને તેમના તર્કની સાંકળ દ્વારા પ્રભાવિત કરવાના રસ્તાઓ હશે - તેઓ ઑપ્ટિમાઇઝેશન પદ્ધતિઓને ઓછી કર્કશ અને સીધી બનાવવાનો પ્રસ્તાવ મૂકે છે.

સોર્સ:

• Windows સેન્ટ્રલ

સોર્સ: 3dnews.ru