અમે એકલા ડીપ લર્નિંગ પર બનેલી AI સિસ્ટમ્સ પર વિશ્વાસ કરી શકતા નથી

આ ટેક્સ્ટ વૈજ્ઞાનિક સંશોધનનું પરિણામ નથી, પરંતુ આપણા તાત્કાલિક તકનીકી વિકાસને લગતા ઘણા અભિપ્રાયોમાંથી એક છે. અને તે જ સમયે ચર્ચા માટે આમંત્રણ.

ન્યૂયોર્ક યુનિવર્સિટીના પ્રોફેસર ગેરી માર્કસ માને છે કે AI ના વિકાસમાં ડીપ લર્નિંગ મહત્વની ભૂમિકા ભજવે છે. પરંતુ તે એમ પણ માને છે કે આ ટેકનિક માટે વધુ પડતો ઉત્સાહ તેની બદનામ તરફ દોરી શકે છે.

તેમના પુસ્તકમાં AI રીબૂટ કરવું: આર્ટિફિશિયલ ઇન્ટેલિજન્સનું નિર્માણ કરવું જેના પર આપણે વિશ્વાસ કરી શકીએ માર્કસ, તાલીમ દ્વારા ન્યુરોસાયન્ટિસ્ટ કે જેમણે અદ્યતન AI સંશોધન પર કારકિર્દી બનાવી છે, તે તકનીકી અને નૈતિક પાસાઓને સંબોધે છે. ટેક્નોલૉજીના પરિપ્રેક્ષ્યમાં, ઊંડું શિક્ષણ સફળતાપૂર્વક આપણા મગજ દ્વારા કરવામાં આવતા ગ્રહણાત્મક કાર્યોનું અનુકરણ કરી શકે છે, જેમ કે છબી અથવા વાણી ઓળખ. પરંતુ અન્ય કાર્યો માટે, જેમ કે વાતચીતને સમજવી અથવા કારણ-અને-અસર સંબંધો નક્કી કરવા, ઊંડું શિક્ષણ યોગ્ય નથી. વધુ અદ્યતન બુદ્ધિશાળી મશીનો બનાવવા માટે જે સમસ્યાઓની વિશાળ શ્રેણીને હલ કરી શકે છે-જેને ઘણીવાર કૃત્રિમ સામાન્ય બુદ્ધિમત્તા કહેવામાં આવે છે-ડીપ લર્નિંગને અન્ય તકનીકો સાથે જોડવાની જરૂર છે.

જો AI સિસ્ટમ તેના કાર્યો અથવા તેની આસપાસની દુનિયાને સાચી રીતે સમજી શકતી નથી, તો તે ખતરનાક પરિણામો તરફ દોરી શકે છે. સિસ્ટમના વાતાવરણમાં સહેજ અણધાર્યા ફેરફારો પણ ભૂલભરેલા વર્તન તરફ દોરી શકે છે. આવા ઘણા ઉદાહરણો પહેલેથી જ છે: અયોગ્ય અભિવ્યક્તિઓના નિર્ધારકો કે જે છેતરવામાં સરળ છે; જોબ સર્ચ સિસ્ટમ્સ કે જે સતત ભેદભાવ કરે છે; ડ્રાઇવર વિનાની કાર જે અકસ્માત કરે છે અને ક્યારેક ડ્રાઇવર અથવા રાહદારીને મારી નાખે છે. આર્ટિફિશિયલ જનરલ ઇન્ટેલિજન્સ બનાવવી એ માત્ર એક રસપ્રદ સંશોધન સમસ્યા નથી, તેમાં ઘણી બધી સંપૂર્ણ વ્યવહારુ એપ્લિકેશનો છે.

તેમના પુસ્તકમાં, માર્કસ અને તેમના સહ-લેખક અર્નેસ્ટ ડેવિસ એક અલગ માર્ગ માટે દલીલ કરે છે. તેઓ માને છે કે અમે હજી પણ સામાન્ય AI બનાવવાથી દૂર છીએ, પરંતુ તેમને વિશ્વાસ છે કે વહેલા કે પછી તેને બનાવવું શક્ય બનશે.

શા માટે આપણને સામાન્ય AI ની જરૂર છે? વિશિષ્ટ સંસ્કરણો પહેલેથી જ બનાવવામાં આવ્યા છે અને ઘણા ફાયદા લાવે છે.

તે સાચું છે, અને તેનાથી પણ વધુ ફાયદા થશે. પરંતુ એવી ઘણી સમસ્યાઓ છે જે વિશિષ્ટ AI ફક્ત હલ કરી શકતી નથી. ઉદાહરણ તરીકે, સામાન્ય ભાષણ સમજવું, અથવા વર્ચ્યુઅલ વિશ્વમાં સામાન્ય સહાય, અથવા રોબોટ જે સફાઈ અને રસોઈમાં મદદ કરે છે. આવા કાર્યો વિશિષ્ટ AI ની ક્ષમતાઓની બહાર છે. બીજો રસપ્રદ વ્યવહારુ પ્રશ્ન: શું વિશિષ્ટ AI નો ઉપયોગ કરીને સલામત સ્વ-ડ્રાઇવિંગ કાર બનાવવી શક્ય છે? અનુભવ દર્શાવે છે કે આવા AI ને હજુ પણ અસામાન્ય પરિસ્થિતિઓમાં વર્તન સાથે ઘણી સમસ્યાઓ હોય છે, ડ્રાઇવિંગ કરતી વખતે પણ, જે પરિસ્થિતિને ખૂબ જટિલ બનાવે છે.

મને લાગે છે કે આપણે બધા AI ઈચ્છીએ છીએ જે દવામાં મોટી નવી શોધ કરવામાં મદદ કરી શકે. તે સ્પષ્ટ નથી કે વર્તમાન તકનીકો આ માટે યોગ્ય છે કે કેમ, કારણ કે જીવવિજ્ઞાન એક જટિલ ક્ષેત્ર છે. તમારે ઘણાં પુસ્તકો વાંચવા માટે તૈયાર રહેવાની જરૂર છે. વૈજ્ઞાનિકો નેટવર્ક્સ અને પરમાણુઓની ક્રિયાપ્રતિક્રિયામાં કારણ-અને-અસર સંબંધોને સમજે છે, ગ્રહો વિશે સિદ્ધાંતો વિકસાવી શકે છે, વગેરે. જો કે, વિશિષ્ટ AI સાથે, અમે આવી શોધો માટે સક્ષમ મશીનો બનાવી શકતા નથી. અને સામાન્ય AI સાથે, અમે વિજ્ઞાન, ટેકનોલોજી અને દવામાં ક્રાંતિ લાવી શકીએ છીએ. મારા મતે, સામાન્ય AI બનાવવાની દિશામાં કામ કરવાનું ચાલુ રાખવું ખૂબ જ મહત્વપૂર્ણ છે.

એવું લાગે છે કે "સામાન્ય" દ્વારા તમારો મતલબ મજબૂત AI છે?

"સામાન્ય" દ્વારા મારો મતલબ છે કે AI ફ્લાય પર નવી સમસ્યાઓ વિશે વિચારવામાં અને ઉકેલવામાં સક્ષમ હશે. તેનાથી વિપરીત, કહો, જાઓ, જ્યાં છેલ્લા 2000 વર્ષથી સમસ્યા બદલાઈ નથી.

જનરલ એઆઈ રાજકારણ અને દવા બંનેમાં નિર્ણયો લેવામાં સક્ષમ હોવા જોઈએ. આ માનવ ક્ષમતાને અનુરૂપ છે; કોઈપણ સમજદાર વ્યક્તિ ઘણું કરી શકે છે. તમે બિનઅનુભવી વિદ્યાર્થીઓને લો છો અને થોડા જ દિવસોમાં તેમને કાયદાકીય સમસ્યાથી લઈને તબીબી સમસ્યા સુધી લગભગ કોઈપણ બાબત પર કામ કરવા દો છો. આ એટલા માટે છે કારણ કે તેઓ વિશ્વની સામાન્ય સમજ ધરાવે છે અને વાંચી શકે છે, અને તેથી પ્રવૃત્તિઓની ખૂબ જ વિશાળ શ્રેણીમાં યોગદાન આપી શકે છે.

આવી બુદ્ધિમત્તા અને મજબૂત બુદ્ધિ વચ્ચેનો સંબંધ એ છે કે બિન-મજબૂત બુદ્ધિ સામાન્ય સમસ્યાઓનું નિરાકરણ કરી શકશે નહીં. સતત બદલાતી દુનિયા સાથે વ્યવહાર કરવા માટે કંઈક મજબૂત બનાવવા માટે, તમારે ઓછામાં ઓછી સામાન્ય બુદ્ધિનો સંપર્ક કરવાની જરૂર પડી શકે છે.

પરંતુ હવે આપણે આનાથી ઘણા દૂર છીએ. AlphaGo 19x19 બોર્ડ પર સારી રીતે રમી શકે છે, પરંતુ તેને લંબચોરસ બોર્ડ પર રમવા માટે ફરીથી પ્રશિક્ષિત કરવાની જરૂર છે. અથવા સરેરાશ ડીપ લર્નિંગ સિસ્ટમ લો: જો તે સારી રીતે પ્રકાશિત હોય અને તેની ચામડીની રચના દૃશ્યમાન હોય તો તે હાથીને ઓળખી શકે છે. અને જો ફક્ત હાથીનું સિલુએટ દેખાય છે, તો સિસ્ટમ કદાચ તેને ઓળખી શકશે નહીં.

તમારા પુસ્તકમાં, તમે ઉલ્લેખ કર્યો છે કે ડીપ લર્નિંગ સામાન્ય AI ની ક્ષમતાઓ હાંસલ કરી શકતું નથી કારણ કે તે ઊંડી સમજણ માટે સક્ષમ નથી.

જ્ઞાનાત્મક વિજ્ઞાનમાં તેઓ વિવિધ જ્ઞાનાત્મક મોડલની રચના વિશે વાત કરે છે. હું હોટલના રૂમમાં બેઠો છું અને હું સમજું છું કે ત્યાં એક કબાટ છે, એક પલંગ છે, ત્યાં એક ટીવી છે જે અસામાન્ય રીતે લટકાવવામાં આવ્યું છે. હું આ બધી વસ્તુઓને જાણું છું, હું ફક્ત તેમને ઓળખતો નથી. હું એ પણ સમજું છું કે તેઓ એકબીજા સાથે કેવી રીતે જોડાયેલા છે. મારી આજુબાજુની દુનિયાની કામગીરી વિશે મારી પાસે વિચારો છે. તેઓ સંપૂર્ણ નથી. તેઓ ખોટા હોઈ શકે છે, પરંતુ તેઓ ખૂબ સારા છે. અને તેના આધારે, હું ઘણાં તારણો કાઢું છું જે મારી દૈનિક ક્રિયાઓ માટે માર્ગદર્શિકા બની જાય છે.

બીજી આત્યંતિક બાબત ડીપમાઇન્ડ દ્વારા બનાવવામાં આવેલી અટારી ગેમ સિસ્ટમ જેવી હતી, જેમાં તેને યાદ આવ્યું કે જ્યારે તેને સ્ક્રીન પર અમુક જગ્યાએ પિક્સેલ્સ જોવા મળે ત્યારે તેને શું કરવાની જરૂર હતી. જો તમને પૂરતો ડેટા મળે છે, તો તમને લાગે છે કે તમારી પાસે સમજ છે, પરંતુ વાસ્તવમાં તે ખૂબ જ સુપરફિસિયલ છે. આનો પુરાવો એ છે કે જો તમે ઑબ્જેક્ટ્સને ત્રણ પિક્સેલ્સ દ્વારા ખસેડો છો, તો AI વધુ ખરાબ રીતે ભજવે છે. ફેરફારો તેને મૂંઝવે છે. આ ઊંડી સમજણથી વિરુદ્ધ છે.

આ સમસ્યાને ઉકેલવા માટે, તમે ક્લાસિકલ AI પર પાછા ફરવાનો પ્રસ્તાવ મૂકો છો. આપણે કયા ફાયદાઓનો ઉપયોગ કરવાનો પ્રયાસ કરવો જોઈએ?

ઘણા ફાયદા છે.

પ્રથમ, ક્લાસિકલ AI વાસ્તવમાં વિશ્વના જ્ઞાનાત્મક મોડલ બનાવવા માટેનું માળખું છે, જેના આધારે પછી તારણો કાઢી શકાય છે.

બીજું, ક્લાસિકલ AI નિયમો સાથે સંપૂર્ણ રીતે સુસંગત છે. અત્યારે ડીપ લર્નિંગમાં એક વિચિત્ર વલણ છે જ્યાં નિષ્ણાતો નિયમોને ટાળવાનો પ્રયાસ કરી રહ્યા છે. તેઓ ન્યુરલ નેટવર્ક્સ પર બધું જ કરવા માંગે છે અને ક્લાસિકલ પ્રોગ્રામિંગ જેવું લાગે તેવું કંઈપણ કરતા નથી. પરંતુ એવી સમસ્યાઓ છે જે આ રીતે શાંતિથી હલ કરવામાં આવી હતી, અને કોઈએ તેના પર ધ્યાન આપ્યું નથી. ઉદાહરણ તરીકે, Google નકશામાં રૂટ બનાવવા.

હકીકતમાં, આપણને બંને અભિગમોની જરૂર છે. ડેટામાંથી શીખવા માટે મશીન લર્નિંગ સારું છે, પરંતુ કમ્પ્યુટર પ્રોગ્રામ રજૂ કરે છે તે અમૂર્તતાને રજૂ કરવામાં ખૂબ જ નબળી છે. ક્લાસિક AI એબ્સ્ટ્રેક્શન્સ સાથે સારી રીતે કામ કરે છે, પરંતુ તે સંપૂર્ણપણે હાથથી પ્રોગ્રામ થયેલ હોવું જોઈએ, અને તે બધાને પ્રોગ્રામ કરવા માટે વિશ્વમાં ઘણું જ્ઞાન છે. સ્પષ્ટપણે આપણે બંને અભિગમોને જોડવાની જરૂર છે.

આ તે પ્રકરણ સાથે જોડાયેલું છે જેમાં તમે માનવ મનમાંથી આપણે શું શીખી શકીએ તે વિશે વાત કરો છો. અને સૌ પ્રથમ, ઉપર જણાવેલ વિચાર પર આધારિત ખ્યાલ વિશે કે આપણી ચેતનામાં ઘણી જુદી જુદી પ્રણાલીઓનો સમાવેશ થાય છે જે જુદી જુદી રીતે કાર્ય કરે છે.

મને લાગે છે કે આ સમજાવવાની બીજી રીત એ છે કે આપણી પાસે દરેક જ્ઞાનાત્મક પ્રણાલી ખરેખર એક અલગ સમસ્યાનું નિરાકરણ કરે છે. AI ના સમાન ભાગો વિવિધ લાક્ષણિકતાઓ ધરાવતી વિવિધ સમસ્યાઓ ઉકેલવા માટે ડિઝાઇન કરવા જોઈએ.

હવે અમે એકબીજાથી ધરમૂળથી અલગ હોય તેવી સમસ્યાઓને ઉકેલવા માટે કેટલીક ઓલ-ઇન-વન ટેકનોલોજીનો ઉપયોગ કરવાનો પ્રયાસ કરી રહ્યા છીએ. વાક્યને સમજવું એ કોઈ વસ્તુને ઓળખવા જેવું જ નથી. પરંતુ લોકો બંને કિસ્સાઓમાં ઊંડા શિક્ષણનો ઉપયોગ કરવાનો પ્રયાસ કરી રહ્યા છે. જ્ઞાનાત્મક દૃષ્ટિકોણથી, આ ગુણાત્મક રીતે અલગ કાર્યો છે. ડીપ લર્નિંગ કોમ્યુનિટીમાં ક્લાસિકલ AI માટે કેટલી ઓછી પ્રશંસા છે તે જોઈને હું આશ્ચર્યચકિત છું. ચાંદીની બુલેટ દેખાવાની રાહ શા માટે? તે અપ્રાપ્ય છે, અને નિરર્થક શોધો અમને AI બનાવવાના કાર્યની સંપૂર્ણ જટિલતાને સમજવાની મંજૂરી આપતી નથી.

તમે એ પણ ઉલ્લેખ કરો છો કે કારણ-અને-અસર સંબંધોને સમજવા માટે AI સિસ્ટમની જરૂર છે. શું તમને લાગે છે કે ડીપ લર્નિંગ, ક્લાસિકલ AI અથવા કંઈક નવું આમાં અમને મદદ કરશે?

આ બીજું ક્ષેત્ર છે જ્યાં ડીપ લર્નિંગ યોગ્ય નથી. તે અમુક ઘટનાઓના કારણોને સમજાવતું નથી, પરંતુ આપેલ પરિસ્થિતિઓમાં ઘટનાની સંભાવનાની ગણતરી કરે છે.

આપણે શું વાત કરી રહ્યા છીએ? તમે અમુક દૃશ્યો જુઓ છો, અને તમે સમજો છો કે આવું શા માટે થાય છે અને જો અમુક સંજોગો બદલાય તો શું થઈ શકે છે. ટીવી જે સ્ટેન્ડ પર બેસે છે તે હું જોઈ શકું છું અને કલ્પના કરી શકું છું કે જો હું તેનો એક પગ કાપી નાખીશ તો સ્ટેન્ડ ઉપર છેડો પડી જશે અને ટીવી પડી જશે. આ એક કારણ અને અસર સંબંધ છે.

ક્લાસિક AI અમને આ માટે કેટલાક સાધનો આપે છે. તે કલ્પના કરી શકે છે, ઉદાહરણ તરીકે, આધાર શું છે અને પતન શું છે. પણ હું વધારે વખાણ નહીં કરું. સમસ્યા એ છે કે ક્લાસિકલ AI મોટાભાગે શું થઈ રહ્યું છે તેની સંપૂર્ણ માહિતી પર આધાર રાખે છે, અને હું સ્ટેન્ડ જોઈને જ નિષ્કર્ષ પર આવ્યો છું. હું કોઈક રીતે સામાન્યીકરણ કરી શકું છું, સ્ટેન્ડના ભાગોની કલ્પના કરી શકું છું જે મને દૃશ્યમાન નથી. અમારી પાસે હજુ સુધી આ ગુણધર્મને અમલમાં મૂકવા માટેના સાધનો નથી.

તમે પણ કહો છો કે લોકોને જન્મજાત જ્ઞાન હોય છે. આને AI માં કેવી રીતે લાગુ કરી શકાય?

જન્મના ક્ષણે, આપણું મગજ પહેલેથી જ એક ખૂબ જ વિસ્તૃત સિસ્ટમ છે. તે નિશ્ચિત નથી, કુદરતે પ્રથમ, રફ ડ્રાફ્ટ બનાવ્યો છે. અને પછી શીખવું એ ડ્રાફ્ટને આપણા જીવન દરમિયાન સુધારવામાં મદદ કરે છે.

મગજના રફ ડ્રાફ્ટમાં પહેલાથી જ ચોક્કસ ક્ષમતાઓ હોય છે. એક નવજાત પહાડી બકરી અયોગ્ય રીતે થોડા કલાકોમાં પર્વતની બાજુએ ઉતરી શકે છે. તે સ્પષ્ટ છે કે તેને પહેલેથી જ ત્રિ-પરિમાણીય અવકાશ, તેના શરીર અને તેમની વચ્ચેના સંબંધની સમજ છે. એક ખૂબ જ જટિલ સિસ્ટમ.

આ અંશતઃ શા માટે મને લાગે છે કે આપણને સંકરની જરૂર છે. ખાલી સ્લેટથી શરૂ કરીને અને લાંબા, વિશાળ અનુભવમાંથી શીખવાને બદલે, ક્યાંથી શરૂ કરવું તેની સમાન જાણકારી વિના વિશ્વમાં સારી રીતે કાર્ય કરી શકે તેવો રોબોટ કેવી રીતે બનાવી શકે તેની કલ્પના કરવી મુશ્કેલ છે.

મનુષ્યો માટે, આપણું જન્મજાત જ્ઞાન આપણા જીનોમમાંથી આવે છે, જે લાંબા સમયથી વિકસિત થયું છે. પરંતુ AI સિસ્ટમ સાથે આપણે અલગ માર્ગ પર જવું પડશે. આનો ભાગ અમારા અલ્ગોરિધમ્સ બનાવવા માટેના નિયમો હોઈ શકે છે. આનો એક ભાગ ડેટા સ્ટ્રક્ચર્સ બનાવવા માટેના નિયમો હોઈ શકે છે જે આ અલ્ગોરિધમ્સ ચાલાકી કરે છે. અને આનો એક ભાગ એ જ્ઞાન હોઈ શકે છે કે અમે મશીનોમાં સીધું રોકાણ કરીશું.

તે રસપ્રદ છે કે પુસ્તકમાં તમે ટ્રસ્ટનો વિચાર અને ટ્રસ્ટિંગ સિસ્ટમ્સની રચના લાવી છે. તમે આ ચોક્કસ માપદંડ શા માટે પસંદ કર્યો?

હું માનું છું કે આજે આ બધું બોલની રમત છે. મને એવું લાગે છે કે આપણે ઇતિહાસની એક વિચિત્ર ક્ષણમાંથી જીવી રહ્યા છીએ, ઘણા બધા સોફ્ટવેર પર વિશ્વાસ કરીએ છીએ જે વિશ્વાસપાત્ર નથી. મને લાગે છે કે આજે આપણને જે ચિંતાઓ છે તે કાયમ માટે રહેશે નહીં. સો વર્ષમાં, AI અમારા વિશ્વાસને ન્યાયી ઠેરવશે, અને કદાચ વહેલા.

પરંતુ આજે AI ખતરનાક છે. એલોન મસ્કને ડર લાગે છે તે અર્થમાં નહીં, પરંતુ તે અર્થમાં કે જોબ ઇન્ટરવ્યૂ સિસ્ટમ્સ મહિલાઓ સાથે ભેદભાવ કરે છે, પ્રોગ્રામરો શું કરે છે તે ધ્યાનમાં લીધા વિના, કારણ કે તેમના સાધનો ખૂબ સરળ છે.

હું ઈચ્છું છું કે અમારી પાસે વધુ સારું AI હોત. હું "AI વિન્ટર" જોવા નથી માંગતો જ્યાં લોકોને ખ્યાલ આવે કે AI કામ કરતું નથી અને તે સાદા જોખમી છે અને તેને ઠીક કરવા માંગતા નથી.

કેટલીક રીતે, તમારું પુસ્તક ખૂબ જ આશાવાદી લાગે છે. તમે ધારો છો કે વિશ્વાસપાત્ર AI બનાવવું શક્ય છે. આપણે માત્ર એક અલગ દિશામાં જોવાની જરૂર છે.

તે સાચું છે, પુસ્તક ટૂંકા ગાળામાં ખૂબ નિરાશાવાદી છે અને લાંબા ગાળે ખૂબ આશાવાદી છે. અમે માનીએ છીએ કે અમે વર્ણવેલ તમામ સમસ્યાઓ સાચા જવાબો શું હોવા જોઈએ તેના પર વિસ્તૃત નજર નાખીને ઉકેલી શકાય છે. અને અમને લાગે છે કે જો આવું થાય, તો વિશ્વ વધુ સારી જગ્યા હશે.

સોર્સ: www.habr.com