Մենք չենք կարող վստահել միայն խորը ուսուցման վրա կառուցված AI համակարգերին

Այս տեքստը գիտական ​​հետազոտությունների արդյունք չէ, այլ մեր անմիջական տեխնոլոգիական զարգացման վերաբերյալ բազմաթիվ կարծիքներից մեկը: Եվ միևնույն ժամանակ քննարկման հրավեր։

Նյու Յորքի համալսարանի պրոֆեսոր Գարի Մարկուսը կարծում է, որ խորը ուսուցումը կարևոր դեր է խաղում AI-ի զարգացման գործում: Բայց նա նաև կարծում է, որ այս տեխնիկայի նկատմամբ չափազանց մեծ ոգևորությունը կարող է հանգեցնել դրա վարկաբեկմանը:

Իր գրքում Արհեստական ​​ինտելեկտի վերաբեռնում. Արհեստական ​​ինտելեկտի ստեղծում, որին կարող ենք վստահել Մարկուսը, որը վերապատրաստվել է նյարդաբան, ով կարիերա է կառուցել ժամանակակից AI հետազոտությունների վրա, անդրադառնում է տեխնիկական և էթիկական ասպեկտներին: Տեխնոլոգիական տեսանկյունից խորը ուսուցումը կարող է հաջողությամբ ընդօրինակել մեր ուղեղի կատարած ընկալման խնդիրները, ինչպիսիք են պատկերի կամ խոսքի ճանաչումը: Բայց այլ խնդիրների համար, ինչպիսիք են խոսակցությունները հասկանալը կամ պատճառահետևանքային հարաբերությունները որոշելը, խորը ուսուցումը հարմար չէ: Ավելի առաջադեմ խելացի մեքենաներ ստեղծելու համար, որոնք կարող են լուծել խնդիրների ավելի լայն շրջանակ, որը հաճախ կոչվում է արհեստական ​​ընդհանուր ինտելեկտ, խորը ուսուցումը պետք է համակցվի այլ տեխնիկայի հետ:

Եթե ​​AI համակարգը իսկապես չի հասկանում իր առաջադրանքները կամ իրեն շրջապատող աշխարհը, դա կարող է հանգեցնել վտանգավոր հետևանքների: Համակարգի միջավայրում նույնիսկ ամենաչնչին անսպասելի փոփոխությունները կարող են հանգեցնել սխալ վարքագծի: Նման օրինակներ արդեն շատ են եղել. անհամապատասխան արտահայտությունների որոշիչները, որոնք հեշտ է խաբել. աշխատանքի որոնման համակարգեր, որոնք հետևողականորեն խտրականություն են դնում. առանց վարորդի մեքենաներ, որոնք վթարի են ենթարկվում և երբեմն սպանում վարորդին կամ հետիոտնին: Արհեստական ​​ընդհանուր ինտելեկտի ստեղծումը պարզապես հետաքրքիր հետազոտական ​​խնդիր չէ, այն ունի բազմաթիվ լիովին գործնական կիրառություններ։

Իրենց գրքում Մարկուսը և նրա համահեղինակ Էռնեստ Դևիսը վիճում են այլ ճանապարհի համար: Նրանք կարծում են, որ մենք դեռ հեռու ենք ընդհանուր արհեստական ​​ինտելեկտ ստեղծելուց, բայց վստահ են, որ վաղ թե ուշ հնարավոր կլինի ստեղծել այն։

Ինչու՞ մեզ պետք է ընդհանուր AI: Մասնագիտացված տարբերակներն արդեն ստեղծվել են և շատ օգուտներ են բերում։

Դա ճիշտ է, և ավելի շատ օգուտներ կլինեն: Բայց կան բազմաթիվ խնդիրներ, որոնք մասնագիտացված AI-ն պարզապես չի կարող լուծել: Օրինակ՝ սովորական խոսքի ըմբռնում, կամ ընդհանուր օգնություն վիրտուալ աշխարհում, կամ ռոբոտ, որն օգնում է մաքրել և պատրաստել: Նման առաջադրանքները դուրս են մասնագիտացված AI-ի հնարավորություններից: Մեկ այլ հետաքրքիր գործնական հարց. հնարավո՞ր է ստեղծել անվտանգ ինքնակառավարվող մեքենա՝ օգտագործելով մասնագիտացված AI: Փորձը ցույց է տալիս, որ նման AI-ն դեռևս բազմաթիվ խնդիրներ ունի աննորմալ իրավիճակներում վարքագծի հետ կապված, նույնիսկ երբ վարելիս, ինչը մեծապես բարդացնում է իրավիճակը:

Կարծում եմ՝ մենք բոլորս կցանկանայինք ունենալ արհեստական ​​ինտելեկտ, որը կարող է օգնել մեզ մեծ նոր բացահայտումներ կատարել բժշկության մեջ: Անհասկանալի է, թե արդյոք ներկայիս տեխնոլոգիաները հարմար են դրա համար, քանի որ կենսաբանությունը բարդ ոլորտ է։ Դուք պետք է պատրաստ լինեք շատ գրքեր կարդալու համար: Գիտնականները հասկանում են ցանցերի և մոլեկուլների փոխազդեցության պատճառահետևանքային կապերը, կարող են մոլորակների մասին տեսություններ մշակել և այլն։ Սակայն մասնագիտացված արհեստական ​​ինտելեկտի դեպքում մենք չենք կարող նման հայտնագործությունների ունակ մեքենաներ ստեղծել։ Իսկ ընդհանուր արհեստական ​​ինտելեկտի շնորհիվ մենք կարող ենք հեղափոխել գիտությունը, տեխնոլոգիան և բժշկությունը: Իմ կարծիքով, շատ կարևոր է շարունակել աշխատանքը ընդհանուր AI-ի ստեղծման ուղղությամբ:

Թվում է, թե «ընդհանուր» ասելով նկատի ունեք ուժեղ AI:

«Ընդհանուր» ասելով նկատի ունեմ, որ արհեստական ​​ինտելեկտը կկարողանա մտածել և լուծել նոր խնդիրների մասին: Ի տարբերություն, ասենք, Գոյի, որտեղ խնդիրը չի փոխվել վերջին 2000 տարվա ընթացքում։

Ընդհանուր AI-ն պետք է կարողանա որոշումներ կայացնել ինչպես քաղաքականության, այնպես էլ բժշկության ոլորտում: Սա նման է մարդու կարողություններին. ցանկացած բանական մարդ կարող է շատ բան անել: Դուք վերցնում եք անփորձ ուսանողների և մի քանի օրվա ընթացքում նրանց ստիպում եք աշխատել գրեթե ամեն ինչի վրա՝ իրավական խնդրից մինչև բժշկական խնդիր: Դա պայմանավորված է նրանով, որ նրանք ընդհանուր պատկերացում ունեն աշխարհի մասին և կարող են կարդալ, հետևաբար կարող են նպաստել գործունեության շատ լայն շրջանակի:

Նման ինտելեկտի և ուժեղ ինտելեկտի միջև կապն այն է, որ ոչ ուժեղ բանականությունը, հավանաբար, չի կարողանա լուծել ընդհանուր խնդիրներ: Որպեսզի ստեղծեք ինչ-որ բավականաչափ ամուր բան, որպեսզի կարողանաք գործ ունենալ անընդհատ փոփոխվող աշխարհի հետ, ձեզ հարկավոր է գոնե մոտենալ ընդհանուր բանականությանը:

Բայց հիմա մենք շատ հեռու ենք սրանից։ AlphaGo-ն կարող է հիանալի խաղալ 19x19 տախտակի վրա, սակայն այն պետք է վերապատրաստվի՝ ուղղանկյուն տախտակի վրա խաղալու համար: Կամ վերցրեք միջին խորը ուսուցման համակարգը. այն կարող է ճանաչել փղին, եթե այն լավ լուսավորված է և տեսանելի է նրա մաշկի հյուսվածքը: Եվ եթե միայն փղի ուրվագիծը տեսանելի լինի, ապա համակարգը հավանաբար չի կարողանա ճանաչել այն։

Ձեր գրքում դուք նշում եք, որ խորը ուսուցումը չի կարող հասնել ընդհանուր AI-ի հնարավորություններին, քանի որ այն ունակ չէ խորը հասկանալու:

Կոգնիտիվ գիտության մեջ խոսում են տարբեր ճանաչողական մոդելների ձևավորման մասին։ Ես նստած եմ հյուրանոցի համարում և հասկանում եմ, որ կա պահարան, կա մահճակալ, կա հեռուստացույց, որը կախված է անսովոր ձևով: Ես գիտեմ այս բոլոր օբյեկտները, ես դրանք պարզապես չեմ նույնացնում: Ես նաև հասկանում եմ, թե ինչպես են դրանք փոխկապակցված միմյանց հետ։ Ես պատկերացումներ ունեմ ինձ շրջապատող աշխարհի գործունեության մասին: Նրանք կատարյալ չեն: Նրանք կարող են սխալվել, բայց նրանք բավականին լավն են: Եվ դրանց հիման վրա ես շատ եզրակացություններ եմ անում, որոնք ուղենիշ են դառնում իմ ամենօրյա գործողությունների համար։

Մյուս ծայրահեղությունը DeepMind-ի կողմից կառուցված Atari խաղային համակարգի նման մի բան էր, որտեղ նա հիշում էր, թե ինչ պետք է աներ, երբ էկրանի որոշակի վայրերում պիքսելներ էր տեսնում: Եթե ​​բավականաչափ տվյալներ եք ստանում, կարող եք մտածել, որ փոխըմբռնում ունեք, բայց իրականում դա շատ մակերեսային է։ Ասվածի ապացույցն այն է, որ եթե օբյեկտները տեղափոխում եք երեք պիքսել, AI-ն շատ ավելի վատ է խաղում: Փոփոխությունները շփոթեցնում են նրան: Սա խորը հասկացողության հակառակն է:

Այս խնդիրը լուծելու համար դուք առաջարկում եք վերադառնալ դասական AI-ին: Ի՞նչ առավելություններ պետք է փորձենք օգտագործել:

Կան մի քանի առավելություններ.

Նախ, դասական AI-ն իրականում աշխարհի ճանաչողական մոդելների ստեղծման շրջանակ է, որի հիման վրա կարելի է եզրակացություններ անել:

Երկրորդ, դասական AI-ն լիովին համապատասխանում է կանոններին: Ներկայումս խորը ուսուցման տարօրինակ միտում կա, որտեղ փորձագետները փորձում են խուսափել կանոններից: Նրանք ցանկանում են ամեն ինչ անել նեյրոնային ցանցերում և չանել այնպիսի բան, որը նման է դասական ծրագրավորման: Բայց կան խնդիրներ, որոնք այսպես հանգիստ լուծվեցին, ու ոչ ոք դրան ուշադրություն չդարձրեց։ Օրինակ՝ երթուղիներ կառուցել Google Maps-ում:

Իրականում երկու մոտեցումներն էլ պետք են։ Մեքենայական ուսուցումը լավ է սովորում տվյալներից, բայց շատ վատ է ներկայացնում այն ​​վերացականությունը, որը համակարգչային ծրագիր է: Դասական AI-ն լավ է աշխատում աբստրակցիաների հետ, բայց այն պետք է ամբողջությամբ ծրագրավորվի ձեռքով, և աշխարհում չափազանց շատ գիտելիքներ կան դրանք բոլորը ծրագրավորելու համար: Ակնհայտ է, որ մենք պետք է համատեղենք երկու մոտեցումները:

Սա կապված է այն գլխի հետ, որտեղ դուք խոսում եք այն մասին, թե ինչ կարող ենք սովորել մարդկային մտքից: Եվ առաջին հերթին վերը նշված այն մտքի վրա հիմնված հայեցակարգի մասին, որ մեր գիտակցությունը բաղկացած է բազմաթիվ տարբեր համակարգերից, որոնք գործում են տարբեր ձևերով։

Կարծում եմ, սա բացատրելու մեկ այլ տարբերակ այն է, որ յուրաքանչյուր ճանաչողական համակարգ, որը մենք ունենք, իսկապես լուծում է տարբեր խնդիր: AI-ի նմանատիպ մասերը պետք է նախագծված լինեն տարբեր խնդիրներ լուծելու համար, որոնք ունեն տարբեր բնութագրեր:

Այժմ մենք փորձում ենք օգտագործել մի քանի համընդհանուր տեխնոլոգիաներ՝ միմյանցից արմատապես տարբերվող խնդիրներ լուծելու համար: Նախադասություն հասկանալն ամենևին էլ նույնը չէ, ինչ առարկան ճանաչելը։ Բայց մարդիկ երկու դեպքում էլ փորձում են օգտագործել խորը ուսուցումը: Ճանաչողական տեսանկյունից դրանք որակապես տարբեր առաջադրանքներ են։ Ես ուղղակի զարմացած եմ, թե որքան քիչ է գնահատվում դասական AI-ն խորը ուսուցման համայնքում: Ինչու՞ սպասել, որ արծաթե փամփուշտ հայտնվի: Դա անհասանելի է, և անպտուղ որոնումները մեզ թույլ չեն տալիս ըմբռնել AI-ի ստեղծման առաջադրանքի ողջ բարդությունը։

Դուք նաև նշում եք, որ AI համակարգերն անհրաժեշտ են պատճառահետևանքային հարաբերությունները հասկանալու համար: Ի՞նչ եք կարծում, խորը ուսուցումը, դասական արհեստական ​​ինտելեկտը կամ միանգամայն նոր բան մեզ կօգնի՞ այս հարցում:

Սա ևս մեկ ոլորտ է, որտեղ խորը ուսուցումը այնքան էլ հարմար չէ: Այն չի բացատրում որոշակի իրադարձությունների պատճառները, այլ հաշվարկում է իրադարձության հավանականությունը տվյալ պայմաններում:

Ինչի՞ մասին ենք խոսում։ Դուք դիտում եք որոշակի սցենարներ և հասկանում եք, թե ինչու է դա տեղի ունենում, և ինչ կարող է տեղի ունենալ, եթե որոշ հանգամանքներ փոխվեն: Ես կարող եմ նայել այն ստենդին, որի վրա նստած է հեռուստացույցը և պատկերացնել, որ եթե ես կտրեմ դրա մի ոտքը, ապա տակը կշրջվի, և հեռուստացույցը կընկնի: Սա պատճառահետևանքային հարաբերություն է:

Դասական AI-ն մեզ տալիս է որոշ գործիքներ դրա համար: Նա պատկերացնում է, օրինակ, թե ինչ է հենարանը, ինչ է անկումը։ Բայց ես չափից դուրս չեմ գովաբանի. Խնդիրն այն է, որ դասական արհեստական ​​ինտելեկտը մեծապես կախված է կատարվածի մասին ամբողջական տեղեկատվությունից, և ես եզրակացության հանգեցի՝ նայելով միայն ստենդին։ Ես կարող եմ մի կերպ ընդհանրացնել, պատկերացնել ստենդի հատվածներ, որոնք ինձ համար տեսանելի չեն։ Մենք դեռ չունենք գործիքներ այս գույքն իրականացնելու համար:

Դուք էլ ասում եք, որ մարդիկ բնածին գիտելիքներ ունեն։ Ինչպե՞ս դա կարող է իրականացվել AI-ում:

Ծննդյան պահին մեր ուղեղն արդեն շատ մշակված համակարգ է։ Բնությունը ֆիքսված չէ առաջին, կոպիտ նախագիծը. Եվ հետո սովորելը մեզ օգնում է վերանայել այդ նախագիծը մեր ողջ կյանքում:

Ուղեղի կոպիտ նախագիծն արդեն որոշակի հնարավորություններ ունի։ Նորածին լեռնային այծը մի քանի ժամվա ընթացքում կարողանում է անվրեպ իջնել սարի լանջը։ Ակնհայտ է, որ նա արդեն պատկերացում ունի եռաչափ տարածության, իր մարմնի և նրանց միջև փոխհարաբերությունների մասին։ Շատ բարդ համակարգ.

Մասամբ սա է պատճառը, որ ես կարծում եմ, որ մեզ պետք են հիբրիդներ: Դժվար է պատկերացնել, թե ինչպես կարելի է ստեղծել մի ռոբոտ, որը լավ է գործում աշխարհում առանց նմանատիպ գիտելիքների, թե որտեղից սկսել, այլ ոչ թե սկսել դատարկ թերթիկից և սովորել երկար, հսկայական փորձից:

Ինչ վերաբերում է մարդկանց, ապա մեր բնածին գիտելիքները բխում են մեր գենոմից, որը զարգացել է երկար ժամանակ: Բայց AI համակարգերով մենք ստիպված կլինենք գնալ այլ ճանապարհով: Դրա մի մասը կարող է լինել մեր ալգորիթմների կառուցման կանոնները: Դրա մի մասը կարող է լինել տվյալների կառուցվածքների ստեղծման կանոնները, որոնք այս ալգորիթմները շահարկում են: Եվ դրա մի մասը կարող է լինել այն գիտելիքը, որ մենք ուղղակիորեն ներդրումներ կանենք մեքենաներում:

Հետաքրքիր է, որ գրքում դուք վեր հանում եք վստահության և վստահության համակարգերի ստեղծման գաղափարը։ Ինչո՞ւ ընտրեցիք այս կոնկրետ չափանիշը:

Ես հավատում եմ, որ այսօր այս ամենը գնդակով խաղ է։ Ինձ թվում է, որ մենք պատմության մեջ տարօրինակ պահ ենք ապրում՝ վստահելով բազմաթիվ ծրագրերի, որոնք վստահելի չեն: Կարծում եմ՝ այն մտահոգությունները, որ այսօր ունենք, հավերժ չեն տեւի։ Հարյուր տարի հետո AI-ն կարդարացնի մեր վստահությունը, և գուցե ավելի շուտ:

Բայց այսօր AI-ն վտանգավոր է: Ոչ այն իմաստով, որից վախենում է Իլոն Մասկը, այլ այն առումով, որ աշխատանքի հարցազրույցների համակարգերը խտրականություն են ցուցաբերում կանանց նկատմամբ՝ անկախ նրանից, թե ինչ են անում ծրագրավորողները, քանի որ նրանց գործիքները չափազանց պարզ են:

Կցանկանայի, որ մենք ունենայինք ավելի լավ AI: Ես չեմ ուզում տեսնել «AI ձմեռ», որտեղ մարդիկ գիտակցում են, որ AI-ն չի աշխատում և պարզապես վտանգավոր է և չեն ցանկանում շտկել այն:

Որոշ առումներով ձեր գիրքը շատ լավատեսական է թվում: Դուք ենթադրում եք, որ հնարավոր է կառուցել վստահելի AI: Պարզապես պետք է այլ ուղղությամբ նայել:

Ճիշտ է, գիրքը կարճաժամկետ հեռանկարում շատ հոռետեսական է, իսկ երկարաժամկետ հեռանկարում՝ շատ լավատեսական: Մենք հավատում ենք, որ մեր նկարագրած բոլոր խնդիրները կարող են լուծվել՝ ավելի լայն դիտարկելով, թե որոնք պետք է լինեն ճիշտ պատասխանները: Եվ մենք կարծում ենք, որ եթե դա տեղի ունենա, աշխարհն ավելի լավը կդառնա:

Source: www.habr.com