Бұл мәтін ғылыми зерттеулердің нәтижесі емес, біздің технологиялық дамуымызға қатысты көптеген пікірлердің бірі. Сонымен қатар талқылауға шақыру.
Нью-Йорк университетінің профессоры Гари Маркус AI дамуында терең білім маңызды рөл атқарады деп есептейді. Бірақ ол сонымен қатар бұл техникаға шамадан тыс ынта оның беделін түсіруге әкелуі мүмкін деп санайды.
Оның кітабында AI қайта жүктеу: біз сенуге болатын жасанды интеллект құру Маркус, AI зерттеулері бойынша мансап құрған, білімі бойынша невролог, техникалық және этикалық аспектілерді қарастырады. Технология тұрғысынан терең оқыту миымыз орындайтын сурет немесе сөйлеуді тану сияқты перцептивтік тапсырмаларды сәтті еліктей алады. Бірақ әңгімелесуді түсіну немесе себеп-салдар байланысын анықтау сияқты басқа тапсырмалар үшін терең оқыту жарамайды. Көбінесе жасанды жалпы интеллект деп аталатын мәселелердің кең ауқымын шеше алатын жетілдірілген интеллектуалды машиналарды жасау үшін терең оқытуды басқа әдістермен біріктіру қажет.
Егер AI жүйесі өз міндеттерін немесе айналасындағы әлемді шынымен түсінбесе, бұл қауіпті салдарға әкелуі мүмкін. Жүйе ортасындағы ең кішкентай күтпеген өзгерістердің өзі қате мінез-құлыққа әкелуі мүмкін. Мұндай мысалдар бұрыннан да көп болды: алдау оңай орынсыз өрнектердің анықтауыштары; дәйекті түрде кемсітетін жұмыс іздеу жүйелері; апатқа ұшырап, кейде жүргізушіні немесе жаяу жүргіншіні өлтіретін жүргізушісіз көліктер. Жасанды жалпы интеллект құру - бұл қызықты зерттеу мәселесі ғана емес, оның көптеген практикалық қолданбалары бар.
Өз кітабында Маркус және оның авторлары Эрнест Дэвис басқа жолды талап етеді. Олар біз жалпы AI жасаудан әлі алыспыз деп санайды, бірақ олар ерте ме, кеш пе оны жасау мүмкін болатынына сенімді.
Неліктен бізге жалпы жасанды интеллект қажет? Мамандандырылған нұсқалар қазірдің өзінде жасалды және көп пайда әкеледі.
Бұл дұрыс және одан да көп артықшылықтар болады. Бірақ мамандандырылған AI жай шеше алмайтын көптеген мәселелер бар. Мысалы, кәдімгі сөйлеуді түсіну немесе виртуалды әлемде жалпы көмек немесе тазалау және тамақ дайындауға көмектесетін робот. Мұндай тапсырмалар мамандандырылған АИ мүмкіндіктерінен тыс. Тағы бір қызықты практикалық сұрақ: мамандандырылған AI көмегімен қауіпсіз өздігінен жүретін көлікті жасауға бола ма? Тәжірибе көрсеткендей, мұндай АИ-де әдеттен тыс жағдайларда, тіпті көлік жүргізу кезінде де мінез-құлық бойынша көптеген проблемалар бар, бұл жағдайды айтарлықтай қиындатады.
Менің ойымша, бәріміз медицинада үлкен жаңа ашулар жасауға көмектесетін AI болғанын қалаймыз. Қазіргі технологиялар бұл үшін қолайлы ма, белгісіз, өйткені биология күрделі сала. Көп кітап оқуға дайын болу керек. Ғалымдар желілер мен молекулалардың өзара әрекеттесуіндегі себеп-салдарлық байланыстарды түсінеді, планеталар туралы теориялар жасай алады және т.б. Дегенмен, мамандандырылған AI көмегімен біз мұндай ашуларға қабілетті машиналар жасай алмаймыз. Ал жалпы AI көмегімен біз ғылым, технология және медицинада төңкеріс жасай аламыз. Менің ойымша, жалпы AI құру бойынша жұмысты жалғастыру өте маңызды.
«Жалпы» демекші, сіз күшті AI дегенді білдіресіз бе?
«Жалпы» демекші, AI жаңа мәселелерді жылдам ойлап, шеше алады. Айталық, мәселе соңғы 2000 жыл бойы өзгермеген Go сияқты.
Жалпы AI саясатта да, медицинада да шешім қабылдай алуы керек. Бұл адамның қабілетіне ұқсас; кез келген есі дұрыс адамның қолынан көп нәрсе келеді. Сіз тәжірибесіз студенттерді қабылдайсыз және оларды бірнеше күн ішінде заң мәселесінен бастап медициналық мәселеге дейін дерлік кез келген мәселе бойынша жұмыс істеуге мәжбүр етесіз. Себебі олар дүниені жалпы түсінеді және оқи алады, сондықтан өте кең ауқымды іс-әрекеттерге үлес қоса алады.
Мұндай интеллект пен күшті интеллект арасындағы байланыс мынада: күшті емес интеллект жалпы мәселелерді шеше алмайтын шығар. Үнемі өзгеретін әлеммен күресу үшін жеткілікті күшті нәрсе жасау үшін сізге кем дегенде жалпы интеллектке жақындау қажет болуы мүмкін.
Бірақ қазір біз одан өте алыспыз. AlphaGo 19x19 тақтада тамаша ойнай алады, бірақ оны тікбұрышты тақтада ойнау үшін қайта үйрету керек. Немесе орташа терең оқыту жүйесін алайық: ол жақсы жарықтандырылған және терісінің құрылымы көрінетін болса, пілді тани алады. Ал егер пілдің сұлбасы ғана көрініп тұрса, жүйе оны тани алмауы мүмкін.
Сіздің кітабыңызда сіз терең оқыту жалпы AI мүмкіндіктеріне қол жеткізе алмайтынын айтасыз, өйткені ол терең түсінуге қабілетсіз.
Когнитивтік ғылымда әртүрлі когнитивтік модельдердің қалыптасуы туралы айтады. Мен қонақүй бөлмесінде отырмын, мен түсінемін, шкаф бар, төсек бар, әдеттен тыс түрде ілулі тұрған теледидар бар. Мен бұл нысандардың барлығын білемін, мен оларды жай ғана анықтап қоймаймын. Мен олардың бір-бірімен қалай байланысты екенін де түсінемін. Менің айналамдағы дүниенің жұмыс істеуі туралы идеяларым бар. Олар мінсіз емес. Олар қате болуы мүмкін, бірақ олар өте жақсы. Солардың негізінде мен күнделікті іс-әрекетіме бағдар болатын көптеген тұжырымдар жасаймын.
Басқа экстремалды нәрсе DeepMind жасаған Atari ойын жүйесі сияқты болды, онда ол экранның белгілі бір жерлерінде пикселдерді көргенде не істеу керектігін есіне алды. Егер сіз жеткілікті деректер алсаңыз, сізде түсінік бар деп ойлауыңыз мүмкін, бірақ іс жүзінде бұл өте үстірт. Мұның дәлелі, егер сіз нысандарды үш пиксельге жылжытсаңыз, AI әлдеқайда нашар ойнайды. Өзгерістер оны таң қалдырады. Бұл терең түсінуге қарама-қарсы.
Бұл мәселені шешу үшін сіз классикалық AI-ға оралуды ұсынасыз. Біз қандай артықшылықтарды қолдануға тырысуымыз керек?
Бірнеше артықшылықтар бар.
Біріншіден, классикалық AI шын мәнінде әлемнің когнитивті модельдерін құрудың негізі болып табылады, оның негізінде қорытынды жасауға болады.
Екіншіден, классикалық AI ережелермен тамаша үйлеседі. Сарапшылар ережелерден аулақ болуға тырысатын терең оқытудың біртүрлі үрдісі бар. Олар нейрондық желілерде барлығын жасағысы келеді және классикалық бағдарламалау сияқты көрінетін ештеңе жасамайды. Бірақ осылайша сабырмен шешілген мәселелер бар, оған ешкім мән бермеді. Мысалы, Google Maps қолданбасында маршруттар құру.
Шын мәнінде, бізге екі тәсіл де қажет. Машиналық оқыту деректерден үйренуде жақсы, бірақ компьютерлік бағдарлама болып табылатын абстракцияны көрсетуде өте нашар. Классикалық AI абстракциялармен жақсы жұмыс істейді, бірақ ол толығымен қолмен бағдарламалануы керек және олардың барлығын бағдарламалау үшін әлемде тым көп білім бар. Бізге екі тәсілді де біріктіру керек екені анық.
Бұл сіз адам санасынан нені үйренуге болатыны туралы айтатын тарауға байланысты. Ал, ең алдымен, жоғарыда айтылған идеяға негізделген тұжырымдама туралы, біздің санамыз әртүрлі тәсілдермен жұмыс істейтін көптеген әртүрлі жүйелерден тұрады.
Менің ойымша, мұны түсіндірудің тағы бір жолы бізде бар әрбір когнитивті жүйе шын мәнінде әртүрлі мәселені шешеді. АИ-нің ұқсас бөліктері әртүрлі сипаттамалары бар әртүрлі мәселелерді шешуге арналған.
Енді біз бір-бірінен түбегейлі ерекшеленетін мәселелерді шешу үшін кейбір барлығын біріктіретін технологияларды қолдануға тырысамыз. Сөйлемді түсіну объектіні танумен бірдей емес. Бірақ адамдар терең оқытуды екі жағдайда да қолдануға тырысады. Танымдық тұрғыдан алғанда бұлар сапалық жағынан әр түрлі міндеттер. Мен терең білім беру қауымдастығында классикалық AI-ны қаншалықты бағалайтынына таң қалдым. Неліктен күміс оқтың пайда болуын күту керек? Оған қол жеткізу мүмкін емес, ал нәтижесіз ізденіс AI құру тапсырмасының толық күрделілігін түсінуге мүмкіндік бермейді.
Сіз сондай-ақ AI жүйелері себеп-салдар байланыстарын түсіну үшін қажет екенін айтасыз. Бұл бізге терең білім, классикалық AI немесе мүлдем жаңа нәрсе көмектеседі деп ойлайсыз ба?
Бұл терең білімге сәйкес келмейтін тағы бір сала. Ол белгілі бір оқиғалардың себептерін түсіндірмейді, бірақ берілген жағдайларда оқиғаның ықтималдығын есептейді.
Біз не туралы айтып отырмыз? Сіз белгілі бір сценарийлерді бақылайсыз және бұл неліктен болатынын және кейбір жағдайлар өзгерсе не болуы мүмкін екенін түсінесіз. Мен теледидар отырған стендке қарап, оның бір аяғын кесіп тастасам, тұғыр аударылып, теледидар құлап кететінін елестете аламын. Бұл себеп-салдар байланысы.
Классикалық AI бізге бұл үшін кейбір құралдарды береді. Ол, мысалы, қолдаудың не екенін және құлаудың не екенін елестете алады. Бірақ мен артық мақтамаймын. Мәселе мынада, классикалық AI негізінен не болып жатқаны туралы толық ақпаратқа байланысты және мен стендке қарап бір қорытындыға келдім. Мен қандай да бір түрде жалпылай аламын, стендтің маған көрінбейтін бөліктерін елестете аламын. Бізде бұл сипатты жүзеге асыратын құралдар әлі жоқ.
Адамда туа біткен білім бар деп те айтасыз. Мұны АИ-де қалай енгізуге болады?
Туған кезде біздің миымыз қазірдің өзінде өте күрделі жүйе болып табылады. Ол бекітілген емес, табиғат бірінші, өрескел жобаны жасады. Содан кейін оқу бізге өмір бойы сол жобаны қайта қарауға көмектеседі.
Мидың өрескел жобасы қазірдің өзінде белгілі бір мүмкіндіктерге ие. Жаңа туған тау ешкі бірнеше сағаттың ішінде тау баурайынан қателеспей түсе алады. Оның үш өлшемді кеңістік, оның денесі және олардың арасындағы байланыс туралы түсінігі бар екені анық. Өте күрделі жүйе.
Менің ойымша, гибридтер қажет деп ойлаймын. Бос парақтан бастап, ұзақ, үлкен тәжірибеден үйренудің орнына, неден бастау керектігі туралы ұқсас білімсіз әлемде жақсы жұмыс істейтін роботты қалай жасауға болатынын елестету қиын.
Адамдарға келетін болсақ, біздің туа біткен біліміміз ұзақ уақыт бойы дамыған геномымыздан келеді. Бірақ AI жүйелерімен біз басқа жолмен жүруіміз керек. Мұның бір бөлігі біздің алгоритмдерімізді құру ережелері болуы мүмкін. Мұның бір бөлігі осы алгоритмдер басқаратын деректер құрылымдарын құру ережелері болуы мүмкін. Мұның бір бөлігі біз машиналарға тікелей инвестиция салатындығымыз туралы білім болуы мүмкін.
Бір қызығы, сіз кітапта сенім және сенімді жүйелерді құру идеясын көтересіз. Неліктен осы нақты критерийді таңдадыңыз?
Бүгінгі күні мұның бәрі доп ойыны деп есептеймін. Меніңше, біз сенуге тұрарлық емес көптеген бағдарламалық жасақтамаға сеніп, тарихтың біртүрлі сәтін бастан кешіріп жатқан сияқтымыз. Біздің бүгінгі уайымымыз мәңгілікке созылмайды деп ойлаймын. Жүз жылдан кейін AI сенімімізді ақтайды, мүмкін тезірек.
Бірақ бүгінде AI қауіпті. Илон Маск қорқады деген мағынада емес, жұмыс сұхбаты жүйесі бағдарламашылар не істейтініне қарамастан әйелдерді кемсітеді, өйткені олардың құралдары тым қарапайым.
Бізде жақсырақ AI болғанын қалаймын. Мен адамдар AI жұмыс істемейтінін және қарапайым қауіпті екенін түсінетін және оны түзеткісі келмейтін «AI қысын» көргім келмейді.
Кейбір жолдармен сіздің кітабыңыз өте оптимистік болып көрінеді. Сіз сенімді AI құруға болады деп ойлайсыз. Бізге тек басқа бағытта қарау керек.
Дұрыс, кітап қысқа мерзімді перспективада өте пессимистік және ұзақ мерзімді перспективада өте оптимистік. Біз сипаттаған барлық мәселелерді дұрыс жауаптар қандай болуы керек екенін кеңірек қарастыру арқылы шешуге болады деп есептейміз. Ал егер бұл орын алса, әлем жақсы орынға айналады деп ойлаймыз.
Ақпарат көзі: www.habr.com