Не можемо да верујемо системима вештачке интелигенције који су изграђени само на дубоком учењу

Овај текст није резултат научног истраживања, већ једно од многих мишљења о нашем непосредном технолошком развоју. А уједно и позив на дискусију.

Гери Маркус, професор на Универзитету у Њујорку, верује да дубоко учење игра важну улогу у развоју вештачке интелигенције. Али он такође верује да превелики ентузијазам за ову технику може довести до њене дискредитације.

У својој књизи Поновно покретање АИ: Изградња вештачке интелигенције којој можемо да верујемо Маркус, неуронаучник по образовању који је изградио каријеру на најсавременијим истраживањима вештачке интелигенције, бави се техничким и етичким аспектима. Из перспективе технологије, дубоко учење може успешно да имитира перцептивне задатке које наш мозак обавља, као што је препознавање слике или говора. Али за друге задатке, као што су разумевање разговора или утврђивање узрочно-последичних веза, дубоко учење није прикладно. Да би се створиле напредније интелигентне машине које могу да реше шири спектар проблема – који се често називају вештачка општа интелигенција – дубоко учење треба да се комбинује са другим техникама.

Ако систем вештачке интелигенције заиста не разуме своје задатке или свет око себе, то може довести до опасних последица. Чак и најмање неочекиване промене у окружењу система могу довести до погрешног понашања. Таквих примера је већ било много: одреднице непримерених израза које је лако преварити; системи тражења посла који доследно дискриминишу; аутомобили без возача који се сударе и понекад убију возача или пешака. Стварање вештачке опште интелигенције није само интересантан истраживачки проблем, оно има многе потпуно практичне примене.

У својој књизи, Маркус и његов коаутор Ернест Дејвис залажу се за другачији пут. Они верују да смо још далеко од стварања опште вештачке интелигенције, али су уверени да ће пре или касније бити могуће да је створимо.

Зашто нам је потребна општа АИ? Специјализоване верзије су већ креиране и доносе много предности.

Тако је, и биће још више користи. Али постоје многи проблеми које специјализована АИ једноставно не може да реши. На пример, разумевање обичног говора, или општа помоћ у виртуелном свету, или робот који помаже у чишћењу и кувању. Такви задаци су изван могућности специјализоване вештачке интелигенције. Још једно занимљиво практично питање: да ли је могуће направити безбедан аутомобил који се самостално вози користећи специјализовану вештачку интелигенцију? Искуство показује да таква вештачка интелигенција и даље има много проблема са понашањем у ненормалним ситуацијама, чак и у вожњи, што у великој мери компликује ситуацију.

Мислим да бисмо сви желели да имамо вештачку интелигенцију која нам може помоћи да направимо нова велика открића у медицини. Нејасно је да ли су тренутне технологије погодне за ово, пошто је биологија сложена област. Морате бити спремни да прочитате много књига. Научници разумеју узрочно-последичне везе у интеракцији мрежа и молекула, могу развити теорије о планетама итд. Међутим, са специјализованом вештачком интелигенцијом, не можемо да створимо машине способне за таква открића. А са општом вештачком интелигенцијом, могли бисмо да револуционишемо науку, технологију и медицину. По мом мишљењу, веома је важно наставити радити на стварању опште вештачке интелигенције.

Звучи као да под „општем“ мислите на јаку вештачку интелигенцију?

Под „општем“ подразумевам да ће АИ моћи да размишља и решава нове проблеме у ходу. За разлику од, рецимо, Го, где се проблем није променио последњих 2000 година.

Општа вештачка интелигенција би требало да буде у стању да доноси одлуке иу политици и у медицини. Ово је аналогно људској способности; сваки разуман човек може много. Узимате неискусне студенте и у року од неколико дана натерате их да раде на скоро свему, од правног проблема до медицинског. То је зато што имају опште разумевање света и могу да читају, па стога могу да допринесу веома широком спектру активности.

Однос између такве интелигенције и јаке интелигенције је да нејака интелигенција вероватно неће моћи да реши опште проблеме. Да бисте створили нешто довољно робусно да се носите са светом који се стално мења, можда ћете морати да приступите барем општој интелигенцији.

Али сада смо веома далеко од овога. АлпхаГо може да игра савршено добро на табли величине 19к19, али треба да буде поново обучен да игра на правоугаоној табли. Или узмите просечан систем дубоког учења: може да препозна слона ако је добро осветљен и видљива му је текстура коже. А ако је видљива само силуета слона, систем вероватно неће моћи да је препозна.

У својој књизи помињете да дубоко учење не може постићи способности опште вештачке интелигенције јер није способно за дубоко разумевање.

У когнитивној науци говоре о формирању различитих когнитивних модела. Седим у хотелској соби и разумем да постоји орман, постоји кревет, постоји ТВ који је окачен на необичан начин. Знам све ове објекте, не само да их идентификујем. Такође разумем како су они међусобно повезани. Имам идеје о функционисању света око себе. Они нису савршени. Можда греше, али су прилично добри. И на основу њих доносим много закључака који постају смернице за моје свакодневно деловање.

Друга крајност била је нешто попут Атари система игара који је изградио ДеепМинд, у којем се сећао шта треба да уради када види пикселе на одређеним местима на екрану. Ако добијете довољно података, можда мислите да имате разумевања, али у стварности је то веома површно. Доказ за то је да ако померите објекте за три пиксела, АИ игра много лошије. Промене га збуњују. Ово је супротно од дубоког разумевања.

Да бисте решили овај проблем, предлажете повратак на класичну вештачку интелигенцију. Које предности треба да покушамо да искористимо?

Има неколико предности.

Прво, класична вештачка интелигенција је заправо оквир за креирање когнитивних модела света, на основу којих се онда могу извући закључци.

Друго, класична АИ је савршено компатибилна са правилима. Тренутно постоји чудан тренд дубоког учења где стручњаци покушавају да избегну правила. Они желе да раде све на неуронским мрежама и не раде ништа што личи на класично програмирање. Али постоје проблеми који су мирно решени на овај начин, а на то нико није обраћао пажњу. На пример, прављење рута у Гоогле мапама.

У ствари, потребна су нам оба приступа. Машинско учење је добро у учењу из података, али веома лоше у представљању апстракције која је компјутерски програм. Класична вештачка интелигенција добро функционише са апстракцијама, али мора бити програмирана у потпуности ручно, а на свету постоји превише знања да би се све програмирало. Јасно је да морамо комбиновати оба приступа.

Ово је повезано са поглављем у којем говорите о томе шта можемо научити од људског ума. И пре свега, о концепту заснованом на горе поменутој идеји да се наша свест састоји од много различитих система који раде на различите начине.

Мислим да је други начин да ово објаснимо да сваки когнитивни систем који имамо заиста решава другачији проблем. Слични делови АИ морају бити дизајнирани да решавају различите проблеме који имају различите карактеристике.

Сада покушавамо да користимо неке све-у-једном технологије за решавање проблема који се радикално разликују један од другог. Разумевање реченице уопште није исто што и препознавање објекта. Али људи покушавају да користе дубоко учење у оба случаја. Са когнитивне тачке гледишта, то су квалитативно различити задаци. Просто сам запањен колико мало се цени класична вештачка интелигенција у заједници дубоког учења. Зашто чекати да се појави сребрни метак? То је недостижно, а бескорисне претраге нам не дозвољавају да схватимо сву сложеност задатка стварања АИ.

Такође помињете да су системи вештачке интелигенције потребни за разумевање узрочно-последичних веза. Мислите ли да ће нам дубоко учење, класична вештачка интелигенција или нешто сасвим ново помоћи у томе?

Ово је још једна област у којој дубоко учење није добро прилагођено. Не објашњава узроке одређених догађаја, већ израчунава вероватноћу догађаја под датим условима.

Шта говоримо? Гледате одређене сценарије и разумете зашто се то дешава и шта би се могло догодити ако се неке околности промене. Могу да погледам постоље на коме се налази телевизор и замислим да ако му одсечем једну ногу, постоље ће се преврнути и телевизор ће пасти. Ово је узрочно-последична веза.

Класични АИ нам даје неке алате за ово. Може да замисли, на пример, шта је подршка, а шта пад. Али нећу претерано хвалити. Проблем је што класична вештачка интелигенција у великој мери зависи од потпуне информације о томе шта се дешава, а ја сам дошао до закључка само гледајући штанд. Могу некако да генерализујем, да замислим делове штанда који ми нису видљиви. Још увек немамо алате за имплементацију ове имовине.

Кажете и да људи имају урођено знање. Како се ово може имплементирати у АИ?

У тренутку рођења, наш мозак је већ веома разрађен систем. Није фиксна природа створила први, груби нацрт. А онда нам учење помаже да ревидирамо тај нацрт током целог живота.

Груби нацрт мозга већ има одређене могућности. Новорођена планинска коза је у стању да се непогрешиво спусти низ планину у року од неколико сати. Очигледно је да већ има разумевање за тродимензионални простор, своје тело и однос између њих. Веома сложен систем.

Делимично због тога верујем да су нам потребни хибриди. Тешко је замислити како би неко могао да створи робота који добро функционише у свету без сличног знања о томе одакле да почне, уместо да почне са празног листа и учи из дугог, огромног искуства.

Што се тиче људи, наше урођено знање потиче из нашег генома, који је еволуирао током дугог времена. Али са системима вештачке интелигенције мораћемо да идемо другим путем. Део овога могу бити правила за конструисање наших алгоритама. Део овога могу бити правила за креирање структура података којима ови алгоритми манипулишу. А део овога може бити и знање које ћемо директно улагати у машине.

Занимљиво је да у књизи износите идеју о поверењу и стварању система поверења. Зашто сте одабрали баш овај критеријум?

Верујем да је данас све ово игра лоптом. Чини ми се да живимо кроз чудан тренутак у историји, верујући великом броју софтвера који нису верни. Мислим да бриге које имамо данас неће трајати вечно. За сто година АИ ће оправдати наше поверење, а можда и пре.

Али данас је вештачка интелигенција опасна. Не у смислу којег се Илон Муск плаши, већ у смислу да системи интервјуа за посао дискриминишу жене, без обзира шта програмери раде, јер су њихови алати превише једноставни.

Волео бих да имамо бољу АИ. Не желим да видим „зиму вештачке интелигенције“ у којој људи схватају да вештачка интелигенција не ради и да је једноставно опасна и да не желе да је поправе.

На неки начин, ваша књига делује веома оптимистично. Претпостављате да је могуће изградити поуздану АИ. Само треба да погледамо у другом правцу.

Тако је, књига је краткорочно веома песимистична, а дугорочно веома оптимистична. Верујемо да се сви проблеми које смо описали могу решити ширењем погледа на то шта би требало да буду тачни одговори. И мислимо да ће свет бити боље место ако се то догоди.

Извор: ввв.хабр.цом