Не можем да се доверим само на AI системи, изградени върху задълбочено обучение

Този текст не е резултат от научно изследване, а едно от много мнения относно нашето непосредствено технологично развитие. И в същото време покана за дискусия.

Гари Маркъс, професор в Нюйоркския университет, смята, че дълбокото обучение играе важна роля в развитието на ИИ. Но той също така смята, че прекомерният ентусиазъм към тази техника може да доведе до нейната дискредитация.

В книгата си Рестартиране на AI: Изграждане на изкуствен интелект, на който можем да се доверим Маркъс, невролог по образование, който е изградил кариера върху авангардни изследвания на ИИ, се занимава с техническите и етичните аспекти. От технологична гледна точка дълбокото обучение може успешно да имитира възприемащите задачи, които мозъците ни изпълняват, като разпознаване на изображения или реч. Но за други задачи, като разбиране на разговори или определяне на причинно-следствени връзки, дълбокото обучение не е подходящо. За да се създадат по-усъвършенствани интелигентни машини, които могат да решават по-широк кръг от проблеми - често наричан изкуствен общ интелект - дълбокото обучение трябва да се комбинира с други техники.

Ако една AI система не разбира истински своите задачи или света около нея, това може да доведе до опасни последици. Дори и най-малките неочаквани промени в средата на системата могат да доведат до погрешно поведение. Вече има много такива примери: детерминанти на неуместни изрази, които лесно се подвеждат; системи за търсене на работа, които постоянно дискриминират; автомобили без шофьор, които катастрофират и понякога убиват водача или пешеходеца. Създаването на изкуствен общ интелект не е просто интересен изследователски проблем, той има много напълно практически приложения.

В книгата си Маркъс и неговият съавтор Ърнест Дейвис се аргументират за различен път. Те вярват, че все още сме далеч от създаването на общ AI, но са уверени, че рано или късно ще бъде възможно да го създадем.

Защо се нуждаем от общ AI? Специализираните версии вече са създадени и носят много предимства.

Точно така и ще има още повече ползи. Но има много проблеми, които специализираният AI просто не може да реши. Например разбиране на обикновена реч или обща помощ във виртуалния свят, или робот, който помага при чистене и готвене. Подобни задачи са извън възможностите на специализирания AI. Друг интересен практически въпрос: възможно ли е да се създаде безопасна самоуправляваща се кола с помощта на специализиран AI? Опитът показва, че такъв AI все още има много проблеми с поведението в необичайни ситуации, дори при шофиране, което значително усложнява ситуацията.

Мисля, че всички бихме искали да имаме ИИ, който може да ни помогне да направим големи нови открития в медицината. Не е ясно дали настоящите технологии са подходящи за това, тъй като биологията е сложна област. Трябва да сте готови да четете много книги. Учените разбират причинно-следствените връзки във взаимодействието на мрежи и молекули, могат да развиват теории за планетите и т.н. Със специализиран AI обаче не можем да създадем машини, способни на подобни открития. А с общия AI бихме могли да революционизираме науката, технологиите и медицината. Според мен е много важно да продължим да работим за създаване на общ ИИ.

Звучи сякаш под „общо“ имате предвид силен AI?

Под „общо“ имам предвид, че AI ще може да мисли и решава нови проблеми в движение. За разлика, да речем, от Go, където проблемът не се е променил през последните 2000 години.

Общият AI трябва да може да взема решения както в политиката, така и в медицината. Това е аналогично на човешките способности; всеки нормален човек може много. Вземате неопитни студенти и в рамките на няколко дни ги карате да работят върху почти всичко, от правен проблем до медицински проблем. Това е така, защото те имат общо разбиране за света и могат да четат, и следователно могат да допринесат за много широк спектър от дейности.

Връзката между такъв интелект и силния интелект е, че несилен интелект вероятно няма да може да решава общи проблеми. За да създадете нещо достатъчно здраво, за да се справите с непрекъснато променящия се свят, може да се наложи поне да се доближите до общата интелигентност.

Но сега сме много далеч от това. AlphaGo може да играе перфектно на дъска 19x19, но трябва да се преквалифицира, за да играе на правоъгълна дъска. Или вземете средната система за дълбоко обучение: тя може да разпознае слон, ако е добре осветен и текстурата на кожата му се вижда. И ако се вижда само силуетът на слон, системата вероятно няма да може да го разпознае.

Във вашата книга споменавате, че дълбокото обучение не може да постигне възможностите на общия AI, защото не е способно на дълбоко разбиране.

В когнитивната наука се говори за формирането на различни когнитивни модели. Седя в хотелска стая и разбирам, че има гардероб, има легло, има телевизор, който е окачен по необичаен начин. Познавам всички тези обекти, не само ги идентифицирам. Разбирам и как те са взаимосвързани помежду си. Имам идеи за функционирането на света около мен. Те не са идеални. Може и да грешат, но са доста добри. И въз основа на тях правя много изводи, които стават насоки за ежедневните ми действия.

Другата крайност беше нещо като системата за игри Atari, създадена от DeepMind, в която си спомняше какво трябва да направи, когато види пиксели на определени места на екрана. Ако получите достатъчно данни, може да си помислите, че имате разбиране, но в действителност то е много повърхностно. Доказателство за това е, че ако преместите обекти с три пиксела, AI играе много по-зле. Промените го озадачават. Това е обратното на дълбокото разбиране.

За да разрешите този проблем, предлагате да се върнете към класическия AI. Какви предимства трябва да опитаме да използваме?

Има няколко предимства.

Първо, класическият AI всъщност е рамка за създаване на когнитивни модели на света, въз основа на които след това могат да се правят заключения.

Второ, класическият AI е напълно съвместим с правилата. В момента има странна тенденция в дълбокото обучение, при която експертите се опитват да избегнат правилата. Те искат да правят всичко на невронни мрежи и да не правят нищо, което изглежда като класическо програмиране. Но има проблеми, които спокойно се решаваха по този начин и никой не им обърна внимание. Например изграждане на маршрути в Google Maps.

Всъщност имаме нужда и от двата подхода. Машинното обучение е добро в ученето от данни, но много лошо в представянето на абстракцията, която е компютърна програма. Класическият AI работи добре с абстракции, но трябва да се програмира изцяло на ръка, а в света има твърде много знания, за да се програмират всички. Ясно е, че трябва да комбинираме и двата подхода.

Това е свързано с главата, в която говорите какво можем да научим от човешкия ум. И на първо място относно концепцията, основана на идеята, спомената по-горе, че нашето съзнание се състои от много различни системи, които работят по различни начини.

Мисля, че друг начин да обясним това е, че всяка когнитивна система, която имаме, наистина решава различен проблем. Подобни части на AI трябва да бъдат проектирани за решаване на различни проблеми, които имат различни характеристики.

Сега се опитваме да използваме някои технологии "всичко в едно", за да разрешим проблеми, които са коренно различни един от друг. Разбирането на изречение изобщо не е същото като разпознаването на обект. Но хората се опитват да използват дълбоко обучение и в двата случая. От когнитивна гледна точка това са качествено различни задачи. Просто съм изумен колко малко се оценява класическият AI в общността за дълбоко обучение. Защо да чакаме да се появи сребърен куршум? Това е непостижимо и безплодните търсения не ни позволяват да разберем цялата сложност на задачата за създаване на AI.

Споменавате също, че системите с изкуствен интелект са необходими за разбиране на причинно-следствените връзки. Смятате ли, че дълбокото обучение, класическият AI или нещо съвсем ново ще ни помогне с това?

Това е друга област, в която дълбокото обучение не е подходящо. Той не обяснява причините за определени събития, а изчислява вероятността за събитие при дадени условия.

За какво говорим? Гледате определени сценарии и разбирате защо това се случва и какво може да се случи, ако някои обстоятелства се променят. Мога да гледам стойката, на която стои телевизорът, и да си представя, че ако отрежа единия му крак, стойката ще се преобърне и телевизорът ще падне. Това е причинно-следствена връзка.

Класическият AI ни дава някои инструменти за това. Може да си представи например какво е опора и какво е падане. Но няма да прекалявам с хвалебствията. Проблемът е, че класическият AI до голяма степен зависи от пълната информация за случващото се и стигнах до извода само като погледнах щанда. Мога някак да обобщя, да си представя части от стойката, които не ми се виждат. Все още нямаме инструментите за прилагане на това свойство.

Казвате също, че хората имат вродени знания. Как може това да се приложи в AI?

В момента на раждането нашият мозък вече е много сложна система. Тя не е фиксирана; природата е създала първия, груб проект. И тогава ученето ни помага да преразгледаме тази чернова през целия си живот.

Една груба чернова на мозъка вече има определени възможности. Новородено планинско козле е в състояние безпогрешно да се спусне по планинския склон в рамките на няколко часа. Очевидно е, че той вече има разбиране за триизмерното пространство, тялото си и връзката между тях. Много сложна система.

Това е отчасти причината да вярвам, че имаме нужда от хибриди. Трудно е да си представим как човек би могъл да създаде робот, който функционира добре в свят без подобно знание откъде да започне, вместо да започне с празен лист и да се учи от дълъг, огромен опит.

Що се отнася до хората, нашите вродени знания идват от нашия геном, който е еволюирал в продължение на дълго време. Но със системите с изкуствен интелект ще трябва да тръгнем по различен път. Част от това може да са правилата за конструиране на нашите алгоритми. Част от това може да са правилата за създаване на структурите от данни, които тези алгоритми манипулират. И част от това може да е знание, че ще инвестираме директно в машини.

Интересно е, че в книгата извеждате идеята за доверието и създаването на системи за доверие. Защо избрахте точно този критерий?

Вярвам, че днес всичко това е игра с топка. Струва ми се, че преживяваме странен момент в историята, доверявайки се на много софтуер, който не е надежден. Мисля, че тревогите, които имаме днес, няма да продължат вечно. След сто години AI ще оправдае доверието ни, а може би и по-рано.

Но днес AI е опасен. Не в смисъла, от който Илон Мъск се страхува, а в смисъл, че системите за интервюта за работа дискриминират жените, независимо от това какво правят програмистите, защото техните инструменти са твърде прости.

Иска ми се да имаме по-добър AI. Не искам да виждам „зима с изкуствен интелект“, в която хората разбират, че изкуственият интелект не работи и е просто опасен, и не искат да го поправят.

В някои отношения вашата книга наистина изглежда много оптимистична. Предполагате, че е възможно да се изгради надежден AI. Просто трябва да погледнем в друга посока.

Точно така, книгата е много песимистична в краткосрочен план и много оптимистична в дългосрочен план. Ние вярваме, че всички проблеми, които описахме, могат да бъдат решени чрез по-широк поглед върху това какви трябва да бъдат правилните отговори. И смятаме, че ако това се случи, светът ще бъде по-добро място.

Източник: www.habr.com