Не можем да се доверим на ИИ системи, изградени само на основата на дълбоко обучение

Текстът не е резултат от научно изследване, а едно от многото мнения относно нашето близко технологично развитие. И едновременно покана за дискусия.

Гари Маркус, професор в Нюйоркския университет, е убеден, че дълбокото обучение играе важна роля в развитието на ИИ. Но той също така смята, че прекаленото увлечение с този метод може да доведе до неговото дискредитиране.

В своята книга Rebooting AI: Building artificial intelligence we can trust Маркус, който е по образование невролог и е изградил кариера върху напредничави изследвания в сферата на ИИ, се обръща към техническите и етични аспекти. От технологична гледна точка, дълбокото обучение може успешно да имитира решаването на задачи на възприятие, които нашият мозък изпълнява: например, разпознаване на изображения или реч. Но за решаване на други задачи, като разбирането на разговори или определяне на причинно-следствени връзки, дълбокото обучение не е подходящо. За да се създадат по-усъвършенствани интелигентни машини, способни да решават по-широк кръг задачи — често наричани общ изкуствен интелект — дълбокото обучение трябва да се комбинира с други методи.

Ако ИИ системата всъщност не разбира своите задачи или заобикалящия я свят, това може да доведе до опасни последствия. Дори най-малките неочаквани промени в околната среда на системата могат да доведат до нейното погрешно поведение. Такъв пример е имало множество: определители на неподходящи изрази, които лесно могат да бъдат измамени; системи за намиране на работа, които непрекъснато дискриминират; безпилотни автомобили, които имат злополуки и понякога убиват водача или пешеходеца. Създаването на общ изкуствен интелект не е просто интересен изследователски проблем, а има безброй напълно практични приложения.

В своята книга Маркус и съавтора му Ернест Дейвис защитават друг подход. Те смятат, че сме все още далеч от създаването на общ ИИ, но са уверени, че рано или късно ще успеем да го създадем.

За какво ни е нужен общ ИИ? Специализирани версии вече са създадени и носят значителна полза.

Вярно, и ползите ще повече ползи. Но има много задачи, които специализираният ИИ просто не може да реши. Например, разпознаване на разговорен език, или обща помощ в виртуалния свят, или робот, помагащ в почистването и готвенето. Тези задачи са извън възможностите на специализирания ИИ. Още един интересен практически въпрос: може ли да се създаде безопасен автомобил-беспилотник с помощта на специализиран ИИ? Опитът показва, че такъв ИИ все още има много проблеми с поведението в аномални ситуации, дори при шофиране, което много усложнява ситуацията.

Мисля, че всички ние бихме искали да получим ИИ, който е способен да ни помогне да направим нови мащабни открития в медицината. Не е ясно дали текущите технологии са подходящи за това, тъй като биологията е сложна сфера. Трябва да сме готови да прочетем доста книги. Учени разбират причинно-следствените връзки между мрежи и молекули, могат да разработват теории за планетите и така нататък. Въпреки това, с помощта на специализирания ИИ не можем да създадем машини, способни на такива открития. Но с общ ИИ бихме могли да направим революция в науката, технологиите и медицината. На моето мнение, много важно е да продължим работата по създаването на общ ИИ.

Изглежда, че под „общ“ разбирате силен ИИ?

Когато говоря 'общ', имам предвид, че ИИ ще може на лето да обмисля и самостоятелно да решава нови задачи. За разлика от, да кажем, Го, където проблемът не се е променял през последните 2000 години.

Общият ИИ трябва да може да взема решения както в политиката, така и в медицината. Това е аналог на човешката способност; всеки здравомислещ човек може да прави много неща. Взимате неопитни студенти и след няколко дни ги карате да работят практически по всичко, от юридически задачи до медицински. Това е благодарение на факта, че те имат общо разбиране за света и могат да четат, и затова могат да допринесат за много широк спектър от занимания.

Взаимовръзката между такъв интелект и силния е, че не силният интелект вероятно няма да може да решава общи задачи. За да създадете нещо достатъчно надеждно, което да може да работи с постоянно променящия се свят, може да се наложи поне да се доближите до общия интелект.

Но сега сме много далеч от това. AlphaGo може прекрасно да играе на дъска 19×19, но трябва да бъде повторно обучен, за да играе на правоъгълна дъска. Или вземете средностатистическа система за дълбочинно обучение: тя е способна да разпознае слон, ако е добре осветен и текстурата на кожата му е видима. А ако се вижда само силуетът на слона, системата със сигурност няма да може да го разпознае.

В книгата си споменавате, че дълбочинното обучение не може да постигне възможностите на общия ИИ, тъй като не е способно на дълбочинно разбиране.

В когнитивистиката говорят за формиране на различни когнитивни модели. Аз седя в хотелската стая и разбирам, че там е гардеробът, там е леглото, там е телевизорът, който е необичайно окачен. Зная всички тези предмети, не просто ги идентифицирам. Осъзнавам също как те са взаимосвързани. Имам идеи за функционирането на околния свят. Те не са идеални. Могат да бъдат грешни, но са доста добри. И на тяхна база правя много заключения, които стават ръководство за моите ежедневни действия.

Другата крайност е нещо като игровата система Atari, създадена от DeepMind, в която тя запомняше какво трябва да прави, когато види пиксели на определени места на екрана. Ако получите достатъчно данни, може да изглежда, че имате разбиране, но всъщност то е много повърхностно. Доказателство за това е, че ако се преместят обектите на три пиксела, ИИ играе значително по-зле. Промените го объркват. Това е противоположно на дълбочинното разбиране.

За решаване на този проблем предлагате да се върнем към класическия ИИ. Какви предимства трябва да се опитаме да използваме?

Предимствата са няколко.

На първо място, класическият ИИ всъщност представлява фреймуърк за създаване на когнитивни модели на света, на базата на които след това може да се правят изводи.

На второ място, класическият ИИ е идеално съвместим с правилата. В момента в сферата на дълбочинното обучение наблюдаваме странна тенденция, когато специалистите се опитват да избягват правилата. Те искат всичко да правят с невроприятия и да не правят нищо, което изглежда като класическо програмиране. Но има задачи, които спокойно бяха решени по този начин и никой не обърна внимание. Например, строенето на маршрути в Google Maps.

Всъщност, ние се нуждаем от двата подхода. Машинното обучение позволява добро изучаване на данни, но е много лошо в представянето на абстракцията, която представлява компютърната програма. Класическият ИИ работи добре с абстракциите, но цялото му програмиране трябва да се извършва ръчно, а в света има твърде много знания, за да бъдат всички програмирани. Очевидно е, че трябва да обединим двата подхода.

Това е свързано с главата, в която разказвате за това, какво можем да научим от човешкия ум. И най-вече за концепцията, основана на споменатата по-горе идея, че нашето съзнание се състои от множество различни системи, които работят по различен начин.

Мисля, че има друг начин да се обясни това: всяка когнитивна система, която имаме, всъщност решава различни задачи. Подобните части на ИИ трябва да бъдат проектирани да решават различни задачи, които имат различни характеристики.

Сега се опитваме да използваме някои технологии за всичко в едно, за решаване на задачи, които са коренно различни една от друга. Разбирането на изречение съвсем не е същото като разпознаването на обект. Но хората се опитват да използват дълбочинно обучение и в двата случая. От когнитивна гледна точка това са качествено различни задачи. Просто съм учуден колко малко в общността на специалистите по дълбочинно обучение ценят класическия ИИ. Защо да чакаме появата на сребърната куршума? Тя е недостижима, а безплодните търсения не позволяват да се осъзнае цялата сложност на задачата за създаване на ИИ.

Също така споменавате, че ИИ системите са необходими за разбирането на причинно-следствените връзки. Смятате ли, че в това ще ни помогне дълбокото обучение, класическият ИИ или нещо съвсем ново?

Това е още една област, за която дълбокото обучение не е особено подходящо. То не обяснява причините за някои събития, а изчислява вероятността на събитие при зададени условия.

За какво говорим? Вие разглеждате определени сценарии и разбирате защо това се случва и какво може да се случи, ако определени обстоятелства се променят. Мога да погледна стойката, на която стои телевизорът, и да си представя, че ако отрежа единия ѝ крак, стойката ще се преобърне и телевизорът ще падне. Това е причинно-следствена връзка.

Класическият ИИ ни предоставя известни инструменти за това. Той може да представи, например, какво представлява поддръжката и какво е падението. Но няма да преувеличавам. Проблемът е, че класическият ИИ е предимно зависим от пълнотата на информацията за случващото се, а аз направих извода, само поглеждайки към поставката. По някакъв начин мога да обобщавам, да представям части от поставката, които не виждам. Все още нямаме инструменти за реализиране на това свойство.

Вие също говорите за това, че хората имат вродено знание. Как можем да реализираме това в ИИ?

В момента на раждането нашият мозък вече представлява много внимателно обмислена система. Тя не е фиксирана, природата е създала първоначалния, груб чертеж. А след това обучението ни помага да преразглеждаме този чертеж през целия ни живот.

Грубият чертеж на мозъка вече притежава определени способности. Новороденият планински козел вече след няколко часа може безпогрешно да слиза по склоновете на планината. Очевидно е, че той вече има разбиране за триизмерното пространство, своето тяло и взаимовръзката между тях. Много сложна система.

Отчасти поради това смятам, че ни трябват хибриди. Трудно е да си представим как може да се създаде робот, който функционира добре в света без подобни знания, с което да започне, вместо да започва от чисто ново и да учи от дългия, огромен опит.

Що се отнася до хората, нашето вродено знание произтича от нашия геном, който е еволюирал в продължение на дълго време. А при ИИ системите ще трябва да тръгнем по друг път. Частично това могат да бъдат правилата за изграждане на нашите алгоритми. Частично това могат да бъдат правилата за създаване на структури от данни, с които манипулират тези алгоритми. И частично това могат да бъдат знания, които ние ще вложим директно в машините.

Интересно е, че в книгата ви подводите до идеята за доверие и създаване на доверителни системи. Защо избрахте точно този критерий?

Смятам, че днес всичко това представлява игра с топка. Налага ми се да мисля, че живеем в странен момент от историята, в който до голяма степен се доверяваме на софтуер, който не заслужава доверие. Мисля, че притесненията, които ни съпътстват днес, няма да са вечни. След сто години ИИ ще оправдае нашето доверие, а може би и по-скоро.

Но днес изкуственият интелект е опасен. Не в смисъла, в който Илон Мъск се тревожи, а в това, че системите за интервюиране при наемане на работа дискриминират жените, независимо от това какво правят програмистите, тъй като техните инструменти са твърде прости.

Искам да имаме по-качествен изкуствен интелект. Не искам да започва "зимата на изкуствения интелект", когато хората осъзнаят, че изкуственият интелект не работи и просто е опасен, и няма да искат да го поправят.

В определен смисъл вашата книга наистина изглежда много оптимистична. Вие предполагате, че може да се построи доверен изкуствен интелект. Просто трябва да погледнем в друга посока.

Вероятно, книгата е много песимистична в краткосрочен план и много оптимистична в дългосрочен. Считаме, че всички проблеми, които описваме, могат да бъдат решени, ако разгледаме по-широко какви трябва да бъдат правилните отговори. И смятаме, че ако това се случи, светът ще стане по-добър.

Източник: habr.com