Текстът не е резултат от научно изследване, а едно от многото мнения относно нашето бъдещо технологично развитие. И също така е покана за дискусия.
Гари Маркус, професор в Нюйоркския университет, е убеден, че дълбокото обучение играе важна роля в развитието на ИИ. Но той също така вярва, че прекомерното увлечение с този метод може да доведе до неговата дискредитация.
В своята книга Rebooting AI: Building artificial intelligence we can trust Маркус, по образование невролог, който е изградил кариера на предни изследвания в сферата на ИИ, разглежда техническите и етичните аспекти. От технологична гледна точка, дълбокото обучение може успешно да имитира решаването на задачи, свързани с възприятието, които нашият мозък изпълнява: например, разпознаване на изображения или реч. Но за решаване на други задачи, като разбирането на разговори или определянето на причинно-следствени връзки, дълбокото обучение не е подходящо. За да създадем по-напреднали интелигентни машини, способни да решават по-широк спектър от задачи — те често се наричат общи изкуствени интелекти — дълбокото обучение трябва да бъде комбинирано с други методи.
Ако ИИ-системата наистина не разбира своите задачи или заобикалящия я свят, това може да доведе до опасни последици. Дори най-малките неочаквани промени в обкръжението на системата могат да я накарат да действа неправилно. Вече има много примери за това: определятели на неподходящи изрази, които лесно могат да бъдат заблудени; системи за търсене на работа, които постоянно дискриминират; безпилотни автомобили, които попадат в инциденти и понякога убиват шофьора или пешеходец. Създаването на общ изкуствен интелект не е просто интересен изследователски проблем, а има множество напълно практични приложения.
В своята книга Маркус и неговият съавтор Ърнест Дейвис предлагат друг път. Те вярват, че сме далеч от създаването на общ ИИ, но са уверени, че рано или късно ще успеем да го постигнем.
За какво ни е нужен общ ИИ? Специализирани версии вече са създадени и носят значителна полза.
Вярно е, и ползите ще бъдат още повече. Но има много задачи, които специализираният ИИ просто не може да реши. Например, разпознаването на обикновена реч, или обща помощ във виртуалния свят, или робот, който помага при почистването и приготвянето на храна. Такива задачи са извън възможностите на специализирания ИИ. Още един интересен практически въпрос: може ли с помощта на специализирания ИИ да се създаде безопасен безпилотен автомобил? Опитът показва, че този ИИ все още има много проблеми с поведението в аномални ситуации, дори при шофиране, което усложнява ситуацията значително.
Мисля, че всички ние бихме искали да имаме ИИ, който да може да ни помогне в откритията в медицината. Не е ясно дали настоящите технологии са подходящи за това, тъй като биологията е сложна област. Трябва да сме готови да прочетем много книги. Учените разбират причинно-следствените връзки в взаимодействието на мрежи и молекули, могат да разработват теории за планетите и така нататък. Въпреки това, със специализирания ИИ не можем да създадем машини, способни да направят такива открития. А с общ ИИ бихме могли да революционизираме науката, технологиите и медицината. Според мен е много важно да продължим работата си върху създаването на общ ИИ.
Изглежда, че под "общ" разбирате силен ИИ?
Когато казвам "общ", имам предвид, че ИИ ще може в движение да обмисля и самостоятелно да решава нови задачи. За разлика от, да речем, Го, където проблемът не се е променил през последните 2000 години.
Общият ИИ трябва да може да взема решения както в политиката, така и в медицината. Това е аналог на човешката способност; всеки разумен човек може да прави много неща. Вземате неопитни студенти и след няколко дни ги заставяте да работят практически над всичко, започвайки от юридически задачи и завършвайки с медицински. Това е възможно, защото те имат общо разбиране за света и могат да четат, и така могат да допринесат за много широк спектър от дейности.
Взаимовръзката между такъв интелект и силен е, че не-силният интелект вероятно няма да може да решава общи задачи. За да създадете нещо достатъчно надеждно, способно да работи с постоянно променящия се свят, може да се наложи поне да се доближите до общия интелект.
Но сега сме много далеч от това. AlphaGo може отлично да играе на дъска 19×19, но трябва да бъде преобучен за игра на правоъгълна дъска. Или вземете средностатистическа система за дълбочинно обучение: тя може да разпознае слон, ако е добре осветен и текстурата на кожата му е видима. А ако се вижда само силуетът на слона, системата със сигурност няма да може да го разпознае.
В книгата си споменавате, че дълбочинното обучение не може да достигне способностите на общия изкуствен интелект, тъй като не е способно на дълбоко разбиране.
В когнитивистиката се говори за формиране на различни когнитивни модели. Седя в хотелската стая и разбирам, че там е гардеробът, там е леглото, а там е телевизорът, който е необичайно окачен. Знам всички тези предмети, не просто ги идентифицирам. Освен това разбирам как те са взаимосвързани. Имам идеи за функционирането на обкръжаващия свят. Те не са идеални. Могат да бъдат погрешни, но са доста добри. И на тяхна основа правя немалко умозаключения, които стават ръководство за моите ежедневни действия.
Другата крайност е нещо подобно на игровата система Atari, създадена от DeepMind, в която той запомняше какво трябва да прави, когато вижда пиксели на определени места на екрана. Ако получите достатъчно данни, може да изглежда, че имате разбиране, но всъщност то е много повърхностно. Доказателство за това е, че ако преместите обектите с три пиксела, ИИ играе значително по-зле. Промените го поставят в ситуация на объркване. Това е противоположно на дълбокото разбиране.
За решаването на този проблем предлагате да се върнем към класическия ИИ. Какви предимства трябва да се опитаме да използваме?
Има няколко предимства.
На първо място, класическият ИИ всъщност представлява рамка за изграждане на когнитивни модели на света, на базата на които могат след това да се правят изводи.
На второ място, класическият ИИ е перфектно съвместим с правилата. В момента в сферата на дълбочинното обучение наблюдаваме странна тенденция, при която специалистите се опитват да избягват правилата. Те искат всичко да се прави с невронни мрежи и да не правят нищо, което изглежда като класическо програмиране. Но има задачи, които са били решавани спокойно по този начин, а никой не е обръщал внимание. Например, изграждане на маршрути в Google Maps.
Всъщност, наистина ни трябват и двата подхода. Машинното обучение позволява добро учене от данните, но много слабо помага в представянето на абстракции, които представлява компютърната програма. Класическият ИИ работи добре с абстракции, но той изцяло трябва да бъде програмиран ръчно, а в света има твърде много знания, за да бъдат всички те програмирани. Ясно е, че трябва да обединим и двата подхода.
Това е свързано с главата, в която разказвате за това, какво можем да научим от човешкия разум. Преди всичко за концепцията, основана на споменатата по-горе идея, че нашето съзнание се състои от много различни системи, които работят различно.
Мисля, че има друг начин да го обясня: всяка когнитивна система, която имаме, наистина решава различни задачи. Подобни части от ИИ трябва да бъдат проектирани за решаване на различни задачи, които имат различни характеристики.
В момента се опитваме да използваме някои технологии всичко-в-едно за решаване на задачи, които коренно се различават помежду си. Да разбереш дадено изречение не е съвсем същото като да разпознаеш обект. Но хората се опитват в двата случая да използват дълбоко обучение. От когнитивна гледна точка това са качествено различни задачи. Просто съм учуден колко малко в общността на специалистите по дълбоко обучение оценяват класическия ИИ. Защо да чакаме появата на сребърна куршума? Тя е недостижима и безплодните търсения не ни позволяват да осъзнаем цялата сложност на задачата за създаване на ИИ.
Също така споменавате, че системите за ИИ са необходими за разбирането на причинно-следствените връзки. Смятате ли, че в това ще ни помогне дълбокото обучение, класическият ИИ или нещо абсолютно ново?
Това е още една сфера, в която дълбокото обучение не е особено подходящо. То не обяснява причините за дадени събития, а изчислява вероятността на събитие при определени обстоятелства.
За какво говорим? Вие разглеждате определени сценарии и разбирате защо това се случва и какво може да се случи, ако някои обстоятелства се променят. Мога да погледна стелажа, на който седи телевизорът, и да си представя, че ако отрежа единия крак, стелажът ще се преобърне и телевизорът ще падне. Това е причинно-следствена връзка.
Класическият ИИ ни дава някои инструменти за това. Той може да представи, например, какво е подкрепа и какво е падение. Но няма да го преувеличавам. Проблемът е, че класическият ИИ до голяма степен зависи от пълнотата на информацията за случващото се, а аз направих заключение, само като погледнах на поставката. По някакъв начин мога да обобщавам, да представям части от поставката, които не виждам. Все още нямаме инструменти за реализиране на това свойство.
Вие също говорите за това, че хората притежават вродено знание. Как може да се реализира това в ИИ?
В момента на раждането, мозъкът ни вече представлява много добре обмислена система. Тя не е фиксирана, природата е създала първоначален, груб черновик. А след това обучението ни помага да преразглеждаме този черновик в течение на целия ни живот.
Грубият черновик на мозъка вече притежава определени възможности. Новороденото планинско козле може да слиза по склоновете на планината без грешка само след няколко часа. Очевидно е, че то вече разбира тримерното пространство, собственото си тяло и взаимовръзката между тях. Много сложна система.
Отчасти затова смятам, че ни трябват хибриди. Трудно е да си представим как може да се създаде робот, който добре функционира в света без аналогични знания, откъдето да започне, вместо да започне от нулата и да учи с дългогодишен, огромен опит.
Що се отнася до хората, нашето вродено знание произлиза от нашия геном, който е еволюирал през дълъг период от време. А при ИИ-системите ще трябва да поемем по различен път. Частично това могат да бъдат правилата за изграждане на нашите алгоритми. Частично това могат да бъдат правилата за създаване на структурите от данни, с които се манипулират тези алгоритми. И частично това могат да бъдат знания, които директно ще вложим в машините.
Интересно е, че в книгата си вие насочвате към идеята за доверие и създаване на доверителни системи. Защо избрахте именно този критерий?
Смятам, че днес всичко това представлява игра на топка. Имам чувството, че преживяваме странен момент от историята, като много се доверяваме на софтуер, който не заслужава доверие. Мисля, че притесненията, които ни характеризират днес, няма да бъдат вечни. След сто години ИИ ще оправдае нашето доверие, а може би и по-рано.
Но днес ИИ е опасен. Не в смисъла, в който Илон Мъск се опасява, а в това, че системите за интервюиране при наемане на работа дискриминират жените, независимо от действията на програмистите, тъй като инструментите им са твърде прости.
Искам да имаме по-качествен ИИ. Не искам да започне "зимата на изкуствения интелект", когато хората осъзнаят, че ИИ не работи и просто е опасен, и не искат да го поправят.
В известен смисъл вашата книга наистина изглежда много оптимистична. Предполагате, че може да се изгради надежден ИИ. Просто трябва да погледнем в друга посока.
Вярно, книгата е много песимистична в краткосрочен план и много оптимистична в дългосрочен. Считаме, че всички описани от нас проблеми могат да бъдат решени, ако по-широко се гледа на това, какви трябва да бъдат правилните отговори. И мислим, че ако това се случи, светът ще стане по-добър.
Източник: habr.com
