Не можеме да им веруваме на системи за вештачка интелигенција изградени само на длабоко учење

Овој текст не е резултат на научно истражување, туку едно од многуте мислења во врска со нашиот непосреден технолошки развој. И во исто време покана за дискусија.

Гери Маркус, професор на Универзитетот во Њујорк, верува дека длабокото учење игра важна улога во развојот на вештачката интелигенција. Но, тој исто така верува дека прекумерниот ентузијазам за оваа техника може да доведе до нејзино дискредитирање.

Во неговата книга Рестартирање на вештачката интелигенција: Градење на вештачка интелигенција на која можеме да веруваме Маркус, невронаучник со обука кој изгради кариера на врвни истражувања за вештачка интелигенција, се осврнува на техничките и етичките аспекти. Од технолошка перспектива, длабокото учење може успешно да ги имитира перцептивните задачи што ги извршува нашиот мозок, како што се препознавање слики или говор. Но, за други задачи, како што се разбирање разговори или одредување причинско-последични односи, длабокото учење не е соодветно. За да се создадат понапредни интелигентни машини кои можат да решат поширок опсег на проблеми - честопати наречени вештачка општа интелигенција - длабокото учење треба да се комбинира со други техники.

Ако системот за вештачка интелигенција навистина не ги разбира своите задачи или светот околу него, тоа може да доведе до опасни последици. Дури и најмалите неочекувани промени во опкружувањето на системот може да доведат до погрешно однесување. Веќе имаше многу такви примери: детерминанти на несоодветни изрази кои лесно се измамуваат; системи за барање работа кои постојано дискриминираат; автомобили без возачи кои удираат и понекогаш го убиваат возачот или пешакот. Создавањето вештачка општа интелигенција не е само интересен истражувачки проблем, тој има многу сосема практични примени.

Во нивната книга, Маркус и неговиот коавтор Ернест Дејвис се расправаат за поинаков пат. Тие веруваат дека сè уште сме далеку од создавање на општа вештачка интелигенција, но уверени се дека порано или подоцна ќе биде можно да се создаде.

Зошто ни е потребна општа вештачка интелигенција? Веќе се создадени специјализирани верзии и носат многу придобивки.

Така е, и ќе има уште повеќе придобивки. Но, има многу проблеми кои специјализираната вештачка интелигенција едноставно не може да ги реши. На пример, разбирање обичен говор или општа помош во виртуелниот свет или робот кој помага при чистење и готвење. Ваквите задачи се надвор од можностите на специјализираната вештачка интелигенција. Друго интересно практично прашање: дали е можно да се создаде безбеден самоуправувачки автомобил со помош на специјализирана вештачка интелигенција? Искуството покажува дека таквата вештачка интелигенција сè уште има многу проблеми со однесувањето во ненормални ситуации, дури и при возење, што во голема мера ја комплицира ситуацијата.

Мислам дека сите би сакале да имаме вештачка интелигенција која може да ни помогне да направиме нови нови откритија во медицината. Не е јасно дали сегашните технологии се погодни за ова, бидејќи биологијата е сложено поле. Треба да бидете подготвени да читате многу книги. Научниците ги разбираат причинско-последичните односи во интеракцијата на мрежите и молекулите, можат да развијат теории за планетите итн. Меѓутоа, со специјализирана вештачка интелигенција, не можеме да создадеме машини способни за такви откритија. И со општата вештачка интелигенција, би можеле да направиме револуција во науката, технологијата и медицината. Според мое мислење, многу е важно да продолжиме да работиме на создавање општа вештачка интелигенција.

Звучи како „општо“ да мислиш на силна вештачка интелигенција?

Под „општо“ мислам дека вештачката интелигенција ќе може да размислува и да решава нови проблеми во лет. За разлика од, да речеме, Go, каде што проблемот не е променет во последните 2000 години.

Општата вештачка интелигенција треба да може да носи одлуки и во политиката и во медицината. Ова е аналогно на човечката способност; секој разумен човек може многу. Земате неискусни студенти и во рок од неколку дена ги терате да работат на речиси сè, од правен проблем до медицински проблем. Тоа е затоа што тие имаат општо разбирање за светот и знаат да читаат, и затоа можат да придонесат за многу широк опсег на активности.

Врската помеѓу таквата интелигенција и силната интелигенција е дека несилната интелигенција веројатно нема да може да реши општи проблеми. За да создадете нешто доволно робусно за да се справите со свет кој постојано се менува, можеби ќе треба барем да пристапите кон општата интелигенција.

Но, сега сме многу далеку од ова. AlphaGo може да игра совршено добро на табла 19x19, но треба да се преквалификува за да игра на правоаголна табла. Или земете го просечниот систем за длабоко учење: може да препознае слон ако е добро осветлен и неговата текстура на кожата е видлива. И ако е видлива само силуетата на слон, системот веројатно нема да може да ја препознае.

Во вашата книга споменувате дека длабокото учење не може да ги постигне можностите на општата вештачка интелигенција бидејќи не е способно за длабоко разбирање.

Во когнитивната наука зборуваат за формирање на различни когнитивни модели. Седам во хотелска соба и разбирам дека има плакар, има кревет, има телевизор што е закачен на необичен начин. Ги знам сите овие предмети, не само што ги идентификувам. Разбирам и како тие се меѓусебно поврзани. Имам идеи за функционирањето на светот околу мене. Тие не се совршени. Можеби грешат, но се доста добри. И врз основа на нив донесувам многу заклучоци кои стануваат насоки за моите секојдневни постапки.

Другата крајност беше нешто како системот за игри Atari изграден од DeepMind, во кој се сеќаваше што треба да прави кога ќе види пиксели на одредени места на екранот. Ако добиете доволно податоци, можеби мислите дека имате разбирање, но во реалноста тоа е многу површно. Доказ за тоа е дека ако поместувате предмети за три пиксели, вештачката интелигенција игра многу полошо. Промените го збунуваат. Ова е спротивно на длабокото разбирање.

За да го решите овој проблем, предлагате враќање на класичната вештачка интелигенција. Кои предности треба да се обидеме да ги искористиме?

Има неколку предности.

Прво, класичната вештачка интелигенција е всушност рамка за создавање когнитивни модели на светот, врз основа на кои потоа може да се извлечат заклучоци.

Второ, класичната вештачка интелигенција е совршено компатибилна со правилата. Во моментов има чуден тренд во длабокото учење каде експертите се обидуваат да ги избегнат правилата. Тие сакаат да прават сè на невронски мрежи и да не прават ништо што личи на класично програмирање. Но, има проблеми кои мирно беа решени на овој начин, а никој не обрна внимание на тоа. На пример, градење правци во „Карти на Google“.

Всушност, ни требаат двата пристапа. Машинското учење е добро во учењето од податоци, но многу слабо во претставувањето на апстракцијата што е компјутерска програма. Класичната вештачка интелигенција добро функционира со апстракции, но мора да се програмира целосно рачно, а во светот има премногу знаење за да се програмираат сите. Јасно е дека треба да ги комбинираме двата пристапи.

Ова се поврзува со поглавјето во кое зборувате за тоа што можеме да научиме од човечкиот ум. И пред сè, за концептот заснован на идејата спомената погоре дека нашата свест се состои од многу различни системи кои работат на различни начини.

Мислам дека друг начин да се објасни ова е дека секој когнитивен систем што го имаме навистина решава различен проблем. Слични делови на вештачката интелигенција мора да бидат дизајнирани да решаваат различни проблеми кои имаат различни карактеристики.

Сега се обидуваме да користиме некои технологии се-во-едно за да ги решиме проблемите кои се радикално различни едни од други. Разбирањето на реченицата воопшто не е исто како и препознавањето на предметот. Но, луѓето се обидуваат да користат длабоко учење во двата случаи. Од когнитивна гледна точка, ова се квалитативно различни задачи. Едноставно сум изненаден од тоа колку малку се цени класичната вештачка интелигенција во заедницата за длабоко учење. Зошто да чекате да се појави сребрен куршум? Тоа е недостижно, а бесплодните пребарувања не ни дозволуваат да ја сфатиме целосната сложеност на задачата за создавање вештачка интелигенција.

Спомнувате и дека системи за вештачка интелигенција се потребни за да се разберат причинско-последичните односи. Дали мислите дека длабокото учење, класичната вештачка интелигенција или нешто сосема ново ќе ни помогнат во ова?

Ова е уште една област каде што длабокото учење не е добро прилагодено. Не ги објаснува причините за одредени настани, туку ја пресметува веројатноста за настан под дадени услови.

За што зборуваме? Гледате одредени сценарија и разбирате зошто тоа се случува и што би можело да се случи ако некои околности се променат. Можам да го погледнам држачот на кој седи телевизорот и да замислам дека ако му отсечам една нога, држачот ќе се преврти и телевизорот ќе падне. Ова е причинско-последична врска.

Класичната вештачка интелигенција ни дава некои алатки за ова. Може да замисли, на пример, што е поддршка, а што е пад. Но, нема да претерано пофалувам. Проблемот е што класичната вештачка интелигенција во голема мера зависи од целосните информации за тоа што се случува, а јас дојдов до заклучок само гледајќи го штандот. Можам некако да генерализирам, да замислам делови од трибината кои не ми се видливи. Сè уште немаме алатки за спроведување на овој имот.

Велиш и дека луѓето имаат вродено знаење. Како може ова да се имплементира во вештачката интелигенција?

Во моментот на раѓање, нашиот мозок е веќе многу сложен систем. Не е фиксна природата го создаде првиот, груб нацрт. И тогаш учењето ни помага да го ревидираме тој нацрт во текот на нашите животи.

Груб нацрт на мозокот веќе има одредени способности. Новородената планинска коза може непогрешливо да се спушти од планината во рок од неколку часа. Очигледно е дека тој веќе има разбирање за тродимензионалниот простор, неговото тело и односот меѓу нив. Многу сложен систем.

Ова е делумно зошто верувам дека ни требаат хибриди. Тешко е да се замисли како може да се создаде робот кој добро функционира во свет без слично знаење од каде да започне, наместо да започне со празен лист и да учи од долгогодишното, огромно искуство.

Што се однесува до луѓето, нашето вродено знаење доаѓа од нашиот геном, кој еволуирал долго време. Но, со системите за вештачка интелигенција ќе мора да одиме по друг пат. Дел од ова може да бидат правилата за конструирање на нашите алгоритми. Дел од ова може да бидат правилата за креирање на структурите на податоци со кои манипулираат овие алгоритми. А дел од ова може да биде и знаењето дека директно ќе инвестираме во машини.

Интересно е што во книгата ја наведувате идејата за доверба и создавање системи за доверба. Зошто го избравте овој конкретен критериум?

Верувам дека денес сето ова е игра со топка. Ми се чини дека живееме низ чуден момент во историјата, верувајќи на многу софтвер што не е доверлив. Мислам дека грижите што ги имаме денес нема да траат вечно. За сто години вештачката интелигенција ќе ја оправда нашата доверба, а можеби и порано.

Но, денес вештачката интелигенција е опасна. Не во смисла дека се плаши Илон Маск, туку во смисла дека системите за интервју за работа ги дискриминираат жените, без разлика што прават програмерите, бидејќи нивните алатки се премногу едноставни.

Посакувам да имаме подобра вештачка интелигенција. Не сакам да видам „зима со вештачка интелигенција“ каде што луѓето сфаќаат дека вештачката интелигенција не функционира и е едноставно опасна и дека не сакаат да ја поправат.

На некој начин, вашата книга изгледа многу оптимистичка. Претпоставувате дека е можно да се изгради доверлива вештачка интелигенција. Треба само да гледаме во друга насока.

Така е, книгата е многу песимистичка на краток рок и многу оптимистичка на долг рок. Ние веруваме дека сите проблеми што ги опишавме може да се решат со поширок поглед на тоа кои треба да бидат точните одговори. И мислиме дека ако се случи ова, светот ќе биде подобро место.

Извор: www.habr.com