Конференция DEFCON 25. Гари Каспаров. „Последната битка на мозъка“. Част 1

За мен е чест да съм тук, но моля, не ме хаквайте. Компютрите вече ме мразят, така че трябва да се сприятеля с възможно най-много хора в тази стая. Бих искал да спомена една малка дреболия от моята биография, която е интересна за американската публика. Роден съм и съм израснал в южната част на страната, точно до Джорджия. Това всъщност е вярно. Чакай малко, казах ти, че компютрите ме мразят!

Един слайд беше изгубен, но това наистина е самият юг на СССР, където съм роден в република, която се намираше точно до Република Грузия (бележка на преводача: името на държавата Грузия и Република Грузия звучи еднакво на английски).

Говорейки за моята родина, най-смешното е, че последната ми книга, „Дълбоко мислене“, беше написана за изкуствения интелект, за собствения ми опит в борбата с компютрите, а книгата, написана преди две години, се казваше „Зимата идва“. Това не беше резюме на Game of Thrones, а за Владимир Путин и борбата за свободния свят, но когато направих обиколката на книгата, всички искаха да ме питат за шаха и компютъра IBM Deep Blue. Сега, когато представям книгата „Дълбоко мислене“, всички искат да ме питат за Путин. Но се опитвам да се придържам към темата и съм сигурен, че след тази презентация ще има няколко въпроса, на които с удоволствие ще отговоря. Не съм политик, така че не се свеня да отговарям на въпроси.

Може да изглежда странно, че играта на шах, възникнала преди хиляди години, Бог знае кога, е перфектна аналогия на изкуствения интелект, защото когато говорим за AI, трябва да помним, че буквата I означава интелигентност и има нищо не показва, че е по-добро от шаха.

Много хора вярват, че шахът не е нищо повече от забавление, на което хората се отдават в кафенетата. Ако погледнете творенията на Холивуд, всички играят шах - извънземни, X-men, магьосници, вампири. Любимият ми филм, „Казабланка“ с Хъмфри Богарт, също е за шах и когато гледам този филм, винаги искам да застана в позиция да погледна вътре в екрана и да видя дъската на Богарт. Той играе френската защита, която беше много популярна в началото на 40-те години. Мисля, че Богарт беше доста приличен шахматист.

Бих искал да спомена, че Алфред Бине, един от съ-изобретателите на теста за интелигентност в края на 19 век, се възхищаваше на интелигентността на шахматистите и го изучаваше в продължение на много години. Ето защо не е изненадващо, че играта на шах привлече онези, които искаха да създадат умни машини. Въпреки това, често се случва интелигентни машини като "Турчин" на фон Кемпелен да са просто огромна измама. Но в края на 18 век тази шахматна машина беше голямо чудо, тя обиколи Европа и Америка и се бори със силни и слаби играчи като Франклин и Наполеон, но разбира се всичко беше измама. „Тюрк“ не беше истинска машина, това беше оригинална механична система от плъзгащи се панели и огледала, вътре в които се криеше силен играч - човек.

Интересното е, че сто-двеста години по-късно, през последните двайсет години, се наблюдава обратната ситуация – виждаме в турнири, че човешки играчи се опитват да скрият компютърни устройства в джобовете си. Така че сега трябва да търсим компютър, скрит в човешко тяло.

Въпреки това, историите, включващи механични устройства, са относително неизвестни. Първото механично устройство за игра на шах се появи през 1912 г., играеше с една механична част, можеше да превърне мат в топ, но не можеше да се нарече прототип на първия компютър.

Интересното е, че пионерите в компютърния дизайн като Алън Тюринг и Клод Шанън са имали голям интерес към шаха. Те вярваха, че играта на шах може да разкрие тайните на изкуствения интелект. И ако един ден компютър победи обикновен шахматист или световен шампион по шах, това ще бъде проява на еволюцията на AI.

Ако си спомняте, Алън Тюринг създава първата компютърна програма за игра на шах през 1952 г. и това е голямо постижение, но още по-значим е фактът, че тогава не е имало компютри. Това беше просто алгоритъм, който той използваше, за да играе шах, и действаше като процесор на човешки компютър. Важно е да запомните, че бащите-основатели на компютрите определиха пътя, по който трябваше да се развива ИИ, следвайки процесите на човешката мисъл. Обратният начин е това, което наричаме атака с груба сила или бързо търсене на възможни ходове.

Не бях чувал нищо за състезание срещу компютри през 1985 г., но на тази снимка можете да видите 32 дъски и въпреки че играех срещу хора, това всъщност беше истинска игра срещу компютри. По това време имаше 4 водещи производители на шах компютри, които просто ги представиха на света. Може би някои от вас все още имат такива компютри, сега те са истинска рядкост. Всеки производител имаше 8 компютърни модула, така че в действителност играх с 32 противника и спечелих всички игри.

Много важното е, че това не беше изненада, а закономерен резултат и всеки път, когато гледам тази снимка на моята победа, си спомням това време като златния век на шах машините, когато те бяха слаби, а косата ми - гъста .

Така беше юни 1985 г. и 12 години по-късно бях играл само срещу един компютър. Имаше реванш през 1997 г., защото спечелих първия мач, който се проведе през 1996 г. във Филаделфия. Загубих този реванш, но честно казано, повратната точка в компютърния шах се случи не през 1997 г., а през 1996 г., когато спечелих мача, но загубих първата партия. Тогава спечелих 3 партии, а резултатът стана 4:2 в моя полза.

Всъщност важният факт тук е, че компютърът по онова време е бил способен да стане световен шампион по шах, ако играе в редовен турнир по шах. Не очаквах от IBM, че ще могат да направят толкова сериозна техническа работа, за да подсилят компютъра си за една година. Но най-голямата ми грешка, с изключение на рязкото увеличение на цената на акциите на IBM, която скочи от няколко точки до милиард долара две седмици след мача, беше неспособността да разчета дребния шрифт. Защото един от проблемите, които имах през 2 г. с компютъра Deep Blue беше, че той беше черна кутия за мен. Не знаех нищо за съперника си, как мисли, каква тактика използва. Обикновено, когато се подготвяте за партия, изучавате противника си, независимо дали е шахматна или футболна среща, и наблюдавайки начина на игра, изучавате неговата стратегия. Но нямаше информация относно "стила на игра" на Deep Blue.

Опитах се да бъда умен и заявих, че за следващия мач трябва да имам достъп до игрите, играни от Deep Blue. Те отговориха: „Разбира се!“, но добавиха с дребен шрифт:

„...само по време на официални състезания.“

И това въпреки факта, че Deep Blue не е играл нито една игра извън стените на лабораторията. Така че през 1997 г. играх срещу черната кутия и всичко се оказа обратното на това, което се случи през 1996 г. - спечелих първата игра, но загубих мача.

Между другото, къде бяхте хакери преди 20 години, когато имах толкова голяма нужда от тях? Наистина, когато минавам с поглед по редиците на присъстващите, разбирам, че много от вас вероятно още не са били родени.

Най-голямата ми грешка беше, че третирах мача Deep Blue като голям научен и социален експеримент. Мислех, че ще бъде страхотен, защото всъщност ще открие тази област, в която човешката интуиция може да се сравни с „грубата сила“ на компютърните изчисления. Въпреки това, Deep Blue, с феноменалната си изчислителна скорост от около 2 милиона шахматни позиции в секунда, което изобщо не беше лошо за 1997 г., беше всичко друго, но не и изкуствен интелект. Изпълнението му не допринесе за разкриването на мистерията на човешкия интелект.

Не беше по-интелигентен от обикновен будилник, но не се чувствам по-добре да загубя от будилник за 10 милиона долара.

Спомням си пресконференцията по време на церемонията по откриването на мача, когато човекът, ръководещ проекта IBM, каза, че това ще отбележи края на научните експерименти и победата на науката. Тъй като имахме една победа и една загуба, исках да играя трети мач, за да разбера кой е по-силен, но демонтираха компютъра, явно за да премахнат единствения безпристрастен свидетел. Опитах се да разбера какво се е случило с Deep Blue, но не можах да разбера. По-късно научих, че той е започнал нова кариера и сега прави суши в един от терминалите на летище Кенеди.

Обичам суши, но там не ми трябва компютър. И така, тук моята история с компютърния шах приключи доста бързо. Но тези от вас, които също играят шах или други игри, знаят колко сме уязвими в сравнение с компютрите, защото не сме толкова стабилни, безпристрастни и правим грешки. Дори играчите от най-високо ниво правят грешки, например по време на мач за шампионат, където има 50 или 45 хода, поне една малка грешка е неизбежна. Ако играят истински хора, това няма голямо значение, но ако направите грешка, когато играете с машина, тогава може да не загубите, но няма и да спечелите, защото машината ще може да избегне поражение.

В един момент разбрах, че е само въпрос на време, защото не можем да постигнем същото ниво на бдителност и прецизност, което е необходимо, за да победим компютър, тъй като машината е необичайно стабилна в действията си. Години по-късно станахме свидетели на това, че машините печелят мачове през цялото време. Повтарям още веднъж - всичко това се отнася само за шахматната игра, която е много уязвима на грубия метод на игра, когато компютърът с голяма скорост преминава през много опции за ходове и избира най-оптималния. Това не е изкуствен интелект, така че хората грешат, когато казват, че човешки шахматист е бил победен от изкуствен интелект.

По-късно играх още няколко мача срещу компютри. Веднъж анализирах тези игри с помощта на модерни шахматни машини и това беше доста болезнено преживяване. Беше пътуване назад във времето и бях принуден да призная колко зле се представих в тези мачове, защото трябваше да обвинявам само себе си. По онова време обаче компютърният „демон“ не беше толкова силен, може и да не повярвате, но безплатното приложение за шах на вашето мобилно устройство днес е по-силно от Deep Blue. Разбира се, ако имате шахматен двигател като asmFish или Comodo и най-новия лаптоп, тази система ще бъде още по-мощна.
Когато играх срещу Deep Blue, мисля, че беше игра 5, компютърът направи постоянна проверка в края на играта и всички започнаха да казват, че това е страхотна победа и че компютърът показва феноменално качество на игра. Но днес, с модерен компютър, изглежда просто смешно. Целият ни мач може да се изиграе за 30 секунди, максимум минута в зависимост от производителността на вашия лаптоп. В началото направих грешка, след това се опитах да спася играта, Deep Blue направи няколко контра хода и спечели. Това са правилата на играта и в това няма нищо лошо.

През 2003 г. играх още 2 мача срещу компютъра X3D Frintz, и двата завършиха наравно. Организаторите ме накараха да нося 3-D очила, защото компютърът имаше 3-измерен интерфейс.

Но във всеки случай историята приключи и аз мислех за бъдещето. Вижте тази снимка, направена в началото на този век.

Ако погледнете тези деца, можете да видите, че те играят на редки компютри. Днес децата ми дори няма да разберат какво е това. Някои сложни клавиатури са показани тук, но сега те просто плъзгат пръстите си по сензорния екран.

Важното е, че по-интелигентните машини правят нашите задачи много по-лесни. Вероятно греша, като казвам това, защото вие знаете това по-добре от всеки друг. Така, с помощта на Peppa Pig и технически предизвикателства, пътят за истинско творчество е разчистен.

Замислих се как можете да комбинирате силата на компютър и човек? Можем да вземем за пример шаха, защото в шаха има решение. Знаете много добре в кои области компютърът е силен и в кои отстъпва на човек. И тогава ми хрумна една концепция, която нарекох „шах за напреднали“.

Следвайки руската поговорка: „ако не можете да спечелите, присъединете се!“, нарекох напредналия шах игра, в която един човек с компютър се бие срещу друг човек с компютър.

През 1998 г. играх с човек от българския шахматен елит и интересното е, че и двамата не успяхме да играем добре, защото не успяхме да увеличим максимално ефекта от съвместната работа с компютъра. Чудех се защо двама страхотни играчи не могат да се възползват от сътрудничеството с AI. Отговорът дойде по-късно с въвеждането на така наречения свободен стил с ограничен брой подсказвания от компютъра. Можете да играете, като се свържете със суперкомпютър през интернет или можете да използвате собствения си компютър или много компютри. Искам да отбележа, че двойка човек-компютър винаги ще надмине всеки суперкомпютър. Причината е много проста - компютърът компенсира нашето разсеяно мислене и ние сме в добра позиция да преминем към компютъра, защото той елиминира уязвимостта на друг компютър, възползвайки се от нашата човешка слабост.
Но в това няма нищо сензационно. Сензацията беше, че победителите в състезанието не бяха първокласни играчи, а сравнително слаби шахматисти с обикновени компютри, които обаче успяха да създадат подобрен процес на взаимодействие. Това е трудно да се формулира, защото звучи парадоксално: слаб играч плюс нормален компютър плюс подобрен процес превъзхожда силен играч с мощен компютър, но слаб процес на взаимодействие. Интерфейсът е всичко!

Интересното е, че изобщо не ти трябва силен играч, не ти трябва Гари Каспаров, за да си от страната на машината, за да намериш най-добрия ход, а отговорът на това е прост. Ако днес разгледаме относителните силни страни на хората и компютрите, можем да отидем отвъд шаха, но нека започнем с тях, защото шахът има числа. Така моят шахматен рейтинг за всички времена беше 2851, докато не загубих от Магнус Карлсен, а в края на шахматната ми кариера беше 2812. Днес Магнус Карлсен води класацията с над 2800 точки. Приблизително 50 играча имат рейтинг между 2700 и 2800 точки. Това е елитът на шахматния свят. В наши дни мощността на компютъра е в рамките на 3200 точки, а със специализиран софтуер рейтингът му може да достигне 3300-3400 точки.

Сега разбирате ли защо не ви трябва силен играч? Защото играч от моето ниво ще се опита да накара компютъра да действа в една или друга посока, вместо да бъде обикновен оператор с него. Следователно, по-слабият шахматист, който няма такава „арогантност“ и такава самонадеяност като световния шампион по шах, ще взаимодейства с компютъра много по-ефективно и ще формира по-продуктивна комбинация „човек-компютър“.

Мисля, че това е много важно откритие не само за шаха, но и например за медицината. Както е известно, компютрите в много случаи са в състояние да поставят по-точна диагноза от най-добрите лекари. И така, какво бихте искали повече: добър лекар, представен от компютър, или добра медицинска сестра, която просто ще следва инструкциите и ще напише малко ръководство въз основа на препоръките на машината?

Не знам точните числа, да кажем, че 60-65% от хората ще изберат лекар и 85% ще се насочат към компютър, но психологически, ако си добър лекар, няма да можеш да приемеш това. Ако погледнете днешния технологичен прогрес, можем да кажем, че компютрите поставят истинска диагноза в 80 - 85 - 90% от случаите, но 10% все още остават за хората! И това може да има огромна разлика, защото когато куршумът се отклони само с 1 градус при изстрел, той може да отлети на няколкостотин метра от целта. Въпросът е дали можем да канализираме пълната мощност на изчислителната техника.
Затова все още вярвам, че всички страхове, че машините скоро ще изместят всички нас и това ще бъде краят на света, Армагедон, са само слухове. Защото, както казах, тук става дума за човешката креативност и уникалното при компютърната интелигентност е, че тя просто подобрява нашата креативност, освобождава я и ни казва как да я използваме по най-добрия възможен начин.

Понякога, за да намерите отговор на въпрос, си струва да се отдалечите от света на науката и да се потопите в света на изкуството. Веднъж открих страхотен парадокс, заявен от великия художник Пабло Пикасо: „Компютрите са безполезни. Единственото, което могат да направят, е да дават отговори. Мисля, че в това има голяма мъдрост и тези думи звучат окуражаващо, защото машините наистина дават отговори и тези отговори са изчерпателни!

Пикасо обаче не се задоволява с изчерпателни отговори, защото е художник. Това се дължи на постоянното преосмисляне на изкуството, точно това правим непрекъснато – задаваме въпроси. Могат ли компютрите да задават въпроси?

Веднъж посетих хедж фонда Bridgewater Associates, за да говоря с Дейв Феручи, един от разработчиците на суперкомпютъра Watson на IBM. Говорехме дали машините могат да задават въпроси и Дейв каза: „Да, компютрите могат да задават въпроси, но те не знаят кои въпроси наистина имат значение.“ Това е смисълът. Така че все още сме в играта и имаме шанс да продължим напред, защото играта между човек и компютър все още не е приключила.

На този слайд виждате няколко снимки на възможни области на използване на автономни компютри, машини, които могат да се програмират сами, тоест имат способността да учат.

Една от снимките показва Демис Хасабис с неговата самообучаваща се невронна мрежа AlphaGo. Всъщност това е може би първата машина, която може да се нарече прототип на изкуствен интелект.

Както вече казах, Deep Blue е brute-force overkill, Watson може би е преходна връзка, но все още не е AI. AlphaGo е програма за задълбочено обучение, която се подобрява, като намира подходящи модели, като играе милиони и милиони игри.

Мога да кажа, че с AlphaGo за първи път имаме работа с истинска черна кутия. Защото, например, ако прекараме сто години в изучаване на хиляди мили дневници на играта Deep Blue, в крайна сметка ще стигнем до първоначалната идея защо е взето конкретно решение и е направен конкретен ход. Що се отнася до AlphaGo, сигурен съм, че дори самият Демис Хасабис няма да може да каже защо версия 6 е по-добра от версия 9 или обратното, имайки предвид решението, взето от тази машина.

От една страна, това е страхотно постижение, но от друга страна може да бъде проблем, защото ако машината направи грешка, вие няма да можете да разберете за това. Във всеки случай обаче това е движение към създаване на истински AI.

Веднъж говорих в централата на Google и те ми направиха обиколка на Google X. Това беше много интересно, защото тази компания се движи уверено в посоката на създаване на AI, решаване на проблемите със създаването на самоуправляваща се кола или автономни дронове, които независимо доставят стоки. Но не по-малък проблем от техническата поддръжка на AI е проблемът с регулирането на дейността му. Хората говорят за това как изкуственият интелект може напълно да ги замени и да ги остави без работа. Нека обаче призовем на помощ историята на човешката цивилизация – това се е случвало от стотици и хиляди години!

24:35 мин

Конференция DEFCON 25. Гари Каспаров. „Последната битка на мозъка“. Част 2

Благодарим ви, че останахте с нас. Харесвате ли нашите статии? Искате ли да видите още интересно съдържание? Подкрепете ни, като направите поръчка или препоръчате на приятели, 30% отстъпка за потребителите на Habr за уникален аналог на сървъри от начално ниво, който беше измислен от нас за вас: Цялата истина за VPS (KVM) E5-2650 v4 (6 ядра) 10GB DDR4 240GB SSD 1Gbps от $20 или как да споделите сървър? (предлага се с RAID1 и RAID10, до 24 ядра и до 40GB DDR4).

Dell R730xd 2 пъти по-евтин? Само тук 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV от $199 в Холандия! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - от $99! Прочети за Как да изградим инфраструктура Corp. клас с използване на сървъри Dell R730xd E5-2650 v4 на стойност 9000 евро за стотинка?

Източник: www.habr.com