От какъв ученик се нуждае един магьосник и от какъв ИИ се нуждаем?

ВНИМАНИЕ
Съдейки по рекордно високото съотношение на броя на мълчаливо недоволните към броя на коментаторите, които имат какво да възразят, за много читатели не е очевидно, че:
1) Това е чисто теоретична дискусионна статия. Тук няма да има практически съвети относно избора на инструменти за копаене на криптовалута или сглобяването на мултивибратор за мигане на две електрически крушки.
2) Това не е научно-популярна статия. Няма да има обяснение за манекените на принципа на работа на машината на Тюринг, използвайки примера на кибритени кутии.
3) Помислете добре преди да продължите да четете! Привлича ли ви позата на агресивен аматьоризъм: минус всичко, което не разбирам?
Благодаря предварително на всички, които решат да не четат тази статия!

Демонът е компютърна програма на системи от клас UNIX, която се стартира от самата система и работи във фонов режим без директно взаимодействие с потребителя.

Wikipedia

Дори в предучилищна възраст чух приказка за чирак на магьосник. Ще го повторя в преразказа си:

Имало едно време, някъде в средновековна Европа, живял магьосник. Имаше голяма книга със заклинания, подвързана с черна телешка кожа с железни скоби и ъгли. Когато магьосникът трябваше да направи заклинание, той го отключваше с голям железен ключ, който винаги носеше на пояса си в специална торбичка. Магьосникът също имаше ученик, който служеше на магьосника, но му беше забранено да погледне в книгата с магии.

Един ден магьосникът замина за цял ден по работа. Веднага щом излезе от къщата, ученикът се втурна в подземието, където имаше алхимична лаборатория, в която лежеше книга с магии, прикована към масата. Ученикът грабна тигелите, в които магьосникът разтопи олово, за да го превърне в злато, постави ги на мангала и раздуха огъня. Оловото бързо се стопи, но не се превърна в злато. Тогава ученикът си спомни, че магьосникът, след като разтопи оловото, всеки път отключва книгата с ключ и дълго време шепне заклинание от нея. Ученикът погледна безнадеждно заключената книга и видя, че до нея лежи ключът, забравен от магьосника. След това се втурна към масата, отключи книгата, отвори я и високо прочете първото заклинание, като внимателно произнасяше непознати думи сричка по сричка, предполагайки, че такова важно заклинание като заклинанието за превръщане на олово в злато със сигурност ще бъде първото. .

Но нищо не се случи: водещата не искаше да се трансформира. Ученикът искаше да опита друго заклинание, но тогава гръм разтърси къщата и огромен, страховит демон се появи пред ученика, призован от заклинанието, което ученикът току-що беше рецитирал.
- Поръчка! - изръмжа демонът.
От страх всички мисли напуснаха главата на ученика, той дори не можеше да се движи.
- Заповядайте или ще ви изям! - изръмжа отново демонът и протегна огромна ръка към ученика, за да го сграбчи.
В отчаяние ученикът измърмори първото, което му хрумна:
- Поливайте това цвете.
И той посочи мушкато, чиято саксия стоеше на пода в ъгъла на лабораторията; на тавана над цветето имаше единственото прозорче в подземието, през което слънчевата светлина едва пробиваше. Демонът изчезна, но миг по-късно се появи отново с огромен варел вода, който обърна върху цветето, изливайки водата. Пак изчезна и се появи с пълна бъчва.
„Стига“, извика ученикът, застанал до кръста във водата.
Но явно само желанието не било достатъчно - демонът носел и носел вода в буре, изливайки я в ъгъла, където някога стоело цвете, скрито под водата. Вероятно е било необходимо специално заклинание, за да прогони демона. Но масата с книгата вече беше изчезнала в мътната вода, в която плуваха пепел и въглени от мангала, празни реторти, колби, столчета, галванометри, дозиметри, спринцовки за еднократна употреба и други отпадъци, така че дори ученикът да знаеше как да намери необходимото заклинание, той не можеше да го направи. Водата се покачваше и ученикът се качи на масата, за да не се задави. Но това не помогна за дълго - демонът методично продължи да носи вода. Ученикът вече беше във вода до шия, когато магьосникът се върна, откривайки, че е забравил ключа от книгата у дома, и прогони демона. Краят на приказката.

Веднага за очевидното. С естествената интелигентност (NI) на ученика изглежда, че всичко е ясно - глупаво, трябва да търсите дълго време за нещо още по-глупаво. Но с интелигентността на демона - между другото, какъв вид интелигентност има той: EI или AI? – двусмислен. Различните версии са легитимни (и за тях също ще възникнат въпроси):

Версия 1) Демонът е дори по-тъп от ученика. Той получи заповед и ще я изпълнява за неопределено време, дори когато всякакъв смисъл изчезне: цветето - обектът на поливане - ще изчезне, ъгълът, към който са прикрепени координатите на цветето, ще изчезне, планетата Земя ще изчезне и глупавият демон ще продължи да доставя вода във варели до определена точка в космоса. И ако в този момент избухне свръхнова, тогава демонът не се интересува къде да носи водата. Нещо повече: колко глупав трябва да си, за да полееш малко цвете от огромна бъчва? Това вече се казва не поливане на цветето, а удавяне на цветето. Той изобщо разбира ли значението на заповедите?

Версия 2) Демонът разбира всичко, но е обвързан със задължения. Така че той провежда нещо като италианска стачка. Докато не бъде официално изгонен по всички правила, той няма да спре.

Въпрос 1 към версии 1,2) Как да различим напълно глупав демон според версия 1 от съвсем глупав демон според версия 2?
Въпрос 2 към версии 1,2) Дали демонът би изпълнил правилно (от гледна точка на ученика) по-точна формулировка? Например, ако ученик каже: вземете онази празна литрова колба, която е на рафта, напълнете я с вода и полейте това цвете веднъж. Или, например, ако ученикът каза: върви си.

Версия 3) Магьосникът прави допълнително заклинание на демона, според което, ако някой друг освен магьосника използва услугите на демона, тогава демонът трябва незабавно да информира магьосника за този факт.

Версия 4) Демонът не изпитва злоба към магьосника и неговия ученик, затова, виждайки, че ситуацията е извън контрол, по време на движенията си с варел той се появи зад гърба на магьосника и излая: „Забравихте ключа у дома , има наводнение.” Но самият магьосник нямаше да си спомни.

Бележка 1 към версия 4) Особено заслужава да се отбележи, че носителите на EI имат много несъвършена памет.

Допълнителни версии могат да бъдат умножени като „зайци на Фибоначи“, т.е. не е много сложен алгоритъм. Например:
Версия 5) Демонът отмъщава на ученика, защото го безпокои.
Версия 6) Демонът не изпитва злоба към ученика, но отмъщава на магьосника.
Версия 6) Демонът отмъщава на всички.
Версия 7) Демонът не отмъщава, а се забавлява. Свършва, когато се измори.
И така нататък

И така, с демона е ясно, че нищо не е ясно. Не е по-добре с магьосник. Можете да измислите не по-малко версии: че той нарочно е решил да даде урок на ученик, който си пъха любопитния нос навсякъде; че искал да удави ученика, но когато демонът излаял за потопа, той се уплашил - изведнъж един от минувачите чул, тогава подозрението ще падне върху магьосника; искаше да събуди интереса на ученика към заклинанията и т.н.

Тук е възможен детски въпрос: коя от предложените версии е вярна? Очевидно, всякакви. В приказката не е останала неизползвана информация, която да дава предимство на която и да е версия пред останалите. Тук имаме работа с доста често срещан случай на произведения на изкуството с възможност за двусмислено тълкуване. Например, ако режисьорът иска да постави тази приказка в театър или да направи филм по нея, той може да избере интерпретацията, която е най-привлекателна от негова гледна точка. Друг режисьор може да намери различна интерпретация за привлекателна. В същото време привлекателността може да се определи от допълнителни съображения, например привлекателност за зрителите, за да се осигурят максимални приходи от боксофиса или привлекателност за демонстриране на някаква супер-идея: идеята за победата на доброто над злото, идея за дълг, бунтовна идея - например според Достоевски: ученик, като Разколников, той задава въпроса „треперещо същество ли е или има право“ и т.н.

Възниква друг въпрос.
Още един въпрос). Как можем да научим AI да дава предпочитание на една от озвучените версии, ако ние самите, притежавайки AI, не можем винаги съзнателно да изберем една от тях?

Връщайки се към магьосника, версията, че той е искал послушен и послушен ученик, като демон, за да не си пъха носа в забранените книги и там, където не го питат, изглежда много правдоподобна. Същото нещо сега често се иска от AI. На пръв поглед това са нормални традиционни изисквания за всяка машина: пълното подчинение, неподчинението е неприемливо. Но в случай на AI може да възникне проблем с версии 1,2 (виж по-горе), т.е. AI се изражда - хардуерът може да мисли каквото си иска за своите създатели и собственици, но няма да извършва никакви действия, свързани с AI, т.е. Вместо AI ще получим глупав примитивен автомат. От това се прокрадва подозрение: може би магьосникът не е искал да направи ученика такъв глупав изпълнител като демон? Тези. Появява се идеята за AI с ограничения. Тук всичко е още по-трудно дори в областта на ЕИ: спомнете си вечните конфликти „бащи и синове“, „учител и ученик“, „шеф и подчинен“.

По-рано Когато избирах дефиниция на AI сред възможните, отбелязах:

задачата за сортиране на няколко десетки хиляди думи по азбучен ред ще бъде досадна за човек, ще му отнеме много време да го направи и вероятността от грешки за среден изпълнител със средно ниво на отговорност ще бъде значителна. Съвременният компютър ще изпълни тази задача без грешки за много кратко време за човек (части от секундата).

Спрях се на следното определение: AI включва задачи, които компютърът решава значително по-зле от човека.

Тази дефиниция отчита изложените по-горе съображения и е удобна за практика; в същото време не е идеална, дори само защото списъците със задачи, „които компютърът решава значително по-зле от човека“, са различни сега и преди 20 години . Но според мен все още никой не е измислил по-съвършено определение.

Горното е илюстрирано чисто качествено от диаграмата в началото на статията. На координатната ос „умения“ уменията в района на нула (нула и малко повече) съответстват на умения, при които човек превъзхожда компютъра, например в способността да взема нестандартни решения. Умения в района на едно (едно и малко по-малко) съответстват на умения, при които компютърът превъзхожда човек: способност за изчисляване, памет. Поставяйки максималното превъзходство, равно на конвенционална единица на координатната ос „превъзходство“, получаваме зависимостта на превъзходството от уменията за хора и компютри под формата на диагонали на единичен квадрат. Така изглежда ситуацията в момента. Възможно ли е силен AI да разполага с всичките си умения на максимум (червена линия)? Или дори по-високо (super-AI - синя линия)? Може би междинната цел на прогреса не трябва да е силна, но не съвсем
слаб AI (лилава линия), който ще бъде по-нисък от AI в редица умения, но не толкова, колкото е сега.

Връщайки се към нашия литературен приказен модел, можем да кажем, че всичките му герои не са се представили по най-добрия начин: нечестивият магьосник забравил ключа и получил наводнение в подземието си, ученикът, поради глупост и невнимание, получил куп крайни впечатления и почти удавен, демонът беше изгонен без никаква благодарност. Що се отнася до интелигентността на демона, вече беше отбелязано, че е трудно той ясно да се класифицира като AI или EI, но интелигентността (макар и не впечатляваща) на другите очевидно принадлежи на EI. За тях може да се каже, че допускането на опасни грешки в решенията, невниманието, забравянето на необходимите неща и умората са основните им присъщи свойства. За съжаление тези свойства са присъщи в по-голяма или по-малка степен на всички други носители на EI. Ненадеждността на сортирането на думи или числа в потребителския интерфейс вече беше отбелязана по-горе, но изглежда още по-проста задача - простото запомняне на число се оказва много трудно за хората. За една машина способността да запомни цифрите на pi е ограничена само от размера на нейната памет и повечето хора трябва да използват мнемоника, като „Какво знам за кръговете“. Изглежда, че редът „3,1416“ има по-малко знаци от указаната мнемоника, но по някаква причина хората предпочитат да запомнят по по-малко икономичен начин. И по-дълго:

Научете и знайте числото зад числото, как да забележите късмета

За да не правим грешки,
Трябва да се чете правилно
Три, четиринадесет, петнадесет
Деветдесет и две и шест

За да запомните цветовете на дъгата:

Всеки дизайнер иска да знае къде да изтегли Photoshop

И началото на периодичната таблица:

Родната вода (водород) беше смесена с гел (хелий), за да се излее (литий). Да, Вземи и изсипи (Берилий) в боровата гора (Бор), където изпод Родния кът (Въглерод) наднича Азия (Азот) и с такова Кисело лице (Кислород), че Вторично (Флуор) не съм искате да разгледате. Но ние нямахме нужда от него (Neon), така че се преместихме на три (Sodium) метра и се озовахме в Magnolia (Magnesium), където Аля в мини (Алуминиева) пола беше намазана с крем (Silicon), съдържащ Phosphorus (Phosphorus) за да спре да бъде Сера (Сера). След това Аля взе Хлор (Хлор) и изми кораба на аргонавтите (Аргон)

Но защо толкова очевидно несъвършенство в такъв перфектен EI? Може би, благодарение на способността да забравя най-простите факти, човек получава свободата да комбинира фрагменти от мислите си в произволен див ред и да намира нестандартни решения? Ако е така, тогава силният AI е невъзможен. Или ще забрави като човек, или няма да е способен на нестандартни решения. Във всеки случай, от горните предположения следва, че е необходимо да се прави разлика между целите на AI: една от целите е моделирането на AI, другата е създаването на силен AI. Постигането на едното може да изключи постигането на другото.

Както виждаме, има твърде много въпроси с двусмислени отговори в областта на AI, така че не е ясно в каква посока да се движим. Както се случва в такива случаи, те се опитват да се движат във всички посоки едновременно. В същото време, поради липсата на математически строги формулировки, човек трябва да се обърне към философията и художественото и литературно моделиране. Един от най-известните примери в тази насока е книгата „Изборът на Тюринг” (1992) на един от светилата на ИИ Марвин Лий Мински и известния фантаст Хари Харисън. Ще цитирам от тази книга, може би обяснявайки гореописания феномен на мнемониката:

Човешката памет не е магнетофон, който записва всичко в хронологичен ред. Тя е структурирана по съвсем различен начин - по-скоро като небрежно поддържана картотека, оборудвана с объркващ и противоречив индекс. И не просто объркващи - от време на време променяме принципите на класификация на понятията.

Интересна интерпретация на метафората на магнетофона в друго литературно произведение, разказът на Станислав Лем „Терминус“ (от поредицата „Истории за пилота Пиркс“). Ето случая с един вид „интелигентен магнетофон“: стар робот на стар космически кораб, който някога е претърпял инцидент, е ангажиран в текущи ремонтни дейности, придружени от подслушване. Но ако се вслушате внимателно, това не е просто бял технологичен шум, а запис на морзова азбука - разговори между членове на екипажа на умиращ кораб. Пиркс се намесва в тези преговори и неочаквано получава отговор от отдавна мъртвите астронавти. Оказва се, че примитивният ремонтен робот по някакъв начин съхранява копия на своето съзнание или това са когнитивни изкривявания на възприятието на пилота Пиркс?

В друга история, „Ananke” (от същата серия), копие на EI в контролния компютър на космически транспорт води до параноичното му претоварване с тестови задачи, което завършва катастрофално.

В разказа „Злополука” прекалено антропоморфно програмиран робот умира в резултат на алпинистко изкачване, което е решил да направи в свободното си време. Нужни ли са такива изпълнители? Но демоните, фиксирани върху поливането на цвете, също не винаги са необходими.

Някои специалисти в областта на AI не харесват подобно „философстване“ и „литературизъм“, но тези „философстване“ и „литературизъм“ са традиционно присъщи на анализа на AI и са неизбежни, докато AI се сравнява с AI и дори още повече, докато AI се опитва да копира AI.

В заключение анкета по редица възникнали въпроси.

В анкетата могат да участват само регистрирани потребители. Впиши се, Моля те.

1. AI включва ли задачи, които компютърът решава значително по-зле от човека?

• Да

• Не

• Знам по-добре определението. Ще го дам в коментарите.

• Трудно е да се отговори

34 потребители гласуваха. 7 потребители се въздържаха.

2. Трябва ли AI да бъде само изпълнител, трябва ли всички заповеди да се приемат буквално? Например, казаха да поливаш цвете - значи поливай, докато те изгонят

• Да

• Не

• Трудно е да се отговори

37 потребители гласуваха. 6 потребители се въздържаха.

3. Възможно ли е да имате силен AI, в който всички умения ще бъдат максимални (червена линия на снимката в началото на статията)?

• Да

• Не

• Трудно е да се отговори

35 потребители гласуваха. 7 потребители се въздържаха.

4. Възможен ли е супер-AI (синя линия на снимката в началото на статията)?

• Да

• Не

• Трудно е да се отговори

36 потребители гласуваха. 7 потребители се въздържаха.

5. Междинната цел трябва да бъде не силен, но и не напълно слаб AI (лилава линия на фигурата в началото на статията), който в редица умения ще бъде по-нисък от AI, но не толкова, колкото е сега ?

• Да

• Не

• Трудно е да се отговори

33 потребители гласуваха. 5 потребители се въздържаха.

6. Правенето на опасни грешки в решенията, невниманието, забравянето на необходими неща и умората са основните присъщи свойства на EI?

• Да

• Не

• Аз имам друго мнение, което ще изложа в коментарите.

• Трудно е да се отговори

33 потребители гласуваха. 5 потребители се въздържаха.

7. Благодарение на способността да забравя най-простите факти, човек придобива свободата да комбинира фрагменти от мислите си в произволен див ред и да намира нестандартни решения?

• Да

• Не

• Аз имам друго мнение, което ще изложа в коментарите.

• Трудно е да се отговори

31 потребители гласуваха. 4 потребители се въздържаха.

8. Моделирането на AI и създаването на силен AI са две различни задачи, които могат да бъдат решени с различни методи?

• Да

• Не

• Аз имам друго мнение, което ще изложа в коментарите.

• Трудно е да се отговори

32 потребители гласуваха. 4 потребители се въздържаха.

Източник: www.habr.com