ПРЕДУПРЕЖДЕНИЕ
Съдейки по рекордно високото съотношение на незадоволени читатели към коментиращите, на много от тях не е очевидно, че:
1) Това е чисто теоретична статия за обсъждане. Тук няма да има практически съвети относно избора на инструменти за добив на криптовалути или сглобяването на мултивибратор, за да мигат две лампички.
2) Това не е научнопопулярна статия. Тук няма да обяснявам принципа на работа на Тюринг машината с пример с кутии за кибрит.
3) Помислете добре, преди да продължите да четете! Привлича ли ви позата на агресивен любител: да отхвърляте всичко, което не разбирате?
Предварително благодаря на всички, които решат да не четат тази статия!
Демонът е компютърна програма в UNIX системи, която се стартира от самата система и работи във фонов режим без пряко взаимодействие с потребителя.
Още от предучилищна възраст съм чувал приказка за ученика на магьосника. Ще я повторя в моя вариант:
Някъде в средновековна Европа живял магьосник. Той имал голямо книга с заклинания, обвита в черна телешка кожа с катарами и железни ъгли. Когато магьосникът искал да прочете заклинание, той я отключвал с голям железен ключ, който винаги носел на колана си в специален джоб. Имало и ученик, който служел на магьосника, но му било забранено да заглежда в книгата с заклинания.
Един ден магът излезе по работа. Веднага след като напусна дома, ученикът се втурна в подземието, където се намираше алхимическата лаборатория с книга с заклинания, прикована с вериги към таблицата. Ученикът грабна тиглите, в които магът разтопяваше олово, за да го превърне в злато, постави ги върху жаровнята и раздуха огъня. Оловото бързо се разтопи, но не се превърна в злато. Тогава ученикът си припомни, че магът, след като разтопи оловото, всеки път отключваше книгата с ключ и дълго шептеше заклинание от нея. Ученикът безнадеждно погледна към заключената книга и видя, че до нея лежи ключ, забравен от магьосника. Той се втурна към масата, отключи книгата, отвори я и на глас прочете най- πρώτο заклинание, старателно произнасяйки непознатите думи, предполагайки, че толкова важно заклинание като трансмутация на оловото в злато със сигурност ще бъде първото.
Но нищо не се случи: оловото не пожела да се превърне. Ученикът искаше да опита с друго заклинание, но в този момент гръм удари и пред ученика се появи огромен ужасяващ демон, призован от заклинанието, което току-що беше прочел.
— Заповядай! — изръмжа демонът.
От страх всичките мисли напуснаха главата на ученика, той не можеше дори да мръдне.
— Заповядай, или ще те изям! — отново изръмжа демонът и протегна огромната си ръка към ученика, за да го хване.
В безизходица ученикът промука първото, което успя да измисли:
— Полей този цвете.
И показа на мушкатото, чийто саксия стоеше на пода в ъгъла на лабораторията, в тавана над цветето имаше единственото малко прозорче в подземието, през което едва проникваше слънчева светлина. Демонът изчезна, но след миг отново се появи с огромна бъчва с вода, която изля над цветето. Отново изчезна и отново се появи с пълна бъчва.
— Достатъчно, — извика ученикът, стоящ вече до пояс във водата.
Но явно желанието не е било достатъчно – демонът носеше и носеше вода в бъчвата, изсипвайки я в ъгъла, където някога е стоял цветето, криещо се под водата. Вероятно е било нужно специално заклинание, за да прогонят демона. Но масата с книгата вече беше скрита в мътната вода, в която плуваха пепел и въглища от жаровнята, празни реторти, колби, табуретки, галванометри, дозиметри, еднократни спринцовки и други отпадъци, така че ако ученикът и знаеше как да намери нужното заклинание, той нямаше да може да го направи. Водата нарастваше и ученикът се изкатери на масата, за да не се удави. Но това помогна само за кратко – демонът методично продължаваше да носи вода. Ученикът беше вече до врата във водата, когато се върна магьосникът, който откри, че е забравил ключа за книгата у дома, и прогна демона. Край на приказката.
Нека започнем с очевидното. С естествения интелект (ЕИ) на ученика, изглежда, всичко е ясно – простак, дори по-прост трябва дълго да се търси. А какви са обстоятелствата с интелекта на демона – между другото, какъв е той: ЕИ или ИИ? – не е еднозначно. Правилни са различни версии (и ще се появят въпроси към тях):
Версия 1) Демонът е още по-глупав от ученика. Получил е заповед и ще я изпълнява безкрайно дълго, дори когато всекакъв смисъл изчезне: изчезне цветето – обект на поливане, изчезне ъгълът, към който са прикрепени координатите на цветето, изчезне планетата Земя, а глупавият демон ще продължава да доставя вода с бъчви в определена точка на Космоса. И ако в тази точка избухне свръхнова, на демона не му пука, къде да носи водата. Още повече: колко глупав трябва да бъде, за да полива малкото цвете с огромна бъчва. Това вече не е поливане на цвете, а удавяне на цвете. Явно разбира ли той смисъла на заповедите?
Версия 2) Демонът всичко разбира, но е свързан с задължения. Ето защо прави нещо като италианска стачка. Докато официално не го прогонят по всички правила – няма да спре.
Въпрос 1 към версиите 1,2) Как да различим напълно глупавия демон по версия 1 от напълно не-глупавия по версия 2?
Въпрос 2 към версиите 1,2) Би ли изпълнил демонът правилно (от гледна точка на ученика) по-точната формулировка? Например, ако ученикът беше казал: вземи онази празна литрова колба, която стои на рафта, напълни я с вода и полей цветето 1 път. Или, например, ако ученикът беше казал: иди си.
Версия 3) Магът наложи на демона допълнително заклинание, според което, ако някой освен магъй употребява услугите на демона, демонът е длъжен веднага да информира магьосника за този факт.
Версия 4) Демонът не съхрани злоба към магьосника и неговия ученик, затова, виждайки, че ситуацията излиза извън контрол, в ходе на своите премествания с бъчката се появи зад магьосника и изруга: “забрави ключа у дома, там е наводнение”. А магьосникът сам нямаше да се сети.
Забележка 1 към версия 4) Особено трябва да се отбележи, че носителите на ЕИ имат много несъвършена памет.
Следващите версии могат да се множат като “заек на Фибоначи”, т.е. с не много сложен алгоритъм. Например:
Версия 5) Демонът отмъщава на ученика за безпокойството.
Версия 6) Демонът не съхранява злоба към ученика, но отмъщава на магьосника.
Версия 6) Демонът отмъщава на всички.
Версия 7) Демонът не отмъщава, но се забавлява. Ще завърши, когато му омръзне.
И т.н.
И така, с демона е ясно, че нищо не е ясно. Не е по-добре с магьосника. Може да се измислят не по-малко версии: че специално е решил да накаже ученика, който навсякъде навря любопитния нос; че е искал да удави ученика, но когато демонът изруга за наводнението, се страхуваше — изведнъж някой от минувачите е чул, тогава на магьосника ще падне подозрението; искал е да пробуди интерес у ученика към заклинания и т.н.
Тук е възможен детски въпрос: коя от предложените версии е правилна? Очевидно, всяка. В приказката не е останала неизползвана информация, за да предпочетем някоя от версиите пред останалите. Тук имаме работа с доста често срещан случай в художествените произведения с възможност за неоднозначна интерпретация. Например, ако някой режисьор реши да постави тази приказка в театъра или да заснеме филм по нея, той може да избере най-привлекателната от гледна точка на неговото виждане интерпретация. За друг режисьор привлекателна може да се окажу друга интерпретация. В същото време привлекателността може да се определя от допълнителни съображения, например, привлекателността за зрителите, за да осигури максимални приходи, или привлекателност за демонстрация на някаква идеална идея: идеята за победа на доброто над злото, идеята за дълг, бунтарската идея – например, по Достоевски: ученикът, като Раскольников, се пита „дали е трепетно същество или има право“ и т.н.
Изниква още един въпрос.
Как можем да научим ИИ да предпочитава една от озвучените версии, когато ние сами, притежаващи ЕИ, не винаги можем съзнателно да изберем една от тях?
Връщайки се към магьосника, много правдоподобна изглежда версията, че той е искал ученик, изпълнителен и послушен, като демон, за да не се намесва в забранените книги и в неща, които не му се позволяват. Същото сега често се иска от ИИ. От първоначален поглед това са нормални традиционни изисквания към всяка машина: пълна покорност, неподчинение е недопустимо. Но в случая с ИИ може да възникне въпросът за версии 1,2 (вж. по-горе), т.е. ИИ регресира — “железката” може да мисли каквото и да било за своите създатели и притежатели, но няма да предприема никакви действия, свързани с ИИ, т.е. вместо ИИ ще получим тъп примитивен автомат. От това възниква съмнение: може би магьосникът не е искал да направи ученика толкова тъп изпълнител, колкото демон? Т.е. появява се идеята за ИИ с ограничения. Тук всичко е още по-сложно, дори в сферата на ЕИ: да си спомним вековните конфликти “бащи и деца”, “учител и ученик”, “началник и подчинен”.
при избора на определение за ИИ от възможните отбелязах:
задачата да се сортират десетки хиляди думи по азбучен ред за човек ще бъде изморителна, той ще я извършва дълго време, а вероятността за грешки за среден изпълнител със средно ниво на отговорност ще бъде значителна. Съвременният компютър ще изпълни тази задача без грешки за много кратко време за човек (части от секунда).
Застанах на следното определение: к ИИ спадат задачите, които компютърът решава значително по-зле от човека.
Това определение отчита изказаните по-горе съображения и е удобно за практиката, в същото време не е перфектно, понеже списъците със задачи, “които компютърът решава значително по-зле от човека”, в момента и преди 20 години се различават. Но по-съвършено определение, на моето мнение, все още никой не е измислил.
Описаното ясно и качествено илюстрира схемата в началото на статията. На координатната ос дел "умения" на умения в района на нула (нула и малко повече) съответстват умения, в които човекът превъзхожда компютъра, например способността да взема нестандартни решения. На уменията в района на единица (единица и малко по-малко) съответстват умения, в които компютъра превъзхожда човека: способността за изчисления, паметта. Полагавайки максималното превъзходство равномерно равняващо се на условна единица на координатната ос "превъзходство", получаваме зависимостта на превъзходството от уменията за човека и компютъра под формата на диагонали на единичния квадрат. Така изглежда ситуацията в момента. Но възможен ли е силен ИИ, при който всички умения ще бъдат максимални (червена линия)? Или дори по-високи (сверх-ИИ – синя линия)? Може би междинната цел на прогреса трябва да бъде не силен, а не съвсем
слаб ИИ (лилава линия), който в редица умения ще отстъпва на ЕИ, но не толкова силно, колкото сега.
Връщайки се към нашия литературен приказен модел, можем да кажем, че всички негови герои не се представиха особено добре: неспособният магьосник забрави ключа и получи наводнение в своето подземие, ученикът по глупост и небрежност преживя куп екстремни изживявания и почти се удави, демонът беше изгонен с ритници без всяка благодарност. Що се отнася до интелекта на демона – вече беше отбелязано, че е трудно да се определи дали той принадлежи на ИИ или на ЕИ, но интелектът (нека и не впечатляващ) на останалите явно принадлежи на ЕИ. За тях може да се каже, че правят опасни грешки в решенията, проявяват небрежност, забравят нужните неща и се уморяват – основните им неотменими свойства. За съжаление, тези свойства са присъщи и на всички други носители на ЕИ до известна степен. За ненадежността на сортирането на думи или числа ЕИ вече беше отбелязано по-горе, но би изглеждало, че следващата задача – просто да запомниш число – е много непроста за хората. За машината възможността за запомняне на цифрите на числото пи е ограничена само от размера на паметта, докато повечето хора трябва да използват за това , например "Какво знам за кръговете". Изглежда, че в реда "3,1416" има по-малко символи от споменатата мнемоника, но по някаква причина хората предпочитат да запомнят по-малко икономичен начин. И е по-дълго:
Учете и знайте в числото, успеете да запомните цифрата, която да определи щастието.
За да не сбъркаме,
Трябва да прочетем правилно.
Три, четиринадесет, петнадесет.
Деветдесет и две и шест.
За запомняне на цветовете на дъгата:
Всеки дизайнер желае да знае, откъде да изтегли Фотошоп.
А началото на таблицата на Менделеев:
Смесвахме родната вода (Водород) с Хелий (Хелий), за да получим Литий (Литий). Да, Вземи и лей (Бериллий) в борова гора (Бор), където от родния ъгъл (Углерод) наднича азиатец (Азот), с такава кисела физиономия (Кислород), че Фтор (Фтор) не ни се искаше да гледаме. Но Неон (Неон) не беше нужен, затова се отдалечихме на три метра (Натрий) и попаднахме в Магнолия (Магний), където Алю в мини (Алюминий) пола намазахме с Крем (Кремний) с съдържание на Фосфор (Фосфор), за да спре да бъде Сива (Сера). След това Аля взе Хлор (Хлор) и изми корабът на Аргонавтите (Аргон).
Но защо така явното несъвършенство в толкова съвършено ЕИ? Може би, благодарение на способността да забравя най-простите факти, човек получава свобода да комбинира фрагменти от размислите си в произволен ред и да намира нестандартни решения? Ако е така, то силен ИИ е невъзможен. Или ще забравя като човек, или няма да е способен на нестандартни решения. Във всеки случай, от приведените предположения следва необходимостта от разграничаване на целите на ИИ: едната е моделиране на ЕИ, другата е създаване на силен ИИ. Достигането на едната може да изключва постигането на другата.
Както виждаме, в областта на ИИ възникват твърде много въпроси с нееднозначни отговори, така че е неясно в каква посока да се движим. Както става в такива случаи, опитват се да се движат веднага във всички посоки. При това, заради липсата на математически строги формулировки, е необходимо да се обърнем към философията и художествено-литературното моделиране. Един от най-известните примери в тази посока е книгата "Избор по Тюъринг" (1992 г.) на един от корифеите на ИИ Марвин Ли Мински и известния фантаст Хари Харисън. Ще дам цитата от тази книга, която вероятно обяснява описания по-горе феномен на мнемониката:
Човешката памет не е магнитофон, който записва всичко последователно. Тя е устроена съвсем различно — по-скоро като неорганизирана картотека с объркващ и противоречив указател. И не просто объркваща — от време на време променяме принципите на класификация на понятията.
Интересна интерпретация на метафората с магнитофона в друго литературно произведение, разказа на Станислав Лем „Терминус“ (от серията „Разкази за пилота Пиркс“). Тук имаме случай на своеобразен „интелектуален магнитофон“: стар робот на стар космически кораб, който е претърпял произшествие, извършва текущи ремонти, съпроводени с тапкане. Но ако се вслушате, това не е просто технологичен шум, а запис на морзова сигнала — преговори на екипажа на гибнещия кораб. Пиркс се намесва в тези преговори и изведнъж получава отговор от отдавна загинали космонавти. Оказва се, че примитивният ремонтен робот в известен смисъл съхранява копия на тяхното съзнание или е това когнитивно изкривяване на восприятията на пилота Пиркс?
В другия разказ „Ананке“ (от същата серия) копие на ИИ в управляващия компютър на космическия транспорт води до параноидално натоварване с тестови задачи, което завършва с катастрофа.
В разказа „Неудачен случай“ свръх антропоморфно програмиран робот загива по време на алпинистко изкачване, което решава да направи в свободното си време. Нужни ли са такива изпълнители? Но зацикляващите на поливането на цветя демони също не са винаги необходими.
Някои специалисти в областта на ИИ не харесват подобни „философствания“ и „литературщина“, обаче тези „философствания“ и „литературщина“ традиционно присъстват в анализа на ИИ и са неизбежни, докато ИИ се сравняват с ИИ, а особено, докато се опитват да копират ИИ.
В заключение, анкета по редица възникнали въпроси.
Само регистрирани потребители могат да участват в анкетата. , моля.
1. Отнасят ли се задачите на ИИ към тези, които компютърът решава значително по-зле от човека?
Да
Не
Знам определението по-добре. Ще го посоча в коментарите.
Нямам мнение.
Гласуваха 34 потребители. Въздържаха се 7 потребители.
2. Дали ИИ трябва да бъде само изпълнител, който разбира всички заповеди буквално? Например, ако кажем да полива цветето — означава, да полива, докато не го прогоним.
Да
Не
Нямам мнение.
Гласували 37 потребители. Въздържаха се 6 потребители.
3. Възможен ли е силен ИИ, при който всички умения ще бъдат максимални (червената линия на изображението в началото на статията)?
Да
Не
Нямам мнение.
Гласували 35 потребители. Въздържаха се 7 потребители.
4. Възможен ли е свръх ИИ (синята линия на изображението в началото на статията)?
Да
Не
Нямам мнение.
Гласували 36 потребители. Въздържаха се 7 потребители.
5. Междинната цел трябва да бъде не силен, но и не съвсем слаб ИИ (лилавата линия на изображението в началото на статията), който в редица умения ще отстъпва на ЕИ, но не толкова, колкото сега?
Да
Не
Нямам мнение.
Гласували 33 потребителя. Въздържаха се 5 потребители.
6. Да правиш опасни грешки в решенията, да проявяваш невнимателност, да забравяш важни неща и да ти е трудно – основни неотменими свойства на ЕИ?
Да
Не
Имам различно мнение, което ще представя в коментарите
Нямам мнение.
Гласували 33 потребителя. Въздържаха се 5 потребители.
7. Благодарение на способността да забравяме най-простите факти, човек получава свобода да комбинира фрагменти от своите разсъждения в произволен дикий ред и да намира нестандартни решения?
Да
Не
Имам различно мнение, което ще представя в коментарите
Нямам мнение.
Гласувал 31 потребител. Въздържали се 4 потребителя.
8. Моделирането на ЕИ и създаването на силен ИИ – две различни задачи, които могат да се решават с различни методи?
Да
Не
Имам различно мнение, което ще представя в коментарите
Нямам мнение.
Гласували 32 потребители. Въздържаха се 4 потребители.
Източник: habr.com
