ПРЕДУПРЕЖДЕНИЕ
Съдейки по рекордно високото отношение на молчаливо недоволни към коментаторите, които имат какво да възразят, на много читатели не им е очевидно, че:
1) Това е чисто теоретична дискусионна статия. Тук няма да има практически препоръки за избор на инструменти за майнинг на криптовалути или сглобяване на мултивибратор, за да мига с две лампички.
2) Това не е научнопопулярна статия. Тук няма да има обяснение на начина на работа на Тюринг машината с примери от кибритени кутии.
3) Помислете внимателно, преди да продължите да четете! Привлича ли ви позата на агресивния дилетант: отрицавам всичко, което не разбирам?
Заранее благодаря на всички, които решат да не четат тази статия!
Демонът е компютърна програма в UNIX стил системи, която се стартира от самата система и работи във фонов режим без пряко взаимодействие с потребителя.
Още в предучилищна възраст чух приказка за ученика на магьосника. Ще я повторя в своя преразказ:
Някога, някъде в средновековна Европа живеел магьосник. Той притежавал голяма книга с заклинания, със свитък от черна телешка кожа, с катарами и железни ъгли. Когато магьосникът трябвало да прочете заклинание, той я отварял с голям ключ от желязо, който винаги носел на колана си в специална торбичка. Освен това, магьосникът имал ученик, който му помагал, но му било забранено да наднича в книгата с заклинания.
Веднъж магьосникът отсъстваше цял ден по работа. Веднага щом излезе от дома, ученикът се втурна в подземието, където се намираше алхимическа лаборатория, в която лежеше книга с заклинания, прикована с верига към масата. Ученикът сграбчи тигли, в които магьосникът разтопяваше олово, за да го превърне в злато, постави ги на печката и запали огъня. Оловото бързо се разтопи, но не се превърна в злато. Тогава ученикът си спомни, че магьосникът, след като разтопи оловото, винаги отключваше книгата с ключ и дълго шепнеше заклинание от нея. Ученикът безнадеждно погледна запечатаната книга и видя, че до нея лежи ключ, забравен от магьосника. Тогава той се втурна към масата, отключи книгата, отвори я и на глас прочете първото заклинание, старателно изговаряйки непознатите думи по срички, предполагайки, че толкова важно заклинание, колкото е заклинанието за трансмутация на олово в злато, сигурно ще бъде най-първото.
Но нищо не се случи: оловото не искаше да се превръща. Ученикът искаше да опита с друго заклинание, но тогава удар на гръмотевица разтресе къщата и пред ученика се появи огромен страшен демон, призован от заклинанието, което току-що беше прочел.
— Заповядай! — изръмжа демонът.
От страх всички мисли напуснаха главата на ученика, той не можеше дори да помръдне.
— Заповядай, или ще те изям! — отново ръмжеше демонът и протегна огромна ръка към ученика, за да го хване.
В отчаяние ученикът изпръхтя първото, което можа да измисли:
— Полей това цвете.
И посочи на герани, чийто саксия стоеше на пода в ъгъла на лабораторията, в тавана над цветето имаше единственото в подземието малко прозорче, през което едва пробиваше слънчева светлина. Демонът изчезна, но след миг отново се появи с огромен варел вода, който изля над цветето и я изля. Отново изчезна и отново се появи с напълнен варел.
— Достатъчно, — извика ученикът, вече стоещ до кръста във вода.
Но очевидно, че едно желание не е било достатъчно – демонът безкрайно носеше вода в бъчвата, изливайки я в ъгъла, където някога стоеше цветето, скрито под водата. Вероятно беше нужно специално заклинание, за да прогонят демона. Но масата с книгата вече се беше скрила в мътната вода, където плаваха пепел и въглища от жаровнята, празни реторти, колби, табуретки, гальванометри, дозиметри, еднократни спринцовки и други отпадъци, така че дори ако ученикът знаеше как да намери нужното заклинание, той нямаше да може да го направи. Водата се покачваше и ученикът се изкачи на масата, за да не се удави. Но това помогна само за кратко – демонът продължаваше методично да носи вода. Ученикът вече беше до гърлото във вода, когато се върна магьосникът, който откри, че е забравил у дома ключа от книгата, и прогна демона. Край на приказката.
Сега по очевидното. С естествения интелект (ЕИ) на ученика всичко изглежда ясно – глупак, още по-глупаво трябва да се търси дълго. Но какво да кажем за интелекта на демона – между другото, какъв е той: ЕИ или ИИ? – не е еднозначно. Правомерни са различни версии (и ще се появят още въпроси):
Версия 1) Демонът е дори по-глупав от ученика. Получил е заповед и ще я изпълнява безкрайно дълго, дори когато всякакъв смисъл изчезне: изчезне цветето – обект на поливане, изчезне ъгълът, към който са прикрепени координатите на цветето, изчезне планетата Земя, а глупавият демон ще доставя вода в определена точка на космическото пространство с бъчви. И ако в тази точка избухне свръхнова, на демона не му пука къде носи водата. Освен това: колко глупав трябва да си, за да поливаш малко цвете от огромна бъчва. Това вече не се нарича поливане на цвете, а удавяне на цветето. Дали изобщо разбира смисъла на заповедите?
Версия 2) Демонът всичко разбира, но е обвързан с задължения. Така че провежда нещо като италианска стачка. Докато официално по всички правила не го прогонят – няма да спре.
Въпрос 1 към версии 1,2) Как да отличим напълно глупавия демон по версия 1 от напълно не глупавия по версия 2?
Въпрос 2 към версии 1,2) Би ли изпълнил демонът правилно (от гледна точка на ученика) по-точна формулировка? Например, ако ученикът каже: вземи онази празна литрова колба, която стои на рафта, напълни я с вода и полей това цвете 1 път. Или, например, ако ученикът каже: отиди си.
Версия 3) Магът наложи на демона допълнително заклинание, според което, ако някой освен магьосника използва услугите на демона, демонът веднага трябва да информира магьосника за това.
Версия 4) Демонът не е сърдит на магьосника и неговия ученик, затова, виждайки, че ситуацията е излязла извън контрол, по време на преместването с бъчвата се появил зад магьосника и извикал: “забрави ключа у дома, има наводнение”. А магьосникът сам нямаше да си спомни.
Забележка 1 към версия 4) Особено важно е да се отбележи, че носителите на ЕС имат много несъвършена памет.
Следващите версии могат да се множат като „кролиците на Фибоначи“, т.е. с не много сложен алгоритъм. Например:
Версия 5) Демонът отмъщава на ученика за безпокойството.
Версия 6) Демонът не е сърдит на ученика, но отмъщава на магьосника.
Версия 6) Демонът отмъщава на всички.
Версия 7) Демонът не отмъщава, а просто се развлекува. Ще спре, когато му омръзне.
И т.н.
И така, с демона е ясно, че нищо не е ясно. Не е по-добре и с магьосника. Може да се измислят не по-малко версии: че е решил специално да накаже ученика, който всичко любопитно следи; че е искал да потопи ученика, но когато демонът извикал за наводнението, се уплашил — изведнъж някой от минувачите чул, тогава подозрението ще падне върху магьосника; че е искал да събуди интерес у ученика към заклинанията и т.н.
Тук може да възникне детският въпрос: коя от предложените версии е правилна? Вероятно, всяка. В приказката не е останала неизползвана информация, за да се предпочете едната версия пред другите. Тук имаме работа с доста чест случай в художествените произведения с възможност за многозначна интерпретация. Например, ако някой режисьор пожелае да постави тази приказка в театъра или да направи филм по нея, той може да избере най-привлекателната за него интерпретация. За друг режисьор другата интерпретация може да се окаже привлекателна. Като при това привлекателността може да се определя от допълнителни съображения, например, привлекателност за зрителите, за да се осигурят максимални касови приходи, или привлекателност за демонстрация на някаква свръхидея: идеята за победа на доброто над злото, идеята за дълга, бунтовната идея – например, по Достоевски: ученикът, като Разколников, си задава въпроса „твар ли е той дрожаща или има право“ и т.н.
Възниква и друг въпрос.
Още един въпрос). Как можем да научим ИИ да предпочита някоя от озвучените версии, когато самите ние, притежаващи ИИ, не винаги можем осъзнато да изберем една от тях?
Връщайки се към магьосника, версията, която изглежда много правдоподобно, е, че той е искал ученик, който да е послушен и изпълнителен, като демон, за да не се занимава с забранени книги и неща, за които не е поканен. Същото сега често се очаква от ИИ. На пръв поглед, това са нормални традиционни изисквания към всяка машина: пълна покорност, непослушание е недопустимо. Но в случая на ИИ може да се постави въпросът за версии 1,2 (вж. по-горе), т.е. ИИ се извращава — „желязото“ може да мисли каквото иска за своите създатели и собственици, но няма да предприеме никакви действия, свързани с ИИ, т.е. вместо ИИ получаваме глупав примитивен автомат. Оттук идва съмнението: може би магьосникът не е искал да направи ученика толкова глупав изпълнител, като демона? Т.е. появява се идеята за ИИ с ограничения. Тук всичко е още по-сложно дори в сферата на ИИ: трябва да си спомним вечните конфликти „бащи и деца“, „учител и ученик“, „началник и подчинен“.
при избора на определение за ИИ от възможните отбелязах:
задача да се сортирaт няколко десетки хиляди думи по азбука за човек ще бъде уморителна, ще отнеме много време, а вероятността за грешки при средния изпълнител със средно ниво на отговорност ще бъде значителна. Съвременният компютър ще реши тази задача без грешки за много кратък за човека (части от секунда) период.
Спрах се на следното определение: к ИИ се отнасят задачите, които компютърът решава значително по-зле от човека.
Това определение отчита гореспоменатите съображения и е удобно за практиката, в същото време то не е идеално, понеже списъците с задачи „които компютърът решава значително по-зле от човека“ в момента и преди 20 години се различават. Но по-перфектно определение, по мое мнение, за момента никой не е измислил.
Кажемото ясно и качествено илюстрира схемата в началото на статията. На координатната ос „умения“ на уменията в диапазона около нула (нула и малко повече) отговарят умения, в които човекът превъзхожда компютъра, например способността да взема нестандартни решения. Уменията в диапазона около единица (единица и малко по-малко) отговарят на умения, в които компютърът превъзхожда човека: способността да извършва изчисления, паметта. Лагайки максималното превъзходство равно на условна единица на координатната ос „превъзходство“, получаваме зависимостите на превъзходството от уменията за хората и компютрите под формата на диагонали на единичен квадрат. Така изглежда ситуацията в момента. А възможен ли е силен ИИ, при който всички умения ще бъдат максимални (червената линия)? Или дори над (свръх-ИИ – синята линия)? Може би, междинната цел на прогреса не трябва да бъде ни силен, но и не съвсем
слаб ИИ (виолетовата линия), който в определени умения ще отстъпва на ЕИ, но не толкова силно, колкото сега.
Връщайки се към нашия литературен приказен модел, можем да кажем, че всички нейни герои не се представиха особено добре: неумел магьосник забрави ключа и получи наводнение в своето подземие, ученик от глупост и небрежност получи куп екстремни преживявания и едва не се удави, демонът беше изгонен с ритници без никаква благодарност. Що се отнася до интелекта на демона – вече беше отбелязано, че е трудно да се отнесе ясна категоризация между ИИ и ЕИ, но интелектът (макар и не впечатляващ) на останалите определено се отнася към ЕИ. За тях може да се каже, че правят опасни грешки в решенията, проявяват небрежност, забравят нужни неща и се уморяват – това са техните основни неизменни свойства. За съжаление, тези свойства присъстват и при всички останали носители на ЕИ в по-голяма или по-малка степен. За ненадеждността на подреждането на думи или числа при ЕИ вече беше споменато, но изглеждаше, че дори по-простата задача – просто да запомнят число – всъщност е много трудна за хората. , типа “Какво знам за кръговете”. Изглежда, че в реда “3,1416” има по-малко символи, отколкото в посочената мнемоника, но по някаква причина хората предпочитат да запомнят по-малко икономичен начин. И дълъг:
Учи и знай в числе известном за цифрой цифру, как удачу примечать
За да не сбъркаме,
Трябва да прочетем правилно
Три, четиринадесет, петнадесет
Деветдесет и две и шест
За запомняне на цветовете на дъгата:
Всеки оформител иска да знае, къде да свали фотошоп
А началото на периодичната таблица:
Смесихме родната вода (Водород) с Хелий (Хелий), за да получим Литий (Литий). Да, Вземи и лей (Бериллий) в борова гора (Бор), където от ъгъла на родината (Углерод) наднича Азот (Азот), с такава кисела физиономия (Кислород), че Вторичен (Фтор) не ни се молеше да гледаме. Но Неон (Неон) не ни беше нужен, затова се отдалечихме На три (Натрий) метра и попаднахме на Магнолия (Магний), където Алю в мини (Алюминий) пола се намажа с Крем (Кремний) с съдържание на Фосфор (Фосфор), за да спре да бъде Сива (Сера). След това Аля взе Хлорка (Хлор) и изми корабът на Аргонавтите (Аргон)
Но защо това явно несъвършенство в толкова съвършен ИИ? Може би, благодарение на способността да забравя най-простите факти, човек получава свобода да комбинира фрагменти от своите размисли в произволен дикий ред и да намира нестандартни решения? Ако е така, тогава силният ИИ е невъзможен. Или ще забравя като човек, или няма да е способен на нестандартни решения. Във всеки случай, от приведените предположения следва необходимостта от разграничаване на целите на ИИ: една от целите е моделирането на ИИ, друга е създаването на силен ИИ. Постигането на едната може да изключва постигането на другата.
Както виждаме, в областта на ИИ възникват твърде много въпроси с неясни отговори, така че не е ясно в каква посока да се движим. Както се случва в такива случаи, се опитват да се движат веднага в всички посоки. При това поради липсата на математически строги формулировки се налага да се обръщаме към философията и художествено-литературно моделиране. Един от най-известните примери в това направление е книгата “Избор по Тюринг” (1992 г.) на един от корифеите на ИИ Марвин Ли Мински и известния фантаст Хари Харисън. Ще приведя цитата от тази книга, която може да обяснява описания по-горе феномен на мнемониката:
Човешката памет не е магнитофон, който записва всичко наред в хронологичен ред. Тя е устроена съвсем по-различен начин — по-скоро като небрежно водена картотека, снабдена със заплетен и противоречив указател. И не просто заплетен — от време на време променяме принципите на класификация на понятията.
Интересна интерпретация на магнитофонната метафора в друго литературно произведение — разказа на Станислав Лем „Терминус“ (от серията „Разкази за пилота Пиркс“). Тук се среща своеобразен случай на „интелектуален магнитофон“: стар робот на стар космически кораб, претърпял някога авария, извършва текущи ремонти, съпроводени с почукване. Но ако се вслушате, това не е просто бял технологичен шум, а запис на морзов код — разговори между членове на екипажа на гибнещия кораб. Пиркс се намесва в тези разговори и unexpectedly получава отговор от отдавна загиналите космонавти. Оказва се, че примитивният ремонтен робот в известен смисъл съхранява копия на тяхното съзнание или това е когнитивно изкривяване на възприятието на пилота Пиркс?
В друг разказ „Ананке“ (от същата серия) копието на ЕИ в управляващия компютър на космическия транспорт води до параноидално претоварване с тестови задачи, което завършва с катастрофа.
В разказа „Несчастен случай“ твърде антропоморфно програмираният робот загива в резултат на алпинистко изкачване, което решава да извърши в свободното си време. Нужни ли са подобни изпълнители? Но зациклящите на поливането на цвете демони също не са далеко не винаги полезни.
Някои специалисти в областта на ИИ не харесват подобни „философствания“ и „литературщина“, обаче тези „философствания“ и „литературщина“ традиционно присъстват в анализа на ЕИ и са неизменни, докато ИИ се сравняват с ЕИ, а особено, когато в ИИ се опитват да копират ЕИ.
В заключение анкета по редица възникнали въпроси.
Само регистрирани потребители могат да участват в анкетата. , моля.
1. Към ИИ спадат ли задачите, които компютърът решава значително по-зле от човека?
Да
Не
Знам определението по-добре. Ще го дам в коментарите.
Затруднявам се да отговоря
Гласували са 34 потребители. Пази се 7 потребители.
2. ИИ трябва да бъде само изпълнител, да разбира всички заповеди буквално? Например, казали сме да поливате цветето — значи, да поливате, докато не ни прогонят.
Да
Не
Затруднявам се да отговоря
Гласували 37 потребители. Въздържали се 6 потребители.
3. Възможен ли е силен ИИ, при който всички умения ще бъдат максимални (червената линия на изображението в началото на статията)?
Да
Не
Затруднявам се да отговоря
Гласували 35 потребители. Въздържали се 7 потребители.
4. Възможен ли е свръх ИИ (синята линия на изображението в началото на статията)?
Да
Не
Затруднявам се да отговоря
Гласували 36 потребители. Въздържали се 7 потребители.
5. Промежуточната цел трябва да бъде не силен, но и не напълно слаб ИИ (лилавата линия на изображението в началото на статията), който в някои умения ще отстъпва на ЕИ, но не толкова, колкото сега?
Да
Не
Затруднявам се да отговоря
Гласували 33 потребителя. Въздържали се 5 потребители.
6. Да правиш опасни грешки при решения, да проявяваш небрежност, да забравяш необходимите неща и да се уморяваш – основни неизменни свойства на ЕИ?
Да
Не
Имам друго мнение, което ще изложа в коментарите
Затруднявам се да отговоря
Гласували 33 потребителя. Въздържали се 5 потребители.
7. Благодарение на способността да забравя най-простите факти, човек получава свобода да комбинира фрагменти от мислите си в произволен дъхав ред и да намира нестандартни решения?
Да
Не
Имам друго мнение, което ще изложа в коментарите
Затруднявам се да отговоря
Гласувал 31 потребител. Въздържали се 4 потребителя.
8. Моделирането на ЕИ и създаването на силен ИИ — две различни задачи, които могат да се решават с различни методи?
Да
Не
Имам друго мнение, което ще изложа в коментарите
Затруднявам се да отговоря
Гласували 32 потребители. Въздържали се 4 потребители.
Източник: habr.com
