Каков ученик му треба на волшебникот и каква вештачка интелигенција ни треба?

ПРЕДУПРЕДУВАЕ
Судејќи според рекордно високиот сооднос на бројот на тивко незадоволни со бројот на коментатори кои имаат на што да приговараат, за многу читатели не е очигледно дека:
1) Ова е чисто теоретска дискусија. Тука нема да има практичен совет за избор на алатки за ископување криптовалути или составување мултивибратор за трепкање на две светилки.
2) Ова не е популарна научна статија. Нема да има објаснување за куклите на принципот на работа на машината Тјуринг користејќи го примерот на кутиите за кибрит.
3) Добро размислете пред да продолжите да читате! Дали ви привлекува позата на агресивен аматеризам: минус сè што не разбирам?
Однапред им благодариме на сите што решија да не ја читаат оваа статија!

Демонот е компјутерска програма на системи од класата UNIX која е лансирана од самиот систем и работи во позадина без директна интеракција со корисникот.

Википедија

Уште во предучилишна возраст слушнав бајка за чирак на волшебник. Ќе повторам во моето прераскажување:

Некогаш, некаде во средновековна Европа, живеел волшебник. Имаше голема книга со магии врзана во црна телешка кожа со железни спојки и агли. Кога волшебникот требаше да направи магија, тој го отклучуваше со голем железен клуч, кој секогаш го носеше на појасот во посебна торбичка. Волшебникот имал и ученик кој му служел на волшебникот, но му било забрането да гледа во книгата со магии.

Еден ден волшебникот замина цел ден на работа. Штом ја напуштил куќата, студентот влетал во занданата, каде што имало алхемиска лабораторија во која лежела книга со магии врзана за маса. Ученикот ги зграпчил садовите во кои волшебникот стопил олово за да го претвори во злато, ги ставил на мангалот и го запалил огнот. Оловото брзо се стопи, но не се претвори во злато. Тогаш ученикот се сетил дека волшебникот, откако го стопил оловото, секој пат ја отклучувал книгата со клуч и долго шепнал магија од неа. Ученикот безнадежно погледна во заклучената книга и виде дека до неа лежи клучот, заборавен од волшебникот. Потоа се упати кон масата, ја отклучи книгата, ја отвори и гласно ја прочита првата магија, внимателно изговарајќи непознати зборови слог по слог, претпоставувајќи дека таква важна магија како магијата за трансмутација на оловото во злато сигурно ќе биде првата. .

Но, ништо не се случи: водството не сакаше да се трансформира. Ученикот сакал да проба уште една магија, но тогаш куќата ја потресе гром, а пред ученикот се појавил огромен, морничав демон, повикан од магијата што ученикот штотуку ја рецитирал.
- Со цел! - зарже демонот.
Од страв, сите мисли ја напуштија главата на студентот, тој не можеше ни да се движи.
- Наредувај, или ќе те изедам! - повторно зарже демонот и подаде огромна рака кон ученикот за да го грабне.
Во очај, студентот промрморе првото нешто што му падна на памет:
- Наводнете го овој цвет.
И покажа на здравец, чие саксија стоеше на подот во аголот на лабораторијата; во таванот над цветот имаше единствениот мал прозорец во занданата, низ кој едвај пробиваше сончевата светлина. Демонот исчезнал, но момент подоцна повторно се појавил со огромно буре со вода, кое го превртел цветот истурајќи ја водата. Повторно исчезна и повторно се појави со полно буре.
„Доста е“, извикал студентот, стоејќи до половината во водата.
Но, очигледно само желбата не била доволна - демонот носел и носел вода во буре, истурајќи ја во аголот каде што некогаш стоел цвет скриен под водата. Веројатно била потребна посебна магија за да се избрка демонот. Но, масата со книгата веќе исчезна во матната вода, во која лебдеше пепел и јаглен од мангалот, празни реплики, колби, столици, галванометри, дозиметри, шприцеви за еднократна употреба и други остатоци, па дури и ако ученикот знаеше да најде бараната магија, тој не можеше да го направи тоа. Водата се креваше, а ученикот се качи на масата за да не се задави. Но, тоа не помогна долго - демонот методично продолжи да носи вода. Студентот веќе бил до врат во вода кога волшебникот се вратил, откривајќи дека го заборавил клучот од книгата дома и го избркал демонот. Крајот на бајката.

Веднаш за очигледното. Со природната интелигенција (НИ) на студентот, се чини дека сè е јасно - глупаво, треба долго да барате нешто уште поглупаво. Но, со интелигенцијата на демонот - патем, каква интелигенција има тој: ЕИ или АИ? - двосмислена. Различни верзии се легитимни (и ќе се појават прашања и за нив):

Верзија 1) Демонот е уште поглупав од ученикот. Тој доби наредба и ќе ја извршува на неодредено време, дури и кога ќе исчезне сето значење: ќе исчезне цветот - предмет на наводнување, ќе исчезне аголот на кој се прикачени координатите на цветот, ќе исчезне планетата Земја, а глупавиот демон ќе продолжи да испорачува вода во буриња до одредена точка во вселената. И ако избие супернова во овој момент, тогаш на демонот не му е грижа каде да ја носи водата. Уште повеќе: колку треба да си глуп за да напоиш мало цвеќе од огромно буре? Ова веќе се вика не наводнување на цветот, туку давење на цветот. Дали тој воопшто го разбира значењето на наредбите?

Верзија 2) Демонот разбира сè, но е врзан со обврски. Значи тој спроведува нешто како италијански штрајк. Се додека официјално не биде избркан според сите правила, нема да застане.

Прашање 1 до верзии 1,2) Како да разликувате целосно глупав демон според верзијата 1 од нималку глупав демон според верзијата 2?
Прашање 2 до верзии 1,2) Дали демонот правилно (од гледна точка на ученикот) би извел попрецизна формулација? На пример, ако некој ученик рече: земете ја таа празна литарска колба што е на полицата, наполнете ја со вода и напојте го тој цвет еднаш. Или, на пример, ако ученикот рече: оди си.

Верзија 3) Волшебникот фрлил дополнителна магија на демонот, според која ако некој друг освен волшебникот ги користи услугите на демонот, тогаш демонот мора веднаш да го извести волшебникот за овој факт.

Верзија 4) Демонот не држи лутина кон волшебникот и неговиот ученик, затоа, гледајќи дека ситуацијата е надвор од контрола, при неговите движења со буре се појави зад грбот на волшебникот и залаа: „Го заборавивте клучот дома. , има поплава“. Но, самиот волшебник не би се сетил.

Забелешка 1 до верзија 4) Особено вреди да се напомене дека EI носачите имаат многу несовршена меморија.

Понатамошни верзии може да се множат како „зајаци Фибоначи“, т.е. не е многу сложен алгоритам. На пример:
Верзија 5) Демонот му се одмаздува на ученикот затоа што го вознемирил.
Верзија 6) Демонот не му држи лутина на ученикот, туку му се одмаздува на волшебникот.
Верзија 6) Демонот им се одмаздува на сите.
Верзија 7) Демонот не се одмаздува, туку се забавува. Завршува кога ќе се измори.
итн.

Значи, со демонот е јасно дека ништо не е јасно. Нема подобро со волшебник. Можеш да смислиш ни помалку ни повеќе верзии: дека намерно решил да му одржи лекција на ученик кој го пика својот љубопитен нос насекаде; дека сакал да го удави ученикот, но кога демонот залаел за потопот, се исплашил - одеднаш еден од минувачите слушнал, тогаш сомнежот ќе падне врз волшебникот; сакаше да го разбуди интересот на ученикот за магии, итн.

Овде е можно детско прашање: која од предложените верзии е точна? Очигледно, било кој. Нема информации оставени неискористени во приказната за да се фаворизира која било верзија пред другите. Овде имаме работа со прилично чест случај на уметнички дела со можност за двосмислена интерпретација. На пример, ако режисерот сака да ја постави оваа бајка во театар или да сними филм врз основа на неа, може да ја избере интерпретацијата што е најпривлечна од негова гледна точка. На друг режисер можеби му е привлечна поинаква интерпретација. Во исто време, атрактивноста може да се одреди со дополнителни размислувања, на пример, привлечност за гледачите со цел да се обезбеди максимален приход од благајните или привлечност за да се демонстрира некоја супер-идеја: идејата за победата на доброто над злото, идеја за должност, бунтовничка идеја - на пример, според Достоевски: студент, како Раскољников, го поставува прашањето „дали е треперливо суштество или има право“ итн.

Се поставува друго прашање.
Уште едно прашање). Како можеме да ја научиме вештачката интелигенција да дава предност на една од изразените верзии, ако ние самите, имајќи вештачка интелигенција, не можеме секогаш свесно да избереме една од нив?

Навраќајќи се на волшебникот, верзијата дека сакал послушен и послушен ученик, како демон, за да не си го пика носот во забранети книги и каде не бил прашан, изгледа многу веродостојна. Истото сега често се бара од вештачката интелигенција. На прв поглед, ова се нормални традиционални барања за секоја машина: целосна послушност, непослушноста е неприфатлива. Но, во случај на вештачка интелигенција, може да се појави прашањето за верзии 1,2 (види погоре), т.е. ВИ дегенерира - хардверот може да мисли што сака за своите креатори и сопственици, но нема да врши никакви дејствија поврзани со вештачката интелигенција, т.е. Наместо вештачка интелигенција ќе добиеме глупав примитивен автомат. Од ова навлегува сомнеж: можеби волшебникот не сакаше да го направи ученикот толку глупав изведувач како демон? Оние. Се појавува идејата за ВИ со ограничувања. Овде сè е уште потешко дури и на полето на ЕИ: запомнете ги вечните конфликти „татковци и синови“, „наставник и ученик“, „шеф и подреден“.

Претходно При изборот на дефиниција за вештачка интелигенција од можните, забележав:

Задачата да подреди неколку десетици илјади зборови по азбучен ред ќе биде досадна за човекот, ќе му треба долго време да го направи тоа, а веројатноста за грешки за просечен изведувач со просечно ниво на одговорност ќе биде значајна. Современиот компјутер ќе ја изврши оваа задача без грешки за многу кратко време за една личност (делови од секунда).

Се решив на следнава дефиниција: ВИ вклучува задачи кои компјутерот ги решава значително полошо од човекот.

Оваа дефиниција ги зема предвид размислувањата изразени погоре и е погодна за практика; во исто време, не е идеална, само затоа што списоците на задачи „кои компјутерот ги решава значително полошо од човекот“ се различни сега и пред 20 години. . Но, според мене, никој сè уште не дошол до посовршена дефиниција.

Горенаведеното е чисто квалитативно илустрирано со дијаграмот на почетокот на статијата. На координативната оска „вештини“, вештините во регионот на нула (нула и малку повеќе) одговараат на вештините каде што лицето е супериорно во однос на компјутерот, на пример, во способноста да донесува нестандардни одлуки. Вештините во регионот на еден (еден и малку помалку) одговараат на вештини каде што компјутерот е супериорен во однос на личноста: способност за пресметување, меморија. Ставајќи ја максималната супериорност еднаква на конвенционалната единица на координатната оска „супериорност“, ја добиваме зависноста на супериорноста од вештините за луѓето и компјутерите во форма на дијагонали на единичен квадрат. Вака изгледа ситуацијата во моментов. Дали е можно силна вештачка интелигенција да ги има сите свои вештини на максимум (црвена линија)? Или уште повисоко (супер-AI - сина линија)? Можеби средната цел за напредок не треба да биде силна, но не сосема
слаба вештачка интелигенција (виолетова линија), која ќе биде инфериорна во однос на вештачката интелигенција во голем број вештини, но не толку колку што е сега.

Навраќајќи се на нашиот книжевен бајковит модел, можеме да кажеме дека сите негови херои не се претставија најдобро: клештиот волшебник го заборавил клучот и добил поплава во својата зандана, ученикот од глупост и невнимание добил куп екстремни впечатоци и за малку ќе се удави, демонот беше исфрлен без никаква благодарност. Што се однесува до интелигенцијата на демонот, веќе е забележано дека е тешко јасно да се класифицира како АИ или ЕИ, но интелигенцијата (иако не импресивна) на другите очигледно припаѓа на ЕИ. За нив може да се каже дека правењето опасни грешки во одлуките, невниманието, заборавањето на неопходните работи и уморот се нивните главни својствени својства. За жал, овие својства се својствени за сите други носители на ЕИ во поголема или помала мера. Неверодостојноста на сортирањето зборови или броеви на ЕИ е веќе забележана погоре, но се чини дека е уште поедноставна задача - едноставно запомнувањето на број е многу тешко за луѓето. За машината, способноста за запомнување на цифрите на пи е ограничена само од големината на нејзината меморија, а повеќето луѓе мора да користат мнемоник, како „Што знам за круговите“. Се чини дека линијата „3,1416“ има помалку знаци од наведениот мнемоник, но поради некоја причина луѓето претпочитаат да се сеќаваат на помалку економичен начин. И подолго:

Научете и знајте го бројот зад бројот, како да забележите среќа

За да не грешиме,
Мора да се чита правилно
Три, четиринаесет, петнаесет
Деведесет и два и шест

За да ги запомните боите на виножитото:

Секој дизајнер сака да знае каде да преземе Photoshop

И почетокот на периодниот систем:

Домашната вода (Водород) беше измешана со гел (Хелиум) за да се истури (литиум). Да, земете и истурете (берилиум) во боровата шума (Бор), каде што од под мајчиниот агол (јаглерод) ѕирка азиски (азот) и со толку кисело лице (кислород) што секундарно (флуор) не сакате да погледнете. Но, тој (неон) не ни требаше, па се оддалечивме три (Натриум) метри и завршивме во Магнолија (Магнезиум), каде што Аља во мини (алуминиумско) здолниште беше намачкана со крем (силикон) што содржи фосфор (фосфор) за да престане да биде Сера (Сера). После тоа, Алија зеде хлор (хлор) и го изми бродот на Аргонаутите (Аргон)

Но, зошто толку очигледна несовршеност во толку совршена ЕИ? Можеби, благодарение на способноста да се заборават наједноставните факти, човекот добива слобода да комбинира фрагменти од своите мисли во произволен див ред и да најде нестандардни решенија? Ако е така, тогаш силната вештачка интелигенција е невозможна. Или ќе заборави како човек, или нема да биде способен за нестандардни решенија. Во секој случај, од горенаведените претпоставки произлегува дека е неопходно да се направи разлика помеѓу целите на ВИ: една од целите е моделирање на вештачката интелигенција, другата е создавање силна вештачка интелигенција. Постигнувањето на едното може да го исклучи постигнувањето на другото.

Како што можеме да видиме, има премногу прашања со двосмислени одговори во областа на вештачката интелигенција, па нејасно е во која насока да се движи. Како што се случува во такви случаи, тие се обидуваат да се движат во сите правци одеднаш. Во исто време, поради недостаток на математички ригорозни формулации, треба да се свртиме кон филозофијата и уметничкото и литературното моделирање. Еден од најпознатите примери во оваа насока е книгата „Turing Selection“ (1992) на еден од славните на AI, Марвин Ли Мински и познатиот писател на научна фантастика Хари Харисон. Ќе цитирам од оваа книга, можеби објаснувајќи го погоре опишаниот феномен на мнемониката:

Човечката меморија не е магнетофон што снима сè по хронолошки редослед. Структуриран е сосема поинаку - налик на невешто одржуван индекс на картички, опремен со збунувачки и контрадикторен индекс. И не само збунувачки - од време на време ги менуваме принципите на класификација на концептите.

Интересна интерпретација на метафората на магнетофон во друго книжевно дело, приказната „Терминус“ на Станислав Лем (од серијата „Приказни за пилотот Пиркс“). Тука е случајот на еден вид „интелигентен магнетофон“: стар робот на стар вселенски брод кој некогаш доживеал несреќа е ангажиран во тековни работи за поправка, придружени со прислушување. Но, ако внимателно слушате, ова не е само бел технолошки шум, туку снимка од Морзеовиот код - разговори меѓу членовите на екипажот на бродот што умира. Пиркс интервенира во овие преговори и неочекувано добива одговор од одамна мртвите астронаути. Излегува дека примитивниот робот за поправка на некој начин складира копии од нивната свест или се работи за когнитивни нарушувања на перцепцијата на пилотот Пиркс?

Во друга приказна, „Ананке“ (од истата серија), копија од ЕИ во контролниот компјутер на вселенскиот транспорт доведува до негово параноично преоптоварување со тест задачи, што завршува со катастрофа.

Во приказната „Несреќа“, претерано антропоморфно програмиран робот умира како резултат на планинарско искачување што решил да го направи во слободното време. Дали се потребни такви изведувачи? Но, демоните фиксирани на наводнување цвет исто така не се секогаш неопходни.

Некои специјалисти од областа на вештачката интелигенција не сакаат такво „филозофирање“ и „книжевност“, но овие „филозофирање“ и „книжевност“ се традиционално својствени за анализата на вештачката интелигенција и се неизбежни сè додека вештачката интелигенција се споредува со ВИ, па дури и уште повеќе се додека вештачката интелигенција се обидува да ја копира вештачката интелигенција.

Како заклучок, анкета за голем број прашања што се појавија.

Само регистрирани корисници можат да учествуваат во анкетата. Најави се, вие сте добредојдени.

1. Дали вештачката интелигенција вклучува задачи што компјутерот ги решава значително полошо од човекот?

• Да

• Не

• Јас подобро ја знам дефиницијата. Ќе го дадам во коментари.

• Тешко да се одговори

Гласале 34 корисници. 7 корисници беа воздржани.

2. Дали вештачката интелигенција треба да биде само извршител, дали сите наредби треба да се земаат буквално? На пример, рекоа да напои цвет - значи вода додека не те избркаат

• Да

• Не

• Тешко да се одговори

Гласаа 37 корисници. 6 корисници беа воздржани.

3. Дали е можно да се има силна вештачка интелигенција, во која сите вештини ќе бидат максимални (црвена линија на сликата на почетокот на статијата)?

• Да

• Не

• Тешко да се одговори

Гласаа 35 корисници. 7 корисници беа воздржани.

4. Дали е можна супер-ВИ (сина линија на сликата на почетокот на статијата)?

• Да

• Не

• Тешко да се одговори

Гласаа 36 корисници. 7 корисници беа воздржани.

5. Средната цел треба да биде не силна, но и целосно слаба ВИ (виолетова линија на сликата на почетокот на статијата), која во голем број вештини ќе биде инфериорна во однос на вештачката интелигенција, но не толку колку што е сега ?

• Да

• Не

• Тешко да се одговори

Гласале 33 корисници. 5 корисници беа воздржани.

6. Правењето опасни грешки во одлуките, невниманието, заборавањето на неопходните работи и уморот се главните својствени својства на ЕИ?

• Да

• Не

• Имам поинакво мислење, кое ќе го дадам во коментарите.

• Тешко да се одговори

Гласале 33 корисници. 5 корисници беа воздржани.

7. Благодарение на способноста да се заборават наједноставните факти, човекот добива слобода да комбинира фрагменти од своите мисли во произволен див редослед и да најде нестандардни решенија?

• Да

• Не

• Имам поинакво мислење, кое ќе го дадам во коментарите.

• Тешко да се одговори

Гласале 31 корисник. 4 корисници се воздржаа.

8. Моделирањето на вештачката интелигенција и создавањето силна вештачка интелигенција се две различни задачи кои можат да се решат со различни методи?

• Да

• Не

• Имам поинакво мислење, кое ќе го дадам во коментарите.

• Тешко да се одговори

Гласаа 32 корисници. 4 корисници се воздржаа.

Извор: www.habr.com