Kian studenton bezonas sorĉisto kaj kian AI ni bezonas?

AVERTO
Juĝante laŭ la rekorda alta proporcio de la nombro da silente malkontentaj al la nombro da komentistoj, kiuj havas ion por kontraŭi, ne estas evidente al multaj legantoj, ke:
1) Ĉi tio estas pure teoria diskutartikolo. Ĉi tie ne estos praktikaj konsiloj pri elektado de iloj por minado de kripta monero aŭ muntado de multivibrator por ekbrili du ampolojn.
2) Ĉi tio ne estas popularscienca artikolo. Ne estos klarigo por la manietoj de la principo de funkciado de la Turing-maŝino uzante la ekzemplon de alumetujoj.
3) Pensu zorge antaŭ ol daŭrigi la legadon! Ĉu la sinteno de agresema amatorismo allogas vin: mi minus ĉion, kion mi ne komprenas?
Antaŭdankon al ĉiuj, kiuj decidas ne legi ĉi tiun artikolon!

Demono estas komputila programo sur UNIX-klasaj sistemoj, kiu estas lanĉita de la sistemo mem kaj funkcias en la fono sen rekta uzantinterago.

Vikipedio

Eĉ en antaŭlerneja aĝo, mi aŭdis fabelon pri sorĉisto-metilernanto. Mi ripetos ĝin en mia rerakonto:

Iam, ie en mezepoka Eŭropo, vivis sorĉisto. Li havis grandan libron de sorĉoj bindita en nigra bovidohaŭto kun feraj agrafoj kaj anguloj. Kiam la sorĉisto bezonis sorĉi, li malŝlosis ĝin per granda fera ŝlosilo, kiun li ĉiam portis sur sia zono en speciala sako. La sorĉisto ankaŭ havis studenton kiu servis la sorĉiston, sed li estis malpermesita rigardi en la libron de sorĉoj.

Iun tagon la sorĉisto foriris por la tuta tago pro komerco. Tuj kiam li forlasis la domon, la studento rapidis en la karceron, kie estis alkemia laboratorio, en kiu kuŝis libro de sorĉoj ĉenita al tablo. La studento kaptis la krisolojn, en kiuj la sorĉisto fandis plumbon por igi ĝin oron, metis ilin sur la brazilon kaj ventumis la fajron. La plumbo rapide degelis, sed ne fariĝis oro. Tiam la studento rememoris, ke la sorĉisto, fandinte la plumbon, ĉiufoje malŝlosis la libron per ŝlosilo kaj flustris el ĝi sorĉon dum longa tempo. La studento senespere rigardis la ŝlositan libron kaj vidis, ke apud ĝi kuŝas la ŝlosilo, forgesita de la sorĉisto. Poste li kuris al la tablo, malŝlosis la libron, malfermis ĝin kaj laŭte legis la plej unuan sorĉon, zorge prononcante nekonatajn vortojn silabo post silabo, supozante, ke tia grava sorĉo kiel la sorĉo de transmutacio de plumbo en oron certe estus la plej unua. .

Sed nenio okazis: la ĉefo ne volis transformiĝi. La studento volis provi alian sorĉon, sed tiam tondrofrapo skuis la domon, kaj grandega, timiga demono aperis antaŭ la studento, alvokita de la sorĉo, kiun la studento ĵus deklamis.
- Ordo! - grumblis la demono.
Pro timo, ĉiuj pensoj forlasis la kapon de la studento, li eĉ ne povis moviĝi.
- Donu ordonojn, aŭ mi manĝos vin! - la demono denove grumblis kaj etendis grandegan manon al la studento por kapti lin.
En malespero, la studento murmuris la unuan aferon pri kiu li povis pensi:
- Akvumi ĉi tiun floron.
Kaj li montris al geranio, kies poto staris sur la planko en la angulo de la laboratorio; en la plafono super la floro estis la sola malgranda fenestro en la karcero, tra kiu apenaŭ trapenetris sunlumo. La demono malaperis, sed momenton poste reaperis kun grandega akvobarelo, kiun li turnis super la floron, elverŝante la akvon. Li denove malaperis kaj reaperis kun plena barelo.
"Sufiĉas," la studento kriis, starante ĝis talio en la akvo.
Sed ŝajne sola deziro ne sufiĉis – la demono portis kaj portis akvon en barelo, verŝante ĝin en la angulon, kie iam staris floro kaŝita sub la akvo. Verŝajne bezonis speciala sorĉo por forpeli la demonon. Sed la tablo kun la libro jam malaperis en la ŝlima akvo, en kiu flosis cindro kaj karbo el la brazo, malplenaj retortoj, flakoj, taburetoj, galvanometroj, dozimetroj, unu-uzataj injektiloj kaj aliaj rubaĵoj, do eĉ se la studento scius trovi la postulata sorĉo, li ne povis fari ĝin. La akvo altiĝis, kaj la studento grimpis sur la tablon por ne sufoki. Sed tio ne longe helpis - la demono metodike daŭre portis akvon. La studento jam estis ĝis la kolo en akvo kiam la sorĉisto revenis, malkovrante ke li forgesis la ŝlosilon de la libro hejme, kaj forpelis la demonon. La fino de la fabelo.

Tuj pri la evidenta. Kun la natura inteligenteco (NI) de la studento ŝajnus, ke ĉio estas klara - stulta, oni devas longe serĉi ion eĉ pli stultan. Sed kun la inteligenteco de la demono - cetere, kian inteligentecon li havas: EI aŭ AI? – ambigua. Malsamaj versioj estas legitimaj (kaj ankaŭ aperos demandoj pri ili):

Versio 1) La demono estas eĉ pli stulta ol la studento. Li ricevis ordonon kaj plenumos ĝin senfine, eĉ kiam ĉiuj signifoj malaperos: la floro - la objekto de akvumado - malaperos, la angulo, al kiu estas alkroĉitaj la koordinatoj de la floro, malaperos, la planedo Tero malaperos, kaj la stulta demono daŭre liveros akvon en bareloj al certa punkto en la kosma spaco. Kaj se supernovao eksplodas ĉe ĉi tiu punkto, tiam la demono ne zorgas kie porti la akvon. Cetere: kiel stulta vi devas esti por akvumi malgrandan floron el grandega barelo? Ĉi tio jam nomiĝas ne akvumi la floron, sed dronigi la floron. Ĉu li eĉ komprenas la signifon de ordonoj?

Versio 2) La demono komprenas ĉion, sed estas ligita per devoj. Do li faras ion similan al itala striko. Ĝis li estos oficiale forpelita laŭ ĉiuj reguloj, li ne ĉesos.

Demando 1 al versioj 1,2) Kiel distingi tute stultan demonon laŭ versio 1 de tute ne stultan demonon laŭ versio 2?
Demando 2 al versioj 1,2) Ĉu la demono estus plenuminta ĝuste (el la vidpunkto de la studento) pli precizan formuliĝon? Ekzemple, se studento diris: prenu tiun malplenan litran flakon, kiu estas sur la breto, plenigu ĝin per akvo kaj akvu tiun floron unufoje. Aŭ, ekzemple, se la studento diris: foriru.

Versio 3) La sorĉisto ĵetis aldonan sorĉon sur la demono, laŭ kiu se iu alia ol la sorĉisto uzas la servojn de la demono, tiam la demono devas tuj informi la sorĉiston pri ĉi tiu fakto.

Versio 4) La demono ne havas rankoron kontraŭ la sorĉisto kaj lia lernanto, tial, vidante, ke la situacio estas neregebla, dum siaj movoj kun barelo li aperis malantaŭ la dorso de la sorĉisto kaj bojis: “Vi forgesis la ŝlosilon hejme. , estas inundo.” Sed la sorĉisto mem ne rememorus.

Noto 1 al versio 4) Precipe notinde, ke EI-portantoj havas tre neperfektan memoron.

Pliaj versioj povas esti multobligitaj kiel "Fibonacci-kunikloj", t.e. ne tre kompleksa algoritmo. Ekzemple:
Versio 5) La demono venĝas sur la studento por ĝeni lin.
Versio 6) La demono ne havas rankoron kontraŭ la studento, sed venĝas sur la sorĉisto.
Versio 6) La demono venĝas kontraŭ ĉiuj.
Versio 7) La demono ne venĝas, sed amuzas. Finas kiam li laciĝas.
Ktp.

Do, ĉe la demono estas klare, ke nenio estas klara. Ne pli bone kun sorĉisto. Vi povas elpensi ne malpli da versioj: ke li intence decidis doni lecionon al studento, kiu ĉie pikas sian scivoleman nazon; ke li volis dronigi la studenton, sed kiam la demono bojis pri la inundo, li ektimis — subite aŭdis unu el la preterpasantoj, tiam suspekto falus sur la sorĉiston; volis veki la intereson de la studento pri sorĉoj ktp.

Ĉi tie infana demando eblas: kiu el la proponitaj versioj estas ĝusta? Ŝajne, ajna. Ne estas informoj lasitaj neuzataj en la rakonto por favori ajnan version super la aliaj. Ĉi tie ni traktas sufiĉe oftan kazon de artaĵoj kun ebleco de ambigua interpreto. Ekzemple, se reĝisoro volas surscenigi ĉi tiun fabelon en teatro aŭ fari filmon bazitan sur ĝi, li povas elekti la interpreton, kiu estas plej alloga el sia vidpunkto. Alia direktoro eble trovos malsaman interpreton alloga. Samtempe, allogeco povas esti determinita per pliaj konsideroj, ekzemple, allogeco al spektantoj por certigi maksimumajn biletvendejajn kvitancojn, aŭ allogecon por pruvi iun super-ideon: la ideo de la venko de bono super malbono, la ideo de devo, ribelema ideo - ekzemple, laŭ Dostojevskij: studento, kiel Raskolnikov, li demandas "ĉu li estas tremanta estaĵo aŭ ĉu li havas la rajton," ktp.

Alia demando ekestas.
Unu plia demando). Kiel ni povas instrui AI doni preferon al unu el la voĉaj versioj se ni mem, havante AI, ne povas ĉiam konscie elekti unu el ili?

Revenante al la sorĉisto, la versio, ke li deziris obeeman kaj obeeman studenton, kiel demonon, por ke li ne enŝovu sian nazon en malpermesitajn librojn kaj kie li ne estis demandita, aspektas tre kredinda. La sama afero nun estas ofte dezirata de AI. Unuavide, ĉi tiuj estas normalaj tradiciaj postuloj por iu ajn maŝino: kompleta obeo, malobeo estas neakceptebla. Sed en la kazo de AI, povas ekesti la temo de versioj 1,2 (vidu supre), t.e. AI degeneras - la aparataro povas pensi kion ajn ĝi volas pri siaj kreintoj kaj posedantoj, sed ĝi ne faros ajnajn agojn rilatajn al AI, t.e. Anstataŭ AI ni ricevos stultan primitivan aŭtomaton. El tio ŝteliras suspekto: eble la sorĉisto ne volis fari la studenton tiel stulta interpretisto kiel demono? Tiuj. La ideo de AI kun limigoj aperas. Ĉi tie ĉio estas eĉ pli malfacila eĉ en la kampo de EI: memoru la eternajn konfliktojn "patroj kaj filoj", "instruisto kaj lernanto", "estro kaj subulo".

Antaŭe Elektinte difinon de AI inter la eblaj, mi notis:

la tasko ordigi plurajn dekojn da miloj da vortoj alfabete estos teda por homo, ĝi bezonos longan tempon por fari ĝin, kaj la probablo de eraroj por averaĝa interpretisto kun meza nivelo de respondeco estos grava. Moderna komputilo plenumos ĉi tiun taskon sen eraroj en tre mallonga tempo por persono (frakcioj de sekundo).

Mi decidis je la sekva difino: AI inkluzivas taskojn, kiujn komputilo solvas signife pli malbonaj ol homo.

Ĉi tiu difino konsideras la supre esprimitajn konsiderojn kaj estas oportuna por la praktiko; samtempe ĝi ne estas ideala, eĉ se nur ĉar la listoj de taskoj "kiujn komputilo solvas videble pli malbone ol homo" estas malsamaj nun kaj antaŭ 20 jaroj. . Sed, laŭ mi, neniu ankoraŭ elpensis pli perfektan difinon.

Ĉi-supra estas ilustrita pure kvalite per la diagramo komence de la artikolo. Sur la "kapabloj" koordinata akso, kapabloj en la regiono de nulo (nul kaj iomete pli) respondas al kapabloj kie persono estas pli alta ol komputilo, ekzemple, en la kapablo fari ne-normajn decidojn. Kapabloj en la regiono de unu (unu kaj iomete malpli) respondas al kapabloj kie komputilo estas pli alta ol homo: la kalkulkapablo, memoro. Metante la maksimuman superecon egalan al konvencia unuo sur la "superecon" koordinatakson, ni ricevas la dependecon de supereco de kapabloj por homoj kaj komputiloj en la formo de diagonaloj de unuokvadrato. Jen kiel la situacio aperas nuntempe. Ĉu eblas, ke forta AI havas ĉiujn siajn kapablojn maksimume (ruĝa linio)? Aŭ eĉ pli alta (super-AI - blua linio)? Eble la meza celo de progreso ne estu forta, sed ne tute
malforta AI (purpura linio), kiu estos pli malalta ol AI en kelkaj kapabloj, sed ne tiom kiom nun.

Revenante al nia literatura fabelmodelo, ni povas diri, ke ĉiuj ĝiaj herooj ne agis en la plej bona maniero: la fuŝa sorĉisto forgesis la ŝlosilon kaj ricevis inundon en sia karcero, la studento, pro stulteco kaj senzorgemo, ricevis amason da ekstremaj impresoj kaj preskaŭ dronita, la demono estis elpelita sen ia dankemo. Koncerne la inteligentecon de la demono, oni jam rimarkis, ke estas malfacile klare klasifiki lin kiel AI aŭ EI, sed la inteligenteco (kvankam ne impona) de la aliaj klare apartenas al EI. Pri ili oni povas diri, ke fari danĝerajn erarojn en decidoj, esti neatenta, forgesi necesajn aferojn kaj lacigi estas iliaj ĉefaj propraj propraĵoj. Bedaŭrinde, ĉi tiuj propraĵoj estas enecaj en ĉiuj aliaj EI-portantoj laŭ pli aŭ malpli granda mezuro. La nefidindeco de ordigo de vortoj aŭ nombroj de UI jam estis notita supre, sed ĝi ŝajnus eĉ pli simpla tasko - simple memori nombron montriĝas tre malfacila por homoj. Por maŝino, la kapablo memori la ciferojn de pi estas limigita nur per la grandeco de ĝia memoro, kaj la plej multaj homoj devas uzi mnemonikoj, kiel "Kion mi scias pri rondoj." Ŝajnus, ke la linio "3,1416" havas malpli da signoj ol la specifita mnemoniko, sed ial homoj preferas memori en malpli ekonomia maniero. Kaj pli longe:

Lernu kaj sciu la nombron malantaŭ la nombro, kiel rimarki bonŝancon

Por ke ni ne faru erarojn,
Devas esti legita ĝuste
Tri, dek kvar, dek kvin
Naŭdek du kaj ses

Por memori la kolorojn de la ĉielarko:

Ĉiu dezajnisto volas scii kie elŝuti Photoshop

Kaj la komenco de la perioda tabelo:

Denaska akvo (Hidrogeno) estis miksita kun Ĝelo (Heliumo) por verŝi (Litio). Jes, Prenu kaj verŝu (Berilio) en la pinarbaron (Boron), kie el sub la Indiĝena Angulo (Karbono) Azia (Nitrogeno) elrigardas, kaj kun tia Acida Vizaĝo (Oksigeno) ke Sekundara (Fluoro) mi ne faris. volas rigardi. Sed ni ne bezonis lin (Neono), do ni moviĝis tri (Natrio) metrojn for kaj alvenis en Magnolia (Magnezio), kie Alya en mini (Aluminio) jupo estis ŝmirita per Kremo (Silicon) enhavanta Fosforo (Fosforo) por ke ŝi ĉesu esti Sera (Sera). Post tio, Alya prenis Kloron (Kloron) kaj lavis la ŝipon de la Argonaŭtoj (Argono)

Sed kial tia evidenta neperfekteco en tia perfekta EI? Eble, danke al la kapablo forgesi la plej simplajn faktojn, homo akiras la liberecon kombini fragmentojn de siaj pensoj en arbitra sovaĝa ordo kaj trovi ne-normajn solvojn? Se jes, tiam forta-AI estas neebla. Aŭ li forgesos kiel homo, aŭ li ne povos je ne-normaj solvoj. Ĉiukaze, el la supraj supozoj sekvas, ke necesas distingi inter la celoj de AI: unu el la celoj estas modeligado de AI, la alia estas la kreado de forta AI. Atingi unu povas ekskludi atingi la alian.

Kiel ni povas vidi, estas tro da demandoj kun ambiguaj respondoj en la kampo de AI, do estas neklare en kiu direkto movi. Kiel okazas en tiaj kazoj, ili provas moviĝi en ĉiuj direktoj samtempe. Samtempe, pro manko de matematike rigoraj formuliĝoj, oni devas turni sin al filozofio kaj arta kaj literatura modelado. Unu el la plej famaj ekzemploj en ĉi tiu direkto estas la libro "Turing Selection" (1992) de unu el la lumuloj de AI, Marvin Lee Minsky, kaj la fama sciencfikcia verkisto Harry Harrison. Mi citos el ĉi tiu libro, eble klarigante la supre priskribitan fenomenon de mnemoniko:

Homa memoro ne estas magnetofono, kiu registras ĉion en kronologia ordo. Ĝi estas strukturita tute alimaniere - prefere kiel malzorge konservita karto-indekso, ekipita per konfuza kaj kontraŭdira indekso. Kaj ne nur konfuze - de tempo al tempo ni ŝanĝas la principojn de klasifiko de konceptoj.

Interesa interpreto de la metaforo de magnetofono en alia literatura verko, la rakonto de Stanislaw Lem "Terminus" (el la serio "Rakontoj pri la Piloto Pirx"). Jen la kazo de ia "inteligenta magnetofono": malnova roboto sur malnova kosmoŝipo, kiu iam suferis akcidenton, okupiĝas pri daŭraj riparlaboroj, akompanate de frapetado. Sed se vi atente aŭskultas, tio ne estas nur blanka teknologia bruo, sed registrado de morsa kodo - konversacioj inter ŝipanoj de mortanta ŝipo. Pirx intervenas en ĉi tiuj intertraktadoj kaj neatendite ricevas respondon de la longe mortintaj astronaŭtoj. Montriĝas, ke la primitiva ripara roboto iel stokas kopiojn de ilia konscio aŭ ĉu temas pri kognaj distordoj de la percepto de la piloto Pirx?

En alia rakonto, "Ananke" (de la sama serio), kopio de la EI en la kontrolkomputilo de kosmotransporto kondukas al ĝia paranoja superŝarĝo kun testaj taskoj, kiu finiĝas en katastrofo.

En la rakonto "Akcidento", tro antropomorfe programita roboto mortas kiel rezulto de montogrimpa grimpado kiun li decidis fari en sia libera tempo. Ĉu tiaj interpretistoj bezonas? Sed demonoj fiksitaj pri akvumado de floro ankaŭ ne ĉiam estas necesaj.

Iuj specialistoj en la fako de AI ne ŝatas tiajn "filozofiadon" kaj "literaturismon", sed ĉi tiuj "filozofiado" kaj "literaturismo" estas tradicie enecaj en la analizo de AI kaj estas neeviteblaj kondiĉe ke AI estas komparata kun AI, kaj eĉ pli tiom longe kiom AI provas kopii AI.

Konklude, enketo pri kelkaj aferoj, kiuj aperis.

Nur registritaj uzantoj povas partopreni la enketon. Ensaluti, bonvolu.

1. Ĉu AI inkluzivas taskojn, kiujn komputilo solvas signife pli malbonaj ol homo?

• Jes

• Neniu

• Mi pli bone konas la difinon. Mi donos ĝin en la komentoj.

• Malfacile respondi

34 uzantoj voĉdonis. 7 uzantoj sindetenis.

2. Ĉu la AI devus esti nur ekzekutisto, ĉu ĉiuj ordoj estu prenitaj laŭvorte? Ekzemple, ili diris akvumi floron - tio signifas akvon ĝis ili forpelos vin

• Jes

• Neniu

• Malfacile respondi

37 uzantoj voĉdonis. 6 uzantoj sindetenis.

3. Ĉu eblas havi fortan AI, en kiu ĉiuj kapabloj estos maksimumaj (ruĝa linio en la bildo komence de la artikolo)?

• Jes

• Neniu

• Malfacile respondi

35 uzantoj voĉdonis. 7 uzantoj sindetenis.

4. Ĉu super-AI eblas (blua linio en la bildo komence de la artikolo)?

• Jes

• Neniu

• Malfacile respondi

36 uzantoj voĉdonis. 7 uzantoj sindetenis.

5. La meza celo estu ne forta, sed ankaŭ ne tute malforta AI (purpura linio en la figuro komence de la artikolo), kiu en kelkaj kapabloj estos malsupera ol AI, sed ne tiom kiom nun. ?

• Jes

• Neniu

• Malfacile respondi

33 uzantoj voĉdonis. 5 uzantoj sindetenis.

6. Fari danĝerajn erarojn en decidoj, esti neatenta, forgesi necesajn aferojn kaj laciiĝi estas la ĉefaj propraj propraĵoj de la EI?

• Jes

• Neniu

• Mi havas alian opinion, kiun mi donos en la komentoj.

• Malfacile respondi

33 uzantoj voĉdonis. 5 uzantoj sindetenis.

7. Danke al la kapablo forgesi la plej simplajn faktojn, homo akiras la liberecon kombini fragmentojn de siaj pensoj en arbitra sovaĝa ordo kaj trovi ne-normajn solvojn?

• Jes

• Neniu

• Mi havas alian opinion, kiun mi donos en la komentoj.

• Malfacile respondi

Voĉdonis 31 uzantoj. 4 uzantoj sindetenis.

8. Modeligi AI kaj krei fortan AI estas du malsamaj taskoj, kiuj povas esti solvitaj per malsamaj metodoj?

• Jes

• Neniu

• Mi havas alian opinion, kiun mi donos en la komentoj.

• Malfacile respondi

32 uzantoj voĉdonis. 4 uzantoj sindetenis.

Fonto: www.habr.com