Di che tipo di studente ha bisogno uno stregone e di che tipo di intelligenza artificiale abbiamo bisogno?

ATTENZIONE
A giudicare dal rapporto record tra il numero di silenziosamente insoddisfatti e il numero di commentatori che hanno qualcosa a cui obiettare, per molti lettori non è ovvio che:
1) Questo è un articolo di discussione puramente teorico. Non ci saranno consigli pratici qui sulla scelta degli strumenti per il mining di criptovaluta o sull'assemblaggio di un multivibratore per far lampeggiare due lampadine.
2) Questo non è un articolo scientifico divulgativo. Non ci sarà alcuna spiegazione per i manichini del principio di funzionamento della macchina di Turing usando l'esempio delle scatole di fiammiferi.
3) Pensaci bene prima di continuare a leggere! Ti piace la postura del dilettantismo aggressivo: io meno tutto ciò che non capisco?
Grazie in anticipo a tutti coloro che decideranno di non leggere questo articolo!

Un demone è un programma per computer su sistemi di classe UNIX che viene avviato dal sistema stesso e viene eseguito in background senza l'interazione diretta dell'utente.

Wikipedia

Anche in età prescolare, ho sentito una fiaba sull'apprendista stregone. Lo ripeterò nella mia rivisitazione:

C'era una volta, da qualche parte nell'Europa medievale, viveva uno stregone. Aveva un grande libro di incantesimi rilegato in pelle di vitello nera con fermagli e angoli di ferro. Quando lo stregone aveva bisogno di lanciare un incantesimo, lo apriva con una grande chiave di ferro, che portava sempre alla cintura in un apposito sacchetto. Lo stregone aveva anche uno studente che lo serviva, ma gli era proibito guardare nel libro degli incantesimi.

Un giorno lo stregone partì per l'intera giornata per affari. Non appena lasciò la casa, lo studente si precipitò nella prigione, dove c'era un laboratorio alchemico in cui giaceva un libro di incantesimi incatenato a un tavolo. Lo studente afferrò i crogiuoli nei quali lo stregone fondeva il piombo per trasformarlo in oro, li pose sul braciere e attizzò il fuoco. Il piombo si sciolse rapidamente, ma non si trasformò in oro. Poi lo studente si ricordò che lo stregone, dopo aver sciolto il piombo, ogni volta apriva il libro con una chiave e ne sussurrava a lungo un incantesimo. Lo studente guardò disperatamente il libro chiuso a chiave e vide che accanto ad esso giaceva la chiave, dimenticata dallo stregone. Quindi si precipitò al tavolo, aprì il libro, lo aprì e lesse ad alta voce il primo incantesimo, pronunciando attentamente parole sconosciute sillaba per sillaba, supponendo che un incantesimo così importante come l'incantesimo di trasmutazione del piombo in oro sarebbe stato sicuramente il primo. .

Ma non è successo niente: il leader non voleva trasformarsi. Lo studente voleva provare un altro incantesimo, ma poi un tuono scosse la casa e davanti allo studente apparve un enorme e inquietante demone, evocato dall'incantesimo che lo studente aveva appena recitato.
- Ordine! - ringhiò il demone.
Per paura, tutti i pensieri lasciarono la testa dello studente, non poteva nemmeno muoversi.
- Dai ordini, altrimenti ti mangio! - ringhiò nuovamente il demone e allungò una mano enorme verso lo studente per afferrarlo.
Disperato, lo studente mormorò la prima cosa a cui riuscì a pensare:
- Innaffia questo fiore.
E indicò un geranio, il cui vaso stava sul pavimento nell'angolo del laboratorio; sul soffitto, sopra il fiore, c'era l'unica piccola finestra della prigione, attraverso la quale penetrava a malapena la luce del sole. Il demone scomparve, ma un attimo dopo riapparve con un'enorme botte piena d'acqua, che capovolse sul fiore, facendone uscire l'acqua. Scomparve di nuovo e ricomparve con la botte piena.
"Basta così", gridò lo studente, immerso nell'acqua fino alla cintola.
Ma a quanto pare il desiderio da solo non bastava: il demone portava e trasportava l'acqua in una botte, versandola nell'angolo dove una volta c'era un fiore nascosto sott'acqua. Probabilmente era necessario un incantesimo speciale per scacciare il demone. Ma il tavolo con il libro era già scomparso nell'acqua fangosa, nella quale galleggiavano ceneri e carboni del braciere, storte vuote, fiasche, sgabelli, galvanometri, dosimetri, siringhe usa e getta e altri detriti, quindi anche se lo studente sapesse come trovare l'incantesimo richiesto, non poteva farlo. L'acqua si stava alzando e lo studente salì sul tavolo per non soffocare. Ma questo non ha aiutato a lungo: il demone ha continuato metodicamente a trasportare l'acqua. Lo studente era già nell'acqua fino al collo quando lo stregone ritornò, scoprendo di aver dimenticato la chiave del libro a casa, e scacciò il demone. La fine della fiaba.

Subito sull'ovvio. Con l'intelligenza naturale (NI) dello studente, sembrerebbe che tutto sia chiaro: stupido, devi cercare a lungo qualcosa di ancora più stupido. Ma con l'intelligenza del demone, a proposito, che tipo di intelligenza ha: EI o AI? – ambiguo. Diverse versioni sono legittime (e anche su di esse sorgeranno domande):

Versione 1) Il demone è ancora più stupido dello studente. Ha ricevuto un ordine e lo eseguirà indefinitamente, anche quando ogni significato scomparirà: il fiore - oggetto da annaffiare - scomparirà, l'angolo a cui sono attaccate le coordinate del fiore scomparirà, il pianeta Terra scomparirà e il lo stupido demone continuerà a fornire acqua in barili fino a un certo punto nello spazio. E se a questo punto scoppia una supernova, al demone non importa dove portare l’acqua. Inoltre: quanto devi essere stupido per innaffiare un piccolo fiore da un enorme barile? Questo si chiama già non annaffiare il fiore, ma annegare il fiore. Capisce almeno il significato degli ordini?

Versione 2) Il demone capisce tutto, ma è vincolato da obblighi. Quindi sta conducendo qualcosa come uno sciopero italiano. Fino a quando non verrà ufficialmente espulso secondo tutte le regole, non si fermerà.

Domanda 1 alle versioni 1,2) Come distinguere un demone completamente stupido secondo la versione 1 da un demone per nulla stupido secondo la versione 2?
Domanda 2 alla versione 1,2) Il demone avrebbe eseguito correttamente (dal punto di vista dello studente) una formulazione più precisa? Ad esempio, se uno studente dicesse: prendi quella bottiglia da un litro vuota che è sullo scaffale, riempila con acqua e innaffia quel fiore una volta. Oppure, ad esempio, se lo studente dicesse: vattene.

Versione 3) Lo stregone lanciò un ulteriore incantesimo sul demone, secondo il quale se qualcuno diverso dallo stregone utilizza i servizi del demone, allora il demone deve immediatamente informare lo stregone di questo fatto.

Versione 4) Il demone non nutre rancore verso lo stregone e il suo allievo, pertanto, vedendo che la situazione era fuori controllo, durante i suoi movimenti con la botte si presentò alle spalle dello stregone e abbaiò: “Hai dimenticato la chiave a casa , c’è un’alluvione”. Ma lo stesso stregone non se ne sarebbe ricordato.

Nota 1 alla versione 4) Vale la pena notare in particolare che le portanti EI hanno una memoria molto imperfetta.

Ulteriori versioni possono essere moltiplicate come i “conigli di Fibonacci”, cioè non è un algoritmo molto complesso. Per esempio:
Versione 5) Il demone si vendica dello studente per averlo disturbato.
Versione 6) Il demone non porta rancore verso lo studente, ma si vendica dello stregone.
Versione 6) Il demone si vendica di tutti.
Versione 7) Il demone non si vendica, ma si diverte. Finisce quando si stanca.
E così via.

Quindi, con il demone è chiaro che nulla è chiaro. Non meglio con uno stregone. Puoi inventare non meno versioni: che abbia deliberatamente deciso di dare una lezione a uno studente che ficca il naso curioso ovunque; che voleva annegare lo studente, ma quando il demone abbaiò per l'alluvione, si spaventò: all'improvviso uno dei passanti sentì, allora il sospetto sarebbe caduto sullo stregone; voleva risvegliare l'interesse dello studente per gli incantesimi, ecc.

Qui è possibile una domanda infantile: quale delle versioni proposte è corretta? A quanto pare, qualsiasi. Non c'è alcuna informazione lasciata inutilizzata nel racconto per favorire una versione rispetto alle altre. Qui si tratta di un caso abbastanza comune di opere d'arte con possibilità di interpretazione ambigua. Ad esempio, se un regista vuole mettere in scena questa fiaba in un teatro o trarne un film, può scegliere l'interpretazione che è più attraente dal suo punto di vista. Un altro regista potrebbe trovare attraente un'interpretazione diversa. Allo stesso tempo, l'attrattiva può essere determinata da considerazioni aggiuntive, ad esempio l'attrattiva per gli spettatori al fine di garantire i massimi incassi al botteghino, o l'attrattiva per dimostrare qualche super-idea: l'idea della vittoria del bene sul male, l'attrattiva idea di dovere, un'idea ribelle - per esempio, secondo Dostoevskij: uno studente, come Raskolnikov, pone la domanda "è una creatura tremante o ha il diritto", ecc.

Sorge un'altra domanda.
Un'altra domanda). Come possiamo insegnare all'IA a dare la preferenza a una delle versioni vocali se noi stessi, avendo l'IA, non possiamo sempre sceglierne consapevolmente una?

Tornando allo stregone, la versione secondo cui voleva uno studente rispettoso e obbediente, come un demone, in modo da non ficcare il naso nei libri proibiti e dove non gli veniva chiesto, sembra molto plausibile. La stessa cosa ora è spesso richiesta dall’intelligenza artificiale. A prima vista, questi sono i normali requisiti tradizionali per qualsiasi macchina: completa obbedienza, disobbedienza è inaccettabile. Ma nel caso dell'IA può sorgere il problema delle versioni 1,2 (vedi sopra), cioè L'intelligenza artificiale sta degenerando: l'hardware può pensare quello che vuole sui suoi creatori e proprietari, ma non eseguirà alcuna azione correlata all'intelligenza artificiale, ad es. Invece dell'intelligenza artificiale otterremo uno stupido automa primitivo. Da questo si insinua un sospetto: forse lo stregone non voleva rendere lo studente un artista così stupido come un demone? Quelli. Emerge l’idea dell’IA con limitazioni. Qui tutto è ancora più difficile anche nel campo dell'intelligenza umana: ricorda gli eterni conflitti “padri e figli”, “insegnante e studente”, “capo e subordinato”.

Prima Scegliendo una definizione di AI tra quelle possibili, ho notato:

il compito di ordinare alfabeticamente diverse decine di migliaia di parole sarà noioso per una persona, gli ci vorrà molto tempo per farlo e la probabilità di errori per un artista medio con un livello medio di responsabilità sarà significativa. Un computer moderno eseguirà questo compito senza errori in un tempo molto breve per una persona (frazioni di secondo).

Ho optato per la seguente definizione: L'intelligenza artificiale include compiti che un computer risolve in modo significativamente peggiore di un essere umano.

Questa definizione tiene conto delle considerazioni sopra espresse ed è conveniente per la pratica; allo stesso tempo, non è l'ideale, se non altro perché gli elenchi di compiti "che un computer risolve notevolmente peggio di un essere umano" sono diversi oggi e 20 anni fa . Ma secondo me nessuno è ancora riuscito a trovare una definizione più perfetta.

Quanto sopra è illustrato puramente qualitativamente dal diagramma all'inizio dell'articolo. Sull'asse delle coordinate delle “competenze”, le competenze nella regione dello zero (zero e leggermente più) corrispondono alle competenze in cui una persona è superiore a un computer, ad esempio, nella capacità di prendere decisioni non standard. Le abilità nell'ordine di uno (uno e leggermente meno) corrispondono alle abilità in cui un computer è superiore a una persona: capacità di calcolo, memoria. Mettendo la massima superiorità pari a un'unità convenzionale sull'asse delle coordinate di “superiorità”, otteniamo la dipendenza della superiorità dalle abilità per esseri umani e computer sotto forma di diagonali di un quadrato unitario. Ecco come appare la situazione al momento. È possibile che un'intelligenza artificiale forte abbia tutte le sue abilità al massimo (linea rossa)? O anche più in alto (super-AI - linea blu)? Forse l’obiettivo intermedio del progresso non dovrebbe essere forte, ma non del tutto
IA debole (linea viola), che sarà inferiore all'IA in una serie di abilità, ma non tanto quanto lo è ora.

Ritornando al nostro modello di favola letteraria, possiamo dire che tutti i suoi eroi non si sono comportati nel migliore dei modi: lo stregone pasticcione ha dimenticato la chiave e ha ricevuto un'alluvione nella sua prigione, lo studente, per stupidità e disattenzione, ha ricevuto un mucchio di impressioni estreme e quasi annegato, il demone fu cacciato senza alcuna gratitudine. Per quanto riguarda l'intelligenza del demone, si è già notato che è difficile classificarlo chiaramente come AI o EI, ma l'intelligenza (seppur non impressionante) degli altri appartiene chiaramente all'EI. Si può dire di loro che commettere errori pericolosi nelle decisioni, essere disattenti, dimenticare le cose necessarie e stancarsi sono le loro principali proprietà intrinseche. Sfortunatamente, queste proprietà sono inerenti a tutti gli altri portatori EI in misura maggiore o minore. L'inaffidabilità dell'ordinamento delle parole o dei numeri dell'EI è già stata notata sopra, ma sembrerebbe un compito ancora più semplice: semplicemente ricordare un numero risulta essere molto difficile per le persone. Per una macchina, la capacità di ricordare le cifre del pi greco è limitata solo dalla dimensione della sua memoria, e la maggior parte delle persone deve usarla mnemonici, ad esempio "Cosa ne so delle cerchie?". Sembrerebbe che la riga “3,1416” abbia meno caratteri del mnemonico specificato, ma per qualche motivo le persone preferiscono ricordarla in modo meno economico. E più a lungo:

Impara e conosci il numero dietro il numero, come notare la fortuna

Per non commettere errori,
Deve essere letto correttamente
Tre, quattordici, quindici
Novantadue e sei

Per ricordare i colori dell'arcobaleno:

Ogni designer vuole sapere dove scaricare Photoshop

E l'inizio della tavola periodica:

L'acqua nativa (idrogeno) è stata miscelata con gel (elio) per versare (litio). Sì, prendi e versa (berillio) nella pineta (boro), dove da sotto l'angolo nativo (carbonio) fa capolino asiatico (azoto), e con una faccia così acida (ossigeno) che secondaria (fluoro) non ho voglio guardare. Ma non avevamo bisogno di lui (Neon), quindi ci siamo spostati di tre (Sodio) metri e siamo finiti a Magnolia (Magnesio), dove Alya in una minigonna (Alluminio) è stata imbrattata di Crema (Silicio) contenente Fosforo (Fosforo) affinché smettesse di essere Sera (Sera). Successivamente, Alya prese il cloro (cloro) e lavò la nave degli Argonauti (Argon)

Ma perché un’imperfezione così evidente in un IE così perfetto? Forse, grazie alla capacità di dimenticare i fatti più semplici, una persona ottiene la libertà di combinare frammenti dei suoi pensieri in un ordine selvaggio arbitrario e trovare soluzioni non standard? Se è così, allora l’IA forte è impossibile. O dimenticherà come una persona, o non sarà capace di soluzioni non standard. In ogni caso, dai presupposti di cui sopra consegue che è necessario distinguere tra gli obiettivi dell’IA: uno degli obiettivi è la modellazione dell’IA, l’altro è la creazione di un’IA forte. Realizzarne uno può escludere il raggiungimento dell’altro.

Come possiamo vedere, ci sono troppe domande con risposte ambigue nel campo dell’intelligenza artificiale, quindi non è chiaro in quale direzione muoversi. Come accade in questi casi, cercano di muoversi in tutte le direzioni contemporaneamente. Allo stesso tempo, a causa della mancanza di formulazioni matematicamente rigorose, ci si deve rivolgere alla filosofia e alla modellazione artistica e letteraria. Uno degli esempi più famosi in questa direzione è il libro “Turing Selection” (1992) di uno dei luminari dell’intelligenza artificiale, Marvin Lee Minsky, e del famoso scrittore di fantascienza Harry Harrison. Citerò da questo libro, forse spiegando il fenomeno della mnemotecnica sopra descritto:

La memoria umana non è un registratore che registra tutto in ordine cronologico. È strutturato in modo completamente diverso, un po' come un indice di carte gestito in modo trascurato, dotato di un indice confuso e contraddittorio. E non solo confusione: di tanto in tanto cambiamo i principi di classificazione dei concetti.

Un'interessante interpretazione della metafora del registratore in un'altra opera letteraria, il racconto di Stanislaw Lem “Terminus” (dalla serie “Stories about the Pilot Pirx”). Ecco il caso di una sorta di “registratore intelligente”: un vecchio robot su una vecchia astronave che una volta ha subito un incidente è impegnato in continui lavori di riparazione, accompagnati da intercettazioni. Ma se ascolti attentamente, questo non è solo rumore bianco tecnologico, ma una registrazione del codice Morse: conversazioni tra i membri dell'equipaggio di una nave morente. Pirx interviene in queste trattative e riceve inaspettatamente una risposta dagli astronauti morti da tempo. Si scopre che il robot riparatore primitivo in qualche modo memorizza copie della sua coscienza o si tratta di distorsioni cognitive della percezione del pilota Pirx?

In un'altra storia, "Ananke" (della stessa serie), una copia dell'EI nel computer di controllo di un trasporto spaziale porta al suo sovraccarico paranoico di compiti di test, che finisce in un disastro.

Nella storia “Accident”, un robot eccessivamente programmato antropomorficamente muore a seguito di una scalata alpinistica che ha deciso di intraprendere nel tempo libero. Sono necessari tali artisti? Ma anche i demoni fissati nell'innaffiare un fiore non sono sempre necessari.

Ad alcuni specialisti nel campo dell'intelligenza artificiale non piacciono questo "filosofare" e "letterarismo", ma questi "filosofare" e "letterarismo" sono tradizionalmente inerenti all'analisi dell'intelligenza artificiale e sono inevitabili finché l'intelligenza artificiale viene confrontata con l'intelligenza artificiale, e persino tanto più finché l'intelligenza artificiale tenta di copiare l'intelligenza artificiale.

In conclusione, un'indagine su una serie di questioni emerse.

Solo gli utenti registrati possono partecipare al sondaggio. AccediPer favore.

1. L’intelligenza artificiale include compiti che un computer risolve in modo significativamente peggiore di un essere umano?

• Sì

• No

• Conosco meglio la definizione. Lo darò nei commenti.

• Difficile rispondere

34 utenti hanno votato. 7 utenti si sono astenuti.

2. L'IA dovrebbe essere solo un esecutore, tutti gli ordini dovrebbero essere presi alla lettera? Ad esempio, hanno detto di innaffiare un fiore - questo significa annaffiare finché non ti scacciano

• Sì

• No

• Difficile rispondere

37 utenti hanno votato. 6 utenti si sono astenuti.

3. È possibile avere un'intelligenza artificiale forte, in cui tutte le abilità saranno massime (linea rossa nell'immagine all'inizio dell'articolo)?

• Sì

• No

• Difficile rispondere

35 utenti hanno votato. 7 utenti si sono astenuti.

4. È possibile la super-intelligenza artificiale (linea blu nell'immagine all'inizio dell'articolo)?

• Sì

• No

• Difficile rispondere

36 utenti hanno votato. 7 utenti si sono astenuti.

5. L'obiettivo intermedio non dovrebbe essere un'IA forte, ma anche non completamente debole (linea viola nella figura all'inizio dell'articolo), che in un certo numero di abilità sarà inferiore all'IA, ma non tanto quanto lo è ora ?

• Sì

• No

• Difficile rispondere

33 utenti hanno votato. 5 utenti si sono astenuti.

6. Commettere errori pericolosi nelle decisioni, essere disattenti, dimenticare le cose necessarie e stancarsi sono le principali proprietà intrinseche dell'IE?

• Sì

• No

• Ho un'opinione diversa, che darò nei commenti.

• Difficile rispondere

33 utenti hanno votato. 5 utenti si sono astenuti.

7. Grazie alla capacità di dimenticare i fatti più semplici, una persona ottiene la libertà di combinare frammenti dei suoi pensieri in un ordine selvaggio arbitrario e trovare soluzioni non standard?

• Sì

• No

• Ho un'opinione diversa, che darò nei commenti.

• Difficile rispondere

31 utenti hanno votato. 4 utenti si sono astenuti.

8. Modellare l'IA e creare un'IA forte sono due compiti diversi che possono essere risolti con metodi diversi?

• Sì

• No

• Ho un'opinione diversa, che darò nei commenti.

• Difficile rispondere

32 utenti hanno votato. 4 utenti si sono astenuti.

Fonte: www.habr.com