AVVISO
A giudicare dall'eccezionale rapporto tra il numero di scontenti silenziosi e il numero di commentatori che hanno qualcosa da obiettare, a molti lettori non è chiaro che:
1) Questo è un articolo puramente teorico. Non ci saranno raccomandazioni pratiche su come scegliere gli strumenti per il mining di criptovalute o su come assemblare un multivibratore per far lampeggiare due lampadine.
2) Non è un articolo di divulgazione scientifica. Non ci sarà una spiegazione per principianti del funzionamento della macchina di Turing utilizzando fiammiferi come esempio.
3) Pensate bene prima di continuare a leggere! Vi attira l'atteggiamento dell'ipercritico: boccio tutto ciò che non capisco?
Grazie in anticipo a tutti coloro che decideranno di non leggere questo articolo!
Un demonio è un programma informatico nei sistemi di tipo UNIX, avviato dal sistema stesso e funzionante in background senza interazione diretta con l'utente.
Fin da piccolo ho sentito una storia su un apprendista stregone. La ripeterò nella mia versione:
Un tempo, in qualche parte dell'Europa medievale, viveva uno stregone. Aveva un grande libro di incantesimi rilegato in pelle di vitello nera con chiusure e angoli in ferro. Quando lo stregone doveva leggere un incantesimo, lo apriva con una grossa chiave di ferro che portava sempre in vita nel suo apposito sacchetto. Inoltre, lo stregone aveva un apprendista, che prestava servizio allo stregone, ma gli era vietato sbirciare nel libro degli incantesimi.
Un giorno un mago partì per affari per un'intera giornata. Appena uscì di casa, l'apprendista si precipitò nel sotterraneo, dove si trovava l'alchimista laboratorio, in cui giaceva un libro di incantesimi, incatenato al tavolo. L'apprendista afferrò i crogioli in cui il mago scioglieva il piombo per trasformarlo in oro, li posò sul braciere e soffiò sul fuoco. Il piombo si sciolse rapidamente, ma non si trasformò in oro. Allora l'apprendista si ricordò che il mago, dopo aver fuso il piombo, apriva ogni volta il libro con la chiave e sussurrava a lungo un incantesimo da esso. L'apprendista guardò disperatamente il libro chiuso e vide che accanto a esso giaceva la chiave, dimenticata dal mago. Allora si precipitò verso il tavolo, aprì il libro, lo sfogliò e lesse ad alta voce il primo incantesimo, pronunziando diligentemente le parole sconosciute sillaba per sillaba, supponendo che un incantesimo così importante come quello per la trasmutazione del piombo in oro sarebbe stato sicuramente il primo.
Ma non successe nulla: il piombo non voleva trasformarsi. L'apprendista voleva provare un altro incantesimo, ma a quel punto un tuono scosse la casa, e davanti all'apprendista apparve un enorme e spaventoso demone, evocato dall'incantesimo appena letto dall'apprendista.
— Ordina! — ruggì il demone.
Per la paura, tutti i pensieri abbandonarono la testa dell'apprendista, non poteva neppure muoversi.
— Ordina, oppure ti mangio! — ringhiò di nuovo il demone, allungando una mano enorme verso l'apprendista per afferrarlo.
In preda alla disperazione, l'apprendista balbettò la prima cosa che riuscì a pensare:
— Annaffia questo fiore.
E indicò la geranio, il cui vaso era posto sul pavimento nell'angolo del laboratorio, nel soffitto sopra il fiore c'era la sola piccola finestra presente nel sotterraneo, attraverso cui penetrava a fatica la luce solare. Il demone scomparve, ma dopo un istante riapparve con un enorme barile d'acqua, che rovesciò sopra il fiore, versando l'acqua. Scomparve di nuovo e ritornò con un barile pieno.
— Basta, — gridò l'apprendista, già fino alla vita nell'acqua.
Ma evidentemente un solo desiderio non era sufficiente: il demone continuava a trasportare acqua nel barile, versandola nell'angolo dove un tempo si trovava il fiore nascosto sotto l'acqua. Forse era necessario un incantesimo speciale per scacciare il demone. Ma il tavolo con il libro era già scomparso nell'acqua torbida, nella quale galleggiavano cenere e tizzoni del braciere, retorti vuoti, provette, sgabelli, galvanometri, dosimetri, siringhe monouso e altro spazzatura, quindi se lo studente avesse saputo come trovare l'incantesimo giusto, non sarebbe riuscito a farlo. L'acqua saliva e lo studente si arrampicò sul tavolo per non annegare. Ma questo aiutò solo per poco: il demone continuava metodicamente a trasportare acqua. Lo studente era già fino al collo nell'acqua quando tornò il mago, che scoprì di aver dimenticato a casa la chiave del libro, e scacciò il demone. Fine della storia.
Subito l'ovvio. Con l'intelligenza naturale (IN) dello studente, sembrerebbe che tutto sia chiaro: è stupido, ci vorrà tempo per cercarne uno ancora più stupido. Ma per quanto riguarda l'intelligenza del demone – tra l'altro, quale ha: IN o IA? – è ambiguo. Sono legittime diverse versioni (e ad esse sorgeranno anche questioni):
Versione 1) Il demone è ancora più stupido dello studente. Riceve un ordine e lo eseguirà all'infinito, anche quando ogni senso scomparirà: scomparirà il fiore – l'oggetto dell'irrigazione, scomparirà l'angolo a cui sono legate le coordinate del fiore, scomparirà il pianeta Terra, e il demone stupido continuerà a portare acqua in un punto specifico dello spazio cosmico. E se in quel punto esplodesse una supernova, al demone non farebbe differenza dove portare l'acqua. Inoltre: quanto deve essere stupido per annaffiare un piccolo fiore da un enorme barile? Non si tratta più di annaffiare il fiore, ma di affondarlo. Capisce almeno il senso degli ordini?
Versione 2) Il demone comprende tutto, ma è legato da obblighi. Quindi conduce qualcosa di simile a uno sciopero italiano. Fintanto che non verrà ufficialmente cacciato secondo tutte le regole, non si fermerà.
Domanda 1 per le versioni 1,2) Come distinguere un demone completamente stupido secondo la versione 1 da uno non stupido secondo la versione 2?
Domanda 2 per le versioni 1,2) Il demone eseguirebbe correttamente (dal punto di vista dello studente) una formulazione più precisa? Ad esempio, se lo studente dicesse: prendi quella provetta vuota da un litro che si trova sulla mensola, riempila d'acqua e annaffia quel fiore una volta. Oppure, ad esempio, se lo studente dicesse: vattene.
Versione 3) Il mago ha lanciato un ulteriore incantesimo sul demone, secondo il quale, se qualcuno oltre al mago utilizza i servizi del demone, allora il demone deve informare immediatamente il mago di questo fatto.
Versione 4) Il demone non porta rancore al mago e al suo allievo, quindi, vedendo che la situazione era sfuggita al controllo, durante i suoi spostamenti con la botte è apparso dietro il mago e ha ruggito: “hai dimenticato la chiave di casa, c'è allagamento”. E il mago non se lo sarebbe ricordato da solo.
Nota 1 alla versione 4) È particolarmente importante notare che i parlanti di EI hanno una memoria non sempre ideale.
In seguito, le versioni possono moltiplicarsi come i “conigli di Fibonacci”, cioè con un algoritmo non molto complesso. Ad esempio:
Versione 5) Il demone si vendica dell'allievo per la sua inquietudine.
Versione 6) Il demone non porta rancore all'allievo, ma si vendica del mago.
Versione 6) Il demone si vendica di tutti.
Versione 7) Il demone non si vendica, ma si diverte. Terminerà quando si annoierà.
E così via.
Quindi, con il demone è chiaro che non c'è chiarezza. Non va meglio con il mago. Si possono inventare non meno versioni: che ha deciso di punire l'allievo che infila il naso ovunque; che voleva affogare l'allievo, ma quando il demone ha ruggito riguardo all'allagamento, si è spaventato — e se qualcuno dei passanti ha sentito, allora il sospetto ricadrà sul mago; voleva risvegliare l'interesse dell'allievo per gli incantesimi, e così via.
Qui può sorgere una domanda infantile: quale delle versioni proposte è quella giusta? Evidentemente, qualsiasi. Nella fiaba non è rimasta alcuna informazione inutilizzata per preferire una qualsiasi delle versioni rispetto alle altre. Qui abbiamo a che fare con un caso piuttosto comune delle opere artistiche con la possibilità di interpretazione ambigua. Ad esempio, se un qualche regista decide di mettere in scena questa fiaba nel teatro o di girarci un film, può scegliere l'interpretazione che gli sembra più attraente. Per un altro regista, un'altra interpretazione potrebbe risultare più attraente. In questo caso, l'attrattiva può essere determinata da considerazioni aggiuntive, ad esempio, l'attrattiva per il pubblico, per garantire il massimo delle entrate al botteghino, o l'attrattiva per dimostrare qualche idea superiore: l'idea della vittoria del bene sul male, l'idea del dovere, l'idea ribelle – ad esempio, in Dostoevskij: l'allievo, come Raskolnikov, si domanda “è una creatura tremante o ha il diritto” e così via.
Sorge un'altra domanda.
Un'altra domanda). Come possiamo insegnare all'IA a dare priorità a una delle versioni pronunciate, se noi stessi, pur possedendo l'IA, non sempre riusciamo a scegliere consapevolmente una di esse?
Tornando al mago, appare molto plausibile l'idea che desiderasse un allievo obbediente e esecutivo, come un demone, in modo che non si intromettesse nei libri proibiti e in posti dove non era richiesto. Questo è ciò che spesso si aspetta dall'IA. A prima vista, queste sono normali richieste tradizionali per qualsiasi macchina: piena obbedienza, l'insubordinazione è inaccettabile. Ma nel caso dell'IA può sorgere la questione delle versioni 1, 2 (vedi sopra), cioè l'IA si degrada: un 'ferro' può pensare qualsiasi cosa sui suoi creatori e padroni, ma non compirà alcuna azione relativa all'IA, cioè invece di un'IA otteniamo un automa stupido e primitivo. Da questo nasce il sospetto: forse il mago non voleva rendere l'allievo così stupido come un demone? Cioè, emerge l'idea di un'IA con delle limitazioni. Qui è tutto ancora più complicato, anche nel campo dell'IA: ricorda i conflitti eterni 'padri e figli', 'insegnante e allievo', 'superiore e subordinato'.
nella scelta della definizione di IA tra le possibili ho osservato:
per una persona, il compito di ordinare alfabeticamente diverse decine di migliaia di parole sarà estenuante, ci vorrà tempo e la probabilità di errori per un esecutore medio con un livello medio di responsabilità sarà significativa. Un computer moderno svolgerà questo compito senza errori in un tempo molto breve per un essere umano (frazioni di secondo).
Mi sono fermato alla seguente definizione: tra le IA rientrano i compiti che un computer risolve in modo significativamente peggiore di un essere umano.
Questa definizione tiene conto delle considerazioni espresse sopra ed è comoda per la pratica, allo stesso tempo non è perfetta, almeno perché le liste di compiti 'che un computer risolve in modo significativamente peggiore di un essere umano' attualmente e 20 anni fa differiscono. Ma, a mio avviso, finora nessuno ha inventato una definizione più perfetta.
Quanto detto illustra chiaramente lo schema all'inizio dell'articolo. Sull'asse delle coordinate "abilità", le abilità intorno a zero (zero e poco più) corrispondono a competenze in cui l'uomo supera l'AI, ad esempio la capacità di prendere decisioni non standard. Le abilità intorno a uno (uno e poco meno) corrispondono a competenze in cui l'AI supera l'uomo: capacità di calcolo, memoria. Ponendo il massimo vantaggio pari a un'unità convenzionale sull'asse delle coordinate "vantaggio", otteniamo le dipendenze del vantaggio dalle abilità per l'uomo e l'AI sotto forma di diagonali di un quadrato unitario. Questa è la situazione attuale. Ma è possibile un'AI forte, che abbia tutte le abilità massime (linea rossa)? O addirittura superiori (super AI - linea blu)? Forse, un obiettivo intermedio del progresso dovrebbe essere non un'AI forte, ma nemmeno completamente
un'AI debole (linea viola), che in alcune abilità sarà inferiore all'IA, ma non così tanto come ora.
Tornando al nostro modello letterario fiabesco, si può dire che tutti i suoi eroi non hanno fatto una grande figura: il mago sbadato ha dimenticato la chiave e ha avuto un'inondazione nella sua cantina, l'allievo per stupidità e imprudenza ha avuto una serie di esperienze estreme ed è quasi annegato, il demonio è stato espulso a calci senza alcun ringraziamento. Per quanto riguarda l'intelligenza del demonio - è già stato notato che è difficile catalogarlo come AI oIA, ma l'intelligenza (sebbene non impressionante) degli altri è chiaramente riferibile all'IA. Si può dire di loro che fare errori pericolosi nelle decisioni, mostrare disattenzione, dimenticare ciò che serve e stancarsi - sono le loro principali caratteristiche intrinseche. Purtroppo, queste caratteristiche appartengono anche a tutti gli altri portatori di IA in misura maggiore o minore. Riguardo all'affidabilità della classificazione di parole o numeri dell'IA è stato già osservato sopra, ma sembrerebbe che un compito ancora più semplice - semplicemente ricordare un numero risulti molto difficile per le persone. Per una macchina, la possibilità di memorizzare le cifre del numero pi è limitata solo dalla grandezza della memoria, mentre la maggior parte delle persone deve utilizzare per questo , tipo "Cosa so sui cerchi". Sembrerebbe che nella stringa "3,1416" ci siano meno caratteri rispetto alla mnemonica indicata, ma per qualche motivo le persone preferiscono memorizzare in modo meno economico. E più lungo:
Impara e sappi in un numero noto dietro la cifra, come notare la fortuna
Per non commettere errori,
Devi leggere correttamente
Tre, quattordici, quindici
Novantadue e sei
Per ricordare i colori dell'arcobaleno:
Ogni designer vuole sapere dove scaricare Photoshop
E l'inizio della tavola periodica di Mendeleev:
L'acqua madre (Idrogeno) si è mescolata con l'Elio (Elio) per fare il Litio (Litio). Sì, prendi e versa (Berillio) nel bosco di pini (Boro), dove dall'angolo natale (Carbonio) sbircia l'Asiatico (Azoto), con una faccia così acida (Ossigeno) che non volevamo guardare di nuovo (Fluoro). Ma Non era lui (Neon) di cui avevamo bisogno, quindi ci siamo allontanati di tre (Sodio) metri e siamo finiti nel Magnolia (Magnesio), dove abbiamo spalmato l'Alluminio (Alluminio) in mini gonna con una crema (Silicio) contenente Fosforo (Fosforo), affinché smettesse di essere Grigia (Zolfo). Dopo di ciò, Ala ha preso la Clorina (Cloro) e ha lavato la nave degli Argonauti (Argon)
Ma perché una tale evidente imperfezione in un E.I. così perfetto? Forse, grazie all'abilità di dimenticare i fatti più semplici, l'uomo ottiene la libertà di combinare frammenti delle proprie riflessioni in un ordine selvaggio e arbitrario, trovando soluzioni non convenzionali? Se è così, allora un intelligenza artificiale forte è impossibile. O dimenticherà come un uomo, o non sarà in grado di trovare soluzioni non convenzionali. In ogni caso, da queste supposizioni deriva la necessità di distinguere tra gli obiettivi dell'IA: uno è la modellazione dell'E.I., l'altro la creazione di un'intelligenza artificiale forte. Raggiungere uno può escludere il raggiungimento dell'altro.
Come vediamo, nel campo dell'IA sorgono molte domande con risposte ambigue, quindi non è chiaro quale direzione prendere. Come avviene in questi casi, si cerca di muoversi in tutte le direzioni contemporaneamente. Tuttavia, a causa della mancanza di formulazioni matematiche rigorose, si deve ricorrere alla filosofia e alla modellazione artistico-letteraria. Uno dei più noti in questo senso è il libro "Scelta di Turing" (1992) di uno dei pionieri dell'IA, Marvin Lee Minsky, e del famoso scrittore di fantascienza Harry Harrison. Cito una frase da questo libro che magari spiega il fenomeno mnemonico descritto sopra:
La memoria umana non è un registratore che registra tutto in ordine cronologico. È strutturata in modo completamente diverso: piuttosto come un archivio disordinato dotato di un indice complicato e contraddittorio. E non solo complicato: di tanto in tanto immaginiamo nuovi criteri di classificazione dei concetti.
Un'interpretazione interessante della metafora del registratore in un'altra opera letteraria è il racconto di Stanisław Lem "Terminus" (dalla serie "Racconti del pilota Pirx"). Qui c'è un caso singolare di "registratore intellettuale": un vecchio robot su una vecchia navetta spaziale che un tempo aveva avuto un incidente, sta eseguendo lavori di riparazione, accompagnati da colpetti. Ma se si ascolta attentamente, non è solo un rumore tecnologico bianco, ma una registrazione di codice Morse: le conversazioni degli membri dell'equipaggio della navetta in procinto di affondare. Pirx interviene in queste conversazioni e sorprendentemente riceve risposte da astronauti da tempo deceduti. Risulta quindi che un robot da riparazione primitivo custodisce in un certo senso copie delle loro coscienze, o sono distorsioni cognitive della percezione del pilota Pirx?
In un altro racconto "Ananke" (della stessa serie), una copia di EI nel computer di controllo della navetta spaziale porta a un sovraccarico paranoico con compiti di prova, che termina in un disastro.
Nella storia "Incidente sfortunato", un robot programmato in modo troppo antropomorfo incontra la morte a causa di una scalata che decide di intraprendere nel suo tempo libero. Sono necessari tali esecutori? Ma anche i demoni che si concentrano nel annaffiare un fiore non sono sempre necessari.
Alcuni esperti nel campo dell'IA non apprezzano tali "pensieri filosofici" e "letterari", tuttavia questi "pensieri filosofici" e "letterari" sono tradizionalmente associati all'analisi di EI e sono inevitabili finché si confrontano l'IA con EI e, tanto più, finché si cerca di copiare EI nell'IA.
In conclusione, un sondaggio su una serie di questioni emerse.
Solo gli utenti registrati possono partecipare al sondaggio. , per favore.
1. L'IA riguarda compiti che il computer risolve significativamente peggio di un essere umano?
Sì
No
Conosco una definizione migliore. La presenterò nei commenti.
Difficile rispondere
34 utenti hanno votato. 7 utenti si sono astenuti.
2. L'IA deve essere solo un esecutore, comprendendo ordini alla lettera? Ad esempio, se viene detto di annaffiare un fiore, deve annaffiare finché non viene fermato.
Sì
No
Difficile rispondere
Hanno votato 37 utenti. Si sono astenuti 6 utenti.
3. È possibile un'IA forte che abbia tutte le abilità massime (linea rossa nel disegno all'inizio dell'articolo)?
Sì
No
Difficile rispondere
Hanno votato 35 utenti. 7 utenti si sono astenuti.
4. È possibile un'IA super (linea blu nel disegno all'inizio dell'articolo)?
Sì
No
Difficile rispondere
Hanno votato 36 utenti. Si sono astenuti 7 utenti.
5. L'obiettivo intermedio deve essere un'IA non forte, ma nemmeno completamente debole (linea viola nel disegno all'inizio dell'articolo), che in alcune abilità sia inferiore all'IA umana, ma non così tanto come ora?
Sì
No
Difficile rispondere
Hanno votato 33 utenti. Si sono astenuti 5 utenti.
6. Fare errori pericolosi nelle decisioni, mostrare disattenzione, dimenticare cose necessarie e affaticarsi sono le principali caratteristiche intrinseche dell'IA umana?
Sì
No
Ho un'opinione diversa, che esporrò nei commenti
Difficile rispondere
Hanno votato 33 utenti. Si sono astenuti 5 utenti.
7. Grazie alla capacità di dimenticare i fatti più semplici, l'essere umano ottiene la libertà di combinare frammenti delle proprie riflessioni in modo arbitrario e trovare soluzioni non convenzionali?
Sì
No
Ho un'opinione diversa, che esporrò nei commenti
Difficile rispondere
Ha votato 31 utenti. Si sono astenuti 4 utenti.
8. La modellazione dell'intelligenza artificiale e la creazione di un'IA forte sono due compiti diversi, che possono essere risolti con metodi diversi?
Sì
No
Ho un'opinione diversa, che esporrò nei commenti
Difficile rispondere
Hanno votato 32 utenti. Si sono astenuti 4 utenti.
Fonte: habr.com
