AVVISO
Dalla straordinariamente alta proporzione di persone silenziosamente insoddisfatte rispetto a chi commenta e ha qualcosa da obiettare, risulta chiaro che molti lettori non capiscono che:
1) Questo è un articolo puramente teorico di discussione. Non ci saranno raccomandazioni pratiche per la scelta degli strumenti per il mining delle criptovalute o per l'assemblaggio di un multivibratore che lampeggia con due lampadine.
2) Non si tratta di un articolo di divulgazione scientifica. Non ci sarà una spiegazione per principianti del funzionamento della macchina di Turing utilizzando dei fiammiferi.
3) Pensate bene prima di continuare a leggere! Siete attratti dalla postura dell'amateurismo aggressivo: bocciate tutto ciò che non capite?
Ringrazio in anticipo tutti coloro che decideranno di non leggere questo articolo!
Un demone è un programma informatico nei sistemi UNIX che viene avviato dal sistema stesso e funziona in background senza interazione diretta con l'utente.
Fin da piccolissimo ho sentito una favola sull'apprendista stregone. La ripeterò nella mia versione:
Un tempo, in qualche parte dell'Europa medievale, viveva un incantatore. Possedeva un grande libro di incantesimi rilegato in pelle di vitello nera con chiusure e angoli in ferro. Quando l'incantatore doveva leggere un incantesimo, lo apriva con una grande chiave di ferro che portava sempre alla cintura in un apposito sacchetto. Inoltre, l'incantatore aveva un discepolo che gli prestava servizio, ma era vietato a lui dare un'occhiata al libro degli incantesimi.
Un giorno, un mago partì per affari. Non appena uscì di casa, il suo discepolo si precipitò nel sotterraneo, dove si trovava il laboratorio alchemico, con un libro di incantesimi incatenato a una tavola. Il discepolo afferrò i crogioli in cui il mago fondeva il piombo per trasformarlo in oro, li mise sulla griglia e alimentò il fuoco. Il piombo si sciolse rapidamente, ma non si trasformò in oro. Allora il discepolo si ricordò che il mago, ogni volta che scioglieva il piombo, apriva il libro con una chiave e leggeva a lungo un incantesimo da esso. Guardando senza speranza il libro chiuso, notò che accanto a esso c'era una chiave, dimenticata dal mago. Così si precipitò verso la tavola, sbloccò il libro, lo aprì e lesse ad alta voce il primo incantesimo, pronunciando con attenzione le parole sconosciute, immaginando che un incantesimo così importante come quello per la trasmutazione del piombo in oro fosse sicuramente il primo.
Ma non è successo nulla: il piombo non voleva trasformarsi. L'allievo voleva provare un altro incantesimo, ma in quel momento un colpo di tuono scosse la casa e davanti all'allievo apparve un enorme e terribile demonio, evocato dall'incantesimo che l'allievo aveva appena recitato.
— Comanda! — ringhiò il demonio.
La paura gli fece svanire tutti i pensieri, non riusciva nemmeno a muoversi.
— Comanda, o ti mangio! — ruggì di nuovo il demonio, allungando una mano enorme verso l'allievo per afferrarlo.
In preda alla disperazione, l'allievo balbettò la prima cosa che riuscì a pensare:
— Annaffia questo fiore.
E indicò la geranio, il cui vaso era posato sul pavimento in un angolo del laboratorio; nel soffitto sopra il fiore c'era l'unico piccolo finestra del sotterraneo, attraverso cui filtrava a malapena la luce del sole. Il demonio scomparve, ma dopo un attimo riapparve con un'enorme botte d'acqua, che rovesciò sopra il fiore, versando l'acqua. Scomparve di nuovo e tornò con una botte piena.
— Basta, — urlò l'allievo, ormai in acqua fino alla vita.
Ma a quanto pare un semplice desiderio non era sufficiente: il demone continuava a trasportare acqua nel barile, versandola in un angolo dove un tempo si trovava un fiore scomparso sotto l'acqua. Forse era necessario un incantesimo speciale per scacciare il demone. Ma il tavolo con il libro era già scomparso nell'acqua torbida, in cui galleggiavano cenere e carbone della brace, retorti vuoti, provette, sgabelli, galvanometri, dosimetri, siringhe monouso e altri rifiuti, quindi anche se lo studente avesse saputo come trovare l'incantesimo giusto, non sarebbe riuscito a farlo. L'acqua si alzava, e lo studente si arrampicò sul tavolo per non affogare. Ma questo aiutò solo per poco: il demone continuava a trasportare acqua in modo metodico. Lo studente era già fino al collo nell'acqua quando tornò il mago, rendendosi conto di aver dimenticato le chiavi del libro a casa, e scacciò il demone. Fine della storia.
Subito riguardo all'evidente. Con l'intelligenza naturale (IN) dello studente, sembrerebbe tutto chiaro: un idiota, e sarebbe necessario un lungo tempo per cercare qualcosa di più stupido. Ma riguardo all'intelligenza del demone—tra l'altro, qual è: IN o IA?—c'è ambiguità. Diverse versioni sono legittime (e sorgeranno anche domande al riguardo):
Versione 1) Il demone è ancora più stupido dell'allievo. Ha ricevuto un ordine e lo eseguirà all'infinito, anche quando ogni senso scomparirà: scomparirà il fiore – l'oggetto dell'irrigazione, scomparirà l'angolo a cui sono legate le coordinate del fiore, scomparirà il pianeta Terra, e il demone stupido continuerà a portare barili d'acqua in un determinato punto dello spazio cosmico. E se in quel punto scoppiasse una supernova, al demone non importerebbe nulla di dove portare l'acqua. Inoltre: quanto deve essere stupido per annaffiare un piccolo fiore da un enorme barile? Questo non si chiama più annaffiare il fiore, ma affogare il fiore. Capisce almeno il senso degli ordini?
Versione 2) Il demone capisce tutto, ma è vincolato da obblighi. Così conduce una sorta di sciopero all'italiana. Fino a quando non verrà ufficialmente allontanato secondo tutte le regole – non si fermerà.
Domanda 1 per le versioni 1, 2) Come distinguere un demone totalmente stupido secondo la versione 1 da uno non stupido secondo la versione 2?
Domanda 2 per le versioni 1,2) Il demone avrebbe formulato in modo più preciso l'incarico (dal punto di vista dell'allievo)? Ad esempio, se l'allievo avesse detto: prendi quel pallone di vetro vuoto da un litro che è sulla mensola, riempilo d'acqua e annaffia quel fiore una volta. Oppure, ad esempio, se l'allievo avesse detto: è andato via.
Versione 3) Il mago ha lanciato un incantesimo aggiuntivo sul demone, secondo cui se qualcuno diverso dal mago utilizza i servizi del demone, il demone deve informare immediatamente il mago di questo fatto.
Versione 4) Il demone non serba rancore nei confronti del mago e del suo allievo, quindi, vedendo che la situazione era fuori controllo, durante i suoi spostamenti con il barile, è apparso dietro il mago e ha urlato: “Hai dimenticato la chiave a casa, c'è un allagamento”. E il mago non l'avrebbe nemmeno ricordato.
Osservazione 1 per la versione 4) È importante notare che i portatori di EI spesso hanno una memoria non proprio ideale.
Le versioni possono moltiplicarsi come i "conigli di Fibonacci", quindi con un algoritmo non molto complicato. Ad esempio:
Versione 5) Il demone si vendica dell'allievo per il suo disturbo.
Versione 6) Il demone non serba rancore verso l'allievo, ma si vendica del mago.
Versione 6) Il demone si vendica di tutti.
Versione 7) Il demone non si vendica, ma si diverte. Finirà quando si stuferà.
E così via.
Quindi, per quanto riguarda il demone, è chiaro che non è chiaro. Non va meglio con il mago. Si possono inventare almeno un paio di versioni: che ha deciso di punire lo studente per il suo incessante curiosare; che voleva affogare lo studente, ma quando il demone ha ruggito riguardo al diluvio, ha avuto paura — magari qualcuno dei passanti ha sentito, e allora ricadrebbe il sospetto sul mago; voleva risvegliare nell'allievo un interesse per gli incantesimi e così via.
Qui si pone una domanda infantile: quale delle versioni proposte è corretta? Evidentemente, qualsiasi di esse. Nel racconto non è rimasta alcuna informazione non utilizzata che possa far preferire una versione rispetto alle altre. Qui ci troviamo di fronte a un caso piuttosto comune nelle opere artistiche che consentono interpretazioni multiple. Ad esempio, se un regista volesse mettere in scena questo racconto in teatro o girare un film su di esso, potrebbe scegliere l'interpretazione che trova più attraente. Per un altro regista, potrebbe risultare più affascinante un'altra interpretazione. L'attrattiva potrebbe essere determinata da considerazioni aggiuntive, come l'appeal per il pubblico, per garantire il massimo incasso, o l'appeal per la dimostrazione di un'idea superiore: l'idea della vittoria del bene sul male, l'idea del dovere, l'idea ribelle – ad esempio, in Dostoevskij: lo studente, come Raskolnikov, si pone la domanda "è una creatura tremante o ha il diritto di agire" e così via.
Sorge un'altra domanda.
Un'altra domanda). Come possiamo insegnare all'IA a preferire una delle versioni menzionate, se noi stessi, dotati di intelligenza umana, non siamo sempre in grado di sceglierne consapevolmente una?
Tornando al mago, appare piuttosto plausibile l'idea che volesse un allievo esecutivo e obbediente, come un demone, per non ficcare il naso nei libri proibiti e nei luoghi in cui non è invitato. Spesso, si desidera la stessa cosa dall'IA. A prima vista, queste sono richieste tradizionali e normali per qualsiasi macchina: piena sottomissione, l'insubordinazione è inaccettabile. Ma nel caso dell'IA, potrebbe sorgere la questione delle versioni 1, 2 (vedi sopra), cioè l'IA rischia di degenerare: il “ferro” può pensare qualsiasi cosa sui suoi creatori e padroni, ma non compirà azioni legate all'IA, quindi invece di avere un'IA otterremo un automa stupido e primitivo. Da ciò nasce il sospetto: forse il mago non voleva rendere l'allievo così stupido quanto un esecutore demoniaco? Cioè, si presenta l'idea di un'IA con limitazioni. Qui la questione si fa ancora più complessa, anche nel campo dell'intelligenza umana: ricordiamo i conflitti atavici “genitori e figli”, “insegnante e studente”, “capo e subordinato”.
nella scelta della definizione di IA, ho notato:
per un essere umano, il compito di ordinare decine di migliaia di parole in ordine alfabetico sarebbe faticoso e richiederebbe tempo, con una significativa probabilità di errori per un esecutore medio con un livello di responsabilità normale. Un computer moderno eseguirà questo compito senza errori in un tempo molto breve per l'uomo (frazioni di secondo).
Ho scelto la seguente definizione: rientrano nell'IA i compiti che un computer svolge notevolmente peggio di un essere umano.
Questa definizione tiene conto delle considerazioni espresse sopra ed è utile per la pratica, sebbene non sia perfetta, almeno perché gli elenchi di compiti 'che un computer risolve notevolmente peggio di un essere umano' attualmente e 20 anni fa differiscono. Ma, a mio avviso, finora nessuno ha trovato una definizione migliore.
Quanto detto illustra chiaramente lo schema all'inizio dell'articolo. Sull'asse delle coordinate "competenze", le competenze vicino allo zero (zero e poco più) corrispondono a quelle in cui l'essere umano supera il computer, come ad esempio la capacità di prendere decisioni non convenzionali. Le competenze intorno a uno (uno e poco meno) corrispondono a quelle in cui il computer supera l'essere umano: capacità di calcolo, memoria. Ponendo il massimo predominio pari a un'unità convenzionale sull'asse delle coordinate "predominio", otteniamo le dipendenze del predominio dalle competenze per l'essere umano e il computer sotto forma di diagonali di un quadrato unitario. Questa è la situazione attuale. Ma è possibile avere un'intelligenza artificiale forte, con tutte le competenze massime (linea rossa)? O addirittura superiore (super IA - linea blu)? Forse un obiettivo intermedio del progresso dovrebbe essere un'IA non completamente forte, ma nemmeno completamente debole (linea viola), che in alcune competenze sarebbe inferiore all'IA, ma non così tanto come ora.
IA debole (linea viola), che in alcuni abilità sarà inferiore all'IA forte, ma non così tanto come attualmente.
Tornando al nostro modello letterario fiabesco, si può dire che tutti i suoi eroi non si sono distinti: il disattento mago ha dimenticato la chiave e ha causato un'inondazione nel suo sotterraneo, il suo allievo, per stupidità e imprudenza, ha vissuto esperienze estreme e per poco non è affogato, e il demone è stato cacciato a calci senza alcun ringraziamento. Per quanto riguarda l'intelligenza del demone, è già stato osservato che è difficile categorizarlo come IA o EI, ma l'intelligenza (anche se non impressionante) degli altri è chiaramente riconducibile a EI. Si può dire di loro che commettere errori pericolosi nelle decisioni, mostrare distrazione, dimenticare le cose necessarie e affaticarsi sono le loro principali caratteristiche intrinseche. Sfortunatamente, queste caratteristiche sono presenti anche in tutti gli altri portatori di EI in misura maggiore o minore. È già stato notato sopra l'affidabilità scarsa nella classificazione di parole o numeri di EI, ma una cosa che sembrerebbe ancora più semplice, cioè semplicemente ricordare un numero, si rivela molto difficile per le persone. Per una macchina, la possibilità di memorizzare le cifre del numero pi è limitata solo dalla dimensione della memoria, mentre la maggior parte delle persone deve usare per questo , tipo “Cosa so sui cerchi”. Sembrerebbe che nella stringa “3,1416” ci siano meno caratteri rispetto alla mnemonica indicata, ma per qualche motivo le persone preferiscono memorizzare in modo meno economico. E più lungo:
Impara e sappi che nel numero noto c'è la cifra che segna la fortuna
Per non commettere errori,
Dobbiamo leggerlo correttamente
Tre, quattordici, quindici
Novanta due e sei
Per memorizzare i colori dell'arcobaleno:
Ogni designer desidera sapere dove scaricare Photoshop
E l'inizio della tavola periodica di Mendeleev:
L'acqua madre (Idrogeno) mescolata con l'Elicriso (Elio), per ottenere Litio. Sì, prendi e versa (Berillio) in una pineta (Boro), dove dall'angolo madre (Carbonio) sbircia l'Azoto, con un'espressione così acida (Ossigeno) che non era il caso di guardare nuovamente. Ma non era lui (Neon) ciò di cui avevamo bisogno, quindi ci siamo allontanati di tre (Sodio) metri e siamo finiti nel Magnesio, dove abbiamo spalmato l'Alluminio in mini (Alluminio) gonna con una crema (Silicio) contenente Fosforo, per farla smettere di essere Grigia (Zolfo). Dopo di che, Alia ha preso la candeggina (Cloro) e ha lavato la nave degli Argonauti (Argon)
Ma perché tale evidente imperfezione in un'intelligenza artificiale così avanzata? Forse grazie alla capacità di dimenticare i fatti più semplici, l'essere umano ottiene la libertà di combinare frammenti delle proprie riflessioni in un ordine casuale e di trovare soluzioni non convenzionali? Se è così, allora l'intelligenza artificiale forte è impossibile. O dimenticherà come un essere umano, oppure non sarà in grado di sviluppare soluzioni originali. In ogni caso, da queste considerazioni emerge la necessità di distinguere gli obiettivi dell'IA: uno obiettivo è la modellazione di un'intelligenza artificiale avanzata, l'altro la creazione di un'intelligenza artificiale forte. Il raggiungimento di uno potrebbe escludere il raggiungimento dell'altro.
Come possiamo vedere, nel campo dell'IA sorgono troppi interrogativi con risposte ambigue, quindi non è chiaro in quale direzione muoversi. Come accade in questi casi, si cerca di andare in tutte le direzioni contemporaneamente. Tuttavia, a causa della mancanza di formulazioni matematicamente rigorose, dobbiamo rivolgerci alla filosofia e alla modellazione artistico-letteraria. Uno dei più noti esempi in questo campo è il libro "Scelta di Turing" (1992) dell'illustre esperto di IA Marvin Lee Minsky e del famoso scrittore di fantascienza Harry Harrison. Riporterò una citazione da questo libro che può spiegare il fenomeno della mnemonica descritto sopra:
la memoria umana non è un registratore che registra tutto in ordine cronologico. È strutturata in modo completamente diverso: piuttosto come un catalogo tenuto in modo disordinato, dotato di un indice complicato e contraddittorio. E non solo complicato: di tanto in tanto cambiamo i principi di classificazione dei concetti.
Un'interessante interpretazione della metafora del registratore in un'altra opera letteraria, il racconto di Stanisław Lem "Terminus" (dalla serie "Racconti del pilota Pirx"). Qui troviamo un caso particolare di un "registratore intelligente": un vecchio robot su una vecchia nave spaziale, che ha subito un incidente in passato, è occupato in lavori di riparazione, accompagnati da colpi di martello. Ma se si ascolta attentamente, non si tratta semplicemente di un rumore tecnologico bianco, ma di una registrazione in codice Morse - le comunicazioni degli membri dell'equipaggio della nave morente. Pirx interviene in queste comunicazioni e sorprendentemente riceve una risposta da astronauti deceduti da tempo. Ne risulta che il primitivo robot di riparazione funge in qualche modo da custode delle loro coscienze, o sono distorsioni cognitive della percezione del pilota Pirx?
In un altro racconto, "Ananke" (dalla stessa serie), una copia dell'IA nel computer di gestione del trasporto spaziale porta a un sovraccarico paranoico di compiti di test, che culmina in una catastrofe.
Nel racconto "Incidente Fatale" un robot programmato in modo eccessivamente antropomorfo incontra la sua fine durante un'escursione alpinistica che decide di intraprendere nel tempo libero. Servono davvero tali esecutori? Ma i demoni che si fossilizzano nell'irrigare un fiore non sono sempre necessari.
Alcuni esperti di IA non apprezzano tali "filosofie" e "letteratura", tuttavia queste "filosofie" e "letteratura" sono tradizionalmente associate all'analisi dell'IA e sono inevitabili finché l'IA viene paragonata all'intelligenza umana, e ancor di più, finché si cerca di replicare l'intelligenza umana nell'IA.
In conclusione, un sondaggio su una serie di questioni emerse.
Solo gli utenti registrati possono partecipare al sondaggio. , per favore.
1. Rientrano nell'IA compiti che un computer svolge notevolmente peggio di un umano?
Sì
No
Conosco una definizione migliore. La fornirò nei commenti.
Non so rispondere
Hanno votato 34 utenti. Si sono astenuti 7 utenti.
2. L'IA dovrebbe essere solo un esecutore, capire gli ordini alla lettera? Ad esempio, se dicono di annaffiare un fiore, significa annaffiare finché non lo scacciano.
Sì
No
Non so rispondere
Hanno votato 37 utenti. Si sono astenuti 6 utenti.
3. È possibile avere un'IA forte con tutte le abilità massime (linea rossa nell'immagine all'inizio dell'articolo)?
Sì
No
Non so rispondere
Hanno votato 35 utenti. Si sono astenuti 7 utenti.
4. È possibile avere un super-IA (linea blu nell'immagine all'inizio dell'articolo)?
Sì
No
Non so rispondere
Hanno votato 36 utenti. Si sono astenuti 7 utenti.
5. L'obiettivo intermedio dovrebbe essere un'IA che non sia né forte né completamente debole (linea viola nell'immagine all'inizio dell'articolo), che in alcune aree skills sia inferiore all'IA umana, ma non così tanto come accade ora?
Sì
No
Non so rispondere
Hanno votato 33 utenti. Si sono astenuti 5 utenti.
6. Fare gravi errori nelle decisioni, essere disattenti, dimenticare cose necessarie e stancarsi sono proprietà principali e inevitabili dell'IA umana?
Sì
No
Ho un'opinione diversa, che presenterò nei commenti
Non so rispondere
Hanno votato 33 utenti. Si sono astenuti 5 utenti.
7. Grazie alla capacità di dimenticare i fatti più semplici, l'uomo ottiene la libertà di combinare frammenti delle proprie riflessioni in un ordine casuale e trovare soluzioni non convenzionali?
Sì
No
Ho un'opinione diversa, che presenterò nei commenti
Non so rispondere
Hanno votato 31 utenti. Si sono astenuti 4 utenti.
8. La modellazione dell'IA e la creazione di una forte IA sono due compiti diversi che possono essere risolti con metodi diversi?
Sì
No
Ho un'opinione diversa, che presenterò nei commenti
Non so rispondere
Hanno votato 32 utenti. Si sono astenuti 4 utenti.
Fonte: habr.com
