Questo testo non è il risultato di una ricerca scientifica, ma una delle molte opinioni riguardo al nostro imminente sviluppo tecnologico. E al tempo stesso un invito alla discussione.
Gary Marcus, professore alla New York University, è convinto che il deep learning giochi un ruolo importante nello sviluppo dell'IA. Ma ritiene anche che un eccessivo entusiasmo per questa metodologia possa portare alla sua discreditazione.
Nel suo libro Rebooting AI: Building artificial intelligence we can trust Marcus, laureato in neurologia, che ha costruito una carriera su ricerche all'avanguardia nel campo dell'IA, affronta gli aspetti tecnici ed etici. Dal punto di vista tecnologico, il deep learning riesce a imitare con successo le soluzioni ai problemi di percezione che il nostro cervello affronta: ad esempio, il riconoscimento di immagini o di voce. Ma per affrontare altre sfide, come la comprensione delle conversazioni o l'identificazione delle relazioni causa-effetto, il deep learning non è adatto. Per creare macchine intelligenti più avanzate, in grado di risolvere un'ampia gamma di compiti — spesso chiamate intelligenza artificiale generale — è necessario combinare il deep learning con altre metodologie.
Se un sistema di IA non comprende realmente i propri compiti o il mondo circostante, ciò può portare a conseguenze pericolose. Anche i minimi cambiamenti imprevisti nell'ambiente del sistema possono causarne un comportamento errato. Ci sono stati già numerosi esempi: sistemi di identificazione di espressioni inappropriate facilmente ingannabili; sistemi di ricerca lavoro che discriminano costantemente; e auto a guida autonoma che causano incidenti e talvolta uccidono conducenti o pedoni. Creare un'intelligenza artificiale generale non è solo un'interessante sfida di ricerca, ma ha numerosi utilizzi pratici.
Nel suo libro, Marcus e il suo coautore Ernest Davis propongono una strada diversa. Ritengono che siamo ancora lontani dalla creazione di un'IA generale, ma sono convinti che prima o poi sarà possibile realizzarla.
A cosa ci serve un'IA generale? Versioni specializzate sono già state create e offrono molti benefici.
Corretto, e ci saranno ancora più vantaggi. Ma ci sono molte attività che un'IA specializzata semplicemente non può svolgere. Ad esempio, la comprensione del linguaggio naturale, l'assistenza generale nel mondo virtuale, o un robot che aiuta nelle pulizie e nella preparazione dei pasti. Tali compiti sono al di fuori delle capacità di un'IA specializzata. Un'altra domanda pratica interessante: è possibile creare un'auto a guida autonoma sicura con un'IA specializzata? L'esperienza dimostra che questo tipo di IA ha ancora molti problemi nel comportamento in situazioni anomale, anche nella guida, il che complica notevolmente la situazione.
Penso che tutti noi vorremmo avere un'IA capace di aiutarci a fare nuove grandi scoperte in medicina. Non è chiaro se le attuali tecnologie siano adatte a questo, dato che la biologia è un campo complesso. Bisogna essere pronti a leggere molti libri. Gli scienziati comprendono le relazioni causali nelle interazioni tra reti e molecole, possono sviluppare teorie sui pianeti e così via. Tuttavia, con l'IA specializzata non possiamo creare macchine capaci di tali scoperte. Con l'IA generale saremmo in grado di rivoluzionare la scienza, la tecnologia e la medicina. A mio avviso, è molto importante continuare a lavorare sulla creazione di un'IA generale.
Sembra che per «generale» tu intenda un'IA forte?
Quando dico «generale» intendo che l'IA sarà in grado di riflettere e risolvere autonomamente compiti nuovi. A differenza, ad esempio, del gioco del Go, il cui problema non è cambiato negli ultimi 2000 anni.
Un'IA generale deve essere in grado di prendere decisioni sia in politica che in medicina. Questo è analogo alla capacità umana; qualunque persona di buon senso può fare molte cose. Prendi degli studenti inesperti e dopo pochi giorni riesci a farli lavorare praticamente su qualsiasi cosa, da compiti legali a questioni mediche. Questo grazie al fatto che hanno una comprensione generale del mondo e sanno leggere, e quindi possono contribuire a un vasto assortimento di attività.
La connessione tra questo tipo di intelligenza e l'intelligenza forte è che una non forte probabilmente non sarà in grado di risolvere compiti generali. Per creare qualcosa di sufficientemente affidabile, capace di operare in un mondo in costante cambiamento, è possibile che sia necessario avvicinarsi almeno all'intelligenza generale.
Ma al momento siamo molto lontani da questo. AlphaGo può giocare benissimo su una scacchiera 19×19, ma deve essere riaddestrato per giocare su una scacchiera rettangolare. Oppure considera un sistema medio di deep learning: può riconoscere un elefante se è ben illuminato e la texture della sua pelle è visibile. Ma se è visibile solo il contorno dell'elefante, il sistema sicuramente non sarà in grado di riconoscerlo.
Nel suo libro menziona che il deep learning non è in grado di raggiungere le capacità di AGI, in quanto non è capace di una comprensione profonda.
In cognitivistica si parla di formazione di diversi modelli cognitivi. Sono seduto in una stanza d'albergo e capisco che lì c'è un armadio, lì c'è un letto, lì c'è una tv appesa in modo insolito. Conosco tutti questi oggetti, non li identifico semplicemente. Capisco anche come sono interconnessi tra loro. Ho delle idee sul funzionamento del mondo circostante. Non sono perfette. Possono essere sbagliate, ma sono abbastanza buone. E sulla base di esse faccio molte deduzioni, che diventano una guida per le mie azioni quotidiane.
L'altra estremità è qualcosa come un sistema di gioco Atari, creato da DeepMind, in cui si ricordava cosa doveva fare quando vedeva pixel in determinate posizioni sullo schermo. Se ottieni abbastanza dati, potrebbe sembrare che tu abbia comprensione, ma in realtà è molto superficiale. La prova di ciò è che se sposti oggetti di tre pixel, l'IA gioca molto peggio. I cambiamenti lo mettono in difficoltà. Questo è l'opposto della comprensione profonda.
Per affrontare questo problema, proponi di tornare all'IA classica. Quali vantaggi dobbiamo cercare di sfruttare?
Ci sono diversi vantaggi.
In primo luogo, l'IA classica è in realtà un framework per la creazione di modelli cognitivi del mondo, dai quali poi è possibile trarre conclusioni.
In secondo luogo, l'IA classica è perfettamente compatibile con le regole. Attualmente nel campo del deep learning si osserva una tendenza strana, in cui gli esperti cercano di evitare le regole. Vogliono fare tutto con le reti neurali e non vogliono fare nulla che sembri programmazione classica. Ma ci sono compiti che sono stati risolti facilmente in questo modo e nessuno ci ha prestato attenzione. Ad esempio, la pianificazione dei percorsi in Google Maps.
In realtà, abbiamo bisogno di entrambi gli approcci. L'apprendimento automatico consente di apprendere bene dai dati, ma aiuta molto poco a rappresentare l'astrazione che è un programma informatico. L'IA classica funziona bene con le astrazioni, ma deve essere programmata interamente a mano, e nel mondo sono accumulati troppi saperi per poterli programmare tutti. È ovvio che dobbiamo unire entrambi gli approcci.
Questo è legato al capitolo in cui parli di ciò che possiamo imparare dalla mente umana. E prima di tutto alla concezione basata sull'idea sopra menzionata che la nostra coscienza è composta da molti sistemi diversi che funzionano in modo differente.
Penso che ci sia un altro modo di spiegarlo: ogni sistema cognitivo che abbiamo risolve effettivamente compiti diversi. Parti simili dell'IA devono essere progettate per risolvere compiti diversi, che hanno caratteristiche diverse.
Attualmente stiamo cercando di utilizzare alcune tecnologie tutto-in-uno per risolvere compiti che differiscono radicalmente l'uno dall'altro. Comprendere una frase non è affatto la stessa cosa di riconoscere un oggetto. Ma le persone cercano di utilizzare l'apprendimento profondo in entrambi i casi. Dal punto di vista cognitivo, si tratta di compiti qualitativamente diversi. Sono semplicemente colpito da quanto poco nella comunità degli esperti di apprendimento profondo venga apprezzata l'IA classica. Perché aspettare l'arrivo di un proiettile d'argento? È irraggiungibile e le ricerche infruttuose non consentono di comprendere tutta la complessità della creazione dell'IA.
Allo stesso modo, menzioni che i sistemi di IA sono necessari per comprendere le relazioni causali. Pensi che in questo ci aiuteranno l'apprendimento profondo, l'IA classica o qualcosa di completamente nuovo?
Questa è un'altra area in cui l'apprendimento profondo non è molto adatto. Non spiega le cause di alcuni eventi, ma calcola la probabilità di un evento in determinate condizioni.
Di cosa stiamo parlando? Osservi alcuni scenari e capisci perché ciò accade e cosa potrebbe succedere se cambiano alcune circostanze. Posso guardare il supporto su cui è appoggiato il televisore e immaginare che se taglio una gamba, il supporto si ribalterà e il televisore cadrà. Questa è una relazione causale.
L'IA classica ci offre alcuni strumenti per questo. Può, per esempio, rappresentare cosa significhi supporto e cosa significhi caduta. Ma non voglio esagerare. Il problema è che l'IA classica dipende principalmente dalla completezza delle informazioni sugli eventi, e io ho tratto conclusioni semplicemente osservando il supporto. In qualche modo riesco a generalizzare, a rappresentare parti del supporto che non vedo. Non abbiamo ancora strumenti per realizzare questa proprietà.
Inoltre, parlate del fatto che gli esseri umani hanno una conoscenza innata. In che modo questo può essere realizzato nell'IA?
Al momento della nascita, il nostro cervello è già un sistema molto ben progettato. Non è fisso; la natura ha creato una prima bozza grezza. E poi l'apprendimento ci aiuta a rivedere questa bozza per tutta la vita.
La bozza grezza del cervello possiede già determinate capacità. Il capretto di montagna neonato è già in grado di scendere senza errori per il pendio della montagna dopo poche ore. È evidente che ha già una comprensione dello spazio tridimensionale, del proprio corpo e delle interrelazioni tra essi. È un sistema piuttosto complesso.
In parte per questo motivo credo che abbiamo bisogno di ibridi. È difficile immaginare come si possa creare un robot che funzioni bene nel mondo senza conoscenze analoghe, partendo da zero e imparando da un'esperienza lunga e vasta.
Per quanto riguarda gli esseri umani, la nostra conoscenza innata proviene dal nostro genoma, che è evoluto per lungo tempo. E con i sistemi di IA dobbiamo seguire un percorso diverso. In parte, queste potrebbero essere le regole per costruire i nostri algoritmi. In parte, potrebbero essere le regole per creare le strutture dati che questi algoritmi manipolano. E in parte, potrebbero essere le conoscenze che inseriremo direttamente nelle macchine.
È interessante notare che nel libro conducete verso l'idea di fiducia e creazione di sistemi di fiducia. Perché avete scelto questo criterio?
Credo che oggi tutto questo rappresenti una partita a palla. Mi sembra che stiamo vivendo un momento strano nella storia, in gran parte affidandoci a software che non merita fiducia. Penso che le preoccupazioni che abbiamo oggi non saranno eterne. Tra cento anni, l'IA giustificherà la nostra fiducia, e forse anche prima.
Ma oggi l'IA è pericolosa. Non nel senso in cui teme Elon Musk, ma nel senso che i sistemi di colloqui per assunzioni discriminano le donne, a prescindere da ciò che fanno i programmatori, perché i loro strumenti sono troppo semplici.
Vorrei che avessimo un'IA di qualità superiore. Non voglio che inizi un'altra "era glaciale dell'intelligenza artificiale", quando le persone si rendono conto che l'IA non funziona e è semplicemente pericolosa, e non vorranno rimediare.
In un certo senso, il tuo libro sembra davvero molto ottimista. Suggerisci che sia possibile costruire un'IA affidabile. Dobbiamo solo guardare in un'altra direzione.
È vero, il libro è molto pessimista a breve termine e molto ottimista a lungo termine. Riteniamo che tutti i problemi che abbiamo descritto possano essere risolti se guardiamo più ampiamente a come dovrebbero essere le risposte giuste. E pensiamo che, se ciò accadesse, il mondo diventerà migliore.
Fonte: habr.com
