Questo testo non è il risultato di una ricerca scientifica, ma uno dei molti pareri sul nostro prossimo sviluppo tecnologico. È anche un invito al dibattito.
Gary Marcus, professore della New York University, è certo che l'apprendimento profondo svolga un ruolo importante nello sviluppo dell'IA. Tuttavia, è anche convinto che un'eccessiva fascinazione per questa metodologia possa portare alla sua discreditazione.
Nel suo libro Rebooting AI: Building artificial intelligence we can trust Markus, un neurologo di formazione, ha costruito la propria carriera sulle ricerche avanzate nel campo dell'IA, affrontando aspetti sia tecnici che etici. Da un punto di vista tecnologico, il deep learning può imitare con successo la risoluzione di compiti percettivi che il nostro cervello esegue: come il riconoscimento delle immagini o della voce. Tuttavia, per affrontare altri compiti, come comprendere conversazioni o determinare legami di causa ed effetto, il deep learning non è adeguato. Per creare macchine intelligenti più avanzate, capaci di risolvere un'ampia gamma di problemi — spesso definite intelligenza artificiale generale — è necessario combinare il deep learning con altre metodologie.
Se un sistema AI non comprende realmente i suoi compiti o il mondo che lo circonda, ciò può portare a conseguenze pericolose. Anche i più piccoli cambiamenti inaspettati nell'ambiente del sistema possono causarne un comportamento errato. Ci sono già stati molti esempi: sistemi di rilevamento di espressioni inappropriate facilmente ingannabili; sistemi per la ricerca di lavoro che discriminano costantemente; automobili a guida autonoma che causano incidenti e a volte infortunano il conducente o i pedoni. La creazione di un'intelligenza artificiale generale non è solo un'interessante problematica di ricerca, ma ha molte applicazioni pratiche.
Nel suo libro, Markus e il suo co-autore Ernest Davis propongono un'altra strada. Ritengono che siamo ancora lontani dalla creazione di un'AI generale, ma sono certi che prima o poi riusciremo a realizzarla.
Per cosa ci serve un'AI generale? Le versioni specializzate sono già state create e portano già molti benefici.
È vero, e ci saranno ancora più vantaggi. Ma ci sono molte attività che un'AI specializzata semplicemente non è in grado di affrontare. Ad esempio, la comprensione del linguaggio naturale, l'assistenza generale nel mondo virtuale o un robot che aiuta nelle pulizie e nella preparazione dei pasti. Questi compiti sono al di fuori delle capacità dell'IA specializzata. Un'altra domanda interessante è: è possibile creare un'auto senza conducente sicura con un'AI specializzata? L'esperienza dimostra che tale IA ha ancora molte difficoltà nel comportamento in situazioni anomale, anche durante la guida, il che complica notevolmente la situazione.
Credo che tutti noi vorremmo avere un'IA capace di aiutarci a fare nuove scoperte su larga scala in medicina. Non è chiaro se le tecnologie attuali siano adatte a questo, dato che la biologia è un campo complesso. È necessario essere pronti a leggere un gran numero di libri. Gli scienziati comprendono le relazioni causali nell'interazione tra reti e molecole, possono sviluppare teorie sui pianeti e così via. Tuttavia, con un'IA specializzata non possiamo creare macchine in grado di fare tali scoperte. Con un'IA generale, potremmo invece rivoluzionare la scienza, la tecnologia e la medicina. A mio avviso, è molto importante continuare a lavorare sulla creazione di un'IA generale.
Sembra che per 'generale' tu intenda un'IA forte?
Quando parlo di 'generale', intendo che l'IA sarà in grado di riflettere e risolvere autonomamente nuovi problemi al volo. A differenza, ad esempio, di Go, in cui il problema non è cambiato negli ultimi 2000 anni.
L'intelligenza generale deve essere in grado di prendere decisioni sia in politica che in medicina. Questo è l'equivalente della capacità umana; qualsiasi persona con buonsenso può fare veramente molte cose. Prendi degli studenti inesperti e dopo pochi giorni li metti a lavorare praticamente su qualsiasi cosa, da compiti legali a questioni mediche. Questo grazie al fatto che possiedono una comprensione generale del mondo e sanno leggere, e quindi possono contribuire a una vasta gamma di attività.
La relazione tra tale intelligenza e quella forte è che un'intelligenza debole probabilmente non sarà in grado di risolvere compiti generali. Per creare qualcosa di sufficientemente affidabile, capace di lavorare in un mondo in continua evoluzione, potrebbe esserci la necessità di avvicinarsi, almeno in parte, all'intelligenza generale.
Ma ora siamo molto lontani da questo. AlphaGo può giocare alla grande su una scacchiera 19×19, ma deve essere riaddestrato per giocare su una scacchiera rettangolare. Oppure prendiamo un sistema di deep learning medio: è in grado di riconoscere un elefante se è ben illuminato e la texture della pelle è visibile. Ma se si vede solo il contorno dell'elefante, il sistema sicuramente non sarà in grado di riconoscerlo.
Nel suo libro menziona che il deep learning non può raggiungere le capacità di un'IA generale, poiché non è in grado di comprendere profondamente.
Nella cognizione si parla della formazione di diversi modelli cognitivi. Sono seduto nella mia camera d'albergo e mi rendo conto che lì c'è un armadio, lì un letto, lì una TV che è stranamente sospesa. Conosco tutti questi oggetti, non li identifico semplicemente. Inoltre, comprendo come siano interconnessi tra loro. Ho idee sul funzionamento del mondo che mi circonda. Non sono perfette. Possono essere errate, ma sono piuttosto buone. E sulla base di esse faccio molte deduzioni che diventano una guida per le mie azioni quotidiane.
Un'altra estremità è qualcosa simile al sistema di gioco Atari, creato da DeepMind, in cui memorizzava cosa doveva fare quando vedeva dei pixel in determinate posizioni dello schermo. Se ottieni abbastanza dati, può sembrare di avere una comprensione, ma in realtà è molto superficiale. La prova di ciò è che, se sposti gli oggetti di tre pixel, l'IA gioca molto peggio. I cambiamenti lo confondono. Questo è l'opposto di una comprensione profonda.
Per affrontare questo problema, si propone di tornare all'IA classica. Quali vantaggi dobbiamo cercare di sfruttare?
Ci sono diversi vantaggi.
Innanzitutto, l'IA classica è in realtà un framework per costruire modelli cognitivi del mondo, dai quali si possono poi trarre conclusioni.
In secondo luogo, l'IA classica è perfettamente compatibile con le regole. Attualmente, nel campo del deep learning, si osserva una strana tendenza in cui gli esperti cercano di evitare le regole. Vogliono fare tutto con le reti neurali, senza fare nulla che assomigli alla programmazione classica. Ma ci sono compiti che sono stati tranquillamente risolti in questo modo, e nessuno ci ha prestato attenzione. Ad esempio, la costruzione di percorsi in Google Maps.
In realtà, abbiamo bisogno di entrambi gli approcci. L'apprendimento automatico consente di imparare bene dai dati, ma aiuta molto poco nella rappresentazione delle astrazioni che costituiscono un programma informatico. L'IA classica funziona bene con le astrazioni, ma va completamente programmata manualmente, e nel mondo sono accumulati troppi conoscenze per poterle programmare tutte. È evidente che dobbiamo combinare entrambi gli approcci.
Questo è legato al capitolo in cui parlate di ciò che possiamo imparare dalla mente umana. E prima di tutto della concezione basata sull'idea sopra menzionata, che la nostra coscienza è composta da molteplici sistemi diversi che funzionano in modi diversi.
Penso ci sia un altro modo per spiegarlo: ogni sistema cognitivo che abbiamo affronta effettivamente compiti diversi. Parti simili dell'IA devono essere progettate per risolvere diverse problematiche, che presentano caratteristiche differenti.
Attualmente stiamo cercando di utilizzare certe tecnologie all-in-one per affrontare compiti che sono radicalmente differenti tra loro. Comprendere una frase non è affatto la stessa cosa che riconoscere un oggetto. Ma le persone cercano di usare l'apprendimento profondo in entrambi i casi. Dal punto di vista cognitivo, si tratta di compiti qualitativamente diversi. Sono semplicemente colpito da quanto poco nel settore dell'apprendimento profondo si apprezzi l'IA classica. Perché aspettare l'arrivo della pallottola d'argento? È irraggiungibile, e le ricerche infruttuose non ci permettono di afferrare tutta la complessità della creazione di un'IA.
Inoltre, menzioni che i sistemi di IA sono necessari per comprendere le relazioni di causa ed effetto. Pensi che l'apprendimento profondo, l'IA classica o qualcosa di completamente nuovo ci aiuteranno in questo?
Questo è un altro campo in cui l'apprendimento profondo non è particolarmente adatto. Non spiega le cause di certi eventi, ma calcola la probabilità che un evento accada in determinate condizioni.
Di cosa stiamo parlando? Stai osservando alcuni scenari e capisci perché accade qualcosa e cosa potrebbe succedere se alcune condizioni cambiano. Posso guardare il supporto su cui è posizionato il televisore e immaginare che, se taglio una sua gamba, il supporto si capovolgerà e il televisore cadrà. Questa è una connessione causale.
L'IA classica ci fornisce alcuni strumenti per farlo. Può immaginare, ad esempio, cosa significhi supporto e cosa significhi cadere. Ma non voglio esagerare. Il problema è che l'IA classica dipende per la maggior parte dalla completezza delle informazioni disponibili, mentre io ho tratto una conclusione semplicemente guardando il supporto. Posso in qualche modo generalizzare, immaginando parti del supporto che non vedo. Non abbiamo ancora gli strumenti per realizzare quest'attributo.
Parli anche del fatto che le persone hanno una conoscenza innata. Come possiamo realizzare questo nell'IA?
Al momento della nascita, il nostro cervello è già un sistema estremamente ben progettato. Non è fisso; la natura ha creato una prima bozza grezza. Successivamente, l'apprendimento ci aiuta a rivedere questa bozza per tutta la vita.
La bozza grezza del cervello ha già determinate capacità. Un neonato di stambecco è in grado di scendere senza errore lungo il pendio montano dopo solo poche ore. È evidente che ha già una comprensione dello spazio tridimensionale, del proprio corpo e delle relazioni tra di essi. Un sistema piuttosto complesso.
In parte per questo motivo, credo che abbiamo bisogno di ibridi. È difficile immaginare come si potrebbe creare un robot che funzioni bene nel mondo senza conoscenze analoghe, invece di partire da una pagina bianca e imparare da un lungo e vasto esperienza.
Per quanto riguarda le persone, la nostra conoscenza innata proviene dal nostro genoma, che si è evoluto nel corso del tempo. Con i sistemi di IA, dovremo seguirne un altro. In parte, queste possono essere le regole di costruzione dei nostri algoritmi. In parte, possono essere le regole di creazione delle strutture dati con cui questi algoritmi manipolano. E in parte, possono essere le conoscenze che inseriremo direttamente nelle macchine.
È interessante che nel libro conduci alla questione della fiducia e della creazione di sistemi fidati. Perché hai scelto proprio questo criterio?
Credo che oggi tutto questo rappresenti un gioco di squadra. Mi sembra che stiamo vivendo un momento strano nella storia, affidandoci a software che non merita fiducia. Penso che le preoccupazioni che ci caratterizzano oggi non saranno eterne. Tra cento anni, l'IA giustificherà la nostra fiducia, e forse anche prima.
Ma oggi l'IA è pericolosa. Non nel senso temuto da Elon Musk, ma nel senso che i sistemi di colloqui di assunzione discriminano le donne, indipendentemente da ciò che fanno i programmatori, perché i loro strumenti sono troppo semplici.
Vorrei che avessimo un'IA di qualità superiore. Non voglio che inizi un'«era glaciale dell'IA» quando le persone si rendono conto che l'IA non funziona ed è semplicemente pericolosa, e non vogliono correggerlo.
In un certo senso, il tuo libro sembra davvero molto ottimista. Sostieni che si possa costruire un'IA affidabile. Dobbiamo solo guardarci in un'altra direzione.
È vero, il libro è molto pessimista nel breve termine e molto ottimista nel lungo termine. Crediamo che tutti i problemi che abbiamo descritto possano essere risolti se guardiamo più in là su quali dovrebbero essere le risposte corrette. E pensiamo che se questo accadrà, il mondo diventerà migliore.
Fonte: habr.com
