<\/a><\/noindex>Nel suo libro, Markus e il suo co-autore Ernest Davis propongono un'altra strada. Ritengono che siamo ancora lontani dalla creazione di un'AI generale, ma sono certi che prima o poi riusciremo a realizzarla.<\/p>\n
Per cosa ci serve un'AI generale? Le versioni specializzate sono gi\u00e0 state create e portano gi\u00e0 molti benefici.<\/b><\/p>\n
\u00c8 vero, e ci saranno ancora pi\u00f9 vantaggi. Ma ci sono molte attivit\u00e0 che un'AI specializzata semplicemente non \u00e8 in grado di affrontare. Ad esempio, la comprensione del linguaggio naturale, l'assistenza generale nel mondo virtuale o un robot che aiuta nelle pulizie e nella preparazione dei pasti. Questi compiti sono al di fuori delle capacit\u00e0 dell'IA specializzata. Un'altra domanda interessante \u00e8: \u00e8 possibile creare un'auto senza conducente sicura con un'AI specializzata? L'esperienza dimostra che tale IA ha ancora molte difficolt\u00e0 nel comportamento in situazioni anomale, anche durante la guida, il che complica notevolmente la situazione.<\/p>\n
Credo che tutti noi vorremmo avere un'IA capace di aiutarci a fare nuove scoperte su larga scala in medicina. Non \u00e8 chiaro se le tecnologie attuali siano adatte a questo, dato che la biologia \u00e8 un campo complesso. \u00c8 necessario essere pronti a leggere un gran numero di libri. Gli scienziati comprendono le relazioni causali nell'interazione tra reti e molecole, possono sviluppare teorie sui pianeti e cos\u00ec via. Tuttavia, con un'IA specializzata non possiamo creare macchine in grado di fare tali scoperte. Con un'IA generale, potremmo invece rivoluzionare la scienza, la tecnologia e la medicina. A mio avviso, \u00e8 molto importante continuare a lavorare sulla creazione di un'IA generale.<\/p>\n
Sembra che per 'generale' tu intenda un'IA forte?<\/b><\/p>\n
Quando parlo di 'generale', intendo che l'IA sar\u00e0 in grado di riflettere e risolvere autonomamente nuovi problemi al volo. A differenza, ad esempio, di Go, in cui il problema non \u00e8 cambiato negli ultimi 2000 anni.<\/p>\n
L'intelligenza generale deve essere in grado di prendere decisioni sia in politica che in medicina. Questo \u00e8 l'equivalente della capacit\u00e0 umana; qualsiasi persona con buonsenso pu\u00f2 fare veramente molte cose. Prendi degli studenti inesperti e dopo pochi giorni li metti a lavorare praticamente su qualsiasi cosa, da compiti legali a questioni mediche. Questo grazie al fatto che possiedono una comprensione generale del mondo e sanno leggere, e quindi possono contribuire a una vasta gamma di attivit\u00e0.<\/p>\n
La relazione tra tale intelligenza e quella forte \u00e8 che un'intelligenza debole probabilmente non sar\u00e0 in grado di risolvere compiti generali. Per creare qualcosa di sufficientemente affidabile, capace di lavorare in un mondo in continua evoluzione, potrebbe esserci la necessit\u00e0 di avvicinarsi, almeno in parte, all'intelligenza generale.<\/p>\n
Ma in questo momento siamo molto lontani da questo. AlphaGo pu\u00f2 giocare splendidamente su una scacchiera 19\u00d719, ma deve essere riaddestrato per giocare su una scacchiera rettangolare. Oppure prendete un normale sistema di apprendimento profondo: \u00e8 in grado di riconoscere un elefante se \u00e8 ben illuminato e la texture della sua pelle \u00e8 visibile. Ma se si vede solo il suo profilo, il sistema non sar\u00e0 in grado di riconoscerlo.<\/p>\n
Nel suo libro menziona che il deep learning non pu\u00f2 raggiungere le capacit\u00e0 di un'IA generale, poich\u00e9 non \u00e8 in grado di comprendere profondamente.<\/b><\/p>\n
Nella cognizione si parla della formazione di diversi modelli cognitivi. Sono seduto nella mia camera d'albergo e mi rendo conto che l\u00ec c'\u00e8 un armadio, l\u00ec un letto, l\u00ec una TV che \u00e8 stranamente sospesa. Conosco tutti questi oggetti, non li identifico semplicemente. Inoltre, comprendo come siano interconnessi tra loro. Ho idee sul funzionamento del mondo che mi circonda. Non sono perfette. Possono essere errate, ma sono piuttosto buone. E sulla base di esse faccio molte deduzioni che diventano una guida per le mie azioni quotidiane.<\/p>\n
Un'altra estremit\u00e0 \u00e8 qualcosa simile al sistema di gioco Atari, creato da DeepMind, in cui memorizzava cosa doveva fare quando vedeva dei pixel in determinate posizioni dello schermo. Se ottieni abbastanza dati, pu\u00f2 sembrare di avere una comprensione, ma in realt\u00e0 \u00e8 molto superficiale. La prova di ci\u00f2 \u00e8 che, se sposti gli oggetti di tre pixel, l'IA gioca molto peggio. I cambiamenti lo confondono. Questo \u00e8 l'opposto di una comprensione profonda.<\/p>\n
Per affrontare questo problema, si propone di tornare all'IA classica. Quali vantaggi dobbiamo cercare di sfruttare?<\/b><\/p>\n
Ci sono diversi vantaggi. <\/p>\n
Innanzitutto, l'IA classica \u00e8 in realt\u00e0 un framework per costruire modelli cognitivi del mondo, dai quali si possono poi trarre conclusioni.<\/p>\n
In secondo luogo, l'IA classica \u00e8 perfettamente compatibile con le regole. Attualmente, nel campo del deep learning, si osserva una strana tendenza in cui gli esperti cercano di evitare le regole. Vogliono fare tutto con le reti neurali, senza fare nulla che assomigli alla programmazione classica. Ma ci sono compiti che sono stati tranquillamente risolti in questo modo, e nessuno ci ha prestato attenzione. Ad esempio, la costruzione di percorsi in Google Maps.<\/p>\n
In realt\u00e0, abbiamo bisogno di entrambi gli approcci. L'apprendimento automatico consente di imparare bene dai dati, ma aiuta molto poco nella rappresentazione delle astrazioni che costituiscono un programma informatico. L'IA classica funziona bene con le astrazioni, ma va completamente programmata manualmente, e nel mondo sono accumulati troppi conoscenze per poterle programmare tutte. \u00c8 evidente che dobbiamo combinare entrambi gli approcci.<\/p>\n
Questo \u00e8 legato al capitolo in cui parlate di ci\u00f2 che possiamo imparare dalla mente umana. E prima di tutto della concezione basata sull'idea sopra menzionata, che la nostra coscienza \u00e8 composta da molteplici sistemi diversi che funzionano in modi diversi.<\/b><\/p>\n
Penso ci sia un altro modo per spiegarlo: ogni sistema cognitivo che abbiamo affronta effettivamente compiti diversi. Parti simili dell'IA devono essere progettate per risolvere diverse problematiche, che presentano caratteristiche differenti.<\/p>\n
Attualmente stiamo cercando di utilizzare certe tecnologie all-in-one per affrontare compiti che sono radicalmente differenti tra loro. Comprendere una frase non \u00e8 affatto la stessa cosa che riconoscere un oggetto. Ma le persone cercano di usare l'apprendimento profondo in entrambi i casi. Dal punto di vista cognitivo, si tratta di compiti qualitativamente diversi. Sono semplicemente colpito da quanto poco nel settore dell'apprendimento profondo si apprezzi l'IA classica. Perch\u00e9 aspettare l'arrivo della pallottola d'argento? \u00c8 irraggiungibile, e le ricerche infruttuose non ci permettono di afferrare tutta la complessit\u00e0 della creazione di un'IA.<\/p>\n
Inoltre, menzioni che i sistemi di IA sono necessari per comprendere le relazioni di causa ed effetto. Pensi che l'apprendimento profondo, l'IA classica o qualcosa di completamente nuovo ci aiuteranno in questo?<\/b><\/p>\n
Questo \u00e8 un altro campo in cui l'apprendimento profondo non \u00e8 particolarmente adatto. Non spiega le cause di certi eventi, ma calcola la probabilit\u00e0 che un evento accada in determinate condizioni.<\/p>\n
Di cosa stiamo parlando? Stai osservando alcuni scenari e capisci perch\u00e9 accade qualcosa e cosa potrebbe succedere se alcune condizioni cambiano. Posso guardare il supporto su cui \u00e8 posizionato il televisore e immaginare che, se taglio una sua gamba, il supporto si capovolger\u00e0 e il televisore cadr\u00e0. Questa \u00e8 una connessione causale.<\/p>\n
L'IA classica ci fornisce alcuni strumenti per farlo. Pu\u00f2 immaginare, ad esempio, cosa significhi supporto e cosa significhi cadere. Ma non voglio esagerare. Il problema \u00e8 che l'IA classica dipende per la maggior parte dalla completezza delle informazioni disponibili, mentre io ho tratto una conclusione semplicemente guardando il supporto. Posso in qualche modo generalizzare, immaginando parti del supporto che non vedo. Non abbiamo ancora gli strumenti per realizzare quest'attributo.<\/p>\n
Parli anche del fatto che le persone hanno una conoscenza innata. Come possiamo realizzare questo nell'IA?<\/b><\/p>\n
Al momento della nascita, il nostro cervello \u00e8 gi\u00e0 un sistema estremamente ben progettato. Non \u00e8 fisso; la natura ha creato una prima bozza grezza. Successivamente, l'apprendimento ci aiuta a rivedere questa bozza per tutta la vita.<\/p>\n
La bozza grezza del cervello ha gi\u00e0 determinate capacit\u00e0. Un neonato di stambecco \u00e8 in grado di scendere senza errore lungo il pendio montano dopo solo poche ore. \u00c8 evidente che ha gi\u00e0 una comprensione dello spazio tridimensionale, del proprio corpo e delle relazioni tra di essi. Un sistema piuttosto complesso.<\/p>\n
In parte per questo motivo, credo che abbiamo bisogno di ibridi. \u00c8 difficile immaginare come si potrebbe creare un robot che funzioni bene nel mondo senza conoscenze analoghe, invece di partire da una pagina bianca e imparare da un lungo e vasto esperienza.<\/p>\n
Per quanto riguarda le persone, la nostra conoscenza innata proviene dal nostro genoma, che si \u00e8 evoluto nel corso del tempo. Con i sistemi di IA, dovremo seguirne un altro. In parte, queste possono essere le regole di costruzione dei nostri algoritmi. In parte, possono essere le regole di creazione delle strutture dati con cui questi algoritmi manipolano. E in parte, possono essere le conoscenze che inseriremo direttamente nelle macchine.<\/p>\n
\u00c8 interessante che nel libro conduci alla questione della fiducia e della creazione di sistemi fidati. Perch\u00e9 hai scelto proprio questo criterio?<\/b><\/p>\n
Credo che oggi tutto questo rappresenti un gioco di squadra. Mi sembra che stiamo vivendo un momento strano nella storia, affidandoci a software che non merita fiducia. Penso che le preoccupazioni che ci caratterizzano oggi non saranno eterne. Tra cento anni, l'IA giustificher\u00e0 la nostra fiducia, e forse anche prima.<\/p>\n
Ma oggi l'IA \u00e8 pericolosa. Non nel senso temuto da Elon Musk, ma nel senso che i sistemi di colloqui di assunzione discriminano le donne, indipendentemente da ci\u00f2 che fanno i programmatori, perch\u00e9 i loro strumenti sono troppo semplici.<\/p>\n
Vorrei che avessimo un'IA di qualit\u00e0 superiore. Non voglio che inizi un'\u00abera glaciale dell'IA\u00bb quando le persone si rendono conto che l'IA non funziona ed \u00e8 semplicemente pericolosa, e non vogliono correggerlo.<\/p>\n
In un certo senso, il tuo libro sembra davvero molto ottimista. Sostieni che si possa costruire un'IA affidabile. Dobbiamo solo guardarci in un'altra direzione.<\/b><\/p>\n
\u00c8 vero, il libro \u00e8 molto pessimista nel breve termine e molto ottimista nel lungo termine. Crediamo che tutti i problemi che abbiamo descritto possano essere risolti se guardiamo pi\u00f9 in l\u00e0 su quali dovrebbero essere le risposte corrette. E pensiamo che se questo accadr\u00e0, il mondo diventer\u00e0 migliore.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-novosti-interneta"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Non](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")