<\/a><\/noindex>Nel suo libro, Marcus e il suo coautore Ernest Davis propongono una strada diversa. Ritengono che siamo ancora lontani dalla creazione di un'IA generale, ma sono convinti che prima o poi sar\u00e0 possibile realizzarla.<\/p>\n
A cosa ci serve un'IA generale? Versioni specializzate sono gi\u00e0 state create e offrono molti benefici.<\/b><\/p>\n
Corretto, e ci saranno ancora pi\u00f9 vantaggi. Ma ci sono molte attivit\u00e0 che un'IA specializzata semplicemente non pu\u00f2 svolgere. Ad esempio, la comprensione del linguaggio naturale, l'assistenza generale nel mondo virtuale, o un robot che aiuta nelle pulizie e nella preparazione dei pasti. Tali compiti sono al di fuori delle capacit\u00e0 di un'IA specializzata. Un'altra domanda pratica interessante: \u00e8 possibile creare un'auto a guida autonoma sicura con un'IA specializzata? L'esperienza dimostra che questo tipo di IA ha ancora molti problemi nel comportamento in situazioni anomale, anche nella guida, il che complica notevolmente la situazione.<\/p>\n
Penso che tutti noi vorremmo avere un'IA capace di aiutarci a fare nuove grandi scoperte in medicina. Non \u00e8 chiaro se le attuali tecnologie siano adatte a questo, dato che la biologia \u00e8 un campo complesso. Bisogna essere pronti a leggere molti libri. Gli scienziati comprendono le relazioni causali nelle interazioni tra reti e molecole, possono sviluppare teorie sui pianeti e cos\u00ec via. Tuttavia, con l'IA specializzata non possiamo creare macchine capaci di tali scoperte. Con l'IA generale saremmo in grado di rivoluzionare la scienza, la tecnologia e la medicina. A mio avviso, \u00e8 molto importante continuare a lavorare sulla creazione di un'IA generale.<\/p>\n
Sembra che per \u00abgenerale\u00bb tu intenda un'IA forte?<\/b><\/p>\n
Quando dico \u00abgenerale\u00bb intendo che l'IA sar\u00e0 in grado di riflettere e risolvere autonomamente compiti nuovi. A differenza, ad esempio, del gioco del Go, il cui problema non \u00e8 cambiato negli ultimi 2000 anni.<\/p>\n
Un'IA generale deve essere in grado di prendere decisioni sia in politica che in medicina. Questo \u00e8 analogo alla capacit\u00e0 umana; qualunque persona di buon senso pu\u00f2 fare molte cose. Prendi degli studenti inesperti e dopo pochi giorni riesci a farli lavorare praticamente su qualsiasi cosa, da compiti legali a questioni mediche. Questo grazie al fatto che hanno una comprensione generale del mondo e sanno leggere, e quindi possono contribuire a un vasto assortimento di attivit\u00e0.<\/p>\n
La connessione tra questo tipo di intelligenza e l'intelligenza forte \u00e8 che una non forte probabilmente non sar\u00e0 in grado di risolvere compiti generali. Per creare qualcosa di sufficientemente affidabile, capace di operare in un mondo in costante cambiamento, \u00e8 possibile che sia necessario avvicinarsi almeno all'intelligenza generale.<\/p>\n
Ma al momento siamo molto lontani da questo. AlphaGo pu\u00f2 giocare magnificamente su una scacchiera 19x19, ma deve essere riaddestrato per giocare su una scacchiera rettangolare. Oppure prendiamo un sistema medio di deep learning: \u00e8 in grado di riconoscere un elefante se \u00e8 ben illuminato e la texture della sua pelle \u00e8 visibile. Ma se \u00e8 visibile solo il suo profilo, il sistema probabilmente non sar\u00e0 in grado di riconoscerlo.<\/p>\n
Nel suo libro menziona che il deep learning non \u00e8 in grado di raggiungere le capacit\u00e0 di AGI, in quanto non \u00e8 capace di una comprensione profonda.<\/b><\/p>\n
In cognitivistica si parla di formazione di diversi modelli cognitivi. Sono seduto in una stanza d'albergo e capisco che l\u00ec c'\u00e8 un armadio, l\u00ec c'\u00e8 un letto, l\u00ec c'\u00e8 una tv appesa in modo insolito. Conosco tutti questi oggetti, non li identifico semplicemente. Capisco anche come sono interconnessi tra loro. Ho delle idee sul funzionamento del mondo circostante. Non sono perfette. Possono essere sbagliate, ma sono abbastanza buone. E sulla base di esse faccio molte deduzioni, che diventano una guida per le mie azioni quotidiane.<\/p>\n
L'altra estremit\u00e0 \u00e8 qualcosa come un sistema di gioco Atari, creato da DeepMind, in cui si ricordava cosa doveva fare quando vedeva pixel in determinate posizioni sullo schermo. Se ottieni abbastanza dati, potrebbe sembrare che tu abbia comprensione, ma in realt\u00e0 \u00e8 molto superficiale. La prova di ci\u00f2 \u00e8 che se sposti oggetti di tre pixel, l'IA gioca molto peggio. I cambiamenti lo mettono in difficolt\u00e0. Questo \u00e8 l'opposto della comprensione profonda.<\/p>\n
Per affrontare questo problema, proponi di tornare all'IA classica. Quali vantaggi dobbiamo cercare di sfruttare?<\/b><\/p>\n
Ci sono diversi vantaggi. <\/p>\n
In primo luogo, l'IA classica \u00e8 in realt\u00e0 un framework per la creazione di modelli cognitivi del mondo, dai quali poi \u00e8 possibile trarre conclusioni.<\/p>\n
In secondo luogo, l'IA classica \u00e8 perfettamente compatibile con le regole. Attualmente nel campo del deep learning si osserva una tendenza strana, in cui gli esperti cercano di evitare le regole. Vogliono fare tutto con le reti neurali e non vogliono fare nulla che sembri programmazione classica. Ma ci sono compiti che sono stati risolti facilmente in questo modo e nessuno ci ha prestato attenzione. Ad esempio, la pianificazione dei percorsi in Google Maps.<\/p>\n
In realt\u00e0, abbiamo bisogno di entrambi gli approcci. L'apprendimento automatico consente di apprendere bene dai dati, ma aiuta molto poco a rappresentare l'astrazione che \u00e8 un programma informatico. L'IA classica funziona bene con le astrazioni, ma deve essere programmata interamente a mano, e nel mondo sono accumulati troppi saperi per poterli programmare tutti. \u00c8 ovvio che dobbiamo unire entrambi gli approcci.<\/p>\n
Questo \u00e8 legato al capitolo in cui parli di ci\u00f2 che possiamo imparare dalla mente umana. E prima di tutto alla concezione basata sull'idea sopra menzionata che la nostra coscienza \u00e8 composta da molti sistemi diversi che funzionano in modo differente.<\/b><\/p>\n
Penso che ci sia un altro modo di spiegarlo: ogni sistema cognitivo che abbiamo risolve effettivamente compiti diversi. Parti simili dell'IA devono essere progettate per risolvere compiti diversi, che hanno caratteristiche diverse.<\/p>\n
Attualmente stiamo cercando di utilizzare alcune tecnologie tutto-in-uno per risolvere compiti che differiscono radicalmente l'uno dall'altro. Comprendere una frase non \u00e8 affatto la stessa cosa di riconoscere un oggetto. Ma le persone cercano di utilizzare l'apprendimento profondo in entrambi i casi. Dal punto di vista cognitivo, si tratta di compiti qualitativamente diversi. Sono semplicemente colpito da quanto poco nella comunit\u00e0 degli esperti di apprendimento profondo venga apprezzata l'IA classica. Perch\u00e9 aspettare l'arrivo di un proiettile d'argento? \u00c8 irraggiungibile e le ricerche infruttuose non consentono di comprendere tutta la complessit\u00e0 della creazione dell'IA.<\/p>\n
Allo stesso modo, menzioni che i sistemi di IA sono necessari per comprendere le relazioni causali. Pensi che in questo ci aiuteranno l'apprendimento profondo, l'IA classica o qualcosa di completamente nuovo?<\/b><\/p>\n
Questa \u00e8 un'altra area in cui l'apprendimento profondo non \u00e8 molto adatto. Non spiega le cause di alcuni eventi, ma calcola la probabilit\u00e0 di un evento in determinate condizioni.<\/p>\n
Di cosa stiamo parlando? Osservi alcuni scenari e capisci perch\u00e9 ci\u00f2 accade e cosa potrebbe succedere se cambiano alcune circostanze. Posso guardare il supporto su cui \u00e8 appoggiato il televisore e immaginare che se taglio una gamba, il supporto si ribalter\u00e0 e il televisore cadr\u00e0. Questa \u00e8 una relazione causale.<\/p>\n
L'IA classica ci offre alcuni strumenti per questo. Pu\u00f2, per esempio, rappresentare cosa significhi supporto e cosa significhi caduta. Ma non voglio esagerare. Il problema \u00e8 che l'IA classica dipende principalmente dalla completezza delle informazioni sugli eventi, e io ho tratto conclusioni semplicemente osservando il supporto. In qualche modo riesco a generalizzare, a rappresentare parti del supporto che non vedo. Non abbiamo ancora strumenti per realizzare questa propriet\u00e0.<\/p>\n
Inoltre, parlate del fatto che gli esseri umani hanno una conoscenza innata. In che modo questo pu\u00f2 essere realizzato nell'IA?<\/b><\/p>\n
Al momento della nascita, il nostro cervello \u00e8 gi\u00e0 un sistema molto ben progettato. Non \u00e8 fisso; la natura ha creato una prima bozza grezza. E poi l'apprendimento ci aiuta a rivedere questa bozza per tutta la vita.<\/p>\n
La bozza grezza del cervello possiede gi\u00e0 determinate capacit\u00e0. Il capretto di montagna neonato \u00e8 gi\u00e0 in grado di scendere senza errori per il pendio della montagna dopo poche ore. \u00c8 evidente che ha gi\u00e0 una comprensione dello spazio tridimensionale, del proprio corpo e delle interrelazioni tra essi. \u00c8 un sistema piuttosto complesso.<\/p>\n
In parte per questo motivo credo che abbiamo bisogno di ibridi. \u00c8 difficile immaginare come si possa creare un robot che funzioni bene nel mondo senza conoscenze analoghe, partendo da zero e imparando da un'esperienza lunga e vasta.<\/p>\n
Per quanto riguarda gli esseri umani, la nostra conoscenza innata proviene dal nostro genoma, che \u00e8 evoluto per lungo tempo. E con i sistemi di IA dobbiamo seguire un percorso diverso. In parte, queste potrebbero essere le regole per costruire i nostri algoritmi. In parte, potrebbero essere le regole per creare le strutture dati che questi algoritmi manipolano. E in parte, potrebbero essere le conoscenze che inseriremo direttamente nelle macchine.<\/p>\n
\u00c8 interessante notare che nel libro conducete verso l'idea di fiducia e creazione di sistemi di fiducia. Perch\u00e9 avete scelto questo criterio?<\/b><\/p>\n
Credo che oggi tutto questo rappresenti una partita a palla. Mi sembra che stiamo vivendo un momento strano nella storia, in gran parte affidandoci a software che non merita fiducia. Penso che le preoccupazioni che abbiamo oggi non saranno eterne. Tra cento anni, l'IA giustificher\u00e0 la nostra fiducia, e forse anche prima.<\/p>\n
Ma oggi l'IA \u00e8 pericolosa. Non nel senso in cui teme Elon Musk, ma nel senso che i sistemi di colloqui per assunzioni discriminano le donne, a prescindere da ci\u00f2 che fanno i programmatori, perch\u00e9 i loro strumenti sono troppo semplici.<\/p>\n
Vorrei che avessimo un'IA di qualit\u00e0 superiore. Non voglio che inizi un'altra \"era glaciale dell'intelligenza artificiale\", quando le persone si rendono conto che l'IA non funziona e \u00e8 semplicemente pericolosa, e non vorranno rimediare.<\/p>\n
In un certo senso, il tuo libro sembra davvero molto ottimista. Suggerisci che sia possibile costruire un'IA affidabile. Dobbiamo solo guardare in un'altra direzione.<\/b><\/p>\n
\u00c8 vero, il libro \u00e8 molto pessimista a breve termine e molto ottimista a lungo termine. Riteniamo che tutti i problemi che abbiamo descritto possano essere risolti se guardiamo pi\u00f9 ampiamente a come dovrebbero essere le risposte giuste. E pensiamo che, se ci\u00f2 accadesse, il mondo diventer\u00e0 migliore.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Non](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")