Stu testu ùn hè micca u risultatu di a ricerca scientifica, ma una di parechje opinioni riguardanti u nostru sviluppu tecnulugicu immediatu. È à u listessu tempu un invitu à a discussione.
Gary Marcus, prufissore di l'Università di New York, crede chì l'apprendimentu prufondu ghjoca un rolu impurtante in u sviluppu di l'IA. Ma crede ancu chì l'entusiasmu eccessivu per sta tecnica pò purtà à u so discreditu.
In u so libru Rebooting AI: Custruì l'intelligenza artificiale chì pudemu fidà Marcus, un neuroscientist di furmazione chì hà custruitu una carriera nantu à a ricerca di punta in IA, indirizza l'aspettu tecnicu è eticu. Da una perspettiva di a tecnulugia, l'apprendimentu prufondu pò imitate cù successu e funzioni perceptive chì u nostru cervellu esegue, cum'è u ricunniscenza di l'imaghjini o di a parolla. Ma per altri compiti, cum'è capiscenu e conversazioni o determinà relazioni di causa è effettu, l'apprendimentu prufondu ùn hè micca adattatu. Per creà machini intelligenti più avanzati chì ponu risolve una gamma più larga di prublemi - spessu chjamati intelligenza generale artificiale - l'apprendimentu prufondu deve esse cumminatu cù altre tecniche.
Se un sistema AI ùn capisce micca veramente i so compiti o u mondu intornu à ellu, questu pò purtà à cunsequenze periculose. Ancu i più minimi cambiamenti inespettati in l'ambiente di u sistema pò purtà à un cumpurtamentu sbagliatu. Ci sò digià parechji esempii: determinanti di espressioni inappropriate chì sò faciuli à ingannà; sistemi di ricerca di u travagliu chì discriminanu constantemente; vitture senza cunduttore chì sbattenu è, qualchì volta, uccidenu u cunduttore o u pedone. A creazione di intelligenza generale artificiale ùn hè micca solu un prublema di ricerca interessante, hà parechje applicazioni cumpletamente pratiche.
In u so libru, Marcus è u so coautore Ernest Davis argumentanu per una strada diversa. Cridenu chì simu sempre luntanu da creà AI generale, ma sò cunfidenti chì prima o dopu serà pussibule di creà.
Perchè avemu bisognu di AI generale? E versioni specializate sò digià creatu è portanu assai benefici.
Hè propiu, è ci saranu ancu più benefici. Ma ci sò parechji prublemi chì l'AI specializata ùn ponu solu risolve. Per esempiu, capisce u discorsu ordinariu, o assistenza generale in u mondu virtuale, o un robot chì aiuta cù a pulizia è a cucina. Tali compiti sò oltre e capacità di l'IA specializata. Un'altra questione pratica interessante: hè pussibule di creà una vittura autònuma sicura cù AI specializata? L'Esperienza mostra chì una tale IA hà sempre assai prublemi cù u cumpurtamentu in situazioni anormali, ancu quandu guidanu, chì complica assai a situazione.
Pensu chì tutti vulemu avè AI chì pò aiutà à fà grandi scuperte novi in a medicina. Ùn hè chjaru se e tecnulugia attuali sò adattati per questu, postu chì a biologia hè un campu cumplessu. Avete bisognu à esse preparatu per leghje assai libri. I scientisti capiscenu e relazioni di causa è effettu in l'interazzione di rete è molécule, ponu sviluppà teorii nantu à i pianeti, è cusì. Tuttavia, cù l'AI specializata, ùn pudemu micca creà macchine capaci di tali scuperte. È cù l'AI generale, pudemu rivoluzionari a scienza, a tecnulugia è a medicina. In u mo parè, hè assai impurtante di cuntinuà à travaglià per creà AI generale.
Sembra chì per "generale" intendi una IA forte?
Per "generale" vogliu dì chì l'AI hà da pudè pensà è risolve novi prublemi nantu à a mosca. A diversità, dì, Vai, induve u prublema ùn hè micca cambiatu per l'ultimi 2000 anni.
L'IA generale deve esse capace di piglià decisioni in a pulitica è in a medicina. Questu hè analogu à a capacità umana; ogni persona sana pò fà assai. Pigliate studienti inespertu è in pochi ghjorni li avete travagliatu nantu à quasi tuttu, da un prublema legale à un prublema medica. Questu hè perchè anu una cunniscenza generale di u mondu è ponu leghje, è ponu dunque cuntribuisce à una larga gamma di attività.
A relazione trà una tale intelligenza è una intelligenza forte hè chì una intelligenza micca forte ùn puderà micca risolve i prublemi generali. Per creà qualcosa abbastanza robusta per trattà cun un mondu sempre cambiante, pudete avè bisognu à almenu avvicinà l'intelligenza generale.
Ma avà simu assai luntanu da questu. AlphaGo pò ghjucà perfettamente bè nantu à un tavulinu 19x19, ma deve esse rieducatu per ghjucà nantu à un tavulinu rettangulare. O pigliate u sistema di apprendimentu prufondu mediu: pò ricunnosce un elefante s'ellu hè ben illuminatu è a so struttura di a pelle hè visibile. E se solu a siluette di l'elefante hè visibile, u sistema ùn serà micca pussibule di ricunnosce.
In u vostru libru, menzionate chì l'apprendimentu prufondu ùn pò micca ottene e capacità di l'AI generale perchè ùn hè micca capace di capiscenu prufonda.
In a scienza cognitiva parlanu di a furmazione di diversi mudelli cognitivi. Sò pusatu in una stanza d'albergu è capiscu chì ci hè un armariu, ci hè un lettu, ci hè una TV chì hè appiccicata in modu inusual. Cunnoscu tutti sti ogetti, ùn li identifichi micca solu. Aghju ancu capitu cumu si sò interconnessi l'un à l'altru. Aghju idee nantu à u funziunamentu di u mondu intornu à mè. Ùn sò micca perfetti. Puderanu esse sbagliati, ma sò abbastanza boni. È basatu annantu à elli, aghju fattu assai cunclusioni chì diventanu linee guida per i mo azzioni di ogni ghjornu.
L'altru estremu era qualcosa cum'è u sistema di ghjocu Atari custruitu da DeepMind, in quale si ricordava ciò chì avia bisognu di fà quandu hà vistu pixel in certi lochi nantu à u screnu. Se avete abbastanza dati, pudete pensà chì avete una intelligenza, ma in realtà hè assai superficiale. A prova di questu hè chì si move l'uggetti di trè pixel, l'AI ghjoca assai peggiu. I cambiamenti l'hannu sconcertatu. Questu hè u cuntrariu di a cunniscenza prufonda.
Per risolve stu prublema, prupone di vultà à l'AI classica. Chì vantaghji duvemu pruvà à aduprà?
Ci sò parechji vantaghji.
Prima, l'IA classica hè in realtà un quadru per a creazione di mudelli cognitivi di u mondu, basatu nantu à quali cunclusioni ponu esse trascinati.
Siconda, l'AI classica hè perfettamente cumpatibile cù e regule. Ci hè una strana tendenza in l'apprendimentu prufondu avà induve l'esperti cercanu di evità e regule. Vulenu fà tuttu nantu à e reti neurali è micca fà nunda chì s'assumiglia à a prugrammazione classica. Ma ci sò prublemi chì sò stati tranquillamenti risolti in questu modu, è nimu ùn hà fattu attenzioni. Per esempiu, custruendu rotte in Google Maps.
In fatti, avemu bisognu di i dui approcci. L'apprendimentu automaticu hè bonu per amparà da i dati, ma assai poviru à rapprisintà l'astrazione chì hè un prugramma di computer. L'AI classica funziona bè cù l'astrazioni, ma deve esse programata interamente da a manu, è ci hè troppu cunniscenze in u mondu per programà tutti. Claramente avemu bisognu di cumminà i dui approcci.
Questu ligame in u capitulu in quale parlemu di ciò chì pudemu amparà da a mente umana. E prima di tuttu, nantu à u cuncettu basatu annantu à l'idea citata sopra chì a nostra cuscenza hè custituita da parechji sistemi diffirenti chì travaglianu in modi diffirenti.
Pensu chì una altra manera di spiegà questu hè chì ogni sistema cognitivu chì avemu veramente risolve un prublema sfarente. Parti simili di l'IA deve esse pensate per risolve diversi prublemi chì anu caratteristiche diverse.
Avà circhemu d'utilizà qualchi tecnulugia all-in-one per risolve i prublemi chì sò radicali diffirenti l'una di l'altru. Capisce una frase ùn hè micca uguale à ricunnosce un oggettu. Ma a ghjente cerca di utilizà l'apprendimentu prufondu in i dui casi. Da un puntu di vista cognitivu, questi sò cumpetenze qualitativamente diverse. Sò simplicemente maravigliatu di quantu pocu apprezzamentu ci hè per l'IA classica in a cumunità di apprendimentu prufonda. Perchè aspittà chì una bala d'argentu apparisce ? Hè inaccessibile, è e ricerche infructuali ùn ci permettenu micca di capiscenu a cumplessità completa di u compitu di creà AI.
Avete ancu menzionatu chì i sistemi AI sò necessarii per capiscenu e relazioni causa è effettu. Pensate chì l'apprendimentu prufondu, l'IA classica, o qualcosa completamente novu ci aiuterà cun questu?
Questu hè un altru spaziu induve l'apprendimentu prufondu ùn hè micca bè adattatu. Ùn spiegà micca e cause di certi avvenimenti, ma calcula a probabilità di un avvenimentu in cundizzioni dati.
Di chì parlemu ? Fighjate certi scenarii, è capisce perchè questu succede è ciò chì puderia succede se alcune circustanze cambianu. Puderaghju guardà u stand chì a TV si trova è imagine chì si tagliò una di e so gammi, u stand s'inclinerà è a TV cascarà. Questa hè una relazione causa è effettu.
L'AI classica ci dà alcuni strumenti per questu. Puderà imaginà, per esempiu, quale hè u sustegnu è ciò chì hè una caduta. Ma ùn aghju micca eccessivamente lode. U prublema hè chì l'IA classica dipende largamente da l'infurmazioni cumplette nantu à ciò chì succede, è aghju ghjuntu à una cunclusione solu fighjendu u stand. Puderaghju in qualchì manera generalizà, imagine parti di u stand chì ùn sò micca visibili per mè. Ùn avemu ancu l'arnesi per implementà sta pruprietà.
Dici ancu chì a ghjente hà una cunniscenza innata. Cumu pò esse implementatu in AI?
À u mumentu di a nascita, u nostru cervellu hè digià un sistema assai elaboratu. Ùn hè micca fissatu, a natura hà creatu u primu, bruttu. È dopu l'apprendimentu ci aiuta à riviseghjà quellu abbozzu in tutta a nostra vita.
Un abbozzu di u cervellu hà digià certe capacità. Un caprettu di muntagna appena natu hè capaci di falà infallibile a muntagna in pochi ore. Hè ovvi chì hà digià una cunniscenza di u spaziu tridimensionale, u so corpu è a relazione trà elli. Un sistema assai cumplessu.
Hè in parte perchè crede chì avemu bisognu di ibridi. Hè difficiuli di imaginà cumu si puderia creà un robot chì funziona bè in un mondu senza cunniscenze simili di induve principià, piuttostu cà di principià cù una lavagna bianca è amparà da una longa è vasta sperienza.
In quantu à l'omu, a nostra cunniscenza innata vene da u nostru genoma, chì hà evolutu annantu à un bellu pezzu. Ma cù i sistemi AI avemu da andà in una strada diversa. Parte di questu pò esse e regule per custruisce i nostri algoritmi. Parte di questu pò esse e regule per creà e strutture di dati chì questi algoritmi manipulanu. È una parte di questu pò esse a cunniscenza chì avemu da investisce direttamente in macchine.
Hè interessante chì in u libru avete l'idea di fiducia è a creazione di sistemi di fiducia. Perchè avete sceltu stu criteriu particulare?
Credu chì oghje tuttu questu hè un ghjocu di ballò. Mi pari chì avemu campatu un mumentu stranu in a storia, cunfidendu assai software chì ùn hè micca fiduciale. Pensu chì e preoccupazioni chì avemu oghje ùn durà micca per sempre. In centu anni, l'AI justificà a nostra fiducia, è forse prima.
Ma oghje l'IA hè periculosa. Micca in u sensu chì Elon Musk teme, ma in u sensu chì i sistemi di l'entrevista di u travagliu discriminate à e donne, indipendentemente da ciò chì i programatori facenu, perchè i so arnesi sò troppu simplici.
Vulariu chì avemu avutu megliu AI. Ùn vogliu micca vede un "inguernu AI" induve a ghjente capisce chì l'AI ùn funziona micca è hè solu periculosa è ùn volenu micca riparà.
In certi modi, u vostru libru pare assai ottimista. Assumite chì hè pussibule di custruisce AI affidabile. Avemu solu bisognu di guardà in una direzzione diversa.
Hè propiu, u libru hè assai pessimista à cortu termini è assai ottimistu à longu andà. Cridemu chì tutti i prublemi chì avemu descrittu ponu esse risolti da un sguardu più largu à ciò chì deve esse e risposte currette. E pensemu chì, se questu succede, u mondu serà un locu megliu.
Source: www.habr.com