Penso che il problema non sia che le macchine sostituiranno gli esseri umani sul posto di lavoro, anche nella sfera intellettuale, e non che i computer sembrino aver preso le armi contro persone con un’istruzione superiore e un account Twitter. L’implementazione dell’intelligenza artificiale non avviene rapidamente, ma al contrario è troppo lenta. Perché? Perché questo è un normale ciclo di sviluppo umano e semplicemente non ci rendiamo conto che la distruzione a cui assistiamo significa l'introduzione di nuove tecnologie che, prima di creare nuovi posti di lavoro, distruggono quelli vecchi.
Le tecnologie distruggono le industrie obsolete e ne creano di nuove, questo è il processo di creazione, questo è il ciclo di sviluppo. Se si tenta di prolungare l’agonia inserendo vecchie tecnologie nel processo o creando vantaggi per tecnologie obsolete, si rallenterà semplicemente il processo e lo si renderà più doloroso. Accadrà comunque, ma il problema è che stiamo regolando il processo creando regole che lo rallentano deliberatamente. Penso che questo sia un problema più grande di quelli di cui siamo più chiaramente consapevoli. Si tratta più di un problema psicologico in cui le persone si pongono la domanda: “come puoi sentirti sicuro mentre sei in un’auto a guida autonoma?”
Ho esaminato la storia e ho appreso che cento anni fa uno dei sindacati più potenti di New York era il sindacato dei lavoratori degli ascensori, che riuniva 17mila lavoratori. A proposito, a quel tempo esisteva già una tecnologia in cui bastava premere un pulsante e il gioco era fatto, ma la gente non si fidava! È semplicemente orribile dover premere tu stesso il pulsante per chiamare l'ascensore! Sapete perché questo sindacato è “morto” e la gente ha iniziato a usare i pulsanti da sola? Perché un giorno gli addetti agli ascensori hanno deciso di scioperare. Hanno scioperato e poi le persone che dovevano salire in cima all'Empire State Building hanno rischiato di premere i pulsanti con le proprie mani.
Ricordate cosa si diceva 20-30 anni fa dei figli o dei nipoti quando si mettevano al volante di un’auto: “questo è terribile, basta guardare le statistiche, perché le auto sono una delle principali cause di mortalità umana, come possono rischiare le loro vite?"
Quindi tutto questo è pura psicologia. Prestiamo poca attenzione a quante persone muoiono in incidenti stradali, ma una volta che una persona viene uccisa da un’auto a guida autonoma, l’evento diventa sproporzionato. Qualsiasi problema tecnico, qualsiasi errore nelle tecnologie di intelligenza artificiale viene immediatamente coperto dalle prime pagine dei giornali. Ma guardate le statistiche, guardate il numero di incidenti, e vedrete che si tratta di una piccola percentuale del numero totale di incidenti. Pertanto, la comunità umana vincerà solo se riuscirà ad andare avanti senza essere paralizzata da tali paure.
Un altro problema emerge quando parliamo di notizie false o di sicurezza informatica, questi sono argomenti molto politicizzati e ricevo molte chiamate che mi chiedono come mi occupo degli odiatori dell’IA. Ad esempio, scrivo regolarmente un blog e il mio nuovo post, che sarà pubblicato tra un paio di giorni, parla dell'odio e del fatto che la salvezza dall'odio sta nella conoscenza, nell'apprendimento. Dobbiamo solo capire che questo problema esisteva molto prima che tutte queste cose fossero inventate, solo che ora la sua importanza è aumentata grazie a Internet, che raggiunge milioni e miliardi di persone.
Penso che in realtà sia una buona cosa quando qualcuno cerca di fermare il progresso cercando di mettere fuorilegge l'intelligenza artificiale, e sai che non funzionerà perché abbiamo Putin e altri cattivi, ovunque si trovino, che usano contro di noi le nostre stesse tecnologie create in il mondo libero. Quindi penso che dovremmo semplicemente accettarlo come un dato di fatto.
L'essenza del problema sta solo dentro di noi, e le risposte alle domande stanno dentro di noi, nelle nostre forze e nella nostra fiducia. Io sostengo che le macchine intelligenti non possono renderci “obsoleti”. Tuttavia, va ricordato che ci sono alcune restrizioni riguardo alla cooperazione uomo-computer, e in larga misura queste sono solo voci che esistevano prima. Come sempre, queste sono semplicemente nuove opportunità che distruggono il vecchio mondo e ne creano uno nuovo, e più andiamo avanti, meglio sarà.
Al giorno d'oggi assomiglia di più a un passaggio al mondo della fantascienza. Il paradosso è che se guardiamo indietro di 50-60 anni, vedremo che a quei tempi la fantascienza era assolutamente positiva, era una completa utopia. Poi però c’è stato un graduale passaggio dall’utopia alla distopia, in modo tale che non vogliamo più sentire nulla sul futuro dell’umanità.
Questo non è successo da un giorno all'altro. C’è stato un tempo in cui le persone hanno deciso che l’esplorazione dello spazio era troppo rischiosa. Questo è davvero un grosso rischio, ma immagina che nel 1969, quando gli americani sbarcarono sulla Luna, l’intera potenza di calcolo della NASA fosse inferiore alla potenza di qualsiasi moderno dispositivo informatico che puoi tenere in tasca. Questo dispositivo è mille volte più potente del supercomputer esistente 40 anni fa. Immagina solo la potenza di calcolo che hai in tasca! Tuttavia, non sono sicuro che l'Apple iPhone 7 abbia la stessa potenza di calcolo dell'Apollo 7, cioè sia in grado di produrre lo stesso effetto.
Tuttavia, le macchine ci hanno fornito molti grandi progressi nell’esplorazione dello spazio e dell’oceano, e dobbiamo capire che i computer ci danno la capacità di correre grandi rischi.
Vorrei concludere il mio intervento con una nota positiva. Questa diapositiva non mostra immagini positive? La foto in basso a destra non è stata ritoccata con Photoshop, in realtà ho conosciuto Terminator nel 2003.
Amava anche gli scacchi fin dall'infanzia, ma non li studiava in modo specifico, quindi perdeva molto rapidamente. Quindi sono rimasto molto sorpreso quando 6 mesi dopo si è candidato alla carica di governatore della California e ha vinto!
Perché chiamo queste immagini positive? Perché anche se in tutti gli episodi tranne il primo il vecchio Arnold sta sempre dalla parte dei vincitori e non si stanca mai di lottare contro nuove macchine, è nel primo episodio che vediamo la combinazione di cui parlavo - è allora che un una persona più una vecchia macchina più un'interfaccia perfetta sconfiggono l'auto più nuova.
Potresti dire: “sì, le macchine sono più forti delle persone perché possono calcolare assolutamente tutto!” Tuttavia, il punto non è che possano calcolare tutto. Ad esempio, negli scacchi possiamo tecnicamente parlare dell'infinito matematico del numero di mosse possibili, pari a 1045, che non sono difficili da calcolare per nessun computer moderno. Tuttavia, ciò che è importante nel gioco non sono i calcoli, ma il fatto che il computer sia davanti alla persona, perché è sempre guidato dalle regole. E tu conosci l'effetto di queste regole e sai perché il computer sceglie la mossa migliore tra un'enorme varietà di mosse possibili.
Ma se passiamo alla vita reale, non sono sicuro che un computer possa sempre essere utile. Diamo un'occhiata alla situazione più tipica: hai un computer che monitora il tuo budget, sei in un negozio e stai per acquistare un regalo costoso. Il computer valuta l’acquisto e dice: “no, non puoi permetterti questo articolo perché avrai superato il budget”. La macchina ha calcolato tutto, ma c'è una piccola sfumatura: tuo figlio è in piedi accanto a te e questo regalo è destinato al suo compleanno. Vedete come questo cambia le condizioni del problema? Questo cambia tutto perché il bambino sta aspettando questo dono.
Posso iniziare ad aggiungere queste piccole cose che cambiano tutto, ma non credo che possano essere incluse nella dichiarazione del problema e ottenere la giusta soluzione. Abbiamo tante regole, ma dobbiamo comunque porci delle domande perché le cose cambiano. Questa è quella che può essere definita una situazione ordinaria, ma se guardi questi film, puoi dire che la situazione qui mostrata è più drammatica e straordinaria. Questa diapositiva mostra un'immagine dell'episodio V di Star Wars: L'Impero colpisce ancora.
Han Solo pilota la nave attraverso un campo di asteroidi e C-3PO va nel panico, riferendo che la possibilità di sopravvivere al campo è 1: 3122. Han Solo gli dice: "Non dirmi mai quali sono le nostre possibilità!" Qui sorge la domanda: chi ha più ragione in questa situazione?
La tecnologia rappresentata da C-3PO è assolutamente giusta, perché le possibilità di sopravvivenza tendono a zero. È possibile che, dal punto di vista di un robot, essere catturato dalle forze imperiali sia una scelta migliore che un essere umano non prenderebbe nemmeno in considerazione piuttosto che morire in un campo di asteroidi. Ma se il computer decide che arrendersi all’impero è l’opzione migliore, allora possiamo supporre che la persona non abbia alcuna scelta. Ciò che è molto importante è che in entrambi i casi, ordinario e straordinario, abbiamo la capacità di prendere la decisione finale e per prendere tale decisione è comunque necessaria una leadership umana.
A volte questo significa che devi andare contro le raccomandazioni del computer. Lo scopo della leadership umana non è conoscere le probabilità, ma porre le domande che contano davvero, non solo oggi o domani, ma nel lontano futuro. Questo processo può essere chiamato "guida umana" o "intervento umano", che influenza senza l'aiuto di macchine intelligenti. Questo è quello che dovrebbe essere il nostro corso in questo secolo.
A volte le persone sono sorprese dal mio ottimismo riguardo alle macchine intelligenti, data la mia esperienza con esse, ma sono davvero un ottimista. E sono sicuro che tutti voi siete altrettanto ottimisti riguardo al futuro dell'intelligenza artificiale. Ma dobbiamo ricordare che le nostre tecnologie sono agnostiche. Non è né buono né cattivo, ma può essere usato sia per il bene che per il male. Le macchine devono diventare più intelligenti e più capaci. E noi esseri umani dobbiamo fare ciò che solo gli esseri umani possono fare: sognare, sognare al massimo, e poi saremo in grado di ottenere tutti i benefici che questi nuovi straordinari strumenti portano.
Come previsto, abbiamo ancora 10 minuti per rispondere alle domande.
Domanda: Pensi che sarebbe possibile creare un sistema di apprendimento automatico in grado di determinare quali mosse sono più coerenti con lo stile di gioco umano?
Kasparov: Innanzitutto non ci aspettiamo che il computer ci dica la prima mossa e le restanti 17505 mosse. Penso che dovremmo fare affidamento sulla macchina per fornire i migliori consigli per mosse uniche. A proposito, i giocatori di alto livello usano i computer come guida, aiutandoli a prendere la posizione più adatta nel gioco. Lo ripeto ancora una volta: in 9 casi su 10, la valutazione della situazione da parte del computer è di gran lunga superiore alla valutazione che può fare una persona.
Domanda: Sei d'accordo sul fatto che la vera intelligenza richiede libertà di scelta, libertà di prendere decisioni che solo una persona può prendere? Dopotutto, il software Deep Blue e altri programmi per computer sono scritti da persone e, quando perdi contro Deep Blue, non perdi contro il computer, ma contro i programmatori che hanno scritto il programma. La mia domanda è: esiste qualche pericolo derivante da qualsiasi tipo di intelligenza artificiale finché i computer hanno libertà di scelta?
Kasparov: qui devo passare dalla scienza alla filosofia. Tutto è chiaro in Deep Blue: è il risultato di un'enorme quantità di lavoro umano. Nella maggior parte dei casi, anche nel caso dell’AlphaGo di Demis Hassabis, questi sono tutti prodotti dell’intelligenza umana. Non so se le macchine possano avere libertà di scelta, ma credo che qualunque cosa facciamo, se sappiamo come farlo, le macchine lo faranno meglio. Tuttavia, quando facciamo la maggior parte delle cose, non sappiamo come farle nel migliore dei modi, quindi spesso non riusciamo a capire in cosa riusciremo. In poche parole, abbiamo un obiettivo, ma non sappiamo quale sia, e il ruolo della macchina è aiutarci a realizzare quell'obiettivo. Pertanto, se parliamo di libera scelta dei computer, ciò dovrebbe aiutarci a vincolarci a questo obiettivo. Penso che questo sia un futuro molto lontano per i computer.
Domanda: cosa pensi delle caratteristiche umane come il coraggio e la moralità e delle decisioni che l'intelligenza artificiale può prendere in base ad esse? Ad esempio, cosa dovrebbe fare un’auto a guida autonoma: investire un bambino o evitare di colpirlo schiantandosi contro una roccia e uccidendo il passeggero?
Kasparov: Questi sono quelli che la gente chiama “sentimenti”, non sono quantificabili perché sono un insieme di caratteristiche umane diverse. Se parliamo di coraggio, questa caratteristica va sempre contro le possibilità di scegliere l'opzione ottimale. Il coraggio, come altre emozioni umane, è per definizione contrario a un calcolo accurato.
Domanda: Signor Kasparov, la mia domanda non riguarda i computer: cosa c'è nella sua fiaschetta e posso provarlo?
Kasparov: cosa intendi?
Presentatore: Ti chiede cosa hai in tasca!
Kasparov: in tasca? "Stolichnaya"! Questa non è una pubblicità, se hai notato l'ho buttata via.
Domanda: Chi pensi sarà il prossimo campione del mondo di scacchi e il giovane giocatore di scacchi cinese Wei Yi avrà la possibilità di detronizzare Carelsen come re degli scacchi?
Kasparov: Karelsen è il giocatore numero 1, non è un campione del mondo, ma semplicemente il miglior giocatore di scacchi del mondo secondo la classifica. Quest'anno compirà 27 anni, quindi è ancora giovane, ma non molto giovane per gli standard odierni. Penso che Wei Yi abbia 18 o 19 anni adesso. Magnus è davanti a giovani giocatori come gli americani Wesley So e Fabiano Kerouana, e Wei Yi potrebbe potenzialmente essere il suo avversario. Però per diventare campione del mondo ci vuole talento, non bisogna essere giovani ed energici, basta avere un po’ di fortuna. Quindi, per rispondere alla domanda, posso dire: sì, ha la possibilità di battere Magnus Carelsen.
Domanda: Quando ha parlato di algoritmi deterministici e apprendimento automatico, ha menzionato la possibilità di utilizzare le macchine come strumenti per integrare la nostra intelligenza. Che dire della possibilità di massimizzare le risorse prima di creare una potente intelligenza artificiale o addirittura di inserire un cervello umano in un computer?
Kasparov: Non mi vergogno di ammettere la mia ignoranza quando non sono sicuro di non essere in grado di rispondere correttamente a una domanda. Sto facendo del mio meglio per capire cos'è il cervello umano, se lo consideriamo separatamente dal corpo umano, quali funzioni svolge. Perché è difficile immaginare come si comporterà il cervello separatamente dal corpo. Forse un simile esperimento potrebbe essere fatto in futuro, ma sono fiducioso che la combinazione del cervello umano, dei sentimenti e delle emozioni umane con un computer formerà una “mente” che sarà molto più efficace di un cervello estratto e congelato, utilizzato come un dispositivo pieno di neuroni.
Domanda: esiste un approccio di base universale al problema della sostituzione dei posti di lavoro umani con i computer?
Kasparov: Penso che questa sia una questione molto importante, perché è chiaro che ci stiamo avvicinando al punto in cui molte persone potrebbero essere disoccupate. Questo è il paradosso del progresso tecnologico: da un lato abbiamo le ultime tecnologie che forniscono enormi vantaggi competitivi alle generazioni più giovani che hanno a che fare con questi dispositivi e tecnologie. D'altra parte, abbiamo progressi nella medicina e nell'alimentazione sana, che prolungano la vita umana e danno a una persona la capacità di lavorare per molti anni. In questo senso la generazione degli anni '50, '60 e anche '40 non può competere con la gioventù di oggi. Dobbiamo trovare una soluzione a questa situazione paradossale in cui il divario tra le generazioni è così ampio. L’esperienza storica dice che un tale divario porta sempre a una grande esplosione. Intendo il divario tra l'infrastruttura sociale esistente della società e il progresso tecnologico.
Si tratta di una questione che i politici preferiscono rimandare alle prossime elezioni. Nessuno ne vuole parlare perché è una questione delicata. È molto facile stampare denaro e sperare che qualcuno lo paghi un giorno in futuro. Quindi ci sono molti paradossi in questo settore, ad esempio l'accumulo di debiti per fornire garanzie sociali alle generazioni più anziane nell'aspettativa che l'onere di saldare questi debiti ricada sulle spalle delle generazioni più giovani. Ci sono molte domande a cui non ho risposta e molte domande che potrei porre e con le quali spero che l'intelligenza artificiale possa aiutarmi.
È molto grave che per decenni i politici abbiano cercato di ignorare i problemi di cui abbiamo appena discusso. Sono sempre pronti a fare dichiarazioni, hanno sempre dei progetti, ma non vogliono capire quanto sia controproducente tacere sul problema del conflitto tra tecnologia e società. Grazie per l'attenzione!
Grazie per stare con noi. Ti piacciono i nostri articoli? Vuoi vedere contenuti più interessanti? Sostienici effettuando un ordine o raccomandando agli amici, Sconto del 30% per gli utenti Habr su un analogo unico di server entry-level, che è stato inventato da noi per te: (disponibile con RAID1 e RAID10, fino a 24 core e fino a 40 GB DDR4).
Dell R730xd 2 volte più economico? Solo qui In Olanda! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - da $99! Leggi
Fonte: habr.com