Cred că problema nu este că mașinile vor înlocui oamenii la locul lor de muncă, inclusiv în sfera intelectuală, și nu că computerele ar fi luat armele împotriva persoanelor cu studii superioare și conturi de Twitter. Implementarea AI nu are loc rapid, ci dimpotrivă, este prea lentă. De ce? Pentru că acesta este un ciclu normal de dezvoltare umană și pur și simplu nu realizăm că distrugerea pe care o vedem înseamnă introducerea unei noi tehnologii, care, înainte de a crea noi locuri de muncă, le distruge pe cele vechi.
Tehnologiile distrug industriile învechite și creează altele noi, acesta este procesul de creație, acesta este ciclul de dezvoltare. Dacă încerci să prelungești agonia inserând tehnologii vechi în proces sau creând unele avantaje pentru tehnologiile învechite, pur și simplu vei încetini procesul și îl vei face mai dureros. Se va întâmpla oricum, dar problema este că reglementăm procesul prin crearea unor reguli care îl încetinesc în mod deliberat. Cred că aceasta este o problemă mai mare decât cele de care suntem mai clar conștienți. Aceasta este mai degrabă o problemă psihologică în care oamenii își pun întrebarea: „Cum te poți simți în siguranță în timp ce te afli într-o mașină care se conduce singur?”
M-am uitat în istorie și am aflat că în urmă cu o sută de ani, unul dintre cele mai puternice sindicate din New York a fost sindicatul lucrătorilor de lift, care a unit 17 mii de muncitori. Apropo, la acel moment exista deja o tehnologie prin care puteai doar să apeși un buton și ai terminat, dar oamenii nu aveau încredere în ea! Este groaznic să apeși singur butonul pentru a suna liftul! Știți de ce acest sindicat „a murit” și oamenii au început să folosească singuri butoanele? Pentru că într-o zi muncitorii de la lift au decis să intre în grevă. Au intrat în grevă, iar apoi oamenii care au fost nevoiți să urce în vârful Empire State Building au riscat să apese butoanele cu propriile mâini.
Amintiți-vă ce spuneau acum 20-30 de ani despre copii sau nepoți când s-au urcat la volanul unei mașini: „Este groaznic, uitați-vă doar la statistici, pentru că mașinile sunt una dintre principalele cauze ale mortalității umane, cum pot risca. viețile lor?"
Deci, toate acestea sunt psihologie pură. Acordăm puțină atenție câți oameni mor în accidente de mașină, dar odată ce o persoană este ucisă de o mașină care se conduce singur, evenimentul devine disproporționat. Orice glitch, orice greșeală în tehnologiile de inteligență artificială este imediat acoperită pe primele pagini ale ziarelor. Dar uitați-vă la statistici, uitați-vă la numărul de incidente și veți vedea care este un procent mic din numărul total de accidente. Prin urmare, comunitatea umană va câștiga doar dacă va putea merge înainte fără a fi paralizată de asemenea temeri.
O altă problemă apare atunci când vorbim despre știri false sau securitate cibernetică, acestea sunt subiecte foarte politizate și primesc o mulțime de apeluri care mă întreabă cum mă descurc cu cei care urăsc AI. De exemplu, scriu un blog obișnuit, iar noua mea postare, care va fi publicată în câteva zile, vorbește despre ură și despre faptul că salvarea de ură stă în cunoaștere, în învățare. Trebuie doar să înțelegem că această problemă a existat cu mult înainte ca toate aceste lucruri să fie inventate, doar că importanța ei a crescut acum datorită Internetului, care ajunge la milioane și miliarde de oameni.
Cred că este de fapt un lucru bun când cineva încearcă să oprească progresul încercând să scoată în afara legii AI și știi că asta nu va funcționa pentru că avem Putin și alți băieți răi, oriunde s-ar afla, care folosesc împotriva noastră propriile noastre tehnologii create în lumea liberă. Așa că cred că ar trebui să-l acceptăm ca pe un dat.
Esența problemei se află doar în noi, iar răspunsurile la întrebări se află în noi, în propria noastră forță și în propria noastră încredere. Susțin că mașinile inteligente nu ne pot face „învechiți”. Cu toate acestea, trebuie amintit că există anumite restricții în ceea ce privește cooperarea om-calculator și, în mare măsură, acestea sunt doar zvonuri care au existat înainte. Ca întotdeauna, acestea sunt pur și simplu noi oportunități care distrug vechea lume și creează una nouă și, cu cât mergem mai departe, cu atât ne vom simți mai bine.
În zilele noastre seamănă cel mai mult cu o trecere în lumea science-fiction. Paradoxul este că dacă ne uităm în urmă cu 50-60 de ani, vom vedea că în acele vremuri science fiction era absolut pozitivă, era o utopie completă. Totuși, apoi a avut loc o trecere treptată de la utopie la distopie, în așa fel încât să nu mai vrem să auzim nimic despre viitorul umanității.
Acest lucru nu s-a întâmplat peste noapte. A fost o vreme când oamenii au decis că explorarea spațiului este prea riscantă. Acesta este într-adevăr un mare risc, dar imaginați-vă că în 1969, când americanii au aterizat pe Lună, întreaga putere de calcul a NASA era mai mică decât puterea oricărui dispozitiv de calcul modern care încăpea în buzunar. Acest dispozitiv este de o mie de ori mai puternic decât supercomputerul care a existat acum 40 de ani. Imaginează-ți puterea de calcul pe care o ai în buzunar! Cu toate acestea, nu sunt sigur că Apple iPhone 7 are aceeași putere de calcul pe care a avut-o Apollo 7, adică este capabil să producă același efect.
Cu toate acestea, mașinile ne-au oferit multe progrese mari în explorarea spațiului sau oceanului și trebuie să înțelegem că computerele ne oferă capacitatea de a ne asumă riscuri mari.
Aș dori să-mi închei discursul pe o notă pozitivă. Acest diapozitiv nu arată imagini pozitive? Fotografia din colțul din dreapta jos nu este photoshopată, de fapt l-am întâlnit pe Terminator în 2003.
De asemenea, a iubit șahul încă din copilărie, dar nu l-a studiat în mod special, așa că a pierdut foarte repede. Așa că am fost foarte surprins când 6 luni mai târziu a candidat pentru guvernator al Californiei și a câștigat!
De ce numesc aceste poze pozitive? Pentru că, deși în toate episoadele, cu excepția celui dintâi, bătrânul Arnold stă mereu de partea câștigătorilor și nu se obosește niciodată să lupte împotriva noilor mașini, tocmai în primul episod vedem combinația despre care vorbeam - acesta este momentul în care un persoană plus o mașină veche plus o interfață perfectă învinge cea mai nouă mașină.
Puteți spune: „da, mașinile sunt mai puternice decât oamenii pentru că pot calcula absolut totul!” Cu toate acestea, ideea nu este că ei pot calcula totul. De exemplu, în șah putem vorbi tehnic despre infinitul matematic al numărului de mutări posibile, egal cu 1045, care nu sunt greu de calculat pentru orice computer modern. Totuși, ceea ce este important în joc nu sunt calculele, ci faptul că computerul este înaintea persoanei, pentru că este întotdeauna ghidat de reguli. Și cunoașteți efectul acestor reguli și știți de ce computerul alege cea mai bună mișcare dintr-o mare varietate de mișcări posibile.
Dar dacă ne întoarcem la viața reală, nu sunt sigur că un computer poate fi întotdeauna util. Să ne uităm la cea mai tipică situație - ai un computer care îți monitorizează bugetul, te afli într-un magazin și ești pe cale să cumperi un cadou scump. Computerul evaluează achiziția și spune „nu, nu vă puteți permite acest articol pentru că veți depăși bugetul”. Aparatul a calculat totul, dar există o mică nuanță - copilul tău stă lângă tine, iar acest cadou este destinat pentru ziua lui. Vedeți cum modifică acest lucru condițiile problemei? Acest lucru schimbă totul pentru că copilul așteaptă acest cadou.
Pot începe să adaug aceste lucruri mici care schimbă totul, dar nu cred că pot fi incluse în enunțul problemei și pot obține soluția corectă. Avem o mulțime de reguli, dar încă trebuie să punem întrebări pentru că lucrurile se schimbă. Aceasta este ceea ce se poate numi o situație obișnuită, dar dacă te uiți la aceste filme, poți spune că situația prezentată aici este mai dramatică și mai extraordinară. Acest diapozitiv arată o fotografie din Episodul V din Star Wars: The Empire Strikes Back.
Han Solo pilotează nava direct printr-un câmp de asteroizi, iar C-3PO intră în panică, raportând că șansa de a supraviețui în câmp este de 1:3122. Han Solo îi spune: „Nu-mi spune niciodată care sunt șansele noastre!”. Aici apare întrebarea, cine are mai multă dreptate în această situație?
Tehnologia reprezentată de C-3PO este absolut corectă, deoarece șansa de supraviețuire tinde spre zero. Este posibil ca, din perspectiva unui robot, să fii capturat de forțele imperiale să fie o alegere mai bună pe care un om nici măcar nu ar lua în considerare decât să moară într-un câmp de asteroizi. Dar dacă computerul decide că predarea imperiului este cea mai bună opțiune, atunci putem presupune că persoana respectivă nu are deloc opțiuni. Foarte important este că, în ambele cazuri, obișnuite și extraordinare, avem posibilitatea de a lua decizia finală, iar pentru a lua o astfel de decizie este încă nevoie de leadership uman.
Uneori, acest lucru înseamnă că trebuie să mergeți împotriva recomandărilor computerului. Scopul conducerii umane nu este să cunoască șansele, ci să pună întrebările care contează cu adevărat, nu doar astăzi sau mâine, ci în viitor. Acest proces poate fi numit „îndrumare umană” sau „intervenție umană”, influențând fără ajutorul unor mașini inteligente. Acesta este cursul nostru în acest secol.
Oamenii sunt uneori surprinși de optimismul meu cu privire la mașinile inteligente, având în vedere experiența mea cu ele, dar chiar sunt un optimist. Și sunt sigur că toți sunteți la fel de optimiști în ceea ce privește viitorul AI. Dar trebuie să ne amintim că tehnologiile noastre sunt agnostice. Nu este nici bine, nici rău, dar poate fi folosit atât pentru bine, cât și pentru rău. Mașinile trebuie să devină mai inteligente și mai capabile. Și noi, oamenii, trebuie să facem ceea ce numai oamenii pot face - visează, visează la maximum, și atunci vom putea extrage toate beneficiile pe care le aduc aceste noi instrumente uimitoare.
După cum era planificat, mai avem 10 minute pentru a răspunde la întrebări.
Întrebare: Crezi că ar fi posibil să se creeze un sistem de învățare automată care ar putea determina care mișcări sunt mai conforme cu stilul de joc uman?
Kasparov: În primul rând, nu ne așteptăm ca computerul să ne spună prima mișcare și restul de 17505 mișcări. Cred că ar trebui să ne bazăm pe mașină pentru a oferi cele mai bune recomandări pentru mișcări unice. Apropo, jucătorii de top folosesc computerele ca ghid, ajutându-i să ocupe cea mai potrivită poziție în joc. Repet încă o dată - în 9 cazuri din 10, evaluarea situației de către computer este cu mult superioară evaluării pe care o poate face o persoană.
Întrebare: Sunteți de acord că adevărata inteligență necesită libertate de alegere, libertate de a lua decizii pe care doar o persoană le poate lua? La urma urmei, software-ul Deep Blue și alte programe de calculator sunt scrise de oameni, iar când pierzi în fața Deep Blue, pierzi nu în fața computerului, ci în fața programatorilor care au scris programul. Întrebarea mea este: există vreun pericol din orice fel de inteligență a mașinii atâta timp cât computerele au libertatea de a alege?
Kasparov: aici trebuie să trec de la știință la filozofie. Totul este clar despre Deep Blue - este rezultatul unei cantități uriașe de muncă umană. În cele mai multe cazuri, chiar și în cazul AlphaGo al lui Demis Hassabis, toate acestea sunt produse ale inteligenței umane. Nu știu dacă mașinile pot avea libertate de alegere, dar cred că orice am face, dacă știm cum să facem, mașinile o vor face mai bine. Cu toate acestea, atunci când facem majoritatea lucrurilor, nu știm cum să le facem în cel mai bun mod, așa că adesea nu putem înțelege ce vom reuși. Mai simplu spus, avem un scop, dar nu știm care este acesta, iar rolul mașinii este să ne ajute să realizăm acel obiectiv. Prin urmare, dacă vorbim despre libera alegere a computerelor, atunci ar trebui să ne ajute să ne legăm de acest obiectiv. Cred că acesta este un viitor foarte îndepărtat pentru computere.
Întrebare: Ce părere aveți despre caracteristicile umane precum curajul și moralitatea și despre deciziile pe care inteligența artificială le poate lua pe baza acestora? De exemplu, ce ar trebui să facă o mașină care se conduce singur - să treacă peste un copil sau să evite să-l lovească izbindu-se de o stâncă și ucigându-și pasagerul?
Kasparov: Acestea sunt ceea ce oamenii numesc „sentimente”, nu sunt cuantificabile pentru că sunt o grămadă de caracteristici umane diferite. Dacă vorbim de curaj, atunci această caracteristică este întotdeauna contrară șanselor de a alege opțiunea optimă. Curajul, ca și alte emoții umane, este prin definiție contrară calculului exact.
Întrebare: Domnule Kasparov, întrebarea mea nu se referă la computere: ce este în balonul dumneavoastră și pot să-l încerc?
Kasparov: ce vrei să spui?
Realizator: Te întreabă ce ai în buzunar!
Kasparov: în buzunarul meu? „Stolichnaya”! Aceasta nu este o reclamă, dacă ați observat, am aruncat-o.
Întrebare: Cine crezi că va fi următorul campion mondial la șah și are tânărul șahist chinez Wei Yi șansa să-l detroneze pe Carelsen ca rege al șahului?
Kasparov: Karelsen este jucătorul numărul 1, nu este un campion mondial, ci pur și simplu cel mai bun jucător de șah din lume după rating. Anul acesta împlinește 27 de ani, așa că este încă tânăr, dar nu foarte tânăr după standardele actuale. Cred că Wei Yi are 18 sau 19 ani acum. Magnus este înaintea jucătorilor tineri precum americanii Wesley So și Fabiano Kerouana, iar Wei Yi ar putea fi adversarul său. Totuși, pentru a deveni campion mondial, ai nevoie de talent nu trebuie să fii tânăr și energic, ci doar puțin noroc; Deci, ca să răspund la întrebare, pot spune - da, are șansa să-l învingă pe Magnus Carelsen.
Întrebare: Când ați vorbit despre algoritmi determiniști și învățarea automată, ați menționat posibilitatea de a folosi mașinile ca instrumente pentru a completa inteligența noastră. Ce zici de posibilitatea de a maximiza resursele înainte de a crea IA puternică sau chiar de a pune un creier uman într-un computer?
Kasparov: Nu îmi este jenă să-mi recunosc ignoranța atunci când nu sunt sigur că nu sunt în stare să răspund corect la o întrebare. Încerc din răsputeri să înțeleg ce este creierul uman, dacă îl considerăm separat de corpul uman, ce funcții îndeplinește. Pentru că este greu de imaginat cum se va comporta creierul separat de corp. Poate că un astfel de experiment ar putea fi făcut în viitor, dar sunt încrezător că combinația dintre creierul uman, sentimentele și emoțiile umane cu un computer va forma o „minte” care va fi mult mai eficientă decât un creier îndepărtat și înghețat, folosit. ca un dispozitiv plin cu neuroni.
Întrebare: Există o abordare de bază universală a problemei înlocuirii locurilor de muncă umane cu computere?
Kasparov: Cred că aceasta este o întrebare foarte importantă, pentru că este clar că ne apropiem de punctul în care mulți oameni ar putea fi șomeri. Acesta este paradoxul progresului tehnologic: pe de o parte, avem cele mai noi tehnologii care oferă avantaje competitive uriașe tinerei generații care se ocupă de aceste dispozitive și tehnologii. Pe de altă parte, avem progrese în medicină și nutriție sănătoasă, care prelungește viața umană și oferă persoanei capacitatea de a lucra mulți ani. În acest sens, generația anilor 50, 60 sau chiar 40 nu poate concura cu tineretul de astăzi. Trebuie să găsim o soluție la această situație paradoxală în care decalajul dintre generații este atât de mare. Experiența istorică spune că un astfel de decalaj duce întotdeauna la o mare explozie. Mă refer la decalajul dintre infrastructura socială existentă a societății și progresul tehnologic.
Aceasta este o problemă pe care politicienii preferă să o amâne până la următoarele alegeri. Nimeni nu vrea să vorbească despre asta pentru că este o problemă sensibilă. Este foarte ușor să tipăriți bani și să sperați că cineva va plăti pentru asta într-o zi în viitor. Deci există multe paradoxuri în acest domeniu, de exemplu, acumularea de datorii pentru oferirea de garanții sociale generației mai în vârstă, în așteptarea ca povara plății acestor datorii să cadă pe umerii generației tinere. Există o mulțime de întrebări la care nu am răspuns și o mulțime de întrebări pe care le-aș putea adresa și cu care sper că AI mă poate ajuta.
Este foarte rău că de decenii politicienii încearcă să ignore problemele pe care tocmai le-am discutat. Sunt mereu gata să facă declarații, au mereu planuri, dar nu vor să înțeleagă contraproductivitatea de a păstra tăcerea în legătură cu problema conflictului dintre tehnologie și societate. Vă mulțumim pentru atenție!
Vă mulțumim că ați rămas cu noi. Vă plac articolele noastre? Vrei să vezi mai mult conținut interesant? Susține-ne plasând o comandă sau recomandând prietenilor, Reducere de 30% pentru utilizatorii Habr la un analog unic de servere entry-level, care a fost inventat de noi pentru tine: (disponibil cu RAID1 și RAID10, până la 24 de nuclee și până la 40 GB DDR4).
Dell R730xd de 2 ori mai ieftin? Numai aici in Olanda! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - de la 99 USD! Citește despre
Sursa: www.habr.com