Szerintem nem az a probléma, hogy a gépek helyettesítik majd az embereket a munkahelyükön, beleértve a szellemi szférát is, és nem az, hogy a számítógépek fegyvert ragadtak a felsőfokú végzettségű és Twitter-fiókkal rendelkező emberek ellen. Az AI megvalósítása nem megy gyorsan, hanem éppen ellenkezőleg, túl lassú. Miért? Mert ez az emberi fejlődés normális körforgása, és egyszerűen nem vesszük észre, hogy a pusztulás, amit látunk, új technológia bevezetését jelenti, amely, mielőtt új munkahelyeket teremtene, tönkreteszi a régieket.
A technológiák lerombolják az elavult iparágakat és újakat hoznak létre, ez a teremtés folyamata, ez a fejlesztési ciklus. Ha megpróbálja meghosszabbítani az agóniát azzal, hogy régi technológiákat iktat be a folyamatba, vagy előnyöket teremt az elavult technológiák számára, akkor egyszerűen lelassítja és fájdalmasabbá teszi a folyamatot. Mindenképpen megtörténik, de a probléma az, hogy a folyamatot úgy szabályozzuk, hogy olyan szabályokat alkotunk, amelyek szándékosan lassítják azt. Úgy gondolom, hogy ez nagyobb probléma, mint azok, amelyeknek világosabban tisztában vagyunk. Ez inkább pszichológiai probléma, ahol az emberek felteszik a kérdést: „Hogyan érezheti magát biztonságban önvezető autóban?”
Belenéztem a történelembe, és megtudtam, hogy száz évvel ezelőtt New York egyik leghatalmasabb szakszervezete volt a 17 ezer dolgozót tömörítő liftes szakszervezet. Egyébként akkoriban már volt egy olyan technológia, ahol csak egy gombot lehetett megnyomni és kész, de az emberek nem bíztak benne! Szörnyű, ha magának kell megnyomnia a gombot a lift hívásához! Tudja, miért „halt meg” ez a szakszervezet, és miért kezdték el az emberek maguk használni a gombokat? Mert egy napon a liftmunkások úgy döntöttek, hogy sztrájkot kezdenek. Sztrájkba léptek, majd az Empire State Building tetejére felmászók megkockáztatták, hogy saját kezükkel nyomják meg a gombokat.
Emlékezzetek vissza, mit mondtak 20-30 évvel ezelőtt a gyerekekről vagy az unokákról, amikor egy autó volánja mögé ültek: „Ez szörnyű, nézd csak meg a statisztikát, mert az autók az emberi halálozás egyik fő oka, hogyan kockáztathatnak az életük?"
Tehát mindez tiszta pszichológia. Keveset figyelünk arra, hogy hány ember hal meg autóbalesetben, de ha egyszer egy önvezető autó életét veszti, akkor az esemény teljesen kibillent. A mesterséges intelligencia technológiák bármilyen hibája, hibája azonnal megjelenik az újságok címlapján. De nézd meg a statisztikát, nézd meg az események számát, és látni fogod, hogy az összes balesetnek mekkora százalékáról van szó. Ezért az emberi közösség csak akkor nyer, ha anélkül tud előre haladni, hogy megbénítaná az ilyen félelmek.
Egy másik probléma merül fel, amikor álhírekről vagy kiberbiztonságról beszélünk, ezek nagyon átpolitizált témák, és sok hívást kapok arról, hogyan bánok az AI-gyűlölőkkel. Például írok egy rendszeres blogot, és a pár napon belül megjelenő új bejegyzésem a gyűlöletről beszél, és arról, hogy a gyűlölettől való megváltás a tudásban, a tanulásban rejlik. Csak meg kell értenünk, hogy ez a probléma már jóval azelőtt is létezett, hogy mindezeket a dolgokat feltalálták volna, csak éppen a jelentősége mára megnőtt az internetnek köszönhetően, amely milliókat és milliárdokat ér el.
Szerintem valójában jó dolog, ha valaki megpróbálja megállítani a fejlődést azzal, hogy megpróbálja törvényen kívül helyezni a mesterséges intelligenciát, és tudod, hogy ez nem fog működni, mert Putyin és más rosszfiúk vannak, bárhol is legyenek, akik ellenünk a saját technológiáinkat használják a szabad világ. Úgyhogy azt gondolom, hogy elfogadjuk, mint adott.
A probléma lényege csak bennünk rejlik, a kérdésekre a válaszok pedig bennünk rejlenek, saját erőnkben és önbizalmunkban. Azzal érvelek, hogy az intelligens gépek nem tehetnek bennünket „elavulttá”. Nem szabad azonban elfelejteni, hogy vannak bizonyos korlátozások az ember-számítógép együttműködéssel kapcsolatban, és ezek nagyrészt csak pletykák, amelyek korábban is léteztek. Mint mindig, ezek egyszerűen új lehetőségek, amelyek lerombolják a régi világot, és egy újat teremtenek, és minél tovább haladunk, annál jobban járunk.
Manapság leginkább a sci-fi világába való átlépéshez hasonlít. A paradoxon az, hogy ha visszatekintünk 50-60 évre, azt látjuk, hogy abban az időben a science fiction abszolút pozitív volt, teljes utópia volt. Ekkor azonban az utópiából a disztópiába fokozatos átmenet következett, oly módon, hogy már hallani sem akarunk az emberiség jövőjéről.
Ez nem egyik napról a másikra történt. Volt idő, amikor az emberek úgy döntöttek, hogy az űrkutatás túl kockázatos. Ez valóban nagy kockázatot jelent, de képzeljük el, hogy 1969-ben, amikor az amerikaiak leszálltak a Holdra, a NASA teljes számítási teljesítménye kisebb volt bármely modern számítástechnikai eszköz teljesítményénél, amely elfér a zsebében. Ez az eszköz ezerszer erősebb, mint a 40 évvel ezelőtt létezett szuperszámítógép. Képzelje csak el, mekkora számítási teljesítmény van a zsebében! Abban viszont nem vagyok biztos, hogy az Apple iPhone 7 ugyanolyan számítási teljesítménnyel rendelkezik, mint az Apollo 7-é, vagyis képes-e ugyanazt a hatást produkálni.
A gépek azonban számos nagy előrelépést jelentettek számunkra az űr- és óceánkutatásban, és meg kell értenünk, hogy a számítógépek lehetőséget adnak arra, hogy nagy kockázatokat vállaljunk.
Szeretném pozitívan zárni beszédemet. Ez a dia nem pozitív képeket mutat? A jobb alsó sarokban lévő fotó nem photoshopolt, igazából 2003-ban találkoztam a Terminátorral.
A sakkot is szerette gyermekkora óta, de nem tanulta kifejezetten, így nagyon gyorsan veszített. Szóval nagyon meglepődtem, amikor 6 hónappal később elindult Kalifornia kormányzói székéért, és nyert!
Miért nevezem ezeket a képeket pozitívnak? Mert bár az első kivételével minden epizódban a régi Arnold mindig a győztesek oldalán áll, és soha nem fárad bele az új gépek elleni harcba, az első epizódban láthatjuk azt a kombinációt, amelyről beszéltem – ez az, amikor egy személy plusz egy régi gép plusz egy tökéletes felület legyőzi a legújabb autót.
Azt mondhatod: „igen, a gépek erősebbek az embereknél, mert mindent ki tudnak számítani!” A lényeg azonban nem az, hogy mindent ki tudnak számolni. Például a sakkban technikailag beszélhetünk a lehetséges lépések számának matematikai végtelenségéről, ami egyenlő 1045-tel, amelyeket egyetlen modern számítógépnek sem nehéz kiszámítani. A játékban azonban nem a számítások a fontosak, hanem az, hogy a számítógép megelőzze az embert, mert azt mindig a szabályok vezérlik. És ismeri ezeknek a szabályoknak a hatását, és tudja, hogy a számítógép miért választja a legjobb lépést a lehetséges lépések hatalmas választékából.
De ha a való élet felé fordulunk, nem vagyok benne biztos, hogy egy számítógép mindig hasznos lehet. Nézzük a legjellemzőbb helyzetet – van egy számítógépe, amely figyeli a költségvetését, egy boltban tartózkodik, és drága ajándékot készül vásárolni. A számítógép értékeli a vásárlást, és azt mondja: „Nem, nem engedheti meg magának ezt a terméket, mert túllépi a költségvetést.” A gép mindent kiszámolt, de van egy kis árnyalat - a gyermeke melletted áll, és ez az ajándék a születésnapjára készült. Látod, hogy ez hogyan változtatja meg a probléma körülményeit? Ez mindent megváltoztat, mert a gyermek ezt az ajándékot várja.
Elkezdhetem hozzáadni ezeket az apróságokat, amik mindent megváltoztatnak, de nem hiszem, hogy bekerülhetnek a problémafelvetésbe és megfelelő megoldást kaphatnak. Sok szabályunk van, de továbbra is kérdeznünk kell, mert a dolgok változnak. Ez az, amit hétköznapi helyzetnek nevezhetünk, de ha megnézzük ezeket a filmeket, azt mondhatjuk, hogy az itt bemutatott szituáció drámaibb és rendkívüli. Ezen a dián egy állókép látható a Star Wars V. epizódjából: The Empire Strikes Back.
Han Solo egyenesen egy aszteroidamezőn vezeti át a hajót, és a C-3PO pánikba esik, és azt jelenti, hogy a mező túlélési esélye 1:3122. Han Solo azt mondja neki: "Soha ne mondd meg, mik az esélyeink!" Felmerül itt a kérdés, hogy ebben a helyzetben kinek van igaza?
A C-3PO által képviselt technológia teljesen helytálló, mert a túlélés esélye nulla. Lehetséges, hogy egy robot szemszögéből a birodalmi erők fogságába ejtés jobb választás, amit az ember nem is gondolna, mint meghalni egy aszteroidamezőben. De ha a számítógép úgy dönt, hogy a birodalomnak való behódolás a legjobb megoldás, akkor feltételezhetjük, hogy az illetőnek egyáltalán nincs lehetősége. Az nagyon fontos, hogy mind a hétköznapi, mind a rendkívüli esetben lehetőségünk van a végső döntés meghozatalára, és egy ilyen döntés meghozatalához még emberi vezetésre van szükség.
Ez néha azt jelenti, hogy szembe kell mennie a számítógép ajánlásaival. Az emberi vezetés lényege nem az esélyek ismerete, hanem az, hogy olyan kérdéseket tegyen fel, amelyek valóban számítanak, nem csak ma vagy holnap, hanem a távoli jövőben is. Ezt a folyamatot nevezhetjük „emberi irányításnak” vagy „emberi beavatkozásnak”, intelligens gépek segítsége nélkül történő befolyásolásnak. Ilyennek kell lennie ebben a században.
Az embereket néha meglepi az intelligens gépekkel kapcsolatos optimizmusom, a velük kapcsolatos tapasztalataim alapján, de én tényleg optimista vagyok. És biztos vagyok benne, hogy mindannyian egyformán optimisták az AI jövőjét illetően. De emlékeznünk kell arra, hogy technológiáink agnosztikusak. Se nem jó, se nem rossz, de jóra és rosszra egyaránt használható. A gépeknek okosabbá és hatékonyabbá kell válniuk. És nekünk, embereknek meg kell tennünk azt, amit csak az emberek képesek – álmodozni, álmodozni a legteljesebb mértékben, és akkor képesek leszünk kiaknázni mindazokat az előnyöket, amelyeket ezek a csodálatos új eszközök hoznak.
A terveknek megfelelően még van 10 percünk a kérdések megválaszolására.
Kérdés: Ön szerint lehetséges lenne olyan gépi tanulási rendszert létrehozni, amely meghatározná, hogy mely lépések felelnek meg jobban az emberi játékstílusnak?
Kaszparov: Először is nem várjuk el, hogy a számítógép megmondja nekünk az első lépést és a maradék 17505 9 lépést. Úgy gondolom, hogy a gépre kell hagyatkoznunk, hogy a legjobb ajánlásokat adja az egyedi mozdulatokhoz. A felső kategóriás játékosok egyébként a számítógépeket használják útmutatóként, segítve őket a játékban a legmegfelelőbb pozíció elfoglalásában. Még egyszer megismétlem - 10-ből XNUMX esetben a számítógép helyzetértékelése sokkal jobb, mint az ember által elvégezhető értékelés.
Kérdés: Egyetért-e azzal, hogy az igazi intelligencia megköveteli a választás szabadságát, a döntések meghozatalának szabadságát, amelyeket csak egy személy hozhat? Hiszen a Deep Blue szoftvereket és más számítógépes programokat emberek írják, és ha veszít a Deep Blue ellen, akkor nem a számítógép, hanem a programozók ellen veszít. A kérdésem a következő: van-e bármiféle gépi intelligencia veszélye mindaddig, amíg a számítógépek szabadon választhatnak?
Kaszparov: Itt át kell térnem a tudománytól a filozófiáig. A Deep Blue-val kapcsolatban minden világos – hatalmas mennyiségű emberi munka eredménye. A legtöbb esetben, még Demis Hassabis AlphaGo-ja esetében is, ezek mind az emberi intelligencia termékei. Nem tudom, hogy a gépeknek lehet-e választási szabadsága, de úgy gondolom, hogy bármit is csinálunk, ha tudjuk, hogyan kell csinálni, a gépek jobban megcsinálják. Amikor azonban a legtöbb dolgot megcsináljuk, nem tudjuk, hogyan csináljuk a legjobb módon, ezért gyakran nem értjük, mi fog sikerülni. Egyszerűen fogalmazva: van egy célunk, de nem tudjuk, mi az, és a gép szerepe az, hogy segítsen megvalósítani ezt a célt. Ezért, ha a számítógépek szabad megválasztásáról beszélünk, akkor ennek hozzá kell járulnia ehhez a célhoz. Azt hiszem, ez egy nagyon távoli jövő a számítógépek számára.
Kérdés: Mi a véleményed az olyan emberi tulajdonságokról, mint a bátorság és az erkölcs, és azokról a döntésekről, amelyeket a mesterséges intelligencia ezek alapján hozhat? Például mit tegyen egy önvezető autó - elgázoljon egy gyereket, vagy ne üsse el, ha nekiütközik egy sziklának és megöli az utasát?
Kaszparov: Ezeket az emberek „érzéseknek” nevezik, nem számszerűsíthetők, mert különböző emberi tulajdonságok egész halmaza. Ha bátorságról beszélünk, akkor ez a tulajdonság mindig ellentmond az optimális választás esélyének. A bátorság, mint más emberi érzelmek, értelemszerűen ellentétes a pontos számítással.
Kérdés: Kaszparov úr, a kérdésem nem a számítógépekre vonatkozik: mi van a lombikjában, és kipróbálhatom?
Kaszparov: hogy érted?
Műsorvezető: Megkérdezi, mi van a zsebében!
Kaszparov: a zsebemben? "Stolichnaya"! Ez nem reklám, ha észrevette, kidobtam.
Kérdés: Ön szerint ki lesz a következő sakkvilágbajnok, és van-e esélye a fiatal kínai sakkozónak, Wei Yi-nek, hogy megfosztja a tróntól Carelsent, mint a sakk királyát?
Kaszparov: Karelsen az első számú játékos, nem világbajnok, hanem egyszerűen a világ legjobb sakkozója az értékelés alapján. Idén tölti be a 1. életévét, tehát még fiatal, de a mai mércével mérve nem túl fiatal. Azt hiszem, Wei Yi most 27 vagy 18 éves. Magnus megelőzi az olyan fiatal játékosokat, mint az amerikai Wesley So és Fabiano Kerouana, és Wei Yi lehet az ellenfele. Ahhoz azonban, hogy világbajnok legyél, tehetség kell, nem kell fiatalnak és energikusnak lenni, csak egy kis szerencse. Tehát a kérdésre válaszolva azt tudom mondani – igen, van esélye Magnus Carelsen legyőzésére.
Kérdés: Amikor a determinisztikus algoritmusokról és a gépi tanulásról beszélt, megemlítette annak lehetőségét, hogy a gépeket eszközként használjuk az intelligenciánk kiegészítésére. Mi a helyzet az erőforrások maximalizálásának lehetőségével, mielőtt hatékony mesterséges intelligenciát készítenénk, vagy akár emberi agyat helyeznénk a számítógépbe?
Kaszparov: Nem szégyellem bevallani tudatlanságomat, amikor nem vagyok biztos abban, hogy nem tudok helyesen válaszolni egy kérdésre. Igyekszem mindent megtenni, hogy megértsem, mi az emberi agy, ha az emberi testtől elkülönítve tekintjük, milyen funkciókat lát el. Mert nehéz elképzelni, hogyan fog az agy a testtől elkülönítve viselkedni. Lehetséges, hogy a jövőben egy ilyen kísérletre sor kerülhet, de bízom benne, hogy az emberi agy, az emberi érzések és érzelmek számítógéppel való ötvözése olyan „elmét” alkot, amely sokkal hatékonyabb lesz, mint egy kivont és lefagyasztott, felhasznált agy. mint egy neuronokkal teli eszköz.
Kérdés: Létezik-e univerzális alapvető megközelítés az emberi munkák számítógépekkel való helyettesítésének problémájára?
Kaszparov: Szerintem ez egy nagyon fontos kérdés, mert egyértelmű, hogy közeledünk ahhoz a ponthoz, ahol sok ember munkanélküli lehet. Ez a technológiai haladás paradoxona: egyrészt rendelkezésünkre állnak a legújabb technológiák, amelyek óriási versenyelőnyt biztosítanak az ezekkel az eszközökkel és technológiákkal foglalkozó fiatal generációnak. Másrészt az orvostudományban és az egészséges táplálkozásban van előrelépés, ami meghosszabbítja az emberi életet, és hosszú évekre munkaképességet biztosít az embernek. Ebben az értelemben az 50-es, 60-as vagy akár 40-es évek generációja nem tudja felvenni a versenyt a mai fiatalokkal. Megoldást kell találnunk erre a paradox helyzetre, ahol a generációk közötti szakadék olyan nagy. A történelmi tapasztalatok szerint egy ilyen szakadék mindig nagy robbanáshoz vezet. A társadalom meglévő szociális infrastruktúrája és a technológiai haladás közötti szakadékra gondolok.
Ezt a kérdést a politikusok inkább a következő választásra halasztják. Senki nem akar beszélni róla, mert kényes téma. Nagyon könnyű pénzt nyomtatni, és remélni, hogy a jövőben valaki fizetni fog érte. Sok paradoxon van tehát ezen a területen, például az idősebb generációnak nyújtott szociális garanciák adósságának felhalmozódása abban a reményben, hogy ezen adósságok kifizetésének terhe a fiatalabb generáció vállára hárul. Sok olyan kérdés van, amire nincs válaszom, és sok olyan kérdés, amit feltehetnék, és remélem, hogy a mesterséges intelligencia segíthet nekem.
Nagyon rossz, hogy a politikusok évtizedek óta próbálják figyelmen kívül hagyni azokat a problémákat, amelyekről most beszéltünk. Mindig készek nyilatkozni, mindig vannak terveik, de nem akarják megérteni, hogy a technológia és a társadalom konfliktusának problémájáról elhallgatás kontraproduktív. Köszönöm a figyelmet!
Köszönjük, hogy velünk tartott. Tetszenek cikkeink? További érdekes tartalmakat szeretne látni? Támogass minket rendeléssel vagy ajánlj ismerőseidnek, 30% kedvezmény a Habr felhasználóknak a belépő szintű szerverek egyedülálló analógjára, amelyet mi találtunk ki Önnek: (RAID1 és RAID10, akár 24 maggal és akár 40 GB DDR4-gyel is elérhető).
Dell R730xd kétszer olcsóbb? Csak itt Hollandiában! Dell R420 - 2x E5-2430 2.2 Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - 99 dollártól! Olvasni valamiről
Forrás: will.com