ProHoster > Blogs > interneta ziņas > Mēs nevaram uzticēties mākslÄ«gā intelekta sistēmām, kas balstÄ«tas tikai uz padziļinātu mācÄ«Å”anos

Mēs nevaram uzticēties mākslÄ«gā intelekta sistēmām, kas balstÄ«tas tikai uz padziļinātu mācÄ«Å”anos

Mēs nevaram uzticēties mākslÄ«gā intelekta sistēmām, kas balstÄ«tas tikai uz padziļinātu mācÄ«Å”anos

Šis teksts nav zinātnisku pētījumu rezultāts, bet gan viens no daudziem viedokļiem par mūsu tūlītējo tehnoloģiju attīstību. Un reizē arī aicinājums uz diskusiju.

Ņujorkas Universitātes profesors Gerijs Markuss uzskata, ka AI attÄ«stÄ«bā liela nozÄ«me ir dziļai mācÄ«bām. Taču viņŔ arÄ« uzskata, ka pārmērÄ«gs entuziasms par Å”o tehniku ā€‹ā€‹var novest pie tā diskreditācijas.

Savā grāmatā AI pārstartÄ“Å”ana: mākslÄ«gā intelekta veidoÅ”ana, kam varam uzticēties Markuss, pēc izglÄ«tÄ«bas neirozinātnieks, kurÅ” karjeru veidojis, izmantojot progresÄ«vus AI pētniecÄ«bu, pievērÅ”as tehniskajiem un ētiskajiem aspektiem. No tehnoloÄ£iju viedokļa dziļā mācÄ«Å”anās var veiksmÄ«gi atdarināt uztveres uzdevumus, ko mÅ«su smadzenes veic, piemēram, attēlu vai runas atpazÄ«Å”anu. Bet citiem uzdevumiem, piemēram, sarunu izpratnei vai cēloņu un seku attiecÄ«bu noteikÅ”anai, dziļa mācÄ«Å”anās nav piemērota. Lai izveidotu progresÄ«vākas viedās maŔīnas, kas var atrisināt plaŔāku problēmu loku, ko bieži sauc par mākslÄ«go vispārējo intelektu, dziļa mācÄ«Å”anās ir jāapvieno ar citām metodēm.

Ja AI sistēma Ä«sti neizprot savus uzdevumus vai apkārtējo pasauli, tas var radÄ«t bÄ«stamas sekas. Pat mazākās negaidÄ«tas izmaiņas sistēmas vidē var izraisÄ«t kļūdainu uzvedÄ«bu. Tādu piemēru jau ir bijis daudz: nepiemērotu izteicienu noteicēji, kurus ir viegli maldināt; darba meklÄ“Å”anas sistēmas, kas konsekventi diskriminē; bezvadÄ«tāja automaŔīnas, kas avarē un dažreiz nogalina vadÄ«tāju vai gājēju. Vispārējā mākslÄ«gā intelekta radÄ«Å”ana nav tikai interesanta pētniecÄ«bas problēma, tai ir daudz pilnÄ«gi praktisku pielietojumu.

Savā grāmatā Markuss un viņa līdzautors Ernests Deiviss strīdas par citu ceļu. Viņi uzskata, ka mēs joprojām esam tālu no vispārēja AI izveides, taču viņi ir pārliecināti, ka agrāk vai vēlāk to būs iespējams izveidot.

Kāpēc mums ir vajadzÄ«gs vispārējs AI? Specializētās versijas jau ir izveidotas un sniedz daudz priekÅ”rocÄ«bu.

Tas ir pareizi, un bÅ«s vēl vairāk priekÅ”rocÄ«bu. Bet ir daudzas problēmas, kuras specializētais AI vienkārÅ”i nevar atrisināt. Piemēram, parastās runas izpratne vai vispārēja palÄ«dzÄ«ba virtuālajā pasaulē vai robots, kas palÄ«dz tÄ«rÄ«t un gatavot. Šādi uzdevumi ir ārpus specializētā AI iespējām. Vēl viens interesants praktisks jautājums: vai ir iespējams izveidot droÅ”u paÅ”braucoÅ”u automaŔīnu, izmantojot specializētu AI? Pieredze rāda, ka Ŕādam AI joprojām ir daudz problēmu ar uzvedÄ«bu neparastās situācijās, pat braucot ar automaŔīnu, kas situāciju ievērojami sarežģī.

Es domāju, ka mēs visi vēlētos AI, kas varētu mums palÄ«dzēt veikt lielus jaunus atklājumus medicÄ«nā. Nav skaidrs, vai paÅ”reizējās tehnoloÄ£ijas tam ir piemērotas, jo bioloÄ£ija ir sarežģīta joma. Jums ir jābÅ«t gatavam lasÄ«t daudz grāmatu. Zinātnieki izprot cēloņu un seku attiecÄ«bas tÄ«klu un molekulu mijiedarbÄ«bā, var izstrādāt teorijas par planētām utt. Tomēr ar specializētu AI mēs nevaram radÄ«t maŔīnas, kas spēj veikt Ŕādus atklājumus. Un ar vispārēju AI mēs varētu radikāli mainÄ«t zinātni, tehnoloÄ£iju un medicÄ«nu. Manuprāt, ir ļoti svarÄ«gi turpināt darbu pie vispārējas AI izveides.

Izklausās, ka ar ā€œvispārÄ«giā€ jÅ«s domājat spēcÄ«gu AI?

Ar ā€œvispārÄ«giā€ es domāju, ka mākslÄ«gais intelekts spēs domāt un atrisināt jaunas problēmas lidojuma laikā. AtŔķirÄ«bā no, piemēram, Go, kur problēma nav mainÄ«jusies pēdējos 2000 gadus.

VispārÄ«gajam AI jāspēj pieņemt lēmumus gan politikā, gan medicÄ«nā. Tas ir lÄ«dzÄ«gs cilvēka spējām; jebkurÅ” prātÄ«gs cilvēks var daudz. JÅ«s uzņemat nepieredzējuÅ”us studentus, un dažu dienu laikā viņi strādā pie gandrÄ«z jebko, sākot no juridiskas problēmas lÄ«dz medicÄ«niskai problēmai. Tas ir tāpēc, ka viņiem ir vispārēja izpratne par pasauli un viņi prot lasÄ«t, un tāpēc viņi var veicināt ļoti plaÅ”u darbÄ«bu klāstu.

Saikne starp Ŕādu inteliÄ£enci un spēcÄ«gu intelektu ir tāda, ka vājÅ” intelekts, visticamāk, nespēs atrisināt vispārÄ«gas problēmas. Lai izveidotu kaut ko pietiekami izturÄ«gu, lai tiktu galā ar pastāvÄ«gi mainÄ«go pasauli, jums, iespējams, vajadzēs vismaz tuvoties vispārējam intelektam.

Bet tagad mēs esam ļoti tālu no tā. AlphaGo var lieliski spēlēt uz 19x19 galda, taču tas ir jāpārmāca, lai spēlētu uz taisnstÅ«ra galda. Vai arÄ« izmantojiet vidējo dziļās mācÄ«Å”anās sistēmu: tas var atpazÄ«t ziloni, ja tas ir labi apgaismots un tā ādas tekstÅ«ra ir redzama. Un, ja ir redzams tikai ziloņa siluets, sistēma to, visticamāk, nespēs atpazÄ«t.

Savā grāmatā jÅ«s pieminējat, ka dziļa mācÄ«Å”anās nevar sasniegt vispārējās AI iespējas, jo tā nespēj dziļi saprast.

KognitÄ«vajā zinātnē viņi runā par dažādu kognitÄ«vo modeļu veidoÅ”anos. Es sēžu viesnÄ«cas istabā un saprotu, ka tur ir skapis, ir gulta, ir televizors, kas ir neparasti piekārts. Es zinu visus Å”os objektus, es ne tikai identificēju tos. Es arÄ« saprotu, kā tie ir savstarpēji saistÄ«ti. Man ir priekÅ”stati par apkārtējās pasaules darbÄ«bu. Viņi nav ideāli. Tie var bÅ«t nepareizi, bet tie ir diezgan labi. Un, pamatojoties uz tiem, es izdaru daudzus secinājumus, kas kļūst par vadlÄ«nijām manai ikdienas rÄ«cÄ«bai.

Otra galējība bija kaut kas līdzīgs DeepMind izveidotajai Atari spēļu sistēmai, kurā tā atcerējās, kas tai bija jādara, kad noteiktās ekrāna vietās redz pikseļus. Ja saņemat pietiekami daudz datu, jūs varat domāt, ka jums ir izpratne, bet patiesībā tas ir ļoti virspusēji. Pierādījums tam ir tas, ka, pārvietojot objektus par trim pikseļiem, AI spēlē daudz sliktāk. Izmaiņas viņu mulsina. Tas ir pretējs dziļai izpratnei.

Lai atrisinātu Å”o problēmu, jÅ«s piedāvājat atgriezties pie klasiskā AI. Kādas priekÅ”rocÄ«bas mums vajadzētu mēģināt izmantot?

Ir vairākas priekŔrocības.

Pirmkārt, klasiskais AI patiesÄ«bā ir ietvars pasaules kognitÄ«vo modeļu radÄ«Å”anai, pamatojoties uz kuriem pēc tam var izdarÄ«t secinājumus.

Otrkārt, klasiskais AI ir lieliski saderÄ«gs ar noteikumiem. PaÅ”laik dziļās mācÄ«Å”anās jomā ir dÄ«vaina tendence, kad eksperti cenÅ”as izvairÄ«ties no noteikumiem. Viņi vēlas darÄ«t visu neironu tÄ«klos un nedarÄ«t neko, kas izskatās pēc klasiskās programmÄ“Å”anas. Bet ir problēmas, kuras mierÄ«gi tika atrisinātas Ŕādā veidā, un neviens tam nepievērsa uzmanÄ«bu. Piemēram, marÅ”rutu veidoÅ”ana Google Maps.

PatiesÄ«bā mums ir vajadzÄ«gas abas pieejas. MaŔīnmācÄ«ba ir laba, lai mācÄ«tos no datiem, bet ļoti slikti attēlo abstrakciju, kas ir datorprogramma. Klasiskais AI labi darbojas ar abstrakcijām, taču tas ir jāprogrammē pilnÄ«bā ar roku, un pasaulē ir pārāk daudz zināŔanu, lai tās visas ieprogrammētu. Skaidrs, ka mums ir jāapvieno abas pieejas.

Tas ir saistÄ«ts ar nodaļu, kurā jÅ«s runājat par to, ko mēs varam mācÄ«ties no cilvēka prāta. Un vispirms par jēdzienu, kas balstÄ«ts uz iepriekÅ” minēto ideju, ka mÅ«su apziņa sastāv no daudzām dažādām sistēmām, kas darbojas dažādos veidos.

Es domāju, ka vēl viens veids, kā to izskaidrot, ir tas, ka katra mÅ«su kognitÄ«vā sistēma patieŔām atrisina citu problēmu. LÄ«dzÄ«gām AI daļām jābÅ«t izstrādātām, lai atrisinātu dažādas problēmas, kurām ir dažādas Ä«paŔības.

Tagad mēs cenÅ”amies izmantot dažas "viss vienā" tehnoloÄ£ijas, lai atrisinātu problēmas, kas radikāli atŔķiras viena no otras. Saprast teikumu nepavisam nav tas pats, kas atpazÄ«t objektu. Bet cilvēki abos gadÄ«jumos cenÅ”as izmantot dziļu mācÄ«Å”anos. No kognitÄ«vā viedokļa tie ir kvalitatÄ«vi atŔķirÄ«gi uzdevumi. Esmu vienkārÅ”i pārsteigts par to, cik maz tiek novērtēta klasiskā AI dziļās mācÄ«Å”anās kopienā. Kāpēc gaidÄ«t, kamēr parādÄ«sies sudraba lode? Tas ir nesasniedzams, un neauglÄ«gi meklējumi neļauj mums saprast visu AI izveides uzdevuma sarežģītÄ«bu.

JÅ«s arÄ« minējāt, ka AI sistēmas ir nepiecieÅ”amas, lai izprastu cēloņu un seku attiecÄ«bas. Vai jÅ«s domājat, ka dziļa mācÄ«Å”anās, klasiskais AI vai kaut kas pilnÄ«gi jauns mums palÄ«dzēs Å”ajā jautājumā?

Å Ä« ir vēl viena joma, kurā dziļa mācÄ«Å”anās nav piemērota. Tas neizskaidro noteiktu notikumu cēloņus, bet aprēķina notikuma iespējamÄ«bu noteiktos apstākļos.

Par ko mēs runājam? JÅ«s skatāties noteiktus scenārijus un saprotat, kāpēc tas notiek un kas varētu notikt, ja kādi apstākļi mainÄ«tos. Es varu skatÄ«ties uz statÄ«vu, uz kura atrodas televizors, un iedomāties, ka, ja es tam nogriezÄ«Å”u vienu kāju, statÄ«vs apgāzÄ«sies un televizors nokritÄ«s. Å Ä«s ir cēloņu un seku attiecÄ«bas.

Klasiskais AI sniedz mums dažus rÄ«kus Å”im nolÅ«kam. ViņŔ var iedomāties, piemēram, kas ir atbalsts un kas ir kritiens. Bet es neslavÄ“Å”u pārāk daudz. Problēma ir tā, ka klasiskais mākslÄ«gais intelekts lielā mērā ir atkarÄ«gs no pilnÄ«gas informācijas par notiekoÅ”o, un es nonācu pie secinājuma, tikai paskatoties uz stendu. Es varu kaut kā vispārināt, iedomāties daļas, kas man nav redzamas. Mums vēl nav rÄ«ku Ŕī Ä«paÅ”uma ievieÅ”anai.

JÅ«s arÄ« sakāt, ka cilvēkiem ir iedzimtas zināŔanas. Kā to var ieviest AI?

DzimÅ”anas brÄ«dÄ« mÅ«su smadzenes jau ir ļoti sarežģīta sistēma. Tas nav fiksēts, daba radÄ«ja pirmo, aptuveno projektu. Un tad mācÄ«Å”anās palÄ«dz mums pārskatÄ«t Å”o projektu visas dzÄ«ves laikā.

Smadzeņu aptuvenai melnrakstam jau ir noteiktas iespējas. JaundzimuÅ”a kalnu kaza dažu stundu laikā spēj nekļūdÄ«gi nokāpt no kalna nogāzes. Ir acÄ«mredzams, ka viņam jau ir izpratne par trÄ«sdimensiju telpu, savu Ä·ermeni un attiecÄ«bām starp tiem. Ä»oti sarežģīta sistēma.

Daļēji tāpēc es uzskatu, ka mums ir vajadzÄ«gi hibrÄ«di. Ir grÅ«ti iedomāties, kā varētu izveidot robotu, kas labi funkcionētu pasaulē bez lÄ«dzÄ«gām zināŔanām par to, ar ko sākt, nevis sākt ar tukÅ”u lapu un mācÄ«ties no ilgas, plaŔās pieredzes.

Kas attiecas uz cilvēkiem, mÅ«su iedzimtās zināŔanas nāk no mÅ«su genoma, kas ir attÄ«stÄ«jies ilgu laiku. Bet ar AI sistēmām mums bÅ«s jāiet cits ceļŔ. Daļa no tā var bÅ«t mÅ«su algoritmu izveides noteikumi. Daļa no tā var bÅ«t noteikumi par datu struktÅ«ru izveidi, ar kurām Å”ie algoritmi manipulē. Un daļa no tā var bÅ«t zināŔanas, ko mēs tieÅ”i ieguldÄ«sim maŔīnās.

Interesanti, ka grāmatā jÅ«s izvirzÄ«jāt ideju par uzticÄ“Å”anos un uzticamu sistēmu izveidi. Kāpēc izvēlējāties Å”o konkrēto kritēriju?

Es uzskatu, ka Å”odien tas viss ir bumbas spēle. Man Ŕķiet, ka mēs pārdzÄ«vojam dÄ«vainu vēstures brÄ«di, uzticoties daudzai programmatÅ«rai, kas nav uzticama. Es domāju, ka Å”odienas rÅ«pes nebÅ«s mūžīgas. Pēc simts gadiem mākslÄ«gais intelekts attaisnos mÅ«su uzticÄ«bu un varbÅ«t arÄ« ātrāk.

Bet Å”odien AI ir bÄ«stams. Ne tādā nozÄ«mē, no kā baidās Elons Masks, bet gan tādā nozÄ«mē, ka darba interviju sistēmas diskriminē sievietes neatkarÄ«gi no programmētāju darbÄ«bas, jo viņu rÄ«ki ir pārāk vienkārÅ”i.

Es vēlos, lai mums bÅ«tu labāks AI. Es nevēlos redzēt ā€œAI ziemuā€, kurā cilvēki saprot, ka AI nedarbojas un ir vienkārÅ”i bÄ«stams, un nevēlas to labot.

Dažos veidos jÅ«su grāmata Ŕķiet ļoti optimistiska. JÅ«s pieņemat, ka ir iespējams izveidot uzticamu AI. Mums vienkārÅ”i jāskatās citā virzienā.

TieÅ”i tā, grāmata ir ļoti pesimistiska Ä«stermiņā un ļoti optimistiska ilgtermiņā. Mēs uzskatām, ka visas mÅ«su aprakstÄ«tās problēmas var atrisināt, plaŔāk aplÅ«kojot pareizās atbildes. Un mēs domājam, ka, ja tas notiks, pasaule kļūs labāka.

Avots: www.habr.com

Pievieno komentāru