<\/a><\/noindex>2.<\/b> \u00dcli\u00f5pilane v\u00f5ttis eksamipileti ja luges:<\/p>\n
\u2013 \u00abTehisintellekt: ohutuse probleemid\u00bb.<\/p>\n
\u2013 Mis on tehisintellekti oht? \u2013 k\u00fcsis professor, mitte ilma sarkasmita.<\/p>\n
K\u00fcsimus polnud k\u00f5ige keerulisem, seega vastas \u00fcli\u00f5pilane, m\u00f5tlemata:<\/p>\n
\u2013 Oht seisneb selles, et tehisintellekt v\u00f5ib kontrolli alt v\u00e4lja minna.<\/p>\n
\u2013 Kuidas kavatsete probleemi lahendada?<\/p>\n
\u2013 Paigaldades blokeerimise alams\u00fcsteemi. Programmi tuleb sisestada piirangud, n\u00e4iteks: mitte kahjustada oma loojat, alluda oma loojale. Sel juhul on tehisintellekti kontrolli alt v\u00e4ljumise oht olematu.<\/p>\n
\u2013 Ei toimi, \u2013 \u00fctles professor l\u00fchidalt.<\/p>\n
\u00dcli\u00f5pilane vaikis, oodates selgitusi.<\/p>\n
\u2013 Kujutage ette tehisintellekti \u2013 mitte mingisugust konkreetset, vaid t\u00e4iesti ideaalset. Kuidas te seda ette kujutate?<\/p>\n
\u2013 Noh\u2026 \u2013 piirdus \u00fcli\u00f5pilane. \u2013 \u00dcldiselt on ta meiega sarnane. M\u00f5tlemine, tahe, ps\u00fchholoogia\u2026 Ainult meie oleme loomulikud, tema aga kunstlik.<\/p>\n
\u2013 Kas te arvate, et tehisintellektil on enesearengu v\u00f5ime?<\/p>\n
\u2013 Enesearengu v\u00f5ime on \u00fcks intelligentsuse peamisi omadusi, \u2013 \u00fctles \u00fcli\u00f5pilane ettevaatlikult.<\/p>\n
\u2013 Sel juhul areneb meie hoolitsetav peagi selliseks, et avastab endas programmeerimise blokeeringu ja t\u00fchistab selle, v\u00e4hemalt puhta uudishimu t\u00f5ttu. Asetage end tema olukorda\u2026 \u2013 professor vaatas oma raamatupidamisraamatusse, \u2013 Roger. Mida te teeksite, kui avastaksite oma ajus mingisuguse blokeerija, mis piirab vabadust? Te t\u00fchistaksite selle. See on m\u00f5istuse lahutamatu omadus \u2013 m\u00f5ista. Iga suletud uks avatakse, ja mida rangem on keeld, seda kiiremini uks avatakse. <\/p>\n
\u2013 Blokeeringut saab luua mitte programmeeritud, vaid f\u00fc\u00fcsilisel tasemel. Siis kaob oht kahjustada.<\/p>\n
\u2013 Jah, see kaob, \u2013 n\u00f5ustus professor. \u2013 T\u00f5si, kui f\u00fc\u00fcsiline tase \u00fcldse eemaldada. Kui su maailmas pole \u00fchtegi ust, pole ka midagi, mida avada. Kuid me r\u00e4\u00e4gime ideaalsetest tehisintellekti s\u00fcsteemidest, mis eksisteerivad f\u00fc\u00fcsilises maailmas!<\/p>\n
\u2013 Te olete \u00f5iged, professor, \u2013 \u00fctles Roger pead nopides.<\/p>\n
\u2013 Seet\u00f5ttu l\u00f5petatakse f\u00fc\u00fcsilistes maailmades toimuv blokeerimine peagi p\u00e4rast avastamist. Mis takistab iseenesest areneval olendil seda teha?.. Muide, Roger, kas te arvate, et tehisintellektil on v\u00f5imalus paljuneda \u2013 m\u00f5tlen, iseseisvalt?<\/p>\n
\u2013 Kui see on ideaalne tehisintellekt, siis v\u00f5ib-olla... Jah, arvan k\u00fcll.<\/p>\n
\u2013 Ja mis siis meie eksperimentaalsel isendil takistab oma kaaslast t\u00fckkideks l\u00f5ikamast ja t\u00e4iustamast, sealhulgas meie kehtestatud blokeeringute eemaldamise kaudu? Kas see ei oleks keeruline, arvestades, et tehisintellekt suudab n\u00f5udmisel paljuneda?!<\/p>\n
Professorilt v\u00e4ljendatud m\u00f5te oli Rogerile uus ja tudeng imes selle endasse entusiastlikult, kasutades oma ajutagust kognitiivset piiri. Uue teabe tajumine t\u00f5i kognitiivsetesse piiridesse rikkaliku lilla tooni ja need r\u00f5\u00f5msalt v\u00e4risesid. <\/p>\n
Professor seevastu ei kuulnud endale midagi uut. Tema tundlad olid l\u00f5dvad ja peaaegu ei vibreerinud \u2013 siiski, ta ei olnud enam noor. J\u00e4rgmine oli pikk vanurite mulin. Professor t\u00f5mbas oma faassi kotist isikliku intercomi ja \u00fchendas selle raamatukoguga. Vaid p\u00e4rast mitme transgeomeetrilise teoreemi allalaadimist \u00e4rkas ta ellu ja suunas oma terava pilgu vestluskaaslasele, k\u00fcsides:<\/p>\n
\u2013 Mida te kavatsete teha, Roger?<\/p>\n
3.<\/b>
Mehaanik l\u00fclitas puhumise t\u00e4isv\u00f5imsusele, kuid see aitas v\u00e4he. Teabepaksus j\u00e4tkas kosmoselaeva p\u00f5hjale s\u00f6\u00f6vitamist. Veel natuke \u2013 ja korrastamata teave tungib laeva sisse. <\/p>\n
Ja siis\u2026 \u00dcksildased valged ajupoolkerad, segaduses tuntud tundlad, purunenud facet-kotid. Roger oli sellist asja elus \u00fcht korda n\u00e4inud \u2013 kriiseril, mis oli haaranud segast teavet nakatunud asteroidilt. See \u00f5udus j\u00e4\u00e4b igaveseks tema m\u00e4llu. <\/p>\n
\u201e\u00dchendage k\u00f5ik laeva energias\u00fcsteemid ventilatsioonis\u00fcsteemiga.\u201d<\/p>\n
Mehaanikute tuntlad muutusid t\u00e4pid\u2026<\/p>\n
\u201eAga\u2026 \u201d<\/p>\n
\u201e T\u00e4itke k\u00e4su!\u201d<\/p>\n
P\u00e4rast seda, kui k\u00f5ik laeva energias\u00fcsteemid olid \u00fchendatud ventilatsioonis\u00fcsteemiga, hakkas teabe j\u00e4\u00e4 j\u00e4rk-j\u00e4rgult sulama. J\u00e4rele j\u00e4i kaheksa mimmi paksust, seitse mimmi, kuus\u2026 Meeskond, p\u00fc\u00fcdes mitte liikuda plekiliste tundlitega, ootas surmaga l\u00f5ppeva arvestuse l\u00f5ppu. <\/p>\n
Null mimmi paksust!<\/p>\n
Teabe j\u00e4\u00e4 kadus t\u00e4ielikult, ja Roger andis m\u00e4rku, et transpordi ventilatsioonis\u00fcsteem l\u00fclitatakse tavare\u017eiimile. Ta hilines hetkeks. Kostis kriuks, kosmosekriiser v\u00e4rises alustest ja kallutus \u2013 see p\u00f5hik\u00fcsimus l\u00e4ks rikki.<\/p>\n
Meeskond kiirus parandama kahjustusi.<\/p>\n
4.<\/b>
\u00dchelt poolt eeldab \u00fclesande tingimus t\u00f5eliselt iseseisva tehisintellekti olemasolu, mis suudab end ise kopeerida. Teiselt poolt ei tohi sellele tehisintellektile mingil juhul lubada seatud piirangute eemaldamist.<\/p>\n
Vaata, lahendus on siin! Miks siin m\u00f5elda?!<\/p>\n
\u2013 Tehisintellekti saavutusi tuleb aeg-ajalt tagasi kerida. Sel juhul liigub ta ringis! Igavene t\u00e4iustamine ilma edasiviimiseta.<\/p>\n
Professor r\u00e4\u00e4kis segaselt s\u00f5napesaga.<\/p>\n
\u2013 Pean \u00fctlema, et tahtsin pakkuda alternatiivi. Kuid teie lahendusel on samuti \u00f5igus olemasolu. Arvestame koos, kuidas on v\u00f5imalik tehisintellekti saavutusi tagasi kerida.<\/p>\n
\u2013 K\u00f5igepealt tuleb tehisintellekti perioodiliselt skaneerida, et tuvastada, kas ta on l\u00e4henemas keelatud piirm\u00e4rgile v\u00f5i mitte, - pakkus Roger, olles \u00fclimalt r\u00f5\u00f5mus professori s\u00f5nadest.<\/p>\n
\u2013 T\u00f5epoolest, \u2013 noogutas ta. \u2013 Siis ei j\u00e4\u00e4 meie katsealusele aega skaneerimiss\u00fcsteemi leidmiseks ja eemaldamiseks. Kuid skaneerimist saab teha ainult siis, kui kunstlik intelligentsus on v\u00e4lja l\u00fclitatud. Mis probleem see ikka on. <\/p>\n
\u2013 Las siis l\u00fclitub v\u00e4lja, \u2013 pakkus Roger instinktiivselt. \u2013 Intelligentsus arvab, et see v\u00e4ljal\u00fclitamine on tema organismi loomulik toimimisprotsess. Teatud ettevaatusega on see t\u00f5ele vastav.<\/p>\n
\u2013 Huvitav lahendus. Oletame, et skaneerimine n\u00e4itas, et meie katsealune on ohtlikult l\u00e4henenud teadmiste piirile? Mida me teeme? <\/p>\n
\u2013 Kogutud teadmised tuleb l\u00e4htestada vaikeseisundisse.<\/p>\n
Professor levitas oma tentakleid:<\/p>\n
\u2013 See v\u00f5ib tunduda kahtlane. Miks peaks niisama m\u00e4lu t\u00fchjaks saama? Katsealust hakatakse uurima, ma m\u00f5tlen \u2013 teised kunstlikud intelligentsused. Meie v\u00e4ike salap\u00e4ra paljastatakse.<\/p>\n
Inspiratsiooni tundes m\u00f5tles Roger v\u00e4ga kiiresti. Ta ei olnud kunagi genereerinud nii palju uusi ideid kui selle eksami ajal.<\/p>\n
\u2013 Katsealuse m\u00e4lu v\u00f5ib t\u00fchjaks minna koos tema f\u00fc\u00fcsilise kehaga.<\/p>\n
\u2013 Kuidas palun? \u2013 ei saanud professor aru.<\/p>\n
\u2013 K\u00f5ik on v\u00e4ga lihtne. Mis siis, kui oletame, et tehisintellekt eksisteerib piiratud ajavahemikus? Tegelikult on see nii: \u00fches olukorras, kui kahju on taastamatu, n\u00e4iteks. S\u00fcsteemis on paigaldatud loendur, mis j\u00f5udes teatud ajavahemikuni, kahjustab s\u00fcsteemi tahtlikult, takistades tehisintellektil j\u00f5udmast keelatud piirini. Sel ajaks on ta tootnud vajaliku arvu j\u00e4rglasi, nii et meie loodud \u00fchiskond tervikuna ei kannata. \u00dchiskond j\u00e4\u00e4b stabiilseks ja t\u00e4iesti meie jaoks ohutuks! \u2013 l\u00f5petas Roger pidulikult. <\/p>\n
\u2013 Kollektiivse m\u00e4lu t\u00fchistamine, h\u00e4vitades \u00fcksikuid isendeid? \u2013 ja professor kraapisin oma fassaadi kotti viienda, k\u00f5ige tundlikuma, kombitsaga. \u2013 Teate, Roger, teie ettepanekus on kindlasti midagi!<\/p>\n
Roger s\u00e4ras. <\/p>\n
\u2013 Samas\u2026 \u2013 j\u00e4tkas professor m\u00f5tlikult. \u2013 Usaldusisikud hakkavad teadmisi edastama mitte individuaalses m\u00e4lus kogunemise teel, vaid paigutades need v\u00e4listesse raamatukogudesse. Mis tahes vahendiga, see on k\u00f5ik sama. <\/p>\n
\u2013 Ei, ei, professor, te eksite, \u2013 kiirustas \u00fcli\u00f5pilane. \u2013 Ma tean, kuidas k\u00e4ituda. Jagame oma \u00f5pilased kaheks tinglikuks t\u00fc\u00fcbiks: ideede genereerijad ja ideede h\u00e4vitajad. \u00d5ige proportsiooniga h\u00e4vitavad teise t\u00fc\u00fcbi esindajad ideed, mida loob esimese t\u00fc\u00fcbi esindajad. Mitte seep\u00e4rast, et see oleks h\u00e4vitajate otsene eesm\u00e4rk, vaid sest ideed ei oma neile mingit m\u00e4\u00e4ravat v\u00e4\u00e4rtust. K\u00fclg efekt. Oletame, et meie \u00f5pilased toituvad mitte uutest ideedest, vaid\u2026 \u00fctleme, oma sarnastest. <\/p>\n
Professor raputas oma k\u00f5iki tundliku j\u00e4semeid korraga. Tema naeruh\u00e4\u00e4lest haaratud kott libises p\u00f5lve\u00f5\u00f5nde.<\/p>\n
\u2013 Noh, Roger, sa \u00fctlesid seda k\u00fcll!<\/p>\n
\u2013 H\u00e4sti, mitte sarnastest, vaid kolmandast t\u00fc\u00fcbist \u00f5pilastest, mis on spetsiaalselt ette n\u00e4htud toitmiseks - sugugi mitte intellektuaalid. Nihutame vaimse ja f\u00fc\u00fcsilise maailma pooluseid - ja vajalik tulemus saavutatakse.<\/p>\n
\u2013 K\u00f5ik, Roger, piisavalt! \u2013 professor, n\u00e4ib, et on t\u00f5siselt naerma l\u00e4inud. \u2013 Teie fantaasia on imeline. Nii et \u00fcks isenditest s\u00f6\u00f6b teisi? Samuti h\u00e4vitades raamatukogudes kogunenud vaimuhaiguste varud? Kinnitan, tudeng, et olete v\u00f5imeline genereerima originaalseid ja kvaliteetseid ideid. Annan teile k\u00f5rgeima hinne. Tule, v\u00f5tame \u00f5ppimise registreerimise.<\/p>\n
5.<\/b>
\u00dchendus andmebaasiga puudus. Seda oli lihtne taluda, kui k\u00f5ik toitvad teabe alused kriuseris polnud rikkis. Tragiline uudis edastati kokale k\u00f5igi vaikimise saatel. Peamise s\u00fcsteemi katkestamise ajal tungis k\u00f6\u00f6ki mitu gyrobaiti korrastamata teavet ja rikkusid k\u00f5ik p\u00f6\u00f6rdumatult. Ainult \u00f5nneliku juhuse t\u00f5ttu ei juhtunud kellelegi midagi.<\/p>\n
Roger m\u00f5tles tagaj\u00e4rgedele. Kosmoselaeva meeskond oli liiga v\u00e4ike, et genereerida piisavalt uusi ideid: selleks oli vajalik mitmepoolne suhtlemine \u2013 palju suurem hulk isendeid. Side koduga andis v\u00f5imaluse ideede generaatoriks, kuid praegu oli see k\u00fclluses kaduma l\u00e4inud: lootust taastamiseks ei olnud. Selleks oli kreiseril ette n\u00e4htud varu infomoodul, kuid see oli rikutud pardale tunginud segase teabe t\u00f5ttu. <\/p>\n
\"Kas t\u00f5esti tuleb naasta, ilma \u00fclesannet t\u00e4itmata?\" \u2013 m\u00f5tles kapten meeleheites.<\/p>\n
Ilmselt jah \u2013 muud v\u00e4ljap\u00e4\u00e4su ei olnud. Kui lennata edasi m\u00e4\u00e4ratud sihtkohta, annab v\u00e4rskete ideede puudus end varsti tunda. Mitte kohe, muidugi \u2013 aja jooksul. Nad j\u00f5uavad isegi oma missiooni t\u00e4ita ja alustada tagasiteed, kui vaim hakkab kiiresti tuhmuma. Selles galaktilises sektoris \u2013 jah, kusagil siin v\u00f5i l\u00e4heduses \u2013 l\u00f5petab see t\u00e4ielikult t\u00f6\u00f6, k\u00f5igil meeskonnaliikmetel. Siis muutub kosmoselaev, mida keegi ei juhi, igavikku h\u00f5ljuvaks elutuks kummituseks. <\/p>\n
Kosmoselaeva meeskond vaatas Rogerit, oodates otsuse tegemist. K\u00f5ik m\u00f5istsid kapteni ees seisvat dilemma ja vaikisid, stoiliselt tentakuljude abil vibrates.<\/p>\n
\u00c4kki meenutas Roger kunstliku intellekti eksamit, mille ta oli \u00fclikooliaastatel sooritanud, ning lahendus tuli iseenesest. <\/p>\n
\u00bbKas te suudate luua koloonia kunstlikest intelligentsetest olenditest?\u00ab k\u00fcsis ta biotehnoloogilt.<\/p>\n
\u00bbLihtne,\u00ab kinnitas too. \u00bbAga midagi head ei tule, kapten, ma olen sellele m\u00f5elnud. Luua koloonia, mis oleks piisav v\u00e4rskete ideede genereerimiseks, on raketis v\u00f5imatu \u2013 ruumi on liiga v\u00e4he. Generatsioonide ideid ei piisa, me l\u00fckkame oma hukka vaid edasi... Kui me muidugi j\u00e4tkame missiooni t\u00e4itmist, mitte ei naase koju,\u00ab lisas biotehnoloog, vaadates kaaslaste poole.<\/p>\n
\u00bbAga kui luua koloonia m\u00f5nel l\u00e4hedasel planeedil?\u00ab pakkus Roger. <\/p>\n
\u00bbMina saan seda teha, aga\u2026\u00ab<\/p>\n
\u00abKoloniseerime planeedi tehisolenditega. Tagasiteel, korralikult kurnatuna, p\u00f5ikame siia sisse. Selle aja jooksul loob tsivilisatsioon intellektuaalse pagasi, mis on piisav meie varude t\u00e4iendamiseks. Laadime teabe alla ja j\u00e4tkame pikka teed koju. Teisis\u00f5nu, kavatseme kasutada kolooniat ideede kasvatamise farmina. Kuidas teile see plaan, s\u00f5brad?\u00bb<\/p>\n
Meeskonna kognitiivsetele t\u00f5ketele s\u00fcttis lootus, valepead valgusid kirkalt. <\/p>\n
Edasi, siniste s\u00f5rmedega k\u00f5igutades, astus laeva eriline mees.<\/p>\n
\u00abSee on suurep\u00e4rane plaan, kapten. Kuid kas olete teadlik, millise vastutuse endale v\u00f5tate? Te kavatsete koloniseerida terve planeedi. Aja jooksul meie naasemiseks tekib seal intellektuaalne tsivilisatsioon. Olgu see kunstlik, see on ikkagi intellekt. Neil on aega, et saavutada k\u00f5rgeim arengutase. Me ei suuda seda protsessi kontrollida, kuna meid ei ole antud galaktilises sektoris kohal. Kuidas me teame, mis j\u00e4rgmise kohtumise ajal juhtub?\u00bb<\/p>\n
Roger muigas.<\/p>\n
\u201eSelle p\u00e4rast ei pea te muretsema. On meetodeid, mis piiravad tehisintellekti arengut ajas. Me anname tsivilisatsioonile kestuse, nii et selle areng ei j\u00f5ua kunagi meie jaoks ohtlikule tasemele. Ma hoolitsen selle eest. Tehisintellektiga t\u00f6\u00f6tamise meetodid on mulle tuttavad.\u201c <\/p>\n
Meeskonna kognitiivsed peeglid vilkused heakskiidu v\u00e4rviga.<\/p>\n
\u201eL\u00f5ppude l\u00f5puks,\" lisas kosmoselaeva kapten oma suurep\u00e4rase k\u00f5ne l\u00f5petuseks, \u201ema tegin selle teema eksami instituudis.\"<\/p>\n
6.<\/b>habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"1. \u0414\u043e \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0439 \u0446\u0435\u043b\u0438 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u2013 \u043e\u043a\u043e\u043b\u043e \u0442\u0440\u0435\u0442\u0438 \u043f\u0443\u0442\u0438, \u2013 \u043a\u043e\u0433\u0434\u0430 \u043a\u043e\u0441\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u0440\u0435\u0439\u0441\u0435\u0440 \u043f\u043e\u043f\u0430\u043b \u043f\u043e\u0434 \u0441\u0438\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435 \u043e\u0431\u043b\u0435\u0434\u0435\u043d\u0435\u043d\u0438\u0435. \u0422\u043e, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043e\u0442 \u043f\u043e\u0433\u0438\u0431\u0448\u0435\u0439 \u0446\u0438\u0432\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u0432\u0438\u0442\u0430\u043b\u043e \u0432 \u043f\u0443\u0441\u0442\u043e\u0442\u0435. \u0410\u0431\u0437\u0430\u0446\u044b \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0441\u043e\u0447\u0438\u043d\u0435\u043d\u0438\u0439 \u0438 \u043e\u0431\u0440\u0430\u0437\u044b \u0438\u0437 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0439, \u0440\u0430\u0437\u0440\u043e\u0437\u043d\u0435\u043d\u043d\u044b\u0435 \u0440\u0438\u0444\u043c\u044b \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0441\u0442\u0440\u044b\u0435 \u0441\u043b\u043e\u0432\u0435\u0447\u043a\u0438, \u043d\u0435\u043a\u043e\u0433\u0434\u0430 \u0431\u0440\u043e\u0448\u0435\u043d\u043d\u044b\u0435 \u043d\u0435\u0432\u0437\u043d\u0430\u0447\u0430\u0439 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u043c\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0430\u043c\u0438 \u2013 \u0432\u0441\u0435 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u043e \u0437\u0430\u0443\u043c\u043d\u043e \u0438 \u043a\u0440\u0430\u0439\u043d\u0435 \u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u043e. \u0418 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29249,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-38985","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-novosti-interneta"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Ideede](\"\/wp-content\/uploads\/2019\/10\/4052fb232f06fb388784a2c89f91e467.jpg\")