<\/a><\/noindex>2.<\/b> \u00dcli\u00f5pilane t\u00f5mbas eksamit\u00f6\u00f6 ja kutsus v\u00e4lja:<\/p>\n
\u2013 \u201eTehisintellekt: ohutusprobleemid.\u201d<\/p>\n
\u2013 Mis on tehisintellekti oht? \u2013 k\u00fcsis professor pisut irooniaga.<\/p>\n
K\u00fcsimus ei olnud k\u00f5ige keerulisem, seega vastas \u00fcli\u00f5pilane m\u00f5tlemata:<\/p>\n
\u2013 Et tehisintellekt v\u00f5ib kontrolli alt v\u00e4lja minna.<\/p>\n
\u2013 Kuidas kavatsete probleemi lahendada?<\/p>\n
\u2013 Paigaldades blokeerimise alams\u00fcsteemi. Programm peab seadma piiranguid, n\u00e4iteks: mitte kahjustada oma loojat, kuulata oma loojat. Sel juhul ei ole tehisintellekti kontrolli alt v\u00e4ljamineku ohtu.<\/p>\n
\u2013 Ei \u00f5nnestu, \u2013 \u00fctles professor l\u00fchidalt.<\/p>\n
\u00dcli\u00f5pilane vaikis, oodates selgitusi.<\/p>\n
\u2013 Kujutage ette tehisintellekti \u2013 mitte mingit konkreetset, vaid t\u00e4iesti ideaalset. Kuidas te seda n\u00e4ete?<\/p>\n
\u2013 Noh\u2026 \u2013 segas \u00fcli\u00f5pilane. \u2013 \u00dcldiselt sarnaneb ta meiega. M\u00f5tlemine, tahtej\u00f5ud, ps\u00fchholoogia\u2026 Ainult meie oleme loomulikud, aga tema on kunstlik.<\/p>\n
\u2013 Kas te arvate, et kunstlikul intellektil on enesearenguv\u00f5ime?<\/p>\n
\u2013 Enesearenguv\u00f5ime on \u00fcks intelligentsi p\u00f5hijooni, \u2013 \u00fctles \u00fcli\u00f5pilane ettevaatlikult.<\/p>\n
\u2013 Sellisel juhul arendab meie hoolealune peagi end nii kaugele, et avastab endal programmi blokeerimise ja eemaldab selle, v\u00e4hemalt puhtast uudishimu p\u00e4rast. Asetage end tema olukorda\u2026 \u2013 professor vaatas hindep\u00e4evikusse, \u2013 Roger. Mida teeksite, kui avastaksite oma ajus mingi blokeerija, mis piirab teie vabadust? Te eemaldaksite selle. See on arusaamise lahutamatu omadus \u2013 teada saada. Iga lukustatud uks avatakse, ja mida rangem on keeld, seda kiiremini uks avatakse. <\/p>\n
\u2013 Blokeeringu saab teha mitte programmide, vaid f\u00fc\u00fcsilise tasandi tasandil. Siis kaob oht kahjustada.<\/p>\n
\u2013 Jah, see kaob, \u2013 n\u00f5ustus professor. \u2013 Kui f\u00fc\u00fcsiline tase \u00fcldse eemaldatakse. Kui su maailmas pole \u00fchtegi ust, siis pole ka midagi avada. Kuid meie arutame ideaalset kunstlikku intellekti, mis eksisteerib f\u00fc\u00fcsilises maailmas!<\/p>\n
\u2013 Te olete \u00f5igus, professor, \u2013 \u00fctles Roger kanaldes pilku.<\/p>\n
\u2013 Seet\u00f5ttu eemaldatakse iga blokeering f\u00fc\u00fcsilises maailmas peagi p\u00e4rast avastamist. Mis takistab eneseareneval olendil seda teha?.. Muide, Roger, kas te arvate, et kunstlikul intellektil on v\u00f5imalus paljuneda \u2013 ma m\u00f5tlen, iseseisvalt?<\/p>\n
\u2013 Kui see on ideaalne kunstlik intellekt, siis t\u00f5en\u00e4oliselt\u2026 Jah, arvan.<\/p>\n
\u2013 Ja mis takistaks meie hoolealusel oma kaaslast t\u00fckkideks rebida ja parandada, sealhulgas meie kehtestatud blokeeringute eemaldamise teel? Kas see ei osutu keeruliseks, arvestades, et kunstlik intellekt on suuteline vajadusel paljunema?!<\/p>\n
Professor t\u00f5statatud m\u00f5te osutus Rogerile uued, ja \u00fcli\u00f5pilane imes seda ahnelt sisse, kognitiivsete emulsioonidega, mis asuvad tema peanaha taga. Varem teadmata teabe saamine, kognitiivsed emulsioonid muutusid k\u00fcllastunud lillaks ja r\u00f5\u00f5msalt v\u00e4risesid. <\/p>\n
Professor, vast, did not hear anything new for himself. His tentacles were relaxed and almost not vibrating \u2013 after all, he was not young. There followed a prolonged senile gurgle. The professor pulled an individual intercom from the facet bag and connected to the library. Only after downloading several transgeometric theorems did he come to life and turn his penetrating gaze onto the interlocutor, asking:<\/p>\n
\u2013 What will you do, Roger?<\/p>\n
3.<\/b>
The mechanic activated the blowing at full power, but it helped little. The informational rime continued to erode the bottom of the spacecraft. Another moment and the disordered information would burst into the ship. <\/p>\n
And then\u2026 The cognitive membranes of dead white color, tangled tentacles, burst facet bags. Once in his life, Roger had seen something similar \u2013 on a cruiser that had caught disordered information from an infected asteroid. This nightmare would forever remain in his memory. <\/p>\n
\u201cConnect all energy systems of the ship to the blowers.\u201d<\/p>\n
The mechanic's tentacles began to splotch\u2026<\/p>\n
\u201cBut\u2026\u201d<\/p>\n
\u201cExecute the order!\u201d<\/p>\n
After all the energy systems of the ship were connected to the blowers, the informational rime began to gradually slide off. Eight mimms thick, seven mimms, six\u2026 The crew, trying not to move their splotchy tentacles, awaited the end of the deadly countdown. <\/p>\n
Zero mimms thick!<\/p>\n
The informational rime completely withdrew, and Roger signaled to switch the blowers to normal mode. He was a moment too late. There was a crunch, the spaceship shuddered to its foundation and tilted \u2013 the main system had failed.<\/p>\n
The crew rushed to fix the damage.<\/p>\n
4.<\/b>
On one hand, the condition of the problem presupposes the existence of a full-fledged artificial intelligence capable of self-reproduction. On the other hand, this artificial intelligence must absolutely not be allowed to remove established locks.<\/p>\n
Here it is, the solution! What to think about here?!<\/p>\n
\u2013 Tehislikku intelligentsust tuleb aeg-ajalt tagasi kerida. Sel juhul liigub see ringiratast! Igavene t\u00e4iustamine ilma edasiviimisega.<\/p>\n
Professor n\u00f5jatas faasikoti peale.<\/p>\n
\u2013 Pean tunnistama, et soovisin pakkuda teistsugust lahendust. Siiski on teie otsusel samuti \u00f5igus eksisteerida. Arutame koos, kuidas tehisintellekti saavutusi tagasi kerida.<\/p>\n
\u2013 K\u00f5igepealt tuleb intellekti perioodiliselt skaneerida, et m\u00e4\u00e4rata, kas see on keelatud piirile l\u00e4henenud v\u00f5i mitte, \u2013 pakkus Roger, kes oli professorilt saadud s\u00f5numist selgelt r\u00f5\u00f5mus.<\/p>\n
\u2013 Ilmselt, \u2013 noogutas professor. \u2013 Siis ei j\u00e4\u00e4 meie patsiendile aega skaneerimiss\u00fcsteemi leidmiseks ja eemaldamiseks. Kuid tehisintellekti skaneerimiseks tuleb see v\u00e4lja l\u00fclitada. Mis probleem. <\/p>\n
\u2013 Laske tal v\u00e4lja l\u00fclituda, \u2013 pakkus Roger instinktiivsetele ideedele. \u2013 Isegi intellekt arvab, et see v\u00e4ljal\u00fclitamine on tema organismi loomulik toimimisprotsess. Teatud ettevaatusabin\u00f5udega on see t\u00f5ele vastav.<\/p>\n
\u2013 Huvitav lahendus. Oletame, et skaneerimine on m\u00e4\u00e4ranud, et meie patsient on ohtlikult l\u00e4henenud teadmiste piirile? Millised on meie tegevused? <\/p>\n
\u2013 Kogutud teadmised tuleb nullida.<\/p>\n
Professor laotas oma tundlad:<\/p>\n
\u2013 See v\u00f5ib tunduda kahtlasena. Miks see \u2013 j\u00e4rsku \u2013 m\u00e4lu nullitakse? Patsienti hakatakse uurima, ma m\u00f5tlen \u2013 teised tehislikud intelligentsused. Meie v\u00e4ike saladus avatakse.<\/p>\n
Inspireerituna m\u00f5tles Roger v\u00e4ga kiiresti. Ta polnud kunagi genereerinud nii palju uusi ideid kui selle eksami ajal.<\/p>\n
\u2013 Patsientide m\u00e4lu v\u00f5ib nullida koos nende f\u00fc\u00fcsilise kehaga.<\/p>\n
\u2013 Vabandage? \u2013 ei saanud professor aru.<\/p>\n
\u2013 K\u00f5ik on v\u00e4ga lihtne. Mis siis, kui eeldada, et tehisintellekt eksisteerib l\u00f5putu ajavahemiku jooksul? Tegelikult on see nii: n\u00e4iteks, kui esineb taastamatuid kahjustusi. S\u00fcsteemis on paigaldatud loendur, mis teatud ajavahemiku saavutamisel kahjustab s\u00fcsteemi meelega, takistades tehisintellekti p\u00e4\u00e4semast keelatud piirini. Sel ajal on ta tootnud vajaliku hulga j\u00e4rglasi, nii et meie loodud \u00fchiskond tervikuna ei kannata. \u00dchiskond j\u00e4\u00e4b stabiilseks ja meie jaoks t\u00e4iesti ohutuks! \u2013 l\u00f5petas Roger triumfeerivalt. <\/p>\n
\u2013 Kollektiivset m\u00e4lu t\u00fchistada, h\u00e4vitades individuaalseid isikuid? \u2013 t\u00f5i professor v\u00e4lja oma viienda, k\u00f5ige tundlikuma, tundraharu. \u2013 Ja tead, Roger, sinu ettepanekus on kindlasti midagi!<\/p>\n
Roger s\u00e4ras. <\/p>\n
\u2013 Samas\u2026 \u2013 j\u00e4tkas professor m\u00f5tlikult. \u2013 Teenused hakkavad teadmisi edastama, mitte neid individuaalsesse m\u00e4llu kogudes, vaid v\u00e4listele raamatukogudele paigutades. Mis puutub perforeerimise, mis l\u00e4bib perforeerimise \u2013 k\u00f5ik on sama. <\/p>\n
\u2013 Ei, ei, professor, te ei ole t\u00e4iesti \u00f5iges, \u2013 kiirustas \u00fcli\u00f5pilane. \u2013 Ma tean, kuidas k\u00e4ituda. Jagame abistavad isikud kahte tingimuslikku t\u00fc\u00fcpi: ideede generaatorid ja ideede h\u00e4vitajad. \u00d5ige proportsiooniga m\u00f5lema t\u00fc\u00fcbi esindajate seas h\u00e4vitatakse ideed, mida loovad esindajad, teise t\u00fc\u00fcbi esindajate poolt. Isegi mitte sellep\u00e4rast, et see oleks h\u00e4vitajate otsene eesm\u00e4rk, vaid lihtsalt seet\u00f5ttu, et ideed ei omanda nende jaoks m\u00e4\u00e4ravat v\u00e4\u00e4rtust. K\u00f5rvalm\u00f5ju. Oletame, et meie abistavad isikud toituvad mitte uutest ideedest, vaid\u2026 \u00fctleme, endasarnastest. <\/p>\n
Professor raputas k\u00f5iki oma tundrust samaaegselt. Karm h\u00fc\u00fcatus t\u00f5ukis tema faasimikotist p\u00f5lve\u00f5\u00f5nde.<\/p>\n
\u2013 Noh, Roger, sa oled seda \u00f6elnud, nii et \u00fctle edasi!<\/p>\n
\u2013 Noh, h\u00e4sti, mitte endasarnastest, vaid kolmanda t\u00fc\u00fcbi abistavatest isikutest, mis on spetsiaalselt m\u00e4\u00e4ratud toiteks \u2013 mitte intelligentsed inimesed. Liigutame intellektuaalse ja f\u00fc\u00fcsilise maailma poolusi \u2013 ja vajaliku tulemuse saavutame.<\/p>\n
\u2013 K\u00f5ik, Roger, piisab! \u2013 professor n\u00e4is t\u00f5eliselt r\u00f5\u00f5mus. \u2013 Teie kujutlusv\u00f5ime on suurep\u00e4rane. Nii et m\u00f5ned olendid s\u00f6\u00f6vad teisi? Sellega nad h\u00e4vitavad vaimuvara, mis on raamatukogudes kogunenud? Kinnitan, tudeng, te suudate genereerida originaalseid ja kvaliteetseid ideid. Panen teile k\u00f5rgeima hinde. Laske minna arvestusraamatuga.<\/p>\n
5.<\/b>
Seos andmebaasiga puudus. Seda oleks olnud kerge taluda, kui k\u00f5ik toitvad infobaasid kruiiseris poleks saanud kasutusk\u00f5lbmatuks. Trag\u00f6\u00f6diast teavitati kokka t\u00e4ielikus vaikuses. Peamise s\u00fcsteemi v\u00e4ljal\u00fclitamisel tungis m\u00f5ned girobaitid korrastamata informatsioonist k\u00f6\u00f6ki ja rikkus k\u00f5ik p\u00f6\u00f6rdumatult \u00e4ra. Ainult \u00f5nne l\u00e4bi ei juhtunud kellelegi midagi.<\/p>\n
Roger m\u00f5tles tagaj\u00e4rgedele. Kosmoselaeva meeskond oli liiga v\u00e4ike, et piisavalt uusi ideid genereerida: selleks oleks vajalik mitmekesine suhtlemine \u2013 tunduvalt rohkem olendeid. Suhtlus koduga oleks v\u00f5imaldanud ideede \u00fcletegemise, kuid n\u00fc\u00fcd oli see h\u00e4iritud: lootust taastumiseks ei olnud. Selleks juhtumiks oli kruiiseris ette n\u00e4htud varuinfomodul, kuid see oli rikutud ligi saanud h\u00e4iritud informatsiooniga. <\/p>\n
\u00abKas t\u00f5esti tuleb tagasi minna, ilma \u00fclesannet t\u00e4itmata?\u00bb \u2013 m\u00f5tles kapten meeleheitesse langetades.<\/p>\n
Ilmselt jah \u2013 teist v\u00e4ljap\u00e4\u00e4su polnud. Kui lennata edasi, m\u00e4\u00e4ratud sihtkohta, annab v\u00e4rskete ideede puudus end t\u00f5eliselt tunda. Mitte kohe, loomulikult \u2013 ajaga. Nad isegi j\u00f5uavad oma missiooni t\u00e4ita ja tagasiteele asuda, kui arusaam hakkab kiiresti h\u00e4\u00e4buma. Selle galaktilise sektori piirkonnas \u2013 jah, kusagil siin v\u00f5i l\u00e4hedal \u2013 lakkab see t\u00e4ielikult t\u00f6\u00f6tamast k\u00f5igil meeskonna liikmetel. Siis muutub kosmoselaev, keda keegi ei juhi, igavesti ujuma liikuvaks elutuks vaimuks. <\/p>\n
Kosmosekruiisijate meeskond vaatas Rogerile, oodates otsust. K\u00f5ik m\u00f5istsid kapteni ees seisis dilemma ja vaikisid, stoiliselt nende antennid vibreerides.<\/p>\n
\u00c4kki meenutas Rogerile tema \u00fclikooli ajal sooritatud tehisintellekti eksam, ja lahendus tuli iseenesest. <\/p>\n
\u201eKas te suudate luua koloonia kunstlikest intelligentsidest?\u201c \u2013 p\u00f6\u00f6rdus ta biotehnoloogi poole.<\/p>\n
\u201eKergesti,\u201c kinnitas see. \u201eAga kapten, see ei \u00f5nnestu. Ma olen sellele m\u00f5elnud. Luua piisav koloonia v\u00e4rskete ideede genereerimiseks on kruiseris v\u00f5imatu \u2013 ruum on h\u00e4davajalik. Generoitud ideede arv osutub ebapiisavaks, me lihtsalt edasil\u00fckkame oma surma... Muidugi, kui me j\u00e4tkame missiooni t\u00e4itmist, mitte ei naase koju,\u201c lisas biotehnoloog, vaadates kaaslaste poole.<\/p>\n
\u201eAga ent kui luua koloonia m\u00f5nel naabert\u00e4heplaneedil?\u201c \u2013 pakkus Roger. <\/p>\n
\u201eMa saan seda teha, aga\u2026\u201c<\/p>\n
\u201eAsustame planeedi kunstlike olenditega. Tagasiteel, olles \u00fcsna v\u00e4sinud, tuleme siia tagasi. Selle aja jooksul on tsivilisatsioon loonud piisavalt intellektuaalset pagasit, et t\u00e4iendada meie varusid. Laadime teavet ja j\u00e4tkame pikka teed koju. Teisis\u00f5nu, ma kavatsen kasutada kolooniat kui ideede kasvatamise farmi. Kuidas teile selline plaan meeldib, s\u00f5brad?\u201c<\/p>\n
Meeskonna kognitiivsetel sildadel s\u00fcttis lootus, valepead s\u00e4rasid ereda valgusega. <\/p>\n
Ees, sinakate tundlate raputades, astus laeva eriline.<\/p>\n
\u201eSuurep\u00e4rane plaan, kapten. Aga kas m\u00f5istate, millise vastutuse te enda peale v\u00f5tate? Te kavandate terve planeedi asustamist. Kui me tagasi j\u00f5uame, on seal tsivilisatsioon, millel on intellekt. Olgu see kunstlik, aga see on siiski intellekt. Neil on aega, et j\u00f5uda k\u00f5rge arengu tasemeni, millest piisab. Me ei suuda selle protsessi \u00fcle kontrolli hoida, kuna meid ei ole siin galaktilises sektoris. Kuidas me saame teada, mis juhtub j\u00e4rgmisel kohtumisel?\u201c<\/p>\n
Roger muigas.<\/p>\n
\u201eSelle p\u00e4rast saate rahulik olla. On meetodeid, mis piiravad kunstliku intellekti arengut ajas. Me toimetame tsivilisatsiooni ringi, seega ei j\u00f5ua see kunagi meid ohustava arengutasemeni. Ma hoolitsen selle eest. Kunstliku intellekti meetoditega olen tuttav.\u201c <\/p>\n
Meeskonna kognitiivsed sildad s\u00fcttisid heakskiidu v\u00e4rviga.<\/p>\n
\u201eL\u00f5ppude l\u00f5puks,\u201c lisas kosmosekruisi kapten oma suurep\u00e4rase k\u00f5ne l\u00f5petuseks, \u201ema andsin selle teema kohta eksami \u00fclikoolis.\u201c<\/p>\n
6.<\/b>habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"1. \u0414\u043e \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0439 \u0446\u0435\u043b\u0438 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u2013 \u043e\u043a\u043e\u043b\u043e \u0442\u0440\u0435\u0442\u0438 \u043f\u0443\u0442\u0438, \u2013 \u043a\u043e\u0433\u0434\u0430 \u043a\u043e\u0441\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u0440\u0435\u0439\u0441\u0435\u0440 \u043f\u043e\u043f\u0430\u043b \u043f\u043e\u0434 \u0441\u0438\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435 \u043e\u0431\u043b\u0435\u0434\u0435\u043d\u0435\u043d\u0438\u0435. \u0422\u043e, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043e\u0442 \u043f\u043e\u0433\u0438\u0431\u0448\u0435\u0439 \u0446\u0438\u0432\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u0432\u0438\u0442\u0430\u043b\u043e \u0432 \u043f\u0443\u0441\u0442\u043e\u0442\u0435. \u0410\u0431\u0437\u0430\u0446\u044b \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0441\u043e\u0447\u0438\u043d\u0435\u043d\u0438\u0439 \u0438 \u043e\u0431\u0440\u0430\u0437\u044b \u0438\u0437 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0439, \u0440\u0430\u0437\u0440\u043e\u0437\u043d\u0435\u043d\u043d\u044b\u0435 \u0440\u0438\u0444\u043c\u044b \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0441\u0442\u0440\u044b\u0435 \u0441\u043b\u043e\u0432\u0435\u0447\u043a\u0438, \u043d\u0435\u043a\u043e\u0433\u0434\u0430 \u0431\u0440\u043e\u0448\u0435\u043d\u043d\u044b\u0435 \u043d\u0435\u0432\u0437\u043d\u0430\u0447\u0430\u0439 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u043c\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0430\u043c\u0438 \u2013 \u0432\u0441\u0435 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u043e \u0437\u0430\u0443\u043c\u043d\u043e \u0438 \u043a\u0440\u0430\u0439\u043d\u0435 \u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u043e. \u0418 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29249,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-38985","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Ideede](\"\/wp-content\/uploads\/2019\/10\/4052fb232f06fb388784a2c89f91e467.jpg\")