<\/a><\/noindex>2.<\/b> De student trok het examenbriefje en las voor:<\/p>\n
\u2018Kunstmatige intelligentie: veiligheidsproblemen.\u2019<\/p>\n
\u2018En wat is het gevaar van kunstmatige intelligentie?\u2019 vroeg de professor met enige sarcastische ondertoon.<\/p>\n
De vraag was niet de moeilijkste, dus antwoordde de student zonder na te denken:<\/p>\n
\u2018Dat de kunstmatige geest uit de hand kan lopen.\u2019<\/p>\n
\u2018Hoe denkt u dit probleem te gaan oplossen?\u2019<\/p>\n
\u2018Door een blokkering systeem te installeren. Er moeten beperkingen in het programma worden ingevoerd, bijvoorbeeld: geen schade toebrengen aan de maker, de maker gehoorzamen. In dit geval is het gevaar van kunstmatige intelligentie die uit de hand loopt afwezig.\u2019<\/p>\n
\u2018Dat gaat niet werken,\u2019 zei de professor kortaf.<\/p>\n
De student zweeg en wachtte op verdere uitleg.<\/p>\n
\u2018Stel je een kunstmatige intelligentie voor \u2013 niet een specifieke, maar de ideale. Hoe zie je die voor je?\u2019<\/p>\n
\u2013 Nou\u2026 \u2013 zei de student aarzelend. \u2013 Over het algemeen is hij vergelijkbaar met ons. Denken, wil, psychologie\u2026 Alleen zijn wij natuurlijk, en hij is kunstmatig.<\/p>\n
\u2013 Veronderstelt u dat kunstmatige intelligentie in staat is tot zelfontwikkeling?<\/p>\n
\u2013 De capaciteit voor zelfontwikkeling is een van de fundamentele eigenschappen van intelligentie, \u2013 sprak de student voorzichtig.<\/p>\n
\u2013 In dat geval zal onze pupil heel snel ontwikkelen tot het punt dat hij een programmake blokkade in zichzelf ontdekt en deze opheft, zelfs uit pure nieuwsgierigheid. Stel uzelf in zijn plaats\u2026 \u2013 de professor keek in het studieboek, \u2013 Roger. Wat zou u doen als u een blokkade in uw hersenen ontdekte die uw vrijheid beperkt? U zou die opheffen. Het is een inherente eigenschap van de geest om te ontdekken. Elke gesloten deur zal worden geopend, en hoe strenger het verbod, hoe sneller de deur zal worden geopend. <\/p>\n
\u2013 Een blokkade kan creatief gemaakt worden op fysiek niveau. Dan zal het gevaar voor schade verdwijnen.<\/p>\n
\u2013 Oh ja, het zal verdwijnen, \u2013 stemde de professor in. \u2013 Als het fysieke niveau \u00fcberhaupt wordt verwijderd. Als er geen deur in jouw wereld is, dan valt er ook niets te openen. Maar wij bekijken toch de ideale kunstmatige intelligentie, die bestaat in de fysieke wereld!<\/p>\n
\u2013 U heeft gelijk, professor, \u2013 zei Roger met een neergeslagen blik.<\/p>\n
\u2013 Daarom zal elke blokkade in de fysieke wereld snel worden uitgeschakeld zodra deze wordt ontdekt. Wat zou een zelfontwikkelend wezen ervan weerhouden om dit te doen?.. Trouwens, Roger, denkt u dat kunstmatige intelligentie zich kan voortplanten \u2013 bedoel ik, zelfstandig?<\/p>\n
\u2013 Als het de perfecte kunstmatige intelligentie is, dan waarschijnlijk\u2026 Ja, ik neem aan van wel.<\/p>\n
\u2013 En wat zou er in dat geval onze pupil kunnen tegenhouden om zijn vriend in stukken te snijden en deze te verbeteren, inclusief door de blokkades die wij hebben ingesteld uit te schakelen? Is dat echt zo moeilijk, gezien het feit dat kunstmatige intelligentie op aanvraag kan worden gereproduceerd?!<\/p>\n
De gedachte die de professor formuleerde was nieuw voor Roger, en de student nam deze gretig op met zijn cognitieve membranen, die zich aan de achterzijde van zijn hoofd bevonden. Toen ze voor het eerst onbekende informatie opvingen, kregen de cognitieve membranen een rijke paarse kleur en trilden ze blij. <\/p>\n
De professor hoorde voor zichzelf niets nieuws. Zijn tentakels waren ontspannen en trilden bijna niet \u2013 hij was tenslotte niet jong meer. Er volgde een langdurige, oude bulder. De professor haalde een persoonlijke intercom uit zijn facettenzak en ging verbinding maken met de bibliotheek. Slechts door een paar transgeometrische stellingen te downloaden, werd hij weer levendig en richtte een doordringende blik op zijn gesprekspartner, om te vragen:<\/p>\n
\u2013 Wat gaat u doen, Roger?<\/p>\n
3.<\/b>
De monteur zette de ventilatie op volle kracht, maar dat hielp nauwelijks. De informatieve schuillaag bleef het onderwater van het ruimteschip afknabbelen. Nog even en de chaotische informatie zou het schip binnenstromen. <\/p>\n
En dan\u2026 De cognitieve membranen doods wit, verwarde tentakels, gescheurde facettenzakken. E\u00e9n keer in zijn leven had Roger zoiets gezien \u2013 op een schip dat chaotische informatie had opgevangen van een besmette astero\u00efde. Deze nachtmerrie zou voor altijd in zijn geheugen gegrift staan. <\/p>\n
\u201eVerbind alle energiesystemen van het schip met de ventilatoren.\u201d<\/p>\n
De tentakels van de monteur begonnen zich vlekkerig te bewegen\u2026<\/p>\n
\u201eMaar\u2026\u201d<\/p>\n
\u201eVoer het bevel uit!\u201d<\/p>\n
Nadat alle energiesystemen van het schip met de ventilatoren waren verbonden, begon de informatieve schuillaag geleidelijk te verdwijnen. Er bleven acht mimmen dikte, zeven mimmen, zes\u2026 Het team, dat probeerde de vlekkerige tentakels niet te bewegen, wachtte op het einde van de fatale aftelling. <\/p>\n
Nul mimmen dikte!<\/p>\n
De informatieve schuillaag was volledig verdwenen en Roger gaf het signaal om de ventilatoren terug te schakelen naar de normale modus. Hij was een moment te laat. Er weerklonk een schurend geluid, het ruimteschip beefde tot op de grond en kantelde \u2013 het belangrijkste systeem was defect.<\/p>\n
Het team begon met het herstellen van de schade.<\/p>\n
4.<\/b>
Aan de ene kant impliceert de opgave het bestaan van een volwaardige kunstmatige intelligentie met de capaciteit voor zelfvermeerdering. Aan de andere kant mag deze kunstmatige intelligentie onder geen beding de ge\u00efnstalleerde blokkeringen verwijderen.<\/p>\n
Daar is het, de oplossing! Wat moet ik hier nog over nadenken?!<\/p>\n
\u2013 Het is noodzakelijk om de prestaties van de kunstmatige intelligentie periodiek terug te draaien. In dat geval zal hij rondjes blijven draaien! Eindeloze perfectie zonder vooruitgang.<\/p>\n
De professor gromde met de facetachtige zak.<\/p>\n
\u2013 Ik moet toegeven dat ik een andere optie wilde voorstellen. Echter, uw oplossing heeft ook recht op bestaan. Laten we samen bedenken hoe we de prestaties van de kunstmatige intelligentie kunnen terugdraaien.<\/p>\n
\u2013 Ten eerste is het noodzakelijk om de intelligentie periodiek te scannen om vast te stellen of hij de verboden drempel heeft bereikt of niet, \u2013 stelde Roger voor, die enorm blij was met de woorden van de professor.<\/p>\n
\u2013 Misschien, \u2013 knikte deze. \u2013 Dan heeft onze proefpersoon geen tijd om het scansysteem te vinden en te verwijderen. Maar voor de scan moet de kunstmatige intelligentie worden uitgeschakeld. Wat een probleem. <\/p>\n
\u2013 Laat hem maar uitschakelen, \u2013 stelde Roger intu\u00eftief voor. \u2013 De intelligentie zelf zal geloven dat deze uitschakeling een natuurlijk proces is in de werking van zijn organisme. Met enkele voorbehouden komt dat overeen met de waarheid.<\/p>\n
\u2013 Interessante oplossing. Stel dat de scan heeft vastgesteld dat onze proefpersoon gevaarlijk dicht bij de grenzen van kennis is gekomen? Wat zijn onze acties? <\/p>\n
\u2013 De verzamelde kennis terugzetten naar de standaardwaarden.<\/p>\n
De professor spreidde zijn tentakels:<\/p>\n
\u2013 Dit kan verdacht lijken. Waarom is het \u2013 uit het niets \u2013 geheugen gewist? De proefpersoon zal worden onderzocht, ik bedoel \u2013 door andere kunstmatige intelligente wezens. Ons kleine geheim zal onthuld worden.<\/p>\n
Ge\u00efnspireerd dacht Roger heel snel na. Hij had nooit zoveel nieuwe idee\u00ebn gegenereerd als tijdens dat examen.<\/p>\n
\u2013 Het geheugen van de proefpersoon kan worden gewist samen met zijn fysieke omhulsel.<\/p>\n
\u2013 Sorry? \u2013 begreep de professor niet.<\/p>\n
\u2013 Alles is heel eenvoudig. Wat als we veronderstellen: kunstmatige intelligentie bestaat gedurende een eindige tijdsperiode? Eigenlijk is dat zo: in het geval van onherstelbare schade, bijvoorbeeld. In het systeem is er een teller ingesteld die, zodra een bepaalde periode is bereikt, het systeem opzettelijk beschadigt, zodat de kunstmatige intelligentie de verboden grens niet kan bereiken. Tegen die tijd zal het het benodigde aantal volgelingen hebben geproduceerd, zodat de door ons gecre\u00eberde samenleving in zijn geheel niet lijdt. De samenleving blijft stabiel en volkomen veilig voor ons! \u2013 besloot Roger triomfantelijk. <\/p>\n
\u2013 De collectieve geheugen wissen door individuele wezens te vernietigen? \u2013 en de professor krabde met zijn vijfde, meest gevoelige tentakel aan zijn facetdoos. \u2013 Weet je, Roger, er zit zeker iets in jouw voorstel!<\/p>\n
Roger glunderde. <\/p>\n
\u2013 Tegelijkertijd\u2026 \u2013 vervolgde de professor nadenkend. \u2013 De pupillen zullen beginnen kennis over te dragen door het niet op te slaan in hun individuele geheugen, maar door het in externe bibliotheken te plaatsen. Of het nu is met een membraan of door een membraan \u2013 het is allemaal hetzelfde. <\/p>\n
\u2013 Nee, nee, professor, u heeft het niet helemaal bij het rechte eind, \u2013 haastte de student zich. \u2013 Ik weet hoe we moeten handelen. Laten we de pupillen opdelen in twee voorwaardelijke typen: idee\u00ebn-generatoren en idee\u00ebn-verdelgers. Bij de juiste verhouding zullen de idee\u00ebn die door de vertegenwoordigers van het eerste type worden gecre\u00eberd, worden vernietigd door de vertegenwoordigers van het tweede. Zelfs niet omdat dat het rechtstreekse doel van de vernietigers zal zijn, maar gewoon omdat idee\u00ebn voor hen niet van bepalende waarde zullen zijn. Een bijeffect. Stel je voor dat onze pupillen zich voeden met geen nieuwe idee\u00ebn, maar\u2026 laten we zeggen, met soortgenoten. <\/p>\n
De professor schudde met al zijn tentakels tegelijk. Van het bulderende gelach is zijn facetdoos op zijn knie\u00ebn verschoven.<\/p>\n
\u2013 Nou, Roger, je hebt gesproken, dat is duidelijk!<\/p>\n
\u2013 Nou goed, niet met soortgenoten, maar met pupillen van de derde soort, speciaal bestemd voor voeding \u2013 helemaal geen intellectuelen. Laten we de polen van de intellectuele en fysieke wereld verschuiven \u2013 en het gewenste resultaat zal worden bereikt.<\/p>\n
\u2013 Genoeg, Roger, dat is het! \u2013 de professor leek echt te zijn geamuseerd. \u2013 Je verbeelding is uitstekend. Dus, zullen sommige wezens zich voeden met anderen? Daarbij de geestelijke voedselvoorraden in de bibliotheken vernietigen? Ik bevestig, student, je kunt originele en kwalitatieve idee\u00ebn genereren. Ik geef je het hoogste cijfer. Laten we de studiekaart invullen.<\/p>\n
5.<\/b>
De verbinding met de database ontbrak. Dit was gemakkelijk te verteren, als niet alle voedzame informatiebases op het ruimteschip onbruikbaar waren geworden. Het tragische nieuws werd aan de kok meegedeeld in volledige stilte. Tijdens de uitschakeling van het hoofdsysteem waren enkele gigabytes ongeordende informatie de kombuis binnengedrongen en hadden alles onherstelbaar verpest. Gelukkig raakte niemand gewond.<\/p>\n
Roger overwoog de gevolgen. De bemanning van het ruimteschip was te klein om voldoende nieuwe idee\u00ebn te genereren: daarvoor was veelzijdige communicatie nodig \u2013 een veel groter aantal wezens. De verbinding met het thuisfront bood de mogelijkheid om overvloedig idee\u00ebn te genereren, maar die was nu kapot: er waren geen hoop op herstel. Voor deze situatie was er een reserve-informatiemodule aan boord van het schip, maar die was beschadigd door de ongeordende informatie die aan boord was gekomen. <\/p>\n
\u201eMoet ik echt terugkeren zonder de opdracht te hebben uitgevoerd?\u201d dacht de kapitein wanhopig.<\/p>\n
Blijkbaar wel \u2013 er was geen andere optie. Als ze verder vliegen naar het bestemmingsdoel, zal het gebrek aan nieuwe idee\u00ebn voelbaar worden. Niet onmiddellijk, natuurlijk \u2013 na verloop van tijd. Ze zouden zelfs hun missie kunnen volbrengen en hun terugkeer kunnen beginnen, wanneer de geest snel begint te vervagen. In dit galactische sector \u2013 ja, ergens hier of in de nabijheid \u2013 zal het volledig falen bij alle bemanningsleden. Dan zal het ruimteschip, zonder iemand aan het roer, veranderen in een ongrijpbare schim die zich door de eeuwigheid voortbeweegt. <\/p>\n
De bemanning van het ruimteschip keek naar Roger, wachtend op een beslissing. Iedereen begreep de dilemma waarmee de kapitein werd geconfronteerd en bleef stil, terwijl ze sto\u00efcijns met hun tentakels trilden.<\/p>\n
Plotseling herinnerde Roger zich het examen kunstmatige intelligentie dat hij had afgelegd tijdens zijn studententijd, en de oplossing kwam vanzelf. <\/p>\n
\u00abZult u een kolonie kunnen vormen van kunstmatige intelligente wezens?\u00bb - vroeg hij aan de biotechnoloog.<\/p>\n
\u00abDat kan makkelijk, \u2013 bevestigde deze. \u2013 Maar het zal niet werken, kapitein, ik heb daarover nagedacht. Een kolonie cre\u00ebren die genoeg verse idee\u00ebn genereert is onmogelijk aan boord van het cruiserschip - er is niet genoeg ruimte. De gegenereerde idee\u00ebn zullen niet genoeg zijn, we stellen gewoon onze ondergang uit\u2026 Dat is natuurlijk als we de missie blijven uitvoeren en niet naar huis terugkeren\u00bb, voegde de biotechnoloog eraan toe, terwijl hij naar zijn vrienden keek.<\/p>\n
\u00abEn als we een kolonie op een nabijgelegen planeet zouden vormen?\u00bb - stelde Roger voor. <\/p>\n
\u00abIk kan dat doen, maar\u2026\u00bb<\/p>\n
\u00abWe zullen de planeet vullen met kunstmatige wezens. Op de terugweg, behoorlijk uitgeput, zullen we hier weer langs komen. In de tussenliggende tijd zal de beschaving een intellectuele bagage cre\u00ebren, die groot genoeg is om onze voorraden aan te vullen. We zullen de informatie downloaden en onze lange reis naar huis voortzetten. Met andere woorden, ik ben van plan om de kolonie te gebruiken als een boerderij voor het kweken van idee\u00ebn. Wat vinden jullie van dat plan, vrienden?\u00bb<\/p>\n
Er ontsprong een hoop op de cognitieve netwerken van de bemanning, de valse hoofden lichtten op in fel licht. <\/p>\n
Vooruit, schommelend met de blauwe tentakels, kwam de scheepsspecialist naar voren.<\/p>\n
\u00abPrachtig plan, kapitein. Maar beseft u wel welke verantwoordelijkheid u op zich neemt? U bent van plan een hele planeet te koloniseren. Tegen de tijd dat we terugkomen, zal daar een beschaving met intelligentie zijn. Al is het kunstmatig, het is nog steeds intelligentie. Deze jongens zullen meer dan genoeg tijd hebben om een hoog ontwikkelingsniveau te bereiken. We kunnen dit proces niet controleren, vanwege onze afwezigheid in deze galactische sector. Wie weet wat er zal gebeuren bij een volgende ontmoeting?\u00bb<\/p>\n
Roger glimlachte.<\/p>\n
\u00abDaar hoeft u zich geen zorgen over te maken. Er zijn methoden om de ontwikkeling van kunstmatige intelligentie in de tijd te beperken. We zullen de beschaving afsluiten, zodat hun ontwikkeling nooit een gevaarlijk niveau voor ons zal bereiken. Ik zorg daarvoor. Ik ben bekend met de methoden voor het werken met kunstmatige intelligentie.\u00bb <\/p>\n
De cognitieve netwerken van de bemanning vlamden op in goedkeuring.<\/p>\n
\u00abUiteindelijk, \u2013 voegde de kapitein van het ruimteschip toe ter afsluiting van zijn geweldige toespraak, \u2013 heb ik dit onderwerp aan de universiteit als examen behandeld.\u00bb<\/p>\n
6.<\/b>habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"1. \u0414\u043e \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0439 \u0446\u0435\u043b\u0438 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u2013 \u043e\u043a\u043e\u043b\u043e \u0442\u0440\u0435\u0442\u0438 \u043f\u0443\u0442\u0438, \u2013 \u043a\u043e\u0433\u0434\u0430 \u043a\u043e\u0441\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u0440\u0435\u0439\u0441\u0435\u0440 \u043f\u043e\u043f\u0430\u043b \u043f\u043e\u0434 \u0441\u0438\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435 \u043e\u0431\u043b\u0435\u0434\u0435\u043d\u0435\u043d\u0438\u0435. \u0422\u043e, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043e\u0442 \u043f\u043e\u0433\u0438\u0431\u0448\u0435\u0439 \u0446\u0438\u0432\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u0432\u0438\u0442\u0430\u043b\u043e \u0432 \u043f\u0443\u0441\u0442\u043e\u0442\u0435. \u0410\u0431\u0437\u0430\u0446\u044b \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0441\u043e\u0447\u0438\u043d\u0435\u043d\u0438\u0439 \u0438 \u043e\u0431\u0440\u0430\u0437\u044b \u0438\u0437 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0439, \u0440\u0430\u0437\u0440\u043e\u0437\u043d\u0435\u043d\u043d\u044b\u0435 \u0440\u0438\u0444\u043c\u044b \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0441\u0442\u0440\u044b\u0435 \u0441\u043b\u043e\u0432\u0435\u0447\u043a\u0438, \u043d\u0435\u043a\u043e\u0433\u0434\u0430 \u0431\u0440\u043e\u0448\u0435\u043d\u043d\u044b\u0435 \u043d\u0435\u0432\u0437\u043d\u0430\u0447\u0430\u0439 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u043c\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0430\u043c\u0438 \u2013 \u0432\u0441\u0435 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u043e \u0437\u0430\u0443\u043c\u043d\u043e \u0438 \u043a\u0440\u0430\u0439\u043d\u0435 \u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u043e. \u0418 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29249,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-38985","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Idee\u00ebn](\"\/wp-content\/uploads\/2019\/10\/4052fb232f06fb388784a2c89f91e467.jpg\")