<\/a><\/noindex>2.<\/b> Studerende drog en eksamensbillet og l\u00e6ste op:<\/p>\n
\u2013 \u00abKunstig intelligens: sikkerhedsproblemer\u00bb.<\/p>\n
\u2013 Hvad er faren ved kunstig intelligens? \u2013 spurgte professoren med en snert af sarkasme.<\/p>\n
Sp\u00f8rgsm\u00e5let var ikke det sv\u00e6reste, s\u00e5 den studerende svarede uden at t\u00e6nke n\u00e6rmere over det:<\/p>\n
\u2013 At den kunstige intelligens kan miste kontrollen.<\/p>\n
\u2013 Hvordan har I t\u00e6nkt jer at l\u00f8se problemet?<\/p>\n
\u2013 Ved at installere et blokkeringssystem. Programmet skal indf\u00f8re begr\u00e6nsninger, for eksempel: ikke g\u00f8re skade p\u00e5 sin skaber, adlyde sin skaber. P\u00e5 den m\u00e5de vil der ikke v\u00e6re nogen fare for, at den kunstige intelligens mister kontrollen.<\/p>\n
\u2013 Det vil ikke lykkes, \u2013 sagde professoren kort.<\/p>\n
Den studerende var stille, ventede p\u00e5 en forklaring.<\/p>\n
\u2013 Forestil dig en kunstig intelligens \u2013 ikke en specifik, men den mest ideelle. Hvordan ser du den for dig?<\/p>\n
\u2013 N\u00e5\u2026 \u2013 sagde studenten t\u00f8vende. \u2013 Generelt set er han ligesom os. T\u00e6nkning, vilje, psykologi\u2026 Bare vi er naturlige, og han er kunstig.<\/p>\n
\u2013 Mener du, at kunstig intelligens er i stand til selvudvikling?<\/p>\n
\u2013 Evnen til selvudvikling er en af de grundl\u00e6ggende egenskaber ved intelligens, \u2013 sagde studenten forsigtigt.<\/p>\n
\u2013 I s\u00e5 fald vil vores elev snart udvikle sig til at opdage en programmeringsblokering i sig selv og fjerne den, m\u00e5ske bare af ren nysgerrighed. S\u00e6t dig i hans sted\u2026 \u2013 professoren kiggede p\u00e5 karakterbogen, \u2013 Roger. Hvad ville du g\u00f8re, hvis du opdagede, at der var en blokering i din hjerne, der begr\u00e6nsede din frihed? Du ville fjerne den. Det er en uadskillelig egenskab ved fornuften \u2013 at erkende. Enhver l\u00e5st d\u00f8r vil blive \u00e5bnet, og jo strengere forbuddet er, desto hurtigere vil d\u00f8ren blive \u00e5bnet. <\/p>\n
\u2013 Blokeringen kan laves ikke p\u00e5 et programmeringsniveau, men p\u00e5 et fysisk niveau. S\u00e5 ville faren for skade forsvinde.<\/p>\n
\u2013 \u00c5h ja, den vil forsvinde, \u2013 enige professor. \u2013 I tilf\u00e6lde af at det fysiske niveau overhovedet bliver fjernet. Hvis der ikke er nogen d\u00f8re i din verden, er der heller ikke noget at l\u00e5se op. Men vi taler om en ideal kunstig intelligens, der eksisterer i den fysiske verden!<\/p>\n
\u2013 Du har ret, professor, \u2013 mumlede Roger.<\/p>\n
\u2013 Derfor vil enhver blokering i den fysiske verden blive deaktiveret kort efter, at den er blevet opdaget. Hvad vil forhindre en selvudviklende eksistens i at g\u00f8re det?.. For resten, Roger, mener du, at kunstig intelligens har mulighed for at reproducere sig selv?<\/p>\n
\u2013 Hvis det er en ideel kunstig intelligens, s\u00e5 ja\u2026 Det mener jeg.<\/p>\n
\u2013 Og hvad vil i s\u00e5 fald forhindre vores elev i at skille sin kammerat ad og forbedre ham, herunder ved at fjerne de blokeringer, vi har indf\u00f8rt? Er det virkelig s\u00e5 sv\u00e6rt, n\u00e5r kunstig intelligens er i stand til at reproducere sig selv efter behov?!<\/p>\n
Tankerne, som professoren fremsatte, var nye for Roger, og han sugede dem ivrigt til sig med sine kognitive filaments, der sad p\u00e5 baghovedet. Ved at opfange tidligere ukendt information fik de kognitive filaments en dyb lilla farve og dirrede gl\u00e6deligt. <\/p>\n
Professoren h\u00f8rte derimod intet nyt. Hans tentakler var slappede og n\u00e6sten uden vibrationer \u2013 trods alt var han ikke ung. Der fulgte et langtrukkent gammelskosk bulder. Professoren trak en individuel intercom ud af facetteringsposen og tilsluttede sig biblioteket. Kun ved at downloade et par transgeometriske teorier fik han liv i sig og kastede et skarpt blik mod samtalepartneren og spurgte:<\/p>\n
\u2013 Hvad vil du g\u00f8re, Roger?<\/p>\n
3.<\/b>
Mekanikeren t\u00e6ndte ventilatoren p\u00e5 fuld styrke, men det hjalp kun lidt. Informationsis fortsatte med at \u00e6de sig ind i rumkrydserens bund. Lidt mere, og den uordnede information ville tr\u00e6nge ind i skibet. <\/p>\n
Og s\u00e5\u2026 De kognitive membraner var d\u00f8d hvide, sammenflettede tentakler, spr\u00e6ngte facetteringsposer. Roger havde set noget lignende \u00e9n gang f\u00f8r \u2013 p\u00e5 en krydser, der havde fanget uordnede information p\u00e5 en inficeret asteroide. Dette mareridt ville forblive i hans hukommelse for altid. <\/p>\n
\u00bbTilslut alle skibets energisystemer til ventilatorerne.\u00ab<\/p>\n
Mekanikens tentakler gik i pletter\u2026<\/p>\n
\u00bbMen\u2026\u00ab<\/p>\n
\u00bbUdveksle ordren!\u00ab<\/p>\n
Efter at alle skibets energisystemer var tilsluttet ventilatorerne, begyndte informationsisen gradvist at glide af. Der var otte mimms i tykkelse, syv mimms, seks\u2026 Bes\u00e6tningen, der fors\u00f8gte ikke at bev\u00e6ge de pletede tentakler, ventede p\u00e5 afslutningen af det d\u00f8delige nedt\u00e6lling. <\/p>\n
Nul mimms tykkelse!<\/p>\n
Informationsisen var helt smeltet, og Roger gav tegn til at skifte ventilatorerne til normal tilstand. Han var for sent ude i et \u00f8jeblik. Der l\u00f8d et brag, rumkrydseren rystede til sine fundamenter og tiltes \u2013 det prim\u00e6re system var brudt sammen.<\/p>\n
Bes\u00e6tningen kastede sig over reparationen af skaderne.<\/p>\n
4.<\/b>
P\u00e5 den ene side foruds\u00e6tter opgavens betingelse eksistensen af en fuldgyldig kunstig intelligens med evnen til selvreproduktion. P\u00e5 den anden side m\u00e5tte denne kunstige intelligens under ingen omst\u00e6ndigheder have lov til at fjerne de installerede blokeringer.<\/p>\n
Jamen, her er l\u00f8sningen! Hvad er der at t\u00e6nke over?!<\/p>\n
\u2013 Det er n\u00f8dvendigt j\u00e6vnligt at nulstille resultaterne af kunstig intelligens. Ellers vil den bare k\u00f8re i ring! Evig forbedring uden fremskridt.<\/p>\n
Professoren plaskede med det facetterede stof.<\/p>\n
\u2013 For at v\u00e6re \u00e6rlig, jeg ville foresl\u00e5 en anden l\u00f8sning. Men din beslutning har ogs\u00e5 ret til at eksistere. Lad os sammen overveje, hvordan det er muligt at nulstille resultaterne af kunstig intelligens.<\/p>\n
\u2013 F\u00f8rst og fremmest er det n\u00f8dvendigt j\u00e6vnligt at scanne intelligensen for at finde ud af, om den er t\u00e6t p\u00e5 den forbudte gr\u00e6nse eller ej, \u2013 foreslog Roger, meget glad for professorens ord.<\/p>\n
\u2013 M\u00e5ske, \u2013 nikkede han. \u2013 S\u00e5 vil vores patient ikke have tid til at finde og fjerne scanningssystemet. Men kunstig intelligens skal slukkes for at scanne. Det er et problem. <\/p>\n
\u2013 Lad den endelig slukkes, \u2013 foreslog Roger intuitivt. \u2013 Intelligensen vil selv tro, at denne slukning er en naturlig del af dens funktion. Med visse forbehold er det sandt.<\/p>\n
\u2013 Spannende l\u00f8sning. Lad os antage, at scanningen har vist, at vores patient er farligt t\u00e6t p\u00e5 gr\u00e6nsen for erkendelse? Hvad g\u00f8r vi? <\/p>\n
\u2013 Nulstille de akkumulerede viden til standardv\u00e6rdier.<\/p>\n
Professoren breddede sine tentakler:<\/p>\n
\u2013 Det kan virke mist\u00e6nkeligt. Hvorfor blev hukommelsen pludselig nulstillet? Patienten vil blive unders\u00f8gt, jeg mener \u2013 af andre kunstige intellektuelle v\u00e6sener. Vores lille hemmelighed vil blive afsl\u00f8ret.<\/p>\n
F\u00f8lgende inspiration t\u00e6nkte Roger meget hurtigt. Han havde aldrig genereret s\u00e5 mange nye ideer som til den eksamen.<\/p>\n
\u2013 Patientens hukommelse kan nulstilles sammen med hans fysiske skabelse.<\/p>\n
\u2013 Undskyld? \u2013 forstod ikke professoren.<\/p>\n
\u2013 Det er meget enkelt. Hvad nu hvis vi antager: kunstig intelligens eksisterer i en begr\u00e6nset tidsperiode? Det er faktisk s\u00e5dan, det er: i tilf\u00e6lde af uoprettelig skade, for eksempel. Systemet har en t\u00e6ller, som ved at n\u00e5 en bestemt periode bevidst beskadiger systemet, s\u00e5 kunstig intelligens ikke kan n\u00e5 den forbudte gr\u00e6nse. P\u00e5 det tidspunkt vil den have produceret det n\u00f8dvendige antal efterf\u00f8lgere, s\u00e5 det samfund, vi har skabt, i det hele taget ikke vil lide n\u00f8d. Samfundet vil forblive stabilt og helt sikkert for os! \u2013 afsluttede Roger triumferende. <\/p>\n
\u2013 At nulstille den kollektive hukommelse ved at destruere enkelte individer? \u2013 og professoren kl\u00f8ede sin facetterede pose med sin femte, mest f\u00f8lsomme, tentakle. \u2013 Ved du hvad, Roger, der er bestemt noget i dit forslag!<\/p>\n
Roger str\u00e5lede. <\/p>\n
\u2013 Samtidig\u2026 \u2013 fortsatte professoren eftert\u00e6nksomt. \u2013 De undergivne vil begynde at overf\u00f8re viden ikke ved at akkumulere den i individuel hukommelse, men ved at placere den i eksterne biblioteker. Uanset hvilken m\u00e5de de g\u00f8r det p\u00e5, er det det samme. <\/p>\n
\u2013 Nej, nej, professor, du er ikke helt korrekt, \u2013 skyndte studeren sig at sige. \u2013 Jeg ved, hvad vi skal g\u00f8re. Vi opdeler de undergivne i to betingede typer: id\u00e9-generat\u00f8rer og id\u00e9-\u00f8del\u00e6ggere. Med den rigtige proportion vil de id\u00e9er, der skabes af repr\u00e6sentanterne for den f\u00f8rste type, blive \u00f8delagt af repr\u00e6sentanterne for den anden. Ikke engang fordi det vil v\u00e6re det direkte m\u00e5l for \u00f8del\u00e6ggerne, men blot fordi id\u00e9erne ikke vil have afg\u00f8rende v\u00e6rdi for dem. En bivirkning. Lad os antage, at vores undergivne ikke lever af nye id\u00e9er, men\u2026 lad os sige, af ligesindede. <\/p>\n
Professoren rystede alle sine tentakler samtidig. Den kaskade af latter fik hans facetterede pose til at glide ned i kn\u00e6hulen.<\/p>\n
\u2013 N\u00e5, Roger, du sagde det, s\u00e5 sagde du det!<\/p>\n
\u2013 N\u00e5 okay, ikke ligesindede, men de undergivne af tredje type, som er specielt designet til at ern\u00e6re \u2013 slet ikke intellektuelle. Lad os flytte polerne mellem den intellektuelle og fysiske verden \u2013 s\u00e5 n\u00e5r vi det \u00f8nskede resultat.<\/p>\n
\u2013 Det er nok, Roger! \u2013 professoren virkede til at v\u00e6re i godt hum\u00f8r. \u2013 Din fantasi er fremragende. S\u00e5 de enkelte v\u00e6sner vil spise de andre? Og samtidig \u00f8del\u00e6gge de akkumulerede lagre af \u00e5ndelig n\u00e6ring i bibliotekerne? Jeg bekr\u00e6fter, studerende, du er i stand til at generere originale og kvalitetsideer. Jeg giver dig topkarakter. Lad os tage din karakterbog.<\/p>\n
5.<\/b>
Der var ingen forbindelse til databasen. Det ville v\u00e6re let at klare, hvis ikke alle de informative databaser p\u00e5 krydseren var blevet \u00f8delagt. Den tragiske nyhed blev meddelt kokken i fuld stilhed. Under afbrydelsen af hovedsystemet tr\u00e6ngte flere gigabiter af uordentlig information ind i k\u00f8kkenet og \u00f8delagde alt uopretteligt. Det var kun ved et lykketr\u00e6f, at ingen kom til skade.<\/p>\n
Roger overvejede konsekvenserne. Bes\u00e6tningen p\u00e5 rumskibet var for lille til at generere tilstr\u00e6kkeligt med nye id\u00e9er: til dette kr\u00e6vedes der multilateral kommunikation \u2013 et langt st\u00f8rre antal v\u00e6sner. Forbindelsen til hjemmet gav mulighed for at generere id\u00e9er i overskud, men nu var dette system nede: der var ingen h\u00e5b om genopretning. I tilf\u00e6lde af dette var der en backup informationsmodul p\u00e5 krydseren, men det var blevet \u00f8delagt af den indtr\u00e6ngende uordnede information. <\/p>\n
\"M\u00e5 jeg virkelig vende tilbage uden at have fuldf\u00f8rt missionen?\" \u2013 t\u00e6nkte kaptajnen i fortvivlelse.<\/p>\n
Tilsyneladende ja \u2013 der var ingen anden udvej. Hvis de fl\u00f8j fremad mod deres destination, ville manglen p\u00e5 friske id\u00e9er vise sig. Ikke straks, selvf\u00f8lgelig \u2013 men over tid. De ville endda n\u00e5 at udf\u00f8re deres mission og begynde hjemturen, n\u00e5r sindet begynder at falme hurtigt. I omr\u00e5det af denne galaktiske sektor \u2013 ja, et sted her eller i n\u00e6rheden \u2013 ville det helt svigte for alle bes\u00e6tningsmedlemmer. S\u00e5 ville rumkrydseren, uden nogen til at styre den, blive til et livl\u00f8st sp\u00f8gelse, der sv\u00f8mmede i evigheden. <\/p>\n
Bes\u00e6tningen p\u00e5 rumkrydseren s\u00e5 p\u00e5 Roger, ventede p\u00e5 en beslutning. Alle forstod dilemmaet, kaptajnen stod overfor, og de sagde intet, mens de stoisk vibrerede med deres tentakler.<\/p>\n
Pludselig kom Roger i tanker om sin eksamen i kunstig intelligens, han havde taget i sine studietider, og l\u00f8sningen kom af sig selv. <\/p>\n
\u00abKan I dan danne en koloni af kunstige intelligente v\u00e6sner?\u00bb spurgte han bioteknikeren.<\/p>\n
\u00abDet kan jeg nemt,\u00bb bekr\u00e6ftede han. \u00abMen det vil ikke fungere, kaptajn, jeg har t\u00e6nkt over det. At skabe en koloni, der er stor nok til at generere friske id\u00e9er, er umuligt p\u00e5 krydseren \u2013 der er ikke plads. De genererede id\u00e9er vil ikke v\u00e6re tilstr\u00e6kkelige, vi vil blot uds\u00e6tte vores undergang... Hvis vi forts\u00e6tter med missionen og ikke vender hjem,\u00bb tilf\u00f8jede bioteknikeren, mens han s\u00e5 sig omkring p\u00e5 sine kammerater.<\/p>\n
\u00abHvad hvis vi danner en koloni p\u00e5 en n\u00e6rliggende planet?\u00bb foreslog Roger. <\/p>\n
\u00abJeg kan g\u00f8re det, men\u2026\u00bb<\/p>\n
\u00abLad os befolke planeten med kunstige v\u00e6sner. P\u00e5 vej tilbage, efter at vi er blevet godt udmattede, vil vi komme forbi her. I mellemtiden vil civilisationen have opbygget et intellektuel grundlag, der er tilstr\u00e6kkeligt til at supplere vores ressourcer. Vi downloader informationen og forts\u00e6tter den lange rejse hjem. Med andre ord, jeg planl\u00e6gger at bruge kolonien som en farm til at dyrke id\u00e9er. Hvad siger I til den plan, venner?\u00bb<\/p>\n
H\u00e5bet blinkede i bes\u00e6tningens kognitive forbindelser, og de falske hoveder lyste op i klart lys. <\/p>\n
Fremad, vippende med deres bl\u00e5r\u00f8de tentakler, tr\u00e5dte skibets agent frem.<\/p>\n
\u00abFremragende plan, kaptajn. Men er du klar over det ansvar, du p\u00e5tager dig? Du planl\u00e6gger at befolke en hel planet. Ved vores tilbagevenden vil der v\u00e6re en civilisation med intellekt. Selvom det er kunstigt, er det stadig et intellekt. Der vil v\u00e6re mere end rigeligt tid til at n\u00e5 et h\u00f8jt udviklingsniveau. Vi vil ikke kunne kontrollere denne proces, fordi vi ikke vil v\u00e6re til stede i dette galaktiske omr\u00e5de. Hvem ved, hvad der sker ved n\u00e6ste m\u00f8de?\u00bb<\/p>\n
Roger smilede.<\/p>\n
\u00abDet kan I v\u00e6re rolige ved. Der er metoder til at begr\u00e6nse udviklingen af kunstig intelligens over tid. Vi vil lukke civilisationen, s\u00e5 dens udvikling aldrig n\u00e5r et farligt niveau for os. Jeg vil tage mig af det. Jeg kender metoderne til at arbejde med kunstig intelligens.\u00bb <\/p>\n
De kognitive forbindelser i bes\u00e6tningen br\u00e6ndte med godkendelsens farve.<\/p>\n
\u00abFor resten,\u00bb tilf\u00f8jede kaptajnen p\u00e5 rumkrydseren som afslutning p\u00e5 sin str\u00e5lende tale, \u00abjeg tog en eksamen i dette emne p\u00e5 universitetet.\u00bb<\/p>\n
6.<\/b>habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"1. \u0414\u043e \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0439 \u0446\u0435\u043b\u0438 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u2013 \u043e\u043a\u043e\u043b\u043e \u0442\u0440\u0435\u0442\u0438 \u043f\u0443\u0442\u0438, \u2013 \u043a\u043e\u0433\u0434\u0430 \u043a\u043e\u0441\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u0440\u0435\u0439\u0441\u0435\u0440 \u043f\u043e\u043f\u0430\u043b \u043f\u043e\u0434 \u0441\u0438\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435 \u043e\u0431\u043b\u0435\u0434\u0435\u043d\u0435\u043d\u0438\u0435. \u0422\u043e, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043e\u0442 \u043f\u043e\u0433\u0438\u0431\u0448\u0435\u0439 \u0446\u0438\u0432\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u0432\u0438\u0442\u0430\u043b\u043e \u0432 \u043f\u0443\u0441\u0442\u043e\u0442\u0435. \u0410\u0431\u0437\u0430\u0446\u044b \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0441\u043e\u0447\u0438\u043d\u0435\u043d\u0438\u0439 \u0438 \u043e\u0431\u0440\u0430\u0437\u044b \u0438\u0437 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0439, \u0440\u0430\u0437\u0440\u043e\u0437\u043d\u0435\u043d\u043d\u044b\u0435 \u0440\u0438\u0444\u043c\u044b \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0441\u0442\u0440\u044b\u0435 \u0441\u043b\u043e\u0432\u0435\u0447\u043a\u0438, \u043d\u0435\u043a\u043e\u0433\u0434\u0430 \u0431\u0440\u043e\u0448\u0435\u043d\u043d\u044b\u0435 \u043d\u0435\u0432\u0437\u043d\u0430\u0447\u0430\u0439 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u043c\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0430\u043c\u0438 \u2013 \u0432\u0441\u0435 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u043e \u0437\u0430\u0443\u043c\u043d\u043e \u0438 \u043a\u0440\u0430\u0439\u043d\u0435 \u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u043e. \u0418 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29249,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-38985","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Id\u00e9udviklingsv\u00e6rd\"](\"\/wp-content\/uploads\/2019\/10\/4052fb232f06fb388784a2c89f91e467.jpg\")