1.
Daar was min oor na die finale doelwit – omtrent ’n derde van die pad – toe die ruimtekruiser onder erge inligtingversiersel beland het.
Wat van die verlore beskawing oorgebly het, het in die leemte gesweef. Paragrawe van wetenskaplike essays en beelde uit literêre werke, verspreide rympies en bloot skerp woorde, wat eens terloops deur onbekende wesens gegooi is - alles het abstruus en uiters wanordelik gelyk. En nou, aangetrokke deur die lewensbelangrike vibrasies wat van die kruiser afkomstig is, het dit probeer om deur te breek, aan die bodem vas te sit en dit verroes.
Daar was geen sin om daaraan te dink om eienaarlose eiendom vir jou eie doeleindes te gebruik nie; die waarskynlikheid om 'n logiese teenstrydigheid of paradoks op te tel was te groot. Roger het dus nie vir 'n oomblik gehuiwer nie.
"Skakel syblaas aan," het hy beveel.
Die blasers het begin snuffel en musiekkomposisies en filosofiese verhandelings in die buitenste ruimte uitgesaai. Die versiersel het laag vir laag van die onderste begin wegval, maar die inligtingvloei was so dig dat nuwe lae vinniger vasgesteek het as wat die oues verwyder is.
Niemand in die sterrestelsel het ooit ys van so 'n krag teëgekom nie.
Die situasie was besig om gevaarlik te word. Nog 'n bietjie, en die wanordelike inligting sal deur die onderkant van die kruiser eet en deurbreek - dan is vergiftiging met die inligtingsprodukte van die verlore beskawing onvermydelik.
2.
- Hoekom staan jy daar soos 'n boomstomp? Trek die kaartjie.
Die student het 'n eksamenkaart uitgehaal en gelees:
- "Kunsmatige Intelligensie: Sekuriteitskwessies."
– En wat is die gevaar van kunsmatige intelligensie? – vra die professor, nie sonder boosheid nie.
Die vraag was nie die moeilikste nie, so die student het sonder huiwering geantwoord:
– Die feit is dat kunsmatige intelligensie buite beheer kan raak.
– Hoe beoog jy om die probleem op te los?
– Installering van 'n blokkerende substelsel. Dit is nodig om beperkings in die program in te stel, byvoorbeeld: moenie jou skepper benadeel nie, gehoorsaam jou skepper. In hierdie geval is daar geen gevaar dat kunsmatige intelligensie buite beheer raak nie.
"Dit sal nie werk nie," het die professor kort gesê.
Die student was stil en wag vir opheldering.
– Stel jou kunsmatige intelligensie voor – nie net enige spesifieke een nie, maar die mees ideale een. Hoe sien jy dit?
“Wel...” het die student gehuiwer. - Oor die algemeen is hy soortgelyk aan jy en ek. Dink, wil, sielkunde... Net ons is natuurlik, en hy is kunsmatig.
– Neem jy aan dat kunsmatige intelligensie in staat is tot selfontwikkeling?
"Die vermoë tot selfontwikkeling is een van die fundamentele eienskappe van intelligensie," het die student versigtig gesê.
- In hierdie geval sal ons saal baie gou ontwikkel tot die punt waar hy 'n sagtewareblokkasie in homself ontdek en dit verwyder, al is dit net uit pure nuuskierigheid. Sit jouself op sy plek... - die professor het na sy notaboek gekyk, - Roger. Wat sou jy doen as jy 'n blokker in jou brein ontdek wat jou vryheid beperk? Jy moet dit afhaal. Dit is 'n inherente eienskap van die verstand - om te weet. Enige geslote deur sal oopgesluit word, en hoe strenger die verbod, hoe vinniger sal die deur oopgesluit word.
- Blokkering kan nie op sagtewarevlak gedoen word nie, maar op fisiese vlak. Dan sal die gevaar van skade verdwyn.
"O ja, dit sal verdwyn," het die professor ingestem. – As die fisiese laag heeltemal verwyder word. As daar geen deur in jou wêreld is nie, dan is daar niks om oop te sluit nie. Maar ons oorweeg 'n ideale kunsmatige intelligensie wat in die fisiese wêreld bestaan!
"Jy is reg, professor," het Roger afgekyk.
"Daarom sal enige blokkasie in die fisiese wêreld kort na opsporing gedeaktiveer word." Wat sal 'n selfontwikkelende skepsel verhoed om dit te doen?.. Terloops, Roger, neem jy aan dat kunsmatige intelligensie sal kan voortplant - ek bedoel, onafhanklik?
– As dit ideale kunsmatige intelligensie is, dan waarskynlik... Ja, ek veronderstel.
– En wat, in hierdie geval, sal ons wyk verhoed om sy kameraad uitmekaar te skeur en hom te verbeter, onder meer deur die blokkeerstelsels wat ons geïnstalleer het, uit te skakel? Sal dit werklik moeilik blyk te wees, aangesien kunsmatige intelligensie in staat is om op aanvraag te reproduseer?!
Die idee wat deur die professor aangebied is, was nuut vir Roger, en die student het dit gulsig deur die kognitiewe membrane op die oksipitale deel van die valskop geabsorbeer. Nadat hulle voorheen onbekende inligting gekry het, het die kognitiewe membrane 'n ryk pers kleur gekry en vreugdevol gebewe.
Die professor het inteendeel niks nuuts vir homself gehoor nie. Sy tentakels was ontspanne en het skaars gevibreer – hy was immers nie jonk nie. ’n Lang, seniele gegorrel het gevolg. Die professor het 'n persoonlike interkom uit sy fasetsak gehaal en aan die biblioteek gekoppel. Eers nadat hy verskeie transgeometriese stellings afgelaai het, het hy opgestaan en sy indringende blik na sy gespreksgenoot gerig en gevra:
-Wat sal jy doen, Roger?
3.
“Skakel die blaser op volle krag aan!” – Roger het die bevel gegee.
Die werktuigkundige het die blaser op volle krag aangeskakel, maar dit het nie veel gehelp nie. Die inligting-ys het aan die onderkant van die ruimtekruiser bly wegvreet. ’n Bietjie meer – en wanordelike inligting sal binne-in die skip deurbreek.
En dan... Die kognitiewe membrane is doodwit, verstrengelde tentakels, gebarste fasetsakke. Roger het een keer in sy lewe so iets gesien - op 'n kruiser wat ongeordende inligting oor 'n besmette asteroïde opgetel het. Hierdie nagmerrie sal vir altyd in sy geheue bly.
"Verbind al die skip se energiestelsels aan die blasers."
Die werktuigkundige se tentakels het soos kolle begin verskyn...
"Maar..."
“Vul bestellings uit!”
Nadat al die skip se energiestelsels aan die blasers gekoppel is, het die inligting-ys geleidelik begin afgly. Agt mimms van dikte het oorgebly, sewe mimms, ses ... Die span, wat probeer het om nie hul gevlekte tentakels te beweeg nie, het gewag dat die doodsaftelling eindig.
Zero mimm dikte!
Die inligting-ys het heeltemal verdwyn, en Roger het die trekpas gegee om die blasers na normale modus oor te skakel. Hy was 'n oomblik laat. Daar was 'n malende geluid, die ruimtekruiser het tot in sy fondamente gebewe en gekantel - die hoofstelsel het misluk.
Die span het gehaas om die skade te herstel.
4.
Roger het daaroor gedink. Wat moet hy regtig doen?
Aan die een kant veronderstel die toestand van die probleem die bestaan van volwaardige kunsmatige intelligensie met die vermoë om self te reproduseer. Aan die ander kant moet hierdie kunsmatige intelligensie nooit toegelaat word om bestaande slotte te verwyder nie.
Ja, hier is dit, die oplossing! Wat dink jy hier?!
– Dit is nodig om die prestasies van kunsmatige intelligensie periodiek terug te rol. In hierdie geval sal dit in 'n sirkel beweeg! Ewige verbetering sonder om vorentoe te beweeg.
Die professor gorrel met 'n fasetsakkie.
– Eerlik gesê, ek wou 'n ander opsie bied. Jou besluit het egter ook 'n bestaansreg. Kom ons kyk saam hoe dit moontlik is om die prestasies van kunsmatige intelligensie terug te draai.
"Eerstens is dit nodig om die intellek periodiek te skandeer om te bepaal of dit die verbode drempel bereik het of nie," het Roger voorgestel, uiters tevrede met die professor se woorde.
"Miskien," het hy geknik. “Dan sal ons saal nie tyd hê om die skanderingstelsel te vind en te verwyder nie.” Kunsmatige intelligensie sal egter afgeskakel moet word om te skandeer. Dis slegte geluk.
"Wel, laat hom afskakel," het Roger op 'n bevlieging voorgestel. – Die intellek self sal glo dat hierdie stilstand 'n natuurlike proses van die funksionering van sy liggaam is. Met sekere voorbehoude is dit waar.
- Interessante oplossing. Gestel die skandering het aan die lig gebring dat ons wyk gevaarlik naby die grens van kennis is? Ons optrede?
- Stel opgehoopte kennis terug na verstekwaardes.
Die professor sprei sy tentakels:
- Dit lyk dalk verdag. Hoekom is dit - sonder rede, geen rede - dat die geheue na nul teruggestel is? Die saal sal begin ondersoek word deur, ek bedoel, ander kunsmatige intelligente individue. Ons klein geheim sal geopenbaar word.
Roger het geïnspireer gevoel en vinnig gedink. Hy het nog nooit soveel nuwe idees gegenereer soos in daardie eksamen nie.
– Die geheue van die saal kan saam met sy fisiese dop herstel word.
- Jammer? – die professor het nie verstaan nie.
- Alles is baie eenvoudig. Wat as ons aanvaar dat kunsmatige intelligensie oor 'n beperkte tydperk bestaan? Eintlik is dit hoe dit is: in die geval van byvoorbeeld onherstelbare skade. Die stelsel het 'n teller wat, wanneer 'n sekere tydperk bereik word, die stelsel doelbewus beskadig, wat verhoed dat die kunsmatige intelligensie die verbode perk bereik. Teen daardie tyd sal hy die vereiste aantal volgelinge opgelewer het, so die samelewing wat ons as geheel geskep het, sal nie daaronder ly nie. Die samelewing sal vir ons stabiel en heeltemal veilig bly! – Roger het triomfantelik klaargemaak.
– Herstel kollektiewe geheue deur die vernietiging van individue? – en die professor krap die fasetsak met die vyfde, sensitiefste, tentakel. – Jy weet, Roger, daar is beslis iets in jou voorstel!
Roger straal.
“Terselfdertyd...” gaan die professor ingedagte voort. – Die sale sal begin om kennis oor te dra deur dit nie in individuele geheue te versamel nie, maar deur dit in eksterne biblioteke te plaas. Wat is in die membraan, wat is op die membraan - alles is een.
"Nee, nee, professor, jy is nie heeltemal reg nie," het die student haastig. - Ek weet wat om te doen. Kom ons verdeel ons studente in twee voorwaardelike tipes: idee-opwekkers en idee-vernietigers. Met die korrekte proporsie sal idees wat deur verteenwoordigers van die eerste tipe geskep is, deur verteenwoordigers van die tweede vernietig word. Selfs nie omdat dit die direkte doel van die vernietigers sal wees nie, maar bloot omdat idees nie 'n bepalende waarde vir hulle sal hê nie. By-effek. Kom ons neem aan dat ons studente nie op nuwe idees voed nie, maar ... kom ons sê, op hul eie soort.
Die professor skud al sy tentakels op een slag. Van sy raserige lag gly sy fasetsak op die holte van sy knie.
- Wel, Roger, jy het dit gesê, so jy het dit gesê!
- Wel, oukei, nie hul eie soort nie, maar sale van die derde tipe, spesiaal bedoel vir kos - en glad nie intellektuele nie. Kom ons verskuif die pole van die intellektuele en fisiese wêrelde – en die gewenste resultaat sal bereik word.
- Dit is dit, Roger, dit is genoeg! – die professor blyk ernstig geamuseerd te wees. - Jou verbeelding is uitstekend. So, sal sommige individue op ander voed? Terselfdertyd, vernietig die voorraad geestelike voedsel wat in biblioteke opgehoop word? Ek bevestig, student, dat jy in staat is om oorspronklike idees van hoë gehalte te genereer. Ek gee dit die hoogste telling. Kom ons neem 'n rekord.
5.
Die wolk van wanordelike inligting het agtergebly, maar die situasie het in werklikheid erg gebly.
Daar was geen verband met die basis nie. Dit sou maklik gewees het om te oorleef as al die voedingsinligtingbasisse op die kruiser nie verval het nie. Die tragiese nuus is deur die kok in algemene stilte gerapporteer. Tydens die afsluiting van die hoofstelsel het verskeie gyrostewels van ongeorganiseerde inligting die kombuis binnegekom en alles onherstelbaar beskadig. Dit was net deur geluk dat niemand beseer is nie.
Roger het die gevolge oorweeg. Die bemanning van die ruimteskip was te klein om 'n voldoende aantal nuwe idees te genereer: dit het multilaterale kommunikasie vereis - 'n veel groter aantal individue. Die verbintenis met die huis het dit moontlik gemaak om idees in oorvloed te genereer, maar nou was dit buite werking: daar was geen hoop op herstel nie. In hierdie geval het die kruiser 'n spaar inligtingsmodule gehad, maar dit is bederf deur wanordelike inligting wat aan boord gekom het.
"Sal ons regtig moet terugkeer sonder om die taak te voltooi?" – dink die kaptein moedeloos.
Blykbaar, ja – daar was geen ander uitweg nie. As jy vorentoe vlieg na jou aangewese doelwit, sal die gebrek aan vars idees hom voel. Nie dadelik nie, natuurlik – mettertyd. Hulle sal selfs tyd hê om hul missie te voltooi en hul terugkeer te begin wanneer hul gedagtes vinnig begin vervaag. In die gebied van hierdie galaktiese sektor - ja, iewers hier of naby - sal dit heeltemal misluk, vir alle bemanningslede. Dan sal die ruimtekruiser, wat deur niemand beheer word nie, verander in 'n lewelose spook wat in die ewigheid dryf.
Die bemanning van die ruimtevaarder het na Roger gekyk en gewag vir 'n besluit. Almal het die dilemma verstaan wat die kaptein in die gesig staar en het stilgebly en hul tentakels stoïsties vibreer.
Skielik het Roger 'n kunsmatige intelligensie-eksamen onthou wat hy as student afgelê het, en die oplossing het vanself gekom.
"Kan jy 'n kolonie van kunsmatige intelligente wesens vorm?" – het hy hom tot die biotegnoloog gewend.
"Maklik," het hy bevestig. - Maar niks sal regkom nie, kaptein, ek het daaroor gedink. Dit is onmoontlik om 'n kolonie te skep wat voldoende is om vars idees op 'n kruiser te genereer - daar is nie genoeg spasie nie. Die gegenereerde idees sal nie genoeg wees nie, ons sal net ons dood uitstel... In die geval natuurlik dat ons die sending voortsit en nie terugkeer huis toe nie,” het die biotegnoloog bygevoeg en teruggekyk na sy kamerade.
"Wat as ons 'n kolonie vorm op een of ander nabygeleë planeet?" - het Roger voorgestel.
"Ek kan dit doen, maar ..."
“Kom ons bevolk die planeet met kunsmatige wesens. Op pad terug, redelik uitgeput, stop ons hier. Oor die afgelope tyd sal die beskawing intellektuele bagasie skep wat voldoende is om ons reserwes aan te vul. Kom ons laai die inligting af en gaan voort met die lang reis na die huis. Met ander woorde, ek gaan die kolonie as 'n ideeplaas gebruik. Hoe hou julle van hierdie plan, vriende?
Hoop het opgevlam op die bemanning se kognitiewe membrane, en die vals koppe het met helder lig begin gloei.
Die skip se spesiale offisier stap vorentoe en skud sy blou tentakels.
“Uitstekende plan, kaptein. Maar is jy bewus van die verantwoordelikheid wat jy op jouself plaas? Jy is op die punt om 'n hele planeet te bevolk. Teen die tyd dat ons terugkeer, sal 'n beskawing met intelligensie daarop verskyn. Al is dit kunsmatig, is dit steeds intelligensie. Hierdie ouens sal genoeg tyd hê om die hoogste vlak van ontwikkeling te bereik. Ons sal nie hierdie proses kan beheer nie weens ons afwesigheid in hierdie galaktiese sektor. Hoe weet jy wat sal gebeur die volgende keer wat jy ontmoet?
Roger het gegiggel.
“Jy hoef nie daaroor bekommerd te wees nie. Daar is metodes wat die ontwikkeling van kunsmatige intelligensie oor tyd beperk. Ons sal die beskawing 'n lus maak, so sy ontwikkeling sal nooit 'n vlak bereik wat vir ons gevaarlik is nie. Ek sal daarvoor sorg. Ek is vertroud met die metodes om met kunsmatige intelligensie te werk.”
Die bemanning se kognitiewe membrane het gegloei met die kleur van goedkeuring.
"Op die ou end," het die kaptein van die ruimtevaarder aan die einde van sy pragtige toespraak bygevoeg, "het ek 'n eksamen in hierdie vak by die instituut afgelê."
6.
Na 'n gedwonge vertraging het die ruimtekruiser na die teiken gehaas. Agter sy agterstewe was daar 'n planeet wat deur kunsmatige wesens bewoon is - baie klein en onopvallend. Blou-blou.
Bron: will.com