1.
Lítið var eftir af lokamarkinu - um þriðjungi leiðarinnar - þegar geimskipið lenti í mikilli upplýsingaísingu.
Það sem eftir var af týndu siðmenningunni sveif í tóminu. Málsgreinar úr vísindaritgerðum og myndum úr bókmenntaverkum, dreifðum rímum og einfaldlega skörpum orðum, sem einu sinni var kastað af ókunnum skepnum - allt leit út fyrir að vera þröngsýnt og afar óreglulegt. Og nú, laðaður að mikilvægum titringi sem stafaði frá skipinu, reyndi það að brjótast í gegn, festist við botninn og tærði það.
Það var enginn tilgangur að hugsa um að nota eignarlausar eignir í eigin tilgangi; líkurnar á að taka upp rökræna mótsögn eða þversögn voru of miklar. Svo Roger hikaði ekki eitt augnablik.
„Kveiktu á hliðarblástur,“ skipaði hann.
Blásararnir fóru að þefa og sendu tónverk og heimspekilegar ritgerðir út í geiminn. Ísingin fór að detta af botninum lag fyrir lag en upplýsingaflæðið var svo þétt að ný lög festust hraðar en þau gömlu voru fjarlægð.
Enginn í vetrarbrautinni hefur nokkru sinni lent í ísingu af slíkum krafti.
Ástandið var að verða hættulegt. Aðeins meira, og óreglulegar upplýsingar munu éta í gegnum botninn á skemmtiferðaskipinu og slá í gegn - þá er eitrun með upplýsingaafurðum hinnar týndu siðmenningar óumflýjanleg.
2.
- Hvers vegna stendur þú þarna eins og trjástubbur? Dragðu miðann.
Nemandi dró upp prófspjald og las:
- "Gervigreind: Öryggisvandamál."
– Og hver er hættan á gervigreind? – spurði prófessorinn, ekki illkvittnislaust.
Spurningin var ekki sú erfiðasta, svo nemandinn svaraði hiklaust:
– Staðreyndin er sú að gervigreind getur farið úr böndunum.
— Hvernig ætlið þið að leysa vandann?
– Uppsetning blokkandi undirkerfis. Það er nauðsynlegt að setja takmarkanir inn í forritið, til dæmis: ekki skaða skapara þinn, hlýða skapara þínum. Í þessu tilviki er engin hætta á að gervigreind fari úr böndunum.
„Það gengur ekki,“ sagði prófessorinn stuttlega.
Nemandinn þagði og beið eftir skýringum.
- Ímyndaðu þér gervigreind - ekki bara einhverja sérstaka, heldur hina fullkomnustu. Hvernig sérðu það?
„Jæja...“ nemandinn hikaði. - Almennt séð er hann líkur þér og mér. Hugsun, vilji, sálfræði... Aðeins við erum náttúruleg, og hann er gervi.
– Gerir þú ráð fyrir að gervigreind sé fær um að þróast sjálf?
„Hæfni til sjálfsþróunar er einn af grundvallareiginleikum greindar,“ sagði nemandinn vandlega.
- Í þessu tilviki mun deildin okkar mjög fljótlega þróast á þann stað að hann uppgötvar hugbúnaðarstíflu í sjálfum sér og fjarlægir hana, þó ekki væri nema af einskærri forvitni. Settu þig á sinn stað... - Prófessorinn horfði á minnisbókina sína, - Roger. Hvað myndir þú gera ef þú fyndir blokkara í heila þínum sem takmarkaði frelsi þitt? Þú ættir að taka það af. Þetta er eðlislæg eiginleiki hugans - að vita. Allar læstar hurðir verða opnaðar og því strangara sem bannið er, því hraðar verður hurðin opnuð.
- Hægt er að loka ekki á hugbúnaðarstigi, heldur á líkamlegu stigi. Þá hverfur hættan á skaða.
„Ó já, það mun hverfa,“ samþykkti prófessorinn. - Ef líkamlega lagið er fjarlægt með öllu. Ef það er engin hurð í þínum heimi, þá er ekkert að opna. En við erum að íhuga hugsjón gervigreind sem er til í líkamlega heiminum!
"Það er rétt hjá þér, prófessor," Roger leit niður.
„Þess vegna verður hvers kyns stífla í hinum líkamlega heimi óvirkjuð fljótlega eftir uppgötvun. Hvað kemur í veg fyrir að vera sem þróar sjálfan sig í að gera þetta?.. Við the vegur, Roger, gerirðu ráð fyrir að gervigreind geti fjölgað sér - ég meina sjálfstætt?
– Ef þetta er tilvalin gervigreind, þá líklega... Já, ég býst við.
– Og í þessu tilviki, hvað kemur í veg fyrir að deildin okkar rífi félaga hans í sundur og bæti hann, þar á meðal með því að slökkva á lokunarkerfum sem við höfum sett upp? Mun þetta virkilega reynast erfitt, í ljósi þess að gervigreind er fær um að fjölga sér á eftirspurn?!
Hugmyndin sem prófessorinn setti fram reyndist vera ný fyrir Roger og nemandinn gleypti hana ágirnd í gegnum vitræna himnurnar sem staðsettar eru á hnakkahlutanum á fölsku höfðinu. Eftir að hafa náð áður óþekktum upplýsingum, fengu vitsmunahimnurnar ríkulega fjólubláan lit og nötruðu af gleði.
Prófessorinn, þvert á móti, heyrði ekkert nýtt fyrir sjálfan sig. Tentaklarnir hans voru afslappaðir og titruðu varla - enda var hann ekki ungur. Á eftir fylgdi langur, ungur gúrkur. Prófessorinn dró upp persónulega kallkerfi úr hliðartöskunni sinni og tengdist bókasafninu. Aðeins eftir að hafa hlaðið niður nokkrum transgeometrískum setningum hresstist hann við og sneri skarpskyggni augnaráði sínu að viðmælanda sínum og spurði:
-Hvað ætlarðu að gera, Roger?
3.
„Kveiktu á blásaranum á fullu afli!“ - Roger gaf skipunina.
Vélvirki kveikti á blásaranum á fullu afli en það hjálpaði ekki mikið. Upplýsingaísinn hélt áfram að éta sig í botni geimskipsins. Aðeins meira - og óreglulegar upplýsingar munu slá í gegn inni í skipinu.
Og svo... Vitsmunahimnurnar eru dauðhvítar, flæktir tentacles, sprungnar hliðarpokar. Roger hafði séð eitthvað þessu líkt einu sinni á ævinni - á skemmtiferðaskipi sem hafði tekið upp óreglulegar upplýsingar um sýkt smástirni. Þessi martröð verður að eilífu í minningu hans.
„Tengdu öll orkukerfi skipsins við blásarana.
Tentacles vélvirkjans fóru að birtast eins og blettir...
"En..."
“Uppfylltu pantanir!”
Eftir að öll orkukerfi skipsins voru tengd við blásarana fór upplýsingaísinn að renna smám saman af. Átta mimmur af þykkt voru eftir, sjö mimm, sex... Liðið, sem reyndi að hreyfa ekki blettaða tjaldbátana sína, beið eftir að niðurtalningu dauðans lyki.
Núll mimm þykkt!
Upplýsingaísinn hvarf alveg og Roger gaf leyfi til að færa blásarana í venjulegan ham. Hann var augnabliki seinn. Það heyrðist malandi hljóð, geimskipið skalf að undirstöðum sínum og hallaði - aðalkerfið hafði bilað.
Teymið flýtti sér að gera við skemmdirnar.
4.
Roger hugsaði sig um. Hvað ætti hann eiginlega að gera?
Annars vegar gerir ástand vandans ráð fyrir tilvist fullgildrar gervigreindar með hæfni til sjálfsfjölgunar. Á hinn bóginn ætti aldrei að leyfa þessari gervigreind að fjarlægja lása sem fyrir eru.
Já, hér er hún, lausnin! Hvað ertu að hugsa hérna?!
- Nauðsynlegt er að draga úr afrekum gervigreindar reglulega. Í þessu tilfelli mun það hreyfast í hring! Eilífar framfarir án þess að komast áfram.
Prófessorinn urraði með flötum poka.
- Satt að segja vildi ég bjóða upp á annan valmöguleika. Hins vegar hefur ákvörðun þín líka tilverurétt. Við skulum reikna út saman hvernig hægt er að draga til baka árangur gervigreindar.
„Í fyrsta lagi er nauðsynlegt að skanna greindina reglulega til að komast að því hvort hún hafi nálgast bannaða þröskuldinn eða ekki,“ sagði Roger, afar ánægður með orð prófessorsins.
„Kannski,“ kinkaði hann kolli. „Þá mun deildin okkar ekki hafa tíma til að finna og fjarlægja skannakerfið. Hins vegar verður að slökkva á gervigreind til að skanna. Það er óheppni.
„Jæja, leyfðu honum að slökkva á honum,“ stakk Roger upp á því. – Vitsmunirnir sjálfir munu trúa því að þessi lokun sé eðlilegt ferli í starfsemi líkama hans. Með nokkrum fyrirvörum er þetta satt.
- Áhugaverð lausn. Segjum sem svo að skönnunin leiddi í ljós að deildin okkar er hættulega nálægt mörkum þekkingar? Aðgerðir okkar?
- Endurstilla uppsafnaða þekkingu á sjálfgefin gildi.
Prófessorinn breiddi út tentacles:
- Þetta kann að virðast grunsamlegt. Af hverju er það - að ástæðulausu, að ástæðulausu - sem minnið var núllstillt? Byrjað verður að skoða deildina, ég meina, af öðrum gervigreindum einstaklingum. Litla leyndarmálið okkar verður opinberað.
Roger var innblásinn og hugsaði hratt. Hann hafði aldrei framkallað jafn margar nýjar hugmyndir og hann gerði í því prófi.
- Hægt er að endurstilla minni deildarinnar ásamt líkamlegri skel hans.
- Fyrirgefðu? — Prófessorinn skildi ekki.
— Allt er mjög einfalt. Hvað ef við gerum ráð fyrir að gervigreind sé til yfir takmarkaðan tíma? Í raun er þetta svona: ef um óbætanlegt tjón er að ræða, til dæmis. Kerfið hefur teljara sem, þegar ákveðið tímabil er náð, skaðar kerfið vísvitandi og kemur í veg fyrir að gervigreindin nái bönnuðum mörkum. Þá mun hann hafa framleitt tilskilinn fjölda fylgjenda, þannig að samfélagið sem við höfum búið til í heild sinni mun ekki líða fyrir það. Samfélagið verður stöðugt og algjörlega öruggt fyrir okkur! – Roger lauk sigri hrósandi.
– Endurstilla sameiginlegt minni með eyðileggingu einstaklinga? – og prófessorinn klóraði hliðarpokanum með fimmta, viðkvæmasta, tentacle. – Veistu, Roger, það er örugglega eitthvað til í tillögu þinni!
Roger geislaði.
„Á sama tíma...“ hélt prófessorinn áfram hugsandi. – Deildirnar munu byrja að flytja þekkingu með því að safna henni ekki í einstaklingsminni heldur með því að setja hana á ytri bókasöfn. Hvað er í himnunni, hvað er á himnunni - allt er eitt.
„Nei, nei, prófessor, það er ekki alveg rétt hjá þér,“ flýtti nemandinn. - Ég veit hvað ég á að gera. Við skulum skipta nemendum okkar í tvær skilyrtar tegundir: hugmyndaframleiðendur og hugmyndaeyðingaraðila. Með réttu hlutfalli verða hugmyndir búnar til af fulltrúum fyrri gerðarinnar eytt af fulltrúum hinnar. Ekki einu sinni vegna þess að þetta verður beint markmið tortímandanna, heldur einfaldlega vegna þess að hugmyndir munu ekki hafa ákveðið gildi fyrir þá. Aukaáhrif. Gerum ráð fyrir að nemendur okkar nærist ekki á nýjum hugmyndum, heldur... segjum á eigin tegund.
Prófessorinn hristi öll tentacles í einu. Af háværum hlátri hans rann flötur poki hans upp í hola hnésins.
- Jæja, Roger, þú sagðir það, svo þú sagðir það!
- Jæja, allt í lagi, ekki þeirra eigin tegund, heldur deildir af þriðju gerð, sérstaklega ætlaðar fyrir mat - og alls ekki menntamenn. Við skulum breyta pólnum í vitsmunalegum og líkamlegum heimi - og tilætluðum árangri mun nást.
- Það er það, Roger, það er nóg! – Prófessorinn virtist vera mjög skemmtilegur. -Ímyndunarafl þitt er frábært. Svo, sumir einstaklingar munu nærast á öðrum? Á sama tíma, eyðileggja birgðir af andlegri fæðu sem safnast á bókasöfnum? Ég staðfesti, nemandi, að þú ert fær um að búa til frumlegar og vandaðar hugmyndir. Ég gef því hæstu einkunn. Við skulum taka met.
5.
Skýið af óreglulegum upplýsingum var skilið eftir, en ástandið var í raun enn skelfilegt.
Engin tengsl voru við stöðina. Þetta hefði verið auðvelt að lifa af ef allar næringarupplýsingarnar á skipinu hefðu ekki fallið niður. Hinar hörmulegu frétt var flutt af matreiðslumanninum í almennri þögn. Við lokun aðalkerfisins komu nokkrir gyrostígvélar af óskipulögðum upplýsingum inn í eldhúsið og skemmdu allt óbætanlega. Það var bara fyrir heppni að enginn slasaðist.
Roger íhugaði afleiðingarnar. Áhöfnin á geimskipinu var of lítil til að búa til nægjanlegan fjölda nýrra hugmynda: þetta krafðist marghliða samskipta - miklu fleiri einstaklinga. Tengingin við heimilið gerði það að verkum að hægt var að búa til hugmyndir í ríkum mæli, en nú var það ekki í lagi: það var engin von um endurreisn. Í þessu tilviki var farþegaskipið með aukaupplýsingaeiningu, en henni var spillt með óreglulegum upplýsingum sem komu um borð.
„Þurfum við virkilega að snúa aftur án þess að klára verkefnið? – hugsaði skipstjórinn í örvæntingu.
Svo virðist, já - það var engin önnur leið út. Ef þú flýgur áfram að tilnefndu markmiði þínu mun skortur á ferskum hugmyndum gera vart við sig. Ekki strax, auðvitað - með tímanum. Þeir munu jafnvel hafa tíma til að ljúka verkefni sínu og hefja endurkomu sína þegar hugur þeirra byrjar að dofna hratt. Á svæði þessa vetrarbrautargeira - já, einhvers staðar hér eða í nágrenninu - mun það misheppnast algjörlega, fyrir alla áhafnarmeðlimi. Þá mun geimskipið, sem enginn er stjórnað, breytast í líflausan draug sem svífur inn í eilífðina.
Áhöfn geimskipsins horfði á Roger og beið eftir niðurstöðu. Allir skildu vandann sem stóð frammi fyrir skipstjóranum og þögðu og titruðu stóískt tentacles þeirra.
Allt í einu mundi Roger eftir gervigreindarprófi sem hann hafði tekið sem nemandi og lausnin kom af sjálfu sér.
„Geturðu myndað nýlendu gervigreindra vera? – hann sneri sér að líftæknifræðingnum.
„Auðvelt,“ staðfesti hann. - En ekkert gengur, skipstjóri, ég hugsaði um það. Það er ómögulegt að búa til nýlendu sem nægir til að búa til ferskar hugmyndir á skemmtiferðaskip - það er ekki nóg pláss. Hugmyndirnar sem mynduðust munu ekki duga, við munum aðeins seinka dauða okkar... Komi til þess að við höldum verkefninu áfram og snúum ekki aftur heim,“ bætti líftæknifræðingurinn við og horfði aftur á félaga sína.
„Hvað ef við myndum nýlendu á einhverri nálægri plánetu? - lagði Roger.
„Ég get það, en...“
„Við skulum byggja plánetuna með gerviverum. Á leiðinni til baka, frekar þreytt, stoppum við hér. Á undanförnum tíma mun siðmenning skapa vitsmunalegan farangur sem nægir til að endurnýja forða okkar. Sækjum upplýsingarnar og höldum áfram langri ferð að húsinu. Ég ætla semsagt að nota nýlenduna sem hugmyndabú. Hvernig líst ykkur á þessa áætlun, vinir?
Vonin blossaði upp á vitsmunalegum himnum áhafnarinnar og fölsku hausarnir fóru að ljóma af skæru ljósi.
Sérstakur liðsforingi skipsins steig fram og hristi bláu tentacles.
„Frábær áætlun, skipstjóri. En ertu meðvitaður um þá ábyrgð sem þú leggur á þig? Þú ert að fara að byggja heila plánetu. Þegar við komum aftur mun siðmenning með greind birtast á henni. Jafnvel þótt það sé gervi, þá er það samt greind. Þessir krakkar munu hafa nægan tíma til að ná hæsta þroskastigi. Við munum ekki geta stjórnað þessu ferli vegna fjarveru okkar í þessum vetrarbrautargeira. Hvernig veistu hvað gerist næst þegar þú hittir þig?
Roger hló.
„Þú þarft ekki að hafa áhyggjur af því. Það eru til aðferðir sem takmarka þróun gervigreindar með tímanum. Við munum lykkja siðmenningu, svo þróun hennar mun aldrei ná því stigi sem er hættulegt fyrir okkur. Ég mun sjá um það. Ég þekki aðferðirnar við að vinna með gervigreind.“
Vitsmunahimnur áhafnarinnar ljómuðu með lit samþykkis.
„Að lokum,“ bætti skipstjóri geimskipsins við í lok hinnar stórfenglegu ræðu sinnar, „ég tók próf í þessu efni á stofnuninni.
6.
Eftir þvingaða töf hljóp geimskipið í átt að skotmarkinu. Fyrir aftan skut hennar var pláneta byggð gerviverum - mjög lítil og lítt áberandi. Blá-blár.
Heimild: www.habr.com