Ideju ferma

Ideju ferma

1.
LÄ«dz gala mērÄ·im bija atlicis pavisam nedaudz ā€“ apmēram treÅ”daļa no ceļa ā€“, kad kosmosa kreiseris nokļuva pamatÄ«gā informācijas apledojumā.

Tas, kas bija palicis pāri no zuduŔās civilizācijas, lidinājās tukÅ”umā. Zinātnisku eseju rindkopas un attēli no literāriem darbiem, izkaisÄ«ti atskaņas un vienkārÅ”i asi vārdi, ko reiz nejauÅ”i izmeta nezināmi radÄ«jumi - viss izskatÄ«jās abstrakti un ārkārtÄ«gi nesakārtoti. Un tagad, kreisera radÄ«to vitālo vibrāciju pievilināts, tas mēģināja izlauzties cauri, pielipa pie dibena un sarÅ«sēja.

Nebija jēgas domāt par bezsaimnieka Ä«paÅ”uma izmantoÅ”anu savām vajadzÄ«bām, pārāk liela bija loÄ£iskas pretrunas vai paradoksa iespējamÄ«ba. Tāpēc Rodžers ne mirkli nevilcinājās.

"Ieslēdziet sānu pÅ«Å”anu," viņŔ pavēlēja.

PÅ«tēji sāka Ŕņaukties, pārraidot kosmosā muzikālus skaņdarbus un filozofiskus traktātus. Apledojuma slānis pa slānim sāka krist prom no apakŔējās daļas, taču informācijas plÅ«sma bija tik blÄ«va, ka jauni slāņi iestrēga ātrāk nekā vecie tika noņemti.

Neviens galaktikā nekad nav saskāries ar tāda spēka apledojumu.

Situācija kļuva bÄ«stama. Vēl nedaudz, un nesakārtotā informācija ēdÄ«s kreisera dibenu un izlauzÄ«sies cauri - tad saindÄ“Å”anās ar zuduŔās civilizācijas informācijas produktiem ir neizbēgama.

2.
- Kāpēc tu tur stāvi kā koka celms? Izvelciet biļeti.

Students izvilka eksāmena karti un nolasīja:

ā€“ ā€œMākslÄ«gais intelekts: droŔības jautājumiā€.

ā€“ Un kādas ir mākslÄ«gā intelekta briesmas? ā€“ profesors ne bez ļaunuma jautāja.

Jautājums nebija no grÅ«tākajiem, tāpēc students bez vilcināŔanās atbildēja:

ā€“ Fakts ir tāds, ka mākslÄ«gais intelekts var izkļūt no kontroles.

ā€“ Kā jÅ«s plānojat atrisināt problēmu?

ā€“ BloÄ·Ä“Å”anas apakÅ”sistēmas uzstādÄ«Å”ana. Programmā ir jāievieÅ” ierobežojumi, piemēram: nekaitējiet savam radÄ«tājam, paklausiet savam radÄ«tājam. Å ajā gadÄ«jumā nepastāv briesmas, ka mākslÄ«gais intelekts varētu izkļūt no kontroles.

"Tas nedarbosies," īsi sacīja profesors.

Students klusēja, gaidīdams skaidrojumu.

ā€“ Iedomājieties mākslÄ«go intelektu ā€“ ne tikai jebkuru konkrētu, bet visideālāko. Kā jÅ«s to redzat?

"Nu..." students vilcinājās. ā€“ Vispār viņŔ ir lÄ«dzÄ«gs tev un man. DomāŔana, griba, psiholoÄ£ija... Tikai mēs esam dabiski, un viņŔ ir mākslÄ«gs.

ā€“ Vai jÅ«s pieņemat, ka mākslÄ«gais intelekts spēj sevi attÄ«stÄ«t?

"Spēja paÅ”attÄ«stÄ«ties ir viena no intelekta pamatÄ«paŔībām," uzmanÄ«gi sacÄ«ja students.

ā€“ Tādā gadÄ«jumā ļoti drÄ«z mÅ«su palāta attÄ«stÄ«sies lÄ«dz tādai pakāpei, ka viņŔ atklāj sevÄ« programmatÅ«ras aizsprostojumu un noņem to, kaut vai tÄ«ras ziņkārÄ«bas dēļ. Noliec sevi viņa vietā... - profesors paskatÄ«jās savā piezÄ«mju grāmatiņā, - Rodžers. Ko jÅ«s darÄ«tu, ja jÅ«su smadzenēs atklātu bloķētāju, kas ierobežo jÅ«su brÄ«vÄ«bu? Jums vajadzētu to noņemt. Tā ir iedzimta prāta Ä«paŔība ā€“ zināt. Visas aizslēgtas durvis tiks atslēgtas, un, jo stingrāks aizliegums, jo ātrāk durvis tiks atslēgtas.

ā€“ BloÄ·Ä“Å”anu var veikt nevis programmatÅ«ras, bet gan fiziskā lÄ«menÄ«. Tad kaitējuma briesmas izzudÄ«s.

"Ak, jā, tas pazudÄ«s," profesors piekrita. ā€“ Ja fiziskais slānis tiek noņemts pavisam. Ja tavā pasaulē nav durvju, tad nav ko atslēgt. Bet mēs apsveram ideālu mākslÄ«go intelektu, kas pastāv fiziskajā pasaulē!

"Jums ir taisnība, profesor," Rodžers paskatījās uz leju.

"Tāpēc jebkurÅ” aizsprostojums fiziskajā pasaulē tiks atspējots drÄ«z pēc atklāŔanas." Kas neļaus to darÄ«t paÅ”attÄ«stoÅ”am radÄ«jumam?.. Starp citu, Rodžer, vai jÅ«s pieņemat, ka mākslÄ«gais intelekts spēs vairoties ā€“ es domāju neatkarÄ«gi?

ā€“ Ja tas ir ideāls mākslÄ«gais intelekts, tad droÅ”i vien... Jā, pieļauju.

ā€“ Un kas Å”ajā gadÄ«jumā neļaus mÅ«su palātai saplosÄ«t viņa biedru un uzlabot viņu, tostarp atspējot mÅ«su uzstādÄ«tās bloÄ·Ä“Å”anas sistēmas? Vai tieŔām tas izrādÄ«sies grÅ«ti, ņemot vērā, ka mākslÄ«gais intelekts spēj vairoties pēc pieprasÄ«juma?!

Profesora prezentētā ideja Rodžeram izrādÄ«jās jauna, un students to alkatÄ«gi uzsÅ«ca caur kognitÄ«vajām membrānām, kas atrodas viltus galvas pakauŔējā daļā. UztvēruÅ”as iepriekÅ” nezināmu informāciju, kognitÄ«vās membrānas ieguva piesātinātu purpursarkanu krāsu un priecÄ«gi trÄ«cēja.

Profesors, gluži otrādi, neko jaunu priekÅ” sevis nesadzirdēja. Viņa taustekļi bija atslābuÅ”i un gandrÄ«z nevibrēja - galu galā viņŔ nebija jauns. Sekoja garÅ”, senils rÄ«stÄ«Å”anās. Profesors izvilka no somas personÄ«go domofonu un pieslēdzās bibliotēkai. Tikai pēc vairāku transÄ£eometrisko teorēmu lejupielādes viņŔ atdzÄ«vojās un pavērsa caururbjoÅ”o skatienu uz sarunu biedru, jautājot:

-Ko tu darīsi, Rodžer?

3.
ā€œIeslēdziet pÅ«tēju ar pilnu jaudu!ā€ ā€“ Rodžers deva pavēli.

MehāniÄ·is ieslēdza pÅ«tēju ar pilnu jaudu, bet tas neko daudz nepalÄ«dzēja. Informācijas ledus turpināja ēst kosmosa kreisera apakŔā. Vēl nedaudz ā€“ un kuÄ£a iekÅ”ienē izlauzÄ«sies nesakārtota informācija.

Un tad... KognitÄ«vās membrānas ir miruÅ”i baltas, sapinuÅ”ies taustekļi, pārsprāguÅ”i Ŕķautņu maisiņi. Rodžers kaut ko tādu bija redzējis vienu reizi savā dzÄ«vē ā€” uz kreisera, kas bija paņēmis nesakārtotu informāciju par inficētu asteroÄ«du. Å is murgs uz visiem laikiem paliks viņa atmiņā.

"Savienojiet visas kuģa enerģijas sistēmas ar pūtējiem."

Mehāniķa taustekļi sāka parādīties kā plankumi...

"Betā€¦"

ā€œIzpildi pasÅ«tÄ«jumus!ā€

Kad visas kuÄ£a energosistēmas bija savienotas ar pÅ«tējiem, informācijas ledus sāka pakāpeniski slÄ«dēt. Bija palikuÅ”as astoņas mimmas, septiņas mimmes, seÅ”as... Komanda, cenÅ”oties nekustināt savus raibo taustekļus, gaidÄ«ja, kad beigsies nāves skaitÄ«Å”ana.

Nulle mimm biezuma!

Informācijas ledus pilnÄ«bā pazuda, un Rodžers deva atļauju pārslēgt pÅ«tējus normālā režīmā. ViņŔ brÄ«di kavējās. Atskanēja slÄ«pÄ“Å”anas skaņa, kosmosa kreiseris nodrebēja lÄ«dz pamatiem un sasvērās - galvenā sistēma bija sabojājusies.

Komanda steidzās novērst bojājumus.

4.
Rodžers par to domāja. Kas viņam īsti būtu jādara?

No vienas puses, problēmas stāvoklis paredz pilnvērtÄ«ga mākslÄ«gā intelekta esamÄ«bu ar spēju paÅ”atražoties. No otras puses, Å”im mākslÄ«gajam intelektam nekad nevajadzētu ļaut noņemt esoŔās slēdzenes.

Jā, lūk, risinājums! Ko tu te domā?!

ā€“ Periodiski ir jāatceļ mākslÄ«gā intelekta sasniegumi. Å ajā gadÄ«jumā tas pārvietosies pa apli! Mūžīgs uzlabojums, nevirzoties uz priekÅ”u.

Profesors gurdēja ar slīpētu somu.

ā€“ Atklāti sakot, es gribēju piedāvāt citu iespēju. Tomēr jÅ«su lēmumam ir arÄ« tiesÄ«bas pastāvēt. Izdomāsim kopā, kā iespējams atgriezt mākslÄ«gā intelekta sasniegumus.

"Pirmkārt, periodiski ir nepiecieÅ”ams skenēt intelektu, lai noteiktu, vai tas ir pietuvojies aizliegtajam slieksnim," ierosināja Rodžers, ārkārtÄ«gi gandarÄ«ts par profesora vārdiem.

"VarbÅ«t," viņŔ pamāja. "Tad mÅ«su palātai nebÅ«s laika atrast un noņemt skenÄ“Å”anas sistēmu." Tomēr, lai skenētu, mākslÄ«gais intelekts bÅ«s jāizslēdz. Tā ir slikta veiksme.

"Nu, ļaujiet viņam izslēgties," Rodžers ieteica. ā€“ Pats intelekts uzskatÄ«s, ka Ŕī izslēgÅ”ana ir dabisks tā Ä·ermeņa darbÄ«bas process. Ar dažām atrunām tā ir taisnÄ«ba.

- Interesants risinājums. Pieņemsim, ka skenÄ“Å”ana atklāja, ka mÅ«su palāta ir bÄ«stami tuvu zināŔanu robežai? MÅ«su rÄ«cÄ«ba?

ā€“ AtiestatÄ«t uzkrātās zināŔanas uz noklusējuma vērtÄ«bām.

Profesors izpleta taustekļus:

ā€“ Tas var likties aizdomÄ«gi. Kāpēc ā€“ bez iemesla, bez iemesla ā€“ atmiņa tika atiestatÄ«ta uz nulli? Palātu sāks izmeklēt, es domāju, citi mākslÄ«gi inteliÄ£enti indivÄ«di. MÅ«su mazais noslēpums tiks atklāts.

JÅ«toties iedvesmots, Rodžers ātri nodomāja. ViņŔ nekad nebija radÄ«jis tik daudz jaunu ideju kā Å”ajā eksāmenā.

ā€“ Atmiņu par palātu var atiestatÄ«t kopā ar viņa fizisko apvalku.

- Atvainojiet? ā€“ profesors nesaprata.

ā€“ Viss ir ļoti vienkārÅ”i. Ko darÄ«t, ja mēs pieņemam, ka mākslÄ«gais intelekts pastāv ierobežotā laika periodā? PatiesÄ«bā tas ir tā: piemēram, neatgriezeniska bojājuma gadÄ«jumā. Sistēmai ir skaitÄ«tājs, kas, sasniedzot noteiktu periodu, apzināti sabojā sistēmu, neļaujot mākslÄ«gajam intelektam sasniegt aizliegto robežu. LÄ«dz tam laikam viņŔ bÅ«s saražojis vajadzÄ«go sekotāju skaitu, tāpēc mÅ«su radÄ«tā sabiedrÄ«ba kopumā necietÄ«s. SabiedrÄ«ba mums paliks stabila un pilnÄ«gi droÅ”a! ā€“ Rodžers triumfējoÅ”i pabeidza.

ā€“ Atjaunot kolektÄ«vo atmiņu, iznÄ«cinot indivÄ«dus? ā€“ un profesors ar piekto, visjÅ«tÄ«gāko, taustekli noskrāpēja faseÅ”u maisiņu. ā€“ Zini, Rodžer, kaut kas tavā priekÅ”likumā noteikti ir!

Rodžers staroja.

ā€” Tajā paŔā laikā... ā€” profesors domÄ«gi turpināja. ā€“ Palātas sāks nodot zināŔanas, neuzkrājot tās individuālajā atmiņā, bet ievietojot ārējās bibliotēkās. Kas ir membrānā, kas ir uz membrānas ā€“ viss ir viens.

"Nē, nē, profesor, jums nav pilnÄ«ga taisnÄ«ba," students steidzās. - Es zinu, ko darÄ«t. SadalÄ«sim savus studentus divos nosacÄ«tajos tipos: ideju Ä£eneratoros un ideju iznÄ«cinātājos. Ar pareizu proporciju pirmā tipa pārstāvju radÄ«tās idejas iznÄ«cinās otrā tipa pārstāvji. Pat ne tāpēc, ka tas bÅ«s tieÅ”ais iznÄ«cinātāju mērÄ·is, bet vienkārÅ”i tāpēc, ka idejām viņiem nebÅ«s noteiktas vērtÄ«bas. Blakusefekts. Pieņemsim, ka mÅ«su skolēni barojas nevis no jaunām idejām, bet... teiksim, no sava veida.

Profesors satricināja visus taustekļus uzreiz. No viņa trakajiem smiekliem viņa Ŕķautņu maisiņŔ noslÄ«dēja uz ceļgala dobuma.

- Nu, Rodžer, tu to teici, tā tu teici!

ā€“ Nu, labi, ne jau savējo, bet treŔā tipa palātas, speciāli paredzētas pārtikai ā€“ un vispār ne intelektuāļi. PārbÄ«dÄ«sim intelektuālās un fiziskās pasaules polus ā€“ un vēlamais rezultāts tiks sasniegts.

- TieÅ”i tā, Rodžer, pietiks! ā€“ profesors Ŕķita nopietni uzjautrināts. -JÅ«su iztēle ir lieliska. Tātad, daži indivÄ«di pārtiek no citiem? Tajā paŔā laikā iznÄ«cināt bibliotēkās uzkrātos garÄ«gās barÄ«bas krājumus? Apliecinu, student, ka esi spējÄ«gs Ä£enerēt oriÄ£inālas un kvalitatÄ«vas idejas. Es pieŔķiru tai augstāko punktu skaitu. Paņemsim rekordu.

5.
Nesakārtotas informācijas mākonis palika aiz muguras, taču patiesībā situācija palika bēdīga.

Nebija nekādas saistÄ«bas ar bāzi. To bÅ«tu bijis viegli izdzÄ«vot, ja visas kreisera uzturvērtÄ«bas informācijas bāzes nebÅ«tu sabrukuÅ”as. TraÄ£isko ziņu pavārs ziņoja vispārējā klusumā. Galvenās sistēmas izslēgÅ”anas laikā kambÄ«zē iekļuva vairāki nesakārtotas informācijas žiroskopi un visu nelabojami sabojāja. Tikai veiksmes dēļ neviens nav cietis.

Rodžers apsvēra sekas. Zvaigžņu kuÄ£a apkalpe bija pārāk maza, lai radÄ«tu pietiekamu skaitu jaunu ideju: tas prasÄ«ja daudzpusēju saziņu - daudz lielāku personu skaitu. Saikne ar mājām ļāva Ä£enerēt idejas pārpilnÄ«bā, bet tagad tas izkrita no ierindas: nebija cerÄ«bu uz atjaunoÅ”anu. Å ajā gadÄ«jumā kreiseram bija rezerves informācijas modulis, taču to sabojāja nesakārtota informācija, kas bija nonākusi uz klāja.

"Vai mums tieŔām bÅ«s jāatgriežas, nepabeidzot uzdevumu?" ā€“ kapteinis izmisumā domāja.

AcÄ«mredzot jā ā€“ citas izejas nebija. Ja lidosiet uz priekÅ”u uz savu izvirzÄ«to mērÄ·i, svaigu ideju trÅ«kums liks par sevi manÄ«t. Ne uzreiz, protams ā€“ ar laiku. Viņiem pat bÅ«s laiks pabeigt savu misiju un sākt atgriezties, kad viņu prāts sāks ātri izbalēt. Å Ä« galaktikas sektora zonā - jā, kaut kur Å”eit vai tuvumā - tas pilnÄ«bā neizdosies visiem apkalpes locekļiem. Tad kosmosa kreiseris, kuru neviens nekontrolē, pārvērtÄ«sies par nedzÄ«vu spoku, kas peld mūžībā.

Kosmosa kreisera apkalpe paskatījās uz Rodžeru, gaidot lēmumu. Visi saprata kapteiņa dilemmu un klusēja, stoiski vibrējot taustekļus.

PēkŔņi Rodžers atcerējās mākslÄ«gā intelekta eksāmenu, ko viņŔ bija kārtojis kā students, un risinājums nāca dabiski.

"Vai jÅ«s varat izveidot mākslÄ«gu saprātÄ«gu bÅ«tņu koloniju?" ā€“ viņŔ vērsās pie biotehnologa.

"Viegli," viņŔ apstiprināja. ā€“ Bet nekas neizdosies, kaptein, es par to domāju. Nav iespējams izveidot koloniju, kas bÅ«tu pietiekama, lai radÄ«tu jaunas idejas uz kreisera - nav pietiekami daudz vietas. Ar Ä£enerētajām idejām nepietiks, tikai novilcināsim savu nāvi... GadÄ«jumā, ja, protams, turpināsim misiju un neatgriezÄ«simies mājās,ā€ piebilda biotehnologs, atskatoties uz biedriem.

"Ko darīt, ja mēs izveidosim koloniju uz kādas tuvējās planētas?" - ierosināja Rodžers.

"Es to varu, bet..."

ā€œApdzÄ«vosim planētu ar mākslÄ«gām bÅ«tnēm. Atceļā, diezgan noguruÅ”i, mēs piestāsim Å”eit. IepriekŔējā laikā civilizācija radÄ«s intelektuālo bagāžu, kas ir pietiekama, lai papildinātu mÅ«su rezerves. Lejupielādējam informāciju un turpināsim garo ceļu uz mājām. Citiem vārdiem sakot, es izmantoÅ”u koloniju kā ideju fermu. Kā jums patÄ«k Å”is plāns, draugi?

Apkalpes kognitīvajās membrānās uzliesmoja cerība, un viltus galvas sāka mirdzēt spilgtā gaismā.

Kuģa īpaŔais virsnieks pakāpās uz priekŔu, kratīdams zilos taustekļus.

"Lielisks plāns, kaptein. Bet vai jÅ«s apzināties atbildÄ«bu, ko uzliekat sev? JÅ«s gatavojaties apdzÄ«vot visu planētu. Kamēr mēs atgriezÄ«simies, tajā parādÄ«sies civilizācija ar inteliÄ£enci. Pat ja tas ir mākslÄ«gs, tas joprojām ir intelekts. Å iem puiÅ”iem bÅ«s daudz laika, lai sasniegtu augstāko attÄ«stÄ«bas lÄ«meni. Mēs nevarēsim kontrolēt Å”o procesu, jo neesam Å”ajā galaktikas sektorā. Kā zināt, kas notiks nākamajā tikÅ”anās reizē?

Rodžers iesmējās.

"Jums par to nav jāuztraucas. Ir metodes, kas laika gaitā ierobežo mākslÄ«gā intelekta attÄ«stÄ«bu. Mēs apvilksim civilizāciju, tāpēc tās attÄ«stÄ«ba nekad nesasniegs mums bÄ«stamu lÄ«meni. Es par to parÅ«pÄ“Å”os. Esmu pazÄ«stams ar metodēm, kā strādāt ar mākslÄ«go intelektu.

Apkalpes kognitīvās membrānas kvēloja apstiprinājuma krāsā.

"Beigās," piebilda kosmosa kreisera kapteinis savas lieliskās runas beigās, "es institūtā nokārtoju eksāmenu Ŕajā priekŔmetā."

6.
Pēc piespiedu kavÄ“Å”anās kosmosa kreiseris metās mērÄ·a virzienā. Aiz tā pakaļgala atradās planēta, kurā dzÄ«voja mākslÄ«gi radÄ«jumi ā€“ ļoti maza un neuzkrÄ«toÅ”a. Zils-zils.

Avots: www.habr.com

Pievieno komentāru