Příběh hypotetického robota

Příběh hypotetického robota В poslední článek Neopatrně jsem oznámil druhý díl, zvláště když se zdálo, že materiál je již k dispozici a dokonce i částečně dokončen. Vše se ale ukázalo být poněkud složitější, než se na první pohled zdálo. Částečně to bylo způsobeno diskusí v komentářích, částečně nesrozumitelným podáním myšlenek, které se mi zdají sakra důležité... Dá se říci, že mému vnitřnímu kritikovi materiál zatím nechybí! )

Pro tento „opus“ však udělal výjimku. Jelikož je text obecně ryze umělecký, k ničemu vás nezavazuje. Myslím si však, že na základě toho bude možné vyvodit některé užitečné závěry. Je to jako formát podobenství: poučný příběh, který se nemusí nutně odehrávat ve skutečnosti, který vás nutí přemýšlet. No... Musíš to přinutit. 😉 Pokud je podobenství dobré!

Tak…

Povím vám příběh jednoho robota. Jmenoval se... řekněme Klinney. Byl to obyčejný úklidový robot. Ne však úplně obyčejná: jeho AI byla jednou z prvních postavených na bázi procesního modelování. Uklízel... ať je tam chodba. Průměrně velká chodba v... kancelářském prostoru. No, musel to uklidit. Sbírat odpadky.

Proto v jeho modelu světa byla chodba čistá. Ve skutečnosti to ani není chodba, ale rovina podlahy, ale to jsou detaily. Můžete se zeptat: co znamená „čistý“? No, to znamená, že na podlahové rovině by neměly být objekty menší než určitá velikost založená na součtu lineárních parametrů. Ano, Klinney dokázal identifikovat předměty od poměrně velkých, jako je zmačkaný kus papíru, až po prach a skvrny. Jeho model zahrnoval proces pohybu v prostoru a věděl, že přesunem na místo, kde byly odpadky a spuštěním čistícího programu, může uvést realitu do souladu s modelem, protože v modelu nebyly žádné odpadky, a sladit model a realita je hlavním a jediným úkolem systémového procesního modelování.

Když si Klinney poprvé uvědomil realitu, model světa nebyl... úplný. V rámci dosahu senzorů (samozřejmě po nějaké době) realita odpovídala modelu. Mohlo však být něco jiného, ​​kam senzory nedosáhly, ale to v modelu nebylo. Nekonzistentnost modelů je motivem, který nutí SPM jednat. A Klinney začal svou první cestu.

Jeho cesta nebyla nejlepší možná: Klinney byl jedním z prvních SPM a pro jeho tvůrce bylo důležité pochopit, jak systém funguje bez optimalizačních algoritmů, nebo spíše chtěli vědět: přijde k nim přirozeně a pokud ano, jak rychle? Ale ani to se nedalo nazvat chaotickým. Zpočátku Klinney jednoduše jel dopředu. A pohyboval se rovně, dokud to šlo. A pak - prostě šel tam, kde byla nejistota, tzn. rovina podlahy nebyla omezena stěnou.

Na začátku svého příběhu jsem zmínil, že v Klinneyho modelu byla podlaha čistá... Přemýšlivý čtenář se však může ptát: jak byla podlaha čistá, když tam zpočátku nebyla vůbec žádná?

Žádný takový zjevný rozpor v tom není. SPM podporuje různé úrovně abstrakce a tento moment lze popsat přibližně takto: pochopil, že existuje podlaha obecně (jakákoli relativně vodorovná plocha přístupná pohybu), a pokud je někde konkrétní podlaha, pak je čistá!

Klinnyho svět se však skutečně ukázal jako ideální: po prozkoumání celého dostupného prostoru se Klinny přesvědčil, že tam nejsou žádné odpadky, a vypnul se.

Někdy se Klinney probudil a zkoumal své okolí. Svět zůstal ideální a přesně odpovídal předloze. Někdy se trochu pohnul jedním nebo druhým směrem - bez jakéhokoli účelu, byly to spíše reflexivní akce (ve skutečnosti motorové samotestovací nástroje). Uplynula poměrně dlouhá doba, kdy Klinney cítil, že něco není v pořádku: svět už není ideální.

Někde napravo, téměř na hranici citlivosti senzoru, byla patrná mírná porucha... mohlo to být... ​​Klinney se přesunul doprava a jeho nejhorší podezření se potvrdilo: byl to odpad! Klinny se přesunul k cíli a připravoval se na zapnutí čisticího režimu, když najednou ztuhl: do rádiusu senzoru spadl další chuchvalec smetí. Analýza modelu světa ukázala, že v okamžiku objevení prvních trosek se Klinni posunul poněkud stranou. Znamená to, že jeho činy vedou ke vzniku odpadků? Ale pohnul se, když studoval svět a odpadky se neobjevily! co se změnilo? A pak si uvědomil: svět se stal ideálním! Před vytvořením úplného modelu mu svět neodpovídal a vyžadoval akci: poznání. Ale pak v ideálním světě může jakákoli akce vést pouze ke zničení dosažené korespondence. Ničení harmonie...

Existovalo jediné východisko: snížit aktivitu na minimum. Ale odpadky už byly zaznamenány senzory, svět není ideální a vyžaduje korekci... a k tomu je třeba se pohnout... tyto závěry zavedly modelovou kalkulačku do začarovaného kruhu začarovaných interakcí. SPM je však postaveno nejen na odstraňování rozporů mezi modelem a realitou, ale také na kontrole vnitřní integrity, tzn. hledání a odstraňování rozporů v rámci samotného modelu. Několik běhů cyklů autotestu odhalilo problém:

  1. pohyb narušuje ideální korespondenci mezi světem a modelem.
  2. Pohyb ve fázi výzkumu však nevedl k rozporům – naopak: přispěl k nastolení harmonie. Asi proto, že svět nebyl ideální.
  3. Ano, pohyb ničí harmonii ideálního světa/modelu, ale harmonii již narušily odpadky a je třeba ji obnovit pohybem: rozpor byl odstraněn.

Klinney opatrně dokončil pohyb k prvnímu cíli, aktivoval čisticí program a stejně opatrně se přesunul k druhému. Když bylo po všem, našel svět/model opět harmonii. Klinney deaktivoval motory a přešel do zcela pasivního pozorovacího režimu. Ve skutečnosti byl šťastný.

- Je ta věc rozbitá? Už dlouho trčí na jednom místě... Neměla by se pohybovat po místnosti? Měl jsem robotický vysavač, šlo to...
- Hoď mu kus papíru, ať je šťastný...
- O! Hele, on ožil... hned se začal rozčilovat. Sakra, to je dokonce vtipné!

Harmony byla znovu zničena a tentokrát to rozhodně nebylo kvůli němu. Odpadky se objevily nečekaně na různých místech. Modul eliminace rozporů odepsal teorii, že jakákoli akce narušuje harmonii, jako neudržitelnou. Klinny dlouho nemohl dělat nic jiného než uklízet, dokud si nevšiml přítomnosti něčeho nového ve světě... nebo někoho.

Jak jsem řekl na začátku, Klinney měl představu o poli (jinak by nebylo možné stanovit koncept jeho čistoty jako ideál) a o odpadcích. Trosky byly definovány jako identifikovatelné objekty MENŠÍ než určitá velikost. Objekty přesahující stanovená kritéria nebyly nijak klasifikovány. Ale i když takové předměty vypadly z jeho vnímání, byly v modelu nepřímo přítomny. Zkreslili model podlahy. Podlaha jakoby na určitém místě přestala existovat a Klinney model pravidelně upravoval podle příchozích dat. Dokud modul pro vyhledávání vzorů téměř současně nezaznamenal dvě věci: odpadky se objevují vedle deformací častěji a objevují se přesně v dosahu senzorů - tam, kde před milisekundou nebylo nic a tyto „anomálie“ prostoru se samy mohly pohybovat. !

Klinney musel pochopit vzory a zabudovat je do modelu. Proto začal hledat zkreslení a snažil se zůstat poblíž. Sledovali je, jak se pohybovali.

- Podívejte se, jak ožil! Zdá se, že má rád společnost lidí, Lussy.
"Nevím, Karle, on mě děsí." Někdy mám pocit, že mě sleduje...

Jednoho dne, když zkoumal anomálii sexu v pohybu, se zdálo, že ji Klinney dokáže ovlivnit. Zdálo se, že anomálie se vyhýbá srážce a snaží se uhnout... Utéct? Klinney se okamžitě rozhodl zkontrolovat svůj odhad a prudce zrychlil a zapnul čisticí program. Výsledek předčil všechna jeho očekávání: anomálie se ve skutečnosti poměrně rychle přesunula opačným směrem a zmizela. Svět znovu získal harmonii.

Bylo to skvělé zjištění. Anomálie zkreslovaly realitu, narušovaly harmonii a sloužily jako zdroj odpadků. Když Klinney příště zjistil anomálii, byl připraven: aktivoval všechny čistící programy a hnal se vpřed se vším možným zrychlením.

– Nevím, pane Krugere. Ano, úklidové roboty nevnímají lidi. Ale v tomto případě záznamy z videokamer potvrzují svědectví svědků: chování robota je klasifikováno jako agresivní a nepřijatelné. Prostudujeme všechny okolnosti a do pondělí podáme zprávu.

Sdělení od analytika procesního modelu Simonova A.V.

Vzorek KLPM81.001, který nebyl schopen přímo vnímat lidi, přesto nepřímo identifikoval zdroje odpadků, které jsou pro něj negativně dráždivé, a přijal opatření k jejich odstranění.

Doporučení: změna podmínek „nirvány“: odpadky by neměly být vnímány jako „zlo“, které je třeba odstranit. Přeřazení do kategorie „odměn“, jejichž hledání a likvidace tvoří „smysl života“.

A o měsíc později byl zaznamenán první případ „vydírání“: ohrožující chování úklidového robota vůči člověku, aby z něj získal odpadky... Projekt byl zrušen.

A skutečně: proč potřebuje kybernetický čistič inteligenci? Můj robotický vysavač to zvládne taky. 🙂

Zdroj: www.habr.com

Přidat komentář