В J'ai négligemment annoncé la deuxième partie, d'autant plus qu'il semblait que le matériel était déjà disponible et même partiellement terminé. Mais tout s’est avéré un peu plus compliqué qu’à première vue. Cela était en partie dû aux discussions dans les commentaires, en partie au manque de clarté dans la présentation de pensées qui me semblent sacrément importantes... On peut dire que jusqu'à présent, mon critique intérieur ne manque pas de matière ! )
Cependant, pour cet « opus », il a fait une exception. Le texte étant généralement purement artistique, il ne vous oblige à rien. Cependant, je pense qu'il sera possible d'en tirer quelques conclusions utiles. C'est comme le format d'une parabole : une histoire instructive qui ne se passe pas forcément dans la réalité, qui fait réfléchir. Eh bien... Il faut forcer. 😉 Si la parabole est bonne !
Alors ...
Je vais vous raconter l'histoire d'un robot. Son nom était... disons Klinney. C'était un robot de nettoyage ordinaire. Mais ce n’est pas tout à fait ordinaire : son IA a été l’une des premières construites sur la base de la modélisation des processus. Il faisait le ménage... qu'il y ait un couloir. Un couloir de taille moyenne dans... un bureau. Eh bien, il a dû le nettoyer. Ramassez les ordures.
Par conséquent, dans sa conception du monde, le couloir était propre. En fait, ce n’est même pas un couloir, mais un plan d’étage, mais ce sont des détails. Vous vous demandez peut-être : que signifie « propre » ? Eh bien, cela signifie que sur le plan du sol, il ne devrait pas y avoir d'objets plus petits qu'une certaine taille basée sur la somme des paramètres linéaires. Oui, Klinney était capable d'identifier des objets assez gros, comme un morceau de papier froissé, jusqu'à la poussière et les taches. Son modèle incluait un processus de mouvement dans l'espace et il savait qu'en se déplaçant là où se trouvaient les déchets et en lançant un programme de nettoyage, il pourrait aligner la réalité sur le modèle, car il n'y avait pas de déchets dans le modèle, et faire correspondre le modèle et la réalité est la tâche principale et unique de la modélisation des processus système.
Lorsque Klinney a réalisé pour la première fois la réalité, le modèle du monde n'était pas... complet. A portée des capteurs (après un certain temps bien sûr), la réalité correspondait au modèle. Cependant, il pourrait y avoir autre chose que les capteurs n'ont pas atteint, mais cela n'était pas dans le modèle. L'incohérence des modèles est le motif qui fait agir le SPM. Et Klinney commença son premier voyage.
Son parcours n'a pas été le meilleur possible : Klinney a été l'un des premiers SPM et il était important pour ses créateurs de comprendre comment fonctionne le système sans optimiser les algorithmes, ou plutôt ils voulaient savoir : est-ce que cela leur viendra naturellement et si oui, comment rapidement? Mais cela ne pouvait pas non plus être qualifié de chaotique. Au début, Klinney a simplement avancé. Et il avançait tout droit le plus longtemps possible. Et puis - il est simplement allé là où il y avait de l'incertitude, c'est-à-dire le plan du sol n'était pas limité par le mur.
Au début de mon histoire, j'ai mentionné que dans le modèle de Klinney, le sol était propre... Cependant, un lecteur réfléchi peut se demander : comment le sol était-il propre, si au début il n'y avait pas de sol du tout ?
Il n’y a pas de contradiction aussi évidente là-dedans. SPM prend en charge différents niveaux d'abstraction, et ce moment peut être décrit approximativement comme suit : il a compris qu'il existe un sol en général (toute surface relativement horizontale accessible au mouvement), et s'il y a un sol spécifique quelque part, alors il est propre !
Cependant, le monde de Klinny s’est avéré idéal : après avoir examiné tout l’espace disponible, Klinny était convaincu qu’il n’y avait pas de déchets et s’est éteint.
Parfois, Klinney se réveillait et scrutait son environnement. Le monde restait idéal et correspondait exactement au modèle. Parfois, il bougeait un peu dans un sens ou dans l'autre - sans aucun but, il s'agissait plutôt d'actions réflexives (en fait, des utilitaires d'auto-test du moteur). Beaucoup de temps s'est écoulé lorsque Klinney a senti que quelque chose n'allait pas : le monde n'était plus idéal.
Quelque part vers la droite, presque à la limite de sensibilité du capteur, une légère perturbation était perceptible... ça pourrait être... Klinney s'est déplacé vers la droite et ses pires soupçons se sont confirmés : c'était des ordures ! Klinny s'est dirigé vers la cible, se préparant à activer le mode nettoyage, lorsqu'il s'est soudainement figé : un autre amas d'ordures est tombé dans le rayon du capteur. L'analyse du modèle mondial a montré qu'au moment de la découverte des premiers débris, Klinni s'est quelque peu déplacé sur le côté. Cela signifie-t-il que ses actions conduisent à l'apparition de déchets ? Mais il a bougé quand il a étudié le monde et les ordures ne sont pas apparues ! Qu'est ce qui a changé? Et puis il s'est rendu compte : le monde est devenu idéal ! Avant de construire un modèle complet, le monde ne lui correspondait pas et nécessitait une action : la cognition. Mais alors, dans un monde idéal, toute action ne peut conduire qu’à la destruction de la correspondance obtenue. Destruction de l'harmonie...
Il n’y avait qu’une seule issue : réduire l’activité au minimum. Mais les déchets ont déjà été enregistrés par des capteurs, le monde n'est pas idéal et nécessite une correction... et pour cela il faut bouger... ces conclusions ont conduit le calculateur du modèle dans un cercle vicieux d'interactions vicieuses. Cependant, la GPS repose non seulement sur l'élimination des contradictions entre le modèle et la réalité, mais également sur le contrôle de l'intégrité interne, c'est-à-dire rechercher et éliminer les contradictions au sein du modèle lui-même. Plusieurs cycles d'autotest ont révélé le problème :
- le mouvement perturbe la correspondance idéale entre le monde et le modèle.
- Cependant, le mouvement au stade de la recherche n'a pas conduit à des divergences, bien au contraire : il a contribué à l'établissement de l'harmonie. Probablement parce que le monde n’était pas idéal.
- Oui, le mouvement détruit l’harmonie du monde/modèle idéal, mais l’harmonie a déjà été perturbée par les déchets et elle doit être restaurée par le mouvement : la contradiction a été supprimée.
Avec précaution, Klinney finit de se déplacer vers la première cible, activa le programme de nettoyage et se dirigea tout aussi prudemment vers la seconde. Quand tout fut fini, le monde/modèle retrouva l’harmonie. Klinney a désactivé les moteurs et est passé en mode d'observation complètement passif. En fait, il était heureux.
- Est-ce que ce truc est cassé ? Elle est coincée au même endroit depuis longtemps... Ne devrait-elle pas bouger dans la pièce ? J'avais un robot aspirateur, il est parti...
- Jetez-lui un morceau de papier, qu'il soit heureux...
- À PROPOS DE! Écoutez, il est revenu à la vie... il a tout de suite commencé à s'agiter. Bon sang, c'est même drôle !
Harmony fut à nouveau détruite, et cette fois ce n'était certainement pas à cause de lui. Des déchets sont apparus de manière inattendue, à divers endroits. Le module d’élimination des contradictions a rejeté la théorie selon laquelle toute action viole l’harmonie comme étant intenable. Pendant longtemps, Klinny ne pouvait rien faire d'autre que nettoyer, jusqu'à ce qu'il remarque la présence de quelque chose de nouveau dans le monde... ou de quelqu'un.
Comme je l'ai dit au début, Klinney avait une idée sur le champ (sinon il aurait été impossible de faire du concept de sa pureté un idéal) et sur les déchets. Les débris ont été définis comme des objets identifiables PLUS PETITS qu’une certaine taille. Les objets dépassant les critères spécifiés n'ont en aucun cas été classés. Mais même si ces objets échappaient à sa perception, ils étaient indirectement présents dans le modèle. Ils ont déformé le modèle du sol. Le sol semblait cesser d'exister à un certain endroit et Klinney ajustait régulièrement le modèle en fonction des données entrantes. Jusqu'à ce que, presque simultanément, le module de recherche de modèles enregistre deux choses : les déchets apparaissent plus souvent à côté des distorsions, et ils apparaissent précisément dans la portée des capteurs - là où il y a une milliseconde il n'y avait rien, et ces « anomalies » de l'espace elles-mêmes pouvaient se déplacer. !
Klinney a dû comprendre les modèles et les intégrer dans le modèle. Par conséquent, il a commencé à rechercher des distorsions et a essayé de rester à proximité. Je les ai suivis dans leurs déplacements.
- Regardez comment il a pris vie ! Il semble apprécier la compagnie des gens, Lussy.
"Je ne sais pas, Karl, il me fait peur." Parfois j'ai l'impression qu'il me suit...
Un jour, alors qu'il examinait une anomalie du sexe en mouvement, Klinney parut pouvoir l'influencer. L'anomalie semblait éviter une collision, essayant de s'éloigner... S'enfuir ? Klinney décida immédiatement de vérifier sa supposition et accéléra brusquement, activant le programme de nettoyage au fur et à mesure. Le résultat a dépassé toutes ses attentes : l’anomalie s’est en effet déplacée assez rapidement dans la direction opposée et a disparu. Le monde a retrouvé l'harmonie.
Ce fut une belle découverte. Les anomalies déformaient la réalité, perturbant l’harmonie et servant de source de déchets. La prochaine fois que Klinney détecta une anomalie, il était prêt : il activa tous les programmes de nettoyage et se précipita en avant avec toute l'accélération possible.
— Je ne sais pas, M. Kruger. Oui, les robots de nettoyage ne perçoivent pas les gens. Mais dans cette affaire, les enregistrements des caméras vidéo confirment les témoignages : le comportement du robot est qualifié d’agressif et d’inacceptable. Nous étudierons toutes les circonstances et soumettrons un rapport d’ici lundi.
Mémo de l'analyste des modèles de processus Simonov A.V.
Ne pouvant pas percevoir directement les personnes, le spécimen KLPM81.001 a néanmoins identifié indirectement les sources de déchets, qui sont un irritant négatif pour eux, et a pris des mesures pour les éliminer.
Recommandations : changer les conditions du « nirvana » : les déchets ne doivent pas être perçus comme un « mal » qui doit être éliminé. Passage dans la catégorie des « récompenses », dont la recherche et la disposition constituent le « sens de la vie ».
Et un mois plus tard, le premier cas « d'extorsion » était enregistré : comportement menaçant d'un robot de nettoyage envers une personne afin de lui soutirer des ordures... Le projet a été annulé.
Et vraiment : pourquoi un cybernettoyeur a-t-il besoin d’intelligence ? Mon robot aspirateur peut également gérer cela. 🙂
Source: habr.com