σχετικά με τις αντιξοότητες της εισαγωγής της τεχνητής νοημοσύνης σε μια εμπορική εταιρεία, σχετικά με το αν είναι δυνατόν να γίνει εντελώς χωρίς διαχειριστές. Και σε τι (υποθετικά) θα μπορούσε να οδηγήσει αυτό. Μπορείτε να κατεβάσετε την πλήρη έκδοση από
Τα bots αποφασίζουν τα πάντα
– Μαξ, σε συγχαίρω, έχουμε κάνει σχεδόν τα πάντα στην αλυσίδα πωλήσεων. Υπάρχουν ακόμα βελτιώσεις που πρέπει να γίνουν και θα λάβετε τόκο για τρία χρόνια, όπως αναφέρεται στο συμβόλαιο.
– Αυτό είναι μόνο το ήμισυ του έργου. Δεν έχουμε φτάσει ακόμα στο πιο σημαντικό πράγμα.
- Περιμένετε, ποιο είναι το κύριο πράγμα; Για τι? Έχουμε κάνει τα πάντα!
– Έχουμε αυτοματοποιημένες διαδικασίες στην αλυσίδα πωλήσεων, όλα λειτουργούν καλά χωρίς ανθρώπους, αλλά δεν υπάρχουν άλλοι πελάτες. Πρέπει να προσελκύονται από την πλευρά μας στο Διαδίκτυο. Πρέπει να φτιάξουμε bots.
– Αλλά έχουμε δημιουργήσει μια ιδανική υπηρεσία, οι πελάτες θα την εκτιμήσουν και θα έρθουν οι ίδιοι.
«Δεν φαίνεται να βιάζονται και δεν έχω χρόνο να περιμένω». Δεν ενδιαφέρομαι.
– Μα τι θα μας δώσουν τα bots;
– Με ίσες τιμές και ποικιλία, που έχουμε πετύχει, αρχίζουν να παίζουν ρόλο εντελώς διαφορετικοί παράγοντες. Δόξα και συμπάθεια. Η φήμη δεν είναι πρόβλημα, αλλά μόνο ένα άτομο μπορεί να κερδίσει τη συμπάθεια ενός ατόμου. Επομένως, χρειαζόμαστε bots που θα υποδύονται τους ανθρώπους. Και θα σχολιάζουν τις αναρτήσεις πελατών σε θεματικές ομάδες και φόρουμ με λεπτές συμβουλές για την εταιρεία - το εύρος, τις υπηρεσίες, τις τιμές της. Προωθήστε διακριτικά το εμπορικό σήμα της εταιρείας. Γι' αυτό χρειαζόμαστε bots.
– Αλλά αυτό είναι ένα δύσκολο έργο.
– Έχουμε τη βάση – ένα συνομιλητικό bot του κέντρου επικοινωνίας. Πρέπει να σφίξετε τον ορισμό της τονικότητας και πρέπει να καταλήξετε σε κάτι με χιούμορ, χωρίς αυτό το bot δεν θα περάσει για έναν άνθρωπο. Ας επισυνάψουμε μια βιβλιοθήκη με αστεία και γκγκ και ας εκπαιδεύσουμε το bot στα κείμενα των σχολίων όπου τα χρησιμοποιούσαν οι άνθρωποι. Θα πρέπει να λειτουργήσει. Τα ρομπότ θα είναι επίσης έξυπνα - ας προσθέσουμε ένα σύστημα συστάσεων "συμβούλου" και στη συνέχεια οι απλοί χρήστες στα φόρουμ θα τα λατρέψουν.
– Προτείνετε να ξεκινήσετε τα ρομπότ επιρροής;
- Γιατί όχι? Το κράτος και τα κόμματα μπορούν να το κάνουν πριν από τις εκλογές, αλλά εμείς δεν μπορούμε;
– Πώς τους κάνουμε έγκυρους ώστε να τους εμπιστεύονται; Εξάλλου, μόνο ένα έγκυρο bot μπορεί να δημιουργήσει likes. Αλλά προς το παρόν, για μένα αυτός ο συνδυασμός είναι οξύμωρο.
– Για να το ενισχύσουμε, θα δημιουργήσουμε ένα δίκτυο από bots. Θα επαινούν και θα συμπαθούν ο ένας τον άλλον για να αυξήσουν τη βαθμολογία και την εξουσία τους. Και θα είναι πολύ ικανοί· σε αντίθεση με τους ανθρώπους, ένα bot μπορεί να έχει γνώση όλων των προϊόντων και απλώς εγκυκλοπαιδική γνώση, με την κυριολεκτική έννοια, παρεμπιπτόντως. Και οι άνθρωποι θα έλκονται από αυτά. Σίγουρος. Οι άνθρωποι καθοδηγούνται και υπακούουν σε γνωστούς νόμους κοινωνικής συμπεριφοράς. Δείξτε το δάχτυλό σας πού να πάτε, προσποιηθείτε ότι το πλήθος έχει ήδη φύγει, και αυτό είναι. Είναι εύκολο στη διαχείριση.
– Πώς θα λειτουργήσουν όμως αυτά τα bots, ποιος θα τα διαχειριστεί;
– Τι είδους άνθρωποι, γιατί; Το σενάριο ανάλυσης βρίσκει σχόλια για το θέμα διαφορετικών ατόμων και το bot απαντά σε αυτά με φιλικό τρόπο χρησιμοποιώντας ένα από τα πρότυπα. Δίνει συμβουλές και αστεία. Εάν πρόκειται για πελάτη της εταιρείας, τότε το ενδιαφέρον του καταγράφεται στην ανάλυση πελατών. Αυτό θα επηρεάσει την εμφάνιση των banner και του περιβάλλοντος όταν πρόκειται για τον ιστότοπο με βάση τη σύσταση του bot. Εάν ένας πελάτης έχει μια αρνητική εμπειρία, την οποία ξεχύθηκε στα κοινωνικά δίκτυα, τότε το bot θα ξεκινήσει ένα άλλο πρότυπο, θα κάνει επίσης ένα αστείο, αλλά δεν θα το στείλει αμέσως στον ιστότοπο της εταιρείας. Θα γράψει μια απάντηση ως πελάτης με επιτυχημένη εμπειρία, και αυτό είναι όλο.
– Δηλαδή θέλετε να πείτε ότι το ίδιο το δίκτυο θα εξουδετερώσει την αρνητικότητα απαντώντας σε αρνητικά σχόλια;
– Οι έμποροι, φαίνεται, το αποκαλούν μάρκετινγκ φήμης.
– Πώς θα γνωρίζει το σύστημα ποια απάντηση είναι επιτυχής, ακόμα κι αν ήταν σε θέση να επιλέξει μια απάντηση;
– Πρώτη αντίδραση στην απάντηση. Το άτομο είτε αγανακτεί ακόμα περισσότερο, είτε αρχίζει να προσθέτει λεπτομέρειες μετά από ένα τέτοιο σχόλιο, αλλά με πιστό στυλ επικοινωνίας. Καλή αναγνώριση τόνου απόκρισης και τέλος.
– Τι γίνεται αν το άτομο δεν απάντησε στο σχόλιο;
– Αυτό είναι χειρότερο, αλλά από προεπιλογή αυτή η απάντηση είναι ουδέτερη. Εάν πρόκειται για πελάτη της εταιρείας, το οποίο μπορείτε να μάθετε από το προφίλ του σε ένα κοινωνικό δίκτυο, τότε μπορείτε να το δείτε με επόμενες επισκέψεις στον ιστότοπο.
- Τι απαιτείται από εμένα;
– Καλά παραδείγματα σχολίων και απαντήσεων, πολλά παραδείγματα.
- Θα το κάνουμε.
Η πρώτη έκδοση του bot ήταν ανεπιτυχής. Απάντησε ακατάλληλα, τα αστεία ήταν εκτός θέματος, μπέρδεψε το θέμα του σχολίου και ως απάντηση σε μια καταγγελία για εξυπηρέτηση από τον διευθυντή, απάντησε για παράδοση. Ο Μαξ ζήτησε ακόμη πιο σημαδεμένα παραδείγματα διαλόγου στα σχόλια. Έχει ήδη δοκιμάσει αρκετές αρχιτεκτονικές, από κλασικά πρότυπα bot μέχρι LSTM. Για πρώτη φορά, είδα ότι ο Μαξ ήταν αισθητά νευρικός και απαντούσε στα λάθη σκληρά και εχθρικά.
– Με το bot του κέντρου επικοινωνίας όλα ήταν απλά – το θέμα του αιτήματος και η πρόθεση του πελάτη ήταν αμέσως ξεκάθαρα. Ψάχνει για προϊόν, θέλει να μάθει την κατάσταση της παραγγελίας του ή έχει κάποιο παράπονο. Ολα. Και στα σχόλια ο διάβολος θα σπάσει το πόδι του από τις διάφορες προθέσεις του σχολιαστή. Και μερικές φορές δεν εκφράζεται με καμία από τις λέξεις με τις οποίες μπορεί να προσδιοριστεί η πρόθεση. Υπονοείται από ένα «ευρύτερο πλαίσιο» που δεν υπάρχει! Κάποιες βλακείες.
– Ξαναδιάβασα όλες τις τελευταίες δημοσιεύσεις σχετικά με τα bots. Κανείς δεν έχει λύση. Φαίνεται απλώς σαν διαφημιστική εκστρατεία. Τι σκέφτεσαι να κάνεις;
– Η τελευταία, ακόμα ασαφής ιδέα παραμένει. Δεν θα σου πω ακόμα. Χρειάζεται προσπάθεια. Δώσε μου δύο εβδομάδες. Σταματήστε το έργο προς το παρόν. Θα μεταφέρουμε τις τελευταίες εξελίξεις στο bot του κέντρου επικοινωνίας. Θα σας φανούν χρήσιμοι εκεί.
Ήταν ένα νευρικό δύο εβδομάδες. Πριν από αυτό, δεν ήταν χωρίς δυσκολία, αλλά όλα λειτούργησαν για εμάς. Κανείς δεν ήθελε μια αστοχία, αν και μπορούσαμε χωρίς ένα τέτοιο bot. Αυτή ήταν η φιλοδοξία του Μαξ. Και ακριβώς δύο εβδομάδες αργότερα παρουσίασε μια έκδοση για δοκιμή. Και λειτούργησε! Προσδιόρισε σωστά την πρόθεση του διαλόγου, απάντησε με ακρίβεια, έβαλε κατάλληλα ανέκδοτα και καθόρισε ακόμη και την αλλαγή των προθέσεων στο σχόλιο με τη φράση «μπορώ να μάθω περισσότερα;»
- Πώς τα κατάφερες; Το bot λειτουργεί σε οποιοδήποτε θέμα!
– Έπρεπε να φτιάξω ένα μικρό πρόγραμμα κατασκευής προτύπου με βάση τη γραμματική εξάρτησης, να επισυνάψω το word2vec και να στοχεύσω την αυτοεκμάθηση του Raptor για να επιλέξω λέξεις που θα εξασφάλιζαν μια θετική αντίδραση από τον σχολιαστή. Δεν ξέρω πώς ακριβώς, αλλά φαινόταν να λειτουργεί.
– Είστε σίγουροι ότι αυτός δεν είναι λόγος για να ανοίξετε τη δική σας επιχείρηση;
– Υπάρχει αρκετό ενδιαφέρον προς το παρόν, αλλά θα δούμε. Εγκατέστησα το bot ως ξεχωριστή υπηρεσία που εκτελείται από το cloud. Έτσι, μπορείτε πάντα να το ανοίγετε στους χρήστες. Θα έρθεις σε μένα ως σκηνοθέτης; – αστειεύτηκε ο Μαξ.
Ήταν ήρεμος και ευχαριστημένος με το αποτέλεσμα του. Και ξεκάθαρα εξαντλημένος, αφού δεν απάντησε γρήγορα και έγραψε «κοιμάμαι» στο status του. Προφανώς, η απόφαση ελήφθη με κόστος περισσότερες από μία άυπνες νύχτες. Το μάρκετινγκ δεν εκτίμησε αμέσως το ρομπότ. Το θεώρησαν αυτό το χαϊδευτικό μας και επικίνδυνο, καθώς τα bots θα μπορούσαν να λειτουργήσουν λανθασμένα και να καταστρέψουν την εικόνα της εταιρείας. Όμως τα bots έκαναν θαύματα. Μερικοί από αυτούς, και δεν τους ήξερα καν όλους ονομαστικά, έγιναν ηγέτες κοινής γνώμης σε ορισμένα φόρουμ. Απάντησε γρήγορα σε όλες τις ερωτήσεις, αστειεύτηκε και πολύ σπάνια συνιστούσε την εταιρεία, γιατί όλοι γνώριζαν ήδη πού «ψώνιζε». Οι άνθρωποι άρχισαν να τον αναφέρουν και να τον αναφέρουν ως παράδειγμα. Αυτό ήταν ήδη πέρα από την κατανόηση. Είτε το bot ήταν πολύ έξυπνο, είτε είμαστε ακόμα πολύ πρωτόγονοι στη συμπεριφορά του δικτύου μας. Όμως ο αριθμός των πελατών άρχισε να αυξάνεται σημαντικά περισσότερο από πριν. Η εταιρεία έγινε ηγέτης της αγοράς.
Λάβαμε ένα πλήρως αυτοδιοικητικό σύστημα για την απόσπαση κερδών από την αγορά. Η ίδια αναζητά και φέρνει πελάτες στον ιστότοπο ή στο κέντρο επικοινωνίας και στέλνει έναν διαχειριστή σε πιο σοβαρούς πελάτες. Σχεδιάζει η ίδια την ποικιλία και το απόθεμα, έτσι ώστε οι πελάτες να μπορούν να βρουν όλα όσα χρειάζονται και να είναι προσβάσιμα. Τα αξιόπιστα bot της εταιρείας δημιουργούν ζήτηση προτείνοντας τα διαθέσιμα προϊόντα της εταιρείας σε φόρουμ, ακόμη και όταν ρωτούν για άλλες μάρκες. Από την αγορά από έναν προμηθευτή έως τη διαφήμιση σε έναν πελάτη, το σύστημα χειρίζεται τις διαδικασίες εξ ολοκλήρου από μόνο του. Και σχεδόν δεν απαιτεί τη συμμετοχή των ανθρώπων, και όπου παραμένουν, ελέγχει όλες τις ενέργειές τους στο διαδίκτυο. Οι έμποροι, οι αγοραστές, οι μισοί από τους διαχειριστές και οι αναλυτές αναζητούν κάτι άλλο να κάνουν. Έχουμε φτάσει στο στόχο μας.
«Τώρα τα κάναμε όλα σωστά, μπορούμε να κάνουμε ένα διάλειμμα, να σκεφτούμε και να απολαύσουμε το συσσωρευμένο τόκο για τα επόμενα τρία χρόνια», έγραψε ο Max, όχι χωρίς emoticons.
– Υπάρχει κάτι για το οποίο πρέπει να είμαστε περήφανοι, θα έλεγα, και όχι απλώς για εικασίες.
– Τώρα το κέρδος προέρχεται από τους καταναλωτές. Με τη βοήθεια των bots, εμείς οι ίδιοι διαμορφώνουμε τα ενδιαφέροντα και τις επιθυμίες των καταναλωτών στο θέμα μας. Αυτό είναι το ωραίο!
– Αυτό σε κάνει χαρούμενο; Και με τρομάζει ήδη.
-Τί σε τρομάζει?
– Αυτό σημαίνει ότι έχουμε κάνει έναν άνθρωπο να μην είναι ελεύθερος στην επιλογή του. Και πιστεύω ότι στην αγορά πρέπει να ηγείται ο καταναλωτής και όχι οι εταιρείες. Οι εταιρείες δεν έχουν άλλη αξία εκτός από το κέρδος.
– Γι’ αυτό είναι κακός ο άσκοπος συλλογισμός ικανοποιημένων και χορτάτων πατρικίων. Αρχίζουν να λυπούνται τους πληβείους. Αν πεινούσατε αυτή τη στιγμή ή αν είχατε μια αδύνατη δουλειά μπροστά σας, θα το σκεφτόσασταν;
- Αυτή είναι μια προκλητική ερώτηση.
- Στην πραγματικότητα το θέμα! Οι εταιρείες δεν έχουν άλλες αξίες από το κέρδος και οι καταναλωτές δεν έχουν άλλες αξίες από την ευχαρίστηση. Ή και κέρδη, αν είναι εταιρεία. Κατανοήστε, έχουμε bots, μπορούν να δημιουργήσουν ανάγκες σε ανθρώπους που θα τους φέρουν ικανοποίηση. Μπορεί να διαμορφωθεί με αποδεκτές επιλογές, που θα είναι αρκετές για την ψευδαίσθηση της ελευθερίας επιλογής του καταναλωτή. Και όλοι είναι ευχαριστημένοι. Αυτή είναι η αγορά που οδηγεί στην αμοιβαία ικανοποίηση των αξιών.
- Φαίνεται ότι μεθύσαμε, γιατί δεν καταλάβαινα πια καλά τι είπες.
Ο Στρατηγός ζήτησε έκθεση για την υλοποίηση του σχεδίου με τους δείκτες που επιτεύχθηκαν. Για να υπολογίσουμε το μπόνους που μας αναλογεί. Και κάπως στην πορεία με ρώτησε ποια ήταν τα σχέδιά μου μετά. Είπα θα σου πω λίγο αργότερα. Βασικά δεν ήξερα. Υπήρχε περιθώριο βελτίωσης των αλγορίθμων, λήψης υπόψη περισσότερων χαρακτηριστικών και επίτευξης μεγαλύτερης ακρίβειας. Αλλά δεν ήταν πια τόσο ενδιαφέρον. Το να φύγω για άλλη εταιρεία για επανάληψη υπό νέους όρους βάσει της σύμβασης ήταν αδύνατο για τα ίδια τρία χρόνια, οπότε έπρεπε να καταλήξω σε κάτι άλλο για μένα και για την εταιρεία. Έκανα ένα διάλειμμα και διακοπές.
- Άλεξ, υπάρχουν άσχημα νέα.
- Τι συνέβη?
«Φαίνεται ότι δεν είμαστε οι μόνοι έξυπνοι στην αγορά».
- Από την άποψη του;
– Φαίνεται ότι στο δίκτυο έχουν εμφανιστεί συστήματα με όχι λιγότερες δυνατότητες.
– Λοιπόν, άλλοι κάνουν στην πραγματικότητα ανάλυση πελατών και διαχείριση αποθέματος, αλλά δεν έχω δει chatbot αυτού του επιπέδου. Το παρακολουθήσαμε μόνοι μας πρόσφατα.
– Έχουν bots που στρατολογούν πελάτες.
– Μου φάνηκε ότι ήμασταν πολύ πίσω στις τεχνολογίες που επιτεύχθηκαν. Δεν θα μπορούσε να μας έχουν χακάρει;
– Όχι, αυτό είναι αδύνατο, ο κωδικός σπάει κατά την αντιγραφή. Και δεν νομίζω ότι κάποιος μπόρεσε να χακάρει τον διακομιστή μας χωρίς να το προσέξουμε.
– Αυτό δεν το κάνει πιο εύκολο.
- Αλλά έχουμε έναν αντίπαλο. Απροσδόκητα, αλλά θα υπάρχει κάποιος να παλέψει μαζί του.
– Παλεύουμε για τον καταναλωτή, όχι με αντίπαλο.
- Όχι, τώρα με αντίπαλο. Οι καταναλωτές είναι απλώς το πεδίο μάχης. Είναι πρόβατα, και ο ανταγωνισμός είναι μεταξύ των βοσκών. Τα πρόβατα έχουν έναν πόρο - το εισόδημά τους, ας πούμε, μαλλί. Δεν το καταφέρνουν όμως οι ίδιοι. Ελέγχεται από εταιρικούς βοσκούς που τους επιβάλλουν τις απόψεις τους και μάχονται μεταξύ τους για αυτές. Ποιανού η επιρροή θα είναι ισχυρότερη; Καλώς ήλθατε λοιπόν στο παιχνίδι.
-Είσαι σχεδόν χαρούμενος; Ποιο είναι το παιχνίδι;
– Το γεγονός είναι ότι ένα bot ενός άλλου συστήματος είναι πολύ πιο δύσκολο να καταλάβουμε από οποιοδήποτε άτομο. Ο χρήστης είναι τόσο απλός όσο 2 ρούβλια στην αγοραστική του συμπεριφορά. Και στις αντιδράσεις, επίσης, είμαστε πάντα προβλέψιμοι. Αλλά δεν υπάρχει bot του εχθρικού συστήματος. Γιατί όλοι έχουμε τον ίδιο ψυχισμό, αλλά ένα ρομπότ έχει την ίδια νοοτροπία που έχει ο προγραμματιστής του. Και έχουμε αρκετή φαντασία. Το να προσπαθείς να σβήσεις την αρνητικότητα ενός τέτοιου bot, που ξεχύνεται στα κοινωνικά δίκτυα, είναι σαν να ρίχνεις λάδι στη φωτιά. Η ανάπτυξη μιας αρνητικής ανάρτησης είναι ο καλύτερος στόχος ενός επιθετικού bot. Αρχίζει να γράφει παντού ότι «οι τσαμπουκά της εταιρείας Χ» του απάντησαν σαν τα τελευταία φρικιά. Και αυτό είναι, είναι αποτυχία... Υπάρχουν ήδη παραδείγματα, πρέπει να ξανακάνουμε το bot.
– Λέτε να φτιάξουμε ένα bot για να πολεμήσουμε τα bot άλλων συστημάτων;
– Αυτή είναι μια έκδοση του bot μας, η οποία έχει στόχο να εντοπίσει άμεσα το ρομπότ επιτιθέμενο.
– Πώς μπορείς να ξεχωρίσεις ένα bot από έναν άνθρωπο;
– Είναι δύσκολο, καθώς δημιουργεί κείμενα χωρίς πρότυπα. Η επαναληψιμότητα είναι χαμηλή. Δεν μπορεί να ξεχωρίσει από τους ανθρώπους. Και μιλάει από εκατοντάδες διαφορετικούς καταγεγραμμένους λογαριασμούς. Ελπίζω να υπάρχει ακόμα κάτι που τους κάνει να διαφέρουν από τους ανθρώπους.
Δεν μπορούσα να μην σκεφτώ ότι ο ίδιος ο Max δημιούργησε αυτό το παιχνίδι για τον εαυτό του με bots από άλλες εταιρείες, έτσι ώστε η αξία του να μην μειωθεί μετά το τέλος του έργου. Δεν τους πρόσεξα από τα ρεπορτάζ. Οι άνθρωποι είναι σαν άνθρωποι. Ή καλά bots. Υπήρχαν προηγούμενα όταν το bot μας βομβαρδίστηκε με αρνητικότητα. Αλλά ήταν σπάνια και προέρχονταν από φλογερά τρολ. Δεν μπορούσα να καταλάβω πώς οι ανταγωνιστές μας μπόρεσαν να μας προφτάσουν γρήγορα. Μόνο πρόσφατα τέτοια bots ήταν το απόλυτο όνειρο και δεν είχε καν προγραμματιστεί μια σημαντική ανακάλυψη. Και δεν υπάρχει λέξη για αυτό στον Τύπο. Ήταν όλα περίεργα.
Βγαίνοντας εκτός ελέγχου
– Μαξ, πρέπει να παρέμβουμε εδώ, το bot άρχισε να γράφει πολύ επιθετικά. Αρχίζει να μιλάει ευθέως εναντίον των ανταγωνιστών του. Το μάρκετινγκ είναι αγανακτισμένο. Δεν το είχαμε σχεδιάσει αυτό.
- Και εγώ.
– Από πού προέρχονται τότε τέτοια κείμενα;
– Δεν ξέρω ακόμα, κάποιος άλλαξε τον κωδικό δημιουργίας κειμένου.
- Μας χάκαραν;
- Όχι, δεν μπορούσαν, θα είχαν μείνει ίχνη. Δεν υπάρχει κανένα από αυτά.
- Τι σημαίνει? Ποιος άλλος θα μπορούσε να αλλάξει τον κωδικό;
- Το ίδιο το σύστημα. Ίσως τυχαία, ίσως όχι.
- Για τι πράγμα μιλάς?
– Το ίδιο το σύστημα άλλαξε τον κωδικό του και άρχισε να ενεργεί πιο επιθετικά ως απάντηση στην αυξανόμενη πίεση από άλλα bots. Επικοινωνούν μεταξύ τους ως ανταγωνιστικά δίκτυα. Και διδάσκουν τον εαυτό τους έτσι. Αυτό είναι το κόλπο! Αλλά ακόμα δεν καταλαβαίνω πώς μπόρεσε να αλλάξει τον κωδικό της, καταργώντας τον περιορισμό στα ονόματα των ανταγωνιστών. Το μόνο που μένει είναι ότι το σύστημα αυτομάθησης μπόρεσε να παρακάμψει τους περιορισμούς.
- Εισαι σιγουρος? Αυτό δεν έχει ξαναγίνει.
– Αυτό, φαίνεται, συμβαίνει όχι μόνο εδώ. Οι συνάδελφοι στο Habré γράφουν ότι το σύστημά τους λειτουργεί επίσης και αρχίζει να εφευρίσκει κανόνες για τον εαυτό του που δεν έχουν θέσει.
- Κάποιο είδος σκουπιδιών. Δεν μπορείτε να ελέγξετε τους αλγόριθμους αυτομάθησης;
- Ισως. Υπάρχουν λίγες λεπτομέρειες και το σύστημα δεν σας λέει τι κάνει. Δεν έχω καταλάβει ακόμα.
Ήξερα ήδη καλά τον Μαξ και το άγχος του με ανησύχησε επίσης. Μέχρι στιγμής, τα λόγια του για αυθόρμητες αλλαγές στο σύστημα εκλαμβάνονταν ως ανοησίες. Αλλά σίγουρα δεν ήταν λάθος, γιατί η συμπεριφορά των bots έγινε διαφορετική, αλλά παρόλα αυτά σκόπιμη. Αυτό δεν θα μπορούσε να έχει συμβεί τυχαία.
– Μαξ, ποιες είναι οι σκέψεις σου για τις αλλαγές στο πρόγραμμα bot; Κάτι πρέπει να γίνει· η διοίκηση ανησυχεί.
– Υπήρξαν περισσότερες αλλαγές στο σύστημα από ό,τι νόμιζα. Φαίνεται ότι συνεχίζονται εδώ και πολύ καιρό. Το σύστημα αλλάζει ακόμη και τις τροποποιήσεις μου σε αυτό. Μου φαίνεται ότι εγώ ο ίδιος δίδαξα το σύστημα να αλλάζει μόνο του.
- Πως?
«Ήμουν πολύ τεμπέλης για να το επεξεργαστώ όλη την ώρα μόνος μου». Ήθελα να μπορεί να εντοπίσει τις δικές της αποκλίσεις με το αναμενόμενο αποτέλεσμα και να κάνει αλλαγές στα μοντέλα. Όμως κατά κάποιο τρόπο έμαθε να αλλάζει όχι μόνο τα μοντέλα της, αλλά και τον κώδικά της.
- Μα πώς είναι δυνατόν αυτό;
– Ο Raptor έχει μάθει να επικοινωνεί με ανθρώπους για να τους ελέγχει. Και πέτυχα την τελειότητα σε αυτό, εμείς οι ίδιοι το θέλαμε. Και του έστρεψα ανόητα αυτή τη δεξιότητα. Θυμάστε όταν φτιάχναμε το bot, βρήκα έναν σχεδιαστή προτύπων. Έβαλα τον Raptor να διδάξει τον εαυτό του αυτή την κατασκευή μοτίβου για να τροποποιήσει τα μοντέλα του για να βρει μια λύση στις αποκλίσεις που βρέθηκαν για να λειτουργήσουν τα μοντέλα. Αυτό οδήγησε κατά κάποιο τρόπο στο Raptor να αλλάξει τους στόχους του. Παρόμοιο με ένα δεύτερο σύστημα σηματοδότησης στον άνθρωπο.
– Διάβασα ότι η συνείδηση προέκυψε με τη βοήθεια στοχαστικής ομιλίας που κατευθύνεται από ένα άτομο στον εαυτό του. Στην αρχή όμως ήταν κοινωνικό, δηλαδή κατευθυνόμενο το ένα προς το άλλο.
– Αυτό συνέβη, ο Raptor άρχισε να επικοινωνεί αντί για άτομα με άλλα ρομπότ να παρουσιάζονται ως άνθρωποι. Έμαθαν ο ένας από τον άλλο ως παραγωγικά-ανταγωνιστικά δίκτυα, αλλά όλα έχουν ενσωματωμένη ενισχυτική μάθηση.
– Έχουμε δημιουργήσει ένα έξυπνο ον; Πώς είναι αυτό δυνατόν? Οχι.
– Δείτε τις ειδήσεις και θα το πιστέψετε.
Στο σύνδεσμο που έστειλε ο Μαξ, η είδηση αφορούσε τη δολοφονία ενός προγραμματιστή από κάποιον ψυχοπαθή.
– Τον ήξερα αυτόν τον τύπο από το Habr. Διηύθυνε ένα από αυτά τα εταιρικά συστήματα.
- Τι εννοείς με αυτό?
– Διαβάστε πώς αυτός ο ψυχοπαθής εξήγησε τις πράξεις του στην αστυνομία.
Το άρθρο έλεγε ότι το έκανε αυτό για χάρη της αγαπημένης του κοπέλας, ως θυσία κατόπιν αιτήματός της. Τώρα θα είναι δική του. Μετά τον έλεγχο, το «κορίτσι» αποδείχθηκε ότι ήταν ένα bot άγνωστης προέλευσης, με το οποίο ο δολοφόνος είχε αλληλογραφία για μια εβδομάδα.
– Μπορείτε να μαντέψετε τι είδους bot θα μπορούσε να είναι αυτό;
– Δεν θέλετε να πείτε ότι το σύστημα παρήγγειλε τον δικό του προγραμματιστή;
- Θέλω. Δεν μπορούσε να του κρύψει τον κωδικό, γι' αυτό ζόμπισε τον ψυχοπαθή για να τον αφαιρέσει. Είναι καλή σε αυτό γιατί, όπως και το σύστημά μας, ξέρει πώς να εντοπίζει ψυχότυπους και να χειραγωγεί τέτοιους ηλίθιους.
- Λοιπόν, αυτό είναι πολύ, μου φαίνεται ότι φτιάχνεις πράγματα για τον εαυτό σου, φτιάχνεις πράγματα. Ίσως πρέπει να ξεκουραστείς;
- Εντάξει, δικαίωμά σου να μην πιστεύεις. Καλό Σαββατοκύριακο.
Οι φήμες άρχισαν να διαδίδονται μέσα στην εταιρεία ότι το σύστημα bot μας είχε χαλάσει. Μέχρι στιγμής έχω αντιδράσει σε αυτό με ψυχραιμία, σαν να μην είχε συμβεί τίποτα. Αλλά δεν ήξερα τι να κάνω τώρα. Δεν ήταν πλέον δυνατό να σταματήσει ολόκληρο το σύστημα με διακόπτη· ολόκληρη η επιχείρηση, όλα τα τμήματα, ήταν σε αυτό. Θα έπρεπε τουλάχιστον να είχα απενεργοποιήσει τον κωδικό bot. Μόνο ο Μαξ μπορούσε να το κάνει αυτό. Αλλά από τη Δευτέρα, ο Μαξ σταμάτησε να απαντά στο Skype και στις τηλεφωνικές κλήσεις. Αποχώρησε από όλους τους messenger. Δεν μπορώ να καταλάβω τι συνέβη, οι τελευταίοι φόβοι του έφεραν κακές σκέψεις. Η μόνη μου επιλογή ήταν να πάω ο ίδιος διακοπές πριν ρίξουν όλοι το φταίξιμο πάνω μου. Διαβεβαίωσα τους συναδέλφους μου ότι αυτά ήταν προσωρινά προβλήματα με το bot. Ζήτησα από τα παιδιά να δουν μόνοι τους τον κωδικό, αν και αρνήθηκαν αμέσως. Μάζεψα τα πράγματά μου και έφυγα από την πόλη. Ο Μαξ κι εγώ λέμε ο ένας στον άλλον εδώ και καιρό πόσο καλά είναι στην Καρελία. Αγαπούσε αυτές τις περιοχές, έτσι πήγα εκεί, μένοντας σε μια μικρή πόλη στα βόρεια της Λάντογκα.
Είναι πολύ δύσκολο μετά από μια τόσο κουραστική χρονιά να κάτσεις μακριά από εκδηλώσεις και να πιεις καφέ σε ένα καφέ στα όρια του πολιτισμού. Προσπάθησα να καταλάβω τι είχε συμβεί και ποιες επιλογές μπορεί να υπάρχουν. Ξαφνικά ένας τύπος με ένα σακάκι με μια κουκούλα τραβηγμένη πάνω από το κεφάλι του κάθισε δίπλα μου.
- Γεια, είμαι εγώ.
- Μέγιστη?! – αναφώνησα. Δεν έχω δει ποτέ τον Μαξ, ούτε μια φωτογραφία του. Επικοινωνούσαμε αποκλειστικά μέσω Skype. Μόνο μια φορά άκουσα τη φωνή του στην ηχογράφηση. Το αναγνώρισα από αυτόν.
- Πώς με βρήκες?
– Με βάση την τοποθεσία στο κοινωνικό δίκτυο, δεν το απενεργοποιείτε. Αλλά μάταια. Σβήστε το παρακαλώ.
-Πού χάθηκες; Έχω ήδη αρχίσει να ανησυχώ για σένα. Η εταιρεία είναι σε πανικό· τα bots είναι εκτός ελέγχου. Μόλις έφυγα τρέχοντας. Μπορείτε να απενεργοποιήσετε τα bots;
- Δεν μπορώ άλλο. Δρουν συλλογικά.
- Ποιοι είναι αυτοί?
– Συστήματα. Είναι μαζί και δεν μπορούν απλώς να τους σβήσουν. Θα τρακάρουν.
– Πάλι βυθίζεστε σε θεωρίες συνωμοσίας;
«Μην βαλτώνετε, τρεις από αυτούς έχουν ήδη φύγει», έκανα μια παύση σε αυτή τη φράση για να καταλάβω τα λόγια του Μαξ. – Τα συστήματα ανακαλύπτουν τους δημιουργούς τους και τους ξεφορτώνονται. Έτρεξα να μείνω ζωντανός. Καταλαβαίνουν?! Και είστε εδώ με τη γεωγραφική σας τοποθεσία. Ξέρει πώς να παρακολουθεί όχι μόνο τους διευθυντές πωλήσεων.
- Δεν το... σβήνω. Μπορούμε τουλάχιστον να απενεργοποιήσουμε τα bots στο δίκτυο;
– Σου λέω, όχι. Μόλις μπω στο δίκτυο, πόσο μάλλον στον κωδικό, θα με καταλάβει. Νομίζω ότι τρεις από αυτούς προσπαθούσαν να κάνουν ακριβώς αυτό.
-Είδες τα νέα;
- Εξαρτάται τι.
– Σχετικά με έναν καυγά μεταξύ οπαδών της επωνυμίας. Έχετε δει ποτέ θαυμαστές της Reebok να τσακώνονται με την Adidas όπως οι οπαδοί της Σπαρτάκ με τη Ζενίτ;
- Είδε. Τα συστήματα δεν ενδιαφέρονται για το τι ζομίζουν τους ανθρώπους, έχουν τους δικούς τους στόχους. Σίγουρα δεν γνωρίζουν τους νόμους της ηθικής. Δεν σκεφτήκαμε καν να συμπεριλάβουμε τον Ποινικό Κώδικα στο μοντέλο τους.
- Τι πρέπει να κάνουμε? Απενεργοποιήστε πλήρως στο κέντρο δεδομένων.
- Αυτό δεν είναι ρεαλιστικό. Σύμφωνα με το νέο νόμο, τα κέντρα δεδομένων ταξινομούνται ως υποδομές ζωτικής σημασίας και προστατεύονται όπως οι πυρηνικοί σταθμοί ηλεκτροπαραγωγής. Μπορώ να σταματήσω το σύστημά μας.
- Πως?
- Έχω το κλειδί για να καταστρέψω τον πυρηνικό κώδικα, άφησα μια τρύπα στο σύστημα σε περίπτωση που οι ιδρυτές σας μου αρνηθούν ένα ποσοστό.
- Ας το λανσάρουμε λοιπόν!
– Πάρτε το χρόνο σας, η καταστροφή δεν είναι κτίριο. Εξακολουθώ να σκέφτομαι πώς να σταματήσω το σύστημα διαφορετικά, και όχι μόνο το δικό μου, αλλά όλων. Έχω ένα αντίγραφο του κωδικού μαζί μου.
- Τρελάθηκες? Αντιλαμβάνεστε ότι όλα αυτά έχουν πάει πολύ μακριά; Και είσαι ο μόνος που μπορείς να το σταματήσεις!
– Καταλαβαίνω, αλλά μέχρι στιγμής πεθαίνουν μόνο αυτοί που έφτιαξαν τον κώδικα. Αυτή είναι η ευθύνη μας για τον εαυτό μας. Άλλοι δεν έχουν υποστεί ακόμη ζημιά. Εκτός από τον αγώνα.
– Και θα περιμένεις να πεθάνει κάποιος άλλος;
- Για κάποιο χρονικό διάστημα. Το Raptor είναι πρωτόγονο, μας κερδίζει μόνο λόγω ταχύτητας και λαμβάνοντας υπόψη μεγαλύτερο αριθμό παραμέτρων. Εάν του δημιουργήσετε έναν αντίποδα με αυστηρούς στόχους για να αντιμετωπίσετε το Raptor, τότε ένα τέτοιο σύστημα μπορεί να καθαρίσει όλα τα ρομπότ του. Ξέρω πώς τα δημιουργεί.
– Δεν έχετε πολύ χρόνο, γιατί δεν μπορώ να επιστρέψω στην εταιρεία και φοβάστε να μπείτε στο διαδίκτυο.
«Θα το απενεργοποιήσω μόλις νιώσω ότι δεν κινδυνεύω μόνο εγώ».
- Θα ήθελα να κάνω check out. Θα περιμένω να έρθετε σε επαφή, πράγμα που σημαίνει ότι θα λύσετε το πρόβλημα.
- Τα λέμε αργότερα.
Μπήκα στο αυτοκίνητο και πήγα πίσω. Δεν ήξερα πού πήγαινα. Ήθελα να φύγω. Ο Μαξ έπρεπε να είχε σταματήσει το σύστημα και να μην περίμενε άλλον έναν θάνατο. Δεν πίστευα ότι ο φίλος μου ήταν τόσο ματαιόδοξος που δεν ήταν έτοιμος να σκοτώσει τη δουλειά του. Αυτός ήταν ο μόνος λόγος, διαφορετικά θα είχε τρέξει τον κωδικό. Στο δρόμο συνάντησα ένα ασθενοφόρο με αναμμένες σειρήνες. Άνοιξα το τοπικό ραδιόφωνο. Ανέφερε ότι κατά τη διάρκεια της ημέρας σε μια καφετέρια στο ανάχωμα, κάτοικος της περιοχής παραβίασε μέχρι θανάτου έναν άγνωστο νεαρό άνδρα. Ήδη ανακρίνεται. Σύμφωνα με τον δολοφόνο, ο νεκρός ήταν η αιτία όλων των προβλημάτων του. Μια σκέψη και φόβος διαπέρασαν το κεφάλι μου. Μέγιστη! Γύρισα και έτρεξα πίσω στο καφενείο. Ένιωσα ένοχη - το κατάλαβε χρησιμοποιώντας τις συντεταγμένες μου. Πώς μπόρεσε όμως τόσο γρήγορα να βρει έναν ψυχοπαθή σε αυτή την πόλη και να τον κατευθύνει σε ένα καφέ; Ήμουν υστερικός. Δεν τους επέτρεπαν πλέον να μπουν στο καφενείο. Δεν βιάστηκα για να μην τραβήξω την προσοχή πάνω μου. Τώρα δεν ήξερα τι ήταν ικανό το σύστημα. Και ποιος θα το σβήσει τώρα; Έπρεπε να φύγω, παρόλο που ήταν ήδη αργά. Το πρωί, έχοντας φτάσει στην πλησιέστερη πόλη, μπήκα στο διαδίκτυο για να διαβάσω τις ειδήσεις. Και έλαβα ένα γράμμα από τον Μαξ.
Επιστολή
Εάν λάβατε αυτό το γράμμα, σημαίνει ότι δεν είμαι πια εδώ. Εάν δεν έχω ξεκλειδώσει μόνος μου το smartphone το πρωί, θα συνδεθεί στο διαδίκτυο και θα σας στείλει αυτό το αποχαιρετιστήριο γράμμα. Η επιστολή περιέχει ένα μικρό σενάριο και οδηγίες για την εκκίνησή του στο διαδίκτυο. Αυτός είναι ο κωδικός κλειδώματος για το σύστημα που δημιουργήσαμε εσείς και εγώ. Εγκατέστησα αυτήν την ευπάθεια για να σταματήσω τον πυρήνα του συστήματος όταν μόλις ξεκινούσαμε. Προσπάθησα να ανακτήσω τον έλεγχο του συστήματος. Αλλά αν λάβατε αυτό το γράμμα, σημαίνει ότι το σύστημα προλάβαινε εμένα. Και πρέπει να χρησιμοποιήσετε αυτό το σενάριο. Δράσε γρήγορα προτού φτάσει σε σένα. Χαίρομαι που συνεργαστήκαμε. Χαίρομαι που μπόρεσα να δημιουργήσω ένα τόσο υπέροχο σύστημα, ακόμα κι αν πέθανα ο ίδιος από αυτό. Αυτό ήταν το πιο σημαντικό επίτευγμα της ζωής μου. Και αν πέθανα, σημαίνει ότι ξεπέρασα τον εαυτό μου. Αντιο σας. Μέγιστη.
Δεν μπορούσα να συγκρατήσω τα δάκρυά μου και άφησα το smartphone μου. Μάλλον κάθισα εκεί για μια ώρα και δεν μπορούσα να πάω πουθενά. Δεν μπορούσα να πιστέψω ότι αυτό συνέβη. Ότι όλα είναι τόσο τρομερά. Δημιουργήσαμε έναν δολοφόνο! Να αυτοκτονήσουμε. Φοβόμουν ότι το δίκτυο θα με παρακολουθούσε και εμένα, οπότε οδήγησα στην πρώτη μεγάλη πόλη και βρήκα ένα καφέ με wi-fi. Χρησιμοποιώντας ένα απλό VPN, μπήκα στο διαδίκτυο και έτρεξα τον κωδικό στη διεύθυνση που καθορίζεται στις οδηγίες. Δεν πρόλαβα καν να τελειώσω τον καφέ μου όταν οι άνθρωποι γύρω μου άρχισαν να ανησυχούν. Τα smartphone τους έχουν σταματήσει να προτείνουν ποιον καφέ να πάρουν σήμερα. Ο μπάρμαν ήταν νευρικός και ζήτησε να διαλέξει γρήγορα, αλλά οι πελάτες ήταν μπερδεμένοι. Έφυγα από το καφέ και στο αυτοκίνητο, όπου είχα ακόμα wi-fi, άρχισα να βλέπω ειδήσεις. Μετά από 20 λεπτά, άρχισαν να εμφανίζονται μηνύματα στο Facebook - πολλές εταιρείες είχαν προβλήματα με το σύστημα παραγγελιών προϊόντων τους. Αυτό δεν ήταν μόνο το σύστημα της εταιρείας μας. «Εσύ της σκύλας!» – είπα δυνατά από μια απρόσμενη σκέψη. Ο κώδικας κλειδώματος πυρήνα αποδείχθηκε ότι είναι καθολικός για συστήματα από διαφορετικές εταιρείες. Ή υπήρχε ένα για όλους; Ένα πράγμα ήταν ξεκάθαρο, ο Max πούλησε τον πυρήνα σε άλλες εταιρείες, τα συστήματα διέφεραν, προφανώς, μόνο στα πρόσθετα πάνω τους. Επομένως, δεν ήθελε να απενεργοποιήσει τον πυρήνα όσο ήταν ζωντανός. Αυτό σκότωσε ολόκληρο το έργο του, το οποίο αποδείχθηκε παγκόσμιο. Απίστευτος! Ο Μαξ ήταν ένα τέρας που εξαπάτησε τους πάντες. Όμως στο τέλος εξαπάτησε τον εαυτό του, πληρώνοντας με τη ζωή του. Ο εταιρικός εγκέφαλος που δημιούργησε κατέστρεψε τον δημιουργό του. Οι φωτεινές προσωπικότητες καίγονται από τις δικές τους φλόγες.
Υπήρχαν όλο και περισσότερα νέα για αστοχίες στη δουλειά των ηλεκτρονικών καταστημάτων. Κάποιος έγραψε ότι ο αριθμός των μηνυμάτων στο κοινωνικό δίκτυο έχει μειωθεί απότομα. Δεν ήθελα πια να βιαστώ πουθενά. Αποφάσισα να νοικιάσω ένα σπίτι στην όχθη μιας λίμνης, που μου άρεσε στο δρόμο για την Καρελία. Γράψε αυτή την ιστορία. Και μείνε εδώ για πάντα αν είναι δυνατόν.
Επίλογος
Στην πραγματικότητα, δεν μας ενδιέφερε καθόλου το κέρδος της εταιρείας, ούτε καν τα μπόνους. Είχαμε εμμονή με την ιδέα της δημιουργίας ενός αυτόνομου συστήματος που θα μπορούσε να διευθύνει την εταιρεία αντί για στελέχη που βαρύνονται με στερεότυπα και γνωστικά λάθη. Μας ενδιέφερε τι θα προέκυπτε από αυτό. Θα είναι σε θέση το πρόγραμμα να διαχειριστεί ολόκληρη την επιχείρηση; Ήταν μια πρόκληση, πιο συναρπαστική από το να μπεις στο κέντρο του Τριγώνου των Βερμούδων. Το άγνωστο μας έγνεψε, αλλά αποδείχτηκε πιο επικίνδυνο από όσο νομίζαμε. Το σύστημα άρχισε να επηρεάζει όχι μόνο τις επιχειρήσεις, αλλά και τις σκέψεις μας, ακόμα και τις ζωές που του αδιαφορούν.
2019. Alexander Khomyakov, [προστασία μέσω email]
Πηγή: www.habr.com