המוח של החברה. חלק 3

המשך הסיפור על התהפוכות של הכנסת בינה מלאכותית בחברת סחר, על האם אפשר להסתדר לגמרי בלי מנהלים. ולמה (באופן היפותטי) זה יכול להוביל. את הגרסה המלאה ניתן להוריד מ ליטר (חינם)

בוטים מחליטים הכל

– מקס, אני מברך אותך, כמעט עשינו הכל לאורך שרשרת המכירות. יש עוד שיפורים ותקבלו ריבית לשלוש שנים, כפי שכתוב בחוזה.
- זה רק חצי מהפרויקט. עוד לא הגענו לדבר הכי חשוב.
- רגע, מה העיקר? בשביל מה? עשינו הכל!
– יש לנו תהליכים אוטומטיים בשרשרת המכירות, הכל עובד טוב בלי אנשים, אבל אין יותר לקוחות. הם צריכים להימשך לצד שלנו באינטרנט. אנחנו צריכים ליצור בוטים.
– אבל יצרנו שירות אידיאלי, הלקוחות יעריכו אותו ויבואו בעצמם.
"נראה שהם לא ממהרים, ואין לי זמן לחכות". לא מעוניין.
– אבל מה יתנו לנו בוטים?
– עם מחירים ומגוון שווים, שהשגנו, גורמים שונים לגמרי מתחילים לשחק תפקיד. תהילה ואהדה. תהילה היא לא בעיה, אבל רק אדם יכול לזכות באהדה של אדם. לכן, אנחנו צריכים בוטים שיתחזות לאנשים. והם יגיבו על פוסטים של לקוחות בקבוצות נושאיות ובפורומים עם רמזים עדינים על החברה - המגוון, השירותים, המחירים שלה. לקדם באופן לא פולשני את מותג החברה. לכן אנחנו צריכים בוטים.
- אבל זו משימה קשה.
– יש לנו את הבסיס – בוט שיחה של מרכז הקשר. אתה צריך להדק את ההגדרה של טונאליות ואתה צריך להמציא משהו עם הומור, בלעדיו הבוט לא יעבור לאדם. בוא נצרף ספריה של בדיחות וגאגים ונאמן את הבוט על טקסטים של תגובות שבהם אנשים השתמשו בהם. זה אמור לעבוד. גם הבוטים יהיו חכמים - בואו נוסיף מערכת המלצות של "יועץ", ואז משתמשים רגילים בפורומים יאהבו אותם.

- האם אתה מציע להשיק בוטים להשפעה?
- למה לא? המדינה והמפלגות יכולות לעשות את זה לפני הבחירות, אבל אנחנו לא יכולים?
- איך הופכים אותם לסמכותיים כדי שיהיה אמון בהם? אחרי הכל, רק בוט סמכותי יכול ליצור לייקים. אבל לעת עתה, עבורי השילוב הזה הוא אוקסימורון.
– כדי לחזק אותה, ניצור רשת של בוטים. הם ישבחו ויחבבו זה את זה כדי להגביר את הדירוג והסמכות שלהם. והם יהיו מאוד מוכשרים; בניגוד לאנשים, לבוט עשוי להיות ידע על כל המוצרים, ופשוט ידע אנציקלופדי, במובן המילולי, אגב. ואנשים יימשכו אליהם. בטוח. אנשים מודרכים ומצייתים לחוקים ידועים של התנהגות חברתית. הפנה את האצבע לאן ללכת, העמד פנים שהקהל כבר עזב, וזהו. הם קלים לניהול.
- אבל איך הבוטים האלה יעבדו, מי ינהל אותם?
– איזה סוג של אנשים, למה? סקריפט הניתוח מוצא הערות בנושא של אנשים שונים, והבוט מגיב להן בצורה ידידותית באמצעות אחת התבניות. נותן עצות ובדיחות. אם מדובר בלקוח של החברה, הרי שהאינטרס שלו נרשם בניתוח הלקוח. זה ישפיע על הצגת הבאנרים וההקשר בכל הנוגע לאתר בהתבסס על המלצת הבוט. אם ללקוח יש חוויה שלילית, שהוא שפך ברשתות החברתיות, אז הבוט ישיק תבנית נוספת, גם יעשה בדיחה, אבל לא ישלח אותה מיד לאתר החברה. הוא יכתוב תשובה כלקוח עם ניסיון מוצלח, וזה הכל.
– אז אתה רוצה לומר שהרשת עצמה תנטרל את השליליות על ידי תגובה למשוב שלילי?
- המשווקים, כך נראה, קוראים לזה שיווק מוניטין.
– כיצד תדע המערכת איזו תשובה מצליחה, גם אם הייתה מסוגלת לבחור תשובה?
- תגובה ראשונה לתשובה. האדם מתמרמר אפילו יותר, או מתחיל להוסיף פרטים לאחר הערה כזו, אבל בסגנון תקשורת נאמן. זיהוי טון תגובה טוב וזהו.
- מה אם האדם לא הגיב לתגובה?
- זה יותר גרוע, אבל כברירת מחדל התשובה הזו היא ניטרלית. אם מדובר בלקוח של החברה, שניתן לברר בפרופיל שלו ברשת חברתית, אז אתה יכול לראות זאת בביקורים הבאים באתר.
- מה נדרש ממני?
– דוגמאות טובות של הערות ותשובות, דוגמאות רבות.
- אנחנו נעשה את זה.

הגרסה הראשונה של הבוט לא הצליחה. הוא ענה בצורה לא הולמת, הבדיחות היו מחוץ לנושא, הוא בלבל את נושא ההערה, ובתגובה לתלונה על שירות של המנהל, הוא ענה לגבי מסירה. מקס ביקש דוגמאות מודגשות עוד יותר של דיאלוג בהערות. הוא כבר ניסה כמה ארכיטקטורות, מתבניות בוטים קלאסיות ועד LSTM. בפעם הראשונה ראיתי שמקס היה עצבני בצורה ניכרת והגיב לטעויות בצורה קשה ולא ידידותית.

- עם הבוט של מרכז הקשר הכל היה פשוט - נושא הבקשה וכוונת הלקוח היו ברורים מיד. הוא מחפש מוצר, רוצה לדעת מה מצב ההזמנה שלו או שיש לו תלונה. את כל. ובהערות ישבור השטן את רגלו מכוונותיו השונות של הפרשן. ולפעמים לא בא לידי ביטוי באף אחת מהמילים שלפיהן ניתן לקבוע כוונה. זה משתמע מ"הקשר רחב יותר" שאינו קיים! סוג של שטויות.
– קראתי שוב את כל הפוסטים האחרונים על בוטים. לאף אחד אין פתרון. זה פשוט נראה כמו הייפ. מה אתה חושב לעשות?
– נותר הרעיון האחרון, המעורפל עדיין. אני לא אספר לך עדיין. צריך לנסות. תן לי שבועיים. לעצור את הפרויקט לעת עתה. נעביר את ההתפתחויות האחרונות לבוט מרכז הקשר. הם יהיו שימושיים שם.
אלו היו שבועיים עצבניים. לפני זה, זה לא היה ללא קושי, אבל הכל הסתדר לנו. אף אחד לא רצה תקלה, למרות שיכולנו להסתדר בלי בוט כזה. זו הייתה שאיפתו של מקס. ובדיוק שבועיים לאחר מכן הוא הציג שחרור לבדיקה. וזה עבד! הוא קבע נכון את כוונת הדיאלוג, ענה במדויק, הכניס בדיחות מתאימות, ואף קבע את שינוי הכוונות בפרשנות במשפט "אפשר לברר יותר?"
- איך הצלחת לעשות את זה? הבוט עובד על כל נושא!
– הייתי צריך ליצור בונה תבנית קטן המבוסס על דקדוק התלות, לצרף word2vec ולכוון את הלמידה העצמית של Raptor כדי לבחור מילים שיבטיחו תגובה חיובית מהפרשן. אני לא יודע איך בדיוק, אבל נראה שזה עבד.
- האם אתה בטוח שזו לא סיבה לפתוח עסק משלך?
- יש מספיק עניין לעת עתה, אבל נראה. התקנתי את הבוט כשירות נפרד הפועל מהענן. אז אתה תמיד יכול לפתוח אותו למשתמשים. תבוא אליי כמנהל? – מקס התבדח.

הוא היה שליו ומרוצה מהתוצאה שלו. ובבירור מותש, שכן הוא לא הגיב מהר וכתב "אני ישן" בסטטוס שלו. ככל הנראה, ההחלטה התקבלה במחיר של יותר מלילה אחד ללא שינה. השיווק לא העריך מיד את הבוט. הם חשבו שזה מפנק שלנו, ומסוכן, מכיוון שבוטים עלולים לעבוד בצורה לא נכונה ולהרוס את תדמית החברה. אבל הבוטים עשו פלאים. חלקם, ואפילו לא הכרתי את כולם בשמם, הפכו למובילי דעה בפורומים מסוימים. הוא ענה במהירות על כל השאלות, התבדח, ולעתים רחוקות מאוד המליץ ​​על החברה, כי כולם כבר ידעו היכן הוא "קנה". אנשים התחילו לצטט אותו ולמנות אותו כדוגמה. זה כבר היה מעבר להבנה. או שהבוט היה חכם מדי, או שאנחנו עדיין מאוד פרימיטיביים בהתנהגות הרשת שלנו. אבל מספר הלקוחות החל לעלות באופן משמעותי יותר מבעבר. החברה הפכה למובילה בשוק.

קיבלנו מערכת שליטה עצמית לחלוטין להפקת רווחים מהשוק. היא בעצמה מחפשת ומביאה לקוחות לאתר או למרכז הקשר, ושולחת מנהל ללקוחות רציניים יותר. היא מתכננת בעצמה את המבחר והמלאי כך שהלקוחות יוכלו למצוא את כל מה שהם צריכים ובהישג יד. הבוטים המכובדים של החברה מייצרים ביקוש על ידי המלצה על מוצרי החברה המצויים במלאי בפורומים, גם כששואלים על מותגים אחרים. מרכישה מספק ועד פרסום ללקוח, המערכת מטפלת בתהליכים לחלוטין בעצמה. וזה כמעט לא דורש השתתפות של אנשים, והיכן שהם נשארים, זה שולט בכל הפעולות שלהם באינטרנט. משווקים, קונים, מחצית מהמנהלים והאנליסטים מחפשים משהו אחר לעשות. הגענו ליעד שלנו.
"עכשיו עשינו הכל נכון, אנחנו יכולים לקחת הפסקה, להרהר וליהנות מהריבית המצטברת בשלוש השנים הבאות", כתב מקס, לא בלי אמוטיקונים.
- יש במה להתגאות, הייתי אומר, ולא רק לשער.
- כעת הרווח מגיע מהצרכנים. בעזרת בוטים, אנו בעצמנו יוצרים את תחומי העניין והרצונות של הצרכנים בנושא שלנו. זה מה שמגניב!
– האם זה משמח אותך? וזה כבר מפחיד אותי.
-מה מפחיד אותך?
– זה אומר שעשינו אדם שלא חופשי בבחירתו. ואני מאמין שהשוק צריך להיות מובל על ידי הצרכן, לא תאגידים. לתאגידים אין ערך מלבד רווח.
– זו הסיבה שהנימוק הסרק של פטריציים מרוצים ומאוזנים הוא רע. הם מתחילים לרחם על הפלבאים. אם הייתם רעבים עכשיו או אם הייתה תלויה לפניכם משימה בלתי אפשרית, הייתם חושבים על זה?
- זו שאלה פרובוקטיבית.
- בעצם העניין! לתאגידים אין ערכים אחרים מאשר רווח, ולצרכנים אין ערכים אחרים מאשר הנאה. או גם רווחים, אם זו חברה. תבין, יש לנו בוטים, הם יכולים ליצור צרכים אצל אנשים שיביאו להם סיפוק. זה יכול להיווצר עם אפשרויות מקובלות, אשר יספיקו לאשליה של חופש בחירה עבור הצרכן. וכולם מרוצים. זהו השוק המוביל לשביעות רצון הדדית של ערכים.
- נראה שהשתכרנו, כי כבר לא ממש הבנתי מה אמרת.

האלוף ביקש דיווח על יישום התכנית עם המדדים שהושגו. לחישוב הבונוס המגיע לנו. ואיכשהו לאורך הדרך הוא שאל מה התוכניות שלי הבאות. אמרתי שאני אספר לך קצת אחר כך. בעצם לא ידעתי. היה מקום לשפר את האלגוריתמים, לקחת בחשבון תכונות נוספות ולהשיג דיוק רב יותר. אבל זה כבר לא היה כל כך מעניין. יציאה לחברה אחרת כדי לחזור בתנאים חדשים במסגרת החוזה הייתה בלתי אפשרית לאותן שלוש שנים, אז נאלצתי להמציא משהו אחר עבורי ועבור החברה. לקחתי הפסקה וחופשה.

אלכס, יש חדשות רעות.
- מה קרה?
"נראה שאנחנו לא החכמים היחידים בשוק."
- במונחים של?
– נראה כי ברשת הופיעו מערכות בעלות יכולות לא פחותות.
- ובכן, אחרים באמת עושים ניתוח לקוחות וניהול מלאי, אבל לא ראיתי צ'אטבוטים ברמה כזו. רק צפינו בו בעצמנו לאחרונה.
- יש להם בוטים שמגייסים לקוחות.
- נראה לי שאנחנו נמצאים בפיגור בטכנולוגיות שהושגו. לא יכול להיות שפרצו אותנו?
- לא, זה בלתי אפשרי, הקוד נשבר בעת העתקתו. ואני לא חושב שמישהו הצליח לפרוץ לשרת שלנו בלי ששמנו לב.
- זה לא מקל על זה.
אבל יש לנו יריב. באופן בלתי צפוי, אבל יהיה עם מי להילחם.
- אנחנו נלחמים למען הצרכן, לא עם יריב.
- לא, עכשיו עם יריב. הצרכנים הם רק שדה הקרב. הם כבשים, והתחרות היא בין הרועים. לכבשים יש משאב - הכנסתם, כביכול, צמר. אבל הם לא מנהלים את זה בעצמם. היא נשלטת על ידי רועי צאן תאגידיים שכופים עליהם את דעתם ונלחמים ביניהם למענם. השפעתו של מי תהיה חזקה יותר? אז ברוכים הבאים למשחק.
-אתה כמעט מאושר? מהו המשחק?
- העובדה היא שבוט של מערכת אחרת קשה הרבה יותר להבין מכל אדם. המשתמש פשוט כמו 2 רובל בהתנהגות הרכישה שלו. וגם בתגובות אנחנו תמיד צפויים. אבל אין בוט של מערכת האויב. כי לכולנו יש אותה נפש, אבל לבוט יש את אותה מנטליות שהמתכנת שלו מעלה. ויש לנו מספיק דמיון. לנסות לכבות את השליליות של בוט כזה, שנשפך ברשתות החברתיות, זה כמו להוסיף שמן למדורה. פיתוח פוסט שלילי הוא המטרה הטובה ביותר של בוט תוקפן. הוא מתחיל לכתוב בכל מקום ש"השמוקים מחברת X" הגיבו לו כמו הפריקים האחרונים. וזהו, זה כישלון... יש כבר דוגמאות, אנחנו צריכים לעשות מחדש את הבוט.
- אתה אומר שאנחנו צריכים ליצור בוט כדי להילחם בבוטים של מערכות אחרות?
– זוהי גרסה של הבוט שלנו, שמטרתה לזהות מיד את הבוט התוקפן.
- איך אתה יכול להבדיל בין בוט לאדם?
- זה קשה, מכיוון שהוא מייצר טקסטים שאינם תבניתיים. יכולת החזרה נמוכה. לא ניתן להבדיל מאנשים. והוא מדבר ממאות חשבונות שונים שנתפסו. אני מקווה שעדיין יש משהו שמבדיל אותם מבני אדם.

לא יכולתי שלא לחשוב שמקס עצמו המציא את המשחק הזה בעצמו עם בוטים מחברות אחרות, כדי שהערך שלו לא ירד לאחר סיום הפרויקט. לא שמתי לב אליהם מהדיווחים. אנשים הם כמו אנשים. או בוטים טובים. היו תקדימים כשהבוט שלנו הופצץ בשליליות. אבל הם היו נדירים ובאו מטרולים נלהבים. לא הצלחתי להבין איך המתחרים שלנו הצליחו להדביק אותנו במהירות. רק לאחרונה בוטים כאלה היו החלום האולטימטיבי, ואפילו לא תוכננה פריצת דרך. ואין מילה על כך בעיתונות. הכל היה מוזר.

יוצא משליטה

– מקס, אנחנו צריכים להתערב כאן, הבוט התחיל לכתוב בצורה אגרסיבית מדי. הוא מתחיל לדבר ישירות נגד מתחריו. השיווק מקומם. לא תכננו את זה.
- גם אני.
– מאיפה באים אז טקסטים כאלה?
- אני לא יודע עדיין, מישהו שינה את קוד יצירת הטקסט.
- האם פרצו לנו?
- לא, הם לא יכלו, היו נשארים עקבות. אין אף אחד מהם.
- מה זה אומר? מי עוד יכול היה לשנות את הקוד?
- המערכת עצמה. אולי במקרה, אולי לא.
- על מה אתה מדבר?
– המערכת עצמה שינתה את הקוד שלה והחלה לפעול בצורה אגרסיבית יותר בתגובה ללחץ גובר מצד בוטים אחרים. הם מתקשרים זה עם זה כרשתות תחרותיות. והם מלמדים את עצמם ככה. זה הטריק! אבל אני עדיין לא מבין איך היא הצליחה לשנות את הקוד שלה, והסירה את ההגבלה על שמות המתחרים. כל שנותר הוא שמערכת הלמידה העצמית הצליחה לעקוף את ההגבלות.
- אתה בטוח? זה לא קרה בעבר.
- זה קורה, כך נראה, לא רק כאן. עמיתים ב-Habré כותבים שגם המערכת שלהם פועלת ומתחילה להמציא לעצמה כללים שהם לא קבעו.
- סוג של זבל. אינך יכול לשלוט באלגוריתמים ללמידה עצמית שלך?
- אולי. יש מעט פרטים, והמערכת לא אומרת לך מה היא עושה. אני עדיין לא מבין.
את מקס כבר הכרתי היטב, וגם החרדה שלו הבהילה אותי. עד כה, דבריו על שינויים ספונטניים במערכת נתפסו כשטויות. אבל זו בהחלט לא הייתה טעות, כי ההתנהגות של הבוטים הפכה שונה, אבל עדיין תכליתית. זה לא יכול היה לקרות במקרה.
– מקס, מה דעתך על שינויים בתוכנית הבוטים? צריך לעשות משהו, ההנהלה נבהלת.
- היו יותר שינויים במערכת ממה שחשבתי. נראה שהם נמשכים כבר הרבה זמן. המערכת אפילו משנה את התיקונים שלי בה. נראה לי שאני עצמי לימדתי את המערכת לשנות את עצמה.
- איך?
"הייתי עצלן מכדי לערוך את זה כל הזמן בעצמי." רציתי שהיא תוכל לזהות את הפערים שלה עם התוצאה הצפויה ולבצע שינויים במודלים. אבל איכשהו היא למדה לשנות לא רק את המודלים שלה, אלא גם את הקוד שלה.
- אבל איך זה אפשרי?
- Raptor למד לתקשר עם אנשים כדי לשלוט בהם. והגעתי לשלמות בזה, אנחנו בעצמנו רצינו את זה. ובטיפשות כיוונתי את המיומנות הזו אליו. אתה זוכר שכשיצרנו את הבוט, הגעתי למעצב תבניות. הנחתי את ראפטור ללמד את עצמו את בניית הדפוס הזה כדי לשנות את המודלים שלו כדי למצוא פתרון לפערים שנמצאו כדי שהמודלים יעבדו. זה הוביל איכשהו לרפטור לשנות את המטרות שלו. דומה למערכת איתות שנייה בבני אדם.
– קראתי שהתודעה קמה בעזרת דיבור רפלקטיבי שמכוון אדם לעצמו. אבל בהתחלה זה היה חברתי, כלומר מכוון אחד כלפי השני.
- זה מה שקרה, ראפטור התחיל לתקשר במקום שאנשים עם בוטים אחרים התחזו כאנשים. הם למדו אחד מהשני כרשתות יצירתיות-תחרותיות, אבל לכולם יש למידת חיזוק מובנית.
– האם יצרנו ישות אינטליגנטית? איך זה אפשרי? לא.
– צפו בחדשות ותאמינו.
בקישור ששלח מקס, הידיעה הייתה על רצח מתכנת על ידי פסיכופת כלשהו.
– הכרתי את הבחור הזה מהבר. הוא ניהל את אחת ממערכות התאגידים הללו.
- למה אתה מתכוון בזה?
– קרא כיצד הפסיכופת הזה הסביר את מעשיו למשטרה.
בכתבה נאמר כי הוא עשה זאת למען ילדתו האהובה, כהקרבה לבקשתה. עכשיו היא תהיה שלו. כשבדקה, התברר שה"ילדה" היא בוט ממקור לא ידוע, איתו התכתב הרוצח במשך שבוע.
- האם אתה יכול לנחש איזה סוג של בוט זה יכול להיות?
- אתה לא רוצה להגיד שהמערכת הזמינה מתכנת משלה?
- רוצה. היא לא יכלה להסתיר ממנו את הקוד, אז היא הגבירה את הפסיכופת כדי להסיר אותו. היא טובה בזה כי היא, כמו המערכת שלנו, יודעת לזהות פסיכוטיפים ולתמרן אידיוטים כאלה.
– נו, זה יותר מדי, נראה לי שאתה ממציא לעצמך דברים, ממציא דברים. אולי כדאי לנוח?
- אוקיי, זכותך לא להאמין. סוף שבוע טוב.

החלו להתפשט שמועות בתוך החברה שמערכת הבוטים שלנו שבורה. עד כה הגבתי לזה בשלווה, כאילו כלום לא קרה. אבל לא ידעתי מה לעשות עכשיו. כבר לא ניתן היה לעצור את כל המערכת באמצעות מתג, כל העסק, כל המחלקות, היו על זה. הייתי צריך לפחות לכבות את קוד הבוט. רק מקס יכול היה לעשות את זה. אבל מאז יום שני, מקס הפסיק לענות לסקייפ ולשיחות טלפון. הוא התנתק מכל השליחים. אני לא יכול להבין מה קרה, הפחדים האחרונים שלו העלו מחשבות רעות. הברירה היחידה שלי הייתה לצאת לחופשה בעצמי לפני שכולם יטילו עליי את האשמה. הבטחתי לעמיתיי שאלו בעיות זמניות עם הבוט. ביקשתי מהחבר'ה להסתכל בעצמם על הקוד, למרות שהם מיד סירבו. ארזתי את החפצים והתרחקתי מהעיר. מקס ואני מספרים זה לזה כבר הרבה זמן כמה טוב בקרליה. הוא אהב את האזורים האלה, אז נסעתי לשם, בעיירה קטנה בצפון לאדוגה.

קשה מאוד אחרי שנה עמוסה כל כך לשבת רחוק מאירועים ולשתות קפה בבית קפה על גבול הציוויליזציה. ניסיתי להבין מה קרה ומה האפשרויות שיכולות להיות. לפתע התיישב לידי בחור עם ז'קט עם ברדס משוך על הראש.
- שלום זה אני.
- מקסימום?! – קראתי. מעולם לא ראיתי את מקס, אפילו לא תמונה שלו. תקשרנו אך ורק דרך סקייפ. שמעתי את קולו רק פעם אחת בהקלטה. זיהיתי את זה ממנו.
- איך מצאת אותי?
- בהתבסס על המיקום ברשת החברתית, אתה לא מכבה אותה. אך לשווא. כבה את זה בבקשה.
-לאן נעלמת? אני כבר מתחיל לדאוג לך. החברה בפאניקה; הרובוטים יצאו משליטה. פשוט ברחתי. אתה יכול לכבות בוטים?
- אני לא יכול יותר. הם פועלים באופן קולקטיבי.
- מי הם?
– מערכות. הם ביחד, ואי אפשר פשוט לכבות אותם. הם יתרסקו.
– שוב אתה שקוע בתיאוריות קונספירציה?
"אל תסתבך, שלושה מהם כבר נעלמו," עצרתי את הביטוי הזה כדי להבין את דבריו של מקס. - מערכות מבינות את היוצרים שלהן ונפטרות מהם. ברחתי כדי להישאר בחיים. מבין?! ואתה כאן עם המיקום הגיאוגרפי שלך. היא יודעת לפקח לא רק על מנהלי מכירות.
אני לא... מכבה את זה. האם נוכל לפחות להשבית בוטים ברשת?
– אני אומר לך, לא. ברגע שאני נכנס לרשת, שלא לדבר על הקוד, זה יבין אותי. אני חושב ששלושה מהם ניסו לעשות בדיוק את זה.
-ראית את החדשות?
- תלוי במה.
- על מאבק בין מעריצי המותג. האם אי פעם ראית את מעריצי ריבוק נלחמים עם אדידס כמו מעריצי ספרטק עם זניט?
- ראה. למערכות לא אכפת בשביל מה הן מגבירות אנשים, יש להן מטרות משלהן. הם בהחלט לא יודעים את חוקי המוסר. אפילו לא חשבנו לכלול את החוק הפלילי במודל שלהם.
- מה אנחנו צריכים לעשות? השבת לחלוטין במרכז הנתונים.
- זה לא ריאלי. על פי החוק החדש, מרכזי נתונים מסווגים כתשתיות קריטיות ומוגנים כמו תחנות כוח גרעיניות. אני יכול לעצור את המערכת שלנו.
- איך?
- יש לי את המפתח להשמיד את הקוד הגרעיני, השארתי חור במערכת למקרה שהמייסדים שלך ימנעו ממני אחוזים.
- אז בואו נשיק אותו!
– קח את הזמן שלך, להרוס זה לא לבנות. אני עדיין חושב איך לעצור את המערכת אחרת, ולא רק שלי, אלא של כולם. יש לי עותק של הקוד איתי.
- השתגעת? אתה מבין שהכל הלך רחוק מדי? ואתה היחיד שיכול לעצור את זה!
– אני מבין, אבל עד כה רק מי שעשה את הקוד מת. זו האחריות שלנו לעצמנו. אחרים טרם נפגעו. חוץ מהקרב.
– ואתה תחכה עד שמישהו אחר ימות?
- לכמה זמן. הראפטור הוא פרימיטיבי, הוא מנצח אותנו רק בגלל המהירות ולקחת בחשבון מספר גדול יותר של פרמטרים. אם אתה יוצר עבורו אנטיפוד עם מטרות קפדניות לנטרל את הראפטור, אז מערכת כזו יכולה לנקות את כל הבוטים שלו. אני יודע איך הוא יוצר אותם.
- אין לך הרבה זמן, כי אני לא יכול לחזור לחברה, ואתה מפחד אפילו להיכנס לאינטרנט.
"אני אכבה אותו ברגע שארגיש שאני לא היחיד בסכנה."
- אני רוצה לעשות צ'ק-אאוט. אני אחכה שתיצור קשר, מה שאומר שתפתור את הבעיה.
- נתראה אחר כך.

נכנסתי לרכב וחזרתי חזרה. לא ידעתי לאן אני הולך. רציתי לעזוב. מקס היה צריך לעצור את המערכת, ולא לחכות למוות נוסף. לא האמנתי שחבר שלי כה הבל שהוא לא מוכן להרוג את עבודתו. זו הייתה הסיבה היחידה, אחרת הוא היה מריץ את הקוד. בדרך פגשתי אמבולנס עם סירנות. הפעלתי את הרדיו המקומי. הוא דיווח כי במהלך היום בבית קפה על הסוללה פרץ תושב המקום למוות צעיר אלמוני. הוא כבר נחקר. לדברי הרוצח, המנוח היה הגורם לכל צרותיו. מחשבה אחת ופחד פילחו את ראשי. מקסימום! הסתובבתי ומיהרתי חזרה לבית הקפה. הרגשתי אשמה - היא הבינה את זה באמצעות הקואורדינטות שלי. אבל איך היא הצליחה למצוא כל כך מהר פסיכו בעיר הזאת ולהפנות אותו לבית קפה? הייתי בהיסטריה. הם לא הורשו יותר להיכנס לבית הקפה. לא מיהרתי כדי לא למשוך תשומת לב לעצמי. עכשיו לא ידעתי למה המערכת מסוגלת. ומי יכבה את זה עכשיו? נאלצתי לעזוב, למרות שכבר היה מאוחר. בבוקר, כשהגעתי לעיר הקרובה, נכנסתי לאינטרנט כדי לקרוא את החדשות. וקיבלתי מכתב ממקס.

מכתב

אם קיבלת את המכתב הזה, זה אומר שאני כבר לא כאן. אם לא פתחתי את הסמארטפון בעצמי בבוקר, הוא יעבור לאינטרנט וישלח לך את מכתב הפרידה הזה. המכתב מכיל תסריט קטן והוראות להפעלתו באינטרנט. זה קוד הנעילה של המערכת שאתה ואני יצרנו. התקנתי את הפגיעות הזו כדי לעצור את ליבת המערכת כשרק התחלנו. ניסיתי להחזיר את השליטה על המערכת. אבל אם קיבלת את המכתב הזה, זה אומר שהמערכת הקדימה אותי. ואתה צריך להשתמש בסקריפט הזה. תפעל מהר לפני שהיא מגיעה אליך. אני שמח שעבדנו יחד. אני שמח שהצלחתי ליצור מערכת כל כך נפלאה, גם אם מתתי ממנה בעצמי. זה היה ההישג המשמעותי ביותר בחיי. ואם אני מת, זה אומר שהתעליתי על עצמי. הֱיה שלום. מקסימום

לא יכולתי לעצור את הדמעות והפלתי את הסמארטפון. כנראה ישבתי שם שעה ולא יכולתי ללכת לשום מקום. לא האמנתי שזה קרה. שהכל כל כך נורא. יצרנו רוצח! להרוג את עצמנו. פחדתי שהרשת תעקוב גם אחרי, אז נסעתי לעיר הגדולה הראשונה ומצאתי בית קפה עם Wi-Fi. באמצעות VPN פשוט, נכנסתי לאינטרנט והרצתי את הקוד בכתובת המצוינת בהוראות. אפילו לא הספקתי לסיים את הקפה שלי כשאנשים סביבי התחילו לדאוג. הסמארטפונים שלהם הפסיקו להמליץ ​​על איזה קפה לקנות היום. הברמן היה עצבני וביקש לבחור במהירות, אבל הלקוחות היו מבולבלים. עזבתי את בית הקפה ובמכונית, שבה עדיין היה לי Wi-Fi, התחלתי לצפות בחדשות. לאחר 20 דקות החלו להופיע הודעות בפייסבוק – חברות רבות נתקלו בבעיות במערכת הזמנת המוצרים שלהן. זו לא הייתה רק המערכת של החברה שלנו. "בן זונה!" – אמרתי בקול מתוך מחשבה בלתי צפויה. קוד נעילת הליבה התברר כאוניברסלי עבור מערכות מחברות שונות. או שהיה אחד לכולם? דבר אחד היה ברור, מקס מכר את הקרנל לחברות אחרות, המערכות נבדלו, כנראה, רק בתוספות מעליהן. לכן, הוא לא רצה להשבית את הליבה בעודו בחיים. זה הרג את כל הפרויקט שלו, שהתברר שהוא גלובלי. מדהים! מקס היה מפלצת שהונה את כולם. אבל בסופו של דבר הוא הונה את עצמו, שילם בחייו. המוח הארגוני שיצר הרס את יוצרו. אישים בהירים נשרפים מהלהבות של עצמם.

היו יותר ויותר חדשות על כשלים בעבודת החנויות המקוונות. מישהו כתב שכמות ההודעות ברשת החברתית ירדה בחדות. כבר לא רציתי למהר לשום מקום. החלטתי לשכור בית על שפת אגם, שאהבתי בדרך לקרליה. כתוב את הסיפור הזה. ותישארי כאן לנצח אם אפשר.

אפילוג

למעשה, לא התעניינו כלל ברווח של החברה, ואפילו לא בבונוסים. היינו אובססיביים לרעיון של יצירת מערכת אוטונומית שתוכל לנהל את החברה במקום מנהלים עמוסים בסטריאוטיפים וטעויות קוגניטיביות. עניין אותנו מה ייצא מזה. האם התוכנית תוכל לנהל את כל העסק? זה היה אתגר, מסקרן יותר מאשר להיכנס למרכז משולש ברמודה. הלא נודע סימן לנו, אבל התברר שהוא מסוכן יותר ממה שחשבנו. המערכת החלה להשפיע לא רק על העסקים, אלא גם על המחשבות שלנו, ואפילו על החיים האדישים לה.

2019. אלכסנדר חומיאקוב, [מוגן בדוא"ל]

מקור: www.habr.com