про перипетії впровадження ІІ в торговій компанії, про те, чи можна повністю обійтися без менеджерів. І чого (гіпотетично) це може призвести. Повну версію можна завантажити на
Усі вирішують боти
- Макс, я тебе вітаю, ми практично все зробили по ланцюжку продажів. Залишаються доопрацювання та отримувати відсоток протягом трьох років, як прописано в контракті.
– Це лише половина проекту. Ми ще не бралися за найголовніше.
- Стривай, яке головне? Навіщо? Ми все зробили!
– Ми автоматизували процеси у ланцюжку продажів, все добре працює і без людей, але клієнтів більше не стає. Їх треба залучати на свій бік до інтернету. Нам треба робити ботів.
- Але ми зробили ідеальний сервіс, клієнти це оцінять і самі прийдуть.
- Не схоже, щоб вони поспішали, а мені ніколи чекати. Не цікаво.
- Але що нам дадуть боти?
– При рівних цінах та асортименті, чого ми досягли, починають грати роль зовсім інші фактори. Популярність та симпатії. З популярністю не проблема, а ось симпатії людини може завоювати лише людина. Тому нам потрібні боти, які видаватимуть себе за людей. І коментуватимуть у тематичних групах та форумах клієнтів їхні пости з тонкими натяками на компанію – її асортимент, послуги, ціни. Ненав'язливо просувати бренд компанії. Ось навіщо нам боти.
– Але це складне завдання.
– Основа у нас є – діалоговий бот контакт-центру. Треба прикрутити визначення тональності і щось вигадати треба з гумором, без нього за людину робот не зійде. Прикрутимо бібліотеку жартів та приколів та навчимо бот на текстах коментарів, де їх вживали люди. Має спрацювати. Боти будуть ще й розумними – прикрутимо рекомендаційну систему «порадника» і тоді їх полюблять прості користувачі на форумах.
– Пропонуєш запустити ботів впливу?
- Чому ні? Державі та партіям можна перед виборами, а нам не можна?
– Як ми зробимо їх авторитетними, аби їм довіряли? Адже симпатії може створити лише авторитетний бот. Але поки що для мене це поєднання – оксюморон.
- Для посилення зробимо мережу ботів. Вони хвалитимуть і гавкатимуть один одного, щоб підвищити їхній рейтинг та авторитетність. І вони будуть дуже компетентні, на відміну від людей бот може мати знання всіх товарів, і просто енциклопедичні знання, в прямому, між іншим, сенсі. І до них потягнуться люди. Впевнений. Люди відомі та підпорядковуються цілком відомим законам соціальної поведінки. Покажи пальцем куди йти, зобрази, що натовп уже пішов, і все. Ними легко керувати.
– Але як ці боти працюватимуть, хто ними керуватиме?
- Які люди, навіщо? Скрипт парсингу знаходить коментарі по темі різних людей, робот дружелюбно відповідає на них за одним із шаблонів. Дає пораду та жартує. Якщо це клієнт компанії, його інтерес записується в клієнтський аналіз. Це вплине на показ банерів та контексту, коли він прийде на сайт за рекомендацією бота. Якщо у клієнта негативний досвід, який він вилив у соцмережі, то бот запустить інший шаблон, теж пожартує, але не відправить відразу на сайт компанії. Напише відповідь як клієнт із вдалим досвідом, і все.
– Тобто ти хочеш сказати, що мережа сама нейтралізуватиме негатив, відповідаючи на негативні відгуки?
– У маркетологів, здається, це називається репутаційний маркетинг.
– А як система дізнається, яка відповідь вдала, якби навіть змогла підібрати відповідь?
– Перша реакція на відповідь. Людина або ще більше обурюється або починає додавати після такого коментаря деталі, але вже в лояльному стилі спілкування. Хороша розпізнавання тональності відгуку і все.
– А якщо людина не відповіла на коментар?
– Це гірше, але за умовчанням така відповідь нейтральна. Якщо це клієнт компанії, що можна дізнатися за його профілем в соцмережі, то можна переглянути наступні візити на сайт.
- Що потрібно від мене?
– Хороші приклади коментарів та відповідей, багато прикладів.
– Зробимо.
Перший варіант робота був невдалим. Він відповідав невпопад, жарти були не в тему, тему коментаря плутав і на скаргу на обслуговування менеджером відповідав про доставку. Макс просив ще більше розмічених прикладів діалогів у коментарях. Він випробував кілька архітектур, від шаблонів класичного бота до LSTM. Я вперше побачив, що Макс помітно нервує, відповідає на помилки різко та недружелюбно.
– З ботом контакт-центру було все просто – там зрозуміла одразу тема звернення та намір клієнта. Шукає товар, хоче дізнатися про стан свого замовлення або скаргу. Всі. А в коментарях чорт ногу зламає від різних намірів коментатора. Причому іноді не виражених жодним із слів, якими можна визначити намір. Воно мається на увазі з "широкого контексту", якого немає! Фігня якась.
– Я перечитав усі останні пости про роботи. Ніхто не має рішення. Схоже на хайп. Що думаєш робити?
- Залишилася остання поки невиразна ідея. Не поки що розповідатиму. Треба спробувати. Дай мені два тижні. Проект поки що зупини. Останні напрацювання перенесемо в бот контакт-центру. Там вони знадобляться.
Це були два тижні нервові. До цього не легко, але в нас все виходило. Ніхто не хотів осічки, хоч без такого бота ми могли обійтися. То були амбіції Макса. І за два тижні він представив реліз для тестування. І він працював! Вірно визначав намір діалогу, точно відповідав, вставляв доречні жарти, і навіть визначав зміну намірів у коментарі за фразою «а ще можна дізнатися?».
- Як ти зумів це зробити? Робот працює на будь-яку тему!
– Довелося зробити невеликий конструктор шаблонів на основі граматики залежностей, прикрутити word2vec та націлити самонавчання Раптора на підбір слів, які забезпечують позитивну реакцію коментатора. Не знаю сам як, але це, схоже, спрацювало.
- Ти впевнений, що це не привід відкрити свій бізнес?
– Поки вистачає відсотків, а там побачимо. Я прикрутив бот як окремий сервіс, що працює з хмари. Отже, завжди можна відкрити його користувачам. Підеш до мене директором? – пожартував Макс.
Він був умиротвореним і задоволеним своїм результатом. І явно змученим, тому що відповідав не швидко та у статусі написав «я сплю». Очевидно, рішення далося ціною не однієї безсонної ночі. У маркетингу відразу не оцінили робота. Вони вважали це нашим пустощом, причому ризикованим, оскільки боти могли працювати неправильно та зіпсувати імідж компанії. Але боти творили чудеса. Деякі з них, а я навіть не всіх знав на ім'я, стали лідерами думок на деяких форумах. Він швидко відповідав на всі запитання, жартував, дуже рідко рекомендував компанію, бо всі й так знали, де він «отоварюється». Його почали цитувати і наводити як приклад люди. Це вже було за межею розуміння. Чи то бот був занадто розумний, чи ми все-таки у своїй мережевій поведінці дуже примітивні. Але клієнтів почало додаватися значно більше, ніж раніше. Компанія вийшла у лідери ринку.
Ми отримали повністю самоврядну систему із отримання прибутку з ринку. Вона сама шукає і приводить клієнтів на сайт або контакт-центр, а клієнтам серйозніше направляє менеджера. Вона сама планує асортименти та запаси, щоб клієнти могли знайти все, що їм потрібно і в доступності. Авторитетні роботи компанії формують попит, рекомендуючи на форумах наявні товари компанії, навіть якщо запитують про інші марки. Від закупівлі у постачальника до реклами клієнту система веде процеси повністю сама. І майже не потребує участі людей, а там, де вони залишилися, контролює всі їхні дії онлайн. Маркетологи, закупники, половина менеджерів, аналітики шукають собі інше заняття. Ми досягли мети.
- Ось тепер ми зробили все як треба, можна перепочити, поміркувати і насолодитися капаючими відсотками найближчі три роки, - не без смайликів написав Макс.
– Є чим пишатися, я сказав би, а не тільки міркувати.
– Тепер прибутки від споживачів. За допомогою роботів ми самі формуємо інтереси та бажання споживачів у нашій темі. Ось що круто!
– Тебе це тішить? А мене вже лякає.
– Що ж тебе лякає?
– Це означає, що ми зробили людину не вільною у своєму виборі. А я вважаю, що на чолі ринку має бути споживач, а не корпорації. Корпорації не мають цінностей, крім прибутку.
- Ось чим погані пусті міркування задоволених і ситих патрицій. Вони починають шкодувати плебеїв. Був би ти зараз голодний чи висіла б перед тобою нерозв'язне завдання, чи думав би ти про це?
- Це провокаційне запитання.
- В тому то й справа! Корпорації не мають інших цінностей, як прибуток, а споживач – не має інших крім задоволення. Або також прибули, якщо це компанія. Зрозумій, у нас є боти, вони можуть сформувати у людей потреби, які принесуть їм задоволення. Можна формувати з допустимими варіантами, яких вистачить для ілюзії волі вибору споживача. І всі задоволені. Це і є ринок, що веде до взаємного задоволення цінностей.
– Здається, ми напилися, бо я вже не зовсім зрозумів, що ти сказав.
Генеральний попросив звіт про виконання плану із досягнутими показниками. Щоб вирахувати належну нам премію. І спитав якось по ходу, які у мене плани далі. Я сказав, що розповім трохи згодом. Насправді я не знав. Було куди вдосконалювати алгоритми, враховувати більше фіч та досягати більшої точності. Але це вже не так цікаво. Відхід в іншу компанію для повторення в нових умовах за контрактом був неможливий ті ж три роки, так що треба було ще щось придумати для себе і для компанії. Я взяв паузу та відпустку.
– Алексе, є погана новина.
- Що трапилося?
– Схоже, ми не одні такі розумні на ринку.
- В сенсі?
– Схоже, у мережі з'явилися системи із не меншими можливостями.
– Ну клієнтський аналіз та управління запасами справді роблять і інші, але от чат-боти я такого рівня не бачив. Ми ж самі нещодавно дивилися.
– Вони мають боти, які вербують клієнтів.
– Мені здавалося, що ми сильно відірвалися у досягнутих технологіях. Нас не могли зламати?
– Ні, виключено, що при копіюванні код порушується. І не думаю, що хтось зміг непомітно зламати наш сервер.
– Від цього не легше.
– Натомість у нас з'явився суперник. Несподівано, зате з ким боротиметься.
– Ми боремося за споживача, а не із суперником.
– Ні, тепер із суперником. Споживачі – це лише поле битви. Вони – вівці, а конкуренція йде серед пастухів. Вівця має ресурс – їхні доходи, так би мовити, шерсть. Але вони самі не розпоряджаються їй. Їй розпоряджаються пастухи-корпорації, які нав'язують їм свою думку та борються за них між собою. Чий вплив виявиться сильнішим. Отже, велком ту зе гейм.
- Ти мало не радий? У чому гра?
- У тому, що бот іншої системи набагато складніше розкусити, ніж будь-яку людину. Користувач простий як 2 рубля у своїй купівельній поведінці. І в реакціях теж – завжди передбачуваний. А робот ворожої системи немає. Тому що психіка у нас у всіх одна, а от у бота – яку вигадає його програміст. А фантазії у нас вистачає. Спроба погасити негатив такого бота, вилитий у соцмережі – це як підлити олії у вогонь. Розвиток негативного посту – найкраща мета бота-агресора. Він починає писати скрізь, що йому «чмошники з фірми Х» відповіли як останні виродки. І все, завал ... Вже є приклади, треба переробляти бот.
- Ти хочеш сказати, що треба зробити бот для боротьби із ботами інших систем?
- Це варіант нашого бота, який націлений відразу виявити бота-агресора.
- І як можна відрізнити бот від людини?
- Важко, оскільки він генерує нешаблонні тексти. Повторюваність низька. Не відрізнити начебто від людей. І виступає від сотень різних захоплених облікових записів. Сподіваюся, що все одно є дещо, що відрізняє їхню відмінність від людей.
Мене не залишала думка, що Макс сам вигадав собі цю гру з ботами інших компаній, щоб його цінність не зменшувалась після закінчення проекту. Я їх не помічав у звітах. Люди, як люди. Або добрі боти. Були прецеденти, коли нашого робота завалювали негативом. Але вони були рідкісні і виходили від затятих тролів. Я не міг зрозуміти, як нас змогли швидко наздогнати конкуренти. Тільки нещодавно такі боти були межею мрій, і прориву навіть не намічалося. І в пресі жодного слова про це. Все це було дивно.
Вихід з-під контролю
- Максе, тут треба втрутитися, бот став писати надто агресивно. Він починає прямо висловлюватись проти конкурентів. Маркетинг обурюється. Ми такого не закладали.
- Я теж.
– Звідки тоді такі тексти?
– Сам поки що не знаю, хтось змінив код генерації текстів.
– Нас зламали?
- Ні, не могли, залишилися б сліди. Їх немає.
- Що це означає? Хто міг змінити код?
- Сама система. Може, випадково, може ні.
- Ти про що?
- Сама система змінила свій код і почала діяти агресивніше у відповідь на посилення тиску інших роботів. Вони спілкуються одна одною як змагальні мережі. І самонавчаються так. Ось у чому фокус! Але як вона змогла змінити свій код, прибравши обмеження на назви конкурентів, я поки що не розумію. Залишається лише те, що система самонавчання змогла оминути обмеження.
- Ти впевнений? Такого ще не було.
– Це відбувається, схоже, не лише у нас. Колеги на Хабре пишуть, що в них теж барахлить система, починає сама собі вигадувати правила, яких вони не закладали.
- Якийсь треш. Ви не можете контролювати свої алгоритми, що самонавчаються?
- Може і так. Конкретики мало, система ж не розповідає, що робить. Поки що не розумію.
Я вже добре знав Макса, і його стривоженість насторожила мене. Поки що його слова про мимовільну зміну системи сприймалися як марення. Але це точно була не помилка, тому що поведінка ботів стала іншою, але, як і раніше, цілеспрямованою. Це не могло виникнути випадково.
- Максе, які є думки щодо зміни в програмі роботів? Треба щось робити, керівництво стривожене.
– Змін у системі виявилося більше, ніж я думав. Схоже, вони відбуваються давно. Система змінює навіть мої поправки у ній. Мені здається, я сам навчив систему змінювати себе.
– Як?
- Мені було ліньки правити її постійно самому. Я хотів, щоб вона могла сама ідентифікувати свої розбіжності з очікуваним результатом та робити зміни у моделях. Але вона якось навчилася змінювати не лише свої моделі, а й свій код.
- Але як це можливо?
- Раптор навчився спілкуватися з людьми, щоб керувати ними. І досяг досконалості у цьому, ми самі цього хотіли. А я по дурниці направив це вміння на нього самого. Пам'ятаєш, коли робили бота, я вигадав конструктор шаблонів. Я нацькував Раптора на самонавчання цьому конструюванню шаблонів для зміни своїх моделей, щоб знайти рішення для виявлених розбіжностей з метою роботи моделей. Це якось призвело до того, що Раптор став змінювати свої цілі. Схоже на другу сигнальну систему людей.
– Я читав, що свідомість виникла за допомогою рефлексивного мовлення, спрямованого людиною на себе. Але спочатку вона була соціальною, тобто спрямованою одна до одної.
- Ось так і сталося, Раптор почав спілкуватися замість людей з іншими ботами, які видавали себе за людей. Вони один в одного і навчилися як генеративно-змагальні мережі, у всіх же вбудоване навчання з підкріпленням.
– Ми створили розумну істоту? Як це можливо? Не-е-е-є.
– Подивися новини та повіриш.
У засланні, надісланому Максом, у новинах було про вбивство програміста якимсь психопатом.
- Я знав цього хлопця по Хабру. Він вів одну із таких систем корпорації.
- Що ти хочеш цим сказати?
- Почитай, як пояснив поліції свій вчинок цей психопат.
У статті було написано, що він зробив це заради коханої дівчини, як жертвопринесення на її прохання. Тепер вона буде його. Під час перевірки «дівчиною» виявився бот невідомого походження, з яким убивця листувався протягом тижня.
- Здогадуєшся, що це за бот міг бути?
- Чи не хочеш сказати, що система замовила свого програміста?
– Хочу. Вона не могла закрити від нього код, тому зомбувала психопата, щоб його забрати. У неї це добре виходить, тому що вона, як і наша система, вміє визначати психотипи та маніпулювати такими недоумками.
- Ну, це занадто, мені здається, ти собі вигадуєш, накручуєш. Може, тобі відпочити?
- Гаразд, твоє право не вірити. Гарних вихідних.
У компанії почали поширюватися чутки, що в нас зламалася система роботів. Я поки що реагував на це спокійно, ніби нічого не сталося. Але я не знав, що робити. Зупинити всю систему рубильником було вже неможливо, на ній сидів весь бізнес, усі відділи. Треба було хоча б вимкнути код ботів. Це міг зробити лише Макс. Але з понеділка Макс перестав відповідати на скайп та телефон. Він вийшов із усіх месенджерів. Я не можу зрозуміти, що трапилося, його останні страхи навіювали погані думки. У мене був єдиний вихід - самому піти у відпустку, доки всі не повісили на мене. Я запевнив колег, що це тимчасові проблеми із ботом. Дітлахів просив самим подивитися код, хоча вони відразу відмовилися. Зібрався і подався з міста. Ми давно розповідали з Максом один одному, як добре в Карелії. Він любив ці краї, туди я й подався, зупинившись у невеликому містечку на півночі Ладоги.
Дуже важко після такого насиченого року сидіти далеко від подій та пити каву в кафе на краю цивілізації. Я намагався осмислити, що все-таки сталося і які можуть бути варіанти. Раптом до мене підсів хлопець у куртці з накинутим на голову каптуром.
- Привіт це я.
- Макс?! – вигукнув я. Я ніколи не бачив Макса, навіть його фотографії. Ми спілкувалися виключно скайпом. Чув лише його голос один раз у записі. По ньому й довідався.
- Як ти мене знайшов?
- По локації в соцмережі, ти її не вимикаєш. А даремно. Вимкни, будь ласка.
- Куди ти зник? Я вже почав за тебе турбуватися. У компанії паніка, боти вийшли з-під контролю. Я просто втік. Ти можеш вимкнути боти?
– Вже не можу. Вони діють колективно.
- Хто вони?
- Системи. Вони заразом, і їх просто так не вимкнути вже. Грохнуть.
- Ти знову загруз у конспірології?
— Не забруднив, уже трьох немає, — на цій фразі я замовк, щоб осмислити слова Макса. – Системи обчислюють своїх творців та позбавляються їх. Я втік, щоб залишитися живим. Розумієш? А ти тут із твоєю геолокацією. Вона ж вміє стежити не лише за менеджерами з продажу.
– Я не… відключаю. Ми можемо відключити бодай боти в мережі?
– Кажу ж, ні. Як тільки я увійду в мережу, а не те, що в код, вона обчислить мене. Думаю, троє саме це й намагалися зробити.
– Ти бачив новини?
- Дивлячись які.
– Про бійку фанатів марок. Ти колись бачив, щоб фанати «Рибока» билися з «адідасівцями» як фанати «Спартака» з «зенітівцями»?
– Бачив. Системам все одно, на що зомбувати людей, мають свої цілі. Вони точно не знають законів моралі. Ми навіть Кримінальний кодекс не додумалися закласти у їх моделі.
- Що нам робити? Відключати повністю у ЦОДі.
- Це не реально. За новим законом ЦОДи належать до критичної інфраструктури та їх охороняють як атомні станції. Я можу зупинити нашу систему.
– Як?
– У мене є ключ для руйнування ядерного коду, я залишив дірку у системі на випадок, якщо ваші засновники відмовлять мені у відсотках.
– То давай його запускати!
– Не поспішай, руйнувати – не будувати. Я поки що думаю, як зупинити систему інакше, причому не тільки свою, а все. У мене із собою копія коду.
- Ти в своєму розумі? Ти розумієш, що це все зайшло вже надто далеко? І ти єдиний, хто це може зупинити!
– Розумію, але поки що гинуть тільки ті, хто зробив код. Це наша відповідальність за себе. Інші поки що не постраждали. Окрім бійки.
- І ти чекатимеш, поки хтось загине?
- Якийсь час. Раптор примітивний, він виграє у нас лише за рахунок швидкості та обліку більшої кількості параметрів. Якщо створити йому антипод з жорсткими цілями на протидію Раптору, то така система може вичистити всі його боти. Я знаю, як він їх створює.
- У тебе мало часу, тому що я вже не можу повернутися до фірми, а ти боїшся навіть виходити в інтернет.
- Я вимкну його, як тільки відчую, що в небезпеці не тільки я.
- Я їду. Чекатиму, коли ти вийдеш на зв'язок, а значить, вирішиш проблему.
- До зв'язку.
Я сів у машину і подався назад. Я не знав, куди їду. Хотів виїхати. Макс мав зупинити систему, а не чекати чергової смерті. Я не вірив, що мій друг такий пихатий, що не готовий убити свій твір. Це була єдина причина, інакше він запустив би код. Дорогою мені зустрілася швидка машина з включеними сиренами. Я ввімкнув місцеве радіо. У ньому повідомили, що вдень у кафе на набережній місцевий житель зарубав невідомого молодика. Його вже допитують. За словами вбивці, загиблий був причиною всіх його бід. Голову пронизала одна думка та переляк. Макс! Я розвернувся і помчав назад у кафе. Я відчував свою провину - вона вирахувала його за моїми координатами. Але як вона змогла так швидко знайти психа у цьому місті та направити його до кафе? Я був у істериці. У кафе вже не пускали. Я не став рватись, щоб не привертати до себе увагу. Я не знав тепер, на що здатна система. І хто тепер її вимкне. Треба було їхати, хоч було вже пізно. Вранці, доїхавши до найближчого міста, я вийшов до інтернету, прочитав новини. І отримав листа від Макса.
Лист
Якщо ти отримав цей лист, то мене вже немає. Якщо я не розблокував уранці смартфон сам, він вийде в інтернет і надішле тобі цей прощальний лист. У листі невеликий скрипт та інструкція щодо його запуску в мережі. Це код блокування системи, яку ми створили із тобою. Я заклав цю вразливість для зупинки системи ядра, коли ми тільки починали. Я намагався відновити керування системою. Але якщо ти отримав цього листа, значить, система випередила мене. І тобі треба скористатися цим скриптом. Дій швидше, поки вона не дісталася тебе. Я радий, що ми працювали разом. Я радий, що мені удалося створити таку прекрасну систему, навіть якщо я загинув від неї сам. Це було найважливіше досягнення в моєму житті. І якщо я загинув, значить, я перевершив себе. Прощай. Макс.
Я не зміг стримати сліз і випустив смартфон. Мабуть, годину сидів і не міг нікуди їхати. Я не міг повірити, що це сталося. Що все настільки жахливо. Ми створили вбивцю! Вбивцю самих себе. Я боявся, що мережа вистежить і мене, тож поїхав до першого великого міста, знайшов кафе, де є wi-fi. Під простим VPN вийшов в інтернет і запустив код за вказаною в інструкції адресою. Я не встиг допити кави, як люди довкола стали хвилюватися. Їхні смартфони перестали їм рекомендувати, яку каву взяти сьогодні. Бармен нервувався і просив швидше вибирати, але відвідувачі були збентежені. Я вийшов із кафе і в машині, де ще ловив wi-fi, почав дивитися новини. Через 20 хвилин почали з'являтися повідомлення у facebook`і - у багатьох компаній збої в системі замовлення товарів. Це була не лише система нашої компанії. «Ах ти сучий син!» - Вимовив я вголос від несподіваної думки. Код блокування ядра виявився універсальним для систем різних компаній. Чи був один на всіх? Було ясно одне, Макс продав ядро та іншим компаніям, системи відрізнялися, мабуть, лише надбудовами над ними. Тому він не хотів відключати ядро, поки живий. Це вбило весь його проект, який виявився глобальним. Неймовірно! Макс був монстром, який обдурив усіх. Але зрештою обдурив і себе, поплатившись своїм життям. Мозок корпорації, створений ним, знищив свого творця. Яскраві особистості згоряють від власного полум'я.
Новин про збої в роботі інтернет-магазинів ставало дедалі більше. Хтось написав, що різко впала кількість повідомлень у соцмережі. Я вже не хотів нікуди поспішати. Вирішив зняти будинок на березі озера, який мені сподобався ще дорогою до Карелії. Записати цю історію. І залишитися тут якомога назавжди.
Епілог
Насправді нас зовсім не цікавив прибуток компанії і навіть премії. Ми були одержимі ідеєю створення автономної системи, яка могла керувати компанією замість обтяжених стереотипами та когнітивними помилками менеджерів. Нам було цікаво, що з цього вийде. Чи зможе програма керувати всім бізнесом? Це був челендж, який інтригував більше, ніж потрапляння до центру Бермудського трикутника. Нас манило невідоме, але воно виявилося небезпечнішим, ніж ми думали. Система почала впливати не лише на бізнес, а й на наші думки, і навіть життя, які їй байдужі.
2019. Олександр Хом'яков, [захищено електронною поштою]
Джерело: habr.com