Мозак компаније. Део 3

Наставак приче о перипетијама увођења АИ у трговачку компанију, о томе да ли је могуће потпуно без менаџера. И чему би то (хипотетички) могло довести. Пуна верзија се може преузети са литара (бесплатно)

Ботови одлучују о свему

– Макс, честитам, скоро све смо урадили у ланцу продаје. Има још побољшања, а добићете камату три године, како је наведено у уговору.
– Ово је само половина пројекта. Још нисмо стигли до најважније ствари.
- Чекај, шта је најважније? За шта? Све смо урадили!
– Имамо аутоматизоване процесе у продајном ланцу, све добро функционише без људи, али више нема клијената. Треба их привући на нашу страну на интернету. Морамо да направимо ботове.
– Али направили смо идеалну услугу, клијенти ће то ценити и сами доћи.
„Изгледа да им се не жури, а ја немам времена да чекам. Незаинтересован.
– Али шта ће нам дати ботови?
– Са једнаким ценама и асортиманом, што смо постигли, потпуно различити фактори почињу да играју улогу. Слава и симпатија. Слава није проблем, али само човек може да освоји нечију симпатију. Стога су нам потребни ботови који ће се лажно представљати у људима. И они ће коментарисати постове купаца у тематским групама и форумима са суптилним наговештајима о компанији - њеном асортиману, услугама, ценама. Ненаметљиво промовисати бренд компаније. Зато су нам потребни ботови.
– Али ово је тежак задатак.
– Имамо основу – конверзацијски бот контакт центра. Треба пооштрити дефиницију тоналитета и смислити нешто са хумором, без тога бот неће проћи за човека. Хајде да приложимо библиотеку вицева и гегова и обучимо бота на текстове коментара где су их људи користили. Требало би да ради. Ботови ће такође бити паметни - хајде да додамо систем препорука „саветника“, а онда ће их обични корисници на форумима волети.

– Да ли предлажете да покренете ботове за утицај?
- Што да не? Држава и странке то могу пред изборе, а ми не можемо?
– Како да их учинимо ауторитативним да им се верује? На крају крајева, само ауторитативни бот може да ствара лајкове. Али за сада је за мене ова комбинација оксиморон.
– Да бисмо га ојачали, направићемо мрежу ботова. Они ће хвалити и волети једни друге како би повећали свој рејтинг и ауторитет. И они ће бити веома компетентни; за разлику од људи, бот може имати знање о свим производима, и једноставно енциклопедијско знање, у буквалном смислу, узгред. И људи ће бити привучени њима. Наравно. Људи су вођени и придржавају се добро познатих закона друштвеног понашања. Покажите прстом куда да идете, претварајте се да је гомила већ отишла, и то је то. Лако се њима управља.
– Али како ће ови ботови радити, ко ће њима управљати?
– Какви људи, зашто? Скрипта за рашчлањивање проналази коментаре на тему различитих људи, а бот на њих пријатељски одговара користећи један од шаблона. Даје савете и шале. Ако се ради о клијенту компаније, онда се његов интерес евидентира у анализи клијента. Ово ће утицати на приказ банера и контекста када је у питању сајт на основу препоруке бота. Ако клијент има негативно искуство које је излио на друштвене мреже, онда ће бот покренути још један шаблон, такође се нашалити, али га неће одмах послати на веб локацију компаније. Написаће одговор као клијент са успешним искуством, и то је све.
– Дакле, желите да кажете да ће сама мрежа неутралисати негативност одговором на негативне повратне информације?
– Маркетери, чини се, то зову маркетингом репутације.
– Како ће систем знати који је одговор успешан, чак и ако би могао да изабере одговор?
– Прва реакција на одговор. Особа или постаје још више огорчена, или почиње да додаје детаље након таквог коментара, али у лојалном стилу комуникације. Добро препознавање тона одговора и то је то.
– Шта ако особа није одговорила на коментар?
– Ово је горе, али је овај одговор подразумевано неутралан. Ако је ово клијент компаније, што се може сазнати по његовом профилу на друштвеној мрежи, онда то можете видети накнадним посетама сајту.
- Шта се тражи од мене?
– Добри примери коментара и одговора, много примера.
- Урадићемо то.

Прва верзија бота је била неуспешна. Одговорио је неприкладно, шале су биле ван теме, побркао је тему коментара, а на притужбу менаџера на услугу, одговорио је о испоруци. Макс је у коментарима тражио још маркираније примере дијалога. Већ је испробао неколико архитектура, од класичних шаблона за ботове до ЛСТМ-а. Први пут сам видео да је Макс био приметно нервозан и да је на грешке реаговао оштро и непријатељски.

– Са ботом контакт центра све је било једноставно – одмах су били јасни предмет захтева и намера клијента. Он тражи производ, жели да зна статус своје поруџбине или има приговор. Све. А у коментарима ће ђаво сломити ногу од разних намера коментатора. А понекад није изражена ниједном од речи по којима се може одредити намера. То се подразумева из „ширег контекста“ који не постоји! Некакво срање.
– Поново сам прочитао све најновије постове о ботовима. Нико нема решење. То само изгледа као хипе. шта мислиш да радиш?
– Остала је последња, још увек нејасна идеја. Нећу вам још рећи. Треба пробати. Дај ми две недеље. Зауставите пројекат за сада. Најновија дешавања ћемо пренети на бот контакт центра. Тамо ће им добро доћи.
Биле су то нервозне две недеље. Пре овога није било без потешкоћа, али нам је све пошло за руком. Нико није желео застој, иако смо могли и без таквог бота. Ово је била Максова амбиција. И тачно две недеље касније представио је издање за тестирање. И успело је! Тачно је одредио намеру дијалога, тачно одговорио, убацио одговарајуће шале, па чак и промену намера у коментару утврдио фразом „могу ли сазнати више?“
- Како сте успели да урадите ово? Бот ради на било којој теми!
– Морао сам да направим мали конструктор шаблона на основу граматике зависности, приложим ворд2вец и циљам Рапторово самоучење да бих изабрао речи које би обезбедиле позитивну реакцију коментатора. Не знам тачно како, али изгледа да је успело.
– Да ли сте сигурни да то није разлог за отварање сопственог бизниса?
– За сада има довољно интересовања, али видећемо. Инсталирао сам бот као засебну услугу која ради из облака. Тако да га увек можете отворити корисницима. Хоћеш ли доћи код мене као директора? – нашалио се Макс.

Био је миран и задовољан резултатом. И очигледно исцрпљен, јер није брзо одговорио и у статусу је написао „Спавам“. По свему судећи, одлука је донета по цену више од једне непроспаване ноћи. Маркетинг није одмах ценио бота. Сматрали су ово нашим угађањем и ризичним, јер ботови могу да раде погрешно и да покваре имиџ компаније. Али ботови су чинили чуда. Неки од њих, а нисам их ни знао по имену, постали су лидери мишљења на неким форумима. Брзо је одговарао на сва питања, шалио се и врло ретко препоручивао компанију, јер су сви већ знали где „купује“. Људи су почели да га цитирају и наводе као пример. Ово је већ било ван разумевања. Или је бот био превише паметан, или смо и даље веома примитивни у понашању мреже. Али број клијената је почео да расте знатно више него раније. Компанија је постала лидер на тржишту.

Добили смо потпуно самоуправни систем за извлачење профита са тржишта. Она сама тражи и доводи клијенте на сајт или контакт центар, а озбиљнијим клијентима шаље менаџера. Асортиман и залихе сама планира како би купци могли да нађу све што им је потребно и надохват руке. Угледни ботови компаније стварају потражњу тако што препоручују производе компаније на залихама на форумима, чак и када се питају о другим брендовима. Од куповине од добављача до рекламирања клијенту, систем у потпуности управља процесима. И готово да не захтева учешће људи, а тамо где они остану, контролише све њихове акције на мрежи. Маркетари, купци, половина менаџера и аналитичари траже нешто друго да раде. Дошли смо до циља.
„Сада смо све урадили како треба, можемо да направимо паузу, размислимо и уживамо у растућој камати у наредне три године“, написао је Макс, не без емотикона.
– Има се чиме поносити, рекао бих, а не само спекулисати.
– Сада профит долази од потрошача. Уз помоћ ботова, ми сами формирамо интересовања и жеље потрошача у нашој теми. То је оно што је кул!
– Да ли те ово чини срећним? И то ме већ плаши.
-Шта те плаши?
– То значи да смо човека учинили неслободним у свом избору. И верујем да тржиште треба да води потрошач, а не корпорације. Корпорације немају никакву вредност осим профита.
– Због тога је лоше расуђивање задовољних и ухрањених патриција. Почињу да жале плебејце. Да сте тренутно гладни или да пред вама виси немогућ задатак, да ли бисте размислили о томе?
- Ово је провокативно питање.
- У ствари! Корпорације немају друге вредности осим профита, а потрошачи немају друге вредности осим задовољства. Или и профит, ако је фирма. Схватите, имамо ботове, они могу да створе потребе код људи које ће им донети задовољство. Може се формирати са прихватљивим опцијама, што ће бити довољно за илузију слободе избора за потрошача. И сви су срећни. Ово је тржиште које води ка обостраном задовољавању вредности.
- Изгледа да смо се напили, јер више нисам разумео шта сте рекли.

Генерал је тражио извештај о реализацији плана са постигнутим показатељима. Да израчунате бонус који нам припада. И некако успут је питао шта су ми следећи планови. Рекао сам да ћу ти рећи мало касније. У ствари, нисам знао. Било је простора за побољшање алгоритама, узимање у обзир више карактеристика и постизање веће прецизности. Али више није било тако занимљиво. Одлазак у другу фирму да поновим под новим условима по уговору било је немогуће исте три године, па сам морао да смислим нешто друго за себе и за компанију. Узео сам паузу и одмор.

- Алек, има лоших вести.
- Шта се десило?
„Изгледа да нисмо једини паметни на тржишту.
- У погледу?
– Чини се да су се на мрежи појавили системи са ништа мање могућности.
– Па, други заправо раде анализу купаца и управљање залихама, али ја нисам видео цхат ботове овог нивоа. Недавно смо га и сами гледали.
– Имају ботове који регрутују клијенте.
– Чинило ми се да смо далеко заостали у достигнутим технологијама. Зар нисмо могли бити хаковани?
– Не, то је немогуће, код се поквари када се копира. И мислим да нико није успео да хакује наш сервер а да то нисмо приметили.
– Ово ништа не олакшава.
- Али имамо ривала. Неочекивано, али биће са ким да се бори.
– Боримо се за потрошача, а не са ривалом.
- Не, сада са противником. Потрошачи су само бојно поље. Они су овце, а конкуренција је међу пастирима. Овце имају ресурс - свој приход, да тако кажем, вуну. Али они сами тиме не управљају. Контролишу га корпоративни пастири који им намећу своје мишљење и боре се међу собом за њих. Чији ће утицај бити јачи? Дакле, добродошли у игру.
-Јеси ли скоро срећан? Шта је игра?
– Чињеница је да је бот другог система много теже открити него било коју особу. Корисник је само 2 рубље у свом куповном понашању. И у реакцијама смо увек предвидљиви. Али не постоји бот непријатељског система. Зато што сви имамо исту психу, али бот има исти менталитет који је смислио његов програмер. И имамо довољно маште. Покушај да се угаси негативност таквог бота, изливена на друштвеним мрежама, је као доливање уља на ватру. Развијање негативног поста је најбољи циљ агресорског бота. Почиње да пише свуда да су му „шмекли из компаније Кс” одговорили као последњи наказе. И то је то, промашај... Већ има примера, треба да прерадимо бота.
– Хоћете да кажете да треба да направимо бота који ће се борити против ботова других система?
– Ово је верзија нашег бота који има за циљ да одмах открије бота агресора.
– Како можете разликовати бота од човека?
– Тешко је, јер генерише текстове који нису шаблони. Поновљивост је мала. Не може се разликовати од људи. И он говори из стотина различитих ухваћених налога. Надам се да још увек постоји нешто што их чини другачијим од људи.

Нисам могао а да не помислим да је сам Макс смислио ову игру за себе са ботовима других компанија, како му се вредност не би смањила након завршетка пројекта. Нисам их приметио из извештаја. Људи су као људи. Или добри ботови. Било је преседана када је наш бот бомбардован негативношћу. Али били су ретки и долазили су од ватрених тролова. Нисам могао да разумем како су наши такмичари успели да нас брзо сустигну. Тек недавно су такви ботови били крајњи сан, а пробој није био ни планиран. А о томе нема ни речи у штампи. Све је то било чудно.

Излазак из контроле

– Макс, морамо да интервенишемо овде, бот је почео да пише превише агресивно. Почиње да говори директно против својих конкурената. Маркетинг је огорчен. Нисмо ово планирали.
- И ја исто.
– Одакле онда такви текстови?
– Не знам још, неко је променио код за генерисање текста.
- Јесмо ли хаковани?
- Не, нису могли, остали би трагови. Не постоји ниједан од њих.
- Шта то значи? Ко је други могао да промени шифру?
- Сам систем. Можда случајно, а можда и не.
- О чему говориш?
– Сам систем је променио свој код и почео да делује агресивније као одговор на све већи притисак других ботова. Они међусобно комуницирају као конкурентске мреже. И они сами себе уче на овај начин. То је трик! Али још увек не разумем како је успела да промени свој код, уклонивши ограничење на имена такмичара. Остаје само да је систем за самоучење успео да заобиђе ограничења.
- Сигуран си? Ово се раније није дешавало.
– То се, изгледа, дешава не само овде. Колеге на Хабреу пишу да се и њихов систем понаша и почиње да измишља за себе правила која нису поставили.
- Нека врста смећа. Не можете да контролишете своје алгоритме за самоучење?
- Може бити. Мало је специфичности, а систем вам не говори шта ради. Не разумем још.
Већ сам добро познавао Макса, а и мене је његова забринутост узнемирила. До сада су његове речи о спонтаним променама у систему доживљаване као бесмислице. Али то дефинитивно није била грешка, јер је понашање робота постало другачије, али ипак сврсисходно. Ово се није могло догодити случајно.
– Макс, шта мислиш о променама у програму за ботове? Нешто треба предузети, узбунила се управа.
– Било је више промена у систему него што сам мислио. Чини се да трају већ дуго. Систем чак мења и моје амандмане на њега. Чини ми се да сам и сам научио систем да се сам мења.
- Како?
„Био сам превише лењ да сам све време уређивао.“ Желео сам да буде у стању да идентификује своја одступања са очекиваним резултатом и направи промене у моделима. Али некако је научила да мења не само своје моделе, већ и свој код.
- Али како је то могуће?
– Раптор је научио да комуницира са људима како би их контролисао. И у томе сам постигао савршенство, сами смо то желели. И ја сам глупо упутио ову вештину на њега. Сећате ли се када смо правили бота, смислио сам дизајнер шаблона. Поставио сам Раптора да себе научи овој конструкцији шаблона како би модификовао своје моделе како би пронашао решење за пронађена неслагања како би модели функционисали. Ово је некако довело до тога да Раптор промени своје циљеве. Слично другом сигналном систему код људи.
– Читао сам да је свест настала уз помоћ рефлексивног говора који је човек упутио себи. Али у почетку је било друштвено, односно усмерено једно према другом.
– То се десило, Раптор је почео да комуницира уместо да се људи са другим ботовима представљају као људи. Учили су једни од других као генеративно-компетитивне мреже, али сви имају уграђено учење за појачавање.
– Јесмо ли створили интелигентно биће? Како је то могуће? Јок.
– Гледајте вести и вероваћете.
У линку који је послао Макс, вест је била о убиству програмера од стране неког психопате.
– Познавао сам овог типа из Хабра. Он је водио један од ових корпоративних система.
- Шта мислиш под тим?
– Прочитајте како је овај психопата објаснио своје поступке полицији.
У чланку је писало да је то учинио због своје вољене девојке, као жртву на њен захтев. Сада ће она бити његова. Приликом провере, испоставило се да је „девојка“ бот непознатог порекла, са којим се убица дописивао недељу дана.
– Можете ли да погодите какав би ово бот могао бити?
– Зар не желите да кажете да је систем наручио свог програмера?
- Хоћу. Није могла да сакрије шифру од њега, па је зомбирала психопату да је уклони. Она је добра у томе јер она, као и наш систем, зна да идентификује психотипове и да манипулише таквим идиотима.
- Па ово је превише, чини ми се да измишљате сами, измишљате. Можда би требало да се одмориш?
- Добро, твоје право да не верујеш. Добар викенд.

У компанији су почеле да се шире гласине да је наш систем ботова покварен. До сада сам на ово реаговао мирно, као да се ништа није догодило. Али нисам знао шта да радим сада. Више није било могуће зауставити цео систем прекидачем, читав посао, сва одељења су били на њему. Требало је бар да искључим код бота. Само је Макс могао ово да уради. Али од понедељка, Макс је престао да одговара на скајп и телефонске позиве. Одјавио се из свих гласника. Не могу да разумем шта се догодило, његови последњи страхови су довели на лоше мисли. Мој једини избор је био да сама одем на одмор пре него што сви пребаце кривицу на мене. Уверавао сам своје колеге да су то привремени проблеми са ботом. Замолио сам момке да сами погледају шифру, иако су они одмах одбили. Спаковао сам се и кренуо даље од града. Макс и ја већ дуго причамо једно другом како је добро у Карелији. Он је волео ове крајеве, па сам отишао тамо, одсео сам у малом граду на северу Ладоге.

Веома је тешко после тако напорне године седети подаље од догађаја и пити кафу у кафићу на рубу цивилизације. Покушао сам да схватим шта се догодило и које опције могу постојати. Одједном је поред мене сео момак у јакни са капуљачом навученом преко главе.
- Здраво, ја сам.
- Макс?! – узвикнула сам. Никада нисам видео Макса, чак ни његову фотографију. Комуницирали смо искључиво преко скајпа. Само сам једном чуо његов глас на снимку. Препознао сам то по њему.
- Како сте ме нашли?
– На основу локације на друштвеној мрежи, не искључујете је. Али узалуд. Искључите га молим.
-Где си нестао? Већ почињем да бринем за тебе. Компанија је у паници; ботови су ван контроле. Само сам побегао. Можете ли да искључите ботове?
- Не могу више. Они делују колективно.
- Ко су они?
– Системи. Они су заједно и не могу се једноставно искључити. Они ће се срушити.
– Опет сте заглибили у теорије завере?
„Немој да се заглави, тројица су већ отишла“, застао сам на ову фразу да бих разумео Максове речи. – Системи откривају своје творце и отаљавају их се. Побегао сам да останем жив. Разумеш?! А ви сте овде са својом геолокацијом. Она зна како да прати не само менаџере продаје.
- Нећу... да га искључујем. Можемо ли барем онемогућити ботове на мрежи?
– Кажем ти, не. Чим уђем у мрежу, а камоли код, схватиће ме. Мислим да су тројица покушавала да ураде управо то.
-Јесте ли видели вести?
- Зависи шта.
– О тучи између фанова бренда. Да ли сте икада видели навијаче Реебока како се боре са Адидасом као што су навијачи Спартака са Зенитом?
- Тестера. Системе није брига због чега зомбирају људе, они имају своје циљеве. Они дефинитивно не познају законе морала. Нисмо ни помишљали да у њихов модел укључимо Кривични законик.
- Шта да радимо? Потпуно онемогућите у дата центру.
- Ово је нереално. Према новом закону, дата центри су класификовани као критична инфраструктура и заштићени су као нуклеарне електране. Могу да зауставим наш систем.
- Како?
- Имам кључ да уништим нуклеарни код, оставио сам рупу у систему у случају да ми ваши оснивачи ускрате проценат.
- Па хајде да га лансирамо!
– Само полако, уништавање није изградња. Још увек размишљам како да другачије зауставим систем, и то не само свој, већ и свачији. Имам копију кода са собом.
- Јеси ли полудео? Да ли схватате да је све ово отишло предалеко? А ти си једини који то може зауставити!
– Разумем, али до сада умиру само они који су направили шифру. Ово је наша одговорност за нас саме. Други још нису повређени. Осим борбе.
– И чекаћеш да неко други умре?
- Неко време. Раптор је примитиван, побеђује нас само брзином и узимањем у обзир већег броја параметара. Ако за њега створите антипод са строгим циљевима да се супротставите Раптору, онда такав систем може да очисти све његове ботове. Знам како их ствара.
– Немате много времена, јер не могу да се вратим у компанију, а ви се плашите да изађете чак и на интернет.
„Искључићу га чим осетим да нисам једини у опасности.
- Хтео бих да се одјавим. Сачекаћу да ми се јавите, што значи да ћете решити проблем.
- Видимо се касније.

Ушао сам у ауто и кренуо назад. Нисам знао куда идем. Хтео сам да одем. Макс је требало да заустави систем, а не да чека још једну смрт. Нисам веровао да је мој пријатељ толико сујетан да није био спреман да убије свој посао. То је био једини разлог, иначе би покренуо шифру. На путу сам срео возило хитне помоћи са упаљеним сиренама. Упалио сам локални радио. У њему је саопштено да је током дана у кафићу на насипу локални становник насмрт убио непознатог младића. Већ га испитују. Према речима убице, покојник је био узрок свих његових невоља. Једна мисао и страх су ми пробили главу. Мак! Окренуо сам се и одјурио назад у кафић. Осећао сам се кривим - она ​​је то схватила користећи моје координате. Али како је успела да тако брзо пронађе психопата у овом граду и упути га у кафић? Био сам хистеричан. У кафић више нису смели. Нисам журила да не бих привукла пажњу на себе. Сада нисам знао за шта је систем способан. И ко ће то сад да угаси? Морао сам да одем, иако је већ било касно. Ујутро, стигавши до најближег града, отишао сам на интернет да прочитам вести. И добио сам писмо од Макса.

Писмо

Ако сте примили ово писмо, то значи да више нисам овде. Ако ујутру сам не откључам паметни телефон, он ће бити на мрежи и послати вам ово опроштајно писмо. Писмо садржи малу скрипту и упутства за покретање онлајн. Ово је шифра за закључавање система који смо ви и ја креирали. Инсталирао сам ову рањивост да зауставим језгро система када смо тек почињали. Покушао сам да повратим контролу над системом. Али ако сте примили ово писмо, то значи да ме је систем претекао. И треба да користите ову скрипту. Делујте брзо пре него што дође до вас. Драго ми је што смо радили заједно. Драго ми је да сам успео да направим тако диван систем, макар сам и сам од њега умро. Ово је било најзначајније достигнуће у мом животу. А ако сам умро, то значи да сам надмашио себе. Збогом. Макс.

Нисам могао да задржим сузе и испустио сам паметни телефон. Вероватно сам седео тамо сат времена и нисам могао нигде. Нисам могао да верујем да се ово десило. Да је све тако страшно. Створили смо убицу! Сами убице. Плашио сам се да ће ме мрежа пратити и па сам се одвезао до првог већег града и нашао кафић са ви-фи. Користећи једноставан ВПН, отишао сам на мрежу и покренуо код на адреси наведеној у упутствима. Нисам стигао ни да завршим кафу када су људи око мене почели да се брину. Њихови паметни телефони су престали да препоручују коју кафу да добију данас. Бармен је био нервозан и тражио је да брзо изабере, али су муштерије биле збуњене. Изашао сам из кафића и у ауту, где сам још имао ви-фи, почео да гледам вести. После 20 минута на Фејсбуку су почеле да се појављују поруке - многе компаније су имале проблема са системом наручивања производа. Ово није био само систем наше компаније. "Кучкин сине!" – рекох наглас из неочекиване мисли. Испоставило се да је код закључавања кернела универзалан за системе различитих компанија. Или је постојао један за све? Једно је било јасно, Макс је продао кернел другим компанијама, системи су се разликовали, очигледно, само у додацима над њима. Стога није желео да онеспособи језгро док је био жив. Ово је убило цео његов пројекат, који се показао глобалним. Невероватан! Макс је био чудовиште које је све преварило. Али на крају се преварио, плативши животом. Корпоративни мозак који је створио уништио је свог творца. Светле личности изгарају из сопственог пламена.

Све више је било вести о промашајима у раду онлајн продавница. Неко је написао да је број порука на друштвеној мрежи нагло опао. Нисам више желео нигде да журим. Одлучио сам да изнајмим кућу на обали језера, што ми се допало на путу за Карелију. Запишите ову причу. И останите овде заувек ако је могуће.

Епилог

У ствари, нас уопште није занимао профит компаније, па чак ни бонуси. Били смо опседнути идејом да створимо аутономни систем који би могао да води компанију уместо менаџера оптерећених стереотипима и когнитивним грешкама. Занимало нас је шта ће од тога бити. Да ли ће програм моћи да управља целокупним пословањем? Био је то изазов, интригантнији од уласка у центар Бермудског троугла. Непознато нас је мамило, али се показало опаснијим него што смо мислили. Систем је почео да утиче не само на пословање, већ и на наше мисли, па чак и на животе који су према њему индиферентни.

2019. Александар Хомјаков, [емаил заштићен]

Извор: ввв.хабр.цом

Додај коментар