Deň ochrany osobných údajov, Minsken, 2019. Organizátor: obhajcovská organizácia Human Constanta.
Moderátor (ďalej – M): – Artur Hachuayn sa zaoberá... Môžeme povedať „na temnej strane“ v kontexte našej konferencie?
Artur Hachuayn (ďalej – AH): – Na strane korporácií – áno.
A: – Zbierate vaše údaje, predávate ich korporáciám.
AH: – V skutočnosti nie…
A: – A on vlastne povie, ako môžu korporácie využiť vaše údaje, čo sa deje s údajmi, keď sa dostanú online. Pravdepodobne nebude rozprávať, čo s tým robiť. Povieme si ďalej…
AH: – Povieme, povieme. Vlastne to nebude dlhé rozprávanie, ale na predchádzajúcej akcii mi predstavili človeka, ktorému dokonca ‚Facebook‘ zablokoval účet psa.
Ahojte! Volám sa Artur. Fakt sa zaoberám spracovaním a zberom údajov. Samozrejme, nikomu nepredávam žiadne osobné údaje verejne. Robím si srandu. Moja oblasť činnosti je získavanie znalostí z údajov, ktoré sú v otvorených zdrojoch. Keď niečo právne nie je osobnými údajmi, ale z toho môžeme získať poznatky a spraviť ich rovnako významné, ako keby tieto údaje boli získané z osobných údajov. Vlastne nemám nič strašné na rozprávanie. Tu je pravda, o Rusku, ale mám čísla aj o Bielorusku.
Aké sú reálne rozmery?
Doslova predvčerom som bol v Moskve v jednej z vedúcich politických strán (nebudem hovoriť, ktorej), a diskutovali sme o zavedení nejakého projektu. A IT riaditeľ tejto strany vstáva a hovorí: ‚Hovorili ste o číslach a tak ďalej, viete, pripravil mi tu 2. úrad FSB správu, kde je napísané, že na sociálnych sieťach je 24 miliónov Rusov. A vy hovoríte – 120 s niečím. Veď u nás viac ako tridsať [miliónov] internetu nepoužíva.‘ Hovorím: ‚Áno? No dobre.‘
Ľudia si v skutočnosti neuvedomujú rozsah. Nemusia to byť štátne orgány, ktoré naozaj nepochopili, ako internet funguje, ale aj moja mama, napríklad. Práve teraz začína chápať, že kartičku v „Spar“ jej nedávajú len tak, nie za smiešne zľavy, ktoré tento „Spar“ ponúka, ale preto, že potom sa jej údaje používajú v OFD, pri nákupoch, v prediktívnych modeloch a tak ďalej.
Celkovo je tu toľko obyvateľov a o toľkých sú informácie v otvorených zdrojoch. O niekom je známe len priezvisko, o niekom všetko, až po pornografiu, ktorú lajkuje (o tom vždy vtipkujem, ale je to naozaj tak); a rôzne informácie: ako často ľudia cestujú, s kým sa stretávajú, aké nákupy robia, s kým žijú, ako sa pohybujú – množstvo informácií, ktoré môžu využiť zlí, menej zlí a dobrí ľudia (ani neviem, akú škálu si teraz vymyslieť, ale aj tak).
Existujú sociálne siete, ktoré sú samozrejme obrovskou zbierkou otvorených údajov, hrajúc na slabosti ľudí, ktorí akoby kričia o súkromí. A v skutočnosti je to tak: ak si predstavíte graf za posledných 5 rokov – úroveň hystérie ohľadom osobných údajov rastie, ale počet uzavretých účtov na sociálnych sieťach klesá rok čo rok. Možno nie je úplne správne z toho vyvodzovať závery, ale: prvé, čo zastaví akúkoľvek spoločnosť, ktorá zhromažďuje údaje – je to proste uzavretý účet na sociálnych sieťach, pretože názor človeka vo svojom uzavretom účte, ak nemá 100 tisíc sledovateľov, nie je naozaj zaujímavý pre nejakú analýzu; ale aj také prípady sa stávajú.
Odkiaľ berú informácie o nás?
Kedy sa vám naposledy ozvali vaši starí školskí priatelia, s ktorými ste sa už dávno nestretli, a potom tento účet zmizol? Existujú takéto praxí medzi zlými chlapcami, ktorí zhromažďujú telefóny: analyzujú priateľov (a zoznam priateľov je takmer vždy otvorený, aj keď si človek uzavrie svoj profil, zoznam priateľov možno obnoviť „naopak“ a zhromaždiť všetkých ostatných používateľov), vezmú nejakého neaktívneho vášho priateľa, skopírujú jeho stránku, ozvú sa vám s priateľstvom, vy ho pridáte a o dve sekundy účet zmizne; ale kópia vašej stránky zostala. Takto, vlastne, robili chlapci nedávno, keď 68 miliónov profilov z „Facebooku“ zmizlo niekam - takto sa približne všetkým prihlasovali do priateľov, kopírovali tieto informácie, dokonca niekomu písali súkromne, niečo robili...
Sociálne siete sú obrovským zdrojom informácií, prakticky v 80 % prípadoch sa informácie o konkrétnych osobách získavajú nepriamo, z najbližšieho okolia - sú to rôzne nepriame znalosti, znaky (u nás sa to volá „algoritmus „Zlej ex“), pretože jedna moja známa ma podnietila na túto úplne geniálnu myšlienku. Vždy nesledovala svojho priateľa - vždy sledovala piatich jeho priateľov a vždy vedela, kde sa nachádza. To je naozaj dôvod, prečo napísať celú vedeckú prácu.
Existuje obrovské množstvo botov, ktoré robia tiež rôzne dobré a zlé veci. Niektoré sú neškodné, ktoré sa len slepo prihlásia na vás, aby vám neskôr propagovali kozmetiku; a sú aj vážne siete, ktoré sa snažia vnuciť svoj názor, najmä pred voľbami. Neviem, ako to je v Bielorusku, ale v Moskve pred mestskými voľbami sa mi nejakým spôsobom objavilo obrovské množstvo priateľov, akýchsi nejasných, pričom každému propaguje rozdielneho kandidáta, teda absolútne neanalyzujú obsah, ktorý konzumujem - snažia sa len vnuciť nejakú nejasnú reformu, pričom ja v Moskve vôbec nie som registrovaný a ísť voliť neplánujem.
Skládka - zdroj nebezpečných informácií
Existuje „Tor“, ktorý nie je až tak podceňovaný – mnohí si myslia, že tam treba ísť len na to, aby sa kúpili drogy alebo zistilo, ako sa vyrába zbraň. Ale v skutočnosti tam je množstvo zdrojov dát. Všetky sú prakticky nezákonné (prípadne na hrane zákona), pretože niekto mohol hacknúť databázu leteckých spoločností a zverejniť ju. Právne tieto dáta nemôžete použiť, ale ak z toho získate nejaké poznanie (ako v americkej súdnej praxi) – napríklad zvukový záznam rozhovoru, ktorý bol urobený bez príkazu, nemôžete použiť, ale poznanie, ktoré získate z tohto záznamu, si už nezabudnete – a tu je to veľmi podobné.
To je naozaj veľmi nebezpečné, a preto vždy žartujem, ale je to pravda. Vždy si objednávam jedlo zo susedného domu, pretože „Delivery Club“ býva veľmi často oslabený a má skutočne vážne problémy. Nedávno ma veľmi prekvapilo: objednával som potraviny a na krabici, ktorú som bral k smetiam, bola nálepka s textom – „Arthur Khachuyán“, telefónne číslo, adresa bytu, kód od vchodu a e-mail. Skutočne sme sa snažili dohodnúť s moskovským mestským úradom, aby nám umožnili prístup na skládku: jednoducho prísť na skládku odpadu a zaujímalo nás, či nájdeme nejaké zmienky o osobných údajoch – urobiť niečo ako mini-výskum. Ale odmietli nám, keď zistili, že chceme prísť so zamestnancami Roskomnadzoru.
Ale je to tak, ako hovorím. Pozerali ste skvelý film „Hackeri“? Kramárili sa v odpade, aby našli nejaké časti vírusu. To je tiež populárna vec – keď ľudia vyhodili niečo do verejných zdrojov, zabudli na to. Môže to byť nejaký školský web, na ktorom písali prácu o nadradenosti bielej rasy, a potom išli do Štátnej dumy a na to zabudli. Takéto prípady skutočne existovali.
Čo majú „jednorosi“ radi?
Ak sa pozriete na "top" na stránke "Lifnews"… Pred dvoma rokmi robili moji študenti výskum: vzali všetkých účastníkov primárok „Jednotnej Ruska“ (všetci oficiálne predložili svoje účty na sociálnych sieťach do CEC), pozreli sa, čo vlastne lajkujú – detskú pornografiu, trash, nejasné oznámenia od podivných dospelých žien… V podstate ľudia na to ako keby zabudli.
Potom napísali list o tom, že dvadsiatim ľuďom ukradli účty. Ale účty im ukradli pred dvoma týždňami, pred ôsmymi mesiacmi ich predložili vo volebnej komisii, a lajky boli pred dvoma rokmi… V podstate, rozumiete, áno? Tam je naozaj obrovské množstvo informácií, ktoré je možné vždy využiť aj na výskumné účely.
Mini offtop: včera som videl správu, že Roskomnadzor zablokoval výskumy studentov "vyšky" z pred dvoch rokov. Možno, niekto videl túto správu, nie? To moji študenti robili výskum: zbierali informácie z "Tor", zo stránky "Hydra", kde sa predávajú drogy (ospravedlňujem sa – z "Rampy"), robili prieskum, koľko, čo, v akom regióne Ruska stojí, a urobili výskum. Nazývalo sa to „Spotrebiteľský košík partyhajlu“. To je samozrejme vtipná vec, ale z hľadiska analýzy dát je to naozaj zaujímavý dataset – potom som ešte dva roky chodil na rôzne „hackathony“. Je to skutočná vec – je tam veľa zaujímavého.
Ako Get Contact „kúpil duše“ zvedavých používateľov a prečo by ste mali čítať užívateľskú zmluvu
Zvyčajne, keď sa pýtaš človeka, akých únikov údajov sa bojí (najmä ak má zakrytú webovú kameru), vždy nastaví priority takto: hackeri, štát, korporácie.
To je samozrejme vtip. Ale naozaj aktívni data analytici, rôzni výskumníci údajov ukradli omnoho viac, než si myslím, že strašní ruskí, americkí alebo nejakí iní hackeri (dosadte akékoľvek, v závislosti od vašich politických presvedčení). V podstate sa toho zvyčajne všetci obávajú – veď vy predpokladám, že všetci máte zakrytú webkameru? Môžete ani ruky nezdvihnúť.
Ale ak hackeri robia niečo nelegálne a štátu je potrebné povolenie od súdu na získanie údajov, potom posledným chlapcom [korporáciám] vôbec nič netreba, pretože majú niečo, čo sa volá používateľská zmluva, ktorú nikto nikdy v živote nečíta. A veľmi dúfam, že takéto podujatia predsa len prinútia ľudí čítať zmluvy. Neviem, ako to je v Bielorusku, ale v Moskve v polovici tohto roka bola vlna aplikácie „GetContact“ (určite ste o tom počuli), keď sa objavila nejasná aplikácia, ktorá hovorila: daj aplikácii prístup ku všetkým svojim kontaktom a ukážeme ti, ako si bol u koho vtipne zapísaný.
V médiách to nevyšlo, ale veľmi veľa vysokopostavených zamestnancov sa sťažovalo, že im začali neustále všetci telefonovať. Zjavne sa administrátori rozhodli nájsť v tejto databáze telefón Šojgua, ešte niekoho… Volčkovú… Bezoblačná záležitosť. Ale tí, ktorí čítali licenčnú dohodu „GetContact“ – tam je napísané: spam v neobmedzenom množstve v neobmedzenom čase, predaj vašich údajov bez kontroly tretím stranám, bez obmedzenia práv, a doby premlčania a vlastne všetkého, čo len možné. A to nie je naozaj taká super-zriedkavá situácia. Mne „Facebook“, kým som tam bol, ukazoval 15-krát za deň oznámenia: „A synchronizuj kontakty, a ja ti nájdem všetkých tvojich priateľov, ktorých máš!“.
Korporáciám je to jedno. Zákon č. 152 a GDPR
Ale v skutočnosti sú priority naopak, pretože korporácie chránia súkromné právo a preto je prakticky vo všetkých prípadoch nemožné dokázať, že nie sú práva. A s ohľadom na to, že je veľká, hrozná a veľmi drahá, je to prakticky nemožné. A ak ste ešte aj v Rusku, s zastaranou legislatívou, tak je to všetko úplne smutné.
Viete, čím sa ruský zákon (a ten je prakticky bielorusky) líši od, napríklad, GDPR? Ruský zákon č. 152 chráni údaje (to je relikt sovietskej minulosti) – dokument, ktorý chráni údaje pred únikom niekam. A GDPR chráni práva používateľov – práva na to, že prídu o nejaké slobody, privilégiá alebo niečo iné, pretože ich údaje niekam uniknú (priamo v "data-li" zaviedli takýto pojem). A u nás je všetko, čo ti môžu uložiť – pokuta za to, že nemáš certifikovaný "open" "Excel" na spracovanie osobných údajov. Dúfam, že sa to raz zmení, ale myslím, že nie v najbližšej dobe.
Aké sú reálne možnosti cielenia dnes?
Prvá, pravdepodobne desivá história, o ktorej všetci neustále uvažovali – to je čítanie osobných správ. Určite medzi vami je niekto, kto niekedy niečo hovoril nahlas a potom dostal cielenú reklamu. Áno, boli takí? Ruky hore.
Naozaj neverím tomu, že hypotetický "Jandex Navigátor" rozpoznáva priamo audio v prúde pre všetkých používateľov, pretože tí, ktorí sa trochu stretli s rozpoznávaním hlasu, chápajú, že: po prvé, dátové centrum "Jandy" musí byť päťkrát väčšie; ale hlavne, náklady na získanie takéhoto človeka by stáli obrovské peniaze (aby v prúde rozpoznávali audio a chápali, o čom človek hovorí). Ale! Reálne existujú algoritmy, ktoré vás značia podľa určitých kľúčových slov, aby potom mohli robiť nejakú reklamnú komunikáciu.
Týchto výskumov sa uskutočnilo množstvo a ja som 100-krát vytvoril čisté účty, písal som niečo niekomu v správach a potom som náhle dostal reklamu, ktorá sa zdala byť s tým nijako nesúvisiaca. V skutočnosti sú tu dva závery. Proti takému príbehu sa predpokladá, že človek sa jednoducho ocitne v nejakej štatistickej vzorke; povedzme, ste muž vo veku 25 rokov, ktorý práve v tento moment mal naraziť na kurzy angličtiny práve vtedy, keď ste niekomu napísali. Aspoň „Facebook“ vždy hovorí takto na súde: je tu akýsi model správania, ktorý vám neukážeme, ktorý bol postavený na dátach, ktoré vám neukážeme, máme interné výskumy, ktoré vám určite neukážeme (pretože všetko je obchodným tajomstvom); vo všeobecnosti ste sa ocitli v nejakej štatistickej vzorke, takže sme vám to ukázali.
Ako „Facebook“ nahneval súkromie používateľov
Žiaľ, to vôbec nie je možné dokázať, ak nemáte osobu vo vnútri spoločnosti, ktorá by nejakým spôsobom potvrdila tieto kroky. Ale v americkom práve v takom prípade dohoda o mlčanlivosti tohto zamestnanca prevyšuje jeho túžbu vám pomôcť, takže nikto to neurobí. Ešte zaujímavé – bolo to asi pred rokom alebo rokom a pol – začal sa rozvíjať trend v Amerike, keď si ľudia inštalovali rozšírenie pre prehliadač, ktoré šifrovalo správy na „Facebooku“: napíšete niečo človeku, on to zašifruje kľúčom na zariadení a posiela nezmysly do verejnosti.
Tu „Facebook“ súdil túto spoločnosť počas jedného a pol roka a akosi nejasne na akých základoch (pretože sa veľmi nevyznám v americkom práve) ich donútil odstrániť túto aplikáciu a potom spravil opravu v používateľskej zmluve: ak sa pozriete, tam je taký bod, že vám nemožno prenášať správy v šifrovanej podobe – je to opisované tak, že nie je možné používati kryptografické algoritmy na to, aby ste modifikovali správy – no, je to tak. To znamená, povedali: buď používate našu platformu, píšete vo verejnosti, alebo nepíšete. A odtiaľ vzniká otázka: na čo im vôbec sú osobné správy?
Osobné správy sú zdrojom stopercentne dôveryhodných informácií.
Tu je veľmi jednoduchá vec. Všetci, ktorí sa zaoberajú analýzou digitálnych stôp a aktivity ľudí, sa snažia tieto údaje využiť na marketing alebo niečo iné – majú takú metriku, ako je dôveryhodnosť. Teda nejaký obraz človeka – vy veľmi dobre chápete, že to nie je ten samý človek – tento obraz je vždy o niečo úspešnejší, o niečo lepší. Osobné správy sú reálne poznatky, ktoré možno získať o človeku, a sú prakticky vždy na 100 % dôveryhodné. Pretože málokto píše v osobných správach niečo nepravdivého a to sa všetko veľmi ľahko overuje – podľa iných správ (rozumiete, o čom hovorím). Podstata je v tom, že poznatky získané týmto spôsobom sú takmer na 100 % dôveryhodné, a preto sa všetci vždy snažia ich získať.
Ale aj tak je to, opäť, veľmi ťažko dokazovateľný prípad. A tí, ktorí veria, že hypoteticky „Vkontakte“ má taký prístup pre orgány činné v trestnom konaní k osobným správam – to nie je celkom pravda. Ak sa len pozriete na históriu súdnych žiadostí o sprístupnenie informácií – ako sa „Vkontakte“ veľmi šikovne (v tomto prípade Mail.ru) bráni týmto žiadostiam.
Ich hlavný argument vždy znie: podľa zákona musia orgány činné v trestnom konaní zdôvodniť, prečo potrebujú prístup k osobným správam. Zvyčajne, ak ide o vraždu, vyšetrovateľ hovorí, že pravdepodobne človek povedal, kde skrýva zbraň (v osobných správach). Ale my chápeme, že žiadny rozumný zločinec nikdy vo svojom „Vkontakte“ svojim komplicom nenapíše, kde skrýva strelnú zbraň. Ale to je jeden z bežných variantov, akým sa úradníci zodpovedajú.
A tu je ešte jeden taký strašidelný príklad (dnes ma žiadali, aby som uviedol strašidelné príklady) – o Rusku (dúfam, že v Bielorusku sa to nestane): podľa zákona musí mať vyšetrovateľ dostatočne silné dôvody pre operátora, aby odhalil tieto informácie. Samozrejme, nikde nie sú tieto presné parametre opísané (aké, v akom forme by mali byť), ale v Rusku pribúda stále viac precedensov, kedy pre súd takéto dôvody vznikajú, ak existuje akási model, ktorý predpovedal určité, dobré alebo zlé, správanie.
To znamená, že nikoho nemôžu uväzniť (a to je dobre) za to, že ste sa dostali do istej štatistickej vzorky čistokrvných vrahov – a to je dobre, pretože to porušuje prezumpciu neviny; ale sú tu precedensy, keď sa výsledky podobných predpovedí používali na získanie súdneho povolenia na získanie dát. Nie len v Rusku, mimochodom. V Amerike tiež existuje taká vec. Tam „Palantir“ už všetkých dlho tiež skóroval, takéto veci sa používajú. Strašný príbeh.
To je moje výskum. Robili sme niečo také: prechádzali sme Piterom, na miestach zelených bodov sme písali nejaké kľúčové momenty priateľom z „čistých“ účtov – ako „chcem si dať kávu“, „kde kúpiť prací prášok?“ a tak ďalej. A potom sme samozrejme dostali geo-pridelenú reklamu. Akým magickým spôsobom… Alebo ako hovorili: „Zcoincidencia? Nemyslím si!“ Toto sú osobné správy „Vkontakte“. Nech ma Mail.ru odpustí, ale je to tak. Každý, kto chce, môže podobný experiment zopakovať.
Mimochodom, na to, keď sme písali žiadosť o podporu, Mail povedal, že tam stáli wi-fi bodky, ktoré zachytili vašu mac-adresu. To tiež existuje.
Spôsoby získavania a rozšírené možnosti „úniku“ osobných údajov
Nasledujúci príbeh je získavanie dodatočných znalostí, kus ktorých som sa naozaj dotkol. Skutočne vyplnený profil osoby na sociálnych sieťach skutočne nesie 15–20% reálnych znalostí, ktoré operátor údajov o nej uchováva. Celý zvyšok príbehu vyplýva z veľmi zaujímavých vecí. Prečo si myslíte, že „Google“ veľmi intenzívne vyvíja knižnice pre počítačové videnie? Konkrétne boli jedni z prvých, ktorí vyvíjali knižnice na analýzu a kategorizáciu objektov – na pozadí, na popredí, nezáleží kde. Pretože je to obrovský zdroj dodatočných informácií o tom, aký byt má človek, aké auto, kde žije, luxusné predmety...
Bolo množstvo „hackerských“ únikov, keď boli zverejnené trénované neurónové siete „Google“ (neviem, koho to boli, ale aj tak). Bolo tam veľa zaujímavého na tému veľkosti pŕs, obvodu pásu – čo všetko sa ľudia pokúšali zistiť o iných na základe analýzy fotografií. Pretože, keď človek robí fotku, nikdy naozaj neuvažuje o tom, koľko všetkého zaujímavého sa dá z nej zistiť? A koľko už v Rusku zverejnilo pasov novorodených? Alebo: „Hurá, moje dieťatko dostalo vízum“! To je vôbec bolesť súčasnej spoločnosti.
Taký ešte offtopic (dnes sa s vami podelím o fakty): v Moskve je najčastejší únik osobných údajov – to je odpady, keď sa na dvere zavesí zoznam dlžníkov, a títo dlžníci podávajú žalobu, pretože ich osobné údaje sa dostali do otvoreného prístupu bez ich súhlasu. Možno sa vám niečo také stane... Pointa je, že keď človek niečo robí, nevie, čo bolo na tej fotografii, čo tam nebolo. Čísel áut je teraz veľa.
Raz sme robili prieskum – snažili sme sa pochopiť, koľko ľudí má otvorené fotky áut (majú, samozrejme, priestupky a tak ďalej) – bohužiaľ, to sa dalo robiť len na základe ukradnutých databáz KTB, kde je len číslo (nie veľmi spoľahlivá informácia), ale aj tak to bolo zaujímavé.
Vaša ďalšia reklama závisí od toho, ako ste „konzumovali“ predchádzajúcu.
Toto je prvý príbeh. Druhý príbeh sú modely správania, obsah, ktorý človek konzumuje, pretože jednou z najdôležitejších metrík, ktorú sociálne siete o vás vytvárajú, je to, ako interagujete s reklamou. Akékoľvek presné, „úžasné“ algoritmy to boli, aké skvelé umelé inteligencie a všetko ostatné, ale skutočným prioritným cieľom sociálnej siete je vždy zarábať peniaze. Preto, ak príde nejaká „Coca-Cola“ a povie – „Chcem, aby môj príspevok videli všetci obyvatelia Bieloruska“ – uvidia to, bez ohľadu na to, čo si o tomto človeku myslia algoritmy, ako ho cielenými reklamami oslovujú. Určite ste dostali reklamu, okrem super-super-cielených, úplne absurdnú, ktorá nemá s ničím spoločné. Pretože za túto absurdnosť sa zaplatilo veľa peňazí.
Ale jednou z hlavných metrík je pochopiť, s akým obsahom interagujete najlepšie, konkrétne – ako naň reagujete, aby vám ukázali podobný reklamný príbeh. A príslušne, je to metrika toho, ako interagujete s reklamou: kto ju blokuje, kto nie, ako človek kliká, či číta len nadpisy alebo sa úplne ponorí do materiálu; a potom na základe toho vás udržiavať v tom, čo sa teraz nazýva „filter bublina“, aby ste naďalej interagovali s týmto obsahom.
Ak by vás niekedy zaujímalo, skúste dlhý čas, počas týždňa, možno mesiaca, jednoducho blokovať všetku reklamu zo sociálnych sietí: ukážu vám nejakú reklamu – vy ju zavriete. Ak to analyzujete a nanesiete na graf, bude to zaujímavý príbeh: ak blokujete reklamu týždeň, ďalší týždeň vám ju ukáže v posilnenej variante a dokonca z rôznych kategórií; teda, povedzme, máte radi psy, a ukazuje vám reklamu so psami – všetkých psov ste zablokovali, a potom sa vám začnú ukazovať rôzne nonsensy z rôznych variantov, aby sa pokúsili pochopiť, čo potrebujete.
A potom, nakoniec, vás označia ako človeka, ktorý sa nezapája do reklamy, dajú vám podmienený krížik a v tom momente vám začnú zobrazovať reklamu iba bohatých značiek. To znamená, že v tom okamihu budete vidieť reklamu len „Coca-Coly“, „Kit Kat“, „Unileveru“ a všetkých tých, ktorí „vynakladajú“ obrovské peniaze, pretože potrebujú zvyšovať zobrazenia. Počas mesiaca vykonajte experiment: jedna až dve týždne zablokujte všetku reklamu, potom vidíte všetko možné, a zas ju zablokujte – nakoniec budete vidieť iba reklamy, ako sa potom ukáže (a hovoria reklamné agentúry), iba klientov, ktorí platia za zobrazenia, pretože nie je možné pochopiť, ako s touto reklamou interagujete.
Porno častejšie sledujú tí, ktorí sú sklonení hlboko sa ponoriť do obsahu.
Teda tu ide o rôzne sledovanie správania. Mám zaujímavý príklad – návštevníci jednej štátnej webovej stránky. Najsmiešnejšie je, že čím väčšia je hĺbka prezerania u ľudí, tým viac z nich preferuje sledovanie porna pred tradičnými vzťahmi. "Prepáčte", že o tejto téme stále rozprávam, ale mám naozaj veľmi dobré vzťahy s „Pornhubom“ a to sú vždy veľmi zaujímavé výskumy, pretože to je téma, ktorá sa zdá byť zakázaná, ale veľmi veľa hovorí o človeku. A vyplývajúce body o návštevnosti... Ešte si pripomenieme „Pornhub“!
Čo sa považuje za osobné údaje a dá sa odblokovať „iPhone“ 3D modelom tváre?
Moje obľúbené je obchádzanie zákona o osobných údajoch. Ak si prečítate technickú dokumentáciu toho istého „Facebooku“, ktorý poskytoval nejaké interné dokumenty (napríklad na súde), nenájdete tam žiadne zmienky o rozpoznávaní tvárí ani o analýze hlasu. Budú tam veľmi zložité formulácie, ktoré žiaden kvalifikovaný právnik nenájde v legislatíve. U nás v Rusku to funguje približne rovnako – teraz vám ukážem takú vec.
Čo tu vidíte? Každý normálny človek by povedal, že je to tvár. Toto je mimochodom Sacha Grey, myslím. A z právneho hľadiska ide o maticu určitých trojrozmerných bodov, ktorých je tu 300 tisíc. Je to dobre alebo zle, ale podľa zákona to nie je považované za osobné údaje. V skutočnosti RKN v Rusku nepovažuje jednu fotografiu za osobný údaj – považuje to za osobné údaje, ak je vedľa nej ešte niečo iné (napríklad meno a priezvisko alebo telefónne číslo), a táto fotografia sama o sebe je vlastne nič. Hneď ako bol zavedený zákon o biometrike a biometrické údaje boli rovnané s osobnými (tak, veľmi zjednodušene), všetci okamžite začali hovoriť: „To nie sú biometrické údaje, to je matica bodov!“ Najmä ak z tejto matice bodov vezmete priamu alebo inverznú Fourierovu transformáciu, zdanlivo nemôžete deanonimizovať človeka späť, ale môžete ho identifikovať. Teoreticky tento zákon neporušuje.
Robil som tiež iné výskumy: je to algoritmus, ktorý vytvára trojrozmernú rekonštrukciu tváre z otvorených zdrojov – vezmeme účet na Instagram a potom môžeme vytlačiť tváričku na 3D tlačiarni. Kto má záujem, mám odkaz vo voľnom prístupe; ak by náhodou niekto chcel odomknúť niečí iPhone… Vtip – iPhone sa nedá odomknúť, je tam znížená kvalita.
Uzavretý profil je plus pre bezpečnosť.
To je prvá vec a druhá… Už som sa dotýkal toho, že informácie sa väčšinou získavajú z okolia používateľa. Tento obrázok som kreslil v 17. roku: priemerný používateľ ruských sociálnych sietí – je vnútri, má v priemere 200–300 priateľov, jeho priatelia priateľov a jeho priatelia priateľov priateľov.
Ďakujem sociálnym sieťam za to, že zaviedli algoritmy „inteligentných“ e-feedov, integrálnych rokov údajne na zvýšenie pravdepodobnosti vášho stretnutia s nejakým zaujímavým obsahom. Toto množstvo ľudí môže v ktorýkoľvek náhodný okamih vidieť obsah, ktorý vytvárate, aj keď máte účet obmedzený iba na vrcholné úrovne súkromia (iba pre priateľov priateľov a tak ďalej). Toto sú priatelia priateľov:
Ak si niekto myslí, že keď si vo VK vyberie v „Moich príspevkoch“ vidieť „priateľov priateľov“, tak tri podania rúk – to je približne 800 tisíc ľudí, čo v podstate nie je málo, ale závisí to od vášho obsahu. Možno vediete nejaké nevhodné prenosy, a všetci títo priatelia priateľov môžu s týmto obsahom interagovať. Niekto z nich môže niečo niekam zdieľať, každý má svoj feed s likes, ktorý v skutočnosti pravdepodobne zrušia, pretože to nie je veľmi prijateľná vec. Preto sa váš obsah môže kedykoľvek dostať niekam.
VK minulý rok spustil ešte superzavreté profily, ale zatiaľ ich využilo veľmi malé množstvo ľudí (nechcem povedať, aké, ale je to málo!). Možno sa raz ľudia na to prídu – v skutočnosti na to úprimne dúfam. Všetky výskumy sú neustále zamerané na to, aby ľuďom pomohli pochopiť rozsah problémov. Pretože, pokiaľ sa to konkrétne niekoho nedotkne, nikdy nad tým nepremýšľajú. Pokračujme ďalej.
Vo vládnych orgánoch nevedia, čo sú osobné údaje, a nechce sa im dať definíciu.
Každý odborník na právo v oblasti osobných údajov vždy hovorí toto: nikdy nespojujte rôzne zdroje údajov, pretože tu máte e-maily (to sú jedny osobné údaje s nejakými anonymizovanými identifikátormi), a tu – meno a priezvisko... Ak to všetko spojíte, akoby sa z nich stali osobné údaje. V skutočnosti by bolo správne sa najprv dotknúť tejto témy, ale myslím, že ste už v tejto oblasti zasadení a viete, ako zákon funguje.
V skutočnosti nikto nevie, čo sú osobné údaje. Dôležitý koncept! Keď prídem na vládne orgány, hovorím: „Fľašu koniaku tomu, kto povie, čo sú osobné údaje“. A nikto to nemôže povedať. Prečo? Nie preto, že sú hlúpi, ale preto, že nikto nechce prevziať zodpovednosť na seba. Pretože ak Roskomnadzor povie, že toto sú osobné údaje, zajtra niekto niečo urobí a oni budú vinní; a oni sú výkonnými orgánmi a vo všeobecnosti by nemali za nič zodpovedať.
Podstatou je, že v zákone je jasne uvedené, že osobné údaje sú také údaje, na základe ktorých je možné identifikovať človeka. A je tam uvedený príklad: meno a priezvisko, domácu adresu, telefónne číslo. Ale my vieme, že človeka je možné identifikovať aj na základe toho, ako stláča tlačidlá, ako interaguje s rozhraním a ďalších nepriamych parametrov. Ak by niekoho zaujímalo: takmer v každej sfére existuje obrovské množstvo zákonitostí.
Identifikátory, ktoré nás odhaľujú
Napríklad, všetci začali umiestňovať body na zachytávanie MAC adries (určite ste sa s tým stretli?) – inteligentní (alebo, neviem, chamtiví) výrobcovia mobilného zariadenia, ako Apple a Google, rýchlo zaviedli algoritmy, ktoré vydávajú náhodnú MAC adresu, aby vás nebolo možné identifikovať, keď sa prechádzate mestom a všetkým posielate svoju MAC adresu. Ale tí inteligentní chlapci sa zamysleli nad ďalším príbehom.
Napríklad, môžete získať licenciu mobilného operátora; ak získate licenciu mobilného operátora, získate prístup k niečomu, čo sa nazýva protokol SS7, podľa ktorého budete vidieť určitý éter mobilných operátorov; tam je množstvo rôznych identifikátorov, ktoré nie sú osobnými údajmi. Predtým to bolo IMEI, a teraz – doslova niekto z toho vzal jazyk a rozhodol sa zaviesť v Rusku (taká iniciatíva) jednotnú databázu týchto „imeí“. Akože existuje, ale predsa.
Existuje tiež množstvo identifikátorov – napríklad IMCI (identifikátor mobilného zariadenia), ktorý nie je osobným údajom, ani nie je viazaný na iné veci, a preto ho môžete uchovať bez akéhokoľvek legislatívneho postihu a potom s niekým vymeniť tieto identifikátory, aby ste mohli neskôr komunikovať s osobou.
Kultúra práce s osobnými údajmi je na nízkej úrovni
Vo všeobecnosti je podstatou to, že všetci sú teraz veľmi znepokojení spájaním údajov s inými údajmi a väčšina spoločností, ktoré to robia, si to niekedy ani neuvedomuje. Napríklad banka prišla, uzavrela dohodu o mlčanlivosti s firmou, ktorá vykonáva scoring, a poslala jej 100 000 svojich klientov...
A nie vždy má táto banka vo svojej dohode bod o prenose údajov tretím stranám. Títo klienti niečo urýchlili a nie je jasné, kam potom táto databáza šla, nešla – vo väčšine spoločností v Rusku neexistuje kultúra mazania údajov... – určite tento „excel“ niekde u sekretárky potom na počítači ostal.
Naše údaje sa môžu predávať s každým nákupom v obchode.
Existuje veľmi veľa schém, ktoré sa zdajú byť takmer zákonné (teda legálne). Napríklad, nasledujúca história: z 15 najväčších ruských bánk sú len dve vlastne sms-gateways – „Tinkoff“ a „Alfa“, teda sami posielajú svoje sms. Ostatné banky používajú sms-gateways na odosielanie sms koncovým klientom. Tieto sms-gateways takmer vždy majú právo analyzovať obsah (napríklad, z pohľadu bezpečnosti a svojich záverov), aby potom mohli predávať agregované štatistiky. Tieto sms-gateways „spolupracujú“ s operátormi fiskálnych údajov, ktorí spracovávajú pokladničné doklady.
A vyplýva z toho toto: prišli ste k pokladni, operátor fiskálnych údajov (či vám dal alebo nedal svoje telefónne číslo – nejakým spôsobom je to tam previazané)... na vaše telefónne číslo príde sms, gateway týchto sms vidí posledné 4 číslice karty a číslo telefónu. Vieme, v ktorom momente ste uskutočnili transakciu od operátora fiskálnych údajov, a v sms vieme (už teraz), na aké číslo prišla informácia o odpočítaní určitej sumy z týchto štyroch posledných číslic karty. Štyri posledné číslice karty nie sú vaša identifikácia, neporušujú zákon, pretože na ich základe vás nemožno de-anonymizovať, suma transakcie taktiež nie.
Ale ak ste sa dohodli s operátorom fiskálnych údajov – viete, v akom časovom okne (plus-mínus 5 minút) vám táto sms má prísť. Takto vás rýchlo v OFD previažu k vašemu telefónu a vaše telefónne číslo je previazané s reklamnými identifikátormi, vlastne so všetkým, čo existuje. Preto vás môžu neskôr sledovať: prišli ste do obchodu, a potom vám ešte pošlú nejaké hlúposti bez povolenia. Myslím, že v tejto sále sotva existuje niekto, kto aspoň raz podal sťažnosť na FAS ohľadom spamu. Sotva existuje... Okrem mňa, asi.
Papieriky sú archaický, ale efektívny spôsob boja za svoje práva.
Toto funguje naozaj úžasne. Pravda, bude treba počkať jeden a pol roka, ale FAS skutočne vykoná kontrolu: kto, ako, komu odovzdal údaje, prečo, kam a podobne.
Otázka zo sály (ďalej – Z): – V Bielorusku nie je FAS. To je iná krajina.
AH: – Áno, chápem. Určite existuje nejaký ekvivalent...
Zo sály prichádzajú námietky.
AH: – Dobre, zlý príklad, „prepáčte“. Nie je to podstatné. Medzi mojimi priateľmi nepoznám nikoho, kto by vôbec vedel o existencii takejto histórie – že môžete ísť napísať a oni budú ešte rok pracovať.
Druhá história, ktorá sa v Rusku tiež veľmi rozvíja, ale myslím, že nájdete ekvivalent aj u vás. Veľmi rád to robím, keď sa s vami štátne orgány zle komunikujú, nejaká banka alebo niečo iné – poviete: „Dajte mi papier“. A píšete na papieri: „Podľa bodu 14 zákona 152 žiadam o spracovanie osobných údajov v papierovej podobe“. Neviem, ako presne sa to robí v Bielorusku, ale určite sa to robí. Podľa ruských zákonov vám nemajú právo na základe toho odmietnuť službu.
Poznám aj veľa ľudí, ktorí podobné veci posielali Mail.ru a žiadali, aby viedli o ich osobných údajoch záznamy v papierovej podobe. Mail.ru sa tomuto veľmi dlho bránilo. Poznám aj jedného vývojára z „Yandexu“, nad ktorým si urobili žart: vymazali mu účet na VK a poslali mu balík vytlačených screenshotov a povedali, že mu budú posielať screenshoty vždy, keď bude chcieť aktualizovať svoju stránku.
Je to smiešne, ale napriek tomu je to skutočne alternatíva, ak niekto naozaj dbá na svoje údaje, na jednej strane... A na druhej strane, ten istý RKN mi povedal, že táto dohoda o spracovaní osobných údajov je formálna, a zákon predpokladá ešte niekoľko variantov, ako udeliť súhlas. A že napríklad, boli ma pozvali sem na podujatie, a ak napríklad Human Constanta nemusí uzatvárať so mnou dohodu o spracovaní osobných údajov v rámci ruských zákonov (pretože samotný fakt, že som prišiel a súhlasil vystúpiť, je súhlasom na spracovanie osobných údajov), – aj tak všetci žiadajú tieto papierové povolenia. Ale RKN mi povedal, že to nie je úplne fakt, že pravdepodobne jedného dňa z toho zmiznú.
Dúfam, že v Rusku nikdy nevytvoria jedného poskytovateľa, ak sa Bohu prihováram, osobných údajov, pretože horšie, než zložiť všetky osobné údaje do jedného koša, môže byť iba zložiť ich do štátneho koša. Pretože nikto nevie, čo sa s tým všetkým potom stane.
Firmy si vymieňajú osobné údaje, a zákony to slabšie regulujú.
Väčšina spoločností medzi sebou vymieňa akési údaje, identifikátory. Môže to byť obchod s bankou, a potom – banka so sociálnou sieťou, sociálna sieť – s niečím iným… A napokon sa u týchto ľudí objavuje nejaká kritická masa vedomostí, ktoré môžu nejakým spôsobom využiť, a všetky tieto vedomosti, pravda, sa teraz snažia uchovať na svojej strane. Napriek tomu sa ich to nakoniec dostane do nejakého reklamného toku alebo niekam inam.
Prevod údajov tretím stranám je to najzábavnejšie, čo môže byť, pretože v zákonoch nie je opísané, čo sú to za tretie strany, komu vôbec musia byť považované za "tretie". To je, mimochodom, veľmi rozšírená fráza amerických právnikov – u nich to tam je 'third parties' – kto, koho považujete za tretie osoby: babičku, prababičku?.. Dokonca bol v Amerike taký precedens, keď boli čiastočne odhalené údaje o niekom, ten človek podal žalobu a preukázali, že daná osoba je cez niekoľko priateľov blízka vlastníkovi údajov – akýsi počet stiskov rúk, uviedli akékoľvek zvláštne sociologické výskumy – takto preukázali, že títo ľudia si nemôžu navzájom považovať za tretie osoby. Smiešne. Ale fakt, že odovzdávanie takýchto údajov je veľmi rozšírené.
Aj keď navštívite stránku, kde je nachádza počítač na identifikáciu – ten počítač má právo prenášať údaje tohto toku niekam ("Clickstream", majiteľom reklamných platforiem čohokoľvek, napríklad "Pornhub"). "Pornhub", ak je niekto z vás webový vývojár, – pozrite sa, koľko pixelov sledovania je na stránke "Pornhubu". Jednoducho vstúpite – tam sa načíta obrovské množstvo java skriptu, typu na zlepšenie fungovania stránky. V skutočnosti tam aj cross-domain "cookies" sú nastavené, čo tam všetko nie je, pretože tieto informácie sú vždy vysoko cenené na trhu "clickstreamu".
Facebook sa hrá a neplánuje zložiť masku
Samozrejme, nikto z veľkých hráčov nikdy nikomu nepovie, komu a ako predáva svoje údaje. Z tohto dôvodu sa napríklad Európa teraz snaží súdiť s Facebookom. Po zavedení GDPR sa Európska únia snaží z Facebooku vymáhať vlastné odhalenie algoritmov prepravy údajov tretím stranám.
Facebook to nerobí a verejne tvrdí, že to nerobí, pretože sú "korporácia sveta" (to citujem z listu, ktorý mi poslali), sú "proti zlovestnému využívaniu technológií" (najmä, ak predávate rozpoznávanie tvárí Kremľu). V konečnom dôsledku ide o to, že Facebook to robí nie úplne poctivo: ich hlavný cieľ a to, čo sa bude diať, akoon sa taký mechanizmus odhalí – bude možné skutočne vypočítať ziskovosť reklamy, bude možné pochopiť skutočnú hodnotu reklamných oznámení.
Povedzme, ak vám Facebook teraz hovorí, že cena za zobrazenie reklamy je 5 rubľov, a my vám ho predáme za 3 (a, akoby, dva ruble pre nás zostávajú), a oni, povedzme, získavajú 5% zisku z týchto reklamných zobrazení. V skutočnosti to nie je 5%, ale 505, pretože ak sa tento algoritmus dostane na povrch (komu a ako Facebook koľkokrát odovzdal "clickstream", údaje o návštevách, údaje pixelov rôznym reklamným sieťam), ukáže sa, že zarábajú oveľa viac, ako hovoria. A nejde tu len o peniaze, ale o to, že cena za kliknutie je rubel, a v skutočnosti – desiatky halierov.
V konečnom dôsledku ide o to, že všetci sa snažia skryť takýto prenos, bez ohľadu na to, či ide o reklamu alebo nereklamný traffic, ale ten existuje. Bohužiaľ, nie je možné to legálne zistiť, pretože firmy sú súkromné, a všetko, čo majú vo vnútri – je ich súkromné právo a obchodné tajomstvo. Ale takéto príbehy sa tam veľmi často objavovali.
Narkomani sú predvídateľní a "palí" sa na Avito
Posledný obrázok z tejto prezentácie. Je vtipný a jeho podstata spočíva v tom, že existujú určité kategórie ľudí, ktorí sa veľmi obávajú o svoje osobné údaje. A to je naozaj dobré! Tento príklad je o takejto kategórii ľudí ako narkomani. Zdalo by sa, že ľudia, ktorí by sa mali veľmi obávať o svoje osobné údaje...
Toto je štúdia, ktorá sa uskutočnila na začiatku tohto roka pod dohľadom kompetentných orgánov. Áno, je to skript, ktorému boli poskytnuté peniaze na nákup drog v „Telegrame“, v „Tori“, no len u tých ľudí, ktorých bolo možné identifikovať.
V skutočnosti takmer všetci moskovskí díleri padajú na tom, že ich telefónne číslo vôbec nie je v otvorených zdrojoch, ale skôr či neskôr na „Avite“ predajú niečo, podľa čoho bude možné odhadnúť približnú polohu týchto ľudí. Podstata je v tom, že červené body sú tam, kde ľudia žijú, a zelené – kam jazdia zanechávať, viete čo. Toto bola jedna z častí algoritmu, ktorý predpovedal nasadenie hliadkových služieb, no títo moskovskí chlapci sa vždy snažia ísť nejak diagonálne, ďalej.
Myslia si, že ak žijú hore nalevo, mali by sa vydať hore napravo a tam ich určite nikdy nenájdu. Hovorím to preto, že ak sa snažíte skryť pred všadeprítomnými algoritmami, naozaj najlepšou voľbou je zmeniť model správania: nastaviť nejaké „Hostinger“ na náhodné návštevy, vlastníctvo a podobne. O bože, existujú dokonca algoritmy, pluginy, ktoré menia veľkosť prehliadača o pár pixelov, aby sa nedal vypočítať „fingerprint“ prehliadača a nejako vás identifikovať.
To je všetko. Ak máte otázky – pýtajte sa. Tu je odkaz na prezentáciu.
Otázka z publika (O): – Povedzte, prosím, aký je váš názor na používanie „Tora“, pokiaľ ide o sledovanie premávky… Odporúčate to?
Skryť sa je ťažké, ale možné.
AH: – „Tor”? „Tor” nie, vôbec v žiadnej forme. Pravda, neviem, ako je to v Bielorusku – v Rusku sa do toho za žiadnych okolností neodporúča vstupovať, pretože prakticky väčšina „grace nodes“ overená náhle pridáva akési balíčky k vašej prevádzke. Neviem aké, ale ak sa pozriete: existujú „nody“, ktoré označujú prevádzku, – nie je jasné, kto to robí, na aké účely, – ale niekto ju označuje v hlavičke, aby sa potom dalo pochopiť. V Rusku sa teraz celá prevádzka uchováva, hoci je uchovávaná v zašifrovanej forme, a všetci sa smejú nad „Balíkom Jarovej“ na tému toho, že sa uchováva zašifrovaná prevádzka, ale ostáva označkovaná, teda nemožno ju použiť, dešifrovať ju…
Z: – V Európe sa už dávno uchováva, asi desať rokov.
AH: – Áno, chápem. Všetci sa nad tým smejú – akože uchovávate https, ktoré sa nedajú prečítať. Obsah sa prečítať nedá, ale pochopiť, odkiaľ balíčky prišli určitými algoritmami, sa dá – podľa hmotnosti balíčkov, dĺžky a tak ďalej. A keď máte pod pokrievkou všetkých poskytovateľov, máte, samozrejme, všetko hlavnú infraštruktúru a všetky pasy… V každom prípade, pochopili ste, o čom hovorím?
Z: – Aký prehliadač odporúčate používať?
AH: – Pre „Tor“?
Z: – Nie, vôbec.
AH: – Nuž, neviem. V skutočnosti používam „Chrome“, ale výlučne preto, že tam je najpohodlnejšia vývojárska konzola. Ak náhodou budem potrebovať niekam ísť, pôjdem do nejakej kaviarne. Pravda, tam sa neodporúča prihlasovať na skutočnú SIM kartu.
Z: – Hovorili ste o nejakých študentoch. Prednášate niekde alebo vediete nejaké kurzy?
AH: – Áno, máme magisterské programy v oblasti dátového žurnalizmu. Učíme novinárov zbierať dáta, analyzovať – občas robia podobné výskumy.
Bezpečné aplikácie neexistujú
Z: – Na „Facebooku“, „Vkontakte“ nie je bezpečné komunikovať s priateľmi, aby ste potom nedostali kontextovú reklamu. A ako zvýšiť bezpečnosť?
AH: – Otázka je, čo považujete za prijateľnú úroveň bezpečnosti. V podstate neexistuje slovo „bezpečný“. Ide o to, čo považujete za prijateľné. Niektorí považujú za prijateľné zdieľať intímne fotografie cez „Facebook“, zatiaľ čo niektorí zamestnanci tajných služieb sa domnievajú, že všetko, čo povedali ústne, aj tomu najbližšiemu, je už v zásade nebezpečné. Ak nechcete, aby sa sociálna sieť o tom dozvedela, tak áno – je lepšie o tom nepísať. Neviem o žiadnych bezpečných aplikáciách. Obávam sa, že niet. A to je normálne z pohľadu toho, že každý vlastník akejkoľvek aplikácie ju musí nejako monetizovať, aj ak je táto aplikácia zadarmo alebo je to nejaké médium. Zdá sa, že je to zadarmo, ale aj tak potrebuje na niečo žiť. Preto nie je nič bezpečné. Musíte sa len rozhodnúť, povedzme, čo vás uspokojuje.
Z: – A čo používate?
AH: – Sociálne siete?
Z: – Z messengerov.
AH: – Z messengerov používam hlavný štátny messenger Ruskej Federácie – „Telegram“.
Z: – „Viber“. Je bezpečný?
AH: – Počujte, veľa nerozumiem messangerom. Úprimne povedané, neverím na ochranu, ani na nič, pretože by to asi bolo veľmi zvláštne. Hoci „Telegram“ je akosi open source a jeho šifrovacie algoritmy sú zverejnené. Ale to je tiež taká záhadná vec, pretože „open-source“ je iba klient, server nikto nevidel. Myslím, že nie: vo „Vibere“ je veľa spamu, botov a tak ďalej. Fíha, mám pocit, že to všetko nefunguje veľmi dobre.
Kto je nebezpečnejší – korporácie alebo štát?
Moderátor (M): – A mám na teba takéto otázky. Pozri, hovoril si o tom niekoľkokrát okrajovo – že štát... Príliš veľa údajov – to nie je veľmi dobre... Korporácia má príliš veľa údajov. Nuž, je to jednoducho život, nie? Tak koho sa báť viac – korporácií alebo štátu? Kde sú podvodné skaly?
AH: – To je veľmi zložitá otázka. Je na hrane. Zložitá etická bariéra. Pre človeka, ak sa nemá čoho báť, ak neporušoval zákon, načo mu vlastne je potrebná súkromnosť? Hoci ja si to nemyslím – to si myslí štát. Možno na tom je nejaké zrno pravdy. Počúvaj, najviac sa bojím hackerov – niečo podobné. V skutočnosti najväčší horor, ktorý som vo svojom živote zažil (z celej tejto témy): asi pred rokmi deväťsom rokmi v Podmoskoví zatkli pedofila a počas vyšetrovania mu našli na počítači niekoľko samoukov v „Pythone“, skripty, Api VK. Zbieral účty dievčat, analyzoval, kto z nich je blízko, zbieral obsah, ktorý mali… Skrátka, pochopil si. Toto je naozaj najväčší horor, ktorý som videl. A toho sa naozaj bojím, že v nejakom krásnom momente niekto niečo podobné spraví.
Ešte jeden malý „off-topic“: Európska organizácia štátnej bezpečnosti minulý rok robila správu, že sa počet krádeží z bankových účtov, keď sa hovorilo o tajnej otázke, zvýšil asi o 20 až 25 percent. Premýšľajte teraz o svojej tajnej otázke v banke a zamyslite sa, či by som mohol zistili odpoveď z verejných zdrojov. Ak tam máte dievčenské priezvisko matky alebo obľúbené jedlo… Skrátka, ľudia analyzovali účty, na základe toho zistili prezývku obľúbeného domáceho maznáčika – nejako tak...
Z: – Hovorili ste, že spoločnosti a korporácie zbierajú potrebné informácie pomocou algoritmov? Určite viete, ako?
AH: – Bolo tu hnutie ľudí, ktorí raz cez špeciálny filter spracovávali fotografie, aby tento filter rozbil analýzu obrázkov, aby sa potom dalo týchto ľudí ťažko identifikovať. Uviedol som vám príklad, že „Facebook“ bojoval s kryptografiou správ. A ak sa táto vec objaví a nadobudne masový charakter, určite sa sociálne siete budú s týmto snažiť bojovať. Navyše, rozpoznávanie obrazov v súčasnosti funguje veľmi dobre, a to na hrane s tým, že tá dostatočná úroveň na „rozbitie“ tejto fotografie (aby sa „rozbil“ algoritmus, ktorý rozpoznáva tieto obrazy) – pravdepodobne, na nej už nebude nič zrozumiteľné.
Rôzne glitch filtre fungujú dobre, ak ide o silný priamy posun na polovici fotografie. Váš účet potom získa všetky farby LSD. Čisto teoreticky nepovažujem za veľmi hrozné, ak "Facebook" napríklad zistí, aké mám auto – pravdepodobne, ak sa do auta neprihlásim cez "Facebook".
Zákon o zabudnutí funguje, ale nie na internete
Z: - Stretli ste sa s používateľom, ktorý by vás nútil rešpektovať ho, odstrániť, získať prístup. Ovládate veľké objemy údajov, určite o tom informujete. Ľudia sa na vás môžu obrátiť. Koľko percent?
AH: - Teraz poviem. Teraz to bude naozaj zaujímavé. Teraz spočítam, koľko ľudí príde, pretože po udalosti obvykle 15-20 % príde, vyplní formulár na odstránenie údajov – je to tak. Skutočne je to približne 7-8 % zatvorených účtov, ktoré neanalyzujeme, a asi 5 ľudí z tisíca, ktorí žiadajú o odstránenie svojich údajov. To je veľmi málo, aj podľa môjho skromného názoru.
Problém je v tomto: existuje taká vec, ako zákon o zabudnutí. Ale zákon o zabudnutí, aspoň v Rusku, sa právne uplatňuje iba na vyhľadávače. Je tam priamo napísané: vyhľadávače. A to len – odstránenie odkazov na materiály, nie samotných materiálov. Naozaj, aby ste niečo odstránili z internetu, budete musieť obísť všetky tieto zdroje, takže v to v zásade neverím. Snažíme sa používateľov upozorniť, že je potrebné najprv premyslieť, než publikujú.
Zatiaľ je tento percentuálny podiel veľmi malý – 5-7 ľudí z tisíc. Mimochodom, o zákone o zabudnutí: všetci poznajú ten skvelý prípad "Sečin proti RBK". Zákon o zabudnutí zafungoval, článok bol odstránený, ale je všade. Chápete, že ak sa niečo niekedy dostalo na internet, nikdy to odtiaľ nezmizne.
Používatelia sa vymazávajú, ale sú identifikovaní na základe typického správania
Z: - Nemyslíte si, že ľudia, ktorí si odstraňujú svoje účty a snažia sa stať "čiernou dierou", budú vo výhodnejšej pozícii oproti ostatným ekonomickým subjektom?
AH: – Pravdepodobne áno — táto situácia im nebude výhodná. Existuje množstvo rôznych zliav a ponúk, ktoré od nich závisia. Ale čisto teoreticky, ak niekto teraz zmaže svoj účet... Je to populárne u rôznych extrémistov, keď zmažú účet a vytvoria falošný, ale stále interagujú s tým istým obsahom — daného človeka, znova, možno identifikovať (najmä, ak ide o rovnakú sociálnu sieť, z jedného počítača — to je celkom otázka); elementárne podľa modelu spotreby obsahu sa dá daného človeka nájsť, ak je taká úloha.
Dúfam, že v priebehu najbližších 5 rokov sa objaví nejaká technológia monetizácie týchto dát, keď človeku naozaj zaplatia peniaze — ty sám zaplatíš a nebudeme používať tvoje dáta. A myslím, že ak by v nejakom "Instagramu" zaviedli platené predplatné, nikto by ho nevyužil, preto existuje alternatíva platiť používateľom za ich dáta. Ale to nebude veľmi skoro, pretože lobing strašných korporátnych chlapcov nedovolí taký zákon prijať, hoci by to bolo fajn. Ale tu ide o to, že nemožno oceniť skutočnú hodnotu dát jedného človeka v nejakom konkrétnom momente času.
"Facebook" – dieraví chalani
Z: – Dobrý deň. Prednedávnom sa objavila správa, že "Facebook" zamýšľa integrovať všetky svoje projekty, vrátane "Instagramu" a "Facebooku", "WhatsAppu" a tak ďalej. Ako vnímate z pohľadu osobných údajov, keď teraz mám tieto aplikácie vo svojom smartfóne akoby oddelene, ale predsa len patrí Facebooku?... Čo bude ďalej?
AH: – Rozumiem. Právne im už patria "Facebooku", a môžu ich bez kontroly zlúčiť, preto si myslím, že sa nič nezmení. Jediné, čo teraz stačí, je hacknúť jednu aplikáciu, aby si dostal všetko. A "Facebook"... Dúfam, že sledujú. Sú strašne dieraví chalani vôbec na všetkých miestach.
V poslednom čase sa objavilo veľmi veľa informácií o únikoch údajov z „Facebooku“. Nenosíte, že Facebook začal náhle tieto údaje strácať, ale preto, že GDPR teraz núti spoločnosť, aby vopred varovala. A najväčší trest je v tom prípade, ak došlo k úniku, a spoločnosť o tom zamlčala, a preto teraz Facebook o tom hovorí sám. To neznamená, že predtým takéto úniky údajov neexistovali.
Z: – Dobrý deň. Mám otázku ohľadom uchovávania údajov. Teraz každé štát zavádza zákon ohľadom toho, aby údaje občanov boli uchovávané na území tohto štátu. Aká podmienka je potrebná na to, aby sa tieto zákony dodržiavali pre nejakú medzinárodnú aplikáciu?.. Napríklad Facebook: databáza je jedna…
Akým spôsobom sa dodržiavajú tieto podmienky?
AH: – Počúvajte, právne vám stačí jednoducho si prenajať server v tejto krajine a niečo naň uložiť. Problém je v tom, že neexistuje kompetentný kontrolný orgán. Údaje Facebooku nie sú v Rusku uložené. Roskomnadzor s nimi bojuje, bojuje… Facebook má časť serverov, kde leží rozhranie tohto Facebooku, a nie je možné skontrolovať, kde sú údaje uložené, ako sa synchronizujú.
Z: – Je možné skontrolovať tok údajov?
AH: – Je možné skontrolovať tok údajov? Áno. Ale tok môže potom odísť do nejakého hlavného bodu. Plus, medzi servermi môže byť niečo ako VPN alebo niečo iné. Teoreticky nie je možné kontrolovať, že systémový administrátor v jednom okamihu na tento server nevstúpi a niečo odtiaľ neodoberie. Tento zákon bol vydaný nie za účelom ochrany údajov, ale aby spoločnosti otvorili zastúpenia, platili dane a dôsledne ich uchovávali na území krajiny. Ale podľa môjho názoru je to veľmi zvláštna iniciatíva, úprimne povedané.
Z: – Takže stačí prakticky skontrolovať rozhranie?
AH: Niekoho môže prísť a skontrolovať, že máte údaje uložené. Ale môžete ukázať nejaký „Excel“, a nikto to nebude schopný skontrolovať, ťažko niekto to bude kontrolovať. Teraz sa pozerajú jednoducho na IP adresy: že IP adresa, viazaná na doménu, sa nachádza na území krajiny - ďalej to neoverujú. Teraz pravdepodobne prídu ku mne kontrolovať.
Nie sú služby, ktorým sa dá dôverovať na 100 %, ale slušní ľudia sa nemajú čoho báť.
Z: – Takáto správa, ktorá sa mnohokrát preberala: z "Microsoftu" niekto zverejnil, vytvoril službu na kontrolu svojich…
AH: – Niečo ako: neunikli vaše heslá? V skutočnosti, po týchto únikoach na "Facebooku" ten istý "Facebook" vždy spúšťa nejaké záložné stránky, na ktorých si môžete overiť, že ste sa nedostali do tejto databázy — opäť, GDPR to vyžaduje. To znamená, že ak niečo také neurobíte, nebude to pre vás veľmi dobré. Preto teraz všetci predstavujú tieto projekty ako "to je naša iniciatíva"; v skutočnosti to zákon vyžaduje. Naozaj je to veľmi skvelá vec, ale takýmto službám na kontrolu by som veľmi nedôveroval, ak tam treba posielať niečo zložitejšie ako vaše heslo, pretože mnoho ľudí má rovnaké heslá.
Z: – Tam len zadáte e-mail a už vám povedia, koľkokrát bol kompromitovaný…
AH: – V skutočnosti takýmto veciam nedôverujem, pretože je veľmi jednoduché vás neskôr spojiť s týmto prehliadačom, s reálnym účtom. Najmä ak používate služby tých istých ľudí, ktorí spustili túto stránku. To bolo ako minulý rok, keď "Facebook" poslal: ak vaše intímne fotografie unikli na "Facebook", pošlite nám ich, a my overíme, kde boli spomínané.
Neviem, čo to bol za PR-nočná mora a kto to v "Facebooku" vymyslel, ale naozaj sa to stalo. Chceli porovnať, či nikto neposielal vaše obnažené fotografie v súkromných správach. V podstate to sleduje dobré ciele, ale maximálne divné. Nedôveroval by som tomu.
Z: – A ešte jedna otázka. Ako vysoké sú riziká úniku pre bežného používateľa? Riziká škody z únikov.
AH: – Rozumiem. Záleží, aké dáta sa ukladajú. Myslím, že nie sú veľmi vysoké. Najstrašnejšie je, ak sa niekde uniknú e-maily a heslá, a vy máte toto heslo všade – potom áno. Osobne si myslím, že sa užívatelia nemajú veľmi čoho báť. Ale ak, samozrejme, neukladajú nejakú rozčlenenú nahrávku v Google Pošte. Bolo veľmi veľa prípadov.
Najznámejší prípad je ten z "Google", keď v Utahu uniesli dievča, ktoré nevedeli nájsť, a v jednom peknom momente únoscovia poslali jej fotky v archívnom prílohe. A "Google", pri skenovaní tejto prílohy, objavil znaky detskej pornografie. Všetkých našli. A oni sa ešte dokázali zažalovať "Google" za porušenie tajnosti komunikácie. Tento spor trval dosť dlho. Napriek tomu si myslím, že bežnému používateľovi sa niet čoho obávať, ak napríklad nevyšle svoj pas do verejného prístupu. Je to dvojitý príbeh - záleží na tom, aké dáta a aký používateľ. Možno teraz - nič strašné, ale o 15 rokov, keď sa z neho stane nejaký úradník, sa nejaké materiály môžu objaviť.
Ako sa pracuje so štátom?
Z: – Ďakujem. Hovorili ste trochu o tom, že robíte výskum pre štát, vládne orgány, služby, spolupracujete s nimi. Mohli by ste trochu podrobnejšie povedať o nejakých aktuálnych projektoch? Ešte viac, ak môžete, o… Dva otázky: prvý - aktuálne projekty a druhý - boli nejaké také návrhy od vládnych služieb…
AH: – Nepošliapané!
Z: – Áno. Keď ste si pomysleli: možno to nestojí za to?
AH: – Povieme vám. O tom hovorím všetkým. S týmto človekom sme sa dlho hádali na "Twitteri". Z tímu Milonova mi raz prišla otázka na hľadanie učiteľov, ktorí sledujú gay porno. Ihneď sme povedali, že nie. Ale takéto žiadosti prichádzajú, a veľmi často sú spojené s niektorými opozičníkmi, protestami. Takou hlúposťou sa nezaoberáme, aj tak nás všetci obviňujú. Nie je mi to nepríjemné.
Naša politika ohľadom "štátov" je nasledovná: vyvíjame softvér na trojrozmernú rekonštrukciu, rozpoznávanie tvárí, analýzu údajov. Čo presne robia je veľmi ťažké povedať, ale z modelov - je to predpovedanie zločinov, to, čo súvisí s bezpečnosťou štátu vnútri mesta, presuny ľudí, geomarketing a tak ďalej. Od umiestnenia objektov v mestskom prostredí až po identifikáciu pedofilov, násilníkov, psychopatov a rôznych zlých chlapcov.
Úprimne, nijako sme sa nevenovali opozicionárom. Možno nám to nehovoria do očí. V skutočnosti je to veľmi veľký problém – spolupráca so „štátnymi“ inštitúciami, pretože vždy ti nevysvetlia, čo je to za úlohu. Povedia ti: urobte softvér na identifikáciu hospodýň, a v skutočnosti s tým plánujú robiť niečo iné – tam sa všetko rozpadá.
Plus, štát je veľmi zaujímavý a zvláštny klient, ktorý sa neustále snaží vložiť nejaké tri drobné do tvojho výskumu, a často sú ich prístupy a chápanie strojového učenia veľmi povrchné. Napríklad, mám osobitnú prednášku o chybách strojového učenia. Tam vždy uvádzam príklad, keď sme robili systém predikcie zločinnosti v Moskovskej oblasti, objednávateľ povedal: tam, kde predávajú melóny, prosím zvýšte koeficient štyrikrát. A potom sa ukázalo, že miesta predaja melónov nie sú ničím kriminálne. To sú len chyby spôsobené tým, že človek prináša svoje myšlienky.
Krátko povedané, štát je zaujímavý klient, tam je veľmi veľa zaujímavých úloh. Väčšina sa vedie k podobným modelom predikcie niečoho. Najčastejšie ide o nejakú mestskú infraštruktúru.
Z: – Existujú zdroje, kde môžete sledovať vaše výskumy? Veľa informácií. Ako chápem, veľa z nich ešte zostalo mimo. Vaše stránky, niečo ďalšie...
AH: – Nemám osobné stránky.
Z: – Pravdepodobne už „Facebook“ zavreli?
AH: – Kdesi pred štyrmi mesiacmi bola história: všetkým nám poslali také veľké listy, že „ste – zvrhlíci, predávate všetko Kremľu, porušujete všetky pravidlá „Facebooku“. Dokonca mojej psíčke poslali list: „Ahoj, Mars blue corgi, zbieraš dáta!“ a tak ďalej. Počujte, máme teraz rebranding. O dva alebo tri týždne sa náš web a všetko aktualizuje. Na to sa dá bude pozerať. Ale sme v tejto oblasti veľmi leniví.
Ako možno určiť spoľahlivosť VPN?
Z: – Keď ste hovorili, že by ste vošli do kaviarne, neidentifikujúc sa tam pod svojim telefónnym číslom. A pod akým?
AH: – Nesmiete hovoriť – pod cudzím, pretože to je výzva na porušenie predpisov o identifikácii. Nie-nie-nie. Vážne. Dnes takmer všetky kaviarne identifikujú všetko možné – tam nie je len telefónne číslo, tam je množstvo pixelov, tam je identifikácia zariadenia, MAC adresa a čo len nie, aby to mohli potom využiť – od reklamných účelov až po operatívno-vyšetrovanie. Pre tieto veci treba byť veľmi opatrní. Môžete niečo napísať, ale z vášho zariadenia môže niekto napísať niečo iné, a potom sa môže niečo stať.
Možno ste videli príbeh o tom, že sa teraz robí vyšetrovanie, ako (v Bielorusku, mimochodom, tiež) prenajímajú účty na „Facebooku“ vraj pre reklamu na kasína. A v skutočnosti je nejasné na čo, ešte aj prístup k počítaču dávajú. Tieto veci by ste mali maximálne obmedziť. Ak sa rozhodnete niečo anonymne napísať… Prišiel by som do kaviarne a zapol by som nejaký skvelý VPN. Ale v skutočnosti (opäť, neukazujem prstom na nikoho), keď používate VPN, skontrolujte, komu tento VPN patrí, akej spoločnosti, komu táto spoločnosť patrí a tak ďalej. Pretože väčšina hráčov na trhu VPN nie sú úplne dobrí chlapci.
No dobre, v Bielorusku to nie je dôležité. V Rusku dobrý VPN kontrolujú podľa toho, či je tam zablokovaný azino777, alebo nie. Pretože, ak nie, je veľká pravdepodobnosť, že tento VPN-servis v priebehu týždňa zatvoria. Všeobecne kontrolujte všetko.
O automatickom odstraňovaní správ
Z: – Tolko ste hovorili o osobných správach, že ich sociálne siete čítajú… A napríklad na „Facebooku“ existujú tajné osobné správy, ktoré môžete nastaviť (okrem toho, že sú ešte aj šifrované) na zničenie. Ako to môžete okomentovať?
AH: – Nijako. Po prvé, nie som superprofesionál v kryptografii, a po druhé, problém je v tom, že servery „Facebooku“ nikto nevidel, nikto nevie, ako to tam celé funguje. Teoreticky, v nejakých špecifikáciách je napísané, že je to end-to-end šifrovanie, a nemusí to tak byť, alebo to je end-to-end, ale s nejakými chybami alebo s niečím iným. Takúto vec má zmysel využiť, ak sa bojíte, že ten človek, ktorému to posielate, sa v nejakom momente pokúsi niečo urobiť.
V aplikácii „Telegram“ je pohodlná funkcia na posielanie intímnych fotografií, ktoré sa samodeletujú: keď sa pokúsite urobiť screenshot, automaticky sa odstráni. V „iPhone“ sa zas objavila funkcia nahrávania videa zo screenshotu, a videá zo screenshotu možno nahrávať a tak ďalej... Často mi posielajú materiály s touto funkciou (samodeletovanie) – nikdy nerozumiem, prečo. Veď si to môžem ihneď stiahnuť! Je to na vašom uvážení.
Sociálny rating v Číne: mýty, realita, perspektívy
A: – Naozaj trochu zneužívam, aj keď VPN nepotrebujem (mimochodom, naše VPN je overené). A otázka etiky. Máme skvelého priateľa z Kazachstanu, ktorého sme tiež priviezli na prednášku. Raz sme s ním sedeli na nejakej konferencii, kde rozprávali o rôznych veciach, a on hovorí (a on sa zaoberá kybernetickou bezpečnosťou, teda čisto inžinierskou bezpečnosťou, človek, ktorého zaujímajú technické riešenia): „Práve som sa vrátil z Číny. Robia tam takú super vec – sociálny rating“. Ty si mimochodom skúmal túto problematiku, ako to u nich funguje?
AH: – My v Rusku predávame scoring, viem o tom veľa.
A: – A preto mám otázku, či by si o tom mohol povedať viac - o tom, čo nás možno všetkých čaká v budúcnosti. Ale ešte mám otázku o etike. On tak nadšene hovoril: „Zaujímavé inžinierske riešenie!“ Máš svoj vlastný etický kódex?
AH: – Áno, mimochodom, mám. Pred dvoma rokmi sme ho zaviedli – práve po prípade s Milonovým sme sa rozhodli nejakým spôsobom klasifikovať tieto projekty. Ak sa vrátim k ratingu: je to jedna z superpopulárnych otázok, pretože médiá veľmi demonizujú celú túto záležitosť – že ľudí nepúšťajú do zahraničia, zabíjajú ich laserom z Mesiaca. Znovu vám predkladám inžinierske veci...
Ak začnete kopatť do tohto príbehu a pozriete sa na to, aké parametre sú zahrnuté v tomto sociálnom hodnotení, uvedomíte si: zahŕňa to neoprávnené platby, trestné záznamy, úverovú históriu, teda z technického hľadiska je to naozaj fascinujúca vec. Žijete bez porušovania zákona, žijete dobre – dostanete nízku úrokovú sadzbu na úver. Máte dôležitú sociálnu prácu (napríklad učiteľ) – dostanete vhodné bývanie. Všetkých to spočiatku zmiatlo, pretože sa najprv objavili správy, že ak budete zle písať o prezidentovi, tak sa vám toto hodnotenie zníži. Hoci dôkazy neexistovali. Na obhajobu hodnotenia môžem povedať, že nikto nevidel ani algoritmus, aké parametre sa fakticky používajú.
Potom sa objavila správa, že viac ako milión ľudí nemohli vycestovať do zahraničia, zakázali im odchod. V skutočnosti to nie je úplne presné slovné spojenie. Keď získavate víza (napríklad do Európy), víza sú udelené na základe „70 eur za deň“ (niečo také); ak nedáte potvrdenie o príjme, víza vám nedajú. V Číne miestne ministerstvo zahraničných vecí sa rozhodlo ísť o krok ďalej: jednoducho ihneď upozornilo ľudí, ktorí nemajú dostatok peňazí, že ak chcete ísť do zahraničia, nebudete mať dostatok peňazí. V súvislosti s týmto všetkým to potom nasmerovali do koncepcie, že chudobných nepúšťajú do zahraničia. Je to zložitá etická záležitosť, balancujúca na istej predpoklade viny-neviny, ale fakticky nemôžem poskytnúť hodnotenie.
Zabíjajú ľudia, nie zbrane.
Hlavné, čo treba chápať: všetky tieto algoritmy, ktoré spoločnosť odsudzuje – problém nie je v algoritmoch. Algoritmy jednoducho umožnili veľmi rýchlo analyzovať veľký objem ľudí a túto sociálnu problematiku vyzdvihli na povrch. To znamená, že bot „Microsoftu“, ktorý sa naučil z tweetov a stal sa rasistom – to nie je vina bota, ale tweetov, ktoré čítal. Alebo spoločnosť, ktorá sa rozhodne vybudovať model ideálneho zamestnanca na základe analýzy súčasných, a zjaví sa, že je to biela, genderovo – muž s vysokým vzdelaním.
To nie je model – rasista, sexista alebo niečo podobné; sú to ľudia, ktorí najali týchto ľudí (či majú pravdu, alebo nemajú – to nie je dôležité). Všetko sa blíži k tomu, že umelá inteligencia je zlá, zlá a zničí svet, ale v skutočnosti… Ak by napríklad ruská vláda prijala zákon o tom, že opozícii sa nebude poskytovať bezplatné vzdelanie, a napíše softvér, ktorý identifikuje a zbaví ich tohoto bezplatného vzdelania – to predsa nebude vina algoritmu. Hoci nikto túto moju koncepciu nepodporuje, pretože, – keď hovorím, že nie zbrane zabíjajú ľudí, ale ľudia, – «ty si fašista» a tak ďalej.
Celkovo, je to naozaj veľmi skvelé inžinierske riešenie. Je potrebné pochopiť, prečo to, napríklad, v Rusku nebude. U vás [v Bielorusku] to nebude, pretože ste – európsky štát, máte všetko v poriadku. V Rusku to nebude z mnohých dôvodov: po prvé, nemáme takú úroveň dôvery v právo ako v Číne; určite nemáme takú úroveň digitalizácie. Prečo v Číne všetko fungovalo? Pretože vláda: majú – digitálnu medicínu, digitálne poistenie, digitálnu políciu. A niekto múdry prišiel na to: poďme to všetko zlúčiť a spraviť – v podstate je to vernostný program. Tam je viac výhod ako „ne výhod“.
Preto áno – myslím, že v Rusku to nezavedú. Najprv je potrebné digitalizovať celé Ministerstvo zdravotníctva (a to je úloha na 50 rokov) – niekto by mal obetovať život, aby to spravil, a nikto to, samozrejme, robiť nebude. Na druhej strane, ruské banky sú na svete na čele v skórovaní ľudí, robia čokoľvek: „Aha, chlapík? Lajkuješ mladé dievčatá? Tu máš kreditnú kartu pre milenku“. Tam je všetko veľmi pokročilé. Napríklad v Amerike je takmer všade takéto skorovanie zakázané, pretože tam sú zákony, podľa ktorých ti banka musí vysvetliť, prečo: „Aha! Pretože spoločnosť Social Data Hub uchováva históriu 10 rokov a toto – to a to ti vydala o tebe“! A poď sa súdiť s oboma! A u nás takéto príbehy niet.
Prečo sa štatistika zamlčuje?
V zásade podporujem scoring, pokiaľ to nie je nejaký „totalitárny“ príbeh. Ale otázka je, že to nemožno predvídať ani oceniť. To je najkomplexnejšia otázka v etike veľkých dát – predpovedať sociálny dopad, ktorý tu bude o 15 rokov. Napríklad, ja už dlhú dobu nalieham na prokuratúru, aby sprístupnila informácie o kriminalite. Údaje z kriminalistickej štatistiky sú jedným z kľúčových kameňov akejkoľvek štatistiky; všetci to veľmi chcú. Ale v Rusku napríklad kriminalistickú štatistiku nezverejňujú z veľmi prostého dôvodu: boja sa narušiť demografiu v mestách. Veria, že ľudia prestanú žiť v určitých mestách, dokonca aj v rámci mesta sa všetko akosi redistribuuje. Z rovnakého dôvodu nezverejňujú štatistiku z EGE – iste chápete, do akých škôl sa ľudia prihlásia a do akých nie.
Možno je to správne, možno nie, ale bolo veľa projektov… Napríklad „Yandex“ raz (opäť, podľa „žltých“ šuškání, nevidel, neviem) sa rozhodol do modelu predpovedania „nehnuteľností“ pridať počet útokov na taxikárov, to znamená akýsi prístup k úrovni kriminality, keď spočítali počet sťažností taxikárov, ktoré sa týkali toho, že sa ich niekto dotýkal, vyhrážal a tak ďalej. Rýchlo to v rámci spoločnosti zrušili, aby takéto veci nerobili.
Z: – Komunikujete so študentmi, komunikujete s publikom vo vašej krajine, v našej krajine. Všimli ste si z počtu otázok z pléna, že sme ešte v tej fáze vývoja, keď si myslíme, že potrebujeme súkromie, že sa môžeme schovať pred niekým, chrániť svoje údaje, aniž by sme ich poskytli, schovali, zašifrovali. Ak sa Európska únia už presunula k ďalšej fáze, fáze súkromia, ktorá presne predpokladá kontrolu nad údajmi – donútiť všetkých, ktorí zbierajú vaše údaje, poskytnúť vám reálnu kontrolu nad nimi… Po výberoch podľa regiónov, sociálnych vrstiev – ktorá z kategórií občanov je už viac prešla na druhú fázu, alebo kto ešte hlavne ostáva na prvej?
Kto sa najviac obáva o bezpečnosť osobných údajov?
AH: – Drvivá väčšina... Povedal by som: všetkým je to ukradnuté! Zaujíma to teraz top manažérov. Po mestách v Rusku – je to Moskva a Petrohrad. Aktívne centrum sú IT odborníci, dizajnéri, kreatívne profesie, všetci, ktorí vedia filtrovať obsah, získavať nové vedomosti, s vysokou úrovňou záujmu o medzinárodné problémy. Hlavne sú to top manažéri; áno, IT odborníci (nepočítajúc bezpečnostných špecialistov); bankári – teda všetci ľudia, na ktorých môže únik údajov nejako vplývať.
Ak napríklad ukradnú údaje nejakej hospodyni z nejakého Kalugy: ťažko povedať, či sa mu v živote niečo vážne zmení, ak mu niekto ukradne prístup k gmailu, kde má prístup k seriálom. Otázka je, že zákon všetkých chráni rovnako, a to je správne, pretože... z pohľadu zákona sú si všetci rovní – ha-ha... ale najdôležitejšie je, že nie je možné pochopiť, akú hodnotu majú ktoré údaje, pokiaľ tieto údaje nezmiznú – bohužiaľ, veľmi ťažko sa to predpovedá. No v zásade ide o takúto kategóriu občanov.
Mobilný telefón – do fólie!
Raz v živote som videl masívne uchovávanie všetkého a všetkého v dvoch firmách. Jeden je najväčší integrátor v oblasti informačnej bezpečnosti: tam je všetko, až po USB, lepidlom zalepené vo vnútri kancelárie; a ľudia tam sú podobní – stretol som tam človeka, ktorý mal telefón v vrecúšku z fólie. Zistil som, že existujú firmy, ktoré predávajú špeciálne takéto vrecúška. A po druhýkrát som videl podobný prípad v „Bloombergu“ u zamestnancov: stáli sme v fajčiarni, a niekto sa niekde fotografoval, a jeden z nich – „Tak, aby sme tam neboli viditeľní na pozadí!“ Myslel som si: „Oh, nič do seba!“
„Radšej my ako FSB“
Nechcel by som povedať, že to je menej ako jedno percento populácie, ale žiaľ, v celku je prakticky všetkým všetko jedno. Ale na druhej strane, mám scandalous službu na sledovanie činností maloletých (už dávno sme ju spustili s heslom „Radšej my ako FSB“), aby sme varovali rodiča o tom, že maloletý robí niečo zlého, predtým než náš algoritmus, nainštalovaný niekde tam, k nemu niekoho pošle.
Pri overovaní dieťaťa je potrebné poslať sken pasu (to je v podstate normálna prax), ale napísali sme, že môžete orezať číslo pasu, pretože nás to nezaujíma; zaujíma nás len vaša fotka, hologram a meno-priezvisko. A prakticky 100 % ľudí – no, niekde 95 pasov zo 100 – ľudia v „Photoshope“ starostlivo vystrihli tieto čísla a poslali len potrebnú časť. To znamená, že pochopili – aha, keď to potrebujú, tak to netreba posielať. Podľa mňa je to skutočný pokrok, na ktorý ich prinútila nedôvera k nám.
Z: – Výber je určitý. Sú tam predsa ľudia, ktorí sa obracajú, sú už pokročilí.
Ľudia nechcú, aby ich sledovali, ale nečítajú dohody
AH: – Áno. A druhá rovnaká vec: na konci minulého roka sme spustili aplikáciu na zoznamovanie (čoskoro ju opäť spustíme). Mala kontrolnú skupinu 100 tisíc ľudí. A podľa prístupov GDPR v osobnom účte bola 15 možností – dávam súhlas na analýzu interakcie s rozhraním, na prístup k mojej demografii, na prístup k trojrozmernej rekonštrukcii tváre, na prístup k mojim osobným správam a tak ďalej. Maximálne sme podrobne vypísali všetky prístupy. Dokonca je niekde štatistika, kto na čo zaklikol. 98 % si ponechalo všetky možnosti predvolene zaškrtnuté (aj keď sa dostali na túto stránku a videli to všetko, ale bolo im to jedno), a tých 2 % bolo zaujímavé analyzovať, čo bolo pre ľudí prioritné.
Všetci zrušili súhlas na prístup k osobným správam a prakticky všetci zrušili súhlas na prístup k údajom sexuálneho testu (čo sa im tam páči, čo tam vypĺňali, svoje úchylky – žartujem). Ale toto ľudí “pohlo” do toho, nahliadrovanie: rozhranie im hovorí – pozorne si to prečítaj, dáva možnosť poscrollovať túto dohodu až do konca. Ale to bolo urobené výhradne preto, že to bol výskumný projekt, a všetci boli upozornení. Žiadna spoločnosť, vrátane nás, keď uvoľnia túto aplikáciu do verejného prístupu, nebude nútiť človeka čítať túto správu až do konca, pretože... no, prepáčte, takto to všetko funguje.
Za predpokladu, že prišli k nám so znalosťou toho, čím sa spoločnosť zaoberá, vedeli, že prišli do služby, ktorá im bude ponúkať kandidátov na základe toho, aké porno majú radi - dokonca len na základe toho, len 2 % si prečítali tieto zaškrtávacie políčka a vôbec niečo urobili. A prakticky nikto z nich neodškrtnul políčko „Prístup k prevádzke a údajom o návštevách iných webových stránok“. Väčšinu zaujímali osobné správy.
Odhalené a zatýkanie za lajky – zaujímavé zákony bratských republík
Z: – Mám otázku ohľadom ochrany údajov. Môžeš nosiť telefón v fólii, robiť, že neexistujú… Potom sa ukáže, že akoby si uchovával, uchovával, ale potom musíš svoje údaje odovzdať štátu, pretože ťa o to požaduje, a ty nemôžeš… A tu sa ukazuje, že všetci štátni dodávatelia sú priehľadní. A v Bielorusku je ešte taká norma: ak skontrolujem bezpečnosť svojich osobných údajov (niečo upravím a získam k nim prístup), tak som hneď zločinec. Tá istá veta bola použitá, aby obvinili novinárov v „kauze BelTa“, že získali neoprávnený prístup k údajom (môžete si to prečítať sami). Takže otázka znie: sú tieto obmedzenia efektívným opatrením na ochranu súkromia, vlastne na bezpečnosť súkromných údajov?
AH: – Rozumiem. V Bielorusku je veľa naozaj zaujímavých zákonov. Nedávno som sa dozvedel… Po celý čas žartujem o prenose odhalených, a u vás je to, ukazuje sa, zakázané.
Z: – Prezentácia je zakázaná!
AH: – To je celkovo veľmi zvláštne.
Z: – Pozerať sa môžeš, prenášať nesmieš, lajkovať nesmieš. Spolu sa pozerať nesmie!
AH: – Odpoviem na vašu otázku. Vrátime sa k téme „sú za lajky“ v Moskve. V Rusku je to téma číslo jedna. Neviem, ako je to v Bielorusku, ale úprimne, štát… Ak analyzujeme štatistiku, v Moskve je 95 zatknutí za lajky z 100 – to je, keď si ľudia sťažujú na iných, niekto píše na prokuratúru na iného. Štát veľmi zriedka začína takéto prípady. Mám pocit, že tento zákon je absolútne absurdný. Neviem o žiadnom skutočnom zločincovi, ktorého za to odsúdili. Ale toto opatrenie používajú, aby niečo priradili k osobe. Mám pocit, že je to naozaj zvláštne. Myslím, že to niekedy zrušia.
Z: – To sa nazýva držať pod pokrievkou.
AH: – Nu-uu, ok… Nemôžem povedať. Nie som úplne štátne monštrum, ale moje vnímanie je trochu pozmenené, viete, ľuďmi, ktorí k nám prichádzajú a hovoria: „Môjmu dieťaťu sa niečo stalo, pomôžte mi ho nájsť.“ Hovorím: „Nemôžem nič robiť bez súdneho povolenia.“ Pozeráte sa na tých rodičov, ktorí by dali všetko vo svojom živote, dali by prístup k akýmkoľvek informáciám – len aby sa vyriešil ich problém. Preto je pre mňa veľmi ťažké viesť takúto diskusiu: na jednej strane si myslím, že štát robí správne veci, keď chytá reálnych ľudí, a na druhej strane, poskytovať nekontrolovaný prístup – to je celkom desivý príbeh.
Vrátim sa k vašej veci, „prepáč“, že som sa odmlčal. V balíčkoch z hliníkovej fólie vôbec neverím. Mať mobilný telefón a obaliť ho do fólie – to je nejaká hlúposť. Načo to robiť? Aby sa telefón nepripojil k „wi-fi“? Je jednoduchšie ho vypnúť. Aby ťa mobilný operátor neidentifikoval? Tak či tak môžu signál trilaterovať, akosi to vypočítať. Pre mňa sú jediné účinné bezpečnostné opatrenia – chránené úložisko, ako je lokálna sieť – možno v byte, kde môžete niečo uchovávať.
Z: – Tu je otázka ohľadom legislatívy. Je legislatíva represívna voči človeku, ktorý chce skontrolovať svoje údaje?
AH: – Chápu, áno. Ani som nevedel o tejto veci, preto nemôžem presne povedať. V Rusku niečo také nie je, hoci je to tam veľmi zložité. Možno by sa dalo poradiť s kvalifikovanými právnikmi a možno existuje nejaká právna medzera – možno podať na nejaký európsky súd… Nie? Nemôžem vám o tom povedať. Moje znalosti v práve sú povrchné, na úrovni vedúceho firmy. Viem, čo robiť nemožno, aby nikto nič nepovedal. To je, samozrejme, veľmi smutné.
Z: – Myslím tým, že v iných krajinách (napríklad v Štátoch) je normálna prax, že môžete otestovať nejakú zraniteľnosť a potom o nej informovať, no nezverejniť ju.
AH: – Áno, „bug bounty“. Rozumiem, že to existuje.
Z: – A firmy nemajú mechanizmus, aby ťa odstránili, pretože je to lacnejšie.
AH: – Táto vec tiež hraničí na úrovni zákona. Záleží na tom, ako túto zraniteľnosť nájdete. Myslím si, že veľa peňazí vyplatených za túto zraniteľnosť v Amerike bolo vyplatených na základe zmluvy o mlčanlivosti a pod hrozbami súdnym sporom s touto osobou. Nepovedal by som, že ide o niečo definitívne. Vždy riskujeme s takýmto niečím. Moji zamestnanci párkrát našli podobné zraniteľnosti v rôznych vládnych aplikáciách – vždy hovorím: 'Radšej poslať anonymný list, ako im povedať, že tam je diera.' A potom príde nejaký výskumný ústav, ktorý tento servis dodal... V skratke, nebudem pokračovať.
Skontrolovať podnikanie na čestnosť sa nedá: ak sa ti nepáči – nepoužívaj.
Z: – Mám takú otázku. Povedali ste, že ste uskutočnili experiment – 15 zaškrtávacích políčok bolo potrebných... Predpokladajme, že používateľ zruší všetky zaškrtávacie políčka. Kto a ako to skontroluje? Ako to vôbec overiť?
AH: – Úprimne vám poviem: nikto a nijako. Seriózne. To, že ste u 'Gúgla' zaškrtli alebo zrušili zaškrtávacie políčko 'Zabrániť sledovaniu reklám', vôbec nič neznamená. Bohužiaľ, aj keď v 'Vkontakte' nastavíte zákaz indexovania vyhľadávačmi, vyhľadávače to aj tak indexujú a potom jednoducho nezobrazujú tieto výsledky určitým ľuďom. Toto je všetko na úrovni absencie kompetentných orgánov, ktoré to nevedia overiť. Navyše, spoločnosti, ktoré to robia, sú súkromné. 'Facebook' má svoju jednu správnu alebo nesprávnu pozíciu: ak sa ti to nepáči – nepoužívaj.
O regulácii.
Z: – Mám len jednu jednoduchú otázku. Ako sa staviate k otázke regulácie pri spracovaní údajov, k samoregulácii?
AH: – Ja, ako zástupca spoločnosti, považujem, že trhu, podnikaniu je potrebná samoregulácia. Verím, že asociácia veľkých dát dokáže všetko regulovať sama, bez štátu. Veľmi nedôverujem štátnej regulácii a veľmi nedôverujem všetkým príbehom, keď chce štát niečo uchovávať, pretože každý prípad ukázal, že je to veľmi zlé. Určite si niekto nalepí prístupové meno a heslo na žltý sticky note na monitor a tak ďalej.
Vo všeobecnosti verím v sebareguláciu. Navyše verím, že v najbližších 5 rokoch dospejeme k určitej otvorenosti. Už teraz to môžete vidieť z novinových správ, že je pre štát veľmi ťažké klamať používateľom, a pre používateľov je veľmi ťažké klamať systému. A to je, v podstate, veľmi dobre. Keďže naši zamestnanci rozviedky dokážu identifikovať na verejných fotkách.
To všetko vedie ku znižovaniu úrovne kriminality. Čisto matematicky. Ak by niekoho zaujímalo diskutovať o znižovaní úrovne kriminality – je tam naozaj veľa rôznych záverov, ktoré môžeme urobiť. Vo všeobecnosti som za sebareguláciu trhu. Ďakujem!
Trochu reklamy 🙂
Ďakujeme, že ostávate s nami. Páčia sa vám naše články? Chcete vidieť viac zaujímavých materiálov? Podporte nás, vytvorením objednávky alebo odporúčaním známym, , unikátny ekvivalent entry-level serverov, ktorý sme pre vás vytvorili: (k dispozícii varianty s RAID1 a RAID10, až 24 jadier a až 40GB DDR4).
Dell R730xd je dvakrát lacnejší v dátovom centre Equinix Tier IV v Amsterdame? Len u nás v Holandsku! Dell R420 — 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB — od 99 dolárov! Prečítajte si o tom
Zdroj: habr.com
