Den ochrany osobních údajů, Minsk, 2019. Organizátor: obhajitelská organizace Human Constanta.
Moderátor (dále – M): – Artur Chachujan se zabývá… Mohli bychom říct, že „na temné straně“ v kontextu naší konference?
Artur Chachujan (dále – ACH): – Na straně korporací – ano.
Otázka: – Sbírá vaše data, prodává je korporacím.
ACH: – Ve skutečnosti ne…
Otázka: – A právě vám poví, jak korporace mohou používat vaše data, co se s daty stane, když se dostanou online. Nebude asi vyprávět, co s tím dělat. Zamyslíme se nad tím dále…
ACH: – Povím, povím. Ve skutečnosti nebudu vyprávět dlouho, ale na předchozím setkání mi představili člověka, kterému „Facebook“ dokonce zablokoval účet jeho psa.
Ahoj všichni! Jmenuji se Artur. Opravdu se zabývám zpracováním a sběrem dat. Samozřejmě, že nikomu neprodávám žádné osobní údaje veřejně. Žertuju. Mým oborem je vytahování znalostí z dat, která jsou v otevřených zdrojích. Když něco není právně považováno za osobní údaje, ale z toho lze vytáhnout znalosti a učinit je stejně významnými, jako by tato data byla získána z osobních údajů. Opravdu nebudu říkat nic hrozného. Tady, pravda, jde o Rusko, ale mám čísla i o Bělorusku.
Jaké jsou skutečné rozměry?
Před dvěma dny jsem byl v Moskvě v jedné z vedoucích vládních stran (nebudu říkat které), a diskutovali jsme o zavedení nějakého projektu. A IT ředitel této strany vstane a říká: „Říkali jste, že – čísla a tak dále – víte, příprava od 2. správy FSB mi připravila poznámku, kde je napsáno, že v sociálních sítích je 24 milionů Rusů. A vy říkáte – 120 s něčím. Vlastně více než třiceti [milionům] lidé internetem nepoužívají.“ Říkám: „Opravdu? No, dobře.“
Lidé si ve skutečnosti neuvědomují rozsah. Není to nutně o státních orgánech, které pravděpodobně do konce nechápou, jak internet funguje, ale také moje máma například. Teprve nyní začíná chápat, že kartu v "Perekrestku" jí nedávají jen tak, ne za žebrácké slevy, které tento "Perekrestok" nabízí, ale za to, že její údaje jsou pak využívány v ODF, nákupech, prognózních modelech a podobně.
Celkem je obyvatelů tolik a o tolika je dostupná informace z veřejných zdrojů. O někom je známo jen příjmení, o někom je známo vše, včetně porna, které lajkuje (vždycky si z toho dělám legraci, ale je to skutečně tak); a veškeré informace: jak často lidé cestují, s kým se setkávají, jaké nákupy dělají, s kým žijí, jak se pohybují – spousta různých informací, které mohou využít špatní, ne příliš špatní a dobří lidé (ani nevím, jakou škálu teď vymyslet, ale přesto).
Existují sociální sítě, které jsou samozřejmě obrovským souborem otevřených dat, hrající na slabostech lidí, kteří údajně křičí o soukromí. A ve skutečnosti to takto vypadá: pokud si představíte graf za posledních 5 let – úroveň hysterie ohledně osobních údajů roste, ale přitom se počet uzavřených účtů na sociálních sítích každoročně snižuje. Možná to není úplně správné, ale: první věc, která zastavuje jakoukoli firmu shromažďující data – je to prostě uzavřený účet na sociálních sítích, protože názor člověka uvnitř jeho uzavřeného účtu, pokud nemá 100 tisíc sledujících, není vlastně příliš zajímavý pro nějakou analýzu; ale občas jsou i takové případy.
Odkud berou informace o nás?
Někdy se k vám ozvali vaši staří přátelé ze školy, se kterými jste už dlouho nekomunikovali, a pak ten účet zmizel? Existují takoví špatní hráči, kteří shromažďují telefonní čísla: analyzují přátele (a seznam přátel je téměř vždy otevřený, i když má člověk uzavřený profil, nebo lze seznam přátel obnovit „zpětně“, když se shromáždí ostatní uživatelé), vezmou nějakého vašeho neaktivního přítele, vytvoří kopii jeho profilu, pošlou vám žádost o přátelství, vy ho přijmete a za dvě sekundy účet se odstraní; ale kopie vaší stránky zůstává. Tak vlastně dělali kluci nedávno, když 68 milionů profilů z „Facebooku“ někam zmizelo – takto se všem snažili přidat do přátel, kopírovali tyto informace, dokonce někomu posílali soukromé zprávy, něco provedli…
Sociální sítě jsou obrovským zdrojem informací; v prakticky 80 % případů není informace o nějaké konkrétní osobě získávána přímo, ale z nejbližšího okolí – to jsou různé nepřímé znalosti, signály (u nás se tomu říká „algoritmus „Zlá bývalá“), protože jedna moje známá mě přivedla na tuto naprosto geniální myšlenku. Nikdy nesledovala svého přítele – vždy sledovala pět jeho přátel a vždy věděla, kde se nachází. To je vlastně důvod napsat celou vědeckou studii.
Existuje obrovské množství botů, kteří dělají také různé dobré a špatné věci. Jsou neškodní, kteří se bezmyšlenkovitě začnou na vás sledovat, aby vám později nabízeli kosmetiku; a jsou tu vážné sítě, které se snaží vnucovat svůj názor, zejména před volbami. Nevím, jak to funguje v Bělorusku, ale v Moskvě před municipálními volbami se mi nějakým způsobem objevilo obrovské množství podivných přátel, přičemž každý agitoval za jiného kandidáta, což znamená, že absolutně neanalyzují obsah, který konzumují – jednoduše se snaží vnucovat nějakou nejasnou reformu, přičemž já nejsem s Moskvou vůbec registrovaný a k volbám nejdu.
Smetiště – zdroj nebezpečných informací
Navíc existuje „Tor“, který sice není podceňován – všichni se domnívají, že tam je potřeba jít pouze koupit drogy nebo zjistit, jak se vyrábí zbraně. Ve skutečnosti tam však existuje obrovské množství datových zdrojů. Prakticky všechny jsou nezákonné (nebo spíše pololegální), protože někdo mohl na nějakém hackerském webu hacknout databázi leteckých společností a zveřejnit ji. Právně tyto údaje nemůžete používat, ale pokud z toho získáte nějaké znalosti (jako v americkém soudě) – například nahrávku audio rozhovoru pořízeného bez povolení, nemůžete ji použít, ale znalosti, které jste si z této nahrávky odnesli, už nikdy nezapomenete – a tady je to podobné.
To je ve skutečnosti velmi nebezpečné, proto si vždy dělám legraci, ale je to pravda. Vždy objednávám jídlo z vedlejšího domu, protože „Delivery Club“ bývá velmi často hackován a má s tím opravdu problémy. A nedávno mě velmi překvapilo: objednával jsem potraviny a na krabici, kterou jsem odnášel do popelnice, byl nalepený štítek, na kterém stálo – „Artur Khachuyany“, telefonní číslo, adresa bytu, kód od domofonu a e-mail. Ve skutečnosti jsme se i snažili domluvit s moskevským městským úřadem, abychom dostali přístup na skládku: chtěli jsme přijet na sklad odpadu a zkusit čistě ze zvědavosti najít nějaké zmínky o těchto osobních údajích – udělat něco jako mini-výzkum. Ale bylo nám odmítnuto, když se dozvěděli, že chceme přijít s pracovníky Roskomnadzoru.
Ale je to ve skutečnosti tak. Viděli jste úžasný film „Hacker“? Kovali v odpadcích, abychom našli nějakou část viru. To je také oblíbená věc – lidé, když něco vyhodili do veřejných zdrojů, zapomněli na to. Může to být nějaká školní stránka, na které psali disertaci o nadřazenosti bělé rasy, a pak šli do Státní dumy a zapomněli na to. Takové případy se opravdu staly.
Co lajkují „jednorožci“?
Pokud se podíváte na „top“ na stránkách „Life News“… Před dvěma lety mi studenti udělali výzkum: vzali všechny účastníky primárek „Jednotného Ruska“ (všichni oficiálně podali své účty na sociálních sítích do Ústřední volební komise), podívali se, co vlastně lajkují – dětské porno, trash, divné nabídky od podivných dospělých žen… Celkově se zdá, že lidé na to nějak zapomněli.
Pak napsali dopis, že u dvaceti lidí byly účty ukradeny. Ale účty byly ukradeny před dvěma týdny, 8 měsíců je podali do volebního orgánu, a lajky byly před dvěma lety… Takže chápete, ano? Je tam opravdu obrovské množství informací, které lze vždy využít i za výzkumné účely.
Minioftopic: Včera jsem viděl zprávu, že Roskomnadzor zablokoval výzkum studentů „vysoké školy“ starý dva roky. Možná někdo tuto zprávu viděl, ne? To dělali moji studenti: sesbíraly informace z „Tora“, ze stránky „Hydra“, kde se prodávají drogy (omlouvám se – z „Rampa“), kolik co stojí, v jakém regionu Ruska, a udělali výzkum. Nazýval se „Spotřebitelský košík pro party lidi“. To je sice zábavná věc, ale z hlediska datové analýzy je vlastně datový soubor zajímavý – pak jsem ještě dva roky chodil na různé „hackathony“. To je skutečná věc – je tam spousta zajímavého.
Jak Get Contact „koupil duše“ zvědavých uživatelů a proč je důležité číst uživatelskou smlouvu
Obvykle, když se člověka zeptáte, jakého úniku dat se bojí (zejména pokud má člověk zakrytou webovou kameru), vždy strukturu priorit nastaví takto: hackeři, stát, korporace.
To je samozřejmě vtip. Ale ve skutečnosti aktivní datoví analytici, různí výzkumníci dat ukradli mnohem víc, než si myslím, že děsiví ruští, američtí nebo nějací jiní hackeři (doplňte libovolné, v závislosti na vašich politických přesvědčeních). Celkově se obvykle všichni tohoto bojí – vy máte pravděpodobně také webovou kameru zakrytou? Můžete ani zvedat ruce.
Ale pokud hackeři dělají něco nezákonného a stát potřebuje soudní povolení k získání údajů, těm posledním klukům [korporacím] vůbec nic není potřeba, protože mají něco, čemu se říká uživatelská smlouva, kterou nikdo nikdy v životě nečte. A opravdu doufám, že podobné akce donutí lidi tyto smlouvy číst. Nevím, jak to funguje v Bělorusku, ale v Moskvě polovině roku se rozšířila aplikace „GetContact“ (určitě jste o tom slyšeli), když se objevila neznámá aplikace, která říká: dej aplikaci přístup ke všem svým kontaktům, a my ti ukážeme, jak ses koho směšně zapsal.
V médiích se to neobjevilo, ale hodně vysoce postavených zaměstnanců si stěžovalo, že jim začali všichni neustále volat. Zdá se, že administrátoři se rozhodli najít telefon Šojgu v této databázi, ještě někoho… Voločkovou… Bezoblačná věc. Ale ti, kdo si přečetli licenční smlouvu „GetContact“, tam mají napsáno: spam v neomezeném množství po neomezenou dobu, prodej vašich údajů bez kontroly třetím stranám, bez omezení práv, lhůty promlčení a vlastně všeho, co si lze představit. A to není vůbec tak vzácný příběh. Mě „Facebook“, když jsem tam byl, ukazoval 15krát denně oznámení: „A synchronizuj kontakty, já ti najdu všechny tvé přátele, které máš!“.
Korporacím je to jedno. Zákon 152 a GDPR.
Ale ve skutečnosti jsou priority naopak, protože korporace chrání soukromé právo a proto je v prakticky všech případech nemožné dokázat, že by neměla pravdu. A s přihlédnutím k tomu, že je velká, hrozná a velmi drahá, je to téměř nemožné. A pokud jste navíc v Rusku, s zastaralou legislativou, tak to vypadá docela smutně.
Víte, čím se ruský zákon (ten je skoro identický s běloruským) liší od GDPR? Ruský zákon č. 152 chrání data (to je relikt sovětské minulosti) – dokument, který chrání data před únikem někam. GDPR chrání práva uživatelů – práva na to, aby o nějaké svobody, výsady nebo něco jiného nepřišli, protože jejich data někam uniknou (to zavádí pojem „data-lí“). U nás je vše, co vám mohou vyměřit, pokuta za to, že nemáte certifikovaný „open“-„Excel“ pro zpracování osobních údajů. Doufám, že se to někdy změní, ale myslím, že ne v nejbližší době.
Jaké jsou skutečné možnosti cílení dnes?
První, pravděpodobně, děsivý příběh, o kterém všichni neustále přemýšleli – je čtení osobních zpráv. Určitě mezi vámi je někdo, kdo někdy něco nahlas řekl a pak obdržel cílenou reklamu. Ano, byli takoví? Zvedněte ruce.
Oprava, opravdu nevěřím v příběh, že tzv. „Jandex Navigator“ rozpoznává přímo audio v streamu pro všechny uživatele, protože ti, kdo se trochu setkali s rozpoznáváním hlasu, chápou, že: za prvé, datové centrum „Jandexu“ musí být pětkrát větší; ale co je nejdůležitější, náklady na získání takového člověka by byly obrovské (aby bylo možné rozpoznávat audio v reálném čase a chápat, o čem člověk mluví). Ale! Existují opravdu algoritmy, které vás označují podle určitých klíčových slov, abyste mohli následně provádět nějakou reklamu.
Bylo provedeno mnoho takových studií a já si 100krát zakládal čisté účty, něco někomu psal v zprávách, a pak jsem náhle obdržel reklamu, která se zdála být zcela nesouvisející. Ve skutečnosti existují dva závěry. Proti takovému příběhu se tvrdí, že člověk se jednoduše dostane do nějakého statistického vzorku; řekněme, že jste muž ve věku 25 let, který zrovna v této chvíli měl narazit na kurzy angličtiny právě ve chvíli, kdy jste někomu napsal. Minimálně „Facebook“ to vždy tak říká u soudu: že existuje určitý model chování, který vám neukážeme, který byl postaven na datech, která vám neukážeme, máme interní studie, které vám rozhodně neukážeme (protože všechno je obchodním tajemstvím); zkrátka jste se dostali do nějakého statistického vzorku, proto jsme vám to ukázali.
Jak „Facebook“ rozpoutal zuřivost ohledně soukromí uživatelů
Bohužel, to je zcela nemožné dokázat, pokud nemáte někoho uvnitř společnosti, kdo tyto akce nějak potvrdí. Ale v americkém právu je v takovém případě dohoda o mlčenlivosti tohoto zaměstnance důležitější než jeho přání vám pomoci, takže to nikdo neudělá. Je také zajímavé, že asi před rokem nebo půl se začal vyvíjet trend v Americe, kdy si lidé instalovali rozšíření pro prohlížeč, aby šifrovalo zprávy „Facebooku“: napíšete něco osobě, on to šifruje klíčem na zařízení a posílá nesmysly do otevřeného prostoru.
Tento „Facebook“ vedl spor s touto společností po dobu jednoho a půl roku a není jasné na jakých základech (protože se špatně orientuji v americkém právu) je donutil je odstranit tuto aplikaci a poté udělal dodatek k uživatelské smlouvě: pokud se podíváte, existuje tam bod, že nesmíte přenášet zprávy v zašifrované podobě – tam je to nějak šikovně popsáno, že není dovoleno používat kryptografické algoritmy k modifikaci zpráv – no, je to tak. To znamená, že řekli: buď používáš naši platformu, píšeš na otevřeném prostoru, nebo nepíšeš. A odtud vyvstává otázka: k čemu vlastně potřebují osobní zprávy?
Osobní zprávy – zdroj stoprocentně spolehlivých informací
Tady je velmi jednoduchá věc. Všichni, kdo se zabývají analýzou digitálních stop a aktivit lidí, se snaží nějakým způsobem využít tato data pro marketing nebo něco jiného – mají metriky, jako je spolehlivost. To znamená, že obraz člověka – chápete, to není skutečný člověk – je vždy o něco úspěšnější, o něco lepší. Osobní zprávy jsou skutečné znalosti, které lze o člověku získat, jsou téměř vždy 100% spolehlivé. Protože málokdo píše v osobních zprávách něco nepravdivého, a to se velmi snadno ověřuje – podle ostatních zpráv (víte, o čem mluvím). Podstatou je, že takto získané znalosti jsou téměř 100% spolehlivé, proto se je všichni snaží získat.
Ale přesto je to opět velmi obtížně doložitelný příběh. Ti, kteří věří, že má hypotetický «Vkontakte» takový přístup pro orgány činné v trestním řízení k osobním zprávám – to není úplně pravda. Pokud se podíváte na historii soudních žádostí o zproštění informací – jak «Vkontakte» velmi mazaně (v tomto případě Mail.ru) odráží tyto žádosti.
Jejich hlavní argument vždy zní: podle zákona musí orgány činné v trestním řízení zdůvodnit, proč přesně potřebují přístup k osobním zprávám. Obvykle, pokud jde o vraždu, vyšetřovatel vždy říká, že pravděpodobně osoba uvedla, kde skryla zbraň (v osobních zprávách). Ale my si jako rozumní lidé uvědomujeme, že žádný rozumný zločinec nikdy ve svém životě na «Vkontakte» svým kumpánům nenapíše, kde skrývá střelnou zbraň. Ale to je jedna z běžných variant, kterými se úředníci odůvodňují.
A ještě jeden takový děsivý příklad (dnes mě žádali, abych uváděl děsivé příklady) – o Rusku (doufám, že v Bělorusku se to nestane): podle zákona musí mít vyšetřovatel dostatečně závažné důvody pro operátora, aby odhalil tyto informace. Samozřejmě nikde nejsou tyto důvěryhodné parametry popsány (jaké a v jaké podobě by měly být), ale v Rusku v současnosti existuje stále více případů, kdy pro soud takový důvod vzniká, pokud existuje nějaký model, který předpověděl určité, dobré nebo špatné, chování.
To znamená, že nikoho nemohou poslat do vězení (a to je dobře) za to, že jste se ocitli v nějakém statistickém vzorku čistokrevných vrahů – a to je dobře, protože to porušuje presumpci neviny; ale existují precedenty, kdy byly výsledky podobných předpovědí použity k získání soudního povolení na získání dat. A to nejen v Rusku, mimochodem. I v Americe už taková věc existuje. Tam „Palantir“ už dávno všechno skóroval, podobné věci se používají. Strašná historie.
To je moje výzkum. Dělali jsme to: po Petrohradu jsme se procházeli, na místech zelených bodů jsme psali nějaké klíčové momenty přátelům z „čistých“ účtů – například „chci si dát kávu“, „kde koupit prací prášek?“ a podobně. A pak jsme samozřejmě dostávali geo-vázanou reklamu. Jakým kouzelným způsobem… Nebo jak se říkalo: „Shoda? Nemyslím si!“ To jsou osobní zprávy „Vkontakte“. Omlouvám se Mail.ru, ale je to tak. Každý, kdo chce, si může podobný experiment zopakovat.
Mimochodem, k tomu, když jsme podávali žádost o podporu, Mail uvedl, že tam byly wi-fi body, které zachytily vaši MAC adresu. To také existuje.
Způsoby získávání a rozšířené možnosti „úniku“ osobních údajů
Následující příběh je o získávání dalších znalostí, přičemž část z nich jsem se opravdu dotkl. Opravený profil osoby na sociálních sítích totiž nese pouze 15–20 % skutečných znalostí, které o ní datařské společnosti uchovávají. Zbytek příběhu pramení z velmi zajímavých skutečností. Proč si myslíte, že Google masivně rozvíjí knihovny pro počítačové vidění? Byli totiž jedni z prvních, kdo vyvinuli knihovny pro analýzu a kategorizaci objektů – ať už na pozadí nebo v popředí, není to tak důležité. Protože to je obrovský zdroj dodatečných informací o tom, jaký má člověk byt, auto, kde žije, předměty luxusu…
Bylo spousta „hacker“ úniků, kdy unikly trénované neurální sítě Google (nevím, čí to byly, ale přesto). Bylo tam mnoho zajímavého na téma velikosti prsou, objemu pasu – lidé se snažili zjistit o druhých různé věci na základě analýzy fotografií. Protože, když si člověk dělá fotku, neuvažuje vždy o tom, kolik zajímavého se z ní dá zjistit? A kolik v Rusku se teď už zveřejňuje pasů novorozenců...? Nebo: „Hurá, moje dítě dostalo vízum“! To je prostě bolest současné společnosti.
Ještě jeden off-topic (dnes se s vámi podělím o různé fakta): v Moskvě je nejčastějším únikem osobních údajů – související s veřejnými službami, když se na dveře vyvěsí seznam dlužníků, a tito dlužníci pak podávají žaloby, protože jejich osobní údaje se dostaly do veřejného prostoru bez jejich souhlasu. Kdyby se vám něco takového stalo… Pointa je, že člověk, když dělá něco, neví, co bylo na té fotografii, co tam nebylo. Dnes je mnoho registračních čísel vozidel.
Jednou jsme prováděli výzkum – snažili jsme se pochopit, kolik lidí má veřejně dostupné fotky aut (mají, samozřejmě, přestupky a podobně) – to bylo bohužel možné zjistit pouze ze uniklých databází dopravní policie, kde bylo jen číslo (což není příliš spolehlivá informace), ale také to bylo zajímavé.
Vaše další reklama závisí na tom, jak jste „konzumovali“ tu předchozí.
Toto je první příběh. Druhý příběh se týká modelů chování, obsahu, který člověk konzumuje, protože jednou z nejdůležitějších metrik, které se na sociálních sítích snaží vybudovat, je to, jak interagujete s reklamou. Ať už jsou algoritmy jakkoli přesné a 'úžasné', jak skvěle fungují umělé inteligence a vše ostatní, skutečná priorita sociální sítě je vždy vydělávat peníze. Takže pokud přijde hypotetická 'Coca-Cola' a řekne – 'Chci, aby můj příspěvek viděli všichni obyvatelé Běloruska' – oni jej uvidí, bez ohledu na to, co si o této osobě myslí algoritmy, jak ji cílit. Určitě jste také dostali reklamu, kromě super-super cílené, naprosto nesouvisející. Protože za tuto nesouvisející hloupost zaplatili spoustu peněz.
Ale jedna z hlavních metrik je pochopit, s jakým obsahem interagujete nejlépe, konkrétně - jak na něj reagujete, abyste vám mohli ukazovat podobné reklamní příběhy. A podle toho je to metrika, jak interagujete s reklamou: kdo ji blokuje, kdo ne, jak člověk kliká, zda čte pouze nadpisy nebo se plně ponoří do materiálu; a na základě toho vás poté udržovat v tom, co se nyní nazývá 'bublina filtrů', abyste i nadále interagovali s tímto obsahem.
Pokud vás někdy bude zajímat, zkuste na delší dobu, po dobu jednoho týdne, možná měsíce, jednoduše blokovat všechny reklamy na sociálních sítích: ukazují vám nějakou reklamu – vy ji zavřete. Pokud to analyzujete a nanesete na graf, bude to zajímavý příběh: pokud týden budete blokovat reklamu, další týden vám ji budou ukazovat ve zvýšené míře a z různých kategorií; to znamená, že pokud máte rádi psy a byla vám ukázána reklama se psy – vy všechny psy zablokujete, a poté vám začnou ukazovat rozmanitou hloupost z různých možností, abyste se pokusili pochopit, co potřebujete.
A pak, nakonec, vás označí za někoho, kdo s reklamou neinteraguje, a dají na vás jakýsi křížek, a v tu chvíli vám začnou ukazovat reklamu pouze bohatých značek. To znamená, že v tu chvíli uvidíte reklamu jen na „Coca-Colu“, „Kit Kat“, „Unilever“ a všechny lidi, kteří „sypou“ obrovské peníze, protože je nutné navyšovat zhlédnutí. Po dobu jednoho měsíce si udělejte experiment: jednu až dvě týdny blokujte všechny reklamy, pak vidíte všechno možné a blokujete to, – nakonec budete vidět jen reklamu, jak se později ukáže (a říkají reklamní agentury), pouze klientů, kteří platí za zhlédnutí, protože je nemožné pochopit, jak s těmito reklamami interagujete.
Porno častěji sledují ti, kdo mají tendenci se do obsahu hluboce ponořit.
Tudíž, zde se jedná o sledování chování. Mám takový zajímavý příklad – návštěvníci jedné státní webové stránky. Nejvtipnější je, že čím hlubší je prohlížení lidí, tím více z těchto lidí dává přednost sledování porna před tradičními vztahy. „Omlouvám se“, že o tom pořád mluvím, ale mám skutečně velmi dobré vztahy s „Pornhubem“, a to jsou vždy velmi zajímavé studie, protože tohle téma je sice zakázané, ale hodně toho říká o člověku. A následující body týkající se přetížení provozu… Ještě si na „Pornhub“ vzpomeneme!
Co se považuje za osobní údaje a je možné odblokovat „iPhone“ pomocí 3D modelu obličeje?
Můj oblíbený je obcházení zákona o osobních údajích. Pokud si přečtete technickou dokumentaci stejného „Facebooku“, který poskytoval nějaké interní dokumenty (například u soudu), nenajdete tam žádné zmínky o rozpoznávání obličejů, ani o analýze hlasu. Tam budou velmi složité formulace, které žádný kvalifikovaný právník nenajde v legislativě. U nás v Rusku to funguje přibližně stejně – teď vám ukážu takovou věc.
Co tu vlastně vidíte? Každý normální člověk řekne, že to je obličej. To je, mimochodem, Sasha Grey, myslím. A z právního hlediska je to matice nějakých třírozměrných bodů, kterých je zde 300 tisíc. Je to dobré nebo špatné, ale dle zákona to nepředstavuje osobní údaje. Vůbec RKN v Rusku nepovažuje jednu fotografii za osobní údaje – za osobní údaje považuje, pokud se vedle toho nachází něco jiného (například jméno a příjmení nebo telefonní číslo), a sama fotografie je vlastně nic. Jakmile byl zaveden zákon o biometrice a biometrické údaje byly srovnány s osobními (velmi hrubě řečeno), všichni začali říkat: to nejsou biometrické údaje, to je pole bodů! Obzvláště pokud vezmete přímo nebo zpětně Fourierovu transformaci, jako byste nemohli deanonimizovat člověka zpět z této transformace, ale můžete ho identifikovat. Teoreticky tento zákon porušuje.
Dále jsem dělal jiný výzkum: to je algoritmus, který vytváří třírozměrnou rekonstrukci obličeje z otevřených zdrojů – vezmeme účet na "Instagramu" a pak můžeme tvář vytisknout na 3D tiskárně. Kdo má zájem, mám odkaz v veřejném přístupu; pokud by náhodou někdo chtěl odemknout nějaký "iPhone"... Vtip – "iPhone" nelze odemknout, tam je kvalita snížena.
Zavřený profil – to je výhoda pro bezpečnost.
To je první věc, a druhá... Už jsem se dotýkal toho, že informace se většinou získávají z okolí uživatele. Tento obrázek jsem kreslil v roce 2017: průměrný uživatel ruských sociálních sítí je uvnitř, má průměrně 200–300 přátel, jeho přátelé přátel a jeho přátelé přátel přátel.
Děkujeme sociálním sítím za to, že zavedly algoritmy "chytrých" e-feedů, které údajně zvyšují pravděpodobnost vašeho setkání s nějakým zajímavým obsahem. Toto množství lidí může v jakémkoli náhodném okamžiku vidět obsah, který produkujete, i když máte účet omezený pouze na nejvyšší úrovně soukromí (pouze pro přátele přátel a tak dále). Toto jsou přátelé přátel:
Pokud si někdo myslí, že když si ve VK vybere v "Mých příspěvcích" vidět "přátele přátel", tak tři handshake jsou přibližně 800 tisíc lidí, což vlastně není málo, ale záleží to na vašem obsahu. Možná vedete nějaké nevhodné streamy, a všichni ti přátelé přátel mohou s tímto obsahem interagovat. Někdo z nich může něco někde sdílet, všichni lidé mají zpravodaj s lajky, který pravděpodobně zruší, protože to není příliš příjemná věc. Proto se může v každém okamžiku váš obsah dostat někam jinam.
VK minulý rok spustili ještě super uzavřené profily, ale zatím je využilo velmi malé množství lidí (nebudu říkat kolik, ale málo!). Možná někdy na to lidé přijdou – já na to upřímně doufám. Všechna výzkumy jsou neustále zaměřeny na to, aby lidem ukázaly rozměr problémů. Protože dokud se to konkrétně někoho nedotkne a nebudou čelit nějakým hrozným věcem, nikdy na to nepomyslí. Jdeme dál.
Na vládních institucích nevědí, co jsou to osobní údaje, a nechtějí poskytnout definici.
Jakýkoli odborník na právo v oblasti osobních údajů vždy říká následující: nikdy byste neměli spojovat různé zdroje údajů, protože zde máte e-maily (to jsou jedny osobní údaje s nějakými anonymizovanými identifikátory), tady – jména a příjmení... Pokud to všechno spojíte, zdá se, že se stanou osobními údaji. Vlastně by bylo správné nejprve se tímto tématem zabývat, ale myslím, že už jste do toho ponořeni a víte, jak možná zákon funguje.
Ve skutečnosti nikdo neví, co jsou to osobní údaje. Důležitá koncepce! Když přijdu na vládní instituce, říkám: „Láhev koňaku tomu, kdo řekne, co jsou to osobní údaje“. A nikdo to říct nedokáže. Proč? Ne proto, že jsou hloupí, ale proto, že nikdo nechce na sebe vzít odpovědnost. Protože pokud Roskomnadzor řekne, že to jsou osobní údaje, zítra někdo něco udělá a oni budou vinni; a oni – jsou orgány výkonné moci a vůbec by neměli nést odpovědnost.
Podstatou je, že v zákoně je jasně uvedeno, že osobní údaje jsou data, podle kterých lze identifikovat osobu. A je tam uveden příklad: jméno, adresa, telefonní číslo. Ale my víme, že identifikovat člověka lze i podle toho, jak mačká tlačítka, jak interaguje s rozhraním a podle dalších nepřímých parametrů. Pokud někoho zajímá: prakticky v každé oblasti existuje obrovské množství kliček.
Identifikátory, které nás odhalují
Například všichni začali používat body k zachycení MAC adres (pokud jste se s tím setkali?) – chytří (nebo nevím, nenasytní) výrobci mobilního zařízení, jako Apple a Google, rychle zavedli algoritmy, které vydávají náhodnou MAC adresu, aby vás nebylo možné identifikovat, když jdete po městě a posíláte všem svou MAC adresu. Ale chytří kluci ještě přišli s následujícím nápadem.
Například můžete získat licenci mobilního operátora; získáním licence mobilního operátora získáte přístup k určité věci – která se nazývá protokol SS7, podle kterého uvidíte určitý éter mobilních operátorů; tam je spousta různých identifikátorů, které nejsou osobními údaji. Před tím to bylo IMEI, a teď – doslova někdo vzal a rozhodl se zavést v Rusku (taková iniciativa) jednotnou databázi těchto 'imejí'. Ta údajně existuje, ale přesto.
Existuje ještě spousta dalších identifikátorů – například IMCI (identifikátor mobilního zařízení), který není ani osobními údaji, ani vázán na nějaké další věci, a proto může být uchováván bez jakéhokoli právního postihu, a pak si můžete tyto identifikátory vyměnit s někým, abyste mohli s osobou komunikovat.
Kultura práce s osobními údaji je na nízké úrovni
Celkově podstatou je, že všichni jsou teď velmi znepokojeni slučováním dat jednoho s druhým, a většina společností, které toto slučování dělají, občas nad tím ani nepřemýšlí. Například banka přišla, uzavřela dohodu o mlčenlivosti s firmou, která provádí scoring, a předala jí 100 tisíc svých klientů...
A v této bance se v dohodě ne vždy nachází klauzule o předání údajů třetím stranám. Tito klienti něco zrychlili, a není jasné, kam tato databáze šla, nebo nešla – v většině firem v Rusku neexistuje kultura odstranění dat... – určitě ten „excel“ někde na počítači sekretářky zůstane.
Naše údaje mohou být prodávány s každým nákupem v obchodě.
Existuje spousta schémat, které jsou jakože skoro legální (což znamená, že jsou legální). Například, následující příběh: z 15 největších ruských bank pouze dvě jsou vlastně sms-brány – „Tinkoff“ a „Alfa“, což znamená, že sami posílají své sms. Ostatní banky používají sms-brány k tomu, aby posílaly sms koncovým klientům. Tyto sms-brány téměř vždy mají právo analyzovat obsah (například z bezpečnostního hlediska a jejich závěrů), aby příště mohly prodávat agregovanou statistiku. Tyto sms-brány „spolupracují“ s poskytovateli fiskálních dat, kteří zpracovávají účtenky.
A výsledek je následující: přijdete k pokladně, poskytovatel fiskálních dat (dali, nedali své telefonní číslo – nějak se tam připojuje)... na vaše telefonní číslo přijde sms, brána těchto sms vidí poslední 4 číslice karty a telefonní číslo. Víme, v jakém okamžiku jste provedli transakci od poskytovatele fiskálních dat, a v sms víme (teď už), na jaké číslo přišla informace o stržení této částky s těmito posledními čtyřmi číslicemi karty. Čtyři poslední číslice karty vás neidentifikují, neporušují zákon, protože podle nich vás nelze deanonimizovat, částka transakce – také ne.
Ale pokud jste se dohodli s poskytovatelem fiskálních dat – víte, v jakém časovém okně (plus mínus 5 minut) vám tato sms má přijít. Takto jste rychle spojeni s vaším telefonním číslem v OFD, a vaše telefonní číslo je spojeno s reklamními identifikátory, vůbec se všemi možnými věcmi. Proto vás pak lze snadno dohledat: přišli jste do obchodu, a později vám ještě posílají nějaké nesmysly bez vašeho souhlasu. Myslím, že je velmi nepravděpodobné, že by v tomto sále byl někdo, kdo někdy podal stížnost na FAS ohledně spamu. Asi ne... Kromě mě, předpokládám.
Papíry – archaický, ale efektivní způsob, jak bojovat za svá práva.
Tohle opravdu skvěle funguje. Pravda, bude trvat půl roku, než to bude provedeno, ale FAS opravdu provede kontrolu: kdo, jak, komu předal údaje, proč a kam a tak dále.
Dotaz z publika (dále – Z): – V Bělorusku není FAS. To je jiná země.
ACH: – Ano, chápu. Určitě nějaký analog existuje…
Z publika přicházejí námitky.
ACH: – Dobře, špatný příklad, „sori“. O to nejde. Mezi mými přáteli nikdo neví, kdo by v zásadě věděl o existenci něčeho takového – že lze jít napsat, a oni pak budou ještě rok pracovat.
Druhý příběh, který se v Rusku také velmi rozvíjí, ale myslím, že analog určitě najdete i u sebe. Moc rád to dělám, když se státní orgán s vámi špatně komunikuje, nějaká banka nebo něco jiného – řeknete: „Dejte papír“. A napíšete na papír: „Podle bodu 14 152. federálního zákona žádám o zpracování osobních údajů v papírové podobě.“ Nevím, jak přesně se to dělá v Bělorusku, ale určitě to dělají. Podle ruských zákonů vám nemají právo tuto službu odmítnout na tomto základě.
Vím dokonce o mnoha lidech, kteří to podobné posílali na Mail.ru a žádali, aby vedli evidenci jejich osobních údajů v papírové podobě. Mail.ru se tomu dlouho bránilo. Dokonce znám jednoho vývojáře z „Yandeksu“, na něhož si udělali legraci: smazali mu účet na VK a poslali mu balík vytištěných screenshotů a řekli, že mu budou posílat screenshoty pokaždé, když si bude chtít aktualizovat svou stránku.
Je to legrační, ale přesto je to reálná alternativa, pokud někdo opravdu řeší data, na jedné straně… A na druhé straně, stejný RKN mi říkal, že tato dohoda o zpracování osobních údajů – je formální, a zákon předpokládá ještě několik variant, jak dát tento souhlas. A že mě například pozvali sem na akci a pokud například Human Constanta nemusí uzavírat rámcovou dohodu o zpracování osobních údajů podle ruských zákonů se mnou (protože samotný fakt, že jsem přijel a souhlasil jsem vystoupit, je souhlasem se zpracováním osobních údajů), – stejně všichni stále berou tato papírová povolení. Ale RKN mi říkal, že tohle může být vůbec fakt, že pravděpodobně časem odpadnou.
Doufám, že v Rusku nikdy nevytvoří jednotného operátora, nedej Bože, osobních údajů, protože nic horšího, než seskupit všechny osobní údaje do jedné zásuvky, nemůže být než je seskupit do státní zásuvky. Protože nikdo neví, co se s tím vším stane.
Společnosti si vyměňují osobní údaje, a zákony to v podstatě slabě regulují.
Většina společností mezi sebou vyměňuje různé údaje, identifikátory. Může to být obchod s bankou, a pak banka se sociální sítí, sociální síť s něčím jiným... A nakonec tito lidé získají určité kritické množství znalostí, které mohou nějakým způsobem využít, a všechny tyto znalosti se, pravda, snaží nyní udržet na své straně. Ale i tak to stejně nakonec skončí v nějakém reklamním toku nebo někde jinde.
Předávání údajů třetím stranám je to nejzábavnější, co může být, protože zákony nestanovují, kdo jsou ty třetí strany, komu by měly být považovány za 'třetí'. To je mimochodem velmi rozšířená fráze amerických advokátů – mají to tam jako 'třetí strany' – kdo, koho považujete za třetí strany: babičku, prababičku?... Dokonce byl v Americe takový precedens, kdy byly prozrazeny něčí údaje, člověk podal žalobu a oni dokázali, že ten člověk je skrze několik přátel spojen s vlastníkem údajů – určitý počet podání rukou, uvedli nějaké zvláštní sociologické výzkumy – tímto způsobem dokázali, že si tito lidé nemohou navzájem považovat za třetí strany. Legrační. Ale fakt, že se tyto údaje takto předávají, je velmi běžný.
I když procházíte webovou stránku, kde je účetník pro identifikaci – tento účetník má právo předávat údaje o tomto toku někam (např. 'Clickstream', majitelům reklamních platforem čehokoliv, například 'Pornhubu'). 'Pornhub', pokud jste nějací weboví vývojáři, – podívejte se, kolik sledovacích pixelů je na webových stránkách 'Pornhubu'. Jenom při vstupu – tam se načítá ohromné množství JavaScriptu, které údajně zlepšuje funkčnost webu. Ve skutečnosti se tam nastavují i křížové 'cookies', co tam všechno není, protože tyto informace jsou na trhu 'clickstreamu' vždy velmi ceněny.
Facebook se vyhýbá a nechystá se odhalit svou masku.
Přirozeně, nikdo z velkých hráčů nikdy nikomu neříká, komu a jak prodává své údaje. Proto se například Evropa nyní snaží žalovat Facebook. Právě po zavedení GDPR se Evropská unie pokouší z Facebooku dostat odhalení algoritmů pro prodej údajů třetím stranám.
Facebook to nedělá a veřejně tvrdí, že to nedělá, protože jsou "korporací světa" (to cituji z dopisu, který mi poslali), jsou "proti zlovolnému použití technologií" (zejména, pokud technologii prodáváte k rozpoznávání obličejů Kremli). Celkově jde o to, že Facebook to nedělá zcela čestně: jejich hlavní cílem je a hlavně to, co se stane, jakmile se takový mechanismus odhalí – bude možné skutečně spočítat marži reklamy, bude možné pochopit skutečnou hodnotu reklamních oznámení.
Pokud vám Facebook nyní říká, že cena zobrazení reklamy je 5 Kč, a prodáváme vám ji za 3 (a typicky, dva koruny zůstávají nám), a oni hypoteticky vydělávají 5 % z tohoto reklamního zobrazení. Ve skutečnosti to však není 5 %, ale 505 %, protože pokud tento algoritmus vyjde najevo (komu a jak často Facebook předal "clickstream", údaje o návštěvnosti, údaje pixelu různým reklamním sítím), ukáže se, že vydělávají daleko více, než říkají. A nejde tu o samotné peníze, ale o to, že cena za kliknutí je jedna koruna, ale ve skutečnosti jsou to setiny haléřů.
Celkově jde o to, že všichni se snaží skrýt takový převod, ať už jde o reklamní nebo nereklamní provoz, ale přesto k tomu dochází. Bohužel, nelze to právně zjistit, protože společnosti jsou soukromé, a vše, co mají uvnitř, je jejich soukromé právo a obchodní tajemství. Ale podobné příběhy se tam objevují velmi často.
Drogoví dealři jsou předvídatelní a "padají" na Avitu.
Poslední obrázek z této prezentace. Je vtipný a spočívá v tom, že existují určité kategorie lidí, kteří se velmi obávají o své osobní údaje. A to je vlastně dobře! Tento příklad je o takové kategorii lidí, jako jsou drogoví dealři. Zdálo by se, že to jsou lidé, kteří by se měli velmi bát o své osobní údaje...
Toto je studie, která se prováděla na začátku tohoto roku pod dohledem kompetentních orgánů. Ano, je to skript, který dostal peníze, aby koupil drogy na „Telegramu“ a v „Torovém“ síti, ale pouze od těch lidí, které bylo možné identifikovat.
Ve skutečnosti téměř všichni drogoví dealeři v Moskvě se prozrazují tím, že jejich telefonní číslo není nikde v otevřených zdrojích, ale dříve či později na „Avitu“ něco prodají, podle čehož lze pochopit přibližnou polohu těchto lidí. Podstatou je, že červené body ukazují, kde lidé žijí, a zelené, kam jezdí, aby zanechali, víte co. To byla jedna z částí algoritmu, který předpovídal rozmístění hlídkových služeb, ale tito moskevští kluci se vždy snaží jet tak, aby se dostali co nejdál od hlídek.
Myslí si, že pokud žijí nahoře vlevo, měli by jet nahoře vpravo a tam je určitě nikdy nenajdou. To vám říkám k tomu, že pokud se snažíte skrýt před všudypřítomnými algoritmy, nejvíc efektivní variantou je měnit model chování: nainstalovat nějaký „Hoster“ pro randomizaci návštěv, vlastnictví a tak dále. Ano, sakra, jsou dokonce algoritmy, pluginy, které mění rozměry prohlížeče o pár pixelů, aby nebylo možné zjistit „fingerprint“ prohlížeče a nějak vás identifikovat.
Mám vše. Pokud máte nějaké dotazy – dejte vědět. Tady je odkaz na prezentaci.
Dotaz z publika (Z): – Řekněte prosím, z hlediska používání „Tora“, z hlediska sledování provozu… Doporučujete to?
Skrýt se je těžké, ale možné.
ACH: – "Tor"? "Tor" ne, vůbec v žádném případě. Pravda, nevím, jak to je v Bělorusku – v Rusku se tam rozhodně nedá vstoupit, protože prakticky většina „grace nodů“ ověřeně náhle přidává nějaké balíčky k vaší dopravě. Nevím, jaké, ale pokud se podíváte: jsou tu „nody“, které označují dopravu – není jasné, kdo to dělá, za jakým účelem – ale někdo to označuje v hlavičce, aby bylo později možné pochopit. V Rusku se teď veškerá doprava ukládá, i když je uložena v zašifrované podobě, a všichni zpochybňují „balík Jaroje“ ohledně toho, že se ukládá zašifrovaná doprava, ale zůstává označená, to znamená, že ji nelze použít, dešifrovat ji nelze...
Z: – V Evropě se už dávno ukládá, asi deset let.
ACH: – Ano, rozumím. Všichni se tomu smějí – jako, uchováváte https, které nelze číst. Obsah přečíst nelze, ale pochopit, odkud balíčky šly určitými algoritmy, lze – podle hmotnosti balíčků, podle délky a tak dále. A když máte všechny poskytovatele pod dohledem, máte samozřejmě veškeré trasové zařízení a všechny pasy... Takže, rozumíte, o čem mluvím?
Z: – Který prohlížeč doporučujete používat?
ACH: – Pro "Tor"?
Z: – Ne, vůbec.
ACH: – No, nevím. Já ve skutečnosti používám "Chrome", ale výhradně proto, že má nejoblíbenější vývojářskou platformu. Pokud bych potřeboval někam zajít, půjdu do nějaké kavárny. Opravdu, tam se nestojí přihlašovat na skutečnou SIM kartu.
Z: – Mluvili jste o nějakých studentech. Vy někde učíte nebo vedete nějaké kurzy?
ACH: – Ano, máme magisterské programy v oblasti datové žurnalistiky. Učíme novináře sbírat a analyzovat data – občas dělají podobné výzkumy.
Bezpečné aplikace neexistují
Z: – Na "Facebooku", "Vkontakte" není bezpečné komunikovat s přáteli, abyste později nedostali kontextovou reklamu. A jak zvýšit bezpečnost?
ACH: – Otázka je, co považujete za přijatelnou úroveň bezpečnosti. V podstatě není slovo „bezpečný“. Otázka je, co považujete za přijatelnou. Někteří považují za přijatelné sdílet intimní fotografie přes „Facebook“, zatímco někteří zaměstnanci bezpečnostních služeb si myslí, že všechno, co bylo řečeno ústy, dokonce i nejbližšímu člověku, je už v zásadě nebezpečné. Pokud nechcete, aby sociální síť o tom něco zjistila, pak ano – lépe o tom nepsat. Neznám žádné bezpečné aplikace. Bojím se, že neexistují. A to je normální z pohledu toho, že každý vlastník jakékoli aplikace ji musí nějak monetizovat, i když je ta aplikace bezplatná nebo jde o nějaké médiá. Vypadá to jako bezplatné, ale i tak potřebuje přežít na něčem. Takže nic bezpečného neexistuje. Musíte se jen rozhodnout, co vám vyhovuje.
Z: – A co používáte?
ACH: – Sociální sítě?
Z: – Z messengerů.
ACH: – Z messengerů používám hlavní státní messenger Ruské federace – „Telegram“.
Z: – „Viber“. Je bezpečný?
ACH: – Poslouchejte, v messengerech se moc nevyznám. Omlouvám se, nevěřím na zabezpečení ani na nic jiného, protože by to bylo asi velmi podivné. Ačkoliv „Telegram“ je prý open source a jeho šifrovací algoritmy jsou veřejné. Ale to je také taková záludná věc, protože klient je open-source, ale servery nikdo neviděl. Myslím, že ne: ve „Viberu“ je hodně spamu, botů a tak dále. Kdo ví. Mně se zdá, že to všechno nefunguje moc dobře.
Kdo je nebezpečnější – korporace nebo stát?
Moderátor (M): – A mám k tobě takovou otázku. Podívej, několikrát jsi to zmínil – že stát… Příliš mnoho dat – to není moc dobře… Korporace mají příliš mnoho dat. No, to je prostě život, že? Tak koho se bát víc – korporací nebo státu? Kde jsou úskalí?
ACH: – To je velmi složitá otázka. Hranice mezi tím. Složitá etická bariéra. Člověku, pokud se nemá čeho bát, pokud neporušil zákon, proč by vlastně potřeboval soukromí? Ačkoli to tak nevidím – tak to vidí stát. Možná na tom je kousek pravdy. Poslouchej, obávám se nejvíce hackerů – takovéhle hrůzy. Ve skutečnosti největší hrůza, kterou jsem v životě viděl (v rámci všech těchto témat): asi před jedním a půl až dvěma lety chytli v Moskevské oblasti pedofila a během vyšetřování mu na počítači našli několik příruček k Pythonu, skripty, API VK. Shromažďoval účty dívek, analyzoval, které z nich jsou poblíž, shromažďoval obsah, který… V podstatě víš, co myslím. To je ta největší hrůza, kterou jsem viděl. A toho se skutečně obávám, že v nějakém hezkém okamžiku by někdo mohl něco podobného udělat.
Ještě jeden malý „offtopic“: Evropská organizace pro státní bezpečnost minulý rok zveřejnila zprávu, že počet krádeží z bankovních účtů, kdy byl prolomen tajný dotaz, vzrostl zhruba o 20 nebo 25 procent. Zamyslete se teď nad svým tajným dotazem v bance, a přemýšlejte, zda bych na něj mohl zjistit odpověď z veřejných zdrojů. Pokud tam máte dívčí příjmení matky nebo oblíbené jídlo… Prostě lidé analyzovali účty, na základě toho chápali, jaké má přezdívku jejich oblíbený mazlíček – nějak tak…
Z: – Říkali jste, že společnosti, korporace shromažďují potřebné informace pomocí algoritmů? Určitě víte jak?
ACH: – Byla tu skupina lidí, kteří nějakou dobu procházel fotografie přes speciální filtr, aby tento filtr rozbil analýzu obrazů, takže by nebylo možné tyto lidi poté identifikovat. Uvedl jsem vám příklad, že „Facebook“ bojoval s kryptografií zpráv. A pokud se tato věc objeví a získá masový charakter, sociální sítě s tím jistě budou bojovat. Navíc, rozpoznávání obrazů nyní funguje velmi dobře, a to hraničí s úrovní potřebnou k „prolomení“ této fotografie (abychom „prolomili“ algoritmus, který rozpoznává tyto vzory) – pravděpodobně na ní už nebude nic jasného.
Různé glitch filtry fungují dobře, pokud je to silné přímé posunutí poloviny fotografie. Váš účet pak nabude všechny barvy LSD. Teoreticky nepovažuji za příliš hrozné, pokud například Facebook zjistí, jaké auto mám – pravděpodobně pokud se do auta nepřihlašuju přes Facebook.
Zákon o zapomenutí funguje, ale ne na internetu
Z: – Setkali jste se někdy s uživatelem, který by vás nutil respektovat ho, odstranit, získat přístup. Pracujete s velkými objemy dat, jistě na to upozorňujete. Lidé se na vás mohou obrátit. Kolik procent?
ACH: – Teď vám to povím. Teď to bude opravdu zajímavé. Teď spočítám, kolik lidí se dostane, protože po akci vždy 15-20 % přijde a vyplní formulář na odstranění dat – to se stává. Odhadem je to někde kolem 7-8 % uzavřených účtů, které neanalyzujeme, a přibližně 5 lidí ze tisíce, kteří žádají o odstranění svých dat. To je velmi málo, i podle mého skromného názoru.
Problém je následující: existuje taková věc jako zákon o zapomenutí. Ale v Rusku se zákon o zapomenutí právně uplatňuje pouze na vyhledávače. Přímo se tam píše: vyhledávače. A to je pouze odstranění odkazů na materiály, nikoli samotných materiálů. Skutečně, abychom něco odstranili z internetu, budeme muset všechny tyto zdroje obejít, takže tomu v podstatě nevěřím. Snažíme se uživatele varovat, že by měli nejprve přemýšlet, než publikují.
Zatím je tento procentuální podíl velmi malý – 5-7 lidí ze tisíc. Mimochodem, o zákonu o zapomenutí: všichni znají ten skvělý případ „Sečin proti RBK“. Zákon o zapomenutí zafungoval, článek byl odstraněn, ale je všude. Chápejte, že pokud se něco někdy dostalo na internet, už to tam nikdy nezmizí.
Uživatelé se odstraňují, ale identifikují se podle typického chování.
Z: – Nezdá se vám, že lidé, kteří odstraňují své účty a snaží se stát se „černou dírou“, budou v nevýhodnějším postavení v porovnání s ostatními ekonomickými agenty?
ACH: – Pravděpodobně ano — tato situace bude nevýhodná pro ně samotné. Existuje spousta různých slev a nabídek, které závisí na nich. Ale čistě teoreticky, pokud někdo nyní smaže účet… Je populární mezi extremisty, když smažou účet a vytvoří falešný, ale nadále interagují se stejným obsahem — toho člověka, opět, lze identifikovat (zejména pokud je to v rámci jedné sociální sítě, z jednoho počítače — to je vůbec otázka); elementárně podle modelu spotřeby obsahu lze toho člověka najít, pokud je takový úkol stanoven.
Doufám, že během následujících 5 let vznikne nějaká technologie monetizace těchto dat, kdy by lidem skutečně mohli zaplatit peníze — ty sám zaplatíš a moje tvoje data používat nebudeme. Ale myslím, že pokud by v nějakém „Instagramu“ zavedli placené předplatné, nikdo by ho nevyužil, takže alternativa by byla platit uživatelům za jejich data. Ale to nebude hned, protože lobbování mocných korporátních kluků nedá takový zákon schválit, ačkoliv by to bylo fajn. Ale jde o to, že není možné vyhodnotit skutečnou hodnotu dat jednoho člověka v nějakém konkrétním okamžiku.
„Facebook“ – děraví kluci
Z: – Dobrý den. Před nedávnem se objevila zpráva, že „Facebook“ má v úmyslu integrovat všechny své projekty, včetně „Instagramu“ a „Facebooku“, „WhatsAppu“ a tak dále. Jak se na to díváte z hlediska osobních dat, když na mém smartphonu tyto programy existují jakoby odděleně, ale přesto patří Facebooku?.. Co bude dál?
ACH: – Rozumím. Právně už tak či tak patří „Facebooku“ a může je bez omezení spojovat uvnitř sebe, takže si myslím, že se nic nezmění. Jediná věc, co nyní stačí, je hacknout jednu aplikaci, abychom získali všechno. A „Facebook“… Doufám, že se dívají. Opravu děraví kluci obecně ve všech směrech.
V poslední době se objevilo mnoho informací o únikách dat z "Facebooku". Neděje se to jen proto, že "Facebook" začal náhle ztrácet tato data, ale protože GDPR nyní donutí společnost varovat předem. A největší pokuta se uděluje v případě, že dojde k úniku, a společnost to zatají, a proto "Facebook" o tom nyní mluví. To neznamená, že předtím tyto úniky dat neexistovaly.
Z: – Dobrý den. Mám otázku ohledně uchovávání dat. Nyní každé státní místo zavádí zákon, podle kterého musí být data občanů uchovávána na území tohoto státu. Jaká podmínka musí být splněna, aby byl tento zákon dodržován pro nějakou mezinárodní aplikaci?.. Například "Facebook": databáze je jedna…
Jakým způsobem, abychom splnili tyto podmínky?
ACH: – Poslouchejte, právně vám stačí si pronajmout server v této zemi a uložit na něj něco. Problém je v tom, že neexistuje kompetentní kontrolní orgán. Data "Facebooku" v Rusku neleží. Roskomnadzor s nimi bojuje, bojuje, bojuje… "Facebook" má část serverů, kde je rozhraní tohoto "Facebooku", a není možné zkontrolovat, kde skutečně data leží, jak se synchronizují.
Z: – Ověřit provoz?
ACH: – Ověřit provoz? Ano. Ale provoz může být později směrován na nějaký hlavní uzel. Navíc mezi servery může být něco jako VPN nebo něco jiného. Teoreticky je nemožné zkontrolovat, že systémový administrátor v jednom krásném okamžiku nevstoupí na tento server a něco odtud nevezme. Tento zákon není udělán za účelem ochrany dat, ale aby společnosti zakládaly zastoupení, platily daně a uchovávaly tohle pevně na území státu. Ale podle mého názoru je to velmi podivná iniciativa, abych byla upřímná.
Z: – To znamená, že stačí fakticky zkontrolovat rozhraní?
ACH: Může k vám někdo přijít a zkontrolovat, že tam máte data. Ale můžete ukázat nějaký "Excel", a nikdo to nebude moci ověřit, málokdo to bude kontrolovat. Teď se jednoduše dívají podle IP adres: co IP adresa, která je vázána na doménu, je na území země — dál to neprověřují. Teď asi budou chtít ke mně přijít zkontrolovat.
Není žádná služba, které byste mohli důvěřovat na 100 %, ale slušní lidé se nemají čeho bát.
Z: – Taková zpráva, která byla mnohokrát přetištěná: z "Microsoftu" někdo zveřejnil, vytvořil službu pro kontrolu svých…
ACH: – Něco jako: neunikly vaše hesla? Ve skutečnosti po stejných únikách na "Facebooku" vždycky "Facebook" spouští nějaké záložní weby, kde si můžete zkontrolovat, jestli jste se nedostali do této databáze – opět, GDPR to vyžaduje. To znamená, že pokud něco takového neuděláte, nebude to pro vás příliš dobré. Proto všichni nyní představují tyto projekty jako "to je naše iniciativa"; ve skutečnosti to vyžaduje zákon. Opravdu je to skvělá věc, ale moc bych nevěřil podobným službám pro kontrolu, pokud tam musíte posílat něco složitějšího než vaše heslo, protože hodně lidí má stejná hesla.
Z: – Tam prostě zadáte e-mail, a už vám říkají, kolikrát byl zkompromitován…
ACH: – Ve skutečnosti takovým věcem nedůvěřuji, protože spojit vás s tímto prohlížečem nebo s reálným účtem je velmi snadné. Zejména pokud používáte služby těch samých lidí, kteří tento web spustili. Bylo to jako minulý rok, kdy "Facebook" poslal: pokud vaše intimní fotografie unikly na "Facebook", pošlete nám je a my zkontrolujeme, kde byly zmíněny.
Nevím, co to je za PR noční můru a kdo to na "Facebooku" vymyslel, ale skutečně se to stalo. Chtěli porovnat, jestli někdo nepřeposílal vaše nahé fotografie v soukromých zprávách. V zásadě to sleduje dobré cíle, ale maximálně divné. Tomu bych nedůvěřoval.
Z: – A ještě jedna otázka. Jak vysoká je rizika úniku dat pro běžného uživatele? Rizika poškození z úniků.
ACH: – Rozumím. Záleží na tom, jaká data uchováváte. Myslím, že rizika nejsou příliš vysoká. Nejhorší je, když uniknou e-maily a hesla, a máte toto heslo všude – pak ano. Já vůbec považuji, že uživatelé se nemají čeho bát. Ale pokud samozřejmě neukládají nějaké velmi citlivé informace do Gmailu. Bylo spoustu příkladů.
Nejznámější příběh je o „Google“, kdy v Utahu byla unesena holčička, kterou nemohli najít, a v určitém okamžiku jí únosci poslali její fotky v archivovaném příloze. A „Google“, když skenoval tuto přílohu, objevil známky dětské pornografie. Všechny je našli. A oni se dokonce odvážili žalovat „Google“ za to, že porušili tajemství korespondence. Tento proces trval poměrně dlouho. Nicméně považuji za to, že běžnému uživateli se nemusí bát, pokud třeba nezveřejňuje, řekněme, svůj pas na veřejnosti. Je to dvojitý příběh – záleží, jaká data a jaký uživatel. Možná teď – nic hrozného, ale za 15 let, když se stane nějakým úředníkem, tak se nějaké materiály mohou objevit.
Jak se pracuje se státem?
Z: – Děkuji. Mluvili jste trochu o tom, že děláte výzkumy pro stát, státní orgány, služby, pracujete s nimi. Můžete trochu podrobněji vyprávět o nějakých aktuálních projektech? Dokonce více, pokud můžete, o... Dva dotazy: první – aktuální projekty, a druhý – byly nějaké takové návrhy od státních služeb…
ACH: – Nepochybně!
Z: – Ano. Když jste uvažovali: možná, že byste to neměli dělat.
ACH: – Překvapím vás. Všude to vyprávím. S tímto člověkem jsme se na „Twitteru“ dlouho hádali. Z týmu Milonova mi na „Twitteru“ jednou přišla otázka ohledně hledání učitelů, kteří sledují gay porno. Okamžitě jsme řekli, že ne. Ale takové věci se stávají, často přicházejí dopisy a velmi často to souvisí s nějakými opozičníky, protesty. Takovou hloupostí se nezabýváme, už máme hodně problémů. Nestydím se za to.
Naše politika ohledně „státu“ je následující: vyvíjíme software, software pro 3D rekonstrukci, rozpoznávání tváří, analýzu dat. Co konkrétně dělají, je velmi těžké říci, ale z modelů to zahrnuje předpovídání zločinů, to, co souvisí s státní bezpečností uvnitř města, pohyb lidí, geografický marketing a tak dále. Od umístění objektů ve vnitřním městském prostředí po identifikaci pedofilů, násilníků, psychopatů a dalších špatných lidí.
Slibuji, že se nijak nezabýváme opozicí. Možná nám o tom neříkají přímo do očí. Ve skutečnosti je to však velmi velký problém – spolupráce s „vládami“, protože ne vždy vysvětlují, jaký úkol to je. Říkají ti: udělej software pro identifikaci hospodyň, a přitom mají v úmyslu dělat něco úplně jiného – všechno tam selhává.
Kromě toho je stát velmi zajímavý a podivný klient, který se neustále snaží do tvého výzkumu nacpat nějaké drobnosti, a jejich přístupy a porozumění strojovému učení jsou často velmi povrchní. Například mám přednášku o chybách strojového učení. Vždy tam uvádím příklad, kdy jsme dělali systém predikce kriminality v Moskevské oblasti, a zadavatel nám řekl: tam, kde prodávají melouny, prosím, zvyšte koeficient čtyřikrát. A pak se ukázalo, že místa prodeje melounů jsou vůbec nekriminální. To jsou prostě chyby, když člověk vkládá své myšlenky.
Zkrátka, stát je zajímavý klient, máme tam spoustu zajímavých úkolů. Většina se týká podobných modelů predikce něčeho. Nejčastěji je to nějaká městská infrastruktura.
Z: – Existují nějaké zdroje, kde se lze sledovat vaše výzkumy? Je toho hodně. Jak chápu, spousta informací zůstává ještě mimo. Vaše stránky, něco dalšího…
ACH: – Nemám osobní stránky.
Z: – Asi už zavřeli „Facebook“?
ACH: – Před asi čtyřmi měsíci byla taková situace: všichni nám poslali velké dopisy, že „jste zvrhlíci, prodáváte vše Kremlu, porušujete všechna pravidla „Facebooku“. Dokonce i mému psu poslali dopis: „Ahoj, Marso bledě modrý, sbíráš data!“ A tak dále. Poslechněte, teď máme rebranding. Za dva až tři týdny se náš web a všechno aktualizuje. Na tom se dá sledovat. Ale jsme v tomhle prostě velmi leniví.
Jak lze určit spolehlivost VPN?
Z: – Když jste říkali, že byste šli do kavárny, aniž byste se tam identifikovali svým telefonním číslem. A pod čím?
ACH: – Není možné mluvit – pod cizím, protože to je výzva k porušení pravidel identifikace. Ne-ne-ne. Dělám si legraci. V současnosti prakticky všechny kavárny identifikují všechno možné – tam není jen telefonní číslo, ale spousta pixelů, identifikace zařízení, MAC adresa a co tam ještě není, aby to následně mohlo být použito – od reklamních cílů až po operativně pátrací akce. Proto je třeba s takovými věcmi zacházet velmi opatrně. Můžete nejen něco napsat, ale z vašeho zařízení může napsat někdo jiný, a pak se něco stane.
Možná jste viděli příběh o tom, jak se nyní provádí vyšetřování, jak (v Bělorusku, mimochodem, také) se pronajímají účty na Facebooku, jako pro reklamu kasin. A ve skutečnosti není jasné, k čemu, navíc se poskytuje přístup k počítači. Takovýmto věcem je třeba se maximálně vyhnout. Pokud se rozhodnete anonymně něco napsat… Šel bych do kavárny a zapnul bych nějaký skvělý VPN. Ale ve skutečnosti (opět, nikomu neukazuji prstem), když budete mít účet v VPN, zkontrolujte, komu ten VPN patří, které společnosti, komu ta společnost patří a tak dále. Protože většina hráčů na trhu VPN nejsou zrovna dobří lidé.
No dobře, v Bělorusku to není důležité. V Rusku se dobré VPN kontrolují podle toho, zda je tam zablokováno azino777, nebo ne. Protože pokud ne, je velká pravděpodobnost, že tento VPN servis bude během týdne uzavřen. Takže kontrolujte vše.
O automatickém odstraňování zpráv
Z: – Tolik jste mluvil o osobních zprávách, že je sociální sítě čtou… A například Facebook má tajné osobní zprávy, které lze nastavit (kromě toho, že jsou ještě šifrované) na zničení. Jak to můžete okomentovat?
ACH: – Žádným způsobem. Za prvé, nejsem superprofesionál v kryptografii, a za druhé, problém je v tom, že servery Facebooku nikdo neviděl, nikdo neví, jak to tam všechno funguje. Řekněme, že v nějaké specifikaci je napsáno, že je to end-to-end šifrování, ale může to takové být, nebo to může být end-to-end, ale s nějakými nepřesnostmi nebo ještě s něčím jiným. Takovou věc má smysl použít, pokud máte strach, že ten člověk, kterému to posíláte, se v nějakém okamžiku pokusí něco udělat.
V „Telegrame“ existuje pohodlná funkce pro odesílání intimních fotografií, které se samy mažou: když se pokusíte udělat screenshot, automaticky se odstraní. Na „iPhonu“ se zase objevila funkce nahrávání videa ze obrazovky, a tak lze nahrávat video ze obrazovky a tak dále… Často mi lidé posílají materiály s touto funkcí (samoodstranění) – nikdy nechápu proč. Vždyť si to mohu hned stáhnout! To už je na vaší úvaze.
Sociální rating v Číně: mýty, realita, perspektivy
Otázka: – Omlouvám se, že to trochu přeháním, i když VPN nepotřebuji (mimochodem, máme vyzkoušenou VPN). Ale jde o otázku etiky. Máme skvělého přítele z Kazachstánu, přivezli jsme ho s prezentací. Někdy jsme seděli na nějaké konferenci, kde se vyprávělo o různých věcech, a on říká (a zkoumá kybernetickou bezpečnost, což je čistě technická oblast, zajímá se o technická řešení): „Tak, vrátil jsem se z Číny. Dělají tam úžasnou věc – sociální rating“. Zkoumal jsi něco v této oblasti, jak to funguje u nich?
ACH: – My v Rusku prodáváme scoring, o tom vím hodně.
Otázka: – Tak já mám otázku, aby jsi o tom víc pověděl – o tom, co nás možná všechny čeká v budoucnu. Ale také otázka etiky. On tak radostně říkal: „Zajímavé inženýrské řešení!“ Máš svůj etický kodex?
ACH: – Ano, mimochodem, máme. Před dvěma lety jsme ho zavedli – právě po příběhu s Milonovem jsme se rozhodli nějak hodnotit tyto projekty. Pokud se vrátíme k ratingu: to je jedna z velmi populárních otázek, protože média velmi silně démonizují celou tuto záležitost – že lidi nenechávají vycestovat do zahraničí, zabíjejí je laserem z Měsíce. Znovu vám přináším inženýrské aspekty…
Pokud začnete kopat do tohoto příběhu a podíváte se, jaké parametry vstupují do tohoto sociálního hodnocení, pochopíte: zahrnují se sem exekuce, trestní rejstřík, úvěrová historie, což je technicky vzato opravdu skvělé. Žijete legálně, žijete dobře – dostanete nízkou úrokovou sazbu na úvěr. Máte důležitou sociální práci (například učitel) – dostanete pořádné bydlení. Zpočátku to všechny zmátlo, protože se objevily zprávy, že pokud budete špatně psát o prezidentovi, vaše hodnocení klesne. Ačkoli nebyly žádné důkazy. Na obhajobu hodnocení řeknu, že nikdo neviděl algoritmus a jaké parametry se tam vlastně používají.
Poté se objevila informace, že více než milion lidí bylo zakázáno vycestovat do zahraničí. Ve skutečnosti to není zcela přesné vyjádření. Když dostanete vízum (například do Evropy), vízum se vám uděluje na základě "70 eur za den" (něco takového); pokud nedáte potvrzení o příjmu, vízum nedostanete. V Číně se tamní ministerstvo zahraničí rozhodlo jít ještě dál: jednoduše okamžitě varovali lidi, kteří nemají dostatek peněz, že pokud chtějí cestovat do zahraničí, nebudou mít peníze na to. To pak vedlo k myšlence, že chudé lidi nepouštějí do zahraničí. Je to složitá etická záležitost, nachází se na hranici určité domněnky viny-neviny, ale fakticky nemohu dát hodnocení.
Lidé zabíjejí, ne zbraně.
Hlavní, co je třeba pochopit: všechny tyto algoritmy, které společnost odsuzuje – problém není v algoritmech. Algoritmy jednoduše umožnily velmi rychle analyzovat velký objem lidí, a tento sociální problém se dostal na vrchol. To znamená, že bot "Microsoftu", který se naučil na tweetech a stal se rasistou – to není chyba bota, ale tweetů, které četl. Nebo firma, která se rozhodne vytvořit model ideálního zaměstnance na základě analýzy aktuálních zaměstnanců, zjistí, že je to bílý muž s vysokým vzděláním.
To není model - rasista, sexista nebo něco jiného; to jsou lidé, kteří najali tyto lidi (ať už měli pravdu nebo ne - to není důležité). Všechno to hraničí s tím, že umělá inteligence je zlá, špatná a zničí svět, ale ve skutečnosti… Kdyby například nyní ruská vláda přijala zákon, že opozičníci nemohou mít zdarma vzdělání, a napsali by software, který by je identifikoval a zbavil tohoto vzdělání - to přece nebude chyba algoritmu. Ačkoli nikdo mou myšlenku nepodporuje, protože když říkám, že ne zbraně zabíjejí lidi, ale lidé, všichni na mě křičí 'jsi fašista' a podobně.
Takže to je opravdu velmi skvělé inženýrské řešení. Je potřeba pochopit, proč to například v Rusku nebude. V [Bělorusku] to nebude, protože jste evropský stát, máte to tu v pořádku. V Rusku to nebude z mnoha důvodů: zaprvé, nemáme takovou úroveň důvěry v právní systém jako v Číně; naše digitalizace není na stejné úrovni. Proč to v Číně fungovalo? Protože vláda: mají digitální medicínu, digitální pojištění, digitální policii. A někdo chytrý si řekl: pojďme to všechno spojit a udělat - v podstatě je to program loajality. Tam je více výhod než nevýhod.
Takže ano - myslím, že to v Rusku nezačnou. Nejdříve se musí digitalizovat celé Ministerstvo zdravotnictví (a to je úkol na 50 let) - někdo by na to musel obětovat život, aby to udělal, a nikdo to samozřejmě dělat nebude. Na druhou stranu, ruské banky jsou ve světě na špici v hodnocení lidí, dělají, co jen mohou: 'Aha, muž? Líbí se ti mladé dívky? Tady máš kreditní kartu pro milenku'. Všechno je tam velmi pokročilé. Například v Americe je prakticky všude podobné hodnocení zakázáno, protože tam existují zákony, které stanovují, že banky ti musí vysvětlit proč: 'Aha! Protože společnost Social Data Hub uchovává historii po dobu 10 let, a vydala ti to a to o tobě!' A zkusíš žalovat jak jedny, tak druhé! A u nás podobné příběhy neexistují.
Proč se statistika zamlčuje?
V zásadě podporuji scoring, pokud to není nějaký „totalitární“ systém. Ale celá otázka spočívá v tom, že není možné to předpovědět, zhodnotit. To je nejkomplikovanější otázka z hlediska etiky velkých dat – předpovědět sociální efekt, který se objeví za 15 let. Já například dlouho naléhám na prokuraturu, aby zveřejnila informace o kriminalitě. Údaje o kriminalitě jsou jedním z klíčových kamenů jakékoli statistiky; všichni to moc chtějí. Ale například v Rusku se statistiky o kriminalitě nezveřejňují z velmi prostého důvodu: bojí se narušení demografie měst. Domnívají se, že lidé přestanou žít v některých městech, dokonce i uvnitř města se to nějak rozloží. Z toho samého důvodu se nezveřejňují statistiky o EGЭ – jak chápete, do některých škol lidé půjdou, do jiných nebudou.
Možná je to správně, možná ne, ale bylo mnoho projektů... Například, Yandex v určitém období (opět podle „žlutých“ drbů, neviděl jsem, nevím) se rozhodl přidat do modelu predikce „realit“ počet útoků na taxikáře, tedy jakýsi přístup k úrovni kriminality, počítajíce počet stížností taxikářů na to, že je někdo obtěžoval, vyhrožoval a tak dále. Rychle to ve firmě zastavili, aby takové věci nedělali.
Z: – Mluvíte se studenty, komunikujete s publikem ve své zemi, u nás v zemi. Všimli jste si podle počtu otázek z publika, že jsme ještě ve stádiu vývoje, kdy si myslíme, že potřebujeme soukromí, že se můžeme skrýt před někým, chránit svá data, aniž bychom je poskytli, skrývali, šifrovali. Pokud Evropská unie už přešla na další fázi, fázi soukromí, která zahrnuje kontrolu nad daty – přimět všechny, kdo shromažďují vaše data, abyste měli účinnou kontrolu nad nimi... Podle výborů podle regionů, podle sociálních vrstev – která skupina občanů, lidí, již přešla na druhou fázi, nebo kdo ještě zůstává většinou na první?
Kdo má největší obavy o bezpečnost osobních údajů?
ACH: – Totální většina… Řekl bych: všem je to jedno! To teď zajímá top management. Ve městech v Rusku – to je Moskva a Petrohrad. Aktivní centrum – to jsou IT specialisté, designéři, kreativní profese, všichni, kdo umí filtrovat obsah, získávat nové znalosti, s vysokou úrovní zájmu o mezinárodní problémy. Většinou to jsou top manažeři; ano, IT specialisté (kromě odborníků na bezpečnost); bankéři – to znamená, že to jsou lidé, na které může únik dat nějakým způsobem zapůsobit.
Pokud například ukradnou data nějaké hospodyňky z nějaké Kalugy: pravděpodobně se jí v životě nic zásadního nezmění, pokud jí někdo ukradne, například, přístup k gmailu, kde ukládá přístup k seriálům. Otázka je v tom, že zákon všechny chrání stejně, a to je správně, protože… z pohledu zákona jsou si všichni rovni – ha-ha… ale hlavní je, že není možné pochopit, kolik budou která data stát, dokud tato data nezmizí – bohužel, je velmi obtížné to předpovědět. Ale většinou jde o takovou kategorii občanů.
Telefon – do fólie!
Jednou jsem v životě viděl hromadné uchovávání všeho a všech v dvou firmách. Jedna je největší integrátor v oblasti informační bezpečnosti: tam je všechno, až po USB, přilepené lepidlem uvnitř kanceláře; a lidé tam chodí podobní – potkal jsem tam člověka, který měl telefon v sáčku z fólie. Zjistil jsem, že existují firmy, které prodávají speciální sáčky. A podruhé jsem podobnou situaci viděl v "Bloombergu" u zaměstnanců: stáli jsme na kuřárně, a někdo se někde fotografoval, a jeden z nich – "Tak, aby nás nebylo vidět v pozadí!" Přemýšlel jsem: "O, nic moc!"
"Raději my než FSB"
Nechtěl bych říkat, že to je méně než jedno procento populace, ale bohužel, v celkové masě je prakticky všem všechno jedno. Ale na druhou stranu, mám skandální službu na kontrolu chování nezletilých (už jsme ji spouštěli pod sloganem "Raději my než FSB"), abychom varovali rodiče, že nezletilý dělá neplechu, než náš algoritmus, umístěný kdesi, k němu někoho pošle.
Při ověřování dítěte je potřeba poslat sken pasu (což je v podstatě normální praxe), ale my jsme napsali, že můžete vystřihnout číslo pasu, protože nás to nezajímá; zajímají nás pouze vaše fotka, hologram a jméno-příjmení. Prakticky 100 % lidí – no, asi 95 pasů ze 100 – lidé v „Photoshopu“ pečlivě vystřihli tato čísla a poslali pouze potřebnou část. To znamená, že pochopili – aha, když to nepotřebují, tak to nemusí posílat. Podle mě je to skutečný pokrok, který je k tomu donutilo nedůvěra k nám.
Z: – Výběr je určitý. Jsou to lidé, kteří se obracejí, jsou už pokročilí.
Lidé nechtějí, aby je sledovali, ale nečtou dohody.
ACH: – Ano. A druhá podobná věc: na konci loňského roku jsme spustili aplikaci pro seznamování (brzy ji znovu spustíme). Měli jsme kontrolní skupinu o 100 tisících lidech. A podle přístupů GDPR bylo v osobním účtu 15 zaškrtávacích políček – dávám svolení k analýze interakce s rozhraním, k přístupu k mé demografii, k přístupu k trojrozměrné rekonstrukci obličeje, k přístupu k mým osobním zprávám a tak dále. Maximálně jsme podrobně popsali všechny možné přístupy. Dokonce někde existuje statistika, kdo co zaškrtl. 98 % nechalo všechna políčka nastavená jako výchozí (přičemž viděli všechno na této stránce, ale bylo jim to jedno), a těch 2 % bylo zajímavé analyzovat s ohledem na to, co bylo pro lidi prioritní.
Všichni zrušili povolení pro přístup k osobním zprávám a prakticky všichni zrušili povolení pro přístup k údajům z sexuálního testu (co se jim tam líbí, co tam vyplňovali, své úchylky – jen si dělám legraci). Ale to lidi popohnalo, že jim rozhraní říká – pečlivě si to přečtěte, dává možnost posunout tuto dohodu až na konec. Ale to bylo uděláno výhradně proto, že to byl výzkumný projekt a všichni byli varováni. Žádná společnost, včetně nás, když vydá tuto aplikaci do veřejného přístupu, nebude nutit člověka číst tuto zprávu až do konce, protože… no, omlouvám se, tak to prostě funguje.
Pokud přišli k nám s vědomím toho, čemu se firma věnuje, a vědí, že přišli do služby, která jim bude nabízet kandidáty na základě toho, jaké porno mají rádi – dokonce i na základě toho, pouze 2 % si přečetli tyto zaškrtávací políčka a něco vůbec udělali. A prakticky nikdo z nich neodškrtnul políčko "Přístup k provozu a údajům o návštěvách jiných webových stránek". Všechny zajímaly osobní zprávy.
Odhalení a zatýkání za lajky – zajímavé zákony bratrských republik.
Z: – Mám otázku ohledně ochrany údajů. Můžu nosit telefon ve fólii, tvářit se, že je nemám… Pak se ukáže, že jako chráníš, chráníš, ale pak musíš své údaje dát státu, protože si to od tebe vyžaduje, a nemůžeš… A ukazuje se, že všichni státní dodavatelé jsou úplně děraví. A v Bělorusku je k tomu ještě taková norma: pokud zkontroluji bezpečnost svých osobních dat (něco upravím a získám k nim přístup), tak hned jsem zločinec. Stejný paragraf byl použit, aby obvinil novináře v „případu BelTa“, že získali neoprávněný přístup k datům (můžete si to sami přečíst). Takže, můj dotaz: jsou taková omezení efektivními opatřeními pro soukromí, vůbec pro bezpečnost osobních údajů?
ACH: – Rozumím. V Bělorusku je spousta velmi zajímavých zákonů. Nedávno jsem se dozvěděl… Vždycky si dělám legraci z přenosu nahoty, ale u vás je to, jak se zdá, zakázáno.
Z: – Ukázání je zakázáno!
ACH: – To je vůbec nějaké divné.
Z: – Můžeš se dívat, přenášet se nesmí, lajkovat se nesmí. Společně se dívat nesmí!
ACH: – Odpovím na vaši otázku. Vrátím se k tématu "zadržení za lajky" v Moskvě. V Rusku je to téma číslo jedna. Nevím, jak v Bělorusku, ale upřímně, stát… Pokud se analyzuje statistika, v Moskvě je 95 zadržení za lajky z 100 – to je, když si lidé stěžují na lidi, někdo podává žalobu na jiného. Stát velmi zřídka zahajuje takové případy. Myslím, že tento zákon je naprosto absurdní. Neznám žádného reálného zločince, kterého za to zatkli. Ale toto opatření se používá, aby na někoho něco uvalili. Myslím, že je to maximálně divné. Domnívám se, že to někdy zruší.
Z: – Tomu se říká udržovat pod poklopem.
ACH: – No, okay… I can’t say. I'm not entirely a government monster, but my perception is somewhat skewed, you know, by the people who come to us and say, "My child is missing, help me find them." I say, "I can't do anything without a court order." You look at these parents, who would give anything in their lives, would provide any access to any data — just to solve their problem. So it's very difficult for me to engage in this kind of discussion: on one hand, I think the government does the right things when it captures real people, but on the other hand, giving uncontrolled access is a terrifying story.
Returning to your point, sorry for the digression. I don’t believe in foil bags at all. Having a mobile phone and wrapping it in foil seems like nonsense. For what purpose? So that the phone doesn’t connect to Wi-Fi? It’s easier to just turn it off. So that the mobile operator doesn’t identify you? They can still triangulate the signal somehow. For me, the only effective security measures are a protected storage, like a local network — maybe in an apartment, where you can store something.
Z: – The question is about legislation. Is the legislation repressive towards a person who wants to check their data?
ACH: – I understand, yes. I didn’t even know about this thing, so I can’t tell you exactly. There’s nothing like that in Russia, although it’s all very complicated there. Probably, you can consult qualified lawyers, and perhaps there’s some loophole — maybe file in a European court… No? I can't tell you about that. My knowledge of law is superficial, at the level of a company manager. I know what you shouldn't do so that no one tells you anything. It's, of course, very sad.
Z: – I mean, in other countries (for example, in the States) it's a normal practice that you can test some vulnerability and then report it, but not disclose it.
ACH: – Yes, "bug bounty". I understand, it exists.
Z: – And companies have no mechanism to get rid of you because it’s cheaper.
ACH: – Tato věc se také nachází na hranici zákona. Záleží na tom, jak tuto zranitelnost naleznete. Myslím, že v Americe bylo za tuto zranitelnost vyplaceno velké množství peněz v rámci dohod o mlčenlivosti a pod hrozbou žalob. Taky bych to nedokázal posoudit. Vždy riskujeme něco takového. Moji zaměstnanci párkrát našli podobné zranitelnosti v různých státních aplikacích – vždy říkám: „Raději pošlete anonymní dopis, než abyste jim řekli, že tam je díra.“ A potom přijde nějaký vědecký institut, který tuto službu poskytl… Nechci to tady rozebírat dál.
Není možné ověřit čestnost podnikání: nevhodné – nepoužívejte.
Z: – Mám takovou otázku. Říkali jste, že jste provedli experiment – mělo být 15 zaškrtávacích políček... Představme si, že uživatel všechna zaškrtávací políčka zruší. Kdo a jak to zkontroluje? Jak to vůbec ověřit?
ACH: – Upřímně vám říkám: nikdo a nijak. Opravu. To, že jste u „Google“ zaškrtli či zrušili zaškrtávací políčko „Zakázat sledování reklamy“, vůbec nic neznamená. Bohužel, i když na „VKontakte“ zakážete indexaci vyhledávačům, vyhledávače to stejně indexují, a pak jednoduše nezobrazují tyto výsledky určitým lidem. To vše je na úrovni nedostatku kompetentních orgánů, které to nemohou ověřit. Navíc, společnosti, které to dělají, jsou soukromé. U „Facebooku“ mají správný nebo nesprávný postoj, ale mají ho jeden: nelíbí se vám – nepoužívejte.
O regulaci
Z: – Mám pouze jednu jednoduchou otázku. Jak se stavíte k otázce regulace zpracování dat a samoregulace?
ACH: – Jako zástupce společnosti považuji, že trhu a podnikání je třeba samoregulace. Věřím, že asociace pro velká data může vše sama zregulovat bez státu. Velmi nedůvěřuji státní regulaci a velmi nedůvěřuji všem příběhům, kdy stát chce něco uchovávat, protože každý případ ukázal, že to je velmi špatné. Někdo určitě přilepí přihlašovací údaje a heslo na žlutý lístek na monitor a tak dál.
Obecně věřím v seberegulaci. Navíc věřím, že během příštích 5 let dosáhneme určité otevřenosti. To už nyní vidíte na novinových zprávách, že je pro stát velmi obtížné lhát uživatelům a uživatelům je velmi obtížné lhát systému. A to je vlastně dobré. Když už máme zaměstnance zpravodajských služeb, kteří dokáží dost dobře vypočítat veřejné fotografie.
To vše vede k poklesu úrovně kriminality. No, čistě matematicky. Pokud někoho zajímá, jak mluvit o snižování úrovně kriminality – existuje spousta různých závěrů, které lze učinit. Obecně jsem pro seberegulaci trhu. Děkuji!
Malá reklama 🙂
Děkujeme, že s námi zůstáváte. Líbí se vám naše články? Chcete vidět více zajímavých materiálů? Podpořte nás objednávkou nebo doporučením známým, , unikátní alternativa entry-level serverů, kterou jsme pro vás vymysleli: (k dispozici varianty s RAID1 a RAID10, až 24 jader a až 40GB DDR4).
Dell R730xd je dvakrát levnější v datovém centru Equinix Tier IV v Amsterdamu? Jen u nás v Nizozemsku! Dell R420 — 2x E5-2430 2.2GHz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB — od 99 $! Čtěte o tom
Zdroj: habr.com
