Deň ochrany osobných údajov, Minsk, 2019. Organizátor: ľudskoprávna organizácia Human Constanta.
Prednášajúci (ďalej len B): – Arthur Khachuyan sa zaoberá... Môžeme povedať „na temnej strane“ v kontexte našej konferencie?
Arthur Khachuyan (ďalej len AH): – Z podnikovej strany áno.
in: – Zhromažďuje vaše údaje, predáva ich korporáciám.
och: - Nie naozaj…
in: – A povie vám, ako môžu korporácie používať vaše údaje, čo sa stane s údajmi, keď sa dostanú online. Pravdepodobne vám nepovie, čo s tým máte robiť. Budeme premýšľať ďalej...
och: - Poviem ti, poviem ti to. Popravde, dlho vám to neprezradím, ale na predchádzajúcej akcii som sa zoznámil s človekom, ktorému Facebook dokonca zablokoval účet jeho psa.
Ahojte všetci! Volám sa Arthur. V skutočnosti robím spracovanie a zber údajov. Samozrejme, nepredávam žiadne osobné údaje nikomu vo verejnej sfére. Žartujem. Mojou oblasťou činnosti je získavanie vedomostí z open source dát. Keď niečo z právneho hľadiska nie je osobným údajom, ale dá sa z toho vydolovať znalosť a urobiť to rovnako hodnotne, ako keby tieto údaje boli získané z osobných údajov. Nepoviem vám nič naozaj strašidelné. Je pravda, že ide o Rusko, ale mám aj čísla o Bielorusku.
Aká je skutočná mierka?
Len predvčerom som bol v Moskve v jednej z popredných vládnucich strán (nepoviem akej) a diskutovali sme o realizácii nejakého projektu. A to znamená, že IT riaditeľ tejto strany vstane a hovorí: „Vy ste povedali, čísla a tak ďalej, viete, 2. riaditeľstvo FSB mi tu pripravilo nótu, v ktorej sa píše, že na sociálnych sieťach je 24 miliónov Rusov. . A vy si poviete – niečo 120. V skutočnosti viac ako tridsať [miliónov] z nás internet nepoužíva.“ Ja hovorím áno? OK“.
Ľudia si skutočne neuvedomujú rozsah. Nie sú to nevyhnutne vládne agentúry, ktoré pravdepodobne úplne nerozumejú fungovaniu internetu, ale napríklad moja matka. Až teraz začala chápať, že v Perekrestoku jej dávajú kartu z nejakého dôvodu, nie pre úbohé zľavy, ktoré Perekrestok ponúka, ale pre to, že jej údaje sa potom používajú v OFD, nákupoch, predpovedných modeloch atď.
Vo všeobecnosti je tu toľko obyvateľov a o takom množstve sú informácie v otvorených zdrojoch. O niektorých ľuďoch je známe len ich priezvisko, o iných je známe všetko, až po porno, ktoré majú radi (vždy o tom žartujem, ale je to pravda); a všetky druhy informácií: ako často ľudia cestujú, s kým sa stretávajú, aké nákupy robia, s kým žijú, ako sa pohybujú – veľa všemožných informácií, ktoré môžu využiť zlí, nie až takí zlí a dobrí ľudia (neviem ani neviem, s akým meradlom teraz prísť, ale predsa).
Existujú sociálne siete, ktoré sú, samozrejme, obrovským súborom otvorených dát, ktoré hrajú na slabiny ľudí, ktorí akoby kričali o súkromí. Ale v skutočnosti je to takto: ak si predstavíte graf za posledných 5 rokov, miera hystérie okolo osobných údajov rastie, no zároveň z roka na rok klesá počet zatvorených účtov na sociálnych sieťach. Možno nie je úplne správne z toho vyvodzovať závery, ale: prvá vec, ktorá zarazí každú firmu, ktorá zbiera dáta, je hlúpo zatvorený účet na sociálnych sieťach, pretože názor človeka vo vnútri jeho zrušeného účtu, ak nemá 100 tisíc predplatiteľov, to naozaj nie je veľmi zaujímavé pre akúkoľvek analýzu; ale su aj taketo pripady.
Odkiaľ o nás získavajú informácie?
Už sa vám niekedy stalo, že vám na dvere zaklopali kamaráti zo starej školy, s ktorými ste sa dlho nerozprávali, a potom tento účet zmizol? Medzi zlými ľuďmi, ktorí zbierajú telefóny, je toto: analyzujú priateľov (a zoznam priateľov je takmer vždy otvorený, aj keď človek zavrie svoj profil, alebo zoznam priateľov možno obnoviť „v opačnom smere“ zhromaždením všetkých ostatní používatelia), zoberú nejakého neaktívneho vášho priateľa, urobia si kópiu jeho stránky, zaklopú na dvere vášho priateľa, pridáte si ho a po dvoch sekundách sa účet vymaže; ale kópia vašej stránky zostane. To je vlastne to, čo chalani nedávno urobili, keď 68 miliónov profilov z Facebooku niekam odletelo - takmer rovnako si všetkých pridávali medzi priateľov, kopírovali tieto informácie, dokonca si s niekým písali do súkromných správ, niečo robili...
Sociálne siete sú obrovským zdrojom informácií, v takmer 80% prípadov sa informácie o konkrétnej osobe nepreberajú priamo, ale z bezprostredného okolia - to sú všetky druhy nepriamych vedomostí, znakov (hovoríme tomu „zlá bývalá priateľka“ “algorithm), pretože jeden z mojich priateľov mi dal tento úplne skvelý nápad. Nikdy nesledovala svojho priateľa - vždy sledovala jeho piatich priateľov a vždy vedela, kde je. To je vlastne dôvod na napísanie celého vedeckého článku.
Existuje obrovské množstvo robotov, ktorí tiež robia všelijaké dobré a zlé veci. Sú neškodní, ktorí si vás hlúpo predplatia, aby vám potom mohli robiť reklamu na kozmetiku; a existujú seriózne siete, ktoré sa snažia presadiť svoje názory, najmä pred voľbami. Neviem, ako je to v Bielorusku, ale v Moskve som mal pred komunálnymi voľbami z nejakého dôvodu obrovské množstvo čudných priateľov, z ktorých každý robí kampaň pre iného kandidáta, čiže absolútne nerozoberajú obsah, ktorý Konzumujem - len sa snažia presadiť nejakú nepochopiteľnú reformu, berúc do úvahy skutočnosť, že nie som vôbec zaregistrovaný v Moskve a nepôjdem voliť.
Smetisko je zdrojom nebezpečných informácií
Navyše je tu Thor, ktorý nie je až tak podceňovaný – každý si myslí, že tam musíte ísť len na nákup drog alebo zistiť, ako sa montujú zbrane. Ale v skutočnosti existuje veľa zdrojov údajov. Takmer všetky sú nelegálne (akože nelegálne), pretože niekto sa mohol nabúrať do databázy leteckých dopravcov na nejakej hackerskej stránke a hodiť to tam. Právne tieto údaje nemôžete použiť, ale ak z nich získate nejaké poznatky (ako napríklad na americkom súde), nemôžete použiť záznam zvukového rozhovoru urobený bez príkazu, ale poznatky, ktoré ste získali z tohto zvuku záznam, na ktorý nezabudnete – a tu je to o tom istom.
Toto je v skutočnosti veľmi nebezpečná vec, takže vždy žartujem, ale je to tak. Jedlo si objednávam vždy zo susedného domu, pretože Delivery Club sa veľmi často pokazí a naozaj má také problémy. A nedávno som bol veľmi prekvapený: objednával som si potraviny a na krabici, ktorú som niesol do koša, bola nálepka s nápisom „Arthur Khachuyan“, telefónne číslo, adresa bytu, kód interkomu a e-mail. Dokonca sme sa skutočne pokúsili vyjednávať s moskovským magistrátom, aby nám umožnili prístup na skládku: vo všeobecnosti príďte do skladu odpadu a skúste, čisto pre zaujímavosť, pokúsiť sa nájsť nejakú zmienku o osobných údajoch - urobiť niečo ako minivýskum. Ale odmietli nás, keď zistili, že chceme prísť so zamestnancami Roskomnadzoru.
Ale toto je vlastne pravda. Pozerali ste úžasný film Hackeri? Prehrabávali sa v odpadkoch, aby našli nejakú časť vírusu. To je tiež populárna vec – keď ľudia niečo hodia do open source, zabudnú na to. Toto by mohla byť nejaká školská webová stránka, kde napísali dizertačnú prácu o nadradenosti bielej rasy a potom išli do Štátnej dumy a zabudli na to. Takéto prípady sa skutočne stali.
Čo sa páči členom Jednotného Ruska?
Ak pôjdete do hornej časti webovej stránky LifeNews... Študenti mi pred dvoma rokmi urobili štúdiu: zobrali všetkých účastníkov primárok Jednotného Ruska (všetci oficiálne predložili svoje účty na sociálnych sieťach All-Russian Central Výkonný výbor), pozrel na to, čo sa im vo všeobecnosti páčilo - porno detinské, odpad, nezrozumiteľné reklamy od čudných dospelých žien... Vo všeobecnosti sa zdá, že ľudia na to zabudli.
Potom napísali list, že dvadsať ľudí ukradli účty. Ale ich účty boli ukradnuté pred dvoma týždňami, pred 8 mesiacmi ich predložili volebnej komisii a lajky boli pred dvoma rokmi... Vo všeobecnosti, chápete, nie? Je tam naozaj obrovské množstvo informácií, ktoré sa dajú vždy použiť aj na výskumné účely.
Minioftopchik: včera som videl správu, že Roskomnadzor pred dvoma rokmi zablokoval výskum študentov HSE. Možno niekto videl túto správu, nie? Boli to moji študenti, ktorí robili výskum: oni z Tor, z webovej stránky Hydra, kde sa predávajú drogy (prepáč, z Rampy), zbierali informácie o tom, koľko to stojí, v akom regióne Ruska, a robili prieskum. Volalo sa to „Spotrebný kôš ľudu strany“. To je, samozrejme, smiešne, ale z hľadiska analýzy údajov je súbor údajov skutočne zaujímavý - potom som ďalšie dva roky chodil na všetky druhy „hackathonov“. Toto je skutočná vec – je tam veľa zaujímavých vecí.
Ako Get Contact „kúpil duše“ zvedavých používateľov a prečo si musíte prečítať používateľskú zmluvu
Väčšinou, keď sa človeka spýtate, akého úniku dát sa bojíte (najmä ak má daný človek zakrytú webkameru), vždy postaví štruktúru priorít takto: hackeri, štát, korporácie.
To je, samozrejme, vtip. V skutočnosti však aktívni analytici údajov, všemožní výskumníci údajov ukradli oveľa viac ako, zdá sa mi, hrozní ruskí, americkí alebo iní hackeri (nahradte ktorýchkoľvek, v závislosti od vášho politického presvedčenia). Vo všeobecnosti sa toho každý zvyčajne bojí - určite máte všetci zakrytú webovú kameru? Nemusíte ani dvíhať ruky.
Ale ak hackeri robia niečo nezákonné a štát potrebuje súdne povolenie na získanie údajov, potom najnovšie chlapi [korporácie] nepotrebujú vôbec nič, pretože majú niečo ako používateľskú zmluvu, ktorú nikto nikdy nečíta. A naozaj dúfam, že takéto udalosti ešte prinútia ľudí čítať dohody. Neviem, ako je to v Bielorusku, ale v Moskve v polovici toho roku prebehla vlna aplikácie “GetContact” (asi ste si boli vedomí), keď sa z ničoho nič objavila aplikácia s nápisom: dajte žiadosť prístup ku všetkým vašim kontaktom a my vám ukážeme, ako vás vtipne nahrali.
V médiách sa to neobjavilo, ale veľa vysokopostavených zamestnancov sa mi sťažovalo, že im každý začal neustále volať. Správcovia sa zrejme rozhodli nájsť v tejto databáze Shoiguovo telefónne číslo, niekoho iného... Volochkova... Neškodná vec. Ale tí, ktorí si prečítali licenčnú zmluvu GetContact - tá hovorí: neobmedzený spam v neobmedzený čas, nekontrolovaný predaj vašich údajov tretím stranám, bez obmedzenia práv, premlčacích lehôt a vo všeobecnosti všetko, čo je možné. A toto vlastne nie je až taký super-vzácny príbeh. Napríklad Facebook, keď som tam bol, zobrazoval upozornenia 15-krát denne: „Synchronizujte si kontakty a nájdem vám všetkých vašich priateľov, ktorých máte!“
Korporáciám je to jedno. Federálny zákon 152 a GDPR
V skutočnosti sú však priority opačným smerom, pretože korporácie sú chránené súkromným právom, a preto sa takmer vo všetkých prípadoch nedá dokázať, že sa mýlia. A ak vezmeme do úvahy skutočnosť, že je veľký, strašidelný a veľmi drahý, je to takmer nemožné. A ak ste tiež v Rusku, so zastaranou legislatívou, tak je všetko akosi úplne smutné.
Viete v čom sa líši ruský zákon (a je prakticky bieloruský) napríklad od GDPR? Ruský federálny zákon 152 chráni dáta (toto je pozostatok sovietskej minulosti) - dokument, ktorý chráni dáta pred únikom niekam. A GDPR chráni práva používateľov – právo, že im budú odňaté nejaké slobody, privilégiá alebo niečo iné, pretože ich dáta niekam uniknú (takýto pojem zaviedli priamo do “dáta”). U nás vám ale môžu účtovať len pokutu za to, že nemáte certifikovaný “Otvorený” Excel na spracovanie osobných údajov. Dúfam, že sa to raz zmení, ale myslím, že nie v blízkej budúcnosti.
Aké sú dnes reálne možnosti cielenia?
Prvý, pravdepodobne strašidelný príbeh, na ktorý každý neustále myslel, bolo čítanie osobných správ. Určite sa medzi vami nájde človek, ktorý niekedy niečo povedal nahlas a následne dostal cielenú reklamu. Áno, boli také? Zdvihni ruky.
V skutočnosti neverím príbehu, že podmienený „Navigátor Yandex“ rozpoznáva priamy zvuk v streame pre všetkých používateľov, pretože tí, ktorí majú malé skúsenosti s rozpoznávaním hlasu, chápu, že: po prvé, dátové centrum Yandex » malo by to byť päťkrát viac; ale čo je najdôležitejšie, náklady na prilákanie takejto osoby by stáli veľa peňazí (rozpoznať zvuk v streame a pochopiť, o čom osoba hovorí). Ale! V skutočnosti existujú algoritmy, ktoré vás označia pomocou určitých kľúčových slov, aby ste potom vytvorili nejaký druh reklamnej komunikácie.
Takýchto štúdií bolo veľa a 100-krát som si urobil prázdne účty, niekomu niečo napísal do správ a zrazu mi prišla reklama, ktorá s tým akoby nemala nič spoločné. V skutočnosti sú tu dva závery. Proti takémuto príbehu sa verí, že človek jednoducho spadne do nejakej štatistickej vzorky; Povedzme, že ste 25-ročný muž, ktorý sa práve v tejto chvíli mal stretnúť s kurzom angličtiny práve vo chvíli, keď ste si s niekým písali. Facebook aspoň na súde vždy hovorí: že existuje určitý model správania, ktorý vám neukážeme, ktorý bol postavený na údajoch, ktoré vám neukážeme, máme interný výskum, ktorý vám určite neukážeme ( pretože všetko je obchodné tajomstvo); vo všeobecnosti ste boli zaradení do nejakej štatistickej vzorky, tak sme vám to ukázali.
Ako súkromie Facebooku rozzúrilo jeho používateľov
Žiaľ, vo všeobecnosti sa to nedá dokázať, pokiaľ nemáte vo firme niekoho, kto tieto akcie nejakým spôsobom potvrdí. Ale v americkom práve je v tomto prípade dohoda o mlčanlivosti tohto zamestnanca vyššia ako jeho túžba pomôcť vám, takže to nikto neurobí. Tiež je zaujímavé - bolo to asi pred rokom alebo rokom a pol - v Amerike sa začal rozvíjať trend, keď si ľudia nainštalovali rozšírenie prehliadača, aby šifrovalo správy na Facebooku: keď človeku niečo napíšete, on to zašifruje pomocou kľúč na zariadení a odošle odpadky vo verejnej doméne.
Facebook žaluje túto spoločnosť už rok a pol a nie je jasné, z akého dôvodu (pretože nerozumiem dobre americkému právu) ich prinútil odstrániť túto aplikáciu a potom urobil dodatok k používateľskej zmluve: ak Pozrite, je tam taká klauzula: že nemôžete prenášať správy v zašifrovanej forme - je to nejako popísané tak šikovne, že nemôžete použiť kryptografické algoritmy na úpravu správ - no, taká vec existuje. To znamená, že povedali: buď používate našu platformu, píšete vo verejnej doméne, alebo nepíšete. A to vyvoláva otázku: prečo vôbec potrebujú osobné správy?
Osobné správy sú zdrojom 100% spoľahlivých informácií
Toto je veľmi jednoduchá vec. Každý, kto analyzuje digitálnu stopu, ľudskú činnosť, snaží sa tieto dáta nejako využiť na marketing alebo niečo iné, má takú metriku ako spoľahlivosť. To znamená, že určitý obraz človeka - chápete úplne dobre, toto nie je samotný človek - tento obraz je vždy o niečo úspešnejší, o niečo lepší. Osobné správy sú skutočné poznatky, ktoré možno o človeku získať, sú takmer vždy 100% spoľahlivé. No, pretože málokedy niekto niekomu niečo napíše do súkromných správ, oklame, a to všetko sa dá veľmi ľahko overiť - podľa iných správ (chápete, o čom hovorím). Ide o to, že takto získané poznatky sú takmer 100% spoľahlivé, a tak sa ich každý vždy snaží získať.
Ale napriek tomu je to všetko opäť veľmi ťažko dokázateľný príbeh. A tí, ktorí veria, že takzvaný VKontakte má takýto prístup pre orgány činné v trestnom konaní na osobné správy, nie je úplne pravda. Ak sa len pozriete na históriu súdnych žiadostí o sprístupnenie informácií, ako VKontakte veľmi prefíkane (v tomto prípade Mail.ru) s týmito žiadosťami bojuje.
Ich hlavným argumentom je vždy: podľa zákona musia orgány činné v trestnom konaní zdôvodniť, prečo je potrebný prístup k osobným správam. Spravidla, ak ide o vraždu, vyšetrovateľ vždy povie, že s najväčšou pravdepodobnosťou osoba uviedla, kde zbraň ukryla (v osobných správach). Ale vy a ja chápeme, že ani jeden zdravý zločinec by nikdy nenapísal svojim komplicom na VKontakte o tom, kde ukryl strelnú zbraň. Ale toto je jedna z bežných možností, ktoré úradníci hlásia.
A tu je ďalší taký hrozný príklad (dnes som bol požiadaný, aby som uviedol hrozné príklady) - o Rusku (dúfam, že sa to nestane v Bielorusku): podľa zákona musí mať vyšetrovateľ dostatočne presvedčivé dôvody, aby operátor túto informáciu zverejnil . Prirodzene, tieto spoľahlivé parametre nie sú nikde popísané (aké by mali byť, v akej forme), ale v Rusku v súčasnosti existuje čoraz viac precedensov, keď sa takýto základ pre súd objaví, ak existuje určitý model, ktorý predpovedal určitý, dobré alebo zlé, správanie .
Totiž u nás nikoho nemožno zavrieť (a to je dobre) za to, že je zaradený do nejakej štatistickej vzorky čistokrvných zabijakov – a to je dobre, lebo to porušuje prezumpciu neviny; existujú však precedensy, keď sa výsledky takýchto prognóz použili na získanie súdneho povolenia na získanie údajov. Mimochodom, nielen v Rusku. Aj v Amerike je niečo také. Tam „Palantir“ tiež dlho zabíjal všetkých, používajú podobné veci. Strašidelný príbeh.
Toto je môj výskum. Urobili sme toto: prechádzali sme sa po Petrohrade, na miestach so zelenými bodkami sme priateľom z „čistých“ účtov napísali niekoľko kľúčových bodov – napríklad „chcem piť kávu“, „kde môžem kúpiť prací prášok?“ a tak ďalej. A potom podľa toho dostali geograficky prepojenú reklamu. Akým magickým spôsobom... Alebo ako sa hovorí: „Náhoda? Nemysli!" Toto sú osobné správy na VKontakte. Nech mi Mail.ru odpustí, ale je to tak. Každý môže zopakovať takýto experiment.
Mimochodom, keď napísali vyhlásenie na podporu, Mail povedal, že tam boli wi-fi body a vaša adresa Mac bola zachytená. Aj toto existuje.
Spôsoby získavania a bežné možnosti úniku osobných údajov
Ďalší príbeh je extrakciou ďalších vedomostí, ktorých som sa vlastne dotkol. Vyplnený profil človeka na sociálnych sieťach v skutočnosti nesie 15 – 20 % skutočných vedomostí, ktoré o ňom prevádzkovateľ údajov uchováva. Zvyšok príbehu vychádza z veľmi zaujímavých vecí. Prečo si myslíte, že Google toľko vyvíja knižnice pre počítačové videnie? Najmä boli medzi prvými, ktorí vyvinuli knižnice špeciálne na analýzu a kategorizáciu objektov - na pozadí, v popredí, bez ohľadu na to, kde. Lebo toto je obrovský zdroj dodatočných informácií o tom, aký má človek byt, auto, kde býva, luxusné veci...
Keď boli zlúčené trénované neurónové siete Google (neviem, kto to bol), ale aj tak bolo veľa „hackerských“ vecí. Na tému veľkosť pŕs, veľkosť pása bolo veľa zaujímavých informácií, ktoré sa ľudia nesnažili zistiť o iných ľuďoch na základe analýzy fotografií. Pretože keď človek fotí, nie vždy premýšľa o tom, koľko zaujímavých vecí sa z toho môže naučiť? Koľko novorodeneckých pasov je vystavených v Rusku?... Alebo: „Hurá, moje dieťa dostalo vízum“! Toto je vo všeobecnosti bolesť modernej spoločnosti.
Ďalší offtopic (dnes sa s vami podelím o fakty): v Moskve je najčastejší únik osobných údajov v bytových a komunálnych službách, keď na dverách vyvesia zoznam dlžníkov a títo dlžníci potom žalujú, pretože ich osobné údaje bol sprístupnený verejnosti bez ich povolenia. Čo ak sa vám to stane... Ide o to, že keď človek niečo robí, nevie, čo na tej fotke bolo, čo tam nebolo. Teraz je veľa čísel áut.
Raz sme urobili štúdiu - snažili sme sa pochopiť, koľko ľudí s otvorenými fotografiami áut (majú teda priestupky atď.) - to sa, žiaľ, dalo urobiť len pomocou zlúčených databáz dopravnej polície, kde je len číslo (nie veľmi spoľahlivá informácia), ale aj to bolo zaujímavé.
Vaša ďalšia reklama závisí od toho, ako ste spotrebovali predchádzajúcu
Toto je prvý príbeh. Druhým príbehom sú vzorce správania, obsah, ktorý človek konzumuje, pretože jednou z najdôležitejších metrík, ktoré sa o vás sociálne siete snažia vybudovať, je to, ako interagujete s reklamou. Bez ohľadu na to, aké presné, „úžasné“ môžu byť algoritmy, bez ohľadu na to, aká úžasná môže byť umelá inteligencia a všetko ostatné, skutočnou prioritou sociálnej siete je vždy zarábať peniaze. Preto, ak príde takzvaná „Coca-Cola“ a povie: „Chcem, aby všetci obyvatelia Bieloruska videli môj príspevok,“ uvidia ho bez ohľadu na to, čo si o tejto osobe myslia algoritmy a ako ju tam zacieliť. Pravdepodobne ste okrem supersupercielených, úplne nesúvisiacich nezmyslov dostali aj reklamu. Pretože za tento nesúvisiaci nezmysel zaplatili veľa peňazí.
Jednou z hlavných metrík je však porozumieť tomu, s akým obsahom najlepšie interagujete, konkrétne ako naň reagujete, aby sme vám mohli ukázať podobný reklamný príbeh. A podľa toho ide o metriku toho, ako interagujete s reklamou: kto ju zakáže, kto nie, ako človek klikne, či číta iba titulky alebo úplne spadne do materiálu; a potom vás na základe toho naďalej udržiavať v tejto, ako sa teraz nazýva, „filtračná bublina“, aby ste s týmto obsahom naďalej interagovali.
Ak by ste niekedy mali záujem, môžete sa pokúsiť na dlhý čas, na týždeň, možno mesiac, jednoducho zakázať všetku reklamu na sociálnych sieťach: ukážu vám nejakú reklamu a vy ju zatvoríte. Ak to analyzujete a umiestnite do grafu, vznikne zaujímavý príbeh: ak na týždeň zakážete reklamu, budúci týždeň sa vám zobrazí vylepšená verzia a vo všeobecnosti z rôznych kategórií; teda podmienečne milujete psov a zobrazujú sa vám reklamy so psami - zakázali ste všetkých psov a potom vám začnú ukazovať najrôznejšie nezmysly z rôznych možností, aby sa pokúsili pochopiť, čo potrebujete.
A potom sa na vás v konečnom dôsledku vykašlú, označia vás za človeka, ktorý s reklamou neinteraguje, dajú na vás krížik a v tom momente vám začnú zobrazovať reklamy výlučne bohatých značiek. To znamená, že v tejto chvíli uvidíte len reklamy na Coca-Colu, Kit-Kit, Unilever a všetkých ľudí, ktorí zarábajú obrovské peniaze, pretože potrebujete zvýšiť sledovanosť. Vykonajte experiment na mesiac: zakážte všetku reklamu na jeden alebo dva týždne, potom uvidíte všetko v rade a zakážte to - nakoniec uvidíte iba reklamu, ako sa neskôr ukáže (a reklamné agentúry hovoria), iba klientov, ktorí platia za zobrazenia , pretože nie je možné pochopiť, ako interagujete s týmito reklamami.
Porno sledujú častejšie tí, ktorí majú tendenciu sa hlboko ponoriť do obsahu.
Preto tu je príbeh o všetkých druhoch sledovania správania. Mám zaujímavý príklad – návštevníkov vládneho webu. Vtipné je, že čím väčšiu hĺbku pozerania ľudia majú, tým viac z nich dáva prednosť pozeraniu porna pred tradičnými vzťahmi. „Prepáčte“, že stále hovorím o tejto téme, ale v skutočnosti mám s Pornhubom veľmi dobrý vzťah a toto je vždy veľmi zaujímavý výskum, pretože je to téma, ktorá sa zdá byť tabu, no o človeku veľa vypovedá. A z toho vyplývajú nasledujúce body o návrate premávky... Budeme si pamätať aj na „Pornohub“!
Čo sa považuje za osobné údaje a je možné odomknúť iPhone pomocou 3D modelu tváre?
Najradšej mám obchádzanie zákona o ochrane súkromia. Ak si prečítate technickú dokumentáciu toho istého Facebooku, ktorá poskytla niektoré interné dokumenty (napríklad súdu), nenájdete tam žiadnu zmienku o rozpoznávaní tváre alebo analýze hlasu. Pôjde o veľmi zložité formulácie, ktoré žiadny kvalifikovaný právnik v rámci legislatívy nenájde. Tu v Rusku to funguje približne rovnako - teraz vám to ukážem.
čo tu vidíš? Každý normálny človek povie, že tvár. Mimochodom, toto je podľa mňa Sasha Grey. Ale právne ide o maticu určitých trojrozmerných bodov, ktorých je 300 tisíc. Či už v dobrom alebo zlom, toto sa zo zákona nepovažuje za osobný údaj. Ruská RKN vo všeobecnosti nepovažuje jednu fotografiu za osobný údaj – za osobný údaj považuje, ak je v blízkosti niečo iné (napríklad celé meno alebo telefónne číslo) a táto fotografia sama o sebe nie je vôbec ničím. Len čo bol zavedený zákon o biometrii a biometrické údaje boli prirovnané k osobným údajom (takže veľmi zhruba), všetci okamžite začali hovoriť: toto nie sú biometrické údaje, to je pole bodiek! Najmä ak vezmete priamu alebo inverznú Fourierovu transformáciu z tohto poľa bodov, zdá sa, že nemôžete osobu z tejto transformácie deanonymizovať, ale môžete ju identifikovať. Čisto teoreticky táto vec neporušuje zákon.
Urobil som aj ďalšiu štúdiu: ide o algoritmus, ktorý vytvára trojrozmernú rekonštrukciu tváre pomocou otvorených zdrojov - vezmeme si účet na Instagrame a potom môžeme vytlačiť tvár na 3D tlačiarni. Mimochodom, pre tých, ktorí majú záujem, mám odkaz vo verejnej doméne; ak zrazu niekto chce niekomu odomknúť iPhone... Len si robím srandu - iPhone sa nedá odomknúť, je znížená kvalita.
Uzavretý profil je výhodou pre bezpečnosť
To je prvá vec a druhá... Už som sa dotkol toho, že informácie sa získavajú hlavne z prostredia používateľa. Tento obrázok som nakreslil v roku 17: priemerný používateľ ruských sociálnych sietí je vnútri, má v priemere 200–300 priateľov, svojich priateľov priateľov a svojich priateľov priateľov priateľov.
Vďaka sociálnym sieťam za zavedenie algoritmov pre „inteligentné“ e-feedy, integrálne roky, údajne preto, aby sa zvýšila pravdepodobnosť, že sa stretnete so zaujímavým obsahom. Toto je počet ľudí, ktorí môžu vidieť obsah, ktorý vytvoríte, v ľubovoľnom náhodnom okamihu, aj keď je váš účet obmedzený len na vyššie úrovne ochrany osobných údajov (iba pre priateľov priateľov atď.). Toto sú priatelia priateľov:
Ak si niekto myslí, že keď sa rozhodne vidieť „priateľov priateľov“ v „Mojich príspevkoch“ na VK, potom tri podanie rúk predstavuje približne 800 tisíc ľudí, čo v zásade nie je tak málo, ale závisí od vášho obsahu. Možno robíte nejaké neslušné streamy a všetci títo priatelia priateľov môžu interagovať s týmto obsahom. Jeden z nich môže niekde niečo repostovať, všetci ľudia majú lajk, ktorý bude v skutočnosti s najväčšou pravdepodobnosťou zrušený, pretože to nie je veľmi sympatická vec. Preto môže kedykoľvek obsah niekde skončiť.
VK v tom roku spustila superuzavreté profily, no zatiaľ ich využilo len veľmi malé množstvo ľudí (nepoviem koľko, ale je to málo!). Možno to raz ľudia pochopia - naozaj v to úprimne dúfam. Celý výskum je neustále zameraný na to, aby ľudia pochopili rozsah problémov. Pretože kým niekoho konkrétne nepostihne nejaká hrozná vec, nikdy na to nebude myslieť. Pokračuj.
Vládne orgány nevedia, čo sú osobné údaje, a neponáhľajú sa ich definovať
Každý špecialista na právo osobných údajov vždy hovorí toto: nikdy nemusíte kombinovať rôzne zdroje údajov, pretože tu máte e-maily (toto sú len osobné údaje s nejakými anonymizovanými identifikátormi), tu je vaše celé meno... Ak sa to spojí všetko, zdá sa, že sa stanú osobnými údajmi. Vo všeobecnosti by bolo správne sa najprv dotknúť tejto témy, ale myslím si, že ste do nej už ponorení a možno ste si vedomí toho, ako zákon funguje.
V skutočnosti nikto nevie, čo sú osobné údaje. Dôležitý koncept! Keď prídem do vládnych agentúr, poviem: „Fľaša koňaku pre každého, kto vám môže povedať, čo sú osobné údaje.“ A nikto nemôže povedať. prečo? Nie preto, že sú hlúpi, ale preto, že nikto nechce niesť zodpovednosť. Pretože ak Roskomnadzor povie, že ide o osobné údaje, zajtra niekto niečo urobí a bude na vine; a sú to výkonné orgány a nemali by byť za nič zodpovedné.
Ide o to, že zákon jasne hovorí, že osobným údajom je údaj, podľa ktorého možno identifikovať osobu. A je tu príklad: celé meno, adresa bydliska, telefónne číslo. Ale vy a ja vieme, že môžete identifikovať osobu podľa toho, ako stláča tlačidlá, a preto, ako interaguje s rozhraním, a podľa iných nepriamych parametrov. Ak by to niekoho zaujímalo: takmer v každej oblasti je obrovské množstvo medzier.
Identifikátory, ktoré nás odhaľujú
Každý napríklad začal nastavovať body na zachytávanie mac adries (určite ste sa s tým už stretli?) - chytrí (alebo ja neviem, chamtiví) výrobcovia mobilných zariadení, ako sú Apple a Google, rýchlo zaviedli algoritmy, ktoré z náhodnej mac adresy, aby ste nemohli, bolo možné identifikovať, keď idete po meste a poslať každému vašu MAC adresu. Ale chytrí chlapci prišli s ďalším príbehom ešte ďalej.
Môžete napríklad získať licenciu mobilného operátora; Po získaní licencie mobilného operátora získate prístup k tejto veci - volá sa protokol SS7, prostredníctvom ktorého uvidíte trochu vzduchu od mobilných operátorov; existuje veľa rôznych identifikátorov, ktoré nie sú osobnými údajmi. Predtým to bolo IMEI, ale teraz to niekto doslova stiahol z jazyka a rozhodol sa udržiavať jedinú databázu týchto „IMEI“ v Rusku (takáto iniciatíva). Nejako existuje, ale stále.
Existuje napríklad aj kopa identifikátorov - napríklad IMCI (identifikátor mobilného zariadenia), ktorý nie je osobným údajom, ani nie je viazaný na žiadne iné veci, a preto je možné ho uložiť bez akéhokoľvek súdneho stíhania a s kým Nejakým spôsobom si tieto identifikátory vymeňte, aby ste s danou osobou mohli neskôr komunikovať.
Kultúra práce s osobnými údajmi je nízka
Celkovo ide o to, že všetci sa teraz veľmi zaujímajú o vzájomné kombinovanie údajov a väčšina spoločností, ktoré túto kombináciu robia, o tom niekedy ani neuvažuje. Napríklad prišla banka, uzavrela zmluvu o mlčanlivosti so spoločnosťou, ktorá robí scoring, a previedla do nej 100-tisíc svojich klientov...
A táto banka nemá vždy v zmluve klauzulu o prenose údajov tretím stranám. Títo klienti tam niečo zakódovali a nie je jasné, kam sa táto databáza neskôr podela, neodišla – väčšina spoločností v Rusku nemá kultúru vymazávania údajov... – tento „Excel“ určite niekde skončí sekretárkin počítač a potom zaveste.
Naše údaje môžu byť predané pri každom nákupe v obchode
Existuje veľa schém, ktoré sa zdajú byť takmer legálne (to znamená legálne). Príbeh je napríklad takýto: z 15 najväčších ruských bánk sú v skutočnosti iba dve SMS brány – Tinkoff a Alfa, teda posielajú si vlastné SMS správy. Ostatné banky využívajú SMS brány na posielanie SMS koncovým zákazníkom. Tieto SMS brány majú takmer vždy právo analyzovať obsah (napríklad z hľadiska bezpečnosti a niektorých ich záverov), aby potom mohli predávať súhrnné štatistiky. Tieto SMS brány sú „priateľmi“ s prevádzkovateľmi fiškálnych údajov, ktorí spracúvajú kontroly.
A dopadne to nasledovne: prišli ste k pokladni, operátor fiškálnych údajov (dali vám, nedali vám telefónne číslo - je to tam nejako prepojené) ... dostanete SMS na vaše telefónne číslo, brána týchto SMS vidí posledné 4 číslice karty a telefónne číslo. Vieme, v akom momente ste uskutočnili transakciu od operátora fiškálnych dát a v SMS vieme (teraz), na ktoré číslo je informácia o odpísaní takej a takej sumy peňazí takými a takými poslednými štyrmi číslicami karty. bol prijatý. Posledné štyri číslice karty nie sú vašimi identifikátormi, neporušujú zákon, pretože vás nemôžu deanonymizovať a ani suma transakcie nie.
Ak ste sa ale s operátorom fiškálnych dát dohodli, viete, v akom časovom okne (plus mínus 5 minút) vám má táto SMS prísť. Takto ste boli rýchlo prepojení v OFD s vaším telefónnym číslom a vaše telefónne číslo je prepojené s reklamnými identifikátormi, vo všeobecnosti so všetkým, so všetkým, so všetkým. Preto vás môžu zastihnúť neskôr: prišli do obchodu a potom vám bez povolenia poslali nejaký iný nezmysel. Myslím, že v tejto miestnosti nie je takmer nikto, kto by niekedy napísal sťažnosť FAS na spam. Takmer žiadne... Okrem mňa, asi.
Papiere sú archaickým, ale účinným spôsobom boja za svoje práva
Toto funguje veľmi cool. Je pravda, že budete musieť počkať rok a pol, ale FAS skutočne skontroluje: kto, ako, komu preniesol údaje, prečo kam atď.
Otázka od publika (ďalej – 3): – V Bielorusku neexistuje FAS. Toto je iná krajina.
och: - Áno rozumiem. Určite existuje nejaký analóg...
Z publika prichádzajú námietky
och: - Dobre, zlý príklad, prepáč. To je jedno. Medzi svojimi priateľmi nepoznám nikoho, kto by v zásade vedel o existencii takého príbehu - že ho môžete ísť napísať a potom budú pracovať ďalší rok.
Druhý príbeh, ktorý sa tiež veľmi rozvíja v Rusku, ale myslím si, že analóg nájdete aj vo vašej krajine. Veľmi rád to robím, keď vládna agentúra zle komunikuje s vami, nejakou bankou alebo niečím iným - poviete: "Dajte mi kus papiera." A na kúsok papiera napíšete: „V súlade s článkom 14 152 federálneho zákona vás žiadam, aby ste spracúvali osobné údaje v papierovej forme.“ Neviem, ako presne sa to robí v Bielorusku, ale určite sa to robí. Podľa ruských zákonov nemáte právo odmietnuť službu na tomto základe.
Dokonca poznám veľa ľudí, ktorí posielali podobné veci na Mail.ru a žiadali, aby si uchovávali záznamy o svojich osobných údajoch v papierovej forme. Mail.ru s tým bojoval veľmi dlho. Dokonca poznám jedného vývojára Yandex, o ktorom sa žartovalo: vymazali jeho účet VK a poslali mu veľa vytlačených snímok obrazovky a povedali, že mu pošlú snímky obrazovky zakaždým, keď bude chcieť aktualizovať svoju stránku.
Je to smiešne, ale napriek tomu je to reálna alternatíva, ak sa niekto naozaj bojí o údaje, na jednej strane... A na druhej strane mi tá istá RKN povedala, že táto dohoda o spracovaní osobných údajov je formálna, resp. zákon uvádza niekoľko ďalších možností, ako tento súhlas udeliť. A že som napríklad sem bol pozvaný na akciu a ak napríklad Human Constanta so mnou nesmie uzavrieť zmluvu o spracúvaní osobných údajov v rámci ruských zákonov (pretože samotný fakt, že som prišiel a súhlasil s prejavom je súhlas so spracovaním osobných údajov) - tieto papierové povolenia stále berie každý. Ale RKN mi povedali niečo podobné, že to vôbec nie je fakt, že s najväčšou pravdepodobnosťou jedného dňa zmiznú.
Dúfam, že v Rusku nikdy nevytvoria jediného prevádzkovateľa, Boh mi odpusť, osobných údajov, pretože jediné horšie ako dať všetky osobné údaje do jedného košíka je dať ich do košíka štátu. Pretože ktovie, čo s tým všetkým bude neskôr.
Spoločnosti zdieľajú osobné údaje a zákony sú slabé na to, aby to regulovali
Väčšina spoločností si medzi sebou vymieňa nejaký druh údajov a identifikátorov. Môže to byť obchod s bankou a potom banka so sociálnou sieťou, sociálna sieť s niečím iným... A v konečnom dôsledku títo ľudia majú určitú kritickú masu vedomostí, ktoré sa dajú nejakým spôsobom využiť a všetky tieto poznatky sú pravdivé, teraz sa ich snažia udržať na svojej strane. Ale napriek tomu to potom aj tak skončí v nejakej reklamnej návštevnosti alebo niekde inde.
Prenos údajov tretím stranám je tá najzábavnejšia vec, ktorá sa môže stať, pretože zákony nepopisujú, o aký druh tretích strán ide, ku ktorým by sa mali považovať za „tretie“. Toto je mimochodom veľmi častá fráza amerických právnikov – majú to Tretie strany – koho, koho považujete za tretie strany: babičku, prababku?.. V Amerike bol dokonca taký precedens, keď boli zverejnené niečie údaje, osoba podala žalobu a prostredníctvom niekoľkých priateľov dokázali, že táto osoba poznala majiteľa údajov - určitý počet podaní rúk, citovali nejaké podivné sociologické štúdie - čím dokázali, že týchto ľudí nemožno považovať za tretích osôb strany navzájom. Smiešne. Prenos takýchto údajov je však veľmi bežný.
Aj keď idete na stránku, kde je identifikačné počítadlo, toto počítadlo má právo niekam preniesť údaje o tejto návštevnosti (Klickstreamu, majiteľom reklamných platforiem na čokoľvek, napríklad Pornhubu). Pornhub, ak je niekto z vás webový vývojár, pozrite sa, koľko sledovacích pixelov je na webovej stránke Pornhub. Stačí vstúpiť a načíta sa tam obrovské množstvo java skriptov, ktoré by chceli zlepšiť fungovanie stránky. V skutočnosti sú tam nainštalované aj „cookies“ medzi doménami, ktoré tam nie sú, pretože tieto informácie sú na trhu „clickstream“ vždy vysoko cenené.
Facebook sa kolíše a nechystá sa zložiť masku
Prirodzene, žiadny z hlavných hráčov nikdy nikomu nepovie, komu a ako predávajú údaje. Kvôli tomu sa teraz napríklad Európa pokúša žalovať Facebook. Tesne po zavedení GDPR sa Európska únia snaží otriasť vlastným zverejňovaním algoritmov Facebooku na ďalší predaj údajov tretím stranám.
Facebook to nerobí a verejne vyhlasuje, že to nerobí, pretože je „mierovou spoločnosťou“ (citujem z e-mailu, ktorý mi poslali) a sú „proti škodlivému používaniu technológií“ (najmä ak predávate rozpoznávanie tváre do Kremľa). Vo všeobecnosti ide o to, že Facebook to nerobí úplne čestne: jeho hlavným cieľom a hlavnou vecou, ktorá sa stane hneď, ako sa takýto mechanizmus odhalí, je, že bude možné skutočne vypočítať marginalitu reklamy, bude možné pochopiť skutočné náklady na reklamu.
Ak vám teraz Facebook zvyčajne povie, že náklady na reklamné zobrazenie sú 5 rubľov a my vám ich predáme za 3 (a napríklad nám ostali dva ruble) a oni podmienečne dostanú 5 % zo zisku z tieto reklamné zobrazenia. V skutočnosti to nie je 5 %, ale 505, pretože ak tento algoritmus vyjde najavo (komu a ako Facebook preniesol koľkokrát „clickstream“, údaje o návštevnosti, údaje o pixeloch do všetkých druhov reklamných sietí), ukáže sa že zarábajú oveľa viac, ako sa o tom hovorí. A tu nejde o samotné peniaze, ale o skutočnosť, že cena za kliknutie je rubeľ, ale v skutočnosti sú to stotiny kopejok.
Vo všeobecnosti ide o to, že každý sa snaží skryť takýto prenos, nezáleží na tom, či ide o reklamný alebo nereklamný prenos, ale existuje. Žiaľ, neexistuje spôsob, ako to právne vedieť, pretože spoločnosti sú súkromné a všetko, čo majú vo vnútri, je ich súkromným právom a ich obchodným tajomstvom. No podobné príbehy sa tam objavovali veľmi často.
Drogoví díleri sú na Avito predvídateľní a „spálení“.
Posledný obrázok z tejto prezentácie. Je to vtipné a jeho podstatou je, že existujú určité kategórie ľudí, ktorí sa veľmi obávajú o svoje osobné údaje. A to je vlastne dobre! Tento príklad je o takej kategórii ľudí, ako sú drogoví díleri. Zdalo by sa, že ľudia, ktorí by sa mali veľmi obávať o svoje osobné údaje...
Ide o štúdiu, ktorá bola vykonaná začiatkom tohto roka pod dohľadom kompetentných orgánov. Áno, toto je scenár, ktorý dostal peniaze na nákup drog na Telegram a Thor, ale len od tých ľudí, ktorých bolo možné identifikovať.
V skutočnosti sa takmer všetci moskovskí drogoví díleri spoliehajú na to, že ich telefónne číslo nie je v žiadnych otvorených zdrojoch, ale skôr či neskôr na Avito niečo predajú, z čoho bude možné pochopiť približnú polohu týchto ľudí. Ide o to, že červené bodky sú tam, kde ľudia žijú, a zelené bodky, kam chodia zanechať, viete čo. Toto bola jedna z častí algoritmu, ktorá predpovedala umiestnenie hliadkových služieb, ale títo moskovskí chlapci sa vždy snažia nejako ísť diagonálne, ďalej.
Veria, že ak bývajú vľavo hore, tak by mali ísť vpravo hore a určite ich tam nikdy nenájdu. Hovorím vám, že ak sa snažíte skryť pred všadeprítomnými algoritmami, skutočne najúžasnejšou možnosťou je zmeniť model správania: nainštalujte si nejaký druh „Goster“ na náhodné návštevy, majetok atď. Preboha, existujú dokonca aj algoritmy a pluginy, ktoré zmenia veľkosť prehliadača o pár pixelov, takže podpis, „odtlačok prsta“ prehliadača nemožno vypočítať a nejako vás identifikovať.
To je všetko, čo som chcel povedať. Ak máte otázky, dajte nám vedieť. Tu je odkaz na prezentáciu.
Otázka z publika (Z): – Povedzte mi, prosím, z pohľadu používania Thora, z pohľadu sledovania návštevnosti... Odporúčate to?
Je ťažké to skryť, ale je to možné
och: - "Thor"? „Thor“ nie, vôbec nie v žiadnej forme. Je pravda, že neviem, ako je to v Bielorusku - v Rusku by ste tam nikdy nemali ísť, pretože takmer väčšina overených „gracenodov“ zrazu pridá do vašej premávky určité balíčky. Neviem, ktoré, ale keď sa pozriete: existujú „uzly“, ktoré označujú návštevnosť, nie je jasné, kto to robí, na aké účely, ale niekto to označí v hlavičke, aby sa to dalo pochopiť neskôr. V Rusku je teraz všetka prevádzka uložená, aj keď je uložená v šifrovanej forme, a všetci trollujú balík Yarovaya o tom, že šifrovaná prevádzka je uložená, ale zostáva označená, to znamená, že sa nedá použiť ani dešifrovať. .
W: – V Európe je skladovaný už dlho, pravdepodobne desať rokov.
och: - Áno rozumiem. Všetci sa tomu smejú - ako, že ukladáte https, ktoré sa nedajú prečítať. Obsah sa nedá prečítať, ale pomocou určitých algoritmov môžete pochopiť, odkiaľ pakety pochádzajú - podľa hmotnosti paketov, podľa dĺžky atď. A keď máte všetkých poskytovateľov pod kontrolou, máte podľa toho aj všetky chrbtové vybavenie a všetky pasy... Vo všeobecnosti, chápete, o čom hovorím?
W: – Aký prehliadač odporúčate používať?
och: - Pre "Thor"?
W: - Vôbec nie.
och: - No, neviem. Vlastne používam Chrome, ale len preto, že panel vývojárov je tam najpohodlnejší. Ak zrazu potrebujem niekam ísť, pôjdem do kaviarne. Pravda, netreba sa prihlasovať so skutočnou SIM kartou.
W: – Hovorili ste o nejakých študentoch. Učíte niekde alebo vediete nejaké kurzy?
och: – Áno, máme magisterský titul z dátovej žurnalistiky. Školíme novinárov, aby zbierali údaje a analyzovali ich – pravidelne robia podobný výskum.
Žiadne bezpečné aplikácie
W: – Nie je bezpečné komunikovať s priateľmi na Facebooku, Vkontakte, aby ste neskôr nedostali kontextovú reklamu. Ako môžete zlepšiť bezpečnosť?
och: – Otázka je, čo považujete za prijateľnú úroveň bezpečnosti. V zásade neexistuje slovo „bezpečné“. Otázka je, čo považujete za prijateľné. Niektorí považujú za prijateľné vymieňať si intímne fotografie cez Facebook a niektorí spravodajskí dôstojníci sa domnievajú, že všetko, čo bolo povedané ústami, dokonca aj najbližšej osobe, je v skutočnosti nebezpečné. Ak nechcete, aby sa o tom niečo dozvedela sociálna sieť, tak áno, je lepšie o tom nepísať. Nepoznám žiadne bezpečné aplikácie. Obávam sa, že žiadne nie sú. A to je normálne z toho hľadiska, že každý vlastník akejkoľvek aplikácie ju potrebuje nejako speňažiť, aj keď je táto aplikácia bezplatná alebo ide o nejaké médium. Zdá sa, že je to zadarmo, ale stále potrebuje z niečoho žiť. Preto nič nie je bezpečné. Musíte sa len takpovediac sami rozhodnúť, čo vám vyhovuje.
W: – Čo používate?
och: - Sociálne siete?
W: - Od poslov.
och: – Čo sa týka poslov, používam hlavného štátneho posla Ruskej federácie – Telegram.
W: - „Viber“. Je to bezpečné?
och: – Počúvaj, nie som veľmi zbehlý v poslov. Aby som bol úprimný, neverím v bezpečnosť, neverím v nič, pretože by to bolo asi veľmi zvláštne. Hoci Telegram je akýmsi otvoreným zdrojom a jeho šifrovacie algoritmy boli zverejnené. Ale to je tiež taká ošemetná vec, pretože existuje klient „open source“, ale servery nikto nevidel. Myslím, že nie: na Vibere je veľa spamu, robotov atď. Kto vie. Nemyslím si, že toto všetko funguje veľmi dobre.
Kto je nebezpečnejší – korporácie alebo štát?
Hostiteľ (B): – A mám pre vás túto otázku. Pozrite, párkrát ste to mimochodom spomenuli - že štát... Príliš veľa údajov nie je veľmi dobré... Korporácia má príliš veľa údajov. No to je proste život, nie? Koho by sme sa teda mali viac báť – korporácií alebo štátu? Kde sú úskalia?
och: - To je veľmi ťažká otázka. Hraničí. Komplexná etická bariéra. Človek, ak sa nemá čoho báť, ak neporušil zákon, v zásade načo potrebuje súkromie? Aj keď si to nemyslím, štát si to myslí. Možno je na tom zrnko pravdy. Počúvaj, najviac sa bojím hackerov – niečoho takého. V skutočnosti najväčšia krutosť, akú som v živote videl (z celej tejto témy): asi pred rokom a pol až dvoma rokmi bol v Moskovskej oblasti chytený pedofil a počas vyšetrovacích akcií našli niekoľko tutoriálov Python a skripty na svojom počítači, API VK. Zbieral účty dievčat, analyzoval, ktoré z nich boli nablízku, zbieral obsah, ktorý... Skrátka, máte predstavu. Toto je najväčšia kravina, akú som kedy videl. A toho sa naozaj bojím, že jedného dňa niekto urobí niečo podobné.
Ďalšia malá „offtopic“: Európska organizácia pre štátnu bezpečnosť v tom roku vydala správu, že počet krádeží z bankových účtov sa zvýšil o približne 20, 25 percent, keď bola hacknutá tajná otázka. Len sa teraz zamyslite nad svojou tajnou otázkou v banke a porozmýšľajte, či na ňu môžem nájsť odpoveď z otvorených zdrojov. Ak tam máte rodné priezvisko svojej matky alebo svoje obľúbené jedlo... Vo všeobecnosti ľudia analyzovali účty, na základe toho pochopili meno svojho obľúbeného domáceho maznáčika - niečo takéto...
W: – Povedali ste, že spoločnosti a korporácie zhromažďujú potrebné informácie pomocou algoritmov? Určite viete ako?
och: – Došlo k pohybu ľudí, ktorí naraz preháňali fotografie cez špeciálny filter, aby tento filter prerušil analýzu záberov, aby nebolo možné týchto ľudí neskôr nejako identifikovať. Tu som vám dal príklad: Facebook zápasil s kryptografiou správ. A ak sa táto vec objaví a rozšíri sa, sociálne siete s ňou budú pravdepodobne bojovať. Navyše, rozpoznávanie obrázkov teraz funguje veľmi dobre a to hraničí so skutočnosťou, že úroveň dostatočná na „rozbitie“ tejto fotografie (aby sa „prelomil“ algoritmus, ktorý tieto obrázky rozpoznáva) – s najväčšou pravdepodobnosťou na nej už nie je nič jasné. nebyť.
Všetky druhy glitch filtrov fungujú dobre, ak je v polovici fotografie silný priamy posun. Váš účet potom nadobudne všetky farby LSD. Čisto teoreticky si nemyslím, že je veľmi desivé, ak napríklad Facebook zistí, aké mám auto – pravdepodobne ak sa do auta neprihlásim cez Facebook.
Zákon zabudnutia funguje, ale nie na internete
W: – Stretli ste sa s používateľom, ktorý vás nútil rešpektovať ho, vymazať ho, získať prístup. Operujete s veľkým množstvom dát, pravdepodobne na to upozorníte. Ľudia vás môžu kontaktovať. Aké percento?
och: – Teraz vám to poviem. Teraz to začína byť naozaj zaujímavé. Teraz spočítam, koľko ľudí príde, pretože po akcii vždy príde 15-20%, vyplní formulár na vymazanie údajov - existuje taká vec. V skutočnosti je to asi 7-8% zrušených účtov, ktoré neanalyzujeme, a asi 5 ľudí z tisícky, ktorí žiadajú o vymazanie svojich údajov. To je veľmi málo, dokonca aj podľa môjho skromného názoru.
Problém je v tomto: existuje niečo ako zákon zabudnutia. Ale zákon o zabudnutí, aspoň v Rusku, legálne platí len pre vyhľadávače. Je tam napísané: vyhľadávače. A to znamená vymazať len odkazy na materiály, a nie materiály samotné. V skutočnosti, aby ste niečo z internetu odstránili, budete musieť obísť všetky tieto zdroje, takže v to v podstate neverím. Snažíme sa používateľov upozorniť, že pred zverejnením si musia najprv premyslieť.
Zatiaľ je toto percento veľmi malé – 5-7 ľudí z tisícky. Mimochodom, o zákone o zabudnutí: každý pozná taký skvelý prípad „Sechin proti RBC“. Zákon zabudnutia zafungoval, článok bol vymazaný, ale je všade. Chápete, že ak sa raz niečo dostane na internet, už to odtiaľ nikdy nezmizne.
Používatelia sú vymazaní, ale sú identifikovaní podľa typického správania
W: – Nemyslíte si, že ľudia, ktorí si zrušia svoje účty a pokúsia sa stať „čiernou dierou“, budú v porovnaní s ostatnými ekonomickými subjektmi v nevýhode?
och: – S najväčšou pravdepodobnosťou áno – táto situácia bude pre nich nepriaznivá. Od nich závisí množstvo zliav a ponúk. Ale čisto teoreticky, ak si teraz niekto vymaže účet... Medzi všetkými možnými extrémistami je to populárne, keď si vymažú účet a spravia falošný, no naďalej komunikujú s rovnakým obsahom – túto osobu je opäť možné identifikovať (najmä ak je to v rámci rovnakej sociálnej siete, z jedného počítača - to je vo všeobecnosti otázka); Jednoducho na základe modelu spotreby obsahu bude možné nájsť túto osobu, ak existuje takáto úloha.
Dúfam, že o 5 rokov sa objaví nejaká technológia na monetizáciu týchto dát, kedy bude reálne možné zaplatiť človeku peniaze - zaplatíte sami a my vaše dáta nepoužijeme. Myslím si ale, že ak nejaký Instagram zavedie platené predplatné, nikto ho nevyužije, takže alternatívou je platiť používateľom za ich dáta. To sa ale veľmi skoro nestane, pretože lobby desivých korporátnych chlapíkov nedovolí prijať takýto zákon, hoci by to bolo cool. Ide však o to, že nie je možné odhadnúť skutočnú hodnotu údajov jednej osoby v akomkoľvek konkrétnom čase.
Facebook - deraví chlapi
W: - Dobrý deň. Pomerne nedávno sa objavili správy, že Facebook má v úmysle integrovať všetky svoje projekty, vrátane Instagramu a Facebooku, WhatsApp atď. Čo si myslíte z pohľadu osobných údajov, keď teraz na mojom smartfóne tieto programy akoby visia oddelene, no stále patria Facebooku?.. Čo bude ďalej?
och: - Rozumiem. Právne už patria Facebooku a ten ich v sebe môže nekontrolovateľne spájať, takže si myslím, že sa nič nezmení. Jediná vec je, že teraz stačí hacknúť jednu aplikáciu, aby ste získali všetko naraz. A Facebook... Dúfam, že sledujú. Strašne deraví chlapi na všetkých miestach.
V poslednej dobe sa o tom objavilo množstvo informácií – o únikoch dát z Facebooku. Neobjavilo sa to preto, že Facebook náhle začal tieto údaje strácať, ale preto, že GDPR teraz núti spoločnosť varovať vopred. A najväčšia pokuta je, ak došlo k úniku, ale spoločnosť o tom mlčala, a preto o tom teraz hovorí sám Facebook. To neznamená, že k týmto únikom dát nedochádzalo už predtým.
W: - Ahoj. Mám otázku ohľadom ukladania dát. Teraz každý štát zavádza zákon, aby zabezpečil, že údaje občanov budú uložené na území daného štátu. Akú podmienku stačí splniť na splnenie tohto zákona pri nejakej medzinárodnej prihláške?... Napríklad Facebook: existuje len jedna databáza...
Ako dodržať tieto podmienky?
och: – Počúvaj, legálne si v tejto krajine stačí prenajať server a niečo naň dať. Problémom je, že neexistuje príslušný regulačný orgán. Údaje Facebooku v Rusku neexistujú. Roskomnadzor s nimi bojuje a bojuje, bojuje a bojuje... Facebook má časť serverov, kde sa nachádza rozhranie práve tohto Facebooku a nie je možné skontrolovať, kde dáta vlastne ležia a ako sú synchronizované.
W: – Skontrolovať premávku?
och: – Skontrolovať premávku? Áno. Ale premávka potom môže ísť do nejakého hlavného bodu. Navyše medzi servermi môže byť niečo ako VPN alebo niečo iné. Čisto teoreticky neexistuje spôsob, ako kontrolovať, že povedzme správca systému jedného dňa nepôjde na tento server a niečo si odtiaľ nezoberie. To znamená, že tento zákon nebol vytvorený z dôvodu ochrany údajov, ale s cieľom zabezpečiť, aby spoločnosti otvorili zastúpenia, platili dane a skladovali tovar v krajine. Ale podľa môjho názoru je to nejaká veľmi zvláštna iniciatíva, aby som bol úprimný.
W: - Takže stačí skutočne skontrolovať rozhranie?
och: Niekto za vami môže prísť a skontrolovať, či sú tam vaše údaje. Ale môžete ukázať nejaký Excel a nikto to nebude môcť skontrolovať, sotva to niekto skontroluje. Teraz sa jednoducho pozerajú na IP adresy: že IP adresa spojená s doménou sa nachádza na území krajiny - ďalej nekontrolujú. Teraz ma pravdepodobne prídu skontrolovať.
Neexistujú služby, ktorým by ste mohli 100% dôverovať, no slušní ľudia sa nemajú čoho báť
W: - Toto sú novinky, pretlačené na mnohých miestach: chlapík to zverejnil od Microsoftu, vytvoril službu na kontrolu jeho...
och: – Niečo ako: unikli vaše heslá? V skutočnosti ten istý Facebook po rovnakých únikoch na Facebooku vždy spustí nejaké záložné stránky, kde si môžete skontrolovať, či nie je zahrnutý v tejto databáze – opäť to vyžaduje GDPR. To znamená, že ak túto vec neurobíte, nebudete sa cítiť veľmi dobre. Preto teraz každý prezentuje tieto projekty ako „toto je naša iniciatíva“; v skutočnosti to vyžaduje zákon. V skutočnosti je to veľmi skvelá vec, ale neveril by som takýmto overovacím službám, ak potrebujete poslať niečo zložitejšie ako vaše heslo, pretože veľa ľudí má rovnaké heslá.
W: – Stačí zadať svoj e-mail a už vám povedia, koľkokrát bol napadnutý...
och: – V skutočnosti takýmto veciam neverím, pretože je veľmi jednoduché prepojiť vás s týmto prehliadačom, so skutočným účtom. Najmä ak používate služby tých istých ľudí, ktorí spustili túto stránku. Je to ako v tom roku, keď Facebook poslal: ak vaše intímne fotografie unikli na Facebook, pošlite nám ich a my skontrolujeme, kde boli spomenuté.
Neviem, čo je to za PR nočnú moru a kto na Facebooku s tým prišiel, ale naozaj sa to stalo. Chceli zistiť, či niekto neposlal vaše akty do súkromných správ. V zásade to slúži na dobré účely, ale je to tak zvláštne, ako je to len možné. neveril by som tomu.
W: - A ešte jedna otázka. Aké vysoké je riziko úniku pre bežného používateľa? Nebezpečenstvo poškodenia v dôsledku netesností.
och: - Rozumel som ti. Závisí to od toho, aké údaje sa majú ukladať. Myslím, že nie veľmi vysoko. Najhoršie je, ak vám niekde uniknú e-maily a heslá a toto heslo máte všade – tak áno. Vo všeobecnosti si myslím, že používatelia sa nemajú čoho báť. Ale pokiaľ, samozrejme, neuložia nejaké rozkúskovania do pošty Google. Príkladov bolo veľa.
Najznámejší príbeh je na Googli, keď v Utahu uniesli dievča, nevedeli ju nájsť a únoscovia jej v jednom momente poslali fotky v archivovanej prílohe. A Google pri skenovaní tejto prílohy našiel známky detskej pornografie. Našli všetkých. A podarilo sa im aj zažalovať Google za porušenie dôvernosti korešpondencie. Tento súd trval dosť dlho. Napriek tomu sa domnievam, že bežný používateľ sa nemá čoho báť, ak povedzme nezverejní svoj pas. Toto je dvojaký príbeh – podľa toho, aké dáta a aký druh používateľa. Možno je to teraz v poriadku, ale o 15 rokov, keď sa stane akýmsi úradníkom, vyjdú najavo niektoré jeho materiály.
Ako to funguje s vládou?
W: - Ďakujem. Trochu ste hovorili o robení výskumu pre štát, vládne agentúry, služby a spolupráci s nimi. Možno nám môžete povedať niečo viac o niektorých aktuálnych projektoch. Ešte viac, ak môžete, o... Dve otázky: prvou sú aktuálne projekty a druhou, či takéto návrhy od vládnych služieb boli...
och: - Neslušné!
W: - Áno. Keď si si pomyslel: možno by si to nemal robiť.
och: - Poviem ti. Toto hovorím každému. S touto osobou sme sa na Twitteri dlho hádali. Raz som dostal otázku od Milonovho tímu Twitter o hľadaní učiteľov, ktorí sledujú gay porno. Hneď sme povedali nie. Ale sú, často prichádzajú listy a veľmi často je to spojené s nejakými opozičnými, mítingmi. My sa takýmito hlúposťami nezaoberáme, aj tak sa na nás všetci vykašlú. Za toto sa nehanbím.
Máme nasledujúcu politiku týkajúcu sa „stavov“: vyvíjame softvér, softvér na trojrozmernú rekonštrukciu, rozpoznávanie tváre a analýzu údajov. Je veľmi ťažké povedať, čo presne robia, ale modely zahŕňajú predpovedanie kriminality, veci súvisiace so štátnou bezpečnosťou v meste, pohybom ľudí, geomarketingom atď. Od umiestňovania predmetov do vnútromestského prostredia až po identifikáciu pedofilov, násilníkov, maniakov a všelijakých darebákov.
Úprimne, nezapájali sme sa do žiadnych opozičných aktivít. Možno nám to nehovoria do očí. V skutočnosti je to veľmi veľký problém - spolupráca s „vládami“, pretože nie vždy vysvetlia, čo je úlohou. Hovoria vám: vytvorte softvér na identifikáciu žien v domácnosti, ale v skutočnosti s tým urobia niečo iné - všetko sa pokazí.
Navyše, štát je veľmi zaujímavý a zvláštny klient, ktorý sa neustále snaží vložiť do vášho výskumu tri centy a často sú ich prístupy a chápanie strojového učenia veľmi povrchné. Mám napríklad samostatnú prednášku o chybách strojového učenia. Vždy tam uvádzam príklad: keď sme robili systém predpovedania kriminality v moskovskom regióne, zákazník povedal: tam, kde predávajú vodné melóny, zvýšte koeficient štyrikrát. A potom sa v skutočnosti ukázalo, že miesta, kde sa predávajú vodné melóny, vôbec nie sú trestné. Sú to jednoducho chyby človeka, ktorý prispieva svojimi myšlienkami.
Štát je skrátka pohodový klient, je tam veľa zaujímavých úloh. Väčšina prichádza k podobným modelom predpovedania niečoho. Najčastejšie ide o nejaký druh mestskej infraštruktúry.
W: – Existujú nejaké zdroje, kde môžete sledovať svoj výskum? Veľa informácií. Ak tomu dobre rozumiem, veľa z toho stále zostáva cez palubu. Vaše stránky, niečo iné...
och: – Nemám osobné stránky.
W: – Pravdepodobne už bol Facebook zatvorený?
och: – Asi pred štyrmi mesiacmi sa stala historka: všetkým nám poslali také veľké listy, že „ste blázni, všetko predávate Kremľu, porušujete všetky pravidlá Facebooku“. Dokonca poslali môjmu psovi list: "Ahoj, Mars blue corgi, zbieraš dáta!" a tak ďalej. Počúvaj, teraz robíme rebranding. O dva-tri týždne bude naša stránka spustená a všetko bude aktualizované. Bude sa na čo pozerať. Ale jednoducho v tomto smere sme veľmi leniví.
Ako môžete určiť spoľahlivosť VPN?
W: – Kedy ste si povedali, že pôjdete do kaviarne bez toho, aby ste sa identifikovali svojím telefónnym číslom? A pod čím?
och: – Nemôžete povedať „pod cudzím menom“, pretože ide o výzvu na porušenie identifikačných predpisov. Nie nie nie. Robím si srandu. Teraz takmer všetky kaviarne identifikujú všetko - nie je tam len telefónne číslo, je tam kopa pixelov, je tu identifikácia zariadenia, MAC adresa a podobne, aby to bolo možné neskôr použiť - od reklamných účelov až po operatívne pátracie činnosti. Preto musíte byť s takýmito vecami veľmi opatrní. Nielenže môžete niečo napísať, ale aj oni môžu písať z vášho zariadenia a potom sa niečo stane.
Možno ste videli príbeh o tom, ako teraz vedú vyšetrovanie toho, ako (mimochodom aj v Bielorusku) prenajímajú účty na Facebooku, napríklad na reklamu v kasínach. Ale v skutočnosti, nie je známe prečo, poskytujú aj prístup k počítaču. Toto sú veci, ktorým sa musíte čo najviac vyhýbať. Ak sa rozhodneš napísať niečo anonymne odniekiaľ... prišiel by som do kaviarne a zapol si nejakú super VPNku. Ale v skutočnosti (opäť na nikoho neukazujem prstom), keď máte účet s VPN, skontrolujete, kto je vlastníkom tejto VPN, aká spoločnosť, kto túto spoločnosť vlastní atď. Pretože väčšina hráčov na trhu VPN nie sú práve dobrí chlapci.
No dobre, v Bielorusku na tom nezáleží. V Rusku sa dobrá VPN kontroluje podľa toho, či je tam blokovaný azino777 alebo nie. Pretože ak nie, potom je vysoká pravdepodobnosť, že táto služba VPN bude do týždňa zatvorená. Vo všeobecnosti skontrolujte všetko.
O automatickom odstraňovaní správ
W: – Hovorili ste toľko o osobných správach, že ich čítali sociálne siete... Ale napríklad Facebook má tajné osobné správy, ktoré sa dajú nastaviť (až na to, že sú aj zašifrované) na zničenie. Ako sa k tomu môžete vyjadriť?
och: - V žiadnom prípade. Po prvé, nie som super profesionál v kryptografii a po druhé, problém je v tom, že nikto nevidel server Facebooku, nikto nevie, ako to tam všetko funguje. Bežne sa v niektorých špecifikáciách hovorí, že ide o end-to-end šifrovanie, ale nemusí to tak byť, alebo je to end-to-end, ale s nejakými chybami alebo niečím iným. Má zmysel používať takúto vec, ak sa bojíte, že osoba, ktorej ste ju poslali, sa v určitom okamihu pokúsi niečo urobiť.
Telegram má pohodlnú funkciu na odosielanie intímnych fotografií, ktoré sa samy odstraňujú: keď sa pokúsite urobiť snímku obrazovky, automaticky sa odstráni. iPhone má teraz funkciu nahrávania videa z obrazovky a môžete nahrávať video z obrazovky a podobne... Len mi veľmi často posielajú materiály s touto funkciou (automatické mazanie) - nikdy nechápem prečo. Hneď si to môžem stiahnuť! Všetko je na vašom uvážení.
Sociálne hodnotenie v Číne: mýty, realita, vyhliadky
in: – V skutočnosti to trochu zneužívam, hoci nepotrebujem VPN (mimochodom, máme overenú VPN). A otázka sa týka etiky. Máme úžasného kamaráta z Kazachstanu, priviezli sme ho aj prednášať. Raz sme s ním sedeli na nejakej konferencii, kde sa rozprávali o rôznych veciach, a on povedal (a zaoberá sa kybernetickou bezpečnosťou, teda v jej čistej podobe, inžinierskou bezpečnosťou, človek, ktorý sa zaujíma o technické riešenia): „Tu, Vrátil som sa z Číny. Robia tam skvelú vec – sociálne hodnotenie.“ Mimochodom, robili ste si nejaký prieskum o tejto problematike, ako to u nich funguje?
och: – V Rusku predávame bodovanie, viem o tom veľa.
in: – Mám teda otázku, čo by ste nám k tomu povedali viac – o tom, čo nás možno všetkých čaká v budúcnosti. Ale ďalšia otázka o etike. Povedal tak radostne: "Zaujímavé technické riešenie!" Máte vlastný etický kódex?
och: - Áno, mimochodom, existuje. Pred dvoma rokmi sme to predstavili - tesne po príbehu s Milonovom sme sa rozhodli tieto projekty nejako zoradiť. Vráťme sa k hodnoteniu: toto je jedna zo super populárnych otázok, pretože médiá celý tento príbeh veľmi démonizujú – že ľudia nesmú ísť do zahraničia, zabíjajú ich laserom z Mesiaca. Opäť vám prinášam inžinierske veci...
Ak sa začnete hrabať v tejto histórii, pozriete sa, aké parametre sú zahrnuté v tomto sociálnom hodnotení, pochopíte: zahŕňa uzavreté alimenty, register trestov, úverovú históriu, teda z inžinierskeho hľadiska skutočne úžasnú vec. Žijete bez porušovania zákonov, žijete dobre – dajú vám nízku sadzbu úveru. Máte dôležitú sociálnu prácu (napríklad učiteľ) - máte vyhovujúce bývanie. Najprv to všetkých zmiatlo, pretože najprv unikla historka, že ak zle napíšete o prezidentovi, zníži sa vám hodnotenie. Aj keď neexistovali žiadne dôkazy. Na obranu hodnotenia poviem proti hodnoteniu, že ten algoritmus nikto nevidel, aké parametre sa tam vlastne používajú.
Potom sa objavil príbeh, že viac ako milión ľudí nesmelo odísť do zahraničia a mali zákaz odísť. V skutočnosti to nie je úplne presná formulácia. Keď dostanete vízum (napríklad do Európy), dostanete vízum v hodnote „70 eur na deň“ (niečo také); Ak nepredložíte potvrdenie o príjme, vízum vám nebude udelené. V Číne sa miestne ministerstvo zahraničia rozhodlo ísť trochu ďalej: jednoducho okamžite varovalo ľudí, ktorí nemajú dosť peňazí, že ak chcete ísť do zahraničia, nebudete mať dosť peňazí. To všetko sa neskôr pretavilo do koncepcie, že chudobným nie je dovolené odísť do zahraničia. To je zložitá etická vec, hraničí to s istou prezumpciou viny či neviny, ale v podstate neviem posúdiť.
Ľudia zabíjajú, nie zbrane
Hlavná vec, ktorú musíte pochopiť, je, že všetky tieto algoritmy, ktoré spoločnosť odsudzuje, nie sú problémom s algoritmami. Algoritmy jednoducho umožnili veľmi rýchlo analyzovať veľký „objem“ ľudí a tento sociálny problém sa dostal na vrchol. Teda robot Microsoftu, ktorý sa poučil z tweetov a stal sa rasistom – nie je to chyba robota, ale tweetov, ktoré prečítal. Alebo firma, ktorá sa rozborom tých súčasných rozhodne postaviť model ideálneho zamestnanca a ukáže sa, že ide o bieleho, rodovo rodeného muža s vyšším vzdelaním.
Toto nie je model, ktorý je rasistický, sexistický alebo čokoľvek iné; toto sú ľudia, ktorí týchto ľudí najali (či mali pravdu alebo sa mýlili – na tom nezáleží). Všetko jednoducho hraničí s tým, že umelá inteligencia je zlá, zlá a zničí svet, ale v skutočnosti... Ak podmienečne teraz napríklad ruská vláda prijme zákon, že opozičníci nedostanú zadarmo vzdelávanie a napíšu softvér, ktorý ich identifikuje a zbaví ich tohto bezplatného vzdelávania – nie je to algoritmus, ktorý bude na vine. Aj keď túto moju koncepciu nikto nepodporuje, lebo keď poviem, že nezabíjajú ľudí zbrane, ale ľudia, tak „ty si fašista“ a pod.
Vo všeobecnosti ide o skutočne skvelé technické riešenie. Musíte pochopiť, prečo sa to nestane napríklad v Rusku. Vy [v Bielorusku] to nebudete mať, pretože ste európsky štát, s vami je všetko v poriadku. To sa v Rusku nestane z mnohých dôvodov: po prvé, nemáme rovnakú úroveň dôvery v systém presadzovania práva ako v Číne; Nemáme rovnakú úroveň digitalizácie. Prečo všetko v Číne vyšlo? Pretože vláda: majú digitálnu medicínu, digitálne poistenie, digitálnu políciu. A niekto šikovný prišiel s nápadom: spojme to všetko dohromady a urobme to – v podstate je to vernostný program. Existuje viac dobrôt ako „nedobrôt“.
Preto áno – myslím si, že toto sa v Rusku nezavedie. Najprv potrebujeme zdigitalizovať celé ministerstvo zdravotníctva (a to je úloha na 50 rokov) - niekto za to bude musieť položiť život, ale nikto to, prirodzene, neurobí. Na druhej strane, ruské banky sú svetovými lídrami v bodovaní ľudí, nerobia nič: „Áno, človeče? Páčia sa ti mladé dievčatá? Tu je kreditná karta pre tvoju milenku." Všetko je tam veľmi pokročilé. Napríklad v Amerike je takéto bodovanie zakázané takmer všade, pretože existujú zákony, podľa ktorých je banka povinná vám vysvetliť prečo: „Aha! Pretože spoločnosť Social Data Hub uchováva históriu už 10 rokov a tak a tak o vás niečo prezradili! A poďme žalovať oboch! Ale takéto príbehy nemáme.
Prečo sa o štatistikách mlčí?
V zásade podporujem bodovanie, ak nejde o nejaký „totalitný“ príbeh. Celá otázka je však taká, že sa to nedá predvídať a hodnotiť. Toto je najťažší príbeh v etike veľkých dát – predpovedať sociálny dopad, ktorý bude o 15 rokov. Napríklad som už veľmi dlho prosil prokuratúru, aby otvorila informácie o kriminalite. Štatistika kriminality je jedným zo základných kameňov každej štatistiky; toto chce naozaj každý. Ale napríklad v Rusku neotvárajú štatistiky kriminality z veľmi jednoduchého dôvodu: boja sa narušiť demografiu v mestách. Veria, že v niektorých mestách ľudia prestanú žiť a aj v rámci mesta sa všetko nejako prerozdelí. Z rovnakého dôvodu nezverejňujú štatistiku jednotnej štátnej skúšky - chápete, že ľudia pôjdu do niektorých škôl a do iných nie.
Možno je to správne, možno nie, ale bolo tu veľa projektov... Napríklad Yandex sa svojho času (opäť podľa „žltých“ fám som to nevidel, neviem) rozhodol pridať počet útokov na taxikárov k modelu realitnej prognózy , teda nejakého priblíženia sa k úrovni kriminality, rátajúc počet sťažností od taxikárov, že ich niekto obťažoval, vyhrážal sa im atď. V rámci firmy to rýchlo odmietli, aby takéto veci nerobili.
W: – Komunikujete so študentmi, komunikujete s publikom vo vašej krajine, u nás. Z množstva otázok z publika ste si všimli, že sme stále vo fáze vývoja, keď si myslíme, že potrebujeme dôvernosť, že sa môžeme pred niekým skryť, chrániť svoje údaje tým, že ich neposkytneme, skryjeme, zašifrujeme. Ak už Európska únia prešla do ďalšej fázy, do fázy súkromia, ktorá znamená kontrolu nad údajmi – prinútiť každého, kto zbiera vaše údaje, aby vám nad nimi dal účinnú kontrolu... Na základe vzoriek podľa regiónu, podľa sociálnych vrstiev – ktorá kategória občanov, ľudí, je viac Prešla už do druhého stupňa, alebo kto iný väčšinou sedí na prvom?
Koho najviac zaujíma bezpečnosť osobných údajov?
och: – Úplná väčšina... Povedal by som: nikoho to nezaujíma! To teraz znepokojuje vrcholových manažérov. Podľa miest v Rusku sú to Moskva a Petrohrad. Aktívnym centrom sú IT špecialisti, dizajnéri, kreatívne profesie, každý, kto vie filtrovať obsah, získavať nové poznatky, s vysokým záujmom o medzinárodné problémy. Ide najmä o vrcholových manažérov; áno, IT špecialisti (nepočítajúc bezpečnostných špecialistov); bankárov – teda všetkých ľudí, ktorých by mohol nejakým spôsobom postihnúť únik dát.
Ak sú napríklad odcudzené údaje nejakého majiteľa domu z nejakej Kalugy, je nepravdepodobné, že sa v jeho živote niečo vážne zmení, ak mu niekto ukradne napríklad prístup k gmailu, kde uchováva prístup k televíznym seriálom. Otázka je, že zákon chráni každého rovnako a je to tak správne, lebo... z pohľadu zákona sú si všetci rovní - haha... ale najdôležitejšie je, že sa nedá pochopiť, koho údaje bude stáť koľko, kým tieto údaje nezmiznú - bohužiaľ, je veľmi ťažké predpovedať. Ale v podstate táto kategória občanov.
Telefón - vo fólii!
Jediný raz v živote som videl kompletné uskladnenie všetkého a všetkého v dvoch firmách. Jedným z nich je najväčší integrátor informačnej bezpečnosti: všetko, dokonca aj USB, je v kancelárii zapečatené lepidlom; a ludia su tam rovnaky - stretol som tam cloveka, ktory mal telefon vo foliove taske. Zistil som, že existujú firmy, ktoré predávajú takéto špeciálne tašky. A druhýkrát som videl podobný príbeh v Bloombergu medzi zamestnancami: stáli sme vo fajčiarni a niekto niekde fotil a jeden z nich - "Aby nás tam v pozadí nebolo vidieť!" Bol som ako: "Oh, wow"!
“Sme lepší ako FSB”
Nerád by som povedal, že je to menej ako jedno percento populácie, ale, žiaľ, vo všeobecnosti je to takmer každému jedno. Ale na druhej strane mám škandalóznu službu na monitorovanie konania maloletých (spustili sme ju už dávno pod heslom „Sme lepší ako FSB“), aby sme upozornili rodiča, že maloletý vytvára odpadky , pred naším vlastným algoritmom, nainštalovaným tam, kde k nemu bude niekto poslaný.
Pri overovaní dieťaťa je potrebné poslať sken pasu (to je v zásade bežná prax), ale písali sme, že číslo pasu si môžete odstrihnúť, lebo nás to nezaujíma; Zaujíma nás iba vaša fotografia, hologram a meno a priezvisko. A pre takmer 100% ľudí - teda asi 95 pasov zo 100 - ľudia tieto čísla starostlivo vystrihli vo Photoshope a poslali len potrebnú časť. To znamená, že pochopili - áno, pretože to nepotrebujú, potom to nemusia posielať. Podľa môjho názoru ide o určitý druh skutočného pokroku, ktorý bol spôsobený ich nedôverou v nás.
W: – Vzorka je taká špecifická. Sú ľudia, ktorí sa hlásia, sú už pokročilí.
Ľudia nechcú byť sledovaní, ale nečítajú dohody
och: - Áno. A druhá vec je rovnaká: koncom toho roka sme na skúšku spustili zoznamovaciu aplikáciu (čoskoro ju znovu spustíme). Bola tam kontrolná skupina 100 tisíc ľudí. A tam, podľa prístupov GDPR, bolo v mojom osobnom účte 15 začiarkavacích políčok - dávam povolenie na analýzu interakcie s rozhraním, na prístup k mojim demografickým údajom, na prístup k trojrozmernej rekonštrukcii tváre, na prístup k mojim osobným správam atď. . Všetky možné prístupy sme popísali čo najviac. Niekde sú dokonca štatistiky o tom, kto aké políčka zaškrtol. 98 % nechalo predvolene začiarknuté všetky políčka (napriek tomu, že prešli na túto stránku a videli to všetko, ale bolo im to jedno), ale bolo zaujímavé analyzovať tieto 2 % z hľadiska toho, čo bolo pre ľudí prioritou.
Všetci odstránili povolenie na prístup k osobným správam a takmer všetci odstránili povolenie na prístup k údajom o sexuálnych testoch (čo sa im tam páči, čo tam vypĺňali, ich zvrátenosti – len srandu). Ale ľudia boli do toho nakopnutí, popichaní: rozhranie im hovorí – prečítajte si to pozorne, dáva vám to možnosť prelistovať túto dohodu až do konca. Ale bolo to urobené len preto, že to bol výskumný projekt a všetci boli varovaní. Ani jedna spoločnosť, vrátane nás, keď uvoľnia túto aplikáciu do verejnej sféry, nedonúti človeka prečítať túto správu až do konca, pretože... no, prepáčte, tak to celé funguje.
Za predpokladu, že k nám prišli s tým, že vedia, čo spoločnosť robí, vedia, že išli do služby, ktorá vám ponúkne kandidátov na základe toho, aké porno sa vám páči – aj na základe toho si len 2 % prečítali tieto zaškrtávacie políčka a vo všeobecnosti niečo urobili . A takmer nikto z nich nezrušil začiarknutie políčka „Prístup k návštevnosti a údajom o návštevách iných webových stránok“. Väčšinou sa všetci obávali osobných správ.
Nahota a väzenie za lajky - zaujímavé zákony bratských republík
W: – Mám otázku týkajúcu sa ochrany údajov. Môžete nosiť telefón vo fólii, tváriť sa, že tam nie sú... Potom to dopadne tak, že si ho nejako uložíte, uložíte, ale potom musíte dať svoje údaje štátu, pretože to od vás vyžaduje a jednoducho nemôžete... A potom sa ukáže, že štátni dodávatelia sú všetci diery. A v Bielorusku je tiež taká norma: ak skontrolujem bezpečnosť svojich osobných údajov (niečo opravím a získam k tomu prístup), okamžite som zločinec. Ten istý článok bol použitý na obvinenie novinárov v „kauze BelT“ zo získania neoprávneného prístupu k údajom (môžete si ho prečítať sami). Moja vlastná otázka teda znie: sú takéto obmedzenia účinným opatrením pre súkromie a vo všeobecnosti pre bezpečnosť súkromných údajov?
och: - Rozumiem. V Bielorusku je veľa veľmi zaujímavých zákonov. Len nedávno som sa dozvedel... Stále žartujem o vysielaní nahoty, ale ukázalo sa, že je to tu zakázané.
W: – Demonštrácia je zakázaná!
och: - To je vlastne trochu zvláštne.
W: - Môžete sa pozerať, nemôžete prenášať, nemôžete mať radi. Nemôžete sa na to pozerať spolu!
och: – odpoviem na vašu otázku. Dovoľte mi vrátiť sa k téme „uväznenia za lajky“ v Moskve. V Rusku je to téma číslo jeden. Neviem, ako je to v Bielorusku, ale úprimne povedané, štát... Keď si rozoberiete štatistiky, tak v Moskve je 95 zo 100 zatknutých pre lajky, keď sa ľudia sťažujú na ľudí, niekto napíše na prokuratúru o inom. osoba. Štát takéto prípady iniciuje veľmi zriedka. Zdá sa mi, že tento zákon je absolútne absurdný. Nepoznám jediného skutočného zločinca, ktorý bol za to uväznený. Ale toto opatrenie sa používa na to, aby sa človeku pripísalo aspoň niečo. Zdá sa mi, že je to tak zvláštne, ako sa len dá. Myslím, že to raz zruší.
W: - Tomu sa hovorí držanie veka.
och: - No dobre... nemôžem povedať. Nie som úplne proštátne monštrum, ale moje vnímanie je trochu zmenené, viete, ľuďmi, ktorí k nám prichádzajú a hovoria: „Chýba mi dieťa, pomôžte mi ho nájsť.“ Hovorím: "Nemôžem urobiť nič bez povolenia súdu." Pozeráte sa na týchto rodičov, ktorí by dali všetko vo svojom živote, poskytli akýkoľvek prístup k akýmkoľvek údajom, len aby vyriešili svoj problém. Preto je pre mňa veľmi ťažké viesť takúto diskusiu: na jednej strane verím, že štát robí správnu vec, keď chytí skutočných ľudí, no na druhej strane poskytovanie nekontrolovaného prístupu je vo všeobecnosti hrozný príbeh.
Vraciam sa k vášmu dielu, „prepáčte“, že som vás rozptyľoval. Alobalovým vrecúškam vôbec neverím. Mať mobil a zabaliť ho do fólie je hlúposť. prečo to robiť? Aby sa telefón nepripojil k Wi-Fi? Jednoduchšie je to vypnúť. Aby vás mobilný operátor neidentifikoval? Stále môžu trilaterovať signál a nejako ho vypočítať. Jediným účinným bezpečnostným opatrením sú pre mňa bezpečné úložiská, ako napríklad lokálna sieť – možno v byte, kde sa dá niečo uložiť.
W: - Je tu otázka týkajúca sa legislatívy. Je legislatíva represívna voči osobe, ktorá si chce skontrolovať svoje údaje?
och: - Rozumiem, áno. O tejto veci som ani nevedel, takže vám to nemôžem s istotou povedať. V Rusku nič také neexistuje, hoci je tam všetko veľmi komplikované. Pravdepodobne sa môžete poradiť s kvalifikovanými právnikmi a možno je tam nejaká medzera - možno sa môžete obrátiť na nejaký európsky súd... Nie? Nemôžem ti o tom povedať. Moje znalosti práva sú povrchné, na úrovni manažéra spoločnosti. Viem, čo nerobiť bez toho, aby vám niekto niečo povedal. To je, samozrejme, veľmi smutné.
W: – Chcem tým povedať, že v iných krajinách (napríklad v štátoch) je bežnou praxou, že môžete otestovať nejaký druh zraniteľnosti a potom to nahlásiť, ale nezverejniť.
och: - Áno, „bug bounty“. Uvedomil som si, že niečo také existuje.
W: "A spoločnosti nemajú mechanizmus, ako vás odstrániť, pretože je to lacnejšie."
och: – Aj táto vec hraničí s rovinou zákona. Závisí to od toho, ako túto zraniteľnosť nájdete. Zdá sa mi, že veľa peňazí zaplatených za túto zraniteľnosť v Amerike bolo vyplatených na základe dohôd o mlčanlivosti a hrozieb, že danú osobu zažalujem. Je to tiež, akoby nedržal sviečku. Takéto veci vždy riskujeme. Moji zamestnanci niekoľkokrát našli podobné zraniteľné miesta vo všetkých druhoch vládnych aplikácií - vždy hovorím: „Pošlite anonymný list lepšie, ako im povedať, že tam je diera.“ A potom príde nejaký výskumný ústav a poskytne túto službu... Vo všeobecnosti nebudem pokračovať.
Je nemožné skontrolovať integritu firmy: ak sa vám to nepáči, nepoužívajte to
W: - Otázka. Povedali ste, že ste vykonali experiment – bolo potrebné zaškrtnúť 15 začiarkavacích políčok... Povedzme, že používateľ zruší všetky začiarkavacie políčka. Kto to bude kontrolovať a ako? Ako to môžem skontrolovať?
och: – Úprimne vám poviem: nikto a nijako. vážne. Skutočnosť, že ste začiarkli a zrušili začiarknutie políčka „Zakázať sledovanie reklám“ v spoločnosti Google, vôbec nič neznamená. Bohužiaľ, aj keď nastavíte zákaz indexovania vyhľadávacieho nástroja na VKontakte, vyhľadávače ho stále indexujú a potom tieto výsledky určitým ľuďom jednoducho neposkytnú. To všetko je spôsobené nedostatkom kompetentných orgánov, ktoré to nemôžu overiť. Navyše spoločnosti, ktoré to robia, sú súkromné. Či už má Facebook správnu alebo nesprávnu pozíciu, má jednu: ak sa vám nepáči, nepoužívajte ju.
O regulácii
W: – Mám len jednu jednoduchú otázku. Ako vnímate problematiku regulácie spracovania údajov a samoregulácie?
och: – Ako zástupca spoločnosti som presvedčený, že trh a podnikanie potrebujú samoreguláciu. Verím, že Big Data Association dokáže regulovať všetko sama, bez štátu. Naozaj neverím vládnym reguláciám a naozaj neverím všetkým príbehom, keď si štát chce niečo nechať pre seba, pretože každý prípad ukázal, že je to veľmi zlé. Niekto určite dá login a heslo na žltú nálepku na monitore a pod.
Vo všeobecnosti verím v samoreguláciu. Navyše verím, že v najbližších 5 rokoch dôjdeme k nejakej otvorenosti. Už teraz je to vidieť z news feedov, že pre štát je veľmi ťažké klamať užívateľov a pre užívateľov je veľmi ťažké klamať systém. A to je v princípe asi dobre. Keďže naši spravodajskí dôstojníci sú identifikovaní z verejných fotografií
To všetko pravdepodobne vedie k poklesu kriminality. No čisto matematicky. Ak má niekto záujem hovoriť o znižovaní kriminality, dá sa vyvodiť veľa rôznych záverov. Vo všeobecnosti som za samoreguláciu trhu. Ďakujem!
Nejaké inzeráty 🙂
Ďakujeme, že ste zostali s nami. Páčia sa vám naše články? Chcete vidieť viac zaujímavého obsahu? Podporte nás zadaním objednávky alebo odporučením priateľom, , jedinečný analóg serverov základnej úrovne, ktorý sme pre vás vymysleli: (k dispozícii s RAID1 a RAID10, až 24 jadier a až 40 GB DDR4).
Dell R730xd 2 krát lacnejší v dátovom centre Equinix Tier IV v Amsterdame? Len tu v Holandsku! Dell R420 – 2x E5-2430 2.2 GHz 6C 128 GB DDR3 2 x 960 GB SSD 1 Gb/s 100 TB – od 99 USD! Čítať o
Zdroj: hab.com