«Millega korporatsioonid teie privaatsust raputasid», Artur Khachuyán (Tazeros Global)

Isikliku teabe kaitse päev, Minsk, 2019. aasta. Korraldaja: inimõiguste organisatsioon Human Constanta.

Küsimus (edaspidi – K): – Artur Khachuyan tegeleb… Kas võiks öelda "tumeda poole" kontekstis meie konverentsi puhul?

Artur Khachuyan (edaspidi – AH): – Korporatsioonide poolel – jah.

K: – Ta kogub teie andmeid, müüb neid korporatsioonidele.

AH: – Tegelikult ei…

K: – Ja ta räägibki sellest, kuidas korporatsioonid saavad teie andmeid kasutada, mis juhtub andmetega, kui need internetti satuvad. Ta ei räägi ilmselt, mida sellega ette võtta. Me mõtleme edasi…

AH: – Räägin, räägin. Tegelikult ei hakka ma liiga kaua rääkima, kuid eelmise ürituse käigus tutvustati mulle inimest, kelle "Facebook" isegi koera konto blokeeris.
Tere kõigile! Minu nimi on Artur. Tegelen tõepoolest andmete töötlemise ja kogumisega. Loomulikult ei müü ma kellelegi isikuandmeid avalikult. Naljatlesin. Minu ala on teadmiste eraldamine andmetest, mis on avalikes allikates. Kui midagi ei ole juriidiliselt isikuandmed, kuid sellest on võimalik välja tõmmata teadmisi, mis on sama olulised, kui need andmed oleks saadud isikuandmetest. Ma ei räägi tegelikult midagi hirmutavat. Siin on tõde Venemaa kohta, kuid mul on ka numbreid Valgevene kohta.

Millised on tegelikud mõõtmed?

Käimasoleval nädalal olin ma Moskvas ühe juhtiva partei koosolekul (ei ütle, millisega), kus arutasime mõne projekti käivitamist. Ja siis tõusis selle partei IT-direktor ja ütles: „Noh, te ütlesite numbreid ja nii edasi, tead, mulle 2. FSB osakond koostas märkme, kus on öeldud, et sotsiaalmeedias on 24 miljonit venelast. Ja teie räägite – 120 ja midagi. Üldiselt on meil rohkem kui kolmkümmend [miljonit], kes ei kasuta internetti.” Ma vastasin: „Jah? Noh, okei.”

Inimesed ei mõista tegelikult ulatust. See ei ole tingimata riiklikud asutused, kes ei pruugi lõpuni aru saada, kuidas internet töötab, vaid tõeliselt ka minu ema, näiteks. Ta hakkas alles nüüd aru saama, et kaarti „Selveris” antakse talle mitte lihtsalt niisama, mitte selle vaese allahindluse pärast, mida see „Selver” pakub, vaid selle eest, et hiljem kasutatakse tema andmeid OÜD-s, ostudes, prognoosimudelites jne.

Ühesõnaga, inimesi on nii palju ja avatud allikates on teavet nii palju. Kellegi kohta on teada ainult perekonnanimi, kellegi kohta on teada kõik, sealhulgas ka pornograafia, mida ta like'ib (ma alati naljatan selle üle, aga see on tõesti nii); ja kõikvõimalik teave: kui tihti inimesed reisivad, kellega nad kohtuvad, milliseid oste nad teevad, kellega nad koos elavad, kuidas nad liikuvad – palju igasugust teavet, mida saavad kasutada halvad, mitte nii halvad ja head inimesed (ma isegi ei tea, millise skaala ma peaksin praegu välja mõtlema, aga siiski).

On sotsiaalmeedia, mis on ilmselgelt tohutu avatud andmebaas, kus mängitakse inimeste nõrkustega, kes räägivad privaatsusest. Tegelikult toimub midagi sellist: kui vaadata viimase 5 aasta graafikut – isiklike andmete pärast paanika tase tõuseb, aga samal ajal sulgedud sotsiaalmeedia kontode arv väheneb iga aasta. Võib-olla pole järeldused täpsed, kuid: esimesena, mis peatab igasuguseid andmete kogumise ettevõtteid, on lihtsalt suletud konto sotsiaalmeedias, sest inimese arvamus oma suletud konto sees, kui tal pole 100 tuhat jälgijat, ei ole tegelikult mingiks analüüsiks väga huvitav; kuid selliseid juhtumeid esineb ka.

Kust saadakse teavet meie kohta?

Kas olete kunagi saanud sõnumi vanadelt koolikaaslastelt, kellega te enam ei suhtle, ja siis on see konto kadunud? On selliseid pahasid tüüpe, kes koguvad telefoninumbreid: nad analüüsivad sõpru (ja sõprade nimekiri on peaaegu alati avatud, isegi kui inimene sulgeb oma profiili, või sõprade nimekirja saab taastada 'tagasiulatuvalt', kogudes kõik teised kasutajad), võtavad mõne teie mitteaktiivse sõbra, loovad tema lehe koopia, saadavad teile sõ Friend request, te lisate ta ja kahe sekundi pärast kustutatakse konto; aga samas jääb teie lehe koopia alles. Just nii tegid hiljuti tüübid, kui 68 miljonit profiili Facebookist kuhugi kadus - nad lisasid kõiki sõpradeks, kopeerisid seda teavet, isegi kirjutasid kellelegi erateates, et midagi teha...

Sotsiaalmeedia on tohutu teabeallikas; peaaegu 80% juhtudest kogutakse teave konkreetse isiku kohta mitte otseselt, vaid nende lähedaste ringist – need on erinevad kaudsed teadmised ja tunnused (me nimetame seda „Kurja eksnaise algoritmiks“), sest üks mu tuttav suunas mind sellele täiesti geniaalsele mõttele. Ta ei jälginud kunagi oma poissi – ta jälgis alati viit tema sõpra ja teadis alati, kus ta viibib. See on tegelikult põhjus, miks selle kohta teaduslik artikkel kirjutada.

On olemas suur hulk roboteid, mis teevad igasuguseid häid ja halbu asju. On kahjutud, kes lihtsalt jälgivad teid, et hiljem teile kosmeetikat reklaamida; aga on ka tõsiseid võrgustikke, kes püüavad oma seisukohta peale suruda, eriti valimiste eel. Ei tea, kuidas Valgevenes, aga Moskvas, enne omavalitsusvalimisi, ilmus mulle mingil põhjusel suur hulk kummalisi sõpru, kellest igaüks toetab erinevat kandidaati, see tähendab, et nad ei analüüsi absoluutselt seda sisu, mida mina tarbin – nad lihtsalt püüavad peale suruda mingit arusaamatut reformi, arvestades, et ma ei ole üldse Moskvas registreeritud ega lähe valima.

Prügikast – ohtliku info allikas

Pluss, on olemas „Tor”, mida mitte just alahinnatakse – kõik arvavad, et sinna tuleb sisse minna ainult narkootikumide ostmiseks või relvade kokkupanemise teadmiseks. Kuid tegelikult on seal väga palju andmeallikaid. Need on sisuliselt kõik ebaseaduslikud (noh, poolseaduslikud), sest keegi võis mingil häkkeri saidil häkkida lennuettevõtjate andmebaasi ja sinna midagi panna. Õiguslikult ei tohi te neid andmeid kasutada, kuid kui te saate sealt mingit teadmisi (nagu Ameerika kohtus), – näiteks salvestuse audio vestlusest, mis on tehtud ilma korralduseta, ei saa te seda kasutada, kuid teadmist, mille te sellest audioklipist saite, ei unusta te enam – ja siin on umbes sama asi.

See on tõepoolest väga ohtlik asi, seetõttu ma alati naljatlen, aga see on tõsi. Ma tellin alati toitu alati naabri juurde, kuna „Delivery Club“ puruneb väga sageli ja neil on tõeliselt selliseid probleeme. Ja hiljuti olin väga üllatunud: tellisin toidukaupu ja karbil, mille viisin prügikasti, oli kleepitud silt, millel oli kirjas – „Artur Khachuyan“, telefoninumber, korteri aadress, fonoluku kood ja e-mail. Me oleme isegi tõeliselt üritanud Moskva omavalitsusega kokku leppida, et nad annaksid juurdepääsu prügimäele: üldiselt, tulla prügilasse ja proovida lihtsalt huvi pärast leida mingit mainimist nende isikuandmete kohta – teha midagi like mini-uuring. Aga me saime keeldumise, kui nad kuulsid, et me tahame tulla Roskomnadzori töötajatega.

Aga see on tõesti nii. Kas sa nägid ägedat filmi "Häkkerid"? Nad kaevasid prügist, et leida mingit viiruse osa. See on ka populaarne asi – inimesed, kui nad midagi avatud allikatesse viskasid, unustasid selle. See võib olla mingi kooli veebisait, kus nad kirjutasid dissertatsiooni valge rassi ülimuslikkuse üle, ja siis läksid nad Riigiduuma ja unustasid selle. Selliseid juhtumeid on tegelikult olnud.

Mida "ühtsed Venemaa" meeldib?

Kui sisse logite "tipptasemele" saidil "Lifnews"... Kaks aastat tagasi tegid mulle üliõpilased uuringu: nad võtsid kõik "Ühtse Venemaa" esindajad (kõik nad esitasid ametlikult oma sotsiaalmeedia kontod Keskvalimiskomisjonile), vaatasid, mida nad üldse like'ivad – lasteporno, räpane sisu, arusaamatud kuulutused kummaliste täiskasvanud naiste poolt… Ühesõnaga, inimesed on nagu unustanud selle.

Siis kirjutasid nad kirja, et kahekümne inimese kontod olid varastatud. Kuid kontod varastati neilt kaks nädalat tagasi, kaheksa kuud tagasi esitasid nad need valimiskomisjonile, ja like'id olid kaks aastat tagasi... Ühesõnaga, saate aru, jah? Seal on tõeliselt tohutult teavet, mida saab alati kasutada isegi uurimistöö jaoks.

Mõni väike kõrvalteema: eile nägin uudist, et Roskomnadzor blokeeris kahe aasta taguseid üliõpilaste teadusuuringute tulemusi «vishkist». Võib-olla keegi nägi seda uudist, eks? Need olid minu üliõpilased, kes tegid uurimistöö: nad said «Torist», said «Hüdra» saidilt, kus müüakse narkootikume (palun vabandust – «Rampist»), kogusid teavet, kui palju, mis piirkonnas Venemaal hind on, ja tegid uurimuse. Selle nimi oli «Peol osaleja tarvikud». See on muidugi naljakas asi, kuid andmeanalüüsi seisukohalt on see tegelikult huvitav andmestik – hiljem käisin veel kaks aastat igasugustel «hackathonidel». See on reaalne asi – seal on palju huvitavat.

Kuidas Get Contact «ostis hinge» uudishimulike kasutajate seas ja miks on oluline lugeda kasutustingimusi

Tavaliselt, kui küsid inimeselt, millise andmeleke eest ta kardab (eriti kui tema veebikaamera on kinni kleebitud), seab ta alati prioriteedid selliselt: häkkerid, riik, korporatsioonid.

See on muidugi nalja teema. Kuid tegelikult on aktiivsed andmeanalüütikud ja erinevad andmete uurijad varastanud palju rohkem, kui ma arvan, et hirmuäratavad venelased, ameeriklased või mõned teised häkkerid (asenda mis tahes, olenevalt oma poliitilistest veendumustest). Üldiselt kardavad kõik seda – teil kõigil on kindlasti veebikaamera kinni kleebitud? Käsi isegi ei tõsta.

Kuid kui häkkerid teevad midagi ebaseaduslikku ja riik vajab andmete saamiseks kohtuluba, siis viimaste tüüpide [korporatsioonide] jaoks ei ole üldse midagi vajalikku, sest neil on olemas selline asi nagu kasutaja leping, mida keegi kunagi elus ei loe. Loodan tõeliselt, et sellised algatused sunnivad inimesi lepinguid siiski lugema. Ma ei tea, kuidas Belaruses, aga Moskvas oli eelmisel aastal laine rakenduse „GetContact” (te olete ilmselt kursis), kui ilmus murematu rakendus, mis ütleb: anna selle rakenduse kasutamiseks juurdepääs kõikidele oma kontaktidele ja me näitame sulle, kuidas sul kellegagi naljakalt kirja oli.

Meedias ei ole see lahti olnud, aga palju kõrgeid ametnikke on mulle kaebanud, et neile helistatakse pidevalt. Tundub, et administraatorid üritavad selle andmebaasi kaudu leida näiteks Šoigust või kedagi teist… Volotškovast… Kui mitte midagi muud, siis on see kahjutu. Kuid need, kes on lugenud "GetContacti" litsentsilepingut, teavad, et seal on kirjas: rämpsposti võib saata piiramatus koguses piiramatu aja jooksul, teie andmed müüakse kolmandatele isikutele kontrollimatult, õigusi ja aegumistähtaegu pole piiratud ning üldiselt kõik, mida saab. See ei ole tegelikult nii haruldane lugu. Mina sain "Facebookilt", kui seal olin, päevas kuni 15 korda teateid: "Kuna sa võid kontakte sünkroonida, leian ma kõiki su sõpru, kes sul on!".

Korporatsioonidele on see ükskõik. FZ 152 ja GDPR

Aga tegelikult on prioriteedid vastupidised, sest korporatsioone kaitseb eraõigus ja seetõttu on praktiliselt igas olukorras peaaegu võimatu tõestada, et nad ei ole õiged. Ja arvestades, et nad on suured, hirmuäratavad ja väga kallid, on see praktiliselt võimatu. Kui oled veel Venemaal, kus seadusandlus on aegunud, siis on olukord kindlasti kurb.

Kas tead, mille poolest erineb Venemaa seadus (mis on praktiliselt Valgevene seadus) näiteks GDPR-ist? Venemaa 152. seadus kaitseb andmeid (see on jäänuk nõukogude ajast) – dokument, mis kaitseb andmeid lekete eest. GDPR kaitseb aga kasutajate õigusi – õigusi sellele, et nad kaotavad teatud vabadused, privileegid või midagi muud, kuna nende andmed lekivad kuhugi (nad viisid otse „data-li” sisse sellise mõiste). Meil on aga kõik, mis sul võib ette heita – trahv selle eest, et sul pole sertifitseeritud „open”-„Excelit” isikuandmete töötlemiseks. Loodan, et see kunagi muutub, aga ma arvan, et mitte lähitulevikus.

Millised on tänapäeval tõelised sihtimise võimalused?

Esimene, võib-olla hirmutav lugu, millest kõik pidevalt mõelnud on – see on isiklike sõnumite lugemine. Kindlasti on teie seas keegi, kes on kunagi midagi valjusti öelnud ja seejärel saanud sihitud reklaami. Jah, kas selliseid oli? Tõstke käsi.

Ma tõeliselt ei usu, et tinglik "Yandex Navigator" tuvastab otse audio voos kõigi kasutajate jaoks, sest need, kes on natuke kokku puutunud hääletuvastusega, mõistavad, et: esiteks peab "Yandexi" andmekeskus olema viis korda suurem; kuid mis kõige tähtsam, sellise inimese kaasamise maksumus oleks tohutu (et voos audio tuvastada ja mõista, millest inimene räägib). Kuid! On tõepoolest algoritme, mis märgistavad teid teatud märksõnade järgi, et hiljem teha mingit reklaamikanalit.

Selliseid uuringuid on tehtud palju, ja ma olen 100 korda loonud puhtaid kontosid, kirjutanud kellelegi sõnumeid, ja siis ootamatult saanud reklaame, mis näiliselt ei olnud seotud sellega. Tegelikult on siin kaks järeldust. Sellise loo puhul arvatakse, et inimene jääb lihtsalt mingisse statistilisse valimisse; ütleme, et olete 25-aastane mees, kes just sel hetkel pidanuks kokku puutuma inglise keele kursustega, just siis, kui kirjutasite kellelegi. Igatahes ütleb Facebook alati kohtus, et on olemas mingi käitumismudel, mida me teile ei näita, mis on ehitatud andmete põhjal, mida me teile ei näita, meil on sisemised uuringud, mida me kindlasti ei näita (sest kõik on kaubanduslik saladus); igal juhul jääte te mingisse statistilisse valimisse, seega näitasime teile seda.

Kuidas Facebook kasutajate privaatsust vihastas

Kahjuks on see täiesti võimatu tõestada, kui teil pole ettevõttes inimest, kes neid toiminguid kuidagi kinnitaks. Aga Ameerika õiguses kehtib sellistel juhtudel töötaja salastamislepe enam kui tema soov teid aidata, seega ei tee keegi seda. Veel huvitav on see, et kuskil aasta või poolteist tagasi hakkas Ameerikas arenema trend, kus inimesed installisid brauseri laienduse, et krüptida Facebooki sõnumeid: kirjutad midagi inimesele, see krüpteeritakse tema seadme võtmega ja saadetakse avatud juurde midagi segast.

Siin on, kuidas "Facebook" on selle ettevõttega poolteist aastat kohtunud ja pole ikka veel selge, millistel alustel (sest ma ei saa Ameerika seadustest hästi aru) sundis neid selle rakenduse kustutamiseks, ning pärast tegi muudatuse kasutaja kokkuleppes: kui vaatate, siis on seal säte, et te ei tohi edastada krüpteeritud sõnumeid – see on kuidagi niimoodi nutikalt kirjutatud, et te ei tohi kasutada krüptograafilisi algoritme, et muuta sõnumeid – noh, nii see on. See tähendab, et nad ütlesid: kas sa kasutad meie platvormi, kirjutad avalikult, või ei kirjuta üldse. Ja sealt tekib küsimus: miks on neil üldse vaja isiklikke sõnumeid?

Isiklikud sõnumid – 100% usaldusväärse teabe allikas

Siin on väga lihtne asi. Kõik, kes tegelevad digitaalsete jälgede analüüsiga ja inimeste tegevusega, püüavad neid andmeid kasutada turundamiseks või millegi muu jaoks – nende jaoks on selline mõõdik nagu usaldusväärsus. See tähendab mingit inimkuju – te mõistate hästi, et see ei ole ei inimene ise – see kuju on alati veidi edukam, veidi parem. Isiklikud sõnumid on tõelised teadmised, mida saab inimesest saada, need on praktiliselt alati 100% usaldusväärsed. Sest harva kirjutab keegi isiklikes sõnumites midagi valeinformatsiooni, ja see kõik on väga kergesti kontrollitav – vastavalt teistele sõnumitele (te saite aru, millest ma räägin). Asja tuum on see, et sellisel viisil saadud teadmised on peaaegu 100% usaldusväärsed, seega püüavad kõik neid alati hankida.

Kuid siiski on see kõik, nagu eelnevalt mainitud, väga raskesti tõestatav lugu. Need, kes usuvad, et näiteks "VKontakte" on õiguskaitseorganitel juurdepääs isiklikele sõnumitele, ei ole täiesti õiged. Kui vaatate lihtsalt kohtulike päringute ajalugu teabe jagamiseks – siis näete, kuidas "VKontakte" (antud juhul Mail.ru) nendest päringutest vähehaaval pääseb.
Nende peamine argument on alati: seaduse kohaselt peavad õiguskaitseorganid õigustama, miks on just vajalik juurdepääs isiklikele sõnumitele. Üldjuhul, kui tegu on mõrvaga, ütleb uurija alati, et tõenäoliselt on inimene öelnud, kus ta relva peidab (isiklikes sõnumites). Kuid me teame, et ükski mõistlik kurjategija ei kirjutaks kunagi "VKontakte" oma kaastöötajatele, kus ta tulirelva peidab. Kuid see on üks levinud variant, mida ametnikud esitavad.

Ja another scary example (I was asked to provide frightening examples today) — about Russia (I hope this won't be the case in Belarus): by law, an investigator must have sufficient grounds to request information from an operator. Naturally, these credible parameters are not described anywhere (what they are, in what form they must exist), but in Russia, there are increasingly more precedents where such grounds arise for the court if there is a model that predicts certain, whether good or bad, behavior.

So, no one can be imprisoned here (and that’s a good thing) just because you fall into some statistical sample of pure murderers — and that’s good because it violates the presumption of innocence; but there are precedents when the results of such forecasts have been used to obtain court permission for data retrieval. This is not only happening in Russia, by the way. The same thing exists in America. There, ‘Palantir’ has long been scoring everyone, utilizing such methods. A frightening story.

See, mul on uurimus. Me viisime läbi midagi sellist: jalutasime Peterburis, jälgides rohelisi kohti, ja saatsime sõpradele „puhtadelt” kontodelt mingeid võtmehetki – näiteks „tahan juua kohvi”, „kust osta pesupulbrit?” jne. Ja siis saime vastavalt geo-lokatsioonile suunatud reklaami. Kuidas see toimis ... Või nagu öeldi: „Kokkulepe? Ei arva!” Need on isiklikud sõnumid „VKontakte”. Palun andestage mulle Mail.ru, aga see on tõsi. Igaüks, kes soovib, saab sarnast eksperimenti korrata.

Muide, kui me esitasime toetuse taotluse, ütles Mail, et seal olid wi-fi punktid, mis haarasid teie MAC-aadressi. Selliseid asju on ka.

Isiklike andmete hankimise ja levitamise levinud variandid

Järgmine lugu on seotud täiendavate teadmiste hankimisega, millest olen tõeliselt puudutanud vaid osa. Tegelikult sisaldab inimese täidetud sotsiaalmeedia profiil tõeliselt 15–20% reaalsetest teadmistest, mida andmeoperaator tema kohta hoiab. Kõik ülejäänud lugu saadakse väga huvitavatest asjadest. Miks arvate, et Google arendab tugevalt arvutinägemise raamatukogusid? Eelkõige olid nad üks esimesi, kes arendas raamatukogusid just objektide analüüsimiseks ja kategoriseerimiseks – taustal, esiplaanil, pole tähtis, kus. Sest see on tohutu täiendava teabe allikas selle kohta, milline on inimese korter, auto, kus ta elab, luksusesemed...

Oli palju 'häkkeri' lekkimist, kus Google'i treenitud tehisintellekti mudelid avaldati (ma ei tea, kelle omad need olid, aga siiski). Seal oli palju huvitavat rindade suuruse, talje mahu kohta – mida inimesed ei üritanud teiste inimeste kohta teada saada fotode analüüsi põhjal. Sest kui keegi pilti teeb, ei mõtle ta alati sellele, kui palju huvitavat on sellest võimalik teada saada? Ja kui palju juba Venemaal sünnitunnistuste fotosid jagatakse?.. Või: 'Hurraa, mu laps sai viisa'! See on tõeline probleem kaasaegses ühiskonnas.

Veel üks offtopic (täna jagan teiega fakte): Moskvas on kõige sagedasem isikuandmete lekkimine – see on elamumajanduse ala, kus uksele pannakse üles võlgnike nimekiri, ja need võlgnikud esitavad seejärel kohtusse kaebuse, kuna nende isikuandmed on avalikuks saanud ilma nende loata. Kui äkki juhtub ka teiega nii... Asi on selles, et inimene, kui ta midagi teeb, ei tea, mis tol fotol oli ja mis puudus. Autonumbrite arv on praegu suur.

Me korraldasime kunagi uuringu, et mõista, kui palju inimesi jagab autode pilte (neil on seega õigusrikkumised jne) – kahjuks saime seda teha ainult lekkinud GIBDD andmete järgi, kus on ainult number (mittetäielik informatsioon), kuid see oli siiski huvitav.

Teie järgmine reklaam sõltub sellest, kuidas te eelmist „kasutasite“.

See on esimene lugu. Teine lugu on käitumismudelid, sisu, mida inimene tarbib, sest üks tähtsamaid mõõdikuid, mida sotsiaalmeedia proovib teie kohta koostada, on see, kuidas te reklaamiga suhtlete. Olles kui täpsed ja "üliägedad" algoritmid iganes, kui suurepäraselt töötavad tehisintellektid ja kõik muu, on sotsiaalmeedia tõeline prioriteet alati raha teenimine. Seetõttu, kui hüpoteetiline "Coca-Cola" tuleb ja ütleb – "Soovin, et mu postitust näeksid kõik Valgevene elanikud" – siis nad näevad seda, sõltumata sellest, mida algoritmid selle inimese kohta arvavad, kuidas teda sihtida. Te olete kindlasti saanud reklaami, mis ei ole mitte ainult üliülihästi sihitud, vaid täiesti ebamugav, millega pole absoluutselt mõtet. Seda ebamugavust on makstud palju raha.

Kuid üks peamisi mõõdikuid on mõista, millise sisuga te kõige paremini suhelda oskate - täpsemalt, kuidas te sellele reageerite, et teile näidata sarnaseid reklaamiloendeid. Seetõttu on see mõõde teie suhete kohta reklaamiga: kes selle blokeerib, kes mitte, kuidas inimene klikkab, kas ta loeb ainult pealkirju või süveneb täielikult materjali; ja seejärel jätkata teie hoidmist selles, nagu see nüüd on nimetatud, "filtreerimisest mulli", et te jätkaksite selle sisuga suhtlemist.

Kui teil peaks kunagi huvi olema, proovige nädal, võib-olla isegi kuu jooksul sotsiaalmeediast lihtsalt kogu reklaami blokeerida: kui teile kuvatakse mõni reklaam – sulgete selle. Kui seda analüüsida ja graafikule kanda, on tulemus huvitav: kui te nädal aega reklaame blokeerite, kuvatakse järgmisel nädalal teile neid tugevdatud variandina ja üldiselt erinevatest kategooriatest; see tähendab, et kui teile meeldivad koerad ja teile näidatakse koerareklaame – te blokeerite kõik koerad ning edasi hakkavad nad teile näitama igasuguseid veidraid asju erinevatest valikutest, et proovida aru saada, mida te vajate.

Ja siis, lõpuks, sülitatakse sisse, märgitakse teid inimesena, kes ei suhtle reklaamiga, pannakse teile tinglik rist ja sel hetkel hakkavad teile näitama ainult rikkaste brändide reklaame. See tähendab, et sel hetkel näete reklaame ainult "Coca-Cola", "KitKat", "Unilever" ja kõigi nende inimeste reklaame, kes maksavad suure rahaga, sest on vajalik vaateid kasvatada. Katsetage kuu jooksul: üks-kaks nädalat blokeerige kogu reklaam, seejärel näete kõike, ja blokeerige see, – lõpuks näete ainult reklaame, nagu hiljem selgub (ning reklaamiagentuurid ütlevad), ainult klientidelt, kes maksavad vaadete eest, sest on võimatu aru saada, kuidas te nende reklaamiga suhtlete.

Pornot vaatavad sagedamini need, kes on kalduvad sügavale sisusse sukelduma.

Seega, siin on lugu igasugusest käitumise jälgimisest. Mul on üks huvitav näide – külastajad ühest riigiasutusest. Kõige naljakam on see, et mida sügavamale inimesed sirvivad, seda rohkem eelistavad nad pornole traditsioonilisi suhteid. "Vabandust", et ma pidevalt sellest teemast räägin, aga mul on tõesti väga head suhted "Pornhubiga", ja see on alati väga huvitav uurimistöö, sest see on teema, mis tundub olevat keelatud, kuid räägib inimesest palju. Ja siit tulenevad järgmised punktid liikluse tagastamisest... Me räägime veel "Pornhubist"!

Mis loetakse isikuandmeteks ja kas on võimalik "iPhone" avada 3D näo mudeliga?

Minu lemmik on isikuandmete seaduse ringimise teema. Kui lugeda sama Facebooki tehnilist dokumentatsiooni, kus see on esitanud mingeid siseandmeid (näiteks kohtus), siis seal ei ole mainitud ei näotuvastust ega hääle analüüsi. Seal on väga keerulised formulatsioonid, mida ükski kvalifitseeritud jurist seadusandlikust raamistikust üles ei leia. Meil Venemaal töötab see umbes samamoodi – ma näitan teile just sellist asja.

Mida te siin näete? Iga normaalne inimene ütleks, et see on nägu. See on muide Sacha Grey, minu meelest. Õiguslikult on see – kolmemõõtmeliste punktide maatriks, kus on 300 000 punkti. Hea või halb, kuid seaduse järgi ei loeta seda isikuandmeteks. Venemaa RKN ei pea ühte fotot isikuandmeteks – isikuandmeteks peetakse seda, kui seal on veel midagi (näiteks nimi või telefoninumber), aga üksik foto iseenesest ei tähenda midagi. Niipea, kui võeti kasutusele biomeetria seadus ja biomeetrilised andmed võrdusid isikuandmetega (nii, väga üldiselt), hakkasid kõik kohe rääkima: need ei ole biomeetrilised andmed, need on punktide kogum! Eriti, kui võtta sellest punktide kogumist otsene või pöördeline Fourier'i teisendus, siis selliselt ei saa te isikut teada, kuid te võite teda tuvastada. Puhtalt teoreetiliselt ei riku see seadus midagi.
Olen teinud ka teise uurimuse: see on algoritm, mis ehitab kolme mõõtmetega näo rekonstruktsiooni avalikest allikatest – võtame näiteks konto Instagramis ja saame hiljem näo 3D-printeriga välja trükkida. Kui kedagi see huvitab, siis mul on link avalikult saadaval; kui keegi soovib kellegi iPhone'i avada… Nalja pärast – iPhone'i ei saa avada, seal on kvaliteet madalam.

Suletud profiil on turvalisuse pluss.

See on esimene asi, aga teine… Olen juba maininud, et teavet saadakse peamiselt kasutaja keskkonnast. Selle pildi ma joonistasin 2017. aastal: keskmine Venemaa sotsiaalmeedia kasutaja on sees, tal on keskmiselt 200–300 sõpra, ja need on tema sõprade sõbrad ning nende sõprade sõbrad.

Aitäh sotsiaalmeediale, et nad on tutvustanud "nutikate" e-lintide algoritme, mis väidetavalt suurendavad teie võimalust kokku puutuda põneva sisuga. Selle tõttu võib see hulk inimesi igal hetkel näha teie loodud sisu, isegi kui teie konto on piiratud ainult ülemiste privaatsusastmete (ainult sõpradele ja nende sõpradele jne) kaudu. Siin on sõprade sõbrad:

Kui keegi arvab, et kui ta VK-s valib „Minu postitustes” näha „sõprade sõpru”, siis need kolm käepigistust tähendavad umbes 800 tuhat inimest, mis pole tegelikult nii vähe, kuid see sõltub teie sisust. Võib-olla viite teatud ebamugavad voogedastused läbi, ja kõik need sõprade sõbrad võivad selle sisuga suhelda. Keegi neist võib midagi kuskil jagada, kõigil inimestel on oma meeldimiste voog, mille tõenäoliselt tühistatakse, kuna see pole just kõige meeldivam asi. Seetõttu võib teie sisu igal ajal kuhugi sattuda.

Eelmisel aastal käivitas VK veel superkaitstud profiile, kuid neid on seni kasutanud väga väike hulk inimesi (ma ei ütle, kui vähe, aga tõepoolest vähe!). Võib-olla mõtlevad inimesed kunagi sellele – ma tõeliselt loodan, et see juhtub. Kõik uurimustööd on pidevalt suunatud selleks, et aidata inimestel mõista probleemide ulatust. Sest seni, kuni kedagi konkreetset ei puuduta mõned hirmutavad asjad, ei mõtle nad sellest kunagi. Jätkame edasi.

Ametiasutustes ei teata, mis on isikuandmed, ja ei tormata andma määratlust.

Iga isikuandmete õiguse spetsialist ütleb järgmist: erinevaid andmeallikaid ei tohi kunagi omavahel kombineerida, sest siin on teie e-postid (need on ühed isikuandmed koos mingite anonüümsete identifikaatoritega), siin on – nimi ja perekonnanimi... Kui kõik see kokku panna, kasutavad nad justkui isikuandmeid. Tegelikult oleks õige alustada selle teemaga, kuid ma arvan, et te olete juba sellesse süvenenud ja teate, kuidas seadus töötab.

Tõeliselt ei tea keegi, mis on isikuandmed. Oluline kontseptsioon! Kui ma käin riigiasutustes, ütlen: 'Konjakipudeli sellele, kes suudab öelda, mis on isikuandmed.' Ja keegi ei oska öelda. Miks? Mitte sellepärast, et nad on lollid, vaid sellepärast, et keegi ei soovi vastutust võtta. Sest kui Roskomnadzor ütleb, et see on isikuandmed, siis homme teeb keegi midagi ja nad jäävad süüdi; nad on täidesaatvad organid ja ei peaks mitte millegi eest vastutama.

Asi on selles, et seaduses on selgelt kirjas, et isikuandmed on andmed, mille järgi saab inimest tuvastada. Ja seal on antud näide: nimi, aadress, telefoninumber. Kuid me teame, et inimest saab tuvastada ka selle järgi, kuidas ta nuppe vajutab, kuidas ta liidesega suhtleb ja teiste kaudsete parameetrite põhjal. Kui kellelegi huvi pakub: praktiliselt igas valdkonnas on tohutult palju tagaplane.

Identifikaatorid, mis meid paljastavad

Näiteks hakkasid kõik seadistama punktid, et tuvastada MAC-aadresse (olenemata kas olete sellega kokku puutunud?) – nutikad (või ei tea, ahned) mobiilseadmete tootjad, nagu Apple ja Google, lõid kiiresti algoritmid, mis genereerivad juhuslikke MAC-aadresse, et ei saaks teid tuvastada, kui liigelda ringi ja kõigile saata oma MAC-aadressi. Kuid nutikad tüübid mõtlesid veelgi kaugemale ja tulid välja järgmise looga.

Näiteks võite saada mobiilioperaatori litsentsi; mobiilioperaatori litsentsi saamistega saate juurdepääsu sellisele asjale – seda nimetatakse SS7 protokolliks, mille abil näete teatud mobiilside operaatorite eetris toimuvat; seal on palju erinevaid identifikaatoreid, mis ei ole isikuandmed. Varem oli see IMEI, aga nüüd – keegi on sõna otseses mõttes selle suust võtnud ja otsustanud Venemaal luua (niisugune algatus) ühtse andmebaasi nende "IMEI-de" kohta. See tundub olevat olemas, kuid vaatamata sellele.

On veel näiteks hulk identifikaatoreid – näiteks IMCI (mobiili seadme identifikaator), mis ei ole isikuandmed ega ole seotud muude asjadega, seega võib seda säilitada ilma seadusliku tagajärjeta ja hiljem kellegagi neid identifikaatoreid vahetada, et hiljem inimesega suhelda.

Isikuandmete haldamise kultuur on madalal tasemel.

Üldiselt on asi selles, et kõik on praegu väga mures üksikute andmete kokkuviimise pärast, ja enamik ettevõtteid, kes seda kokkuviimist teevad, ei mõtle sellele tihti isegi. Näiteks tuli pank, sõlmis lepingu salastamise kohta ettevõttega, kes tegeleb skoorimisega, ja andis üle 100 000 oma klienti…

Ja mitte alati on sellel pangal lepingus punkt kolmandatele isikutele andmete edastamise kohta. Need kliendid on midagi skoorinud, ja pole selge, kuhu see andmebaas siis läks, ei läinud – enamikul Eesti ettevõtetest puudub andmete kustutamise kultuur… – kindlasti see „Excel“ jääb kuskile sekretäri arvutisse rippuma.

Meie andmeid võidakse igast poest ostmisega müüa.

On palju skeeme, mis näivad olevat seaduslikud (nimelt seaduslikud). Näiteks on lugu järgmine: 15 suurimast Venemaa pangast on ainult kaks, mis on tegelikult SMS-lähetajad – "Tinkoff" ja "Alfa", st nad saadavad oma SMS-e ise. Ülejäänud pangad kasutavad SMS-lähetajaid SMS-ide saatmiseks lõppkasutajatele. Need SMS-lähetajad on peaaegu alati õigustatud analüüsima sisu (nt turvalisuse ja oma järelduste määramiseks), et seejärel müüa kogutud statistikat. Need SMS-lähetajad "sõbrustavad" maksudokumentide operaatoritega, kes tegelevad tšekkidega.

Ja on järgmine: te olete tullud kassasse, maksustamise andmete operaator (kas andsite oma telefoninumbri või mitte – see on kuidagi seal seotud)… teie telefonile tuleb SMS, mille kaudu see SMS-i värav näeb kaardi viimaseid 4 numbrit ja telefoninumbrit. Me teame, millal te tehingu tegite maksustamise andmete operaatorilt, ja SMS-ides me teame (nüüd juba), millisele numbrile tuli teave teatud rahasumma kinnipidamise kohta nende nelja viimase kaardinumbri juures. Kaardi viimased neli numbrit ei ole teie identifikaatorid, need ei riku seadust, sest nende järgi ei saa teid deanonüümida, samuti tehingusumma – ei saa.

Aga kui olete kokkulepitud maksuteenuse osutajaga, siis teate, millises ajavahemikus (pluss-miinus 5 minutit) peaks see SMS tulema. Nii et teid on kiiresti OÜ-sse seostatud teie telefoninumbriga, ja teie telefoninumber on seotud reklaamiidentifikaatoritega, tõeliselt kõigega. Seetõttu saab teid hiljem jälitada: lähed poodi, ja teile saadetakse mingit lollust ilma loata. Ma kahtlen, et siin saalis on kedagi, kes on kordki esitanud kaebuse FAS-i spami kohta. Ilmselt mitte… Küllap olen ainult mina.

Paberid on arhailine, kuid tõhus viis oma õiguste kaitsmiseks.

See töötab tõeliselt hästi. Tõsi, tuleb oodata poolteist aastat, aga FAS viib tõesti läbi kontrolli: kes, kuidas, kellele andmed edastati, miks ja nii edasi.

Küsimus saalist (edasi – Z): – Valgevenes ei ole FAS-i. See on teine riik.

AH: – Jah, ma saan aru. Kindlasti on mingi analoog olemas…

Saali tulevad vastuväited.

AH: – Hästi, halb näide, „vabandust“. Pole tähtis. Minu sõprade seas ei tea ma kedagi, kes üldse teaks selle loo olemasolust – et võiks minna kirjutama ja nad siis veel aasta aega töötavad.

Teine lugu, mis Venemaal samuti väga areneb, kuid ma arvan, et leiate sarnase ka enda juures. Ma armastan seda teha, kui riigiasutus suhtleb sinuga halvasti, näiteks mingi pank või midagi muud – sa ütled: „Andke paber”. Ja kirjutad paberile: „Vastavalt punkti 14 152. seaduse kohaselt palun alustada isikuandmete töötlemist paberil.” Ma ei tea, kuidas see Valgevenes täpselt käib, aga kindlasti on see olemas. Venemaa seaduste kohaselt ei tohi teile selle põhjal teenust keelata.

Ma isegi tean palju inimesi, kes on Mail.ru's sarnaseid avaldusi saatnud ja palunud isikuandmete arvestamist paberil. Mail.ru vastas sellele väga kaua. Ma tean isegi ühte arendajat „Yandexist”, kelle üle nalja tehtud: nad kustutasid tema konto VK-s ja saatsid talle hunniku välja prinditud ekraanipilte, öeldes, et nad saadavad neid ekraanipilte iga kord, kui ta soovib oma lehte uuendada.

Naljakas, kuid siiski see on tõeline alternatiiv, kui keegi tõeliselt muretseb oma andmete pärast, ühelt poolt... Teiselt poolt ütles sama RKN mulle, et see isikuandmete töötlemise leping on formaalne ning seadus ette näeb veel mitmeid võimalusi selle nõusoleku andmiseks. Ja et näiteks kutsuti mind siia üritusele, ja kui näiteks Human Constanta ei pruugi mitte sõlmida minuga isikuandmete töötlemise lepingut Venemaa seaduste raames (sest juba see, et ma tulin ja nõustusin esinema, on nõusolek isikuandmete töötlemiseks), – ikkagi kõik nõuavad neid paberilisi lubasid. Kuid RKN ütles mulle, et selline asi ei pruugi tegelikult kehtida, et tõenäoliselt nad vahepeal jäävad ära.

Loodan, et Venemaal ei loodud kunagi ühtset isikuandmete operaatorit, halastage Jumal, sest hullem, kui koguda kõik isikuandmed ühte korvi, võib olla ainult see, kui need koguda riiklikku korvi. Sest kes teab, mis kõigega pärast juhtuma hakkab.

Ettevõtted vahetavad isikuandmeid, kuid seadused reguleerivad seda nõrgalt.

Enamik ettevõtteid vahetab omavahel mingisuguseid andmeid ja identifikaatoreid. See võib olla poes pank, seejärel pank sotsiaalvõrgustikus, sotsiaalvõrgustik veel kellegagi... Ja lõpuks omandavad need inimesed teatud teadmiste kriitilise massi, mida saab mingil moel kasutada, ja kõik need teadmised, jah, proovivad praegu hoida enda käes. Kuid see kõik jõuab ikkagi mingisse reklaamitransporti või mujale.

Kolmandate isikute andmete edastamine võib olla tõeliselt naljakas, kuna seadustes ei ole määratletud, kes need kolmandad isikud on ja keda üldse peab kolmandaks isikuks pidama. See on muide ameerika advokaatide seas väga levinud fraas – seal on see Third parties – kes, keda te kolmandate isikute hulka arvate: vanaema, vana-vanaema?.. Ameerikas on isegi olnud juhtumeid, kus kellegi andmed lasti ringlusse, inimene kaebas kohtusse ja nad tõestasid, et see inimene tunneb andmete omanikku läbi mitme sõbra – mingi käepigistuste arvuga, viidates mingitele kummalistele sotsioloogilistele uuringutele – tõestati sel moel, et need inimesed ei saa üksteisele kolmandate isikutena arvestada. Naeruväärne. Kuid selliste andmete edastamine on tõeliselt levinud.

Isegi kui te minge veebisaidile, kus on identifitseerimise jaoks jälgimisseade, on see seadeldis õigustatud saatma andmeid selle liikluse kohta kuhugi (nt "Clickstreamile", reklaamiplatvormide omanikele, nagu näiteks "Pornhub"). "Pornhub", kui keegi teist on veebiarendaja, – minge ja vaadake, kui palju jälgimispiksleid on "Pornhubi" veebisaidil. Lihtsalt külastades laaditakse maha tohutul hulgal JavaScripti, et parandada saidi toimivust. Tegelikult paigutatakse seal ka ristdomaanseid küpsiseid, seal on nii palju erinevat, kuna selline teave on turul "clickstream" alati kõrge hinnaga.

"Facebook" manööverdab ja maski eemaldama ei kavatse.

Loomulikult ei räägi ükski suur tegija kunagi kellelegi, kellele ja kuidas nad andmeid müüvad. Sel põhjusel püüab Euroopas praegu "Facebookiga" kohtusse minna. Just pärast GDPRi kehtestamist püüab Euroopa Liit "Facebookilt" välja nõuda oma algoritmide paljastamise kolmandatele isikutele andmete edasi müümise kohta.

«Facebook» seda ei tee ja kuulutab igal pool, et nad seda ei tee, kuna nad on «maailmakorporatsioon» (tsiteerin neid kirjast, mille nad mulle saatsid), nad on «halvaloomuliste tehnoloogiate kasutamise vastu» (eriti, kui te müüte näotuvastust Kremlile). Ühesõnaga, probleem on selles, et «Facebook» ei käitu täiesti ausalt: nende peamine eesmärk ja see, mis juhtub, kui selline mehhanism avaneb – on võimalik tõeliselt arvutada reklaami kasumlikkust, on võimalik mõista reklaamiteadete tegelikku maksumust.

Eeldame, et kui „Facebook“ ütleb, et reklaami näitamise maksumus on 5 rubla ja me müüme selle teile 3 rubla eest (ja eeldame, et kaks rubla jääb meile), ning nad teenivad nendest reklaamidest 5% kasumit. Tegelikult on see mitte 5%, vaid 505%, kuna kui see algoritm pinnale tõuseb (kellele ja kui palju „Facebook“ on edastanud „klikivooga“, külastuste andmete, pikselandmete kohta erinevatele reklaamivõrkudele), selgub, et nad teenivad palju rohkem raha, kui nad ütlevad. Ja küsimus pole raha enda, vaid selles, et kliki hind on rubla, aga tegelikult on see sadasid kopikaid.

Üldiselt on asi selles, et kõik püüavad sellist edastamist varjata, olgu see siis reklaami- või mitte-reklaamiliik, aga see eksisteerib. Kahjuks ei saa seda kuidagi juriidiliselt teada, sest ettevõtted on eraomanduses ja kõik, mis neil sees on, on nende erakohustus ja ärisaladus. Kuid sellised lood on seal väga sageli pinnale tõusnud.

Narkokaupmehed on ettearhtavad ja 'avanevad' 'Avitos'

Viimene pilt sellest esitlusest. See on naljakas ja selle mõte on, et on teatud kategooria inimesi, kes on väga mures oma isikuandmete pärast. Ja see on tegelikult hea! See näide räägib sellisest inimrühmast nagu narkodiilerid. Tundub, et need inimesed peaksid olema väga mures oma isikuandmete pärast…

See on uuring, mis viidi läbi aasta alguses vastava ametivõimu järelevalve all. Jah, see on stsenaarium, milleks on antud raha, et osta „Telegramis“ ja „Toris“ narkootikume, kuid ainult nendelt inimestelt, keda oli võimalik tuvastada.

Tegelikult põlevad peaaegu kõik Moskva narkodiilerid selle peale, et nende telefoninumber ei ole üldse avatud allikates, kuid varem või hiljem müüvad nad midagi "Avitos", mille põhjal saab aru nende inimeste ligikaudsest asukohast. Küsimus on selles, et punased punktid tähistavad, kus inimesed elavad, ja rohelised, kuhu nad lähevad, et jätta teateid. See oli üks osa algoritmist, mis prognoosis patrull- ja postiteenistuste paigutust, kuid need Moskva poisid püüavad alati kuidagi diagonaalis sõita, kaugemale.

Nad arvavad, et kui nad elavad vasakpoolsel ülemisel tasandil, siis peavad nad minema parempoolsesse ülemisse nurka ja seal neid kindlasti kunagi ei leita. Ütlen seda selleks, et kui proovite varjata end kõikehõlmavate algoritmide eest, on kõige ägedam variant käitumismudelit muuta: paigaldada mõni "Hosteri" külastuste juhuslikkuse suurendamiseks ja omamise osas. Issand, isegi on olemas algoritmid ja pistikud, mis muudavad brauseri suurust paariks piksliks, et ei saaks määrata brauseri sõrmejälge ja teid tuvastada.
Mul on kõik. Kui teil on küsimusi - küsige. Siin on link esitlustele.

Küsimus publikust (K): – Palun ütelge, kuidas on Tor'i kasutamisega, kui arvestada liikluse jälgimist... Kas soovitate?

Peituda on keeruline, aga võimalik

AH: – Tor? Tor ei ole, mitte mingil kujul. Ma tõesti ei tea, kuidas see Valgevenes on – Venemaal ei saa sinna kindlasti siseneda, sest praktiliselt enamus 'grace nodest' kinnitatud järsku lisavad mingid paketid teie liiklusele. Ma ei tea, mis need on, aga kui vaadata: on 'noded', mis märgivad liiklust, – ei ole selge, kes seda teeb, millistel eesmärkidel, – kuid keegi märgib selle päises, et hiljem saaks aru. Venemaal hoitakse praegu kogu liiklust, kuigi see on salajases vormis, ja kõik räägivad 'Jarovaja paketi' üle, et hoitakse salajast liiklust, kuid see jääb märgistatuks, seega ei saa seda kasutada, ei saa dešifreerida...

K: – Euroopas on see juba ammu hoitud, umbes kümme aastat, võib-olla.

AH: – Jah, ma mõistan. Kõik naeravad selle üle – nagu ütlesite, et te hoiate https, mida ei saa lugeda. Sisu on lugematu, kuid saab aru, kust paketid tulid teatud algoritmide abil – pakettide kaalu, pikkuse jne järgi. Ja kui sul on kõrva taga kõik proviisorid, on sul loomulikult kogu selgroo varustus ja kõik passid... Ühesõnaga, te mõistate, millest ma räägin?

K: – Millist brauserit soovitate kasutada?

AH: – Tor'i jaoks?

K: – Ei, üldiselt.

AH: – Noh, ma ei tea. Ma kasutan tegelikult Chrome'i, aga ainult sellepärast, et arendaja paneel on seal kõige mugavam. Kui ma pean kuhugi minema, siis lähen mõnda kohvikusse. Tõsi, seal ei tohiks tõelise SIM-kaardi peal sisse logida.

K: – Te rääkisite mõningatest üliõpilastest. Kas te kuskil õpetate või juhendate mingisuguseid kursusi?

AH: – Jah, meil on andmeajakirjanduse magistriõppe programmid. Me õpetame ajakirjanikke koguma andmeid, analüüsima – nad teevad perioodiliselt selliseid uuringuid.
Ohutuid rakendusi pole

K: – Facebookis ja VKontakte'is on ohtlik suhelda sõpradega, et hiljem mitte saada sihitud reklaame. Kuidas aga suurendada turvalisust?

AH: – Küsimus on selles, mida te peate vastuvõetavaks turvalisuse tasemeks. Tegelikult ei ole sõna „turvaline“ olemas. Küsimus on, mis on teile vastuvõetav. Mõned leiavad, et on vastuvõetav jagada intiimseid fotosid läbi Facebooki, samas kui mõned julgeoleku ametnikud arvavad, et kõik, mis on öeldud suuliselt, isegi kõige lähedasema inimese kohta – on juba iseenesest ohtlik. Kui te ei soovi, et sotsiaalmeedia sellest midagi teada saaks, siis jah – parem on sellest mitte kirjutada. Ma ei tea ühtegi turvalist rakendust. Kardan, et neid ei ole. Ja see on normaalne, kuna iga rakenduse omanik peab kuidagi raha teenima, isegi kui see rakendus on tasuta või tegu on mõne meediaga. See on justkui tasuta, kuid nad peavad ikkagi kuidagi elama. Seega ei ole midagi täiesti turvalist. Te peate ise otsustama, mis teid rahuldab.

K: – Mida te kasutate?

AH: – Sotsiaalmeediat?

K: – Messengereid.

AH: – Mina kasutan peamiselt Venemaa föderatsiooni peamist sõnumside rakendust – "Telegram".

K: – "Viber". Kas see on turvaline?

AH: – Kuule, ma ei tea sõnumsiderakendustest palju. Ausalt öeldes ei usu ma turvalisusesse, sest see oleks ilmselt väga imelik. Kuigi "Telegram" on nagu avatud lähtekoodiga ja selle šifreerimisalgoritmid on avaldatud. Aga see on ka keeruline asi, kuna seal on avatud lähtekoodiga klient, aga serveritest ei ole keegi midagi näinud. Arvan, et ei: "Viberis" on liiga palju rämpsposti, robotid ja nii edasi. Kes teab. Mulle tundub, et see kõik ei tööta väga hästi.

Kes on ohtlikum – korporatsioonid või riik?

Saatejuht (V): – Mul on sulle üks küsimus. Vaata, sa oled paar korda kergelt maininud – et riiklik… Liialt palju andmeid – see pole just hea… Korporatsioonil on liiga palju andmeid. Noh, see on lihtsalt elu, eks? Keda rohkem karta – korporatsioone või riiki? Kus on peidetud ohud?

AH: – See, this is a very complex question. It borders on a difficult ethical barrier. For a person, if they have nothing to fear and have not broken the law, what do they really need privacy for? Although I don’t agree with this – this is what the state thinks. There might be some grain of truth in that. You know, what I fear the most are hackers – something like that. In fact, the worst thing I've ever seen in my life (in all this): about a year and a half to two years ago in the Moscow region, they caught a pedophile and during the investigation, they found several self-study materials on Python, scripts, VK API on his computer. He was collecting accounts of girls, analyzing who was nearby, gathering content that they… In short, you get it. That's the worst thing I've ever seen. And that's actually what I fear – that at some point, someone will do something similar.

Väike kõrvalteema: Euroopa riiklik julgeoleku organisatsioon teatas eelmisel aastal, et pangaülekannete varguste arv on kasvanud kuskil 20–25%. Mõelge praegu enda panga salajasele küsimusele ja sellele, kas ma saaksin sellele vastuse avatud allikatest. Kui seal on teie ema neiupõlvenimi või lemmikroa nimi… Ühesõnaga, inimesed analüüsisid kontosid ja selle põhjal suudsid nad mõista lemmikloomade hüüdnimesid – umbes nii…

K: – Te ütlesite, et ettevõtted koguvad algoritmide abil vajalikku teavet? Teate kindlasti, kuidas?

AH: Inimeste seas liikus ringi, kes teatud ajal jooksid fotosid läbi spetsiaalse filtri, et see filter rikuks piltide analüüsi, et neid inimesi ei saaks hiljem kuidagi tuvastada. Ma tõin teile näiteks, et „Facebook” võitles sõnumite krüptimisega. Ja kui selline asi peaks tulema ja laiemat hüpet saama, siis kindlasti sotsiaalmeedia hakkab sellega võitlema. Pluss, mustrite äratundmine töötab praegu väga hästi ja see piirneb sellega, et piisav tase, et „rikku” seda fotot (et „rikku” algoritmi, mis neid mustreid tuvastab) – tõenäoliselt ei jää seal enam midagi arusaadavat.

Kõikvõimalikud glitch-filtrid töötavad hästi, kui see on tugev nihke pool fotost. Teie konto omandab siis kõik LSD värvid. Teoreetiliselt ei pea ma väga hirmutavaks, kui „Facebook” näiteks teab, milline auto mul on – ilmselt, kui ma autos ei logi oma „Facebooki” kontole sisse.

Unustamise seadus töötab, kuid mitte internetis.

K: – Kas oled kunagi kokku puutunud kasutajaga, kes sundis sind teda austama, eemaldama, ligipääsu saama? Sa opereerid suurte andmehulkadega, kindlasti teavitad sellest. Inimesed võivad sinuga ühendust võtta. Kui palju protsenti?

AH: – Praegu räägin. Nüüd läheb tõeliselt huvitavaks. Loen, kui palju inimesi pääseb juurde, sest pärast üritust tuleb alati 15-20 % inimesi, kes täidavad andmete eemaldamise vormi — selline asi tõepoolest eksisteerib. Tegeliselt on see kuskil 7-8 % suletud konto osakaalust, mida me ei analüüsi, ja umbes 5 inimest tuhandest, kes paluvad oma andmeid eemaldada. See on väga vähe, isegi minu tagasihoidlikust vaatevinklist.

Probleem on järgmine: on olemas selline seadus nagu unustamise seadus. Kuid unustamise seadust, vähemalt Venemaal, rakendatakse seaduslikult ainult otsingumootoritele. Seal on selgelt kirjas: otsingumootorid. Ja see eemaldamine puudutab ainult linke materjalidele, mitte nende endi materjale. Tegelikult, et midagi internetist eemaldada, tuleb kõik need allikad läbi käia, seega ma ei usu sellesse põhimõtteliselt. Püüame kasutajaid hoiatada, et nad mõtleksid enne avaldamist.

Praegu on see protsent väga madal — 5–7 inimest tuhandest. Muide, unustuse seadusest: kõik teavad seda ägedat juhtumit "Sechin ja RBC". Unustuse seadus toimis, artikkel eemaldati, kuid see on igal pool olemas. Kas te mõistate, et kui midagi kunagi internetti satub, siis see ei kao sealt kunagi?

Kasutajad kustutatakse, kuid neid tuvastatakse tüüpilise käitumise järgi

K: – Kas te ei arva, et inimesed, kes kustutavad oma kontod ja proovivad saada "mustaks auguks", on võrreldes teiste majandusagentidega kehvemas olukorras?

AH: – Tõenäoliselt jah — see olukord ei ole neile endile kasulik. On ju palju erinevaid allahindlusi ja pakkumisi, mis neist sõltuvad. Kuid puhtalt teoreetiliselt, kui inimene eemaldab oma konto praegu... See on populaarne erinevate ekstremistide seas, kui nad kustutavad konto, loovad vale konto, kuid jätkavad sama sisuga suhelda — seda inimest on jälle võimalik tuvastada (eriti kui see toimub sama sotsiaalmeedia keskkonna piires, samalt arvutil — see on üldse küsimus); elementaarselt saab selle inimese leida sisu tarbimise mustri järgi, kui see on vajalik.

Ma loodan, et järgmise viie aasta jooksul ilmub mõni andmete monetiseerimise tehnoloogia, kus inimene saab tõeliselt raha teenida - sa maksad ise ja me ei kasuta sinu andmeid. Arvan, et kui näiteks "Instagramis" viiakse sisse tasuline tellimus, ei kasutaks seda keegi, seega on alternatiiv, et maksta kasutajatele nende andmete eest. Ent see ei juhtu kohe, sest kuritegeliku ettevõtluse lobitööd ei lase sellist seadust läbi viia, kuigi see oleks äge. Aga asi on selles, et ei ole võimalik hinnata ühe inimese andmete tegelikku väärtust teatud ajahetkel.

"Facebook" – lekkivad tüübid

K: – Tere päevast. Just hiljuti ilmus uudis, et "Facebook" kavatseb kõik oma projektid integreerida, sealhulgas "Instagrami", "Facebooki", "WhatsAppi" ja nii edasi. Kuidas te arvate, isiklike andmete seisukohalt, kui mul on nüüd need programmid nutitelefonis üksteisest eraldi, kuid nad kuuluvad ikka Facebookile? .. Mis edasi saab?

AH: – Ma mõistan. Õiguslikult kuuluvad need juba 'Facebookile', ja nad saavad neid omavahel kontrollimatult ühendada, seega arvan, et midagi ei muutu. Ainult tuleb nüüd häkkida üks rakendus ja kogu info on kohe saadaval. Ja 'Facebook'… Loodan, et nad jälgivad seda. Nad on kõigis valdkondades tõeliselt haavatavad.

Viimasel ajal on selle kohta tulnud väga palju teavet – andmelekete teemal 'Facebookist'. See ei tulnud sellest, et 'Facebook' hakkas äkitselt andmeid kaotama, vaid seetõttu, et GDPR sunnib nüüd ettevõtet eelnevalt hoiatama. Suurim trahv on olukorras, kus leke on toimunud, aga ettevõte on sellest vaikinud, seega räägib 'Facebook' nüüd ise sellest. See ei tähenda, et neid andmelekkeid enne ei oleks olnud.

K: – Tere. Mul on küsimus andmete hoidmise kohta. Iga riik kehtestab nüüd seadusi, et kodanike andmed oleksid hoitud selles riigis. Millist tingimust tuleb täita, et seda seadust järgida mõne rahvusvahelise rakenduse jaoks?.. Näiteks "Facebook": andmebaas on üks…

Kuidas tuleks neid tingimusi järgida?

AH: – Kuulake, juriidiliselt piisab lihtsalt serveri rentimisest selles riigis ja sinna midagi salvestamisest. Probleem on selles, et puudub pädev kontrolliasutus. Facebooki andmed ei asu Venemaal. Roskomnadzor võitleb nendega… Facebookil on osa servery, kus asub selle Facebooki liides, ja pole võimalik kontrollida, kus andmed tegelikult asuvad, kuidas need sünkroniseeruvad.

K: – Kas liiklust on võimalik kontrollida?

AH: – And is it possible to check traffic? Yes. But traffic might eventually be routed to some backbone point. Plus, there might be something like a VPN or another connection between the servers. Theoretically, it's impossible to ensure that, say, a system administrator won't access this server one day and take something from it. In other words, this law isn't designed to protect data but rather to make companies establish branches, pay taxes, and store their hardware within the country's territory. But, in my opinion, it's a rather strange initiative, to be honest.

K: – So, it’s enough to just check the interface?

AH: Someone might come to you and verify that you have your data stored properly. But you can show some kind of 'Excel', and no one will be able to verify that; it's unlikely that anyone will check. Right now, they just check IP addresses: if the IP address linked to the domain is located in the country, they don't go further. Now, probably someone will come to check on me.

There are no services that can be trusted 100%, but decent people have nothing to fear.

K: – Selline uudis, mida on palju jagatud: „Microsoftist” mees avaldas, tegi teenuse enda…

AH: – Midagi sellist: kas teie paroolid on lekkinud? Tegelikult pärast samu lekkeid „Facebookis” käivitab „Facebook” alati mingeid varusaitide, kus saab kontrollida, et teie andmed ei ole sattunud sellesse andmebaasi — jälle, GDPR seda nõuab. Seega, kui te midagi sellist ei tee, siis ei tule see teile hästi välja. Seetõttu esitlevad kõik nüüd neid projekte kui „see on meie algatus”; tegelikult nõuab seadus seda. Tegelikult on see väga äge asi, aga ma ei usaldaks neid kontrolliteenuseid, kui sinna peab saatma midagi keerulisemat kui teie parool, sest paljude inimeste paroolid on samad.

K: – Seal lihtsalt sisestad e-posti ja juba öeldakse, mitu korda see on olnud kompromiteeritud…

AH: – Ma tõesti ei usalda selliseid asju, sest on väga lihtne teid siduda selle brauseriga ja reaalse kontoga. Eriti kui kasutate nende samade inimeste teenuseid, kes saidi käivitasid. See oli nagu eelmisel aastal, kui Facebook saatis: kui teie intiimfotod levisid Facebookis, saatke need meile ja me kontrollime, kus neid mainiti.

Ma ei tea, mis see PR-öelda on ja kes Facebookis selle välja mõtles, aga selline asi tõepoolest juhtus. Nad tahtsid võrrelda, kas keegi ei oleks teie alastifotot isiklikes sõnumites edasi saatnud. Põhimõtteliselt on see hea eesmärk, aga väga kummaline. Ma ei usaldaks seda.

K: – Ja veel üks küsimus. Tavalise kasutaja jaoks kui kõrged on lekke riskid? Riski kahju lekkidest.

AH: – Ma sain aru. Sõltub, milliseid andmeid hoida. Ma arvan, et riskid ei ole väga kõrged. Kõige hullem on see, kui kuskile lekkivad e-kirjad ja paroolid, ja teil on see sama parool igal pool – siis on tõesti probleem. Ma usun, et kasutajad ei pea väga palju muretsema. Aga loomulikult, kui nad ei hoia kuskil mingit mõrvatud teavet Google'i postkastis. Näiteid on olnud palju.

Kõige kuulsam lugu on Google'ist, kus Utahi osariigis rööviti tüdruk ja teda ei suudetud leida. Ühel hetkel saatsid röövijad tema fotosid arhiivitud manusena. Google skaneeris seda manust ja avastas lastepornograafia märke. Kõik leiti. Nende isegi suudeti Google'ile kohtusse kaevata, et nad rikkusid suhtlemise saladust. See kohtuvaidlus kestis üsna kaua. Kuid ma arvan, et tavalisel kasutajal ei ole midagi karta, kui ta näiteks ei pane oma passi avalikult jagamiseks üles. See on kahekordne lugu – sõltub, millised andmed ja milline kasutaja. Võib-olla praegu pole midagi hullu, aga 15 aasta pärast, kui temast saab mõni ametnik, võivad tema materjalid pinnale tulla.

Kuidas riigiga koostööd teha?

K: – Aitäh. Te rääkisite natuke sellest, kuidas teete riigiasutustele, valitsusele uuringuid, töötate koos nendega. Kas saaksite rääkida mõnest aktuaalsest projektist? Veelgi rohkem, kui võimalik, … Kaks küsimust: esimene – aktu ala projektid ja teine – kas valitsusasutustelt on olnud mingeid ettepanekuid…

AH: – Sobivad!

K: – Jah. Kui te arvasite, et võib-olla pole seda mõistlik teha.

AH: – Ma räägin teile. Räägin sellest kõikidele. Meil oli selle inimesega „Twitteris” pikka aega tüli. Milonovi meeskonnast sain kunagi küsimuse õpetajate leidmise kohta, kes vaatavad gei-pornot. Ütlesime kohe, et ei. Aga selliseid inimesi on, kirju tuleb sageli ja see on väga tihti seotud mingi opositsiooniga, meeleavaldustega. Me sellise jama ega tegele, meil on niigi kõik nagu mudas. Ma ei tunne seda häbi.

Meil on riiklike asjade osas järgmine poliitika: arendame tarkvara, mis puudutab kolm dimensioonilist rekonstrueerimist, näotuvastust, andmeanalüüsi. Mida täpselt nad teevad, on väga raske öelda, kuid mudelite seas on - kuritegude prognoosimine, mis on seotud riigiga, inimeste liikumine, geomarketing jne. Alates linna keskkonna objektide paigutamisest kuni pedofiilide, vägistajate, maniakkide ja muude halbade tüüpide tuvastamiseni.

Aus õigusemütleme, et me ei ole mingite opositsionääridega tegelema. Võib-olla, et meile ei öelda seda otse. Tegelikult on see väga suur probleem – koostöö valitsusega, sest mitte alati ei seletata, mis ülesanne tegelikult on. Sulle öeldakse: tee tarkvara koduperenaiste tuvastamiseks, aga nad plaanivad tegelikult midagi muud selle tarkvaraga teha – sealjuures kõik kokku kukub.

Pealegi on riik väga huvitav ja kummaline klient, kes pidevalt püüab sinu uuringusse mingeid kolmesendiseid asju segada, ning sageli on nende lähenemised ja arusaam masinõppest väga pinnapealsed. Näiteks mul on eraldi loeng masinõppe vigadest. Ma tuuakse alati näitena välja, kui me tegime kuritegevuse prognoosimise süsteemi Moskva lähistel, siis tellija ütles: seal, kus müüakse arbuusi, palun suurendage koefitsienti neli korda. Ja lõpuks osutus, et arbuuside müügikohad ei ole kriminaliseeritud. See on lihtsalt inimeste mõtete segaduste vead.

Lühidalt öeldes, riik on huvitav klient, seal on väga palju põnevaid ülesandeid. Suur osa neist on seotud sarnaste ennustusmudelitega. Enamasti puudutab see mingit linna infrastruktuuri.

K: – Kas on mingeid allikaid, kust saaks jälgida teie uurimistööd? Palju teavet. Nagu ma aru saan, on palju sellest veel väljas. Teie lehed, veel midagi…

AH: – Mul ei ole isiklikke lehti.

K: – Tõenäoliselt on „Facebookis” juba blokeeritud?

AH: – Umbes neli kuud tagasi oli lugu: nad saatsid meile kõigile sellised suured kirjad, et „te olete pahalased, müüte kõik Kremlile, rikute kõiki Facebooki reegleid”. Isegi mu koer sai kirja: „Tere, Mars bluu-korgi, sa kogud andmeid!” ja nii edasi. Kuule, meil on praegu brändi uuendamine. Kahte või kolme nädala pärast on meie veebileht ja kõik uuendatud. Seda saab jälgida. Aga me oleme lihtsalt selles osas väga laiskad.

Kuidas saab määrata VPN-i usaldusväärsust?

K: – Kui sa ütlesid, et siseneksid kohvikusse, ilma et sa enda telefoninumbrit identifitseeriksid. Aga millisega?

AH: – Te ei saa rääkida kellegi teise kontol, sest see on kutse rikkuda identifitseerimise reegleid. Ei-ei-ei. Ma naljan. Praegu tuvastavad praktiliselt kõik kohvikud kõik - seal ei ole mitte ainult telefoninumber, seal on palju pixeleid, seal on seadme tuvastamine, MAC-aadress ja mida kõike veel, et hiljem seda kasutada - reklaamide eesmärkidest kuni operatiivsete otsingute läbiviimiseni. Seega tuleb selliste asjadega olla väga ettevaatlik. Te ei saa mitte ainult midagi kirjutada, vaid ka teie seadmest võidakse midagi kirjutada ja siis võib juhtuda midagi.

Võib-olla olete kuulnud loo sellest, kuidas (ka Valgevenes) renditakse Facebooki kontosid, nagu näiteks kasiinode reklaami jaoks. Tegelikult ei teata, milleks neid päriselt kasutatakse, lisaks antakse ka juurdepääs arvutile. Selliseid asju tuleks vältida. Kui otsustate midagi anonüümselt kirjutada… Ma läheksin kohvikusse ja kasutaksin mõnda head VPN-i. Kuid tegelikult (taas, ma ei osuta kellelegi), kui olete VPN-is, kontrollige, kellele see VPN kuulub, millisele ettevõttele, kellele see ettevõte kuulub, jne. Sest enamik VPN-ide turumängijaid ei ole kõige paremad poisid.
Küll aga, Valgevenes pole see oluline. Venemaal kontrollitakse head VPN-i selle järgi, kas azino777 on blokeeritud või mitte. Kui see ei ole, siis on suur tõenäosus, et nädala jooksul sulgevad selle VPN-teenuse. Üldiselt kontrollige kõike.

Automaatne sõnumite kustutamine

K: – Te rääkisite nii palju otsustatudest, et nende sotsiaalmeedia neid loeb... Näiteks Facebookil on salajased otsustatud, mida saab paigutada (lisaks sellele, et need on veel ka krüpteeritud) hävitamiseks. Kuidas sa seda kommenteeriksid?

AH: – Mitte kuidagi. Esiteks, ma ei ole krüptograafia superprofessionaal, ja teiseks on probleem selles, et Facebooki servereid pole keegi näinud, keegi ei tea, kuidas seal kõik töötab. Tinglikult on mõnes spetsifikatsioonis öeldud, et tegemist on lõpp-otsa krüpteerimisega, aga see ei pruugi nii olla, või see on küll lõpp-otsa, kuid mingite vigade või muude probleemidega. Sellest on mõtet kasutada, kui kardate, et inimene, kellele te seda saadate, ühel hetkel püüab midagi teha.

Telegramis on mugav funktsioon intiimsete fotode saatmiseks, mis automaatselt kustutatakse: kui üritad ekraanipilti teha, kustutatakse see automaatselt. iPhone'il on aga ekraanivideote salvestamise funktsioon, nii et videot on võimalik salvestada, ja nii edasi... Mulle saadetakse väga sageli materjale, kus see funktsioon (automaatne kustutamine) on olemas – ma ei saa kunagi aru, miks. Ma võin ju kohe alla laadida! See kõik jääb teie otsustada.

Sotsiaalne reiting Hiinas: müüdid, reaalsus, väljavaated

K: – Ma tegelikult pisut kuritarvitan, kuigi VPNi ma ei vaja (muide, meie VPN on usaldusväärne). Aga küsimus on eetikas. Meil on suurepärane sõber Kasahstanist, me tõime ta ka loengule. Kord istusime koos mingil konverentsil, kus räägiti erinevatest asjadest, ja ta ütleb (ta tegeleb küberjulgeolekuga, seega on ta puhtalt inseneri julgeoleku inimene, kellele meeldivad tehnilised lahendused): "Noh, tulin just Hiinast. Nad teevad seal sellist ägedat asja – sotsiaalset reitingut." Kas sa muide uurinud midagi selle kohta, kuidas see seal töötab?

AH: – Meie müüme Venemaal skoorimist, ma tean sellest palju.

K: – Siin on mul küsimus, et kas sa räägiksid sellest rohkem – sellest, mis meid võib-olla tulevikus ees ootab. Aga veel üks küsimus eetika kohta. Ta rääkis nii rõõmsalt: "Huvitav inseneritehniline lahendus!" Kas sul on oma eetika koodeks?

AH: – Jah, muide, on. Kaks aastat tagasi kehtestasime selle – just pärast lugu Milonovist otsustasime natuke selliseid projekte hinnata. Tagasi tulles reitingu juurde: see on üks superpopulaarne küsimus, sest meedia demoniseerib kogu seda lugu – et inimesi ei lasta riigist välja, tapetakse laseriga Kuult. Ma toon teile jälle inseneriküsimusi...

Kui hakkate seda lugu kaevama ja vaatate, millised parameetrid selle sotsiaalse reitingu sisse mahuvad, saate aru: see hõlmab varjatud elatusrahade, kriminaalregistreeringute, krediidiajaloo küsimusi, ehk teisisõnu, inseneritehnilisest vaatenurgast on see tõeliselt äge. Elate seaduskuuleka elu, kõik on hästi – teile antakse madalam intressimäär laenule. Teil on oluline sotsiaalne töö (näiteks õpetaja) – teile antakse sobiv elukoht. Kõik olid alguses sellest üllatunud, kuna levisid kuuldused, et kui kirjutate presidendi kohta halvasti, siis langetatakse teie reitingut. Kuigi tõendeid ei olnud. Reitingu kaitseks ütlen, et ka reitingu vastu, et keegi ei ole näinud algoritmi, milliseid parameetreid seal tegelikult kasutatakse.

Hiljem ilmus lugu, et üle miljoni inimese ei lubatud riigist lahkuda, väljasõit keelati. Tegelikult pole see päris täpne sõnastus. Kui saate viisa (näiteks Euroopasse), siis antakse see arvesse „70 eurot päevas“ (midagi sellist); kui te ei esita tuludeklaratsiooni, ei anta teile viisa. Hiinas otsustas kohalik välisministeerium minna natuke kaugemale: nad hoiatavad kohe inimesi, kellel pole piisavalt raha, et kui te soovite välismaale reisida, jääb teil raha väheseks. Seega suunati see kõik hiljem mõtteviisi, et vaeseid ei lasta riigist välja. See on keeruline eetiline küsimus, see piirneb teatava süüdistuse eeldamisega, kuid tegelikult ei saa ma sellele hinnangut anda.

Inimesed tapavad, mitte relvad.

Peamine, mida tuleb mõista: kõik need algoritmid, mida ühiskond hukkamõistab, ei ole probleemiks algoritmid ise. Algoritmid on lihtsalt võimaldanud väga kiiresti analüüsida suurt „hulka” inimesi, ja see sotsiaalne probleem on tõstatatud. See tähendab, et "Microsofti" bot, mis õppis Twitteri postitustest ja muutus rassistlikuks, ei ole süüdi bot ise, vaid need tweetid, mida ta luges. Või ettevõte, mis otsustab ehitada ideaalsete töötajate mudeli, analüüsides olemasolevaid, ja selgub, et see on valge, meessoost isik, kellel on kõrgharidus.

See ei ole mudel – rassistlik, seksistlik või miski muu; need on inimesed, kes palkasid need inimesed (õiged või valed – ei ole tähtis). Kõik piirdub sellega, et tehisintellekt on halb, kuri ja hävitab maailma, kuid tegelikult... Kujutame ette, et näiteks Venemaa valitsus kehtestab seaduse, et opositsionääridele ei anta tasuta haridust, ja nad kirjutavad tarkvara, mis tuvastab ja kõrvaldab neid tasuta haridusest – see ei ole algoritmi süü. Kuigi keegi ei toeta seda minu kontseptsiooni, sest kui ma ütlen, et inimesed, mitte relvad, tapavad inimesi, tuleb vastus: 'sa oled fašist' ja nii edasi.

Üks asi on kindel, see on tõeliselt täiustatud insenerlahendus. Tuleb mõista, miks seda näiteks Venemaal ei ole. Teie [Valgevenes] seda ei ole, sest te olete Euroopa riik, teil on kõik hästi. Venemaal ei ole seda mitmetel põhjustel: esiteks, meil ei ole sellist usaldust õiguskaitsesüsteemi vastu nagu Hiinas; meil pole sugugi nii kõrget digitaliseerimise taset. Miks Hiinas kõik toimis? Sest valitsus: neil on digitaalne meditsiin, digitaalne kindlustus, digitaalne politsei. Ja keegi nutikas mõtles: teeme selle kõik kokku ja loome – põhimõtteliselt on see lojaalsusprogrammi. Seal on rohkem hüvesid kui 'mitte hüvesid'.
Seega, jah – ma arvan, et Venemaal seda ei rakendata. Esiteks tuleb digitaliseerida kogu tervishoiuministeerium (ja see on 50 aasta ülesanne) – keegi peab elu sellele pühendama, aga keegi loomulikult seda ei tee. Teisest küljest on Venemaa pangad maailmas inimesi hindamisel esirinnas, nad teevad igasuguseid asju: "Ah, mees? Noori naisi like'it? Siin on sulle krediitkaart armukese jaoks." Seal on kõik väga arenenud. Näiteks Ameerikas on sarnane skoorimine peaaegu igal pool keelatud, sest seal on seadused, mille kohaselt peab pank sulle selgitama, miks: "Ah! Sest Social Data Hub on 10 aastat andmeid hoidnud, ja see tegi sinu kohta selle ja selle analüüsi!" Ja nüüd mine kahte erinevat osapoolt kohtusse! Meil ei ole midagi sarnast.

Miks statistikat peidetakse?

Põhimõtteliselt toetan skoorimist, kui see ei ole mingi «totalitaarne» süsteem. Kuid probleem on selles, et seda ei ole võimalik ette ennustada ega hinnata. See on üks keerulisemaid küsimusi suurte andmete eetikas – ette ennustada sotsiaalset mõju, mis seal 15 aasta pärast toimub. Näiteks ma olen juba kaua palunud prokuratuuril avada kuritegevuse kohta käivat teavet. Kriminaalstatistika andmed on üks igasuguste statistikatüüpide nurgakivisid; kõik tahavad seda väga. Kuid näiteks Venemaal ei avata kriminaalstatistikat väga lihtsal põhjusel: kardetakse, et see rikub linnade demograafiat. Arvatakse, et inimesed lõpetavad elamise teatud linnades, isegi linnas endas toimub mingisugune ümberjaotamine. Samal põhjusel ei avaldata ka ÜKÜ statistikat – aru saadav, kuhu inimesed lähevad teatud koolidesse ja kuhu nad ei lähe.

Tõenäoliselt on see õige, võib-olla mitte, kuid projekte on olnud palju... Näiteks otsustas „Yandex“ kunagi (taas, „kollaste“ kuulujuttude põhjal, ei ole näinud, ei tea) lisada kinnisvara prognoosimisse taksojuhtidele rünnakute arvu, see tähendab teatud lähenemist kuritegevuse tasemele, arvestades taksojuhtide kaebuste arvu selle kohta, et keegi neid ahistab, ähvardab jne. Kiiresti loobuti sellest ettevõtte sees, et selliseid asju enam ei teha.

K: – Te suhtlete üliõpilastega, te suhtlete oma riigi publikuga. Olete tähele pannud, et küsimuste arv saalist näitab, et me oleme veel selles arenguastmes, kus arvame, et vajame privaatsust, et saame kellegi eest peita oma andmeid, kaitsta neid, mitte jagades, neid peites või krüpteerides. Kui Euroopa Liit on juba liikunud järgmisse etappi, privaatsuse etappi, mis tähendab andmete üle kontrolli – sundida kõiki, kes koguvad teie andmeid, andma teile tõhusat kontrolli nende üle... Milliste andmete järgi, piirkondade ja sotsiaalsete kihtide põhjal – milline kodanike kategooria on juba teise etapi läbinud või kes veel peamiselt esimeses etapis on?

Kes on kõige enam mures isikuandmete turvalisuse pärast?

AH: – Absoluutne enamus… Ütleksin, et kõik on ükskõiksed! Hetkel on see mureks tippjuhitele. Venemaa linnades on juhtivad keskused Moskva ja Peterburi. Aktiivsed keskused on IT-erialad, disainerid, loovam professionaalid, kõik, kes oskavad sisu filtreerida, omandada uusi teadmisi ja kellel on kõrge huvi rahvusvaheliste probleemide vastu. Peamiselt on need tippjuhid; jah, IT-spetsialistid (ilma turbespetsialistideta); panganduse töötajad – ehk kõik, kellele andmeleke võiks mingil moel mõjuda.

Kui näiteks varastatakse andmed mingi koduperenaise kohta Kaluja's: on ebatõenäoline, et tema elus midagi tõsiselt muutub, kui keegi varastab näiteks tema gmail'i juurdepääsu, kuhu ta on salvestanud oma sarjad. Küsimus on selles, et seadus kaitseb kõiki võrdselt, ja see on õige, kuna... seaduse vaatenurgast on kõik võrdsed – ha-ha... kuid kõige olulisem on see, et ei ole võimalik mõista, kui palju kellegi andmed maksavad, enne kui need andmed kaovad – kahjuks on väga keeruline ennustada. Kuid peamiselt on see sellise kodanikukategooria probleem.

Telefon – fooliumisse!

Olen elus vaid ühe korra näinud, kuidas kõik võimalik hoitakse suurtes ettevõtetes. Üks neist on suurim infotehnoloogia integreerija: seal on kõik, sealhulgas USB-ühendused, kontoris liimiga kinni pandud; ja inimesed on seal samamoodi ringi liikumas – kohtasin seal inimest, kelle telefon oli kaetud fooliumist kotti. Olen kuulnud, et on ettevõtteid, mis müüvad selliseid kotte. Teisel korral nägin sarnast olukorda "Bloombergis" töötajate seas: seisime suitsuruumis ja keegi kuskil poseeris fotole, öeldes: "Nii, et meid seal taustal ei oleks!" Mõtlesin, "Oh, huvitav!"

"Paremini meie kui FSB"

Ei tahaks öelda, et see on vähem kui üks protsent elanikkonnast, aga kahjuks on enamuselt kõigile see ükskõik. Teisest küljest on mul skandaalne teenus alaealiste tegevuse jälgimiseks (käivitasime selle ammu allahindlusega "Paremini meie kui FSB"), et hoiatada vanemaid, kui alaealine teeb mingeid toimetusi, enne kui meie algoritm, paigaldatud kuskil, saadab talle kedagi.

Lapse verifitseerimisel tuleb saata passist koopia (see on üldiselt normaalne praktika), kuid me oleme märkinud, et võite passinumbri ära lõigata, kuna see meid ei huvita; meid huvitab ainult teie pilt, hologramm ja nimi-pere nimi. Ja praktiliselt 100% inimestest – noh, umbes 95 passist 100 – inimesed lõikasid „Photoshopis” need numbrid ettevaatlikult välja ja saatsid ainult vajaliku osa. See tähendab, et nad mõistsid – aha, kuna neid ei vajata, siis pole mõtet neid saata. Minu arvates on see tõeline edasiminek, mida nende usk meie vastu on sundinud.

K: – Valim on teatud määral. Seal on inimesed, kes pöörduvad, nad on juba edasijõudnud.

Inimesed ei soovi, et neid jälgitaks, aga ei loe lepingut

AH: – Jah. Ja teine sarnane asi: me käivitasime aastavahetusel tutvumise rakenduse (varsti taaskäivitame selle). Seal oli kontrollgrupp, kuhu kuulus 100 000 inimest. Ja seal olid GDPR-i lähenemistest isiklikus kabinetis 15 märkeruutu – ma annan loa liidese suhtlemise analüüsiks, juurdepääsuks minu demograafiale, juurde pääsuks kolmemõõtmelisele näo rekonstruktsioonile, juurdepääsuks minu isiklikele sõnumitele jne. Me oleme maksimaalselt kirja pannud kõikvõimalikud juurdepääsud. Kusagil on isegi statistika selle kohta, kes mida märkis. 98 % jätsid vaikimisi kõik märkeruudud märgitud (kuigi nad avasid selle lehe ja nägid seda kõike, kuid neid ei huvitanud), aga neid 2 % oli huvitav analüüsida, et teada saada, mis oli inimestele prioriteetne.

Kõik on eemaldanud juurdepääsu isiklikele sõnumitele ning peaaegu kõik on eemaldanud juurdepääsu seksitesti andmetele (mida neile seal meeldis, mida nad seal täitsid, oma kalduvused – naljanumber). Kuid see ajendas inimesi sellele tähelepanu pöörama, näidates: liides ütleb – loe seda tähelepanelikult, annab võimaluse seda kokkulepet lõpuni kerida. Kuid see tehti ainult seetõttu, et see oli uurimisprojekt ja kõik said eelnevalt hoiatatud. Ükski ettevõte, sealhulgas meie, ei sunni inimest lugema seda sõnumit lõpuni, kui... noh, vabandust, nii see kõik toimib.

Eeldusel, et nad tulid meie juurde, teades, millega ettevõte tegeleb, teades, et nad on teenuses, mis pakub kandidaate, tuginedes sellele, millist pornot nad meeldimiseks annavad – isegi selle põhjal luges ainult 2% need valikud läbi ja tegid midagi. Ja praktiliselt keegi neist ei tühistanud tõket „Juurdepääs liiklusele ja andmetele teiste veebilehtede külastamise kohta“. Peamiselt huvitas kõiki isiklikud sõnumid.

Alasti ja maandumised like'ide eest – huvitavad seadused vennasriikides

K: – Mul on küsimus andmekaitse kohta. Kas tohib telefoni alumiiniumfooliumiga katta, teeselda, et seda ei ole… Siis selgub, et sa kõike head hoiad, hoiad, aga lõpuks pead oma andmed andma riigile, kuna see nõuab neid, ja sa ei saa midagi teha… Siis selgub, et riigihankijad on kõik läbi imbunud. Ja Valgevenes on veel selline norm: kui ma kontrollin oma isikuandmete turvalisust (parandan veidi ja saan neile ligipääsu), siis olen kohe kriminaal. Sama paragrahvi kasutasid, et ajakirjanikke «BelTA asjas» süüdistada, et nad said ebaseaduslikult andmetele ligi (saate ise lugeda). Nii et, minu küsimus: kas sellised piirangud on tõhusad privaatsuse ja isikuandmete turvalisuse osas?

AH: – Ma sain aru. Valgevenes on palju tõeliselt huvitavaid seadusi. Ma just hiljuti sain teada… Ma kogu aeg naljatan paljastuste üle, aga teil on see, nagu selgub, keelatud.

K: – Demonstreerimine on keelatud!

AH: – See on tõesti kuidagi imelik.

K: – Vaata ja jaga ei saa, meeldida ei saa. Koos vaatamine ei ole lubatud!

AH: – Ma vastan teie küsimusele. Tuleme tagasi teemasse "istuvad meeldimiste pärast" Moskvas. Venemaal on see numbreid poistamise teema. Ma ei tea, kuidas Valgevenes, aga, ausalt öeldes, riik... Kui analüüsida statistikat, siis Moskvas on 95 inimesest, kes said meeldimiste tõttu karistatud 100-st – see, kui inimesed kaebavad teiste inimeste peale, keegi kirjutab prokuratuurile teise inimesega. Riik tõukab selliseid asju väga harva. Minu arvates on see seadus täiesti absurdne. Ma ei tea ühtegi reaalselt kurjategijat, keda selle pärast on karistatud. Kuid seda meetodit kasutatakse, et kuidagi inimesele süüdistusi esitada. Minu arvates on see äärmiselt imelik. Arvan, et kunagi tühistatakse see.

K: – Seda nimetatakse peavarjuks hoidmiseks.

AH: – Noo, okei… Ma ei saa öelda. Ma ei ole päris riiklik koletis, kuid minu arusaam on pisut muutunud, teate, inimeste tõttu, kes tulevad meie juurde ja ütlevad: „Minu laps on kadunud, palun aidake leida.” Ma ütlen: „Ma ei saa midagi teha ilma kohtu loata.” Sa vaatad nende vanemate poole, kes annaksid kõik oma elus, et saada juurdepääs mistahes andmetele – lihtsalt et nende probleem lahendataks. Seega on mul väga keeruline sellist diskussiooni pidada: ühelt poolt usun, et riik teeb ka õigeid asju, kui ta püüab tegelikke inimesi kinni, aga teiselt poolt, anda kontrollimata juurdepääs – see on ikka jubedusele viiv lugu.

Tulen tagasi teie küsimuse juurde, vabandust, et segasin. Ma ei usu üldse alumiiniumfooliumist kottidesse. Mobiiltelefoni omamine ja selle fooliummähisesse keeramine on mingi tobedus. Milleks seda teha? Et telefon Wi-Fi-ga ei ühenduks? Lihtsam on see välja lülitada. Et mobiilioperaator ei tuvastaks sind? Nad saavad sellegipoolest signaali trilateratsiooni abil jälgida ja mingil moel määrata. Minu jaoks on ainsad tõhusad turvameetmed kaitstud salvestusruum, näiteks kohalikul võrgul — võib-olla korteris, kus saab midagi hoida.

K: – Siin on küsimus seadusandlusest. Kas seadusandlus on repressiivne isiku suhtes, kes soovib oma andmeid kontrollida?

AH: – Ma saan aru, jah. Ma isegi ei teadnud sellest asjast, seetõttu ei saa ma teile täpselt öelda. Venemaal pole seda, kuigi seal on kõik väga keeruline. Ilmselt võiks konsulteerida kvalifitseeritud адвокатidega ja võib-olla on mõni väljapääs – äkki saab esitada kaebuse mõnes Euroopa kohtus... Ei? Ma ei saa teile sellest rääkida. Minu teadmised seadusest on pinnapealsed, ettevõtte juhi tasemel. Ma tean, mida ei tohiks teha, et keegi midagi ei ütleks. See on muidugi väga kurb.

K: – Ma tahtsin öelda, et teistes riikides (näiteks Ameerikas) on normaalne praktika, et saad testida mingit haavatavust ja seejärel sellest teatada, kuid mitte paljastada.

AH: – Jah, "bug bounty". Ma sain aru, selline asi on olemas.

K: – Ja ettevõtetel pole mehhanismi, et sind kõrvaldada, sest see on odavam.

AH: – See, this issue also touches on legal boundaries. It depends on how one discovers that vulnerability. I think a significant amount of money paid for such vulnerabilities in America was done under non-disclosure agreements and threats of lawsuits against individuals. I can't really say for sure. We always risk such situations. My employees have found similar vulnerabilities in various government applications a couple of times — I always say: "It's better to send an anonymous letter than directly tell them there's an issue." Then some research institute that implemented the service might come... I won't continue further.

It's impossible to check a business for honesty: if you don't like it, don't use it.

K: – One question. You mentioned that you conducted an experiment – 15 checkboxes needed to be ticked... Let's say the user unchecks all the boxes. Who and how will oversee this? How can it even be verified?

AH: – Aus honesten Gründen kann ich Ihnen das sagen: niemand und auf keine Weise. Das meine ich ernst. Dass Sie bei Google die Option 'Werbe-Tracking verbieten' aktiviert oder deaktiviert haben, bedeutet überhaupt nichts. Leider indexieren Suchmaschinen die Inhalte auch dann, wenn Sie bei VKontakte eine Indexierungsverbotsanfrage stellen. Suchmaschinen erfassen diese Informationen trotzdem und zeigen sie anschließend bestimmten Personen nicht an. Das hängt alles mit dem Fehlen kompetenter Organisationen zusammen, die dies überprüfen könnten. Zudem sind die Unternehmen, die dies tun, privat. Facebook hat eine klare Position, ob richtig oder falsch: Wenn es Ihnen nicht gefällt, nutzen Sie es nicht.

Zur Regulierung

K: – Ich habe nur eine einfache Frage. Wie stehen Sie zur Regulierung der Datenverarbeitung und zur Selbstregulierung?

AH: – Mina, ettevõtte esindajana, usun, et turul ja äritegevuses on vajalik omaregulatsioon. Usun, et suurandmete assotsiatsioon suudab ennast reguleerida ka ilma valitsuse sekkumiseta. Ma ei usalda valitsuse reguleerimist ja kahtlen igasugustes jutustes, kus riik tahab midagi enda käes hoida, kuna iga juhtum on näidanud, et see ei lõppe hästi. Keegi liimib kindlasti oma kasutajanime ja parooli kollasele sildile monitorile ja nii edasi.

Kokkuvõttes usun ma omaregulatsiooni. Lisaks usun, et järgmise viie aasta jooksul jõuame mingisse avatusse. Isegi praegu näete seda juba uudiste rääkimistes, et valitsusele on väga keeruline kasutajatele valetada, ega ole ka kasutajatel kerge süsteemile valetada. Ja see on põhimõtteliselt, võib-olla, hea. Kui meie luureametnikud saavad avalike piltide põhjal inimesi kindlaks teha.
See kõik viib ilmselt kuritegevuse taseme langusele. No, puhtalt matemaatiliselt. Kui kedagi huvitab, kuidas kuritegevuse taseme langusest rääkida – seal on palju erinevaid järeldusi, mida teha. Kokkuvõttes olen ma turu omaregulatsiooni poolt. Aitäh!

Veidi reklaami 🙂

Aitäh, et olete meiega. Kas teile meeldivad meie artiklid? Kas soovite näha rohkem huvitavaid materjale? Toetage meid, tehes tellimuse või soovitades meid tuttavatele. pilve VPS arendajatele alates $4,99, ainulaadne sisenemise taseme serverite analoog, mille oleme teie jaoks välja mõelnud: Kogu tõde VPS (KVM) E5-2697 v3 (6 Cores) 10GB DDR4 480GB SSD 1Gbps alates $19 või kuidas õieti serverit jagada? (saadaval on RAID1 ja RAID10 variandid, kuni 24 südamikku ja kuni 40GB DDR4).

Kas Dell R730xd on kaks korda odavam Equinixi Tier IV andmete keskuses Amsterdamis? Ainult meie juures 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TB alates $199 Hollandi turul! Dell R420 — 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB — alates $99! Lugege, kuidas Luua ettevõtte tasemel infrastruktuur Dell R730xd E5-2650 v4 serveritega, mille hind on 9000 eurot, madala hinnaga?

Allikas: habr.com