«Mille peal korporatsioonid sinu privaatsust pööravad», Arthur Khachuyan (Tazeros Global)

Isikuandmete kaitsepäev, Minsk, 2019. Aasta. Korraldaja: inimõiguste organisatsioon Human Constanta.

Juht (edaspidi – J): – Artur Khachuyan tegeleb... Kas võiks öelda, et ta on "tumeda poole" esindaja meie konteksti juures?

Artur Khachuyan (edaspidi – AK): – Jah, korporatsioonide poolel – küll.

K: – Ta kogub teie andmeid ja müüb neid korporatsioonidele.

AK: – Tegelikult ei…

K: – Ja ta räägib, kuidas korporatsioonid saavad teie andmeid kasutada, mis nendega veebis juhtub. Ta ei hakka tõenäoliselt rääkima, mida nendega teha. Mõtleme edasi...

AK: – Räägin, räägin. Tegelikult ei hakka ma pikalt rääkima, aga eelmisel üritusel tutvustati mulle inimest, kelle „Facebook” isegi koera konto blokeeris.
Tere kõigile! Minu nimi on Artur. Tegelen tõeliselt andmete töötlemise ja kogumisega. Loomulikult ei müü ma kellelegi mitte mingeid isikuandmeid avalikult. Naeran. Minu tegevusala on teadmiste väljavõtmine avatud allikates leiduvatest andmetest. Kui midagi on seaduslikult mitte isikuandmed, kuid sellest saab teadmisi välja tõmmata ja muuta need sama olulisteks nagu isikuandmetest saadud andmed. Tegelikult ei räägi ma siin midagi hirmutavat. Jah, see puudutab Venemaad, kuid mul on ka numbreid Valgevene kohta.

Millised on reaalsed ulatused?

Möödunud reedel olin Moskvas ühes juhtivas parteis (ma ei hakka ütlema, millises), ja me arutasime mõne projekti rakendamist. Tõuseb IT-direktor ning ütleb: "Te rääkisite numbritest ja nii edasi, tead, FSB 2. osakond koostas mulle siia märkme, kus on kirjas, et sotsiaalmeedias on 24 miljonit venelast. Ja teie räägite – 120 midagi. Meil ei kasuta internetti isegi rohkem kui kolmkümmend [miljonit]." Ma ütlen: "Jah? Noh, okei."

Inimesed ei teadvusta tõeliselt ulatust. See ei ole ainult riigiasutused, kes tõenäoliselt ei mõista, kuidas internet töötab, vaid ka minu ema, näiteks. Ta hakkas alles nüüd aru saama, et "Perekreos" kaart, mida tal antakse, ei tule lihtsalt nii, mitte selle õnnetu allahindluse tõttu, mida "Perekreos" pakub, vaid selle tõttu, et hiljem kasutatakse tema andmeid ODF-is, ostudes, prognoosimudelites jne.

Ühesõnaga, elanike arv on nii suur, ja nii paljude kohta on teavet avatud allikates. Mõne kohta on teada vaid perekonnanimi, teise kohta teame kõike, isegi pornograafilisi asju, mida nad meeldivaks märkivad (ma alati naeran selle üle, aga see on tõesti nii); ja igasugune teave: kui tihti inimesed reisivad, kellega nad kohtuvad, milliseid oste nad teevad, kellega nad koos elavad, kuidas nad liiguvad - palju igasugust teavet, mida saavad kasutada halvad, mitte nii halvad ja head tüübid (ma isegi ei tea, millise skaalaga sellega praegu töötada).

On sotsiaalvõrgustikke, mis on loomulikult tohutu avatud andmete kogum, mängides inimeste nõrkustega, kes justkui karjuvad privaatsuse järele. Ja tegelikult on asi nii: kui te kujutate ette graafikut viimase 5 aasta jooksul - isikuandmete osas on paanika tase tõusnud, kuid samas on sotsiaalvõrgustikes suletud kontode arv aastast aastasse vähenenud. Võib-olla pole sellest järelduste tegemine täiesti õige, aga: esimene, mis peatab iga ettevõtte andmete kogumise, on lihtsalt sotsiaalvõrgustikes suletud konto, sest inimese arvamus oma privaatse konto sees, kui tal ei ole 100 tuhat jälgijat, pole tõeliselt huvitav mingiks analüüsiks; aga selliseid juhtumeid on ka.

Kust saadakse teavet meie kohta?

Kas olete kunagi saanud sõnumit oma kooli sõpradelt, kellega te pole pikka aega suhelnud, ning seejärel see konto kadus? Halbadel tüüpidel on selline komme, et nad koguvad telefone: nad analüüsivad sõpru (ning sõbralist on peaaegu alati avatud, isegi kui inimene sulgeb oma profiili, või sõbralisti saab taastada 'tagurpidi', kogudes kõiki teisi kasutajaid), võtavad mõne mitteaktiivse sõbra, teevad tema lehe koopia, saadavad teile sõbrakutse, te lisate ta ja kahe sekundi pärast konto kustutatakse; samas aga jääb teie lehe koopia alles. Nii tegid hiljuti noored, kui 68 miljonit profiili Facebookist kadus kuhugi – nad lisasid kõiki sõpradeks, kopeerisid need andmed, isegi kellelegi kirjutati isiklikke sõnumeid, midagi tehti…

Sotsiaalmeedia on suur teabeallikas, praktiliselt 80% juhtudest saadakse teave mõne konkreetse inimese kohta mitte otse, vaid lähikeskkonna kaudu – need on kõikvõimalikud kaudsed teadmised, tunnused (meil kutsutakse seda 'Kurja eksnaise algoritmiks'), kuna üks minu tuttav suunas mind sellele äärmiselt geniaalsele mõttele. Ta ei jälginud kunagi oma poissi – ta jälgis alati viite tema sõpra ja teadis alati, kus ta asub. See on tegelikult põhjus, miks võiks kirjutada terve teadusartikli.

On tohutult palju roboteid, mis teevad igasuguseid häid ja halbu asju. On kahjutud, mis lihtsalt jälgivad teid, et hiljem teile kosmeetikat reklaamida; ja on tõsised võrgustikud, mis püüavad oma arvamust peale suruda, eriti valimiste eel. Ma ei tea, kuidas Valgevenes, aga Moskvas enne omavalitsuse valimisi ilmus mulle mingil põhjusel tohutult palju arusaamatu tegelasi, kel igaühel on oma kandidaat, mida nad toetavad, see tähendab, et nad ei analüüsi minu tarbitavat sisu – nad lihtsalt püüavad midagi arusaamatut peale suruda, arvestades, et ma ei ole Moskvas registreeritud ja ei lähe hääletama.

Kohutav koht – ohtliku teabe allikas

Lisaks on olemas "Tor", mida mitte just alahinnatakse – kõik arvavad, et sinna tuleb minna ainult narkootikumide ostmiseks või selleks, et teada, kuidas relvi kokkumonteeritakse. Aga tegelikult on seal väga palju andmeallikaid. Need on peaaegu kõik seaduslikud (natuke halli ala), sest keegi oleks võinud mõnel häkkerite lehel lennufirma andmebaasi häkkida ja sinna välja visata. Juriidiliselt ei saa te neid andmeid kasutada, aga kui te saite sealt mingit teadmist (nagu Ameerika kohtus), – näiteks helisalvestus, mis on tehtud ilma korralduseta, te ei saa seda kasutada, aga teadmised, mida te sellest helisalvestusest saite, te ei unusta enam – ja siin on umbes sama asi.

See on tegelikult väga ohtlik asi, seega ma alati naljatlen, aga see on tõsi. Ma tellin alati süüa naabermajast, sest "Delivery Club" purustatakse väga tihti ja neil on tõeliselt probleeme. Ja hiljuti olin ma väga üllatunud: tellisin toitu ja kastil, mille viisin prügikasti, oli kleebis, millel oli kirjas – "Arthur Khachuyan", telefoninumber, korteri aadress, kodu telefonikood ja e-mail. Me isegi proovime tõsiselt Moskva linnavalitsusega rääkida, et nad annaksid prügile ligipääsu: tuleme jäätmemägedele ja proovime lihtsalt huvi pärast leida mingit viidet isikuandmetele – teha midagi nagu mini-uuring. Kuid nad keeldusid, kui kuulasid, et me tahame Vene sideametiga tulla.

Aga see on tegelikult nii. Kas te olete näinud fantastilist filmi "Häkkerid"? Nad kaevasid prügimäel, et leida mõnda viiruse osa. See on ka populaarne asi – inimesed unustavad, kui nad visavad midagi avatud allikatesse. See võib olla mõni kooli veebileht, kus nad olid kirjutanud väitekirja valgete rasside ülemusest, ja siis nad läksid Riigiduuma ja unustasid selle. Sellised juhtumid on tegelikult olnud.

Mida "ühtsed Venemaa" meeldib?

Kui te lähete veebisaidile "LifeNews" ja vaatate "tippe"... Minu üliõpilased tegid kaks aastat tagasi uuringu: nad võtsid kõik Ühtse Venemaa esimehed (kõik esitasid ametlikult oma sotsiaalmeedia kontod ÜRO-le), vaatasid, mida nad üldse meeldivad – laste pornograafia, rämpstooted, kummalised kuulutused kahtlastelt täiskasvanud naistelt… Ühesõnaga, inimesed paistavad sellest ära unustanud.

Hiljem kirjutasid nad kirja, milles teatasid, et kahekümne inimesel on kontod varastatud. Kuid nende kontod varastati kaks nädalat tagasi, 8 kuud tagasi esitasid nad need valimiskomisjonile, ja meeldimised olid kaks aastat tagasi… Ühesõnaga, te mõistate, jah? Seal on tõesti tohutult palju teavet, mida isegi uurimistöödeks saab alati kasutada.

Mõneti offtopic: eile nägin uudist, et Roskomnadzor blokeeris kaheaastased üliõpilaste uuringud "Ülikoolist". Kas keegi nägi seda uudist, ei? Minu üliõpilased tegid uuringu: nad kogusid "Torist", veebisaidilt "Hüdra", kus müüakse narkootikume (palun vabandust – "Rampist"), teavet selle kohta, kui palju, mida, millises Venemaa piirkonnas maksab, ja tegid uuringu. Selle nimi oli "Peo tarbimistooted". See on loomulikult naljakas asi, kuid andmeanalüüsi seisukohalt on see tegelikult huvitav andmekogum – käisin pärast veel kaks aastat igasugustel "hackathonidel". See on tõeline asi – seal on palju huvitavat.

Kuidas Get Contact "ostis huvi" uudishimulike kasutajate seas ja miks on oluline lugeda kasutajate tingimusi

Tavaliselt, kui küsid inimeselt, milliste andmelekete pärast ta muretseb (eriti, kui inimesel on veebikaamera kinni kleebitud), seab ta alati prioriteedid järgmiselt: häkkerid, riik, korporatsioonid.

See on loomulikult nali. Kuid tegelikkuses on aktiivsed andmeanalüütikud, erinevad andmeuuringute tegijad varastanud palju rohkem, kui mulle tundub, et hirmutavad venelased, ameeriklased või mõne muud tüüpi häkkerid (asenda mis tahes, sõltuvalt teie poliitilistest tõekspidamistest). Ühesõnaga, tavaliselt kardetakse seda – teil on ju kõigil tõenäoliselt veebikaamera kinni kleebitud? Te ei pea isegi käsi tõstma.

Kuid kui häkkerid teevad midagi ebaseaduslikku ja valitsusel on vaja kohtuluba andmete saamiseks, siis viimastel tüüpidel [korporatsioonidel] ei ole seda üldse vaja, sest neil on selline asi nagu kasutaja leping, mida keegi kunagi elus ei loe. Ja ma tõeliselt loodan, et sellised üritused sundivad inimesi lepinguid lugema. Ma ei tea, kuidas Valgevenes, aga Moskvas selle aasta keskpaiku toimus rakenduse „GetContact” laine (te kindlasti olete kuulnud), kui ilmus arusaamatu rakendus, mis ütles: anna rakendusele juurdepääs kõigile oma kontaktidele ja me näitame, kuidas sa olid kellegi juures naljakalt üles tähendatud.

Meedias ei ole see kajastatud, kuid paljud kõrged ametnikud on kaebanud, et neile hakati pidevalt helistama. Tundub, et administraatorid otsustasid selles andmebaasis leida Šoigu telefoni, kedagi veel… Volotskovat... Kahjutu asi. Kuid need, kes lugesid „GetContacti” litsentsilepingut – seal on kirjutatud: rämpskirjad piiramatus koguses piiramatu aja jooksul, teie andmete müük kolmandatele isikutele kontrollimatult, ilma õiguste, aegumistähtaegade ja lihtsalt kõike, mis võimalik, piiranguta. Ja see ei ole tegelikult nii haruldane lugu. Facebook, kui ma seal olin, näitas mulle 15 korda päevas teateid: „Sünkroniseeri kontakte, ja ma leian kõik sinu sõbrad, kes sul on!”.

Korporatsioonidele ei ole see oluline. FZ 152 ja GDPR

Kuid tegelikult on prioriteedid vastupidised, sest korporatsioone kaitseb eraõigus ja seetõttu on praktiliselt kõigil juhtudel peaaegu võimatu tõestada, et nad pole eksinud. Arvestades, et nad on suured, hirmutavad ja väga kallid, on see praktiliselt võimatu. Ja kui te olete veel Venemaal, vananenud seadusandluse keskkonnas, siis on kõik kuidagi veelgi kehvem.

Kas teate, milles erineb Venemaa seadus (mis on praktiliselt Valgevene seadusega sarnane) näiteks GDPR-ist? Venemaa seadus nr 152 kaitseb andmeid (see on jäänuk Nõukogude minevikust) – dokument, mis kaitseb andmeid lekete eest. GDPR aga kaitseb kasutajate õigusi – õigusi selle vastu, et nad võivad kaotada teatud vabadusi, privileege või veel midagi, kuna nende andmed lekivad kuhugi (seal on otseselt määratletud selline mõisted). Meie juures on aga kõik, millega sind süüdistada võivad – trahv selle eest, et sul ei ole sertifitseeritud „open”-„Excelit” isikuandmete töötlemiseks. Loodan, et see kunagi muutub, aga arvan, et mitte lähitulevikus.

Millised on täna reaalsed sihtimise võimalused?

Esiteks, arvatavasti hirmutav lugu, millest kõik pidevalt on mõelnud – see on isiklike sõnumite lugemine. Kindlasti on teie seas inimene, kes on kunagi midagi valjult öelnud ja seejärel saanud sihitud reklaami. Jah, olid sellised? Tõstke käsi.

Ma tegelikult ei usu, et nii-öelda „Yandex Navigator” suudab reaalselt kõiki kasutajaid üle lõike tuvastada, sest need, kes on natuke kokku puutunud häälendada tuvastamisega, mõistavad, et: kõigepealt, Yandexi andmekeskus peab olema viis korda suurem; aga kõige olulisem, et sellise inimese kaasamine maksaks tohutult palju raha (et suudaks tuvastada helivoogu ja mõista, millest inimene räägib). Kuid! Tegelikult on olemas algoritmid, mis märgivad teid teatud märksõnade põhjal, et hiljem teha mingi reklaamkommunikatsioon.

Selliseid uuringuid on tehtud rohkelt ning olen 100 korda loonud puhtaid kontosid, midagi kellelegi sõnumites kirjutanud ja siis äkitselt saanud reklaame, mis tundusid olema täiesti mitteseotud. Siin on tegelikult kaks järeldust. Selliste olukordade korral – peetakse, et inimene satub lihtsalt mingisse statistilisse valimisse; ütleme, et olete 25-aastane mees, kes just sel hetkel pidi kokku puutuma inglise keele kursustega, kui te kellelegi kirjutasite. Igatahes, „Facebook“ räägib alati kohtus nii: on olemas mingisugune käitumismudel, mida me teile ei näita, mis on loodud andmetel, mida me teile ei näita, meil on siseuuringud, mida me teile kindlasti ei näita (sest kõik on ärisaladus); kokkuvõttes, olete sattunud mingisse statistilisse valimisse, seetõttu me näitasime teile seda.

Kuidas „Facebook“ kasutajate privaatsust üle kummardas

Kahjuks on seda üldse võimatu tõestada, kui teil pole kedagi sees ettevõttes, kes kuidagi neid toiminguid kinnitaks. Kuid Ameerika seadusandluses on sellisel juhul selle töötaja konfidentsiaalsusleping midagi, mis kaalub üles tema soovi teid aidata, seega keegi seda ei tee. Veel on huvitav – see juhtus umbes aasta või poolteist tagasi – Ameerikas hakkas arenema trend, kus inimesed paigaldasid brauseri laienduse, et see krüpteeriks „Facebooki“ sõnumeid: kirjutate kellelegi midagi, see krüpteerib seadme võtmega ja saadab avatud kanalis segadust.

Siin on „Facebook“ viimase pooleteise aasta jooksul käinud selles ettevõttes kohtus ja on täiesti ebaselge, millistel alustel (sest ma ei tunne Ameerika seadust hästi) sundis nad neid rakendust kustutama ning tegi seejärel muudatuse kasutaja lepingu tingimustes: kui vaatate, seal on selline punkt, et teil ei ole lubatud edastada krüpteeritud kujul sõnumeid – see on kuidagi nii peenetuks kirjutatud, et ei ole lubatud kasutada krüptograafilisi algoritme sõnumite muutmiseks – noh, selline olukord on. See tähendab, et nad ütlesid: kas kasutate meie platvormi, kirjutate avatud kanalis, või ei kirjuta. Ja siit tekib küsimus: miks neile üldse isiklikud sõnumid vajalikud on?

Isiklikud sõnumid on 100% usaldusväärse teabe allikas.

Siin on väga lihtne asi. Kõik, kes tegelevad digitaalsete jälgede ja inimeste tegevuse analüüsiga, püüavad neid andmeid kasutada turunduseks või millekski muuks - neil on selline näitaja nagu usaldusväärsus. See tähendab mingit inimkuju - te mõistate hästi, et see ei ole tegelik inimene - see pilt on alati veidi edukam, veidi parem. Isiklikud sõnumid on need tõelised teadmised, mida saab inimesest saada, need on praktiliselt alati 100% usaldusväärsed. Sest harva kirjutab keegi isiklikes sõnumites kellelegi valet, ja seda on väga lihtne kontrollida - vastavalt teistele sõnumitele (te saite aru, millest ma räägin). Asi on selles, et sellisel viisil välja tõmmatud teadmised on peaaegu 100% usaldusväärsed, seetõttu püüavad kõik neid alati hankida.

Kuid sellegipoolest on see kõik, nagu öeldakse, väga keeruliselt tõestatav lugu. Ja need, kes usuvad, et näiteks "VKontakte"-il on õiguskaitseorganitel juurdepääs isiklikele sõnumitele - see ei ole päris tõsi. Kui te lihtsalt vaatate kohtuavalduste ajalugu teabe avalikustamiseks - kuidas "VKontakte" (käesoleval juhul Mail.ru) neist päringutest väga kavalalt pääseb.
Neil on alati peamine argument: seaduse järgi peavad õiguskaitseorganid põhjendama, miks täpselt on vajalik juurdepääs isiklikele sõnumitele. Üldiselt, kui on tegu mõrvaga, ütleb uurija alati, et tõenäoliselt ütles inimene, kus ta relva peidab (isiklikes sõnumites). Kuid me mõistame, et mitte ükski mõistlik kurjategija ei kirjuta kunagi oma kaasosalistele "VKontakte"-is, kus ta relva peidab. Kuid see on üks levinud variantidest, mille nimel ametnikud aru annavad.

Siin on veel üks kohutav näide (mind paluti täna tuua kohutavaid näiteid) – Venemaa kohta (loodan, et Valgevenes sellist ei juhtu): seaduse kohaselt peab uurijal olema piisavalt tugev alus operaatorile, et selle teabe avalikustamiseks õigust saada. Loomulikult ei ole kuskil neid usaldusväärseid parameetreid kirjeldatud (millised need peaksid olema, millises vormis), kuid Venemaal on praegu üha rohkem pretsedente, kus selline alus kohtu jaoks tekib, kui on olemas teatud mudel, mis on prognoosinud konkreetset, head või halba, käitumist.

See tähendab, et meid ei saa kedagi karistada (ja see on hea) selle eest, et te jõudisite mingi statistilise valimi puhtavereliste mõrvarite hulka – ja see on hea, sest see rikub süütuse presumptsiooni; kuid on pretsedente, kus selliste prognooside tulemusi on kasutatud kohtuliku loa saamiseks andmete hankimiseks. Mitte ainult Venemaal, muide. Ameerikas on ka selliseid asju. Seal on "Palantir" juba ammu kõiki hindanud ja selliseid asju kasutatakse. Kohutav lugu.

See on minu uuring. Me viisime selle läbi: kõndisime Peterburis, roheline punktides kirjutasime oma sõpradele "puhtad" kontod - näiteks "ma tahan juua kohvi" või "kust osta pesupulbrit?" ja nii edasi. Ja seejärel saime geoga seotud reklaami. Millise maagilise viisi abil... Või nagu öeldi: "Juhus? Ei usu!" Need on isiklikud sõnumid "VKontakte". Andke andeks, Mail.ru, aga see on tõsi. Igaüks, kes soovib, võib sellist eksperimenti korrata.

Muide, kui kirjutati toeks avaldus, ütles Mail, et seal olid wi-fi punktid, mis said kinni teie MAC-aadressi. Sellist asja on ka.

Isikuandmete hankimise ja levimise levinud viisid

Järgmine lugu on täiendavate teadmiste hankimine, millest ma tegelikult tükikese kokku puutusin. Tegelikult kannab inimese täidetud sotsiaalmeedia profiil endas 15–20% tõelisest teadmistest, mida andmeoperaator temast hoiab. Kogu ülejäänud lugu tuleb väga huvitavatest asjadest. Miks arvate, et "Google" arendab tugevalt arvutinägemise raamatukogusid? Eriti nad olid mõned esimesed, kes arendasid raamatukogusid objekti analüüsimiseks ja kategoriseerimiseks – olgu see siis taustal või esiplaanil, ei ole vahet. Kuna see on tohutu lisainformatsiooni allikas selle kohta, milline on inimese korter, auto, kus ta elab, luksusartiklid...

Oli palju "häkkerite" leket, kui "Google'i" koolitatud närvivõrgud lekiti (ma ei tea, kelle omad need olid, aga siiski). Seal oli palju huvitavat rinna suuruse, talje ümbermõõdu kohta – inimesed üritasid teada saada teiste inimeste kohta fotode analüüsi põhjal. Sest kui inimene teeb pildi, ei mõtle ta alati sellele, kui palju huvitavat sealt teada saab? Ja kui palju Venemaal beebide passe jagatakse?.. Või: "Hurraa, minu laps sai viisa"! See on üldse tänapäeva ühiskonna valu.

Veel üks teemast kõrvale kaldumine (täna jagan teiega fakte): Moskvas on kõige sagedasem isikuandmete lekkimine seotud eluasemete ja kommunaalteenustega, kui uksele pannakse üles võlglaste nimekiri, ja need võlglased esitavad hiljem kohtule kaebuse, sest nende isikuandmed on ilma nende nõusolekuta avalikustamisele läinud. Juhuslikult juhtub midagi sellist... Asi on selles, et kui inimene teeb midagi, ei tea ta, mis pildil oli või ei olnud. Autosid on nüüd palju.

Kord viisime läbi uuringu – püüdsime mõista, kui palju inimesi, kelle autotoimeta fotod on avalikult nähtavad (neil on seal vastavalt õigusrikkumised jne) – seda oli kahjuks võimalik teha ainult lekkinud GIBDD andmebaaside kaudu, kus oli ainult numbrimärk (mitte väga usaldusväärne teave), kuid see oli ka huvitav.

Teie järgmine reklaam sõltub sellest, kuidas te eelmist "kasutasite".

See on esimene lugu. Teine lugu – need on käitumismudelid, sisu, mida inimene tarbib, kuna üks peamisi mõõdikuid, mida sotsiaalmeedia teie kohta kindlaks teeb, on see, kuidas te reklaamiga suhestute. Ükskõik kui täpsed ja "hämmastavad" algoritmid on, kuidas igasugused tehisintellektid ja muu selline toimib, aga sotsiaalmeedia peamine prioriteet on alati raha teenimine. Seetõttu, kui tinglik "Coca-Cola" ütleb: "Soovin, et kõik Valgevene elanikud näeksid mu postitust" – nad näevad seda, hoolimata sellest, mida algoritmid selle inimese kohta arvavad või kuidas teda sihtida. Te ilmselgelt olete saanud reklaami, mis ei ole sugugi mitte super-supersihitud, vaid tõeliselt jabur ja seotud mitte millegagi. Sest selle jabura eest on makstud väga palju raha.

Aga üks peamisi mõõdikuid on mõista, millise sisuga te kõige paremini suhestute, just nimelt – kuidas te sellele reageerite, et teile näidata sarnast reklaaminarratiivi. Ja seega, see on mõõdik selle kohta, kuidas te reklaamiga suhestute: kes seda blokeerib, kes mitte, kuidas inimene klõpsab, kas ta loeb ainult pealkirju või sukeldub täielikult materjali; ja seejärel selle põhjal jätkata teid selles, mida nüüd nimetatakse "filtri mulliks" hoidmist, et te jätkaksite selle sisuga suhtlemist.

Kui teile kunagi peaks huvi olema, proovige pika aja jooksul, võib-olla nädal või kuu, lihtsalt blokeerida kogu reklaami sotsiaalmeediast: teile näidatakse mingit kuulutust – te sulgete selle. Kui seda analüüsida ja graafikule kanda, tuleb huvitav lugu: kui te nädal aega blokeerite reklaami, siis järgmisel nädalal näidatakse teile seda intensiivse versioonina ja tõeliselt erinevatest kategooriatest; see tähendab, et tinglikult, kui teile meeldivad koerad ja teile näidatakse koerte reklaami – te blokeerite kõik koerad, ja seejärel hakkavad nad teile näitama igasuguseid segaseid asju erinevatest valdkondadest, et proovida aru saada, mida te vajate.

Ja siis, lõpuks visatakse sind kõrvale, märgitakse inimesena, kes ei suuda reklaamiga suhelda, ja selle hetkeni hakatakse sulle näitama reklaame ainult rikkadest brändidest. See tähendab, et sa näed tol hetkel ainult "Coca-Cola", "Kit-Kat", "Unileveri" ja kõiki inimesi, kes investeerivad tohutu raha, et suurendada vaateid. Proovi kuu aega eksperimenti: ühel-kahl nädalat blokeeri kõik reklaamid, siis vaata kõike ja blokeeri seda, – lõpuks näed sa ainult reklaame, nagu hiljem selgub (ja ütlevad reklaamiagentuurid), ainult klientidelt, kes maksavad vaadete eest, sest ei ole võimalik mõista, kuidas sa selle reklaamiga suhtled.

Porno vaatavad sagedamini need, kes kalduvad sügavale sisusse süvenema.

Seega on see lugu kõigi käitumise jälgimisest. Mul on huvitav näide – ühe riigi veebilehe külastajad. Kõige naljakam on see, et mida sügavam on inimeste vaatamine, seda rohkem neist eelistab porno vaatamist traditsioonilistele suhetele. "Vabandust", et ma pidevalt sellest teemast räägin, aga mul on tegelikult väga head suhted "Pornhubiga", ja need on alati väga huvitavad uuringud, sest see on teema, mis tundub keelatud, aga räägib neist inimestest väga palju. Ja siit tulenevad järgmised punktid, mis käsitlevad liiklusvooge... Me tuletame meelde ka "Pornhubi"!

Mis loetakse isikuandmeteks ja kas saab "iPhone'i" 3D-näomudeli abil avada?

Minu lemmik on seaduse leidmine isikuandmete kohta. Kui lugeda sama "Facebooki" tehnilist dokumentatsiooni, mis on esitanud mingit sisemist teavet (näiteks kohtus), ei leiab seal mingeid viiteid näotuvastusele või hääle analüüsile. Seal on väga keerulised formuleeringud, mida ükski kvalifitseeritud jurist ei leia seadusandlusest. Meie riigis toimib enam-vähem samamoodi – ma näitan sulle nüüd midagi sellist.

Mida te siin näete? Iga normaalne inimene ütleks, et see on nägu. See on muide Sasha Gray, minu arvates. Juridiliselt on see siiski kolmemõõtmeline punktide maatriks, kus on 300 000 punkti. Olgu see hea või halb, kuid seaduse järgi ei loeta seda isikuandmeteks. Üldiselt ei pea Vene RKN ühtegi fotot isikuandmeteks – isikuandmeteks loetakse, kui seal on veel midagi (näiteks nimi või telefoninumber), aga see foto iseenesest on tühine. Niipea, kui kehtestati biomeetria seadus ja biomeetrilised andmed võrdsustati isikuandmetega (nii, väga toorelt), hakkas kõik kohe ütlema: need ei ole biomeetrilised andmed, need on punktide massiiv! Eriti, kui sellest punktide massiivist võtta otsene või pöördvastus Fourier' muundamine, teoreetiliselt ei saa te sellisest muundamisest inimest de-anonüümida, kuid te saate ta tuvastada. Puhtteoreetiliselt ei rikuta seadust.
Teine uurimus, mille tegin: see on algoritm, mis loob kolmemõõtmelise näo rekonstruktsiooni avatud allikatest – võtame konto Instagramis ja hiljem saab näo 3D-printeriga välja printida. Muide, kellele huvi pakub, mul on avatud juurdepääsuga link; kui keegi tahab kellegi iPhone'i avada... Nalja viskades – iPhone'i ei saa avada, seal kvaliteet väheneb.

Suletud profiil – see on pluss turvalisuse jaoks.

See on esimene asi, ja teine... Olen juba maininud, et teavet saadakse peamiselt kasutaja ümbritsevast keskkonnast. Selle pildi ma joonistasin 2017. aastal: keskmine venelane sotsiaalmeedias – ta on sees, tal on keskmiselt 200–300 sõpra, tema sõprade sõbrad ja tema sõprade sõprade sõbrad.

Aitäh sotsiaalsetele võrgustikele, et nad tõid sisse «nutikad» e-vood, et suurendada võimalust, et te kohtate mõnda huvitavat sisu. Need inimesed võivad igal juhuslikul hetkel näha sisu, mida te tootsite, isegi kui teie konto on piiratud ainult kõrgeimal privaatsustasemel (ainult sõpradele ja nii edasi). Need on sõprade sõbrad:

Kui keegi arvab, et kui ta VK-s valib "Minu postitustes" näha "sõprade sõpru", siis kolm käepigistust tähendab umbes 800 tuhat inimest, mis pole iseenesest vähe, kuid sõltub teie sisust. Võib-olla teete mõningaid sobimatuid vooge, ja kõik need sõprade sõbrad võivad selle sisuga suhelda. Keegi neist võib kuskil midagi jagada, kõigil inimestel on meeldimiste voog, mida tegelikult tõenäoliselt tühistatakse, sest see ei ole eriti meeldiv asi. Seetõttu võib sisu igal hetkel kuhugi sattuda.

VK käivitas eelmisel aastal ka supersuletud profiilid, kuid praegu on neid kasutanud veel väga väike arv inimesi (ma ei hakka ütlema, kui palju, aga vähe!). Võimalik, et kunagi inimesi see mõte kõnetab – ma loodan siiralt. Kõik uurimised on pidevalt suunatud sellele, et aidata inimeste probleemide skaala mõista. Sest seni, kuni kedagi konkreetselt ei puuduta mingid hirmutavad asjad, ei mõtle nad kunagi selle üle. Jätkame.

Riigiasutustes ei teata, mis on isikuandmed, ja ei kiirustata määratlust andma.

Iga isikuandmete õiguse spetsialist ütleb alati järgmist: erinevaid andmeallikaid ei tohi kunagi omavahel liita, sest siin on teil e-posti aadressid (need on ühed isikuandmed koos anonüümsete identifikaatoritega), siin – nimi… Kui see kõik kokku liita, siis näib, et nad on isikuandmed. Üldiselt oleks õige kõigepealt sellele teemale läheneda, kuid ma arvan, et olete juba selles teemasse süvenenud ja tead, võib-olla kuidas seadus töötab.

Tegelikult ei tea keegi, mis on isikuandmed. Oluline kontseptsioon! Kui ma lähen riigiasutustesse ja ütlen: "Konjakipudel sellele, kes ütleb, mis on isikuandmed." Ja keegi ei oska öelda. Miks? Mitte sellepärast, et nad oleks lollid, vaid sellepärast, et keegi ei taha võtta vastutust enda peale. Sest kui Roskomnadzor ütleb, et see on isikuandmed, teeb homme keegi midagi ja nad on süüdi; nad on täidesaatva võimu organid ega peaks üldse millelegi vastutama.

Sisuks on see, et seaduses on selgelt kirjas, et isikuandmed on need andmed, mille alusel saab tuvastada isiku. Ja seal on toodud näide: nimi, aadress, telefoninumber. Kuid me teame, et isiku tuvastamiseks võib kasutada ka seda, kuidas ta nupule vajutab, kuidas ta liidesele reageerib ja muid kaudseid parameetreid. Kui kedagi huvitab: praktiliselt igas valdkonnas on tohutult palju õiguslikke lünki.

Meid paljastavad identifikaatorid

Näiteks, kõik hakkasid seadistama punkte, et püüda kinni MAC-aadresse (kas olete sellega kokku puutunud?) – nutikad (või ma ei teagi, ahned) mobiilseadmete tootjad, näiteks Apple ja Google, viisid kiiresti sisse algoritmid, mis genereerivad juhuslikke MAC-aadresse, et teid ei saaks tuvastada, kui jalutate linnas ja saadate kõigile oma MAC-aadressi. Kuid nutikad poisid mõtlesid välja veel ühe loo.

Näiteks võite saada mobiilsideoperaatori litsentsi; mobiilsideoperaatori litsentsi saades saate ligipääsu sellisele asjale – see nimeks protokoll SS7, mille kaudu näete mingit mobiilsideoperaatorite signaali; seal on palju erinevaid identifikaatoreid, mis ei ole isikuandmed. Enne oli see IMEI, aga nüüd – otse öeldes keegi võttis selle teema üles ja otsustas Venemaal (selline algatus) luua ühtse „IMEI-de“ andmebaasi. Tundub, et selline on olemas, kuid sellegipoolest.

On veel näiteks palju identifikaatoreid – näiteks IMCI (mobiilseadme identifikaator), mis ei ole isikuandmed ega seotud teiste asjadega ja seetõttu saab selle säilitada ilma igasuguse seadusliku tagajärjeta ning hiljem kellegagi nende identifikaatoritega vahetust teha, et inimesega suhelda.

Isikuandmete töötlemise kultuur on madalal tasemel

Ühesõnaga, sisuks on see, et kõik on praegu väga mures andmete ühendamise pärast ja enamik ettevõtteid, kes seda ühendamist teevad, ei mõtle sellele isegi. Näiteks tuli pank, sõlmis konfidentsiaalsusleping ettevõttega, kes tegeleb krediidiskoorimisega, ja edastas neile 100 tuhat oma klienti...

Ja ei ole alati selle panga kokkuleppes punkt andmete kolmandatele isikutele edastamise kohta. Need kliendid kiirustasid millegagi ja pole selge, kuhu see andmebaas edasi läks - enamikus Venemaa ettevõtetest pole andmete kustutamise kultuuri... - see "Excel" jääb kindlasti kuskil sekretäri arvutisse alles.

Meie andmeid võidakse iga ostuga poes müüa.

On väga palju skeeme, mis näivad olevat peaaegu seaduslikud (st seaduslikud). Näiteks selline lugu: 15 suurimast Venemaa pangast on vaid kaks tegelikult SMŠ-väravad – „Tinkoff“ ja „Alfa“, st nad saadavad ise oma SMŠ-sid. Ülejäänud pangad kasutavad SMŠ-väravaid, et saata SMŠ-e lõppkasutajatele. Need SMŠ-väravad on peaaegu alati õigusega analüüsida sisu (nt turvalisuse osas ja oma järelduste tegemiseks), et hiljem müüa koondstatistikat. Need SMŠ-väravad teevad koostööd maksudokumentide operaatoritega, kes opereerivad tšekke.

Ja tulemuseks on see: te jõuate kassasse, maksudokumentide operaator (olgu see telefoninumber antud või mitte - millegagi on see seal seotud)... teile saadetakse telefoninumbri peale SMŠ, selle SMŠ-värav näeb kaardi nelja viimase numbri ja telefoninumbri. Me teame, millal te tehingu tegite maksudokumentide operaatorist, ja SMŠ-des teame (nüüd juba), millisele numbrile tuli teave teatud rahasumma lunastamise kohta nelja viimase kaardi numbri järgi. Neljased viimased numbrid ei ole teie identifikaatorid, nad ei riku seadust, sest nende järgi ei saa teid deanonüümisest tuvastada, tehingu summa – samuti mitte.

Aga kui te olete kokkuleppele jõudnud maksudokumentide operaatoriga – te teate, millisesse ajavahemikku (pluss/minus 5 minutit) see SMŠ peaks tulema. Nii olete te kiiresti ODF-ga sidunud oma telefoninumbri ja teie telefoninumber on seotud reklaami identifikaatoritega, tõeliselt kõikide asjadega. Seetõttu on teid hiljem lihtne tabada: olete läinud poodi ja teile saadetakse veel mingeid lollusi ilma teie loata. Ma arvan, et selles saalis on raske leida kedagi, kes on vähemalt korra esitanud kaebuse RFS-le rämpsposti kohta. Väga kahtlane… Ilmselt peale minu.

Paberid on arhailine, kuid tõhus meetod oma õiguste kaitsmiseks.

See on tõesti ägedalt toimib. Tõsi, tuleb poolteist aastat oodata, kuid FAS viib tõeliselt läbi kontrolli: kes, kuidas, kellele andmed edastas, miks kuhugi ja nii edasi.

Küsimus saalist (edasi – K): – Valgevenes ei ole FASi. See on teine riik.

AK: – Jah, ma saan aru. Kuid analooge on kindlasti olemas…

Saallist tulevad vastuväited

AK: – Hästi, halb näide, "vabandust". Ei ole oluline. Minu sõprade seas ei ole kedagi, kes üldse teaks sellise asja olemasolust – et võiks minna kirjutama, ja nad siis veel aasta töötavad.

Teine lugu, mis Venemaal samuti väga areneb, kuid ma arvan, et leiate selle analooge ka enda juures. Ma armastan seda nii teha, kui riigiasutus ei suhtle sinuga hästi, mõni pank või midagi muud – sa ütled: "Andke mulle paber". Ja kirjutad paberile: "Vastavalt 14. punkti 152. föderaalseadusele palun viia isikuandmete töötlemine läbi paberil". Ma ei tea, kuidas see Valgevenes täpselt käib, kuid kindlasti seda tehakse. Venemaa seaduste kohaselt ei tohi teid selle alusel teenusest keelduda.

Ma isegi tean palju inimesi, kes on Mail.ru selliseid asju saatnud ja palunud pidada nende isikuandmeid paberil. Mail.ru üritas sellest väga kaua lahti saada. Ma isegi tean ühte Yандикс'i arendajat, kelle üle nalja tehti: nad kustutasid tema konto VK-s ja saatsid talle hunniku printimise ekraanipiltidest, öeldes, et nad saadavad talle ekraanipilte iga kord, kui ta soovib oma lehte uuendada.

Naljakas, kuid siiski see on reaalne alternatiiv, kui keegi tõeliselt muretseb oma andmete pärast, ühelt poolt… Teiselt poolt, sama RKN ütles mulle, et see isikuandmete töötlemise kokkulepe on formaalne, ja seadus ette näeb veel mitmeid võimalusi selle nõusoleku andmiseks. Ja et näiteks mind kutsuti siia üritusele, ja kui näiteks Human Constanta ei pea Venemaa seaduste raames minuga isikuandmete töötlemise kokkulepet sõlmima (kuna asjaolu, et ma tulin ja nõustusin esinema, on juba nõusolek isikuandmete töötlemiseks), – kõik siiski võtavad need paberilised load. Kuid RKN ütles mulle, et üldiselt ei ole see kindel, et nad kunagi kaovad.

Ma loodan, et Venemaal kunagi ei loodud ühtegi isikuandmete operaatorit, vabandage, Jumal, sest pole midagi hullemat, kui koondada kõik isikuandmed ühte korvi, kui panna need riiklikku korvi. Sest ei tea, mis selle kõigega hiljem juhtub.

Ettevõtted vahetavad isikuandmeid ning seadused reguleerivad seda nõrgalt.

Enamik ettevõtteid vahetab omavahel mingit sorti andmeid, identifikaatoreid. See võib olla pood, kes vahetab andmeid pangaga, ja siis jälle pank sotsiaalmeediaga, sotsiaalmeedia millegagi veel… Ja lõpuks on nendel inimestel mingi kriitiline teadmusmass, mida saab mingil viisil kasutada, ja kõik need teadmised püüavad nad praegu endale hoida. Siiski jõuab see kõik lõpuks mingisse reklaamivoolu või muusse kohta.

Andmete edastamine kolmandatele isikutele on üks lõbusamaid asju, mis olla saab, sest seadustes ei ole kirjas, kes need kolmandad isikud on, kelle kohta nad üldse 'kolmandatest' isikutest rääkida peaksid. See on muide väga levinud väljend Ameerika advokaatide seas - neil on seal 'kolmandad osalised' - kes, keda te peategi kolmandateks isikuteks: vanaema, bisavanaema?… Ameerikas oli isegi selline juhtum, kus kellegi andmed avalikustati, inimene esitas kaebuse ja nad tõendasid, et see inimene on läbi mõne sõbra andmete omanikuga tuttav - mingi käepigistuste arv, nad tõid välja mõned kummalised sotsioloogilised uuringud - tõestatud, et need inimesed ei saa üksteisele kolmandateks isikuteks lugeda. Naljakas. Kuid selliste andmete edastamine on väga levinud.

Isegi kui külastate saiti, kus on identifitseerimise jaoks arvuti, on sellel arvutil õigus edastada seda liiklust mingisse kohta ('Clickstream', reklaamiplatvormide omanikele mis tahes, näiteks 'Pornhub'). 'Pornhub', kui mõni teist on veebiarendaja, - vaadake, kui palju jälgimispiksleid 'Pornhubi' saidil on. Lihtsalt sisse logides laaditakse tohutult java-skripte, mis on mõeldud saidi toimimise parandamiseks. Tõeliselt seatakse seal ka ristdomiini 'küpsised', mida seal kõik ei leidu, sest see info on alati kõrge väärtusega 'clickstreami' turul.

Facebook ei plaani oma maski eemaldada ja siia-sinna ei kiigata.

Muidugi ei räägi ükski suur mängija kunagi kellelegi, kellele ja kuidas ta andmeid müüb. Seetõttu püüab Euroopa näiteks nüüd Facebookiga kohtusse minna. Just pärast GDPR-i kehtestamist üritab Euroopa Liit Facebookilt välja nõuda selle algoritmide avalikustamist, mis puudutavad andmete kolmandatele isikutele edastamise müüki.

Facebook seda ei tee ja kuulutab valjusti, et nad seda ei tee, kuna nad on "maailmakorporatsioon" (citaan, mille nad mulle saatsid), nad on "tehnoloogiate kuritarvitamise vastu" (eriti kui müüte näotuvastust Kremlile). Ühesõnaga, asja tuum on see, et Facebook ei toimi täiesti ausalt: nende peamine eesmärk ja see, mis juhtub, kui see mehhanism paljastatakse – on võimalik tõeliselt arvutada reklaami kasumlikkust ja mõista reklaamipakkumiste tegelikku väärtust.

Ütleme nii, et kui Facebook ütleb teile, et reklaami näitamise hind on 5 rubla, ja müüb seda teile 3 rubla eest (ja nagu, kaks rubla jääb neile), ja nad teenivad nendest reklaami näitamisest tõenäoliselt 5% kasumit. Tegelikult ei ole see 5%, vaid 505%, sest kui see algoritm pinnale kerkib (kellele ja kuidas Facebook on mitu korda edastanud "klikivoo", külastuste andmed, pikseldata erinevatele reklaamivõrkudele), selgub, et nad teenivad palju rohkem raha, kui nad sellest räägivad. Ja asi pole ainult rahas, vaid selles, et kliki hind on rubla, aga tegelikult – täiendavad sendid.

Ühesõnaga, asja tuum on see, et kõik püüavad sellist edastamist varjata, olgu see siis reklaam või mitte-reklaam liiklus, aga see on olemas. Kahjuks ei saa õigusteadlikult teada, kuna ettevõtted on eraettevõtted, ja kõik, mis neil seal sees on – see on nende eraõigus ja ärisaladus. Kuid sarnased lood kerkivad seal tihti esile.

Narkokaubitsejad on ettearvatavad ja 'paljastuvad' Avitos.

Viimane pilt sellest esitlusest. See on naljakas ja selle sisu on see, et on teatud inimeste kategooriaid, kes hoolivad oma isikuandmetest väga. Ja see on tegelikult hea! See näide puudutab sellist inimeste kategooriat nagu narkokaubitsejad. Tundub, et inimesed, kes peaksid väga hoolima oma isikuandmetest...

See on uuring, mida viidi läbi aasta alguses pädevate ametiasutuste järelevalve all. Jah, see on skript, millele anti raha, et osta uimasteid "Telegramis", "Tor'is" inimestelt, keda oli võimalik tuvastada.

Tegelikult põlevad peaaegu kõik Moskva narkodiilerid selle tõttu, et nende telefoninumber ei ole avalikes allikates kergesti leitav, kuid varem või hiljem müüvad nad midagi "Avitos", mille põhjal on võimalik nende ligikaudset asukohta mõista. Oluline on see, et punased punktid tähistavad, kus inimesed elavad, ja rohelised, kuhu nad reisivad, et jätta teadaolevat. See oli üks osa algoritmist, mis prognoosis patrullide paigutust, kuid need Moskva kutid püüavad alati millegipärast diagonaalis sõita, kaugemale.

Nad usuvad, et kui nad elavad üleval vasakul, siis peavad nad minema üleval paremale ja seal nad kindlasti kunagi ei leita. Ma ütlen teile, et kui üritate peituda kõikjal olevate algoritmide eest, siis tõeliselt hea lahendus on muuta käitumismudelit: installige mõni "Hoster", et külastuste ja omamiste randomiseerimist teha. Jah, jumal, isegi on olemas algoritme ja pluginaid, mis muudavad brauseri suurust paarikümne piksliga, et ei saaks brauseri "fingerprint'i" arvutada ja kuidagi teid tuvastada.
Minul on kõik. Kui teil on küsimusi, siis küsige. Siin on link esitlustele.

Küsimus publikust (K): – Palun öelge, kuidas on "Tori" kasutamise ja liikluse jälgimise osas… Kas soovitate seda?

Peituda on keeruline, aga võimalik

AK: – "Tor"? "Tor" ei ole, absoluutselt mitte mingil kujul. Ma tõenäoliselt ei tea, kuidas Valgevenes, aga Venemaal ei tohiks sinna mingil juhul minna, sest praktiliselt kõik "grace nodes" kontrollitud lisavad ootamatult teie liiklusele teatud paketid. Ma ei tea, millised, aga kui vaatate: on "nodid", mis märgistavad liiklust – ei ole selge, kes seda teeb, millistel eesmärkidel – aga keegi märgistab selle pealkirja, et hiljem aru saada. Praegu Venemaal, kogu liiklus on salvestatud, olgu see siis salajases vormis, ja kõik narrivad "Jarovaya paketti" selle üle, et salvestatakse krüpteeritud liiklust, aga see jääb märgistatud, st kasutada, dekrüpteerida seda ei saa...

Z: – Euroopas on see juba ammu salvestatud, umbes kümme aastat.

AK: – Jah, ma saan aru. Kõik naeravad selle üle – nagu, te salvestate https, mida ei saa lugeda. Sisu ei saa lugeda, aga mõista, kust paketid tulid, teatud algoritmide kaudu on võimalik – pakettide kaalust, pikkusest ja nii edasi. Ja kui kõik teenusepakkujad on all, on kõik peamised seadmed ja kõik passid... Ühesõnaga, te mõistate, millest ma räägin?

Z: – Millist brauserit soovitate kasutada?

AK: – Tor'i jaoks?

Z: – Ei, üldse mitte.

AK: – Noh, ma ei tea. Ma tegelikult kasutan "Chrome'i", kuid ainult sellepärast, et seal on arendajate paneel kõige mugavam. Kui mul peaks olema kuskile minna, lähen mingisse kohvikusse. Lihtsalt, seal ei tohi tõelise SIM-kaardiga sisse logida.

Z: – Te rääkisite mõnest üliõpilaste grupist. Kas te kuskil õpetate või juhendate mingeid kursusi?

AK: – Jah, meil on andmeajakirjanduse magistrikraadid. Õpetame ajakirjanikke koguma andmeid, analüüsima – nad teevad aeg-ajalt sarnaseid uuringuid.
Ohutuid rakendusi ei ole

Z: – Facebookis, "VKontakte" ei ole turvaline sõpradega suhelda, et hiljem mitte saada konteksti reklaami. Kuidas suurendada turvalisust?

AK: Küsimus on selles, mida peetakse aktsepteeritavaks turvalisuse tasemeks. Sisuliselt ei ole sõna "turvaline" olemas. Küsimus on selles, mida peetakse vastuvõetavaks. Mõned peavad aktsepteeritavaks vahetada intiimseid fotosid läbi "Facebooki", samas kui teatud julgeolekuteenistuste töötajad arvavad, et kõik, mis on öeldud suuliselt isegi kõige lähemale inimesele, on juba de facto ebaturvaline. Kui te ei soovi, et sotsiaalvõrk sellest midagi teada saaks, siis jah – parem on mitte sellest kirjutada. Ma ei tea ühtegi turvalist rakendust. Ma kardan, et neid pole. Ja see on normaalne, arvestades, et iga rakenduse omanik peab selle kuidagi rahaks tegema, isegi kui see rakendus on tasuta või tegemist on mingisuguse meediaorganisatsiooniga. See näib tasuta, kuid tal on siiski vaja millelegi toetuda. Seetõttu ei ole midagi täielikult turvalist. Te peate ise otsustama, nagu öeldakse, mis teid rahuldab.

Z: Mida sina kasutad?

AK: Sotsiaalmeediat?

Z: Messengereid.

AK: Messengereid kasutan ma peamiselt Venemaa föderaalse riikliku messengeri – „Telegrammi“.

Z: Viber. Kas see on turvaline?

AK: Kuule, ma ei ole messengereid väga hästi kursis. Ausalt öeldes ei usu ma turvalisusesse, sest see oleks tõenäoliselt väga kummaline. Kuigi „Telegram“ on nagu open source ja selle krüptimisalgoritmid on avalikustatud. Kuid see on ka selline nutikas asi, kuna seal on klient open source, aga servereid pole keegi näinud. Ma arvan, et ei: Viberis on väga palju rämpsu, botte jne. Kes teab. Tundub, et see kõik ei tööta väga hästi.

Kes on ohtlikum – ettevõtted või riik?

Saatejuht (V): – Mul on sulle selline küsimus. Vaata, sa oled paar korda sel teemal mööda minnes rääkinud – et riik... Liigne kogus andmeid ei ole väga hea... Et ettevõttel on liiga palju andmeid. No, see on lihtsalt elu, eks? Keda peaks rohkem kartma – ettevõtteid või riiki? Kus on peidus ohtlikud kohad?

AK: – See, this is a very complex question. It borders on a difficult ethical barrier. If a person has nothing to fear, if they haven’t broken the law, then why do they need privacy? Although I personally don’t think so – this is what the state believes. Perhaps there is some grain of truth in that. Listen, I’m most afraid of hackers – something like that is really terrifying. Actually, the worst thing I’ve ever seen in my life (out of all this): about a year and a half or two years ago, a pedophile was caught in the Moscow region, and during the investigation, they found several self-tutorials on Python, scripts, and the VK API on his computer. He was collecting accounts of girls, analyzing who was nearby, gathering content that they… In short, you get it. That’s the worst thing I’ve seen, and honestly, that’s what I’m afraid of – that one day someone might do something similar.

Another small off-topic: the European Organization for Security last year reported that the number of thefts from bank accounts, when hackers broke the secret question, increased by about 20 to 25 percent. Just think about your bank's secret question right now, and consider whether I could find the answer from open sources. If your mother's maiden name or favorite dish is there… In general, people analyzed accounts, and based on that figured out the nickname of the favorite pet – something like that…

Z: – You mentioned that companies, corporations gather the necessary information using algorithms? You surely know how?

AK: – There was a movement of people who at one time ran photos through a special filter to disrupt image analysis so that those individuals couldn’t be identified later. I gave you an example that Facebook was battling with message cryptography. If that thing emerges and becomes widespread, social networks will surely fight against it. Plus, image recognition is currently working very well, and it borders on having sufficient capability to 'break' that photo (to 'break' the algorithm that recognizes these images) – most likely, nothing clear will remain on it.

Kõikvõimalikud glitši filtrid toimivad hästi, kui see on tugev otsene nihke pool fotost. Teie konto omandab kõik LSD värvid. Puhtalt teoreetiliselt ei pea ma väga kohutavaks, kui "Facebook" näiteks teab, milline on mu auto – tõenäoliselt, kui ma ei logi oma autost "Facebooki" sisse.

Unustamise seadus töötab, kuid mitte internetis

Z: – Kas olete kunagi kokku puutunud kasutajaga, kes sundis teid austama teda, kustutama, ligipääsu saama. Te opereerite suurte andmehulga, kindlasti teavitate sellest. Inimesed võivad teie poole pöörduda. Kui suur protsent?

AK: – Nüüd räägin. Nüüd saab tõeliselt huvitav olema. Nüüd loen kokku, kui palju inimesi siseneb, sest pärast üritust tuleb alati 15-20 % sisse, täidavad andmete kustutamise vormi – selliseid asju on. Tegelikult on see kuskil 7-8 % suletud kontodest, mida me ei analüüsi, ja umbes 5 inimest tuhandest, kes paluvad oma andmeid kustutada. See on väga vähe, isegi minu tagasihoidlikus arvamuses.

Probleem on järgmine: olemas on selline asi nagu unustamise seadus. Aga unustamise seadus, vähemalt Venemaal, rakendub õiguslikult ainult otsingumootoritele. Seal on selgelt kirjutatud: otsingumootorid. Ja see on ainult linkide eemaldamine materjalidele, mitte nende materjalide endi eemaldamine. Tõeliselt, et midagi internetist kustutada, tuleb kõik need allikad läbi käia, seetõttu ma selles põhimõtteliselt ei usu. Püüame kasutajaid hoiatada, et nad peaksid esmalt mõtlema, enne kui avaldavad.

Praegu on see protsent väga väike – 5-7 inimest tuhandest. Rääkides unustamise seadusest: kõik teavad sellist ägedat juhtumit "Sechin vastu RBK". Unustamise seadus töötas, artikkel eemaldati, kuid see on igal pool. Saate aru, et kui midagi kord internetti satub, siis see sealt enam kunagi ei kao.

Kasutajad kustutatakse, kuid neid tuvastatakse tüüpilise käitumise järgi

Z: – Kas te ei arva, et inimesed, kes kustutavad oma kontod ja püüavad saada „mustaks auguks“, on teiste majandusagentide suhtes vähem soodsas olukorras?

AK: – Tõenäoliselt jah — see olukord ei ole neile endale kasulik. On ju palju erinevaid allahindlusi ja pakkumisi, mis neist sõltuvad. Aga puhtalt teoreetiliselt, kui inimene kustutab oma konto praegu… On ju populaarne, et igasugused ekstremistid kustutavad konto ja teevad valekonto, kuid jätkavad sama sisuga suhtlemist — sellist inimest on uuesti võimalik tuvastada (eriti kui see on ühe sotsiaalmeedia raames, samalt arvutilt — see on üldse küsimus); elementaarselt saab content'i tarbimise mudeli järgi selle inimeseni jõuda, kui selline ülesanne on seatud.

Loodan, et järgmise viie aasta jooksul tekib mingisugune tehnoloogia, mis monetiseerib neid andmeid, kus inimeselt on tõeliselt võimalik raha maksta — sa maksad ise ja me ei kasuta sinu andmeid. Aga ma arvan, et kui mõnes 'Instagramis' kohandatakse makstava tellimuse süsteem, siis keegi ei kasuta seda, seega alternatiiv on maksta kasutajatele nende andmete eest. Kuid see ei toimu eriti kiiresti, kuna hirmutavad korporatiivsed jõud ei luba sellist seadust vastu võtta, kuigi see oleks tore. Kuid asi on selles, et ei ole võimalik hinnata ühe inimese andmete tegelikku väärtust mingil konkreetsel hetkel.

„Facebook“ – ettearvamatud vennad

Z: – Tere päevast. Just hiljuti ilmus uudis, et „Facebook“ kavatseb kõik oma projektid integreerida, sealhulgas „Instagrami“ ja „Facebooki“, „WhatsAppi“ ja nii edasi. Kuidas teie arvates, isikuandmete seisukohalt, kui mul on need programmid nutitelefonis nagu eraldi, aga nad kuuluvad ikkagi Facebookile?.. Mis saab edasi?

AK: – Ma sain aru. Õiguslikult kuuluvad nad niikuinii „Facebookile“ ja ta võib neid omavahel segada, seega ma arvan, et midagi ei muutu. Ainuke asi on see, et nüüd on piisav, kui ühte rakendust häkitakse, et kohe kõik saada. Ja „Facebook“… Loodan, et nad jälgivad. Täiesti ettearvamatud vennad on nad igal pool.

Viimase ajal on ilmunud palju teavet selle kohta — andmelekkeid "Facebookist". See ei juhtunud seetõttu, et "Facebook" hakkas äkitselt andmeid kaotama, vaid seetõttu, et GDPR sunnib ettevõtteid eelnevalt teavitama. Suurim trahv rakendub siis, kui andmeleke toimub ja ettevõte sellest vaikib, seega räägib "Facebook" sellest praegu ise. See ei tähenda, et enne seda ei oleks andmeleke olnud.

Z: – Tere. Mul on küsimus andmete säilitamise kohta. Iga riik kehtestab praegu seaduse, et kodanike andmed tuleksid hoida selle riigi territooriumil. Millised tingimused tuleb täita, et seda seadust täita, näiteks mõne rahvusvahelise rakenduse jaoks?… Näiteks "Facebooki": andmebaas on üks…

Kuidas neid tingimusi täita?

AK: – Kuulake, juriidiliselt on piisav lihtsalt server riigis rentida ja sinna midagi paigutada. Probleem on aga selles, et puudub pädev järelevalveorgan. "Facebooki" andmed ei asu Venemaal. Roskomnadzor võitleb pidevalt nende vastu… "Facebookil" on osa serveritest, kus asub selle "Facebooki" liides, ja on võimatu kontrollida, kus andmed tegelikult asuvad, kuidas need sünkroonitakse.

Z: – Kas liiklust saab kontrollida?

AK: – Kas liiklust saab kontrollida? Jah. Aga liiklus võib ju siis mingisse peamisse punkti minna. Pluss, serverite vahel võib olla midagi nagu VPN või midagi muud. Puhtalt teoreetiliselt on võimatu kontrollida, et ühel hetkel ei sisene süsteemiadministraator sellele serverile ja midagi sealt ei võta. See seadus ei ole kehtestatud andmete kaitsmiseks, vaid et ettevõtted avaksid esindused, maksaksid makse ja hoiaksid andmeid rangelt riigi territooriumil. Minu arust on see aga väga kummaline algatus, ausalt öeldes.

Z: – Kas piisab lihtsalt liidese kontrollimisest?

AK: Keegi võib tulla ja kontrollida, et teil on andmed seal olemas. Aga te võite näidata mingit "Excelit", ja keegi ei suuda seda kinnitada, tõenäoliselt ei hakka keegi seda kontrollima. Praegu vaadatakse lihtsalt IP-aadresse: et IP-aadress, mis on seotud domeeniga, asub riigi territooriumil — ja sellega ei kontrollita edasi. Nüüd tulevad ilmselt minuga kohtuma.

Ei ole teenuseid, millele oleks 100% usaldusväärne, kuid korralikel inimestel pole millelegi karta.

Z: – Selline uudis, mida on paljuski ümber trükitud: keegi Microsoftist postitas, tegi teenuse oma... kontrollimiseks.

AK: – Midagi sellist: kas teie paroolid on lekkinud? Tegelikult pärast samasuguseid lekkeid Facebookis käivitab Facebook alati mingeid varusaitide, kus saab kontrollida, kas te pole just selles andmebaasis — jällegi, GDPR seda nõuab. See tähendab, et kui te sellist asja ei tee, siis pole teil just eriti hea. Seetõttu tutvustavad kõik praegu neid projekte kui „see on meie algatus”; tegelikult nõuab seadus seda. Tegelikult on see väga lahe asi, kuid ma ei usaldaks selliseid kontrolliteenuseid, kui sinna tuleks saata midagi keerulisemat kui teie parool, sest paljude inimeste paroolid on sama.

Z: – Seal lihtsalt sisestad e-kirja ning juba öeldakse, mitu korda see on olnud kompromiteeritud...

AK: – Ma ei usalda selliseid asju, sest on väga lihtne seostada teid selle brauseri ning reaalsete kontodega. Eriti kui kasutate teenuseid sama ettevõtte inimestelt, kes selle saidi lõid. See oli nagu eelmisel aastal, kui Facebook saatis: kui teie intiimsed fotod on lekkinud Facebooki, saatke need meile ja me kontrollime, kus neid mainiti.

Ma ei tea, mis see PR-õudus oli ja kes Facebookis selle välja mõtles, kuid tõeliselt midagi sellist juhtus. Nad tahtsid võrrelda, kas keegi on teie alasti fotod privaatsete sõnumite kaudu edasi saatnud. Üldiselt on see suunatud häid eesmärke, kuid väga kummaline. Ma ei usaldaks seda.

Z: – Ja veel üks küsimus. Kui suured on riski leketest tavalise kasutaja jaoks? Lekete põhjustatud kahjude riskid.

AK: – Ma sain aru. Sõltub, milliseid andmeid hoida. Ma arvan, et riskid ei ole väga suured. Kõige hullem on, kui lekivad kuhugi e-kirjad ja paroolid, ja kui teil on see parool kasutusel igal pool – siis jah. Ma arvan, et kasutajatel ei ole peaaegu midagi karta. Aga kui nad, muidugi, ei hoia mingit osalist materjali Google'i kirjas. On olnud palju näiteid.

Kõige tuntum lugu on "Google'ist", kui Utah's rööviti tüdruk, keda ei suudetud leida, ja ühel kaunil hetkel saatsid röövijad tema fotosid arhiveeritult. Ja "Google" skaneerides seda manust avastas lasteporno tunnused. Kõik leiti. Nad suutsid isegi "Google'ile" kohtusse kaevata selle eest, et nad rikkusid kirjavahetuse saladust. See menetlus kestis üsna kaua. Siiski arvan, et tavakasutajal pole millegi pärast karta, kui ta ei pane näiteks oma passi avalikuks. See on kahekordne lugu – sõltub, millised on andmed ja kes on kasutaja. Võib-olla praegu pole midagi hullu, aga 15 aasta pärast, kui ta on mingisugune ametnik, siis võivad tema mõned materjalid pinnale ujuda.

Kuidas riigiga töötada?

Z: – Aitäh. Rääkisite natuke sellest, et teete uurimisi riigile, valitsusasutustele, teenustele, töötate nendega. Kas saaksite pisut lähemalt rääkida mõnest aktuaalsest projektist? Veelgi enam, kui võimalik, … Kaks küsimust: esimene – aktuaalsed projektid ja teine – kas on olnud mingeid ettepanekuid riigiteenustelt …

AK: – Ebasündsad!

Z: – Jah. Kui olite mõelnud: võib-olla ei tasu seda teha.

AK: – Ma räägin teile. Ma räägin seda kõigile. Me vaielesime selle inimesega Twitteris kaua. Milonovi meeskonnast sai mulle Twitteris küsimus õpetajate leidmise kohta, kes vaatavad gei-pornot. Me ütleme kohe, et ei. Aga selliseid kirju tuleb tihti ning see on tihti seotud opositsionääride, meeleavaldustega. Me sellise jamaga ei tegele, meid ja nii kõik mustavad. Ma ei häbene seda.

Meie riigiasjade poliitika on järgmine: arendame tarkvara, tarkvara kolmemõõtmeliseks rekonstruktsiooniks, näotuvastamiseks, andmeanalüüsiks. Mis täpselt nad teevad, on väga keeruline öelda, aga mudelite seas on see kuritegude ennustamine, mis on seotud riigi julgeolekuga linnas, inimeste liikumine, geomarketing jne. Alates linna keskkonna objektide paigutamisest kuni pedofiilide, vägistajate, sarimõrvarite ja igasuguste halbade tüüpide tuvastamiseni.

Aus aus, me oleme opositsiooniga kindlasti tegelenud. Võib-olla meile ei räägita sellest otse. Tegelikult on see väga suur probleem – koostöö "riikidega", kuna alati ei seletata, mis on ülesanne. Sulle öeldakse: tehke tarkvara koduperenaiste tuvastamiseks, aga nad plaanivad tegelikult midagi muud – seal kõik laguneb.

Lisaks on riik väga huvitav ja kummaline klient, kes pidevalt üritab natuke raha meie uuringusse sokutada, ja sageli on nende lähenemisviisid ja arusaamine masinõppest pinnapealsed. Näiteks olin mul eraldi loeng masinõppe vigadest. Toodan seal alati näite, kui me tegime kuritegevuse prognoosimise süsteemi Moskva oblastis, siis tellija ütles: seal, kus müüakse arbuusid, palun suurendage koefitsienti nelja võrra. Ja hiljem selgus, et arbuuside müügikohad pole sugugi kriminaliseeritud. see on lihtsalt viga, et inimene paneb oma mõtted sisse.

Lühidalt, riik on lahe klient, seal on väga palju huvitavaid ülesandeid. Enamik neist on seotud selliste prognoosimudelitega. Kõige sagedamini on see mingi linna infrastruktuur.

Z: – Kas on olemas allikaid, kust saaks jälgida teie uurimisi? Palju teavet. Nii palju, kui ma aru saan, on sellest veel palju kõrvale jäänud. Teie lehed, veel midagi...

AK: – Mul ei ole isiklikke lehtede.

Z: – Võib-olla on "Facebook" juba kinni pandud?

AK: – Umbes neli kuud tagasi oli üks lugu: nad saatsid meile kõikidele sellised suured kirjad, et "te olete koledad, müüte kõik Kremlile, rikute kõiki "Facebooki" reegleid." Isegi mu koer sai kirja: "Tere, Mars bluu-korgi, kas sa kogud andmeid!" ja niimoodi edasi. Kuule, meil on praegu brändi uuendamine. Paar nädalat hiljem uuendame meie veebisaidi ja kõik muutub. Seda saab jälgida. Aga me oleme lihtsalt selles osas väga laiskad.

Kuidas saab määrata VPN-i usaldusväärsust?

Z: – Kui te rääkisite, et läheksite kohvikusse, mitte identifitseerides end oma telefoninumbri all. Aga millega siis?

AK: – Ei saa rääkida – kellegi teise nimel, sest see on kutse identifikaatsioonireeglite rikkumiseks. Ei-ei-ei. Ma naljan. Praegu tuvastavad praktiliselt kõik kohvikud kõike – seal ei ole ainult telefoninumbrit, seal on hulk pikselite, seal on seadme tuvastamine, MAC-aadress ja mida iganes veel, et seda hiljem kasutada – reklaamist kuni operatiivsete uurimisüritusteni. Seetõttu tuleb selliste asjadega olla väga ettevaatlik. Te ei saa lihtsalt midagi kirjutada, vaid ka teie seadmel võib midagi kirjutada, ja siis võib juhtuda midagi.

Te võisite näha lugu sellest, et praegu käib uurimine, kuidas (tegelikult ka Valgevenes) renditakse Facebooki kontosid kasiinoreklaamide jaoks. Kuid tegelikult ei ole teada, mille jaoks, ning juurdepääsu antakse ka arvutile. Selliste asjadega tuleks võimalikult palju ettevaatlik olla. Kui otsustate sealt midagi anonüümselt kirjutada… Ma tuleksin kohvikusse ja aktiveeriksin mingi ägeda VPN. Aga tegelikult (taas, ei osuta kellelegi sõrmega), kui te kasutate VPN-i, siis kontrollige, kellele see VPN kuulub, millisele firmale, kellele see firma kuulub jne. Sest enamus VPN-turu mängijaid pole just kõige toredamad tüübid.
Nojah, Valgevenes pole see oluline. Venemaal kontrollitakse head VPN-i selle järgi, kas azino777 on seal blokeeritud või mitte. Sest kui ei ole, on tõenäoliselt suur tõenäosus, et see VPN-teenus suletakse nädala jooksul. Kokkuvõttes, kontrollige kõike.

Sõnumite automaatne kustutamine

Z: – Te rääkisite nii palju otsestest sõnumitest, et sotsiaalmeedia loeb neid… Aga näiteks Facebookil on salajased otsesed sõnumid, mille saab määrata (kui arvestada, et need on ka krüpteeritud) hävitamiseks. Kuidas te seda kommenteerite?

AK: – Ei kuidagi. Esiteks, ma ei ole krüptograafia superprofessionaal, ja teiseks, probleem on selles, et Facebooki servereid pole keegi näinud, keegi ei tea, kuidas see kõik töötab. Ütleme nii, et mingis spetsifikatsioonis on kirjas, et see on otsast otsani krüpteeritud, aga see võib olla mitte nii, või see on otsast otsani, kuid mingi vea või millegi muu tõttu. Sellisest asjast on mõtet kasutada, kui teil on hirm, et isik, kellele te selle saatsite, võib mingil hetkel midagi teha.

Telegramis on mugav funktsioon intiimsete fotode saatmiseks, mis ise ära kustuvad: kui proovid teha ekraanipilti, kustutatakse see automaatselt. Iphones on aga ekraanivideo salvestamise funktsioon ja videote salvestamine ekraanilt ja nii edasi... Mulle saadetakse väga sageli materjale selle funktsiooniga (automaatselt kustutamine) – ma ei suuda kunagi aru saada, miks. Ma ju saan kohe alla laadida! See kõik jääb teie otsustada.

Sotsiaalne hinnang Hiinas: müüdid, reaalsus, perspektiivid

K: – Ma tõesti natuke kuritarvitan, kuigi VPN-i mul pole vaja (ühtlasi, meie VPN on usaldusväärne). Küsimus eetika kohta. Meil on suurepärane sõber Kasahstanist, kelle me tõime loengule. Kord istusime koos mingil konverentsil, kus räägiti erinevatest asjadest, ja ta ütleb (ta tegeleb küberturvalisusega, ehk siis puhta inseneritööstusega, inimene, kellele huvi pakuvad tehnilised lahendused): "Nii, just tulin Hiinast. Seal teevad nad nii ägedat asja – sotsiaalne hinnang." Kas sa muide oled midagi selle kohta uurinud, kuidas neil see töötab?

AK: – Me müüme Venemaal skoorimist, ma tean sellest palju.

K: – Mul on ka küsimus, et räägid sa sellest rohkem – sellest, mida võib-olla kõik meid tulevikus ootab. Aga veel küsimus eetika kohta. Ta rääkis nii rõõmsalt: "Huvitav insenerilahendus!" Kas sul on oma eetika koodeks?

AK: – Jah, muide, ongi. Kaks aastat tagasi me selle kehtestasime – just pärast lugu Milonoviga otsustasime kuidagi neid projekte kergelt järjestada. Tagasi tulles hinnangusse: see on üks superpopulaarne teema, sest meedia demoniseerib kogu seda lugu – et inimesi ei lasta riigist välja, tapetakse laseriga Kuult. Ma tuuakse teile, jälle, inseneriasjad...

Kui hakkate seda lugu uurima ja vaatate, millised parameetrid on selles sotsiaalses reitingus, mõistate: seal on suletud elatisrahad, kriminaalsüük, krediidiajalugu, mis tähendab, et tehniliselt on see asi tõeliselt muljetavaldav. Elate seaduslikult ja hästi – teile antakse madalam intressimäär laenule. Kui teil on oluline sotsiaalne töö (näiteks õpetaja) – teile pakutakse sobivat eluaset. Kõik olid alguses sellest segaduses, sest lekkis teavet, et kui kirjutate presidendi kohta halvasti, siis see reiting langeb. Kuigi mingeid tõendeid ei olnud. Reitingu kaitseks ütlen, et reitingu vastu ütleksin, et keegi ei ole näinud ka algoritmi, millised parameetrid seal tegelikult kasutusel on.

Siis tuli välja, et rohkem kui miljon inimest ei pääsenud riigist välja, väljamineku keelamine. Tegelikult ei ole see päris täpne sõnastus. Kui saate viisa (näiteks Euroopasse), siis antakse viisa kalkulatsiooni alusel "70 eurot päevas" (midagi sellist); kui te ei esita tuludeklaratsiooni, siis teile viisa ei anta. Hiinas otsustas kohaliku välisministeeriumi, et lähevad natuke kaugemale: nad teatasid kohe inimestele, kellel ei ole piisavalt raha, et kui te tahate välismaale reisida, siis ei saa teil rahast piisama. Seega suunati see kõik hiljem mõiste suunas, et vaeseid ei lasta riigist välja. See on keeruline eetiline küsimus, see piirneb teatud süütuse ja süü presumtsiooniga, aga ma ei oska sellele hinde anda.

Inimesi tapavad inimesed, mitte relvad.

Peamine, mida tuleb mõista: kõik need algoritmid, mida ühiskond mõistab hukka – probleem ei ole algoritmides. Algoritmid lihtsalt võimaldasid väga kiiresti analüüsida suurt "hulka" inimesi, ja tõstsid selle sotsiaalse probleemi esile. See tähendab, et Microsofti bot, mis õppis tweetidest ja muutus rassistlikuks – see ei ole bot süüdi, vaid tweets, mida ta luges. Või ettevõte, kes otsustab luua ideaalsete töötajate mudeli, analüüsides praeguseid, ja selgub, et see on valge, meessoost, kõrgema haridusega.

See, it's not the model that's racist, sexist, or anything like that; it's the people who hired those folks (whether they were right or wrong is irrelevant). It's just bordering on the idea that artificial intelligence is evil, bad, and will destroy the world, but in reality... For example, if the Russian government were to pass a law that denies free education to opposition figures, and they wrote software that identifies and deprives them of that education – the algorithm wouldn't be to blame. Although nobody supports this concept of mine because when I say that it's not the weapon that kills people, it's people themselves, I get called a fascist and so on.

So, in general, this is actually a really cool engineering solution. You have to understand why this won't be the case in Russia, for example. In [Belarus], this won't be the case because you are a European state, and everything is good for you. In Russia, this won't happen for many reasons: first, we don't have the same level of trust in the law enforcement system as in China; our level of digitalization is far from that. Why did it work in China? Because their government: they have digital healthcare, digital insurance, digital police. And someone smart thought: let's put all this together and create a loyalty program. There are more perks than there are drawbacks.
Therefore, yes – I believe this won't be implemented in Russia. First, we need to digitize the entire Ministry of Health (and that's a 50-year task) – someone needs to dedicate their life to do this, but naturally, no one will. On the other hand, Russian banks are world leaders in scoring people; they do everything possible: "Oh, you’re a guy? You like young women? Here’s a credit card for your mistress." It's very advanced. For example, in America, such scoring is practically banned everywhere because there are laws that require banks to explain why: "Aha! Because the company Social Data Hub has stored your history for 10 years, and here’s what they’ve found about you!" And then you can sue both sides! But we don't have similar stories.

Why is the statistics being hushed up?

Ma toetan põhimõtteliselt skoorimist, kui see ei ole mingi "totalitaarne" lugu. Aga küsimus on selles, et seda on võimatu ette näha, hinnata. See on suurim väljakutse suurte andmete eetikas – prognoosida sotsiaalset mõju, mis seal 15 aasta pärast toimub. Näiteks olen ma väga kaua palunud prokuratuuril avaldada kuritegevuse kohta teavet. Kriminaalstatistika andmed on üks igasuguste statistika aluskivi; kõik tahavad seda väga. Kuid näiteks Venemaal ei avata kriminaalstatistikat väga lihtsal põhjusel: kartus demograafiat linnades rikkuda. Arvatakse, et inimesed lõpetavad elamise mingites linnades, isegi linnas iseenesest ühtlaselt kõik liigub ümber. Sama põhjus on, miks ei avaldata ÜKÜ statistikat – saate aru, millistesse koolidesse inimesed lähevad, millistesse nad ei lähe.

Võib-olla on see õige, võib-olla mitte, aga projekte oli palju… Näiteks, "Yandex" otsustas mingil ajal (taas, "kollaste" kõnede järgi, ei ole näinud, ei tea) lisada kinnisvara prognoosimise mudelisse taksojuhtide rünnakute arvu, nagu mingi lähenemine kuritegevuse tasemele, arvutades taksojuhtide kaebuste arvu selle kohta, et keegi on neid ahistanud, ähvardanud jne. Ettevõttes lõpetati see kiiresti, et selliseid asju mitte teha.

Z: – Te suhtlete tudengitega, suhtlete oma riigi publikuga, meil oma riigis. Kas olete märganud, et küsimuste arvu järgi saalist, oleme me veel kasvamisfaasis, kus usume, et meil on privaatsus vajalik, et saame varjata kellegagi oma andmeid kaitsta, neid mitte andes, varjates, krüpteerides. Kui Euroopa Liit on juba järgmisse faasi läinud, privaatsuse faasi, mis eeldab kontrolli andmete üle – sundida kõiki, kes teie andmeid koguvad, andma teile tõhusat kontrolli nende üle… Regioonide ja sotsiaalsete kihtide valimite põhjal – milline kodanike kategooria on juba teise etappi üle läinud või kes veel peamiselt esimeses etapis istub?

Kes on kõige rohkem mures isikuandmete turvalisuse pärast?

AK: Suurem osa… Ütleksin, et kõigile on ükskõik! See puudutab praegu ainult tipptasemel juhte. Venemaal on selle keskpunktiks Moskva ja Peterburi. Aktiivne keskus on IT-erialade spetsialistid, disainerid, loomingulised ametid – kõik, kes oskavad sisu filtreerida, omandada uusi teadmisi, ning kelle huvi rahvusvaheliste probleemide vastu on kõrge. Peamiselt on need tipptasemel juhid; jah, IT-eralade spetsialistid (välja arvatud turva spetsialistid); pangandustöötajad – ehk kõik need inimesed, kellele andmeleak võib mingil moel mõjuda.

Kui näiteks varastatakse andmed mingisuguste Kaluga koduperenaise kohta: tõenäoliselt ei muutu tal elus midagi tõsiselt, kui keegi varastab näiteks tema gmaili ligipääsu, kus ta hoiab oma sarju. Küsimus on selles, et seadus kaitseb kõiki võrdselt ja see on õige, sest… seaduse silmis on kõik võrdsed – ha-ha… aga kõige tähtsam on see, et on võimatu mõista, kui palju kellegi andmed maksavad seni, kuni need andmed ei kao – kahjuks on väga raske seda ennustada. Aga peamiselt on see selliste kodanike kategooria.

Telefon – fooliumisse!

Ma olen elus ainult korra näinud, et kõik on kõikjal salvestatud kahes firmas. Üks neist on suurim infotehnoloogia ja julgeoleku integratsiooniettevõte: seal on kõik, alates USB-st, liimiga kinni kleebitud kontoris; ja inimesed seal on samasugused – kohtasin seal inimest, kelle telefon oli fooliumikoti sees. Ma sain teada, et on ettevõtteid, kes kauplevad selliste spetsiaalsete kottidega. Teist korda nägin sarnast situatsiooni „Bloombergis” töötajate seas: me seisisime suitsuruumis, ja keegi poseeris kusagil, ning üks neist ütles: „Olgu, et meid seal taustal ei oleks!” Ma mõtlesin: „Oi, pole paha!”

„Paremini meie, kui FSB”

Ma ei tahaks öelda, et see on vähem kui üks protsent elanikkonnast, aga kahjuks on üldiselt enamikul kõigest ükskõik. Aga teisest küljest, mul on skandaalne teenus alaealiste tegevuse jälgimiseks (oleme seda juba pikka aega reklaaminud loosungiga „Paremini meie, kui FSB”), et hoiatada vanemat selle eest, et alaealine teeb jama, enne kui meie algoritm, mis on kuskil seal paigaldatud, teda kellelegi suunab.

Lapse kontrollimisel tuleb esitada passikoopia (see on tegelikult normaalne praktika), kuid me märkisime, et saate passinumbri kärpida, sest see meid ei huvita; meid huvitavad ainult teie foto, hologramm ja nimi. Ja praktiliselt 100% inimestest – noh, kusagil 95 passist 100 – lõikasid inimesed "Photoshopis" need numbrid hoolikalt välja ja saatsid ainult vajaliku osa. See tähendab, et nad mõistsid – ah, kuna neile ei ole seda vaja, siis pole seda ka saata. Minu arvates on see tõeline edusamm, mille nad teemeis usaldamatuse tõttu meie vastu.

Z: – Proovide valik on teatud määral. Siin on inimesed, kes pöörduvad, nad on juba edasijõudnud.

Inimesed ei soovi, et neid jälgitaks, kuid ei loe lepinguid.

AK: – Jah. Ja teine selline asi: me käivitasime eelmise aasta lõpus tutvumise rakenduse (varsti käivitame selle taas). Seal oli kontrollgrupp 100 tuhat inimest. Ja seal oli isiklikus kontoris 15 valikut GDPR-i lähenemisviisi järgi – ma annan loa liidesega suhtlemise analüüsimiseks, oma demograafiliste andmete ligipääsuks, kolmemõõtmelise näo rekonstrueerimise ligipääsuks, oma isiklike teadete ligipääsuks jne. Me kirjeldasime võimalikult palju ligipääse. Isegi kuskil on statistika, kes millele minu kirjakastis klikkis. 98% jätsid vaikimisi kõik valikud aktiveerituks (kuigi nad külastasid seda lehte ja nägid seda kõike, kuid neid ei huvitanud), aga see 2% oli huvitav analüüsida, et mis oli nende jaoks prioriteetne.

Kõik eemaldasid loa juurdepääsuks isiklikele teadetele ja praktiliselt kõik eemaldasid loa juurdepääsuks seksuaalse testi andmetele (mis neile seal meeldib, mida nad seal täitsid, oma erootika – naljanumber). Kuid see sundis inimesi, tõukas neid: liides ütleb – loe seda tähelepanelikult, annab võimaluse lepingut lõpuni kerida. Kuid see tehti ainult seetõttu, et see oli teadusprojekt ja kõik olid hoiatatud. Ükski ettevõte, sealhulgas meie, kui see rakendus avalikku juurdepääsu vabastatakse, ei pane inimest lugema seda teadet lõpuni, sest... noh, vabandage, nii see kõik toimib.

Arvestades, et nad tulid meie juurde, teades, millega ettevõte tegeleb, teades, et nad tulid teenusesse, mis pakub kandidaate vastavalt sellele, millist pornot sulle meeldib - isegi selle põhjal luges 2% neist neid märkmeid ja tegi üldse midagi. Ja praktiliselt keegi ei valinud isegi märget "Ligipääs külastamise ja teiste veebilehtede andmetele". Enamiku jaoks olid kõige olulisemad isiklikud sõnumid.

Alasti ja kinnipidamine laikide eest - huvitavad seadused venna riikides.

Z: – Mul on küsimus andmekaitse kohta. Võib telefoniga kulda mähkida, teeselda, et seda pole… Siis selgub, et sa justkui hoiad, hoiad, aga pärast pead oma andmed riigile andma, sest nad nõuavad seda sinust, ja sa ei saa kuidagi… Ja siin ilmneb, et riigihanked on kõik läbi imbunud. Ja Valgevenes kehtib veel selline norm: kui ma kontrollin oma isiklike andmete turvalisust (mõned asjad kohendan ja saan neile juurdepääsu), siis olen kohe kriminaal. Sama paragrahvi kasutati, et ajakirjanikke "BelTa asjas" süüdistada andmete volitamata juurdepääsu saamisest (võid ise lugeda). Noh, ja siis küsimus: kas sellised piirangud on tõhus meede privaatsuse jaoks, üleüldiselt isiklike andmete kaitseks?

AK: – Ma sain aru. Valgevenes on palju väga huvitavaid seadusi. Ma just hiljuti sain teada… Ma naljatlesin alastuse ülekande üle, ja teil on see ilmselt keelatud.

Z: – Näitamine on keelatud!

AK: – See on üldiselt kuidagi kummaline.

Z: – Vaadata võib, edastada ei tohi, laikida ei tohi. Koos vaatamine ei ole lubatud!

AK: – Ma vastan teie küsimusele. Tulen tagasi teemasse "istu laikide eest" Moskvast. Venemaal on see number üks teema. Ma ei tea, kuidas Valgevenes, aga ausalt öeldes, riik… Kui statistikat analüüsida, siis Moskvas on 95 kinnipidamist laikide eest 100-st - see juhtub siis, kui inimesed kaebavad teiste inimeste peale, keegi kirjutab prokuratuurile kellelegi. Riik väga harva algatab sarnaseid juhtumeid. Minu arvates on see seadus täiesti absurde. Ma ei tea ühtegi reaalset kurjategijat, keda selle pärast kinni peeti. Aga seda meetodit kasutatakse, et vähemalt midagi inimesele kaela visata. Minu arvates on see maksimaalselt kummaline. Ma arvan, et kunagi see tühistatakse.

Z: – Seda nimetatakse kappe alla hoidmiseks.

AK: – Noh, okei… Ma ei saa öelda. Ma ei ole täpselt riiklik koletis, kuid minu arusaam on veidi muutunud, teate, inimeste tõttu, kes tulevad meie juurde ja ütlevad: “Minu laps on kadunud, palun aidake leida.” Ma ütlen: “Ma ei saa midagi teha ilma kohtu loata.” Sa vaatad neid vanemaid, kes annaksid kõik oma elus, annaksid ligipääsu igasugustele andmetele – ainult et nende probleem lahendataks. Seetõttu on mul väga raske sellist arutelu pidada: ühel pool arvan, et riik teeb õigeid asju, kui ta püüab reaalseid inimesi, teiselt poolt on piiramatu ligipääsu andmine täiesti õudne lugu.

Tulge tagasi teie teema juurde, “vabandust”, et segasin. Ma ei usu üldse folgiekottidesse. Omada mobiiltelefoni ja keerduda see folgi sisse – see on mingi rumalus. Milleks seda teha? Selleks, et telefon ei ühenduks “wi-fi” võrguga? Lihtsam oleks see välja lülitada. Et mobiilside operaator sind ei tuvastaks? Nad võivad ikka signaali trilateerida, kuidagi seda arvestada. Minu jaoks on ainsad tõhusad turvameetmed turvaline salvestus, nagu kohalik võrk – võib-olla korteris, kus saab midagi hoida.

Z: – Siin on küsimus seadusandlusest. Kas seadusandlus on repressiivne inimese suhtes, kes soovib oma andmeid kontrollida?

AK: – Olen aru saanud, jah. Ma ei teadnud sellest asjast, seega ei saa ma teile täpselt öelda. Venemaal seda pole, kuigi seal on kõik väga keeruline. Võib-olla on mõistlik konsulteerida kvalifitseeritud juristidega ja võib-olla on mingi õiguslik taganemistee – võib-olla saab pöörduda mõne Euroopa kohtu poole... Ei? Ma ei saa teile sellest rääkida. Minu teadmised õiguses on pinnapealsed, ettevõtte juhi tasemel. Ma tean, mida ei tohi teha, et keegi sulle midagi ei ütleks. See on muidugi väga kurb.

Z: – Ma tahan öelda, et teistes riikides (näiteks Ameerikas) on normaalne praktika, et sa võid testida mingit haavatavust ja seejärel sellest teatada, kuid mitte avalikustada.

AK: – Jah, “bug bounty”. Olen aru saanud, selline asi on olemas.

Z: – Ja ettevõtetel ei ole mehhanismi, et sind eemaldada, kuna see oleks odavam.

AK: – See, this thing also teeters on the edge of legality. It depends on how you find this vulnerability. I suspect that a large amount of money paid for this vulnerability in America was done under a non-disclosure agreement and with threats to sue the person. I'm not holding a candle here either. We always risk this kind of situation. My employees have found similar vulnerabilities in various government applications a couple of times – I always tell them: "Send an anonymous letter instead of telling them there’s a flaw there." And then some research institute that provided this service will come... I'll stop here.

You can't check a business for honesty: if you don't like it, don't use it.

Z: – I have a question. You said you conducted an experiment – you had to check 15 boxes... Let's say, the user unchecks all the boxes. Who and how will control this? How can it be checked at all?

AK: – Honestly, I’ll tell you: no one and no way. Seriously. The fact that you checked-unchecked the "Disable ad tracking" box with Google means absolutely nothing. Unfortunately, even when you set the restriction on search engine indexing in VKontakte, search engines still index it and just don’t show these results to certain people. This is all due to the absence of competent authorities that can verify this. Plus, the companies that do this are private. Facebook has its own position, correct or not: if you don’t like it, don’t use it.

On regulation

Z: – I only have one simple question. What is your stance on the regulation of data processing and self-regulation?

AK: – As a representative of the company, I believe that the market and business need self-regulation. I believe that a big data association can regulate itself without the government. I have very little trust in government regulation and I am very skeptical about all stories where the government wants to keep something, because every case has shown that it turns out very poorly. Someone will inevitably stick a username and password on a yellow sticky note on the monitor, and so on.

Kokkuvõttes usun eneseregulatsiooni. Lisaks usun, et järgmise 5 aasta jooksul jõuame teatava avatuseni. Juba praegu näete, et valitsusel on väga keeruline kasutajatele valetada, ja kasutajatel on süsteemile raske valetada. Ja see on põhimõtteliselt ilmselt hästi. Kuna meie luureteenistuste töötajad suudavad avalike piltide pealt inimesi tuvastada.
See kõik viib ilmselt kuritegevuse taseme langusele. No, puhtalt matemaatiliselt. Kui kedagi huvitab kuritegevuse taseme languse arutamine – seal on palju erinevaid järeldusi, mida saab teha. Kokkuvõttes olen ma turu eneseregulatsiooni poolt. Aitäh!

Veidi reklaami 🙂

Aitäh, et olete meiega. Kas teile meeldivad meie artiklid? Kas soovite näha rohkem huvitavat sisu? Toetage meid, tellides teenuse või soovitades meid tuttavatele. Pilve VPS arendajatele alates $4.99, ainulaadne entry-level serverite analoog, mille oleme teie jaoks välja mõelnud: Kogu tõde VPS (KVM) E5-2697 v3 (6 Cores) 10GB DDR4 480GB SSD 1Gbps alates $19 või kuidas jagada serverit õigesti? (saadaval RAID1 ja RAID10 variandid, kuni 24 tuuma ja kuni 40GB DDR4).

Dell R730xd on Equinixi Tier IV andmekeskuses Amsterdamis kaks korda odavam? Ainult meie juures 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TB alates $199 Hollandis! Dell R420 — 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB — alates $99! Lugege sellest Kuidas luua ettevõtte tasemel infrastruktuuri, kasutades Dell R730xd E5-2650 v4 servereid, mille hind on 9000 eurot, taskukohase hinna eest?

Allikas: habr.com