Asmens duomenų apsaugos diena, Minskas, 2019 m. Organizatorius: žmogaus teisių organizacija „Human Constanta“.
Pranešėjas (toliau – B): – Arthuras Khachuyanas užsiima... Ar mūsų konferencijos kontekste galime pasakyti „tamsiojoje pusėje“?
Artūras Khachuyanas (toliau – AH): – Iš įmonės pusės – taip.
In: – Jis renka jūsų duomenis, parduoda korporacijoms.
OI: - Ne visai…
In: – Ir jis jums pasakys, kaip korporacijos gali naudoti jūsų duomenis, kas atsitiks su duomenimis, kai jie prisijungia. Tikriausiai jis nepasakys, ką su tuo daryti. Galvosime toliau...
OI: - Aš tau pasakysiu, aš tau pasakysiu. Tiesą sakant, ilgai nepasakosiu, bet ankstesniame renginyje buvau supažindintas su žmogumi, kurio „Facebook“ net užblokavo jo šuns paskyrą.
Sveiki visi! Mano vardas Artūras. Iš tikrųjų aš apdoroju ir renkau duomenis. Žinoma, aš niekam neparduodu jokių asmeninių duomenų viešai. Juokauju. Mano veiklos sritis – žinių gavimas iš atvirojo kodo duomenų. Kai kažkas teisiškai nėra asmens duomenys, bet iš jų galima išgauti žinias ir padaryti jas tokia pat verte, kaip kad šie duomenys būtų gauti iš asmens duomenų. Nieko tikrai baisaus nepasakysiu. Tiesa, čia kalbama apie Rusiją, bet turiu skaičių ir apie Baltarusiją.
Koks yra tikrasis mastas?
Dar užvakar buvau Maskvoje vienoje iš lyderiaujančių, valdančiųjų partijų (nesakysiu kurioje), ir aptarėme kažkokio projekto įgyvendinimą. O tai reiškia, kad atsistoja šios partijos IT direktorius ir sako: „Jūs sakėte, skaičiai ir taip toliau, žinote, FSB 2-oji direktoratas man čia paruošė raštelį, kuriame sakoma, kad socialiniuose tinkluose yra 24 mln. . O tu sakai – 120-kažkas. Tiesą sakant, daugiau nei trisdešimt [milijonų] iš mūsų nesinaudoja internetu. Aš sakau taip? GERAI".
Žmonės tikrai nesuvokia masto. Tai nebūtinai vyriausybinės agentūros, kurios tikriausiai iki galo nesupranta, kaip veikia internetas, bet iš tikrųjų, pavyzdžiui, mano mama. Ji tik dabar pradėjo suprasti, kad jai kortelę Perekrestoke duoda ne be priežasties, o ne dėl apgailėtinų nuolaidų, kurias siūlo Perekrestok, o dėl to, kad vėliau jos duomenys naudojami OFD, pirkiniuose, prognozių modeliuose ir pan.
Apskritai yra tiek daug gyventojų, o informacijos apie tiek daug yra atviruose šaltiniuose. Apie vienus žmones žinoma tik pavardė, apie kitus – viskas, iki pat pornografijos, kuri jiems patinka (aš visada juokauju, bet tai tiesa); ir visokia informacija: kaip dažnai žmonės keliauja, su kuo susitinka, kokius pirkinius perka, su kuo gyvena, kaip juda – daug visokios informacijos, kuria gali pasinaudoti blogi, ne tokie blogi ir geri vaikinai Net nežinau, kokį mastą dabar sugalvoti, bet vis dėlto).
Egzistuoja socialiniai tinklai, kurie, be abejo, yra milžiniškas atvirų duomenų rinkinys, žaidžiantis silpnybėmis žmonių, kurie, atrodo, rėkia dėl privatumo. Bet iš tikrųjų yra taip: jei įsivaizduoji grafiką per pastaruosius 5 metus, tai isterijos lygis dėl asmens duomenų auga, bet tuo pačiu uždarytų paskyrų skaičius socialiniuose tinkluose kasmet mažėja. Iš to daryti išvadas gal ir nėra visiškai teisinga, bet: pirmas dalykas, kuris sustabdo bet kokią duomenis renkančią įmonę, yra kvailai uždaryta paskyra socialiniuose tinkluose, nes žmogaus nuomonė jo uždaroje paskyroje, jei jis neturi 100 tūkstantis prenumeratorių, tai tikrai nėra labai įdomu jokiai analizei; bet pasitaiko ir tokių atvejų.
Iš kur jie gauna informacijos apie mus?
Ar kada nors į jūsų duris pasibelsdavo senieji mokyklos draugai, su kuriais ilgai nesikalbėjote, o paskui ta paskyra dingo? Tarp blogiukų, kurie renka telefonus, taip yra: jie analizuoja draugus (o draugų sąrašas beveik visada atidaromas, net jei žmogus uždaro savo anketą arba draugų sąrašą galima atkurti „priešinga kryptimi“ surinkus visus kiti vartotojai), jie paima neaktyvų jūsų draugą, padaro jo puslapio kopiją, pasibeldžia į jūsų draugo duris, jūs jį įtraukite ir po dviejų sekundžių paskyra ištrinta; bet jūsų puslapio kopija išlieka. Tiesą sakant, tai vaikinai darė neseniai, kai iš Facebook kažkur nuskrido 68 milijonai anketų – visus lygiai taip pat įtraukė į draugus, nukopijavo šią informaciją, net rašė kažkam privačiomis žinutėmis, kažką darė...
Socialiniai tinklai yra didžiulis informacijos šaltinis, beveik 80% atvejų informacija apie konkretų asmenį paimama ne tiesiogiai, o iš artimiausios aplinkos - tai visokios netiesioginės žinios, ženklai (vadiname tai „Pikta buvusi mergina “ algoritmą), nes vienas iš mano draugų davė man šią be galo puikią idėją. Ji niekada nesekė savo vaikinu – visada sekė penkis jo draugus ir visada žinojo, kur jis yra. Tai iš tikrųjų yra priežastis parašyti visą mokslinį straipsnį.
Yra daugybė robotų, kurie taip pat daro visokius gerus ir blogus dalykus. Yra nekenksmingų, kurie kvailai užsiprenumeruoja jus, kad paskui galėtų jums reklamuoti kosmetiką; ir yra rimtų tinklų, kurie bando primesti savo nuomonę, ypač prieš rinkimus. Nežinau, kaip yra Baltarusijoje, bet Maskvoje prieš savivaldos rinkimus kažkodėl turėjau daugybę keistų draugų, kurių kiekvienas agitavo už skirtingą kandidatą, tai yra, jie visiškai neanalizuoja turinio, Vartoju – tiesiog bando primesti kažkokią nesuprantamą reformą, atsižvelgiant į tai, kad aš visai nesu registruotas Maskvoje ir neisiu balsuoti.
Šiukšlių sąvartynas yra pavojingos informacijos šaltinis
Be to, yra Thoras, kuris nėra taip nuvertintas – visi mano, kad ten reikia eiti tik nusipirkti narkotikų ar sužinoti, kaip surenkami ginklai. Tačiau iš tikrųjų yra daugybė duomenų šaltinių. Beveik visi jie yra nelegalūs (pvz., nelegalūs), nes kažkas galėjo įsilaužti į oro vežėjų duomenų bazę kokioje nors įsilaužėlių svetainėje ir į ją įmesti. Teisiškai negalite naudoti šių duomenų, tačiau jei iš jų gaunate tam tikrų žinių (pvz., Amerikos teisme), negalite naudoti garso pokalbio įrašo, padaryto be orderio, bet žinias, kurias gavote iš šio garso įrašo. įrašydami, nepamiršite – ir čia maždaug tas pats.
Tai iš tikrųjų labai pavojingas dalykas, todėl aš visada juokauju, bet tai tiesa. Maisto visada uzsisakau is gretimo namo, nes Delivery Club genda labai daznai ir tikrai turi tokias problemas. O neseniai labai nustebau: užsisakiau bakalėjos, o ant dėžutės, kurią nešiau į šiukšliadėžę, buvo lipdukas su užrašu „Arthur Khachuyan“, telefono numeris, buto adresas, domofono kodas ir el. Netgi iš tikrųjų bandėme tartis su Maskvos savivaldybe, kad mums būtų suteikta prieiga prie sąvartyno: apskritai ateikite į atliekų sandėlį ir pamėginkite, vien dėl įdomumo, pabandyti rasti asmeninių duomenų paminėjimą – padaryti ką nors panašaus. mini tyrimas. Bet jie mus atmetė, kai sužinojo, kad norime atvykti su „Roskomnadzor“ darbuotojais.
Bet tai iš tikrųjų yra tiesa. Ar žiūrėjote nuostabų filmą „Hakeriai“? Jie kibo į šiukšlių dėžę, kad surastų kokią nors viruso dalį. Tai irgi populiarus dalykas – kai žmonės ką nors meta į atvirus šaltinius, tai pamiršta. Tai gali būti kokios nors mokyklos interneto svetainė, kurioje jie parašė disertaciją apie baltųjų viršenybę, o paskui nuėjo į Valstybės Dūmą ir pamiršo. Tokių atvejų iš tikrųjų buvo.
Ką mėgsta Jungtinės Rusijos nariai?
Jei eitumėte į viršutinę LifeNews svetainės skiltį... Prieš dvejus metus studentai man atliko tyrimą: paėmė visus „Vieningosios Rusijos“ pirminius dalyvius (visi jie oficialiai pateikė savo socialinių tinklų paskyras Visos Rusijos Centrui Vykdomasis komitetas), pažiūrėjo, kas jiems apskritai patiko – vaikiška pornografija, šiukšlės, nesuprantamos keistų suaugusių moterų reklamos... Apskritai, atrodo, kad žmonės tai pamiršo.
Tada jie parašė laišką, kad buvo pavogtos dvidešimties žmonių sąskaitos. Bet jų sąskaitos buvo pavogtos prieš dvi savaites, prieš 8 mėnesius jas pateikė rinkimų komisijai, o like’ai buvo prieš dvejus metus... Apskritai, supranti, ar ne? Ten yra tikrai didžiulis kiekis informacijos, kurią visada galima panaudoti net tyrimų tikslais.
Minioftopchik: vakar pamačiau naujieną, kad „Roskomnadzor“ prieš dvejus metus užblokavo HSE studentų tyrimus. Gal kas nors matė šią naujieną, ar ne? Tai buvo mano studentai, kurie atliko tyrimą: jie iš „Tor“, iš „Hydra“ svetainės, kur parduodami vaistai (atsiprašau, iš „Rampa“), rinko informaciją apie tai, kiek tai kainuoja, kokiame Rusijos regione, ir atliko tyrimą. Jis vadinosi „Partijos žmonių vartotojų krepšelis“. Tai, žinoma, juokingas dalykas, tačiau duomenų analizės požiūriu duomenų rinkinys iš tikrųjų yra įdomus - tada dar dvejus metus ėjau į visokius „hakatonus“. Tai tikras dalykas – ten yra daug įdomių dalykų.
Kaip „Get Contact“ „nupirko smalsių vartotojų sielas“ ir kodėl reikia perskaityti vartotojo sutartį
Dažniausiai, kai paklausi žmogaus, kokio duomenų nutekėjimo bijai (ypač jei žmogus turi uždengtą internetinę kamerą), jis visada išdėsto prioritetų struktūrą taip: įsilaužėliai, valstybė, korporacijos.
Tai, žinoma, pokštas. Bet iš tikrųjų aktyvūs duomenų analitikai, visokie duomenų tyrinėtojai pavogė daug daugiau nei, man atrodo, baisūs rusų, amerikiečių ar bet kokie kiti programišiai (pakeiskite bet kokius, priklausomai nuo jūsų politinių įsitikinimų). Apskritai visi dažniausiai to bijo – ar tikrai jūs visi turite savo internetinę kamerą? Jums net nereikia pakelti rankų.
Bet jei įsilaužėliai daro ką nors nelegalaus, o valstybei reikia teismo leidimo duomenims gauti, tai naujausiems vaikinams [korporacijoms] visiškai nieko nereikia, nes jie turi tokį dalyką kaip vartotojo sutartis, kurios niekas niekada neskaito. Ir labai tikiuosi, kad tokie įvykiai dar privers perskaityti sutartis. Nežinau, kaip yra Baltarusijoje, bet Maskvoje tų metų viduryje kilo aplikacijos „GetContact“ banga (turbūt žinojote), kai iš niekur atsirado aplikacija, kurioje buvo parašyta: duok prašymą. prieigą prie visų savo kontaktų, ir mes parodysime, kaip buvote juokinga.
Žiniasklaidoje tai nepasirodė, bet daug aukšto rango darbuotojų man skundėsi, kad visi pradėjo jiems nuolat skambinti. Matyt, administratoriai nusprendė šioje duomenų bazėje surasti Šoigu telefono numerį, dar kažkieno... Voločkovą... Nekenksmingas dalykas. Bet tie, kurie skaitė GetContact licencijos sutartį – joje parašyta: neribotas brukalas neribotą laiką, nekontroliuojamas Jūsų duomenų pardavimas tretiesiems asmenims, be teisių apribojimų, senaties terminai ir apskritai viskas, kas tik įmanoma. Ir tai iš tikrųjų nėra tokia labai reta istorija. Pavyzdžiui, „Facebook“, kai buvau ten, 15 kartų per dieną rodydavo pranešimus: „Sinchronizuokite savo kontaktus ir aš surasiu visus jūsų draugus!“
Korporacijoms tai nerūpi. Federalinis įstatymas 152 ir GDPR
Bet iš tikrųjų prioritetai yra priešinga kryptimi, nes korporacijas gina privatinė teisė ir todėl beveik visais atvejais neįmanoma įrodyti, kad jos klysta. Ir atsižvelgiant į tai, kad jis didelis, baisus ir labai brangus, tai beveik neįmanoma. Ir jei jūs taip pat esate Rusijoje, pasenę teisės aktai, tai kažkaip viskas yra liūdna.
Ar žinote, kuo Rusijos įstatymai (o tai praktiškai baltarusiška) skiriasi nuo, pavyzdžiui, GDPR? Rusijos federalinis įstatymas 152 saugo duomenis (tai sovietinės praeities reliktas) – dokumentas, kuris apsaugo duomenis nuo kažkur nutekėjimo. O GDPR gina vartotojų teises – teisę, kad iš jų bus atimtos kokios nors laisvės, privilegijos ar dar kažkas, nes jų duomenys kažkur nutekės (tokią sąvoką jie įvedė į „duomenis“). Tačiau pas mus viskas, ką jie gali apmokestinti, yra bauda už tai, kad neturite sertifikuotos „Open“ Excel asmens duomenų apdorojimui. Tikiuosi, kad kada nors tai pasikeis, bet nemanau, kad artimiausiu metu.
Kokios yra tikrosios taikymo parinktys šiandien?
Pirmoji, tikriausiai bauginanti istorija, apie kurią visi nuolat galvojo, buvo asmeninių žinučių skaitymas. Tikrai tarp jūsų yra žmogus, kuris kada nors yra ką nors pasakęs garsiai ir tada sulaukęs tikslinės reklamos. Taip, ar buvo tokių? Pakelk rankas.
Aš iš tikrųjų netikiu istorija, kad sąlyginis „Yandex Navigator“ atpažįsta tiesioginį garsą sraute visiems vartotojams, nes tie, kurie turėjo šiek tiek balso atpažinimo patirties, supranta, kad: pirma, „Yandex“ duomenų centras » turėtų būti penkis kartus daugiau; bet svarbiausia, kad tokio žmogaus pritraukimas kainuotų didelius pinigus (atpažinti garsą sraute ir suprasti, apie ką žmogus kalba). Bet! Tiesą sakant, yra algoritmų, kurie pažymi jus naudodami tam tikrus raktinius žodžius, kad vėliau sukurtų tam tikrą reklaminį ryšį.
Tokių tyrimų buvo daug ir 100 kartų dariau tuščias sąskaitas, kažkam ką nors parašiau žinutėse, o tada staiga gavau skelbimą, kuris lyg ir nesusijęs. Iš tikrųjų čia daromos dvi išvados. Prieš tokią istoriją manoma, kad žmogus tiesiog patenka į kažkokią statistinę imtį; Tarkime, jūs esate 25 metų vyras, kuris kaip tik šiuo metu turėjo susidurti su anglų kalbos kursais tuo metu, kai kam nors rašėte. Bent jau „Facebook“ teisme visada taip sako: kad yra tam tikras elgesio modelis, kurio mes jums nerodysime, kuris buvo pastatytas remiantis duomenimis, kurių mes jums nerodysime, mes turime vidinius tyrimus, kurių tikrai jums neparodysime ( nes viskas yra komercinė paslaptis); apskritai jūs buvote įtrauktas į kokią nors statistinę imtį, todėl mes jums tai parodėme.
Kaip „Facebook“ privatumas supykdė vartotojus
Deja, paprastai to įrodyti neįmanoma, nebent įmonėje yra kažkas, kuris kaip nors patvirtins šiuos veiksmus. Tačiau pagal Amerikos įstatymus šiuo atveju šio darbuotojo susitarimas neatskleisti yra didesnis nei jo noras jums padėti, todėl niekas to nepadarys. Taip pat įdomu – tai buvo maždaug prieš metus ar pusantrų – Amerikoje pradėjo vystytis tendencija, kai žmonės įsidiegė naršyklės plėtinį, kad šis šifruotų „Facebook“ žinutes: tu parašai žmogui, jis užšifruoja su. raktą įrenginyje ir siunčia šiukšles viešai.
„Facebook“ bylinėjosi su šia bendrove pusantrų metų ir neaišku, kokiu pagrindu (nes aš gerai nesuprantu Amerikos teisės) privertė pašalinti šią programą, o tada padarė vartotojo sutarties pataisą: jei jūs pažiūrėk, yra toks punktas: kad negalima perduoti žinučių šifruota forma - tai kažkaip taip gudriai aprašyta, kad negalima naudoti kriptografinių algoritmų pranešimų modifikavimui - na, yra toks dalykas. Tai yra, jie sakė: arba jūs naudojatės mūsų platforma, rašote viešai, arba nerašote. Ir tai kelia klausimą: kam jiems apskritai reikalingos asmeninės žinutės?
Asmeniniai pranešimai yra XNUMX% patikimos informacijos šaltinis
Tai labai paprastas dalykas. Kiekvienas, kuris analizuoja skaitmeninį pėdsaką, žmogaus veiklą, bando kažkaip panaudoti šiuos duomenis rinkodarai ar dar kažkam, turi tokį metriką kaip patikimumas. Tai yra, tam tikras žmogaus įvaizdis – tu puikiai supranti, tai ne pats žmogus – šis įvaizdis visada būna šiek tiek sėkmingesnis, šiek tiek geresnis. Asmeniniai pranešimai yra tikros žinios, kurias galima gauti apie žmogų, jos beveik visada yra 100% patikimos. Na, nes retai kas kam nors ką nors parašys privačiose žinutėse, apgaus, o visa tai galima labai lengvai patikrinti - atitinkamai pagal kitas žinutes (suprantate apie ką aš kalbu). Esmė ta, kad tokiu būdu įgytos žinios yra beveik 100% patikimos, todėl visi visada stengiasi jas įgyti.
Tačiau, nepaisant to, visa tai vėlgi yra labai sunku įrodyti. Ir tie, kurie mano, kad vadinamoji „VKontakte“ turi tokią teisėsaugos institucijų prieigą prie asmeninių pranešimų, nėra visiškai tiesa. Jei tik pažvelgtumėte į teismų prašymų atskleisti informaciją istoriją, kaip „VKontakte“ labai gudriai (šiuo atveju Mail.ru) kovoja su šiais prašymais.
Pagrindinis jų argumentas visada yra toks: pagal įstatymus teisėsaugos institucijos turi pagrįsti, kodėl reikalinga prieiga prie asmeninių pranešimų. Paprastai, jei tai yra žmogžudystė, tyrėjas visada sako, kad greičiausiai žmogus pasakė, kur paslėpė ginklą (asmeninėse žinutėse). Bet jūs ir aš suprantame, kad nė vienas sveiko proto nusikaltėlis niekada neparašytų savo bendrininkams „VKontakte“ apie tai, kur paslėpė šaunamąjį ginklą. Tačiau tai yra vienas iš dažniausių variantų, apie kuriuos praneša pareigūnai.
Ir štai dar vienas toks baisus pavyzdys (šiandien manęs paprašė pateikti baisių pavyzdžių) - apie Rusiją (tikiuosi, kad Baltarusijoje taip nenutiks): pagal įstatymą tyrėjas turi turėti pakankamai įtikinamų priežasčių, kad operatorius atskleistų šią informaciją. . Natūralu, kad šie patikimi parametrai niekur neaprašyti (kokie jie turėtų būti, kokia forma), tačiau Rusijoje dabar daugėja precedentų, kai toks pagrindas atsiranda teismui, jei yra tam tikras modelis, numatęs tam tikrą, geras ar blogas, elgesys .
Tai yra, mūsų šalyje niekas negali būti įkalintas (ir tai gerai) už tai, kad buvo įtrauktas į kokią nors statistinę grynakraujų žudikų imtį – ir tai gerai, nes pažeidžia nekaltumo prezumpciją; tačiau yra precedentų, kai tokių prognozių rezultatai buvo naudojami siekiant gauti teismo leidimą gauti duomenis. Beje, ne tik Rusijoje. Amerikoje taip pat yra toks dalykas. Ten „Palantir“ irgi ilgai visus žudė, naudoja panašius dalykus. Baisi pasaka.
Tai mano tyrimas. Darėme taip: vaikščiojome po Sankt Peterburgą, žaliais taškeliais išmargintose vietose, iš „švarių“ paskyrų draugams rašėme keletą pagrindinių dalykų – pavyzdžiui, „noriu išgerti kavos“, „kur nusipirkti skalbimo miltelių?“ ir taip toliau. Ir tada atitinkamai jie gavo geografinę reklamą. Kokiu magišku būdu... Ar kaip sakydavo: „Sutapimas? Negalvok!" Tai yra asmeninės žinutės VKontakte. Tegul Mail.ru man atleidžia, bet taip yra. Kiekvienas gali pakartoti tokį eksperimentą.
Beje, kai jie parašė paramos pareiškimą, Mail pasakė, kad ten yra wi-fi taškai, o jūsų Mac adresas buvo užfiksuotas. Tai taip pat egzistuoja.
Asmens duomenų gavimo būdai ir bendrosios galimybės
Kita istorija yra papildomų žinių ištraukimas, kurių dalį aš iš tikrųjų paliečiau. Tiesą sakant, užpildytas asmens profilis socialiniuose tinkluose iš tikrųjų neša 15–20% realių žinių, kurias apie jį saugo duomenų operatorius. Likusi istorijos dalis išplaukia iš labai įdomių dalykų. Kodėl manote, kad „Google“ taip daug kuria kompiuterinio matymo bibliotekas? Visų pirma, jie buvo vieni pirmųjų, sukūrusių bibliotekas, skirtas objektams analizuoti ir skirstyti į kategorijas – fone, pirmame plane, nesvarbu, kur. Nes tai didžiulis papildomos informacijos šaltinis apie tai, kokį butą žmogus turi, automobilį, kur gyvena, prabangos daiktus...
Sujungus „Google“ parengtus neuroninius tinklus, buvo daug „hakerių“ (nežinau, kieno jie buvo, bet vis tiek). Buvo daug įdomios informacijos krūtų dydžio, juosmens apimties tema - kad žmonės nebandė sužinoti apie kitus žmones, remdamiesi nuotraukų analize. Nes fotografuodamas žmogus ne visada pagalvoja, kiek daug įdomių dalykų iš to gali pasimokyti? Kiek naujagimių pasų išdėliota Rusijoje?.. Arba: „Hurray, mano kūdikis gavo vizą“! Paprastai tai yra šiuolaikinės visuomenės skausmas.
Dar viena offtopic (šiandien pasidalinsiu faktais): Maskvoje dažniausiai asmens duomenų nutekėjimas vyksta būsto ir komunalinėse paslaugose, kai ant durų pakabinamas skolininkų sąrašas, o šie skolininkai po to bylinėjasi dėl jų asmens duomenų. buvo paskelbtas viešai be jų leidimo. O jei tau taip nutiks... Esmė ta, kad kai žmogus ką nors daro, jis nežino, kas buvo toje nuotraukoje, ko nebuvo. Dabar yra daug automobilių numerių.
Kažkada atlikome tyrimą - bandėme suprasti, kiek žmonių su atviromis automobilių nuotraukomis (jie, vadinasi, turi nusižengimų ir pan.) - tai, deja, buvo galima padaryti tik naudojant sujungtas kelių policijos duomenų bazes, kur yra tik numeris (nelabai patikima informacija), bet irgi buvo įdomu.
Kitas jūsų skelbimas priklauso nuo to, kaip vartojote ankstesnįjį
Tai pirmoji istorija. Antroji istorija – elgesio modeliai, turinys, kurį žmogus vartoja, nes viena iš svarbiausių metrikų, kurią apie tave bando sukurti socialiniai tinklai, yra tai, kaip tu sąveikauji su reklama. Kad ir kokie tikslūs, „nuostabūs“ būtų algoritmai, kad ir koks nuostabus būtų dirbtinis intelektas ir visa kita, tikrasis socialinio tinklo prioritetas visada yra užsidirbti pinigų. Todėl, jei ateis vadinamoji „Coca-Cola“ ir pasakys: „Noriu, kad visi Baltarusijos gyventojai matytų mano įrašą“, jie tai pamatys, nepaisant to, ką algoritmai galvoja apie šį asmenį ir kaip jį ten nukreipti. Greičiausiai sulaukei reklamos, be supersuper tikslinių, visiškai nesusijusių nesąmonių. Nes už šią nesusijusią nesąmonę jie sumokėjo didelius pinigus.
Tačiau vienas iš pagrindinių rodiklių yra suprasti, su kokiu turiniu geriausiai sąveikaujate, būtent kaip į jį reaguojate, kad parodytumėte panašią reklamos istoriją. Ir atitinkamai tai yra metrika, kaip jūs sąveikaujate su reklama: kas ją draudžia, kas ne, kaip žmogus spusteli, ar skaito tik antraštes, ar visiškai papuola į medžiagą; ir tada, remdamiesi tuo, toliau laikykite jus šiame, kaip dabar vadiname, „filtro burbule“, kad toliau bendrautumėte su šiuo turiniu.
Jei kada nors susidomėsi, gali pabandyti ilgai, savaitę, gal mėnesį, tiesiog uždrausti visą reklamą socialiniuose tinkluose: tau parodo kokį nors skelbimą, o tu uždarai. Jei tai išanalizuosite ir įtrauksite į grafiką, bus įdomi istorija: jei uždrausite reklamą savaitei, kitą savaitę parodys patobulintą versiją ir apskritai iš skirtingų kategorijų; tai yra sąlyginai tu myli šunis, o tau rodomi skelbimai su šunimis - tu visus šunis uždraudei, tada tau pradės rodyti visokias nesąmones iš skirtingų variantų, kad bandytų suprasti ko tau reikia.
Ir tada galų gale į tave nusispjaut, paženklins kaip su reklama nebendraujantį žmogų, uždės kryžių ir tuo momentu pradės rodyti išskirtinai turtingų prekių ženklų reklamas. Tai reiškia, kad šiuo metu matysite tik Coca-Cola, Kit-Kit, Unilever ir visų žmonių, kurie uždirba didžiulius pinigus, nes jums reikia padidinti peržiūrų skaičių, reklamas. Mėnesį atlikite eksperimentą: vieną ar dvi savaites uždrauskite visą reklamą, tada pamatysite viską iš eilės ir uždrauskite – galų gale pamatysite tik reklamą, kaip vėliau paaiškės (ir reklamos agentūros sako), tik klientų, kurie moka už peržiūras , nes neįmanoma suprasti, kaip sąveikaujate su šiais skelbimais.
Pornografiją dažniau žiūri tie, kurie linkę giliai pasinerti į turinį.
Atitinkamai, čia yra istorija apie visų rūšių elgesio stebėjimą. Turiu įdomų pavyzdį – valdžios tinklalapio lankytojai. Juokingiausia tai, kad kuo giliau žmonės žiūri, tuo daugiau tokių žmonių renkasi pornografiją, o ne tradicinius santykius. „Atsiprašau“, kad aš nuolat kalbu šia tema, bet iš tikrųjų turiu labai gerus santykius su „Pornhub“, ir tai visada yra labai įdomus tyrimas, nes tai yra tema, kuri atrodo tabu, tačiau ji daug pasako apie žmogų. Ir iš to sekantys punktai apie srauto sugrįžimą... Prisiminsime ir apie „Pornohub“!
Kas yra laikoma asmeniniais duomenimis ir ar galima atrakinti iPhone naudojant 3D veido modelį?
Mano mėgstamiausia yra privatumo įstatymo apėjimas. Perskaitę to paties Facebook techninę dokumentaciją, kurioje buvo pateikti kai kurie vidaus dokumentai (pavyzdžiui, teismui), ten nerasite jokios paminėjimo apie veido atpažinimą ar balso analizę. Bus labai sudėtingų formuluočių, kurių teisės aktuose neras joks kvalifikuotas teisininkas. Čia, Rusijoje, tai veikia maždaug taip pat - aš jums parodysiu šį dalyką dabar.
Ką tu čia matai? Bet kuris normalus žmogus pasakys, kad veidas. Tai, beje, mano nuomone, Sasha Grey. Bet teisiškai tai yra tam tikrų trimačių taškų matrica, kurių yra 300 tūkst. Gerai ar blogai, tai pagal įstatymą nelaikoma asmens duomenimis. Apskritai Rusijos RKN nelaiko vienos nuotraukos asmens duomenimis - ji laiko ją asmens duomenimis, jei šalia yra kažkas kito (pavyzdžiui, vardas, pavardė ar telefono numeris), o ši nuotrauka pati savaime yra niekas. Kai tik buvo įvestas biometrinių duomenų įstatymas, o biometriniai duomenys buvo prilyginti asmens duomenims (taigi, labai grubiai), visi iškart pradėjo sakyti: čia ne biometriniai duomenys, čia taškų masyvas! Ypač jei paimsite tiesioginę arba atvirkštinę Furjė transformaciją iš šio taškų masyvo, atrodo, kad negalite panaikinti asmens anonimiškumo iš šios transformacijos, bet galite jį identifikuoti. Grynai teoriškai šis dalykas įstatymo nepažeidžia.
Taip pat atlikau dar vieną tyrimą: tai algoritmas, kuris sukuria trimatę veido rekonstrukciją naudojant atvirus šaltinius – pasiimame Instagram paskyrą ir tada galime atspausdinti veidą 3D spausdintuvu. Beje, kam įdomu, turiu nuorodą viešoje erdvėje; jei staiga kas nors norėtų atrakinti kažkieno iPhone... Juokauju - iPhone nepavyksta atrakinti, sumažėja kokybė.
Uždaras profilis yra saugumo pliusas
Tai pirmas dalykas, o antrasis... Jau paliečiau tai, kad informacija daugiausia gaunama iš vartotojo aplinkos. Šį paveikslą nupiešiau 17 m.: Vidutinis Rusijos socialinių tinklų vartotojas yra viduje, jis turi vidutiniškai 200–300 draugų, savo draugų draugus ir draugų draugus.
Dėkojame socialiniams tinklams už „išmaniųjų“ el. kanalų algoritmų įdiegimą, integralinius metus, tariamai padidinančius tikimybę, kad susidursite su įdomiu turiniu. Tai žmonių, galinčių bet kuriuo atsitiktiniu momentu matyti jūsų sukurtą turinį, skaičius, net jei jūsų paskyra ribojama tik aukščiausiu privatumo lygiu (tik draugų draugams ir pan.). Tai yra draugų draugai:
Jei kas nors mano, kad pasirinkęs pamatyti „draugų draugus“ „Mano įrašuose“ VK, tada trys rankos paspaudimai yra maždaug 800 tūkstančių žmonių, o tai iš esmės nėra taip mažai, bet priklauso nuo jūsų turinio. Galbūt jūs darote nepadorius srautus ir visi šie draugų draugai gali bendrauti su šiuo turiniu. Vienas iš jų gali ką nors kur nors pakartotinai paskelbti, visi žmonės turi kanalą „Patinka“, kuris iš tikrųjų greičiausiai bus atšauktas, nes tai nėra labai simpatiškas dalykas. Todėl bet kurią akimirką turinys gali kur nors atsidurti.
Tais metais VK išleido itin uždarus profilius, tačiau iki šiol jais naudojosi tik labai nedaug žmonių (nesakysiu kiek, bet maža!). Galbūt kada nors žmonės tai supras – tikrai nuoširdžiai to tikiuosi. Visais tyrimais nuolat siekiama, kad žmonės suprastų problemų mastą. Nes kol kas nors konkrečiai nebus paveiktas kažkokio baisaus dalyko, jis niekada apie tai negalvos. Pirmyn.
Vyriausybės įstaigos nežino, kas yra asmens duomenys, ir neskuba jų apibrėžti
Bet kuris asmens duomenų teisės specialistas visada sako taip: jums niekada nereikia derinti skirtingų duomenų šaltinių, nes čia jūs turite el. paštus (tai tik asmens duomenys su kažkokiais anoniminiais identifikatoriais), čia yra jūsų pilnas vardas... Jei šis kombinatas viskas, atrodo, kad jie taps asmeniniais duomenimis. Apskritai, būtų teisinga pirmiausia paliesti šią temą, bet manau, kad jūs jau esate pasinėrę į ją ir galbūt žinote, kaip veikia teisė.
Tiesą sakant, niekas nežino, kas yra asmens duomenys. Svarbi koncepcija! Atėjęs į vyriausybines įstaigas sakau: „Butas konjako kiekvienam, kas gali pasakyti, kas yra asmens duomenys“. Ir niekas negali pasakyti. Kodėl? Ne todėl, kad jie kvaili, o todėl, kad niekas nenori prisiimti atsakomybės. Nes jei „Roskomnadzor“ pasakys, kad tai yra asmens duomenys, rytoj kažkas ką nors padarys, ir jie bus kalti; ir jie yra vykdomosios valdžios institucijos ir apskritai už nieką neturėtų būti atsakingi.
Esmė ta, kad įstatyme aiškiai parašyta, kad asmens duomenys yra duomenys, pagal kuriuos galima identifikuoti asmenį. Ir yra pavyzdys: vardas, pavardė, namų adresas, telefono numeris. Bet jūs ir aš žinome, kad galite atpažinti asmenį pagal tai, kaip jis spaudžia mygtukus, kaip jis sąveikauja su sąsaja, ir pagal kitus netiesioginius parametrus. Jei kas nors domisi: beveik kiekvienoje srityje yra daugybė spragų.
Identifikatoriai, kurie mus atskleidžia
Pavyzdžiui, visi pradėjo dėti taškus Mac adresų fiksavimui (tikrai jau esate su tuo susidūrę?) – protingi (arba nežinau, godūs) mobiliosios įrangos gamintojai, tokie kaip Apple ir Google, greitai pristatė algoritmus, kurie suteikia Atsitiktinį Mac adresą, kad negalėtumėte atpažinti, kai vaikštote po miestą ir siunčiate visiems savo MAC adresą. Tačiau protingi vaikinai sugalvojo kitą istoriją dar labiau.
Pavyzdžiui, galite gauti mobiliojo ryšio operatoriaus licenciją; Gavę mobiliojo ryšio operatoriaus licenciją, gausite prieigą prie šio dalyko - iškviečiamas SS7 protokolas, per kurį matysite šiek tiek oro iš mobiliojo ryšio operatorių; yra krūva visokių identifikatorių, kurie nėra asmens duomenys. Anksčiau tai buvo IMEI, o dabar - tiesiogine prasme kažkas nuėmė nuo liežuvio ir nusprendė Rusijoje palaikyti vieną šių „IMEI“ duomenų bazę (tokia iniciatyva). Kažkaip egzistuoja, bet vis tiek.
Taip pat yra, pavyzdžiui, krūva identifikatorių - pavyzdžiui, IMCI (mobiliosios įrangos identifikatorius), kuris nėra nei asmens duomenys, nei susietas su jokiais kitais dalykais ir atitinkamai jį galima išsaugoti be jokio teisinio persekiojimo, o tada su kuo Kažkaip apsikeiskite šiais identifikatoriais, kad vėliau galėtumėte bendrauti su asmeniu.
Darbo su asmens duomenimis kultūra žema
Apskritai esmė ta, kad dabar visi labai susirūpinę dėl duomenų derinimo tarpusavyje, o dauguma įmonių, kurios tai daro, kartais apie tai net nesusimąsto. Pavyzdžiui, atėjo bankas, sudarė neatskleidimo sutartį su įmone, kuri užsiima balais, ir pervedė jam 100 tūkst.
Ir šis bankas ne visada savo sutartyje turi punktą dėl duomenų perdavimo trečiosioms šalims. Šie klientai ten kažką iškrapštė, ir neaišku, kur ši duomenų bazė dingo vėliau, ji nedingo – dauguma Rusijos įmonių neturi duomenų trynimo kultūros... – šis „Excel“ tikrai atsidurs kažkur sekretorės kompiuterį ir padėkite ragelį.
Mūsų duomenys gali būti parduodami su kiekvienu apsipirkimu parduotuvėje
Yra daug schemų, kurios atrodo beveik legalios (ty legalios). Pavyzdžiui, istorija yra tokia: iš 15 didžiausių Rusijos bankų tik du iš tikrųjų yra SMS vartai - Tinkoff ir Alfa, tai yra, jie siunčia savo SMS žinutes. Kiti bankai naudoja SMS šliuzus, norėdami siųsti SMS galutiniams klientams. Šie SMS šliuzai beveik visada turi teisę analizuoti turinį (pavyzdžiui, dėl saugumo ir kai kurių išvadų), kad vėliau būtų galima parduoti apibendrintą statistiką. Šie SMS šliuzai yra „draugai“ su fiskalinių duomenų operatoriais, kurie apdoroja čekius.
Ir išeina taip: atėjai prie kasos, fiskalinių duomenų operatorius (tau davė, telefono numerio nedavė - ten kažkaip susietas) ... gauni SMS į savo telefono numerį, Šių SMS vartai mato paskutinius 4 kortelės skaitmenis ir telefono numerį. Mes žinome, kuriuo momentu atlikote operaciją iš fiskalinių duomenų operatoriaus, o SMS žinute žinome (dabar) į kokį numerį informacija apie tokios ir tokios pinigų sumos nurašymą tokiais ir tokiais paskutiniais keturiais kortelės skaitmenimis. buvo gautas. Paskutiniai keturi kortelės skaitmenys nėra jūsų identifikatoriai, jie nepažeidžia įstatymų, nes negali jūsų panaikinti anonimiškumo, taip pat negali padaryti operacijos sumos.
Bet jei susitarėte su fiskalinių duomenų operatoriumi, žinote, per kokį laiko tarpą (plius minus 5 minutes) ši SMS turėtų jus pasiekti. Taigi jūs buvote greitai susieti OFD su jūsų telefono numeriu, o jūsų telefono numeris yra susietas su reklamos identifikatoriais, apskritai su viskuo, viskuo, viskuo. Todėl vėliau gali pasivyti: atėjo į parduotuvę, o paskui be leidimo atsiuntė dar kokias nors nesąmones. Manau, kad šiame kambaryje vargu ar yra kas nors parašęs skundą FAS dėl šlamšto. Vargu ar yra... Išskyrus mane, tikriausiai.
Popieriai yra archajiškas, bet veiksmingas būdas kovoti už savo teises
Tai veikia labai šauniai. Tiesa, teks palaukti pusantrų metų, tačiau FAS iš tikrųjų patikrins: kas, kaip, kam perdavė duomenis, kodėl kur ir pan.
Klausimas iš auditorijos (toliau – XNUMX): – Baltarusijoje FAS nėra. Tai kitokia šalis.
OI: - Taip, aš suprantu. Analogų tikrai yra...
Iš publikos kyla prieštaravimų
OI: - Gerai, blogas pavyzdys, atsiprašau. Nesvarbu. Tarp savo draugų nepažįstu nė vieno, kuris net iš principo žinotų apie tokios istorijos egzistavimą - kad galite eiti ją parašyti, o tada jie dirbs dar metus.
Antroji istorija, kuri taip pat labai vystosi Rusijoje, bet manau, kad analogą rasite ir savo šalyje. Man labai patinka tai daryti, kai vyriausybinė įstaiga blogai bendrauja su tavimi, kokiu nors banku ar dar kuo nors – tu sakai: „Duok man popieriaus lapą“. Ir jūs rašote ant popieriaus lapo: „Remiantis 14-ojo federalinio įstatymo 152 dalimi, prašau jūsų asmens duomenis tvarkyti popierine forma“. Nežinau, kaip tiksliai tai daroma Baltarusijoje, bet tikrai taip daroma. Pagal Rusijos įstatymus šiuo pagrindu neturite teisės atsisakyti paslaugos.
Net pažįstu daug žmonių, kurie siuntė panašius dalykus į Mail.ru ir prašė savo asmens duomenų registruoti popierine forma. Mail.ru su tuo kovojo labai ilgai. Net pažįstu vieną „Yandex“ kūrėją, apie kurį buvo juokaujama: jie ištrynė jo VK paskyrą ir atsiuntė jam krūvą atspausdintų ekrano kopijų ir pasakė, kad kiekvieną kartą, kai jis norės atnaujinti savo puslapį, atsiųs ekrano kopijas.
Juokinga, bet vis dėlto tai yra reali alternatyva, jei kam nors tikrai rūpi duomenys, viena vertus... O kita vertus, tas pats RKN man pasakė, kad ši sutartis dėl asmens duomenų tvarkymo yra formali, o įstatymas numato dar kelias šio sutikimo davimo galimybes. Ir kad, pavyzdžiui, buvau pakviestas čia į renginį, ir jei, pavyzdžiui, „Human Constanta“ gali nesudaryti su manimi sutarties dėl asmens duomenų tvarkymo Rusijos įstatymų ribose (nes pats faktas, kad aš atvykau ir sutiko kalbėti, yra sutikimas tvarkyti asmens duomenis) – visi vis tiek priima šiuos popierinius leidimus. Bet RKN man pasakė kažką panašaus, kad tai visai ne faktas, kad greičiausiai jie kada nors išnyks.
Tikiuosi, kad Rusijoje jie niekada nesukurs vieno asmens duomenų operatoriaus, atleisk Dieve, nes blogiau nei visus asmens duomenis sudėti į vieną krepšelį yra įsidėti į valstybės krepšelį. Nes kas žino, kas bus su visa tai vėliau.
Įmonės dalijasi asmens duomenimis, o įstatymai yra silpni, kad tai reglamentuotų
Dauguma įmonių tarpusavyje keičiasi tam tikrais duomenimis ir identifikatoriais. Tai gali būti parduotuvė su banku, o tada bankas su socialiniu tinklu, socialinis tinklas su dar kažkuo... Ir galiausiai šie žmonės turi tam tikrą kritinę žinių masę, kurią galima kaip nors panaudoti, ir visos šios žinios yra tikros, dabar bando jas išlaikyti savo pusėje. Tačiau vis tiek jis patenka į reklamos srautą ar kur nors kitur.
Duomenų perdavimas trečiosioms šalims yra pats smagiausias dalykas, kuris gali nutikti, nes įstatymai nenurodo, kokios tai trečiosios šalys, kam jie turėtų būti laikomi „trečiais“. Tai, beje, labai dažna amerikiečių teisininkų frazė – jie ją turi Trečiosios šalys – kas, ką jūs laikote trečiosiomis šalimis: močiutę, prosenelę?.. Amerikoje net buvo toks precedentas, kai buvo atskleisti kažkieno duomenys, asmuo padavė ieškinį, ir jie įrodė, kad šis asmuo pažinojo duomenų savininką per kelis draugus – tam tikras rankos paspaudimų skaičius, jie citavo kažkokius keistus sociologinius tyrimus – taip įrodyta, kad šie asmenys negali būti laikomi trečiaisiais. šalys viena kitai. Juokinga. Tačiau tokių duomenų perdavimo faktas yra labai dažnas.
Net jei einate į svetainę, kurioje yra identifikavimo skaitiklis, šis skaitiklis turi teisę perkelti šio srauto duomenis kur nors (pvz., „Clickstream“, bet kokio reklamavimo platformų savininkams, „Pornhub“). Pornhub, jei kas nors iš jūsų esate žiniatinklio kūrėjas, eikite ir pažiūrėkite, kiek stebėjimo pikselių yra Pornhub svetainėje. Jūs tiesiog įeinate ir ten įkeliamas didžiulis kiekis java scenarijaus, kuris nori pagerinti svetainės veikimą. Tiesą sakant, ten yra įdiegti ir tarpdomeniniai „slapukai“, kurių nėra, nes „clickstream“ rinkoje ši informacija visada yra labai vertinama.
„Facebook“ klesti ir nesiruošia nusiimti kaukės
Natūralu, kad nė vienas iš pagrindinių žaidėjų niekada niekam nepasakoja, kam ir kaip parduoda duomenis. Pavyzdžiui, dėl to Europa dabar bando paduoti feisbuką į teismą. Vos įvedus GDPR, Europos Sąjunga bando išjudinti paties Facebook atskleidimo algoritmus, skirtus duomenų perpardavimui trečiosioms šalims.
„Facebook“ to nedaro ir viešai pareiškia, kad to nedaro, nes jie yra „taikos korporacija“ (cituoju iš jų man atsiųsto el. laiško) ir yra „prieš žalingą technologijų naudojimą“ (ypač jei parduodate veido atpažinimas Kremliui). Apskritai esmė ta, kad „Facebook“ tai daro ne visiškai sąžiningai: pagrindinis jo tikslas ir pagrindinis dalykas, kuris atsitiks, kai tik toks mechanizmas atsiskleis, yra tai, kad bus galima realiai apskaičiuoti reklamos marginalumą, tai bus galima suprasti tikrąją reklamos kainą.
Tradiciškai, jei „Facebook“ dabar jums pasakys, kad reklaminio parodymo kaina yra 5 rubliai, o mes jums jį parduodame už 3 (o, kaip, mums liko du rubliai), jie sąlyginai gauna 5% pelno iš šių reklamos įspūdžių. Tiesą sakant, tai ne 5%, o 505, nes jei šis algoritmas išaiškės (kam ir kaip Facebook perdavė „clickstream“, apsilankymų duomenis, pikselių duomenis į visokius reklamos tinklus), paaiškėja kad jie uždirba daug daugiau nei sakoma apie tai. Ir čia esmė ne patys pinigai, o tai, kad paspaudimo kaina yra rublis, o iš tikrųjų – šimtosios kapeikos.
Apskritai, esmė ta, kad visi bando slėpti tokį perdavimą, nesvarbu, ar tai reklaminis, ar nereklaminis srautas, bet jis egzistuoja. Deja, teisiškai to sužinoti nėra galimybės, nes įmonės yra privačios, o viskas, ką jos turi viduje, yra jų privatinė teisė ir komercinė paslaptis. Tačiau panašios istorijos ten iškildavo labai dažnai.
Narkotikų prekeiviai yra nuspėjami ir „uždegę“ „Avito“.
Paskutinė nuotrauka iš šio pristatymo. Tai juokinga, o esmė ta, kad yra tam tikrų kategorijų žmonių, kurie labai nerimauja dėl savo asmens duomenų. Ir tai yra gerai, iš tikrųjų! Šis pavyzdys yra apie tokią žmonių kategoriją kaip narkotikų prekeiviai. Atrodytų, kad žmonės, kurie turėtų labai susirūpinti savo asmens duomenimis...
Tai tyrimas, kuris buvo atliktas šių metų pradžioje, prižiūrint kompetentingoms institucijoms. Taip, tai yra scenarijus, kuriam buvo duoti pinigai narkotikams įsigyti per „Telegram“ ir „Thor“, bet tik iš tų žmonių, kuriuos buvo galima atpažinti.
Tiesą sakant, beveik visi Maskvos narkotikų prekeiviai remiasi tuo, kad jų telefono numerio nėra jokiuose atviruose šaltiniuose, tačiau anksčiau ar vėliau jie ką nors parduos „Avito“, iš kurio bus galima suprasti apytikslę šių žmonių buvimo vietą. Esmė ta, kad raudoni taškai yra ten, kur žmonės gyvena, o žali taškai yra ten, kur jie eina, kad išeitų. Tai buvo viena iš algoritmo dalių, numatančių patrulių tarnybų išsidėstymą, tačiau šie Maskvos vaikinai visada stengiasi kažkaip eiti įstrižai, toliau.
Jie mano, kad jei jie gyvena viršuje kairėje, jie turėtų eiti viršuje dešinėje ir jų tikrai niekada ten neras. Aš jums sakau, kad jei bandote pasislėpti nuo visur esančių algoritmų, geriausias pasirinkimas yra pakeisti savo elgesio modelį: įdiegti kokį nors „Goster“, kad atsitiktinai suskirstytumėte apsilankymus, nuosavybę ir pan. O Dieve, yra net algoritmų ir įskiepių, kurie pakeičia naršyklės dydį pora pikselių, kad nebūtų galima apskaičiuoti naršyklės parašo, „pirštų atspaudų“ ir kažkaip jus identifikuoti.
Tai viskas, ką norėjau pasakyti. Jei turite klausimų, praneškite mums. Čia yra nuoroda į pristatymą.
Klausimas iš auditorijos (Z): – Prašau pasakyti, Thor naudojimo požiūriu, srauto stebėjimo požiūriu... Ar rekomenduojate?
Sunku nuslėpti, bet įmanoma
OI: - "Toras"? „Thor“ ne, jokia forma. Tiesa, aš nežinau, kaip yra Baltarusijoje - Rusijoje niekada neturėtumėte ten eiti, nes beveik dauguma patikrintų „gracenodų“ staiga prideda tam tikrus paketus į jūsų srautą. Nežinau kokius, bet pažiūrėjus: yra „mazgai“, žymintys eismą, neaišku, kas tai daro, kokiais tikslais, bet kažkas tai pažymi antraštėje, kad vėliau būtų galima suprasti. Rusijoje dabar saugomas visas srautas, net jei jis saugomas šifruota forma, ir visi troliuoja Yarovaya paketą apie tai, kad saugomas šifruotas srautas, tačiau jis lieka pažymėtas, tai yra, jo negalima naudoti ar iššifruoti. .
Z: – Europoje jis saugomas ilgą laiką, turbūt dešimt metų.
OI: - Taip, aš suprantu. Visi iš to juokiasi – pavyzdžiui, jūs saugote https, kurių negalima perskaityti. Turinio negalima perskaityti, bet suprasti, iš kur atkeliavo paketai, naudojant tam tikrus algoritmus – pagal paketų svorį, ilgį ir pan. O kai jūs valdote visus tiekėjus, atitinkamai turite visą pagrindinę įrangą ir visus pasus... Apskritai, jūs suprantate, apie ką aš kalbu?
Z: – Kokią naršyklę rekomenduojate naudoti?
OI: – Už „Torą“?
Z: - Visai ne.
OI: - Na, aš nežinau. Iš tikrųjų naudoju „Chrome“, bet tik todėl, kad ten esantis kūrėjo skydelis yra patogiausias. Jei staiga prireiks kur nors nueiti, nueisiu į kokią kavinę. Tiesa, su tikra SIM kortele prisijungti nereikia.
Z: – Kalbėjote apie kai kuriuos studentus. Ar mokate kur nors ar vedate kursus?
OI: – Taip, turime duomenų žurnalistikos magistro laipsnius. Žurnalistus mokome rinkti duomenis ir juos analizuoti – jie periodiškai atlieka panašius tyrimus.
Nėra saugių programų
Z: – „Facebook“, „Vkontakte“ nėra saugu bendrauti su draugais, kad vėliau negautumėte kontekstinės reklamos. Kaip galite pagerinti saugumą?
OI: – Klausimas, koks, jūsų nuomone, yra priimtinas saugumo lygis. Iš esmės nėra žodžio „saugus“. Kyla klausimas, kas, jūsų nuomone, yra priimtina. Kai kurie mano, kad keistis intymiomis nuotraukomis per feisbuką yra priimtina, o kai kurie žvalgybos pareigūnai mano, kad viskas, kas buvo pasakyta per burną, net ir artimiausiam žmogui, iš tikrųjų yra nesaugu. Jei nenorite, kad socialinis tinklas ką nors apie tai sužinotų, tada taip, geriau apie tai nerašyti. Nežinau jokių saugių programų. Bijau, kad tokių nėra. Ir tai yra normalu iš to taško, kad bet kuris bet kurios programos savininkas turi kažkaip užsidirbti pinigų, net jei ši programa yra nemokama arba tai yra kokia nors laikmena. Atrodo, nemokamai, bet jam vis tiek reikia iš kažko gyventi. Todėl nieko nėra saugu. Turite tik patys nuspręsti, taip sakant, kas jums tinka.
Z: – Ką naudojate?
OI: - Socialiniai tinklai?
Z: - Iš pasiuntinių.
OI: – Kalbant apie pasiuntinius, naudojuosi pagrindiniu Rusijos Federacijos valstybiniu pasiuntiniu – „Telegram“.
Z: - „Viber“. Ar tai saugu?
OI: – Klausyk, aš nelabai išmanau pasiuntinius. Jei atvirai, aš netikiu saugumu, netikiu niekuo, nes tai tikriausiai būtų labai keista. Nors „Telegram“ yra atvirojo kodo, o jos šifravimo algoritmai buvo atskleisti. Bet tai taip pat toks sudėtingas dalykas, nes yra „atvirojo kodo“ klientas, bet niekas nematė serverių. Manau, kad ne: „Viber“ yra daug šlamšto, botų ir pan. Kas žino. Nemanau, kad visa tai veikia labai gerai.
Kas pavojingesnis – korporacijos ar valstybė?
Šeimininkas (B): – Ir aš turiu jums šį klausimą. Žiūrėk, porą kartų užsiminėte apie tai – kad valstybė... Per daug duomenų nėra labai gerai... Korporacija turi per daug duomenų. Na, tai tik gyvenimas, tiesa? Tad ko turėtume labiau bijoti – korporacijų ar valstybės? Kur yra spąstai?
OI: - Tai labai sunkus klausimas. Ji ribojasi. Sudėtingas etinis barjeras. Žmogui, jeigu jam nėra ko bijoti, jeigu jis nepažeidė įstatymų, iš principo kam jam reikalingas privatumas? Nors aš taip nemanau, valstybė taip galvoja. Galbūt tame yra dalelė tiesos. Klausyk, aš labiausiai bijau įsilaužėlių – kažkas panašaus. Tiesą sakant, didžiausias žiaurumas, kokį esu mačiusi savo gyvenime (iš visos temos): maždaug prieš pusantrų – dvejus metus Maskvos srityje buvo sučiuptas pedofilas ir atliekant tyrimo veiksmus jie rado keletą „Python“ vadovėlių ir scenarijus jo kompiuteryje, API VK. Jis rinko merginų paskyras, analizavo, kuri iš jų yra šalia, rinko turinį, kad jos... Trumpai tariant, supranti. Tai didžiausias mano matytas šūdas. Ir štai ko aš tikrai bijau, kad vieną dieną kas nors padarytų kažką panašaus.
Dar vienas mažas „offtopic“: Europos valstybės saugumo organizacija tais metais paskelbė, kad vagysčių iš banko sąskaitų skaičius išaugo apie 20, 25 proc., kai buvo įsilaužta į slaptą klausimą. Tiesiog pagalvokite apie savo slaptą klausimą banke ir pagalvokite, ar galiu sužinoti atsakymą į jį iš atvirų šaltinių. Jei ten turi savo mamos mergautinę pavardę ar mėgstamą patiekalą... Apskritai žmonės išanalizavo sąskaitas, pagal tai suprato savo mėgstamiausio augintinio vardą - kažkas tokio...
Z: – Sakėte, kad įmonės ir korporacijos reikalingą informaciją renka naudodamos algoritmus? Tikrai žinai kaip?
OI: – Vyko žmonių judėjimas, kurie kažkada paleido nuotraukas per specialų filtrą, kad šis filtras sulaužytų vaizdų analizę, kad vėliau būtų neįmanoma šių žmonių kažkaip atpažinti. Pateikiau pavyzdį: „Facebook“ kovojo su pranešimų kriptografija. O jei šis dalykas atsiras ir paplis, socialiniai tinklai greičiausiai su tuo kovos. Be to, vaizdų atpažinimas dabar veikia labai gerai, o tai ribojasi su tuo, kad lygis, pakankamas šiai nuotraukai „sulaužyti“ (kad būtų „sulaužytas“ algoritmas, atpažįstantis šiuos vaizdus) – greičiausiai joje jau nieko neaišku. nebūti.
Visų rūšių trikdžių filtrai gerai veikia, jei pusėje nuotraukos yra stiprus tiesioginis poslinkis. Tada jūsų paskyra įgaus visas LSD spalvas. Grynai teoriškai nemanau, kad būtų labai baisu, jei, pavyzdžiui, „Facebook“ sužinotų, kokį automobilį turiu – tikriausiai, jei neprisijungsiu prie automobilio per „Facebook“.
Užmaršties dėsnis veikia, bet ne internete
Z: – Ar susidūrėte su vartotoju, kuris privertė jį gerbti, ištrinti, gauti prieigą. Dirbate su dideliais duomenų kiekiais, tikriausiai apie tai pranešate. Žmonės gali su jumis susisiekti. Koks procentas?
OI: – Aš tau dabar pasakysiu. Dabar čia tampa tikrai įdomu. Dabar skaičiuosiu, kiek žmonių ateis, nes po renginio visada ateina 15-20%, užpildo formą, kad ištrintumėte duomenis - yra toks dalykas. Realiai tai yra apie 7-8% uždarytų paskyrų, kurių neanalizuojame, ir apie 5 žmonės iš tūkstančio, kurie prašo ištrinti savo duomenis. Tai labai mažai, net mano kuklia nuomone.
Problema yra tokia: yra toks dalykas kaip užmaršties dėsnis. Tačiau užmaršties įstatymas, bent jau Rusijoje, teisiškai galioja tik paieškos sistemoms. Ten parašyta: paieškos sistemos. O tai reiškia, kad reikia ištrinti tik nuorodas į medžiagą, o ne pačią medžiagą. Tiesą sakant, norėdami ką nors pašalinti iš interneto, turėsite apeiti visus šiuos šaltinius, todėl aš iš esmės tuo netikiu. Stengiamės įspėti vartotojus, kad prieš paskelbdami jie turi pagalvoti.
Kol kas šis procentas labai mažas – 5-7 žmonės iš tūkstančių. Beje, apie užmaršties įstatymą: visi žino tokį šaunų atvejį „Sechin prieš RBC“. Užmaršties dėsnis suveikė, straipsnis buvo ištrintas, bet jis yra visur. Jūs suprantate, kad jei kas nors kartą pateks į internetą, tai niekada iš ten nedings.
Vartotojai ištrinami, tačiau atpažįstami pagal tipišką elgesį
Z: – Ar nemanote, kad žmonės, kurie ištrins savo sąskaitas ir bandys tapti „juodąja skyle“, atsidurs nepalankioje padėtyje, palyginti su kitais ūkio subjektais?
OI: – Greičiausiai taip – tokia situacija jiems bus nepalanki. Nuo jų priklauso daug nuolaidų ir pasiūlymų. Bet, grynai teoriškai, jei žmogus dabar ištrina paskyrą... Populiaru tarp visokių ekstremistų, kai ištrina paskyrą ir padaro netikrą, bet toliau bendrauja su tuo pačiu turiniu – šį asmenį vėlgi galima atpažinti. (ypač jei jis yra tame pačiame socialiniame tinkle , iš vieno kompiuterio – tai paprastai yra klausimas); Paprasčiausiai remiantis turinio vartojimo modeliu, bus galima rasti šį asmenį, jei bus tokia užduotis.
Tikiuosi, kad per artimiausius 5 metus atsiras kažkokia šių duomenų monetizavimo technologija, kai realiai bus galima mokėti žmogui pinigus – mokėsite patys, o mes jūsų duomenų nenaudosime. Bet manau, kad jei koks nors Instagramas įves mokamą prenumeratą, niekas ja nesinaudos, todėl alternatyva – mokėti vartotojams už jų duomenis. Bet tai įvyks labai greitai, nes baisių įmonių vaikinų lobis neleis tokio įstatymo priimti, nors būtų šaunu. Tačiau esmė ta, kad neįmanoma įvertinti tikrosios vieno asmens duomenų vertės kokiu nors konkrečiu momentu.
„Facebook“ – nutekėję vaikinai
Z: - Laba diena. Visai neseniai pasirodė žinia, kad „Facebook“ ketina integruoti visus savo projektus, įskaitant „Instagram“ ir „Facebook“, „WhatsApp“ ir pan. Kaip manote, asmeninių duomenų požiūriu, kai dabar mano išmaniajame telefone šios programos tarsi kabo atskirai, bet vis tiek priklauso feisbukui?.. Kas bus toliau?
OI: - Aš suprantu. Juridiškai jie jau priklauso feisbukui, o jis gali juos nevaldomai suvienyti savyje, tad manau, kad niekas nepasikeis. Vienintelis dalykas, kad dabar pakanka nulaužti vieną programą, kad gautumėte viską iš karto. Ir feisbukas... Tikiuosi, jie žiūri. Siaubingai nutekėję vaikinai visose vietose.
Pastaruoju metu apie tai pasirodė daug informacijos – apie duomenų nutekėjimą iš „Facebook“. Taip atsitiko ne todėl, kad „Facebook“ staiga pradėjo prarasti šiuos duomenis, o todėl, kad GDPR dabar verčia įmonę įspėti iš anksto. Ir didžiausia bauda, jei įvyko nutekėjimas, tačiau bendrovė apie tai nutylėjo, todėl „Facebook“ dabar apie tai kalba pats. Tai nereiškia, kad šių duomenų nutekėjimo nebuvo anksčiau.
Z: - Sveiki. Turiu klausimą dėl duomenų saugojimo. Dabar kiekviena valstybė priima įstatymą, užtikrinantį, kad piliečių duomenys būtų saugomi tos valstybės teritorijoje. Kokią sąlygą pakanka įvykdyti, kad būtų laikomasi šio įstatymo tam tikroms tarptautinėms paraiškoms?.. Pavyzdžiui, Facebook: yra tik viena duomenų bazė...
Kaip laikytis šių sąlygų?
OI: – Klausyk, legaliai tereikia išsinuomoti serverį šioje šalyje ir ką nors į jį įdėti. Problema ta, kad nėra kompetentingos reguliavimo institucijos. „Facebook“ duomenų Rusijoje nėra. „Roskomnadzor“ su jais kaunasi ir kaunasi, kaunasi ir kaunasi... „Facebook“ turi dalį serverių, kuriuose yra būtent šio „Facebook“ sąsaja, ir neįmanoma patikrinti, kur iš tikrųjų slypi duomenys ir kaip jie sinchronizuojami.
Z: – Patikrinkite eismą?
OI: – Patikrinkite eismą? Taip. Tačiau eismas gali pereiti prie pagrindinio taško. Be to, tarp serverių gali būti kažkas panašaus į VPN ar dar kažkas. Grynai teoriškai niekaip nepavyksta sukontroliuoti, kad, tarkime, sistemos administratorius vieną dieną nenueitų į šį serverį ir ko nors iš ten nepaimtų. Tai yra, šis įstatymas buvo priimtas ne dėl duomenų apsaugos, o tam, kad įmonės atidarytų atstovybes, mokėtų mokesčius ir sandėliuotų prekes šalyje. Bet, tiesą sakant, mano nuomone, tai yra kažkokia labai keista iniciatyva.
Z: – Vadinasi, užtenka iš tikrųjų patikrinti sąsają?
OI: Kas nors gali ateiti pas jus ir patikrinti, ar ten yra jūsų duomenys. Bet gali parodyti kažkokią excelę, ir niekas negalės patikrinti, vargu ar kas patikrins. Dabar jie tiesiog žiūri į IP adresus: kad su domenu susietas IP adresas yra šalies teritorijoje – toliau netikrina. Dabar tikriausiai jie ateis manęs patikrinti.
Nėra paslaugų, kuriomis galėtumėte pasitikėti 100%, bet padoriems žmonėms nėra ko bijoti
Z: - Tai naujiena, daug kur perspausdinta: vaikinas paskelbė ją iš Microsoft, padarė paslaugą, kad patikrintų savo...
OI: – Kažkas panašaus: ar jūsų slaptažodžiai buvo nutekinti? Tiesą sakant, po tų pačių nutekėjimų Facebooke, tas pats Facebook visada paleidžia kažkokias atsargines svetaines, kuriose galima patikrinti, ar ji nėra įtraukta į šią duomenų bazę – vėlgi, to reikalauja GDPR. Tai yra, jei to nepadarysite, nesijausite labai gerai. Todėl dabar visi šiuos projektus pristato kaip „tai mūsų iniciatyva“; iš tikrųjų to reikalauja įstatymas. Tai iš tikrųjų yra labai šaunus dalykas, bet aš tikrai nepasitikėčiau tokiomis tikrinimo paslaugomis, jei jums reikia išsiųsti ką nors sudėtingesnio nei jūsų slaptažodis, nes daugelis žmonių turi tuos pačius slaptažodžius.
Z: – Tiesiog įvedate savo el. paštą, o jie jau sako, kiek kartų jis buvo pažeistas...
OI: – Tiesą sakant, nepasitikiu tokiais dalykais, nes jus labai lengva susieti su šia naršykle, su tikra paskyra. Ypač jei naudojatės tų pačių žmonių, kurie įkūrė šią svetainę, paslaugomis. Tai kaip tais metais, kai „Facebook“ atsiuntė: jei jūsų intymios nuotraukos nutekėjo „Facebook“, atsiųsk jas mums ir mes patikrinsime, kur jos paminėtos.
Nežinau, koks tai viešųjų ryšių košmaras ir kas feisbuke tai sugalvojo, bet tai tikrai atsitiko. Jie norėjo sužinoti, ar kas nors nesiuntė jūsų aktų privačiomis žinutėmis. Iš esmės tai tarnauja geriems tikslams, bet yra kuo keisčiausia. Aš nepatikėčiau.
Z: - Ir dar vienas klausimas. Kokia didelė nuotėkio rizika paprastam vartotojui? Sugadinimo dėl nuotėkio pavojus.
OI: - Supratau tave. Tai priklauso nuo to, kokius duomenis saugoti. Manau ne itin aukštai. Blogiausia, jei jūsų el. laiškai ir slaptažodžiai kažkur nuteka, o jūs turite šį slaptažodį visur – tada taip. Apskritai manau, kad vartotojams mažai ko bijoti. Bet, žinoma, nebent jie išsaugo tam tikrą išskaidymą „Google“ pašte. Buvo daug pavyzdžių.
Garsiausia istorija „Google“, kai Jutoje buvo pagrobta mergina, jos nepavyko rasti, o vienu metu pagrobėjai jai atsiuntė nuotraukas archyvuotame priede. Ir „Google“, nuskaitydama šį priedą, rado vaikų pornografijos požymių. Jie rado visus. Taip pat jiems pavyko paduoti „Google“ į teismą dėl susirašinėjimo konfidencialumo pažeidimo. Šis teismo procesas užtruko gana ilgai. Tačiau vis dėlto manau, kad paprastam vartotojui nėra ko bijoti, jei jis, tarkime, nepateikia savo paso viešai. Tai dviguba istorija – priklausomai nuo to, kokie duomenys ir koks vartotojas. Gal dabar ir gerai, bet po 15 metų, kai jis taps kažkokiu valdininku, kai kurios jo medžiagos išaiškės.
Kaip tai veikia su vyriausybe?
Z: - Ačiū. Šiek tiek kalbėjote apie tyrimus valstybei, vyriausybinėms agentūroms, tarnyboms ir darbą su jomis. Galbūt galite šiek tiek daugiau papasakoti apie kai kuriuos dabartinius projektus. Dar daugiau, jei gali, apie... Du klausimai: pirmas – dabartiniai projektai, o antrasis – ar buvo tokių siūlymų iš valdiškų tarnybų...
OI: - Nepadoru!
Z: – Taip. Kai pagalvojote: gal neturėtumėte to daryti.
OI: - Aš tau pasakysiu. Aš tai sakau visiems. Su šiuo žmogumi ilgai ginčydavomės „Twitter“. Kartą gavau klausimą iš Milonovo Twitter komandos apie mokytojų, žiūrinčių gėjų pornografiją, paiešką. Iš karto pasakėme ne. Bet tokių yra, dažnai ateina laiškai, ir labai dažnai tai susiję su kokiais nors opozicionieriais, mitingais. Mes su tokiomis nesąmonėmis nesusiduriame, ir taip visi mėto į mus šūdas. Aš nesigėdiju to.
„Būsenų“ atžvilgiu taikome tokią politiką: kuriame programinę įrangą, programinę įrangą trimačiai rekonstrukcijai, veido atpažinimui ir duomenų analizei. Labai sunku pasakyti, ką tiksliai jie daro, bet modeliai apima nusikalstamumo prognozavimą, dalykus, susijusius su valstybės saugumu mieste, žmonių judėjimą, geomarketingą ir pan. Nuo objektų išdėstymo miesto vidinėje aplinkoje iki pedofilų, prievartautojų, maniakų ir visokių blogiukų atpažinimo.
Sąžiningai, mes nedalyvavome jokia opozicine veikla. Galbūt jie mums to nesako į akis. Tiesą sakant, tai yra labai didelė problema – bendradarbiavimas su „vyriausybėmis“, nes jos ne visada paaiškina, kokia užduotis. Jie jums sako: sukurkite programinę įrangą, kad atpažintumėte namų šeimininkes, bet iš tikrųjų jie ketina su ja daryti ką nors kita – viskas sugenda.
Be to, valstybė yra labai įdomus ir keistas klientas, kuris nuolat bando įterpti tris centus į jūsų tyrimą, o dažnai jų požiūris ir supratimas apie mašininį mokymąsi yra labai paviršutiniškas. Pavyzdžiui, turiu atskirą paskaitą apie mašininio mokymosi klaidas. Ten visada pateikiu pavyzdį: kai kūrėme nusikaltimų prognozavimo sistemą Maskvos srityje, klientas pasakė: ten, kur parduoda arbūzus, padidinkite koeficientą keturis kartus. Ir tada, tiesą sakant, paaiškėjo, kad arbūzų pardavimo vietos visai nėra nusikalstamos. Tai tiesiog žmogaus, prisidedančio prie savo minčių, klaidos.
Trumpai tariant, valstybė yra šaunus klientas, ten daug įdomių užduočių. Dauguma nusileidžia panašiems kažko numatymo modeliams. Dažniausiai tai yra tam tikra miesto infrastruktūra.
Z: – Ar yra šaltinių, kuriuose galėtumėte sekti savo tyrimus? Daug informacijos. Kaip suprantu, daug kas liko už borto. Jūsų puslapiai, dar kažkas...
OI: – Aš neturiu asmeninių puslapių.
Z: – Tikriausiai feisbukas jau uždarytas?
OI: – Maždaug prieš keturis mėnesius buvo tokia istorija: mums visiems atsiuntė tokius didelius laiškus, kad „jūs keistuoliai, parduodate viską Kremliui, laužote visas feisbuko taisykles“. Jie netgi atsiuntė mano šuniui laišką: „Sveiki, Marso mėlynieji korgiai, jūs renkate duomenis! ir taip toliau. Klausykite, dabar keičiame prekės ženklą. Po dviejų ar trijų savaičių mūsų svetainė bus atidaryta ir viskas bus atnaujinta. Tai bus į ką žiūrėti. Tačiau šiuo atžvilgiu esame labai tingūs.
Kaip galite nustatyti VPN patikimumą?
Z: – Kada pasakėte, kad eisite į kavinę neidentifikuodami savęs pagal telefono numerį? Ir pagal ką?
OI: – Negalima sakyti „kieno nors kito vardu“, nes tai yra raginimas pažeisti identifikavimo taisykles. ne ne ne. Aš juokauju. Dabar beveik visos kavinės identifikuoja viską – yra ne tik telefono numeris, yra krūva pikselių, yra įrenginio identifikavimas, MAC adresas ir dar kas, kad vėliau būtų galima panaudoti – nuo reklamos tikslo iki operatyvinės paieškos veiklos. Todėl su tokiais dalykais reikia elgtis labai atsargiai. Ne tik jūs galite ką nors parašyti, bet ir jie gali parašyti iš jūsų įrenginio, tada kažkas atsitinka.
Galbūt matėte istoriją apie tai, kaip jie dabar atlieka tyrimą, kaip (beje, ir Baltarusijoje) jie nuomoja „Facebook“ paskyras, pavyzdžiui, kazino reklamai. Tačiau iš tikrųjų nežinia kodėl, jie taip pat suteikia prieigą prie kompiuterio. Tai yra dalykų, kurių reikia vengti kiek įmanoma. Jei nuspręstum iš kažkur anonimiškai parašyti... Ateičiau į kavinę ir įjungčiau kokį šaunų VPN. Bet iš tikrųjų (vėlgi, aš nerodau į nieką pirštais), kai turi paskyrą su VPN, tu tikrini, kam priklauso šis VPN, kokiai įmonei, kam priklauso ši įmonė ir t.t. Kadangi dauguma VPN rinkos žaidėjų nėra labai geri vaikinai.
Na, gerai, Baltarusijoje tai nesvarbu. Rusijoje geras VPN tikrinamas pagal tai, ar azino777 ten užblokuotas, ar ne. Nes jei ne, tada didelė tikimybė, kad per savaitę ši VPN paslauga bus uždaryta. Apskritai patikrinkite viską.
Apie automatinį pranešimų ištrynimą
Z: – Tiek daug kalbėjote apie asmenines žinutes, kad socialiniai tinklai jas skaito... Bet, pavyzdžiui, „Facebook“ turi slaptų asmeninių žinučių, kurias galima nustatyti (išskyrus tai, kad jos taip pat yra užšifruotos) sunaikinimui. Kaip galite tai pakomentuoti?
OI: - Negali būti. Pirma, aš nesu super profesionalas kriptografijos srityje, antra, čia problema ta, kad niekas nematė Facebook serverio, niekas nežino, kaip ten viskas veikia. Tradiciškai kai kuriose specifikacijose sakoma, kad tai yra šifravimas nuo galo iki galo, bet jis gali būti ne toks, arba jis yra nuo galo iki galo, bet su tam tikromis klaidomis ar dar kažkuo. Prasminga naudoti tokį dalyką, jei bijote, kad asmuo, kuriam jį išsiuntėte, kada nors pabandys ką nors padaryti.
„Telegram“ turi patogią funkciją, leidžiančią siųsti intymias nuotraukas, kurios savaime išsitrina: bandant padaryti ekrano kopiją, ji automatiškai ištrinama. IPhone dabar yra funkcija filmuoti iš ekrano, o iš ekrano galima įrašyti ir panašiai... Tiesiog labai dažnai man siunčia medžiagas su šia funkcija (auto-delete) - niekada nesuprantu kodėl. Galiu atsisiųsti iš karto! Viskas jūsų nuožiūra.
Socialinis reitingas Kinijoje: mitai, realybė, perspektyvos
In: – Tiesą sakant, aš šiek tiek piktnaudžiauju, nors man nereikia VPN (beje, mes turime patikrintą VPN). Ir klausimas yra apie etiką. Turime nuostabų draugą iš Kazachstano, jį irgi atsivežėme skaityti paskaitos. Kartą mes sėdėjome su juo kažkokioje konferencijoje, kur buvo kalbama apie įvairius dalykus, ir jis pasakė (o jis užsiima kibernetiniu saugumu, tai yra grynąja forma, inžinerine sauga, žmogus, kuris domisi techniniais sprendimais): „Štai, Grįžau iš Kinijos. Jie ten daro tokį šaunų dalyką – socialinį reitingą. Beje, ar atlikote kokius nors tyrimus šiuo klausimu, kaip tai jiems veikia?
OI: – Parduodame įvarčius Rusijoje, daug apie tai žinau.
In: – Taigi turiu klausimą, ką apie tai daugiau papasakotumėte – apie tai, kas galbūt mūsų visų laukia ateityje. Bet kitas klausimas apie etiką. Jis taip džiaugsmingai pasakė: „Įdomus inžinerinis sprendimas! Ar turite savo etikos kodeksą?
OI: – Taip, beje, yra. Prieš dvejus metus mes jį pristatėme – tik po istorijos su Milonovu nusprendėme kažkaip reitinguoti šiuos projektus. Grįžtant prie reitingo: tai vienas iš itin populiarių klausimų, nes žiniasklaida labai demonizuoja visą šią istoriją – kad žmonės neįleidžiami į užsienį, jie žudomi lazeriu iš mėnulio. Vėl atnešu jums inžinerinių dalykų...
Jei pradėsite gilintis į šią istoriją, pažiūrėkite, kokie parametrai yra įtraukti į šį socialinį reitingą, suprasite: tai apima uždarus alimentus, teistumą, kredito istoriją, tai yra tikrai nuostabus dalykas inžineriniu požiūriu. Jūs gyvenate nepažeisdami įstatymų, gyvenate gerai – jums duoda mažą paskolos palūkanų normą. Turite svarbų socialinį darbą (pavyzdžiui, mokytojo) – jums suteikiamas tinkamas būstas. Iš pradžių tai visus glumino, nes iš pradžių nutekėjo istorija, kad jei blogai parašysi apie prezidentą, tai tavo reitingas bus sumažintas. Nors įrodymų nebuvo. Gindamas reitingą prieš reitingą pasakysiu, kad algoritmo niekas nematė, kokie parametrai ten iš tikrųjų naudojami.
Tada pasirodė istorija, kad daugiau nei milijonui žmonių nebuvo leista išvykti į užsienį ir jiems buvo uždrausta išvykti. Tiesą sakant, tai nėra visiškai tiksli formuluotė. Kai gaunate vizą (pavyzdžiui, į Europą), jums išduodama „70 eurų per dieną“ viza (kažkas panašaus); Jei nepateiksite pajamų įrodymo, jums nebus išduota viza. Kinijoje vietos Užsienio reikalų ministerija nusprendė žengti šiek tiek toliau: tiesiog iš karto perspėjo žmones, kurie neturi pakankamai pinigų, kad jei norėsite išvykti į užsienį, jums neužteks pinigų. Atitinkamai, visa tai vėliau buvo nukreipta į koncepciją, kad vargšams neleidžiama išvykti į užsienį. Tai sudėtingas etinis dalykas, jis ribojasi su tam tikra kaltės ar nekaltumo prezumpcija, bet iš tikrųjų aš negaliu įvertinti.
Žmonės žudo, o ne ginklai
Pagrindinis dalykas, kurį turite suprasti, yra tai, kad visi šie visuomenės smerkiami algoritmai nėra algoritmų problema. Algoritmai tiesiog leido labai greitai išanalizuoti didelį žmonių „apimtį“, ir ši socialinė problema buvo iškelta į viršų. Tai yra, „Microsoft“ robotas, kuris pasimokė iš tviterių ir tapo rasistu – dėl to kaltas ne robotas, o tviteriai, kuriuos jis perskaitė. Arba įmonė, kuri, analizuodama dabartinius, nusprendžia sukurti idealaus darbuotojo modelį ir paaiškėja, kad tai baltaodis, lyties atstovas, turintis aukštąjį išsilavinimą.
Tai nėra modelis, kuris yra rasistas, seksistas ar dar kas nors; tai žmonės, kurie pasamdė šiuos žmones (nesvarbu, ar jie buvo teisūs, ar neteisūs). Viskas tiesiog ribojasi su tuo, kad dirbtinis intelektas yra blogis, blogis, ir jis sunaikins pasaulį, bet iš tikrųjų... Jei sąlyginai dabar, pavyzdžiui, Rusijos valdžia priims įstatymą, kad opozicionieriai nebus atiduoti į laisvę. išsilavinimą, ir jie parašys programinę įrangą, kuri identifikuoja ir atima iš jų šį nemokamą išsilavinimą – kaltas ne algoritmas. Nors šiai mano koncepcijai niekas nepritaria, nes kai sakau, kad ne ginklai žudo žmones, o žmones, „tu fašistas“ ir pan.
Apskritai tai tikrai šaunus inžinerinis sprendimas. Turite suprasti, kodėl taip neatsitiks, pavyzdžiui, Rusijoje. Jūs [Baltarusijoje] to neturėsite, nes esate Europos valstybė, su jumis viskas gerai. Rusijoje to nenutiks dėl daugelio priežasčių: pirma, mes nepasitikime teisėsaugos sistema tokio lygio kaip Kinijoje; Mes neturime tokio pat skaitmeninimo lygio. Kodėl Kinijoje viskas pavyko? Nes vyriausybė: jie turi skaitmeninę mediciną, skaitmeninį draudimą, skaitmeninę policiją. Ir kažkas protingas sugalvojo: sudėkime viską ir pagaminkime – iš esmės tai yra lojalumo programa. Yra daugiau gėrybių nei „negėrybių“.
Todėl taip – manau, kad Rusijoje tai nebus įvesta. Pirmiausia turime suskaitmeninti visą Sveikatos apsaugos ministeriją (ir tai yra 50 metų užduotis) – kažkas turės paaukoti savo gyvybę, kad tai padarytų, bet niekas, žinoma, to nepadarys. Kita vertus, Rusijos bankai yra lyderiai pasaulyje pagal žmonių balus, jie nieko nedaro: „Taip, žmogau? Ar tau patinka jaunos merginos? Štai jūsų meilužės kreditinė kortelė. Ten viskas labai pažengusi. Pavyzdžiui, Amerikoje toks balų skaičiavimas yra draudžiamas beveik visur, nes yra įstatymai, pagal kuriuos bankas privalo jums paaiškinti, kodėl: „Aha! Kadangi „Social Data Hub“ įmonė saugo istoriją 10 metų, o tai atskleidė kažką apie jus! Ir paduosime juos abu į teismą! Bet mes tokių istorijų neturime.
Kodėl statistika nutylima?
Iš principo aš palaikau balų rinkimą, jei tai nėra kažkokia „totalitarinė“ istorija. Tačiau visas klausimas yra tas, kad to neįmanoma numatyti ir įvertinti. Tai pati sunkiausia didžiųjų duomenų etikos istorija – nuspėti socialinį poveikį, kuris bus po 15 metų. Pavyzdžiui, aš labai ilgai maldauju prokuratūrą, kad ji atskleistų informaciją apie nusikaltimus. Nusikaltimų statistika yra vienas iš kertinių bet kokios statistikos akmenų; visi tikrai to nori. Tačiau, pavyzdžiui, Rusijoje jie neatskleidžia nusikalstamumo statistikos dėl labai paprastos priežasties: bijo sugadinti demografiją miestuose. Jie tiki, kad kai kuriuose miestuose žmonės nustos gyventi, o net miesto viduje viskas kažkaip bus perskirstyta. Dėl tos pačios priežasties jie neatskleidžia Vieningų valstybinių egzaminų statistikos – supranti, kad į vieną mokyklą žmonės eis, o į kitas – ne.
Galbūt tai teisinga, galbūt ne, bet buvo daug projektų... Pavyzdžiui, „Yandex“ vienu metu (vėl, pagal „geltonus“ gandus, nemačiau, nežinau) nusprendė prie nekilnojamojo turto prognozavimo modelio pridėkite išpuolių prieš taksi vairuotojus skaičių , tai yra kažkoks požiūris į nusikalstamumo lygį, skaičiuojant taksi vairuotojų skundų skaičių, kad kažkas prie jų priekabiavo, grasino ir pan. Jie greitai atsisakė to įmonėje, kad nedarytų tokių dalykų.
Z: – Bendrauji su studentais, bendrauji su publika savo šalyje, mūsų šalyje. Iš daugybės auditorijos klausimų pastebėjote, kad mes vis dar esame tame vystymosi etape, kai galvojame, kad mums reikia konfidencialumo, kad galime nuo ko nors pasislėpti, apsaugoti savo duomenis jų nepateikdami, slėpdami, šifruodami. Jei Europos Sąjunga jau perėjo į kitą etapą, privatumo etapą, kuris reiškia duomenų kontrolę – priversti visus, kurie renka jūsų duomenis, suteikti jums efektyvią jų kontrolę... Remiantis pavyzdžiais pagal regionus, pagal socialinius sluoksnius - kurios piliečių, žmonių, kategorijos daugiau Ar ji jau perėjo į antrą pakopą, ar kas dar daugiausia sėdi pirmoje?
Kam labiausiai rūpi asmens duomenų saugumas?
OI: – Visiška dauguma... Sakyčiau: niekam nerūpi! Tai dabar kelia nerimą aukščiausio lygio vadovams. Pagal miestus Rusijoje tai yra Maskva ir Sankt Peterburgas. Aktyvus centras – IT specialistai, dizaineriai, kūrybingų profesijų atstovai, visi, kurie moka filtruoti turinį, įgyti naujų žinių, besidomintys tarptautiniais klausimais. Tai daugiausia aukščiausio lygio vadovai; taip, IT specialistai (neskaitant saugos specialistų); bankininkai – tai visi žmonės, kuriuos galėtų kažkaip paveikti duomenų nutekėjimas.
Jei, pavyzdžiui, pavogti kurio nors namų šeimininko duomenys iš kokios nors Kalugos, vargu ar kas nors rimtai pasikeis jo gyvenime, jei kas nors iš jo pavogs, pavyzdžiui, prieigą prie gmail, kur jis saugo prieigą prie TV serialų . Klausimas, kad įstatymas visus vienodai saugo, ir tai yra teisinga, nes... įstatymo požiūriu visi lygūs - haha... bet svarbiausia, kad neįmanoma suprasti, kieno duomenys bus verta, kol šie duomenys dings - deja, labai sunku nuspėti. Bet iš esmės ši piliečių kategorija.
Telefonas – folijoje!
Vienintelį kartą gyvenime mačiau pilną visko ir visko saugojimą dviejose įmonėse. Vienas – didžiausias informacijos saugumo integratorius: ten viskas, net ir USB, biuro viduje užklijuota klijais; ir žmonės ten tokie patys – ten sutikau vyrą, kuris turėjo telefoną folijos maišelyje. Sužinojau, kad yra įmonių, kurios parduoda specialius tokius maišelius. Ir antrą kartą pamačiau panašią istoriją „Bloomberg“ tarp darbuotojų: stovėjome rūkomajame, o kažkas kažkur fotografavo, o vienas iš jų - „Kad mūsų ten fone nesimatytų! Aš sakiau: „O, oho“!
„Mes geresni už FSB“
Nenorėčiau sakyti, kad tai yra mažiau nei vienas procentas gyventojų, bet, deja, bendroje masėje beveik visiems tai nerūpi. Bet kita vertus, turiu skandalingą nepilnamečių veiksmų stebėjimo tarnybą (seniai ją pradėjome su šūkiu „Mes geresni už FSB“), kad įspėtų tėvą, kad nepilnametis kuria šiukšles. , prieš mūsų pačių algoritmą, įdiegtą ten, kur -kas nors jam bus išsiųstas.
Tikrinant vaiką reikia atsiųsti paso skenuotą nuotrauką (tai iš principo įprasta praktika), bet mes rašėme, kad galite nukirpti paso numerį, nes mums tai neįdomu; Mus domina tik tavo nuotrauka, holograma ir vardas bei pavardė. Ir beveik 100% žmonių – na, maždaug 95 pasai iš 100 – šiuos skaičius žmonės kruopščiai iškirpo „Photoshop“ programoje ir atsiuntė tik reikiamą dalį. Tai yra, jie suprato – taip, kadangi jiems to nereikia, vadinasi, nereikia ir siųsti. Mano nuomone, tai yra tam tikra pažanga, kurią paskatino jų nepasitikėjimas mumis.
Z: – Mėginys toks konkretus. Yra besikreipiančių, jie jau pažengę.
Žmonės nenori būti sekami, bet neskaito susitarimų
OI: – Taip. Ir antras dalykas yra tas pats: tų metų pabaigoje paleidome pažinčių programą, skirtą testui (greitai ją paleisime iš naujo). Buvo 100 tūkst. žmonių kontrolinė grupė. O ten, pagal GDPR metodus, mano asmeninėje paskyroje buvo 15 žymės langelių – aš duodu leidimą analizuoti sąveiką su sąsaja, pasiekti savo demografinius duomenis, trimatę veido rekonstrukciją, pasiekti savo asmenines žinutes ir pan. . Kiek įmanoma aprašėme visas galimas prieigas. Netgi kažkur yra statistika, kas kokius langelius pažymėjo. 98% paliko visus langelius pažymėtus pagal numatytuosius nustatymus (nepaisant to, kad jie nuėjo į šį puslapį ir viską matė, bet jiems tai nerūpėjo), tačiau buvo įdomu paanalizuoti šiuos 2% žmonių prioriteto.
Visi atėmė leidimą prieiti prie asmeninių žinučių ir beveik visi atėmė leidimą prieiti prie seksualinių testų duomenų (kas jiems ten patinka, ką ten užpildė, jų iškrypimai – juokauju). Bet žmonės į tai buvo spyrioti, spyrioti: sąsaja jiems sako – perskaitykite tai atidžiai, tai suteikia galimybę slinkti per šią sutartį iki galo. Bet tai buvo padaryta tik todėl, kad tai buvo tyrimo projektas ir visi buvo įspėti. Ne viena įmonė, tarp jų ir mes, išleisdama šią programą į viešąją erdvę, neprivers žmogų perskaityti šią žinią iki galo, nes... na, atsiprašau, taip viskas veikia.
Su sąlyga, kad jie atvyko pas mus, žinodami, ką įmonė veikia, žinodami, kad lankėsi tarnyboje, kuri pasiūlys jums kandidatus pagal tai, kokia pornografija jums patinka - net ir pagal tai tik 2% perskaitė šiuos žymimuosius laukelius ir apskritai kažką padarė . Ir beveik nė vienas iš jų nepažymėjo „Prieiga prie srauto ir duomenų apie apsilankymus kituose tinklalapiuose“. Dažniausiai visi nerimavo dėl asmeninių žinučių.
Nuogumas ir įkalinimas už simpatijas – įdomūs broliškų respublikų įstatymai
Z: – Turiu klausimą dėl duomenų apsaugos. Gali telefoną nešiotis folijoje, apsimesti, kad jų nėra... Tada išeina, kad kažkaip išsisaugai, išsaugai, bet paskui turi atiduoti savo duomenis valstybei, nes ji iš tavęs reikalauja, ir tu tiesiog negali... Ir tada paaiškėja, kad valstybiniai rangovai yra pilni skylių. O Baltarusijoje taip pat yra tokia norma: jei aš patikrinu savo asmens duomenų saugumą (kažką pataisau ir prieinu prie jų), tai aš iš karto esu nusikaltėlis. Tuo pačiu straipsniu „BelT byloje“ buvo apkaltinti žurnalistai neteisėtai prieiti prie duomenų (galite patys perskaityti). Taigi, mano paties klausimas: ar tokie apribojimai yra veiksminga priemonė privatumui ir apskritai privačių duomenų saugumui?
OI: - Aš suprantu. Baltarusijoje yra daug labai įdomių įstatymų. Visai neseniai sužinojau... Vis juokauju apie nuogybių transliavimą, bet pasirodo, kad tai čia draudžiama.
Z: – Demonstracija draudžiama!
OI: - Iš tikrųjų tai kažkaip keista.
Z: – Galite žiūrėti, negalite perkelti, negalite patikti. Jūs negalite to žiūrėti kartu!
OI: – Atsakysiu į tavo klausimą. Grįžtu prie temos „buvimas įkalintas už patinkančius“ Maskvoje. Rusijoje tai yra svarbiausia tema. Nežinau, kaip yra Baltarusijoje, bet, jei atvirai, valstybė... Jei paanalizuosite statistiką, Maskvoje 95 iš 100 areštų už like yra tada, kai žmonės skundėsi žmonėmis, kažkas rašo į prokuratūrą dėl kito. asmuo. Valstybė tokias bylas inicijuoja labai retai. Man atrodo, kad šis įstatymas yra visiškas absurdas. Nežinau nei vieno tikro nusikaltėlio, kuris už tai būtų įkalintas. Tačiau ši priemonė yra naudojama, norint bent ką nors priskirti asmeniui. Man atrodo, kad tai kuo keisčiausia. Manau, kad kada nors jis bus atšauktas.
Z: – Tai vadinama dangčio laikymu.
OI: - Na, gerai... negaliu pasakyti. Nesu visiškai pabaisa už valstybę, bet mano suvokimą šiek tiek keičia žmonės, kurie ateina pas mus ir sako: „Dingo mano vaikas, padėk man jį surasti“. Aš sakau: „Aš nieko negaliu daryti be teismo leidimo“. Jūs žiūrite į šiuos tėvus, kurie atiduotų viską savo gyvenime, suteiktų bet kokią prieigą prie bet kokių duomenų, kad tik išspręstų savo problemą. Todėl man labai sunku tokią diskusiją: viena vertus, manau, kad valstybė elgiasi teisingai, kai gaudo tikrus žmones, bet kita vertus, nekontroliuojamos prieigos suteikimas apskritai yra baisi istorija.
Grįžtu prie jūsų kūrinio, „atsiprašau“, kad išsiblašiau. Aš visiškai netikiu folijos maišeliais. Turėti mobilųjį telefoną ir suvynioti jį į foliją yra kvaila. Kodėl tai daryti? Kad telefonas neprisijungtų prie „Wi-Fi“? Lengviau jį išjungti. Kad mobiliojo ryšio operatorius jūsų neidentifikuotų? Jie vis tiek gali trišalį signalą ir kažkaip jį apskaičiuoti. Man vienintelės veiksmingos apsaugos priemonės yra saugus saugojimas, kaip vietinis tinklas – gal bute, kur galima ką nors laikyti.
Z: – Kyla klausimas dėl teisės aktų. Ar teisės aktai yra represiniai asmens, kuris nori patikrinti jo duomenis, atžvilgiu?
OI: - Suprantu, taip. Aš net nežinojau apie šį dalyką, todėl negaliu tiksliai pasakyti. Rusijoje tokio dalyko nėra, nors ten viskas labai sudėtinga. Ko gero, galima pasikonsultuoti su kvalifikuotais teisininkais ir, ko gero, yra kažkokia spraga - gal galima kreiptis į kokį Europos teismą... Ne? Negaliu tau apie tai papasakoti. Mano teisės žinios paviršutiniškos, įmonės vadovo lygio. Žinau, ko nedaryti, niekam nieko nesakant. Tai, žinoma, labai liūdna.
Z: – Turiu omenyje tai, kad kitose šalyse (pavyzdžiui, valstijose) yra įprasta praktika, kai gali išbandyti kokį nors pažeidžiamumą, o tada pranešti, bet neatskleisti.
OI: - Taip, „klaidų dovana“. Supratau, kad yra toks dalykas.
Z: „Ir įmonės neturi mechanizmo, kaip jus pašalinti, nes tai pigiau“.
OI: – Šis dalykas taip pat ribojasi su įstatymo lygiu. Tai priklauso nuo to, kaip rasite šį pažeidžiamumą. Man atrodo, kad daug pinigų, sumokėtų už šį pažeidžiamumą Amerikoje, buvo sumokėta pagal neatskleidimo susitarimus ir grasinimus paduoti žmogų į teismą. Taip pat tarsi jis nelaikytų žvakės. Mes visada rizikuojame tokiais dalykais. Mano darbuotojai kelis kartus aptiko panašių spragų įvairiose vyriausybės programose – aš visada sakau: „Geriau siųskite anoniminį laišką, nei pasakykite, kad ten yra skylė“. Ir tada ateis koks nors tyrimų institutas ir teiks šią paslaugą... Apskritai aš netęsiu.
Neįmanoma patikrinti verslo vientisumo: jei jums tai nepatinka, nesinaudokite
Z: - Klausimas. Sakėte, kad atlikote eksperimentą – reikėjo pažymėti 15 langelių... Tarkime, vartotojas atšaukia visus varneles. Kas ir kaip tai kontroliuos? Kaip galiu tai patikrinti?
OI: – Pasakysiu nuoširdžiai: niekas ir jokiu būdu. Rimtai. Tai, kad „Google“ pažymėjote ir atžymėjote laukelį „Uždrausti skelbimų stebėjimą“, visiškai nieko nereiškia. Deja, net ir uždraudus indeksuoti paieškos variklius VKontakte, paieškos sistemos vis tiek ją indeksuoja, o tada tiesiog nepateikia šių rezultatų tam tikriems žmonėms. Taip yra dėl to, kad trūksta kompetentingų institucijų, kurios negali to patikrinti. Be to, tuo užsiimančios įmonės yra privačios. Nesvarbu, ar „Facebook“ turi teisingą, ar neteisingą poziciją, jie turi vieną: jei jums tai nepatinka, nesinaudokite.
Apie reguliavimą
Z: – Turiu tik vieną paprastą klausimą. Kaip vertinate duomenų tvarkymo ir savireguliacijos reguliavimo klausimą?
OI: – Kaip įmonės atstovas manau, kad rinkai ir verslui reikia savireguliacijos. Manau, kad Didžiųjų duomenų asociacija gali viską reguliuoti pati, be valstybės. Tikrai nepasitikiu valdžios reguliavimu ir tikrai nepasitikiu visomis istorijomis, kai valstybė nori ką nors pasilikti sau, nes kiekvienas atvejis parodydavo, kad tai yra labai blogai. Kažkas tikrai uždės prisijungimo vardą ir slaptažodį ant geltono lipduko ant monitoriaus ir pan.
Apskritai aš tikiu savireguliacija. Be to, tikiu, kad per ateinančius 5 metus pasieksime kažkokį atvirumą. Net ir dabar tai jau matosi iš naujienų srautų, kad valstybei labai sunku meluoti vartotojams, o vartotojams labai sunku meluoti sistemai. Ir tai iš principo tikriausiai yra gerai. Kadangi mūsų žvalgybos pareigūnai atpažįstami iš viešų nuotraukų
Visa tai greičiausiai lemia nusikalstamumo mažėjimą. Na, grynai matematiškai. Jei kam įdomu kalbėti apie nusikalstamumo mažinimą, galima padaryti daug įvairių išvadų. Apskritai aš esu už rinkos savireguliavimą. Ačiū!
Kai kurie skelbimai 🙂
Dėkojame, kad likote su mumis. Ar jums patinka mūsų straipsniai? Norite pamatyti įdomesnio turinio? Palaikykite mus pateikdami užsakymą ar rekomenduodami draugams, , unikalus pradinio lygio serverių analogas, kurį mes sugalvojome jums: (galima su RAID1 ir RAID10, iki 24 branduolių ir iki 40 GB DDR4).
„Dell R730xd“ 2 kartus pigiau „Equinix Tier IV“ duomenų centre Amsterdame? Tik čia Olandijoje! „Dell R420“ – 2 x E5-2430 2.2 GHz 6C 128 GB DDR3 2 x 960 GB SSD 1 Gbps 100 TB – nuo 99 USD! Skaityti apie
Šaltinis: www.habr.com