"Na czym korporacje kręcą twoją prywatnością", Artur Chaczujan (Tazeros Global)

Dzień Ochrony Danych Osobowych, Mińsk, rok 2019. Organizator: organizacja praw człowieka Human Constanta.

Prowadzący (dalej – P): – Artur Chaczujan zajmuje się... Można by powiedzieć "po ciemnej stronie" w kontekście naszej konferencji?

Artur Chaczujan (dalej – ACh): – Po stronie korporacji – tak.

P: – Zbiera twoje dane, sprzedaje je korporacjom.

ACh: – W rzeczywistości nie...

P: – I on właśnie opowie, jak korporacje mogą wykorzystać twoje dane, co dzieje się z danymi, gdy trafiają do sieci. Nie będzie zapewne mówić, co z tym zrobić. Pomyślimy dalej...

ACh: – Opowiem, opowiem. Tak naprawdę nie będę długo opowiadał, ale na poprzednim wydarzeniu przedstawiono mi osobę, której "Facebook" nawet zablokował konto psa.
Cześć wszystkim! Nazywam się Artur. Rzeczywiście zajmuję się przetwarzaniem i zbieraniem danych. Oczywiście nie sprzedaję nikomu żadnych danych osobowych w otwartym dostępie. Żartuję. Moja dziedzina działalności to wydobywanie wiedzy z danych znajdujących się w otwartych źródłach. Kiedy coś prawnie nie jest danymi osobowymi, ale można z tego wydobyć wiedzę i uczynić je tak samo istotnymi, jak gdyby dane te były uzyskane z danych osobowych. Tak naprawdę nie opowiem nic przerażającego. Tu, prawda, o Rosji, ale mam też dane dotyczące Białorusi.

Jakie są prawdziwe rozmiary?

Zaledwie przedwczoraj byłem w Moskwie w jednej z kierowniczych partii rządzących (nie będę mówił, w której), i omawialiśmy wdrożenie jakiegoś projektu. I więc dyrektor IT tej partii wstaje i mówi: "Mówiliście, – liczby i tak dalej, – wiecie, 2. zarząd FSB przygotowało mi notatkę, w której napisano, że w sieciach społecznościowych jest 24 miliony Rosjan. A wy mówicie – 120 z czymś. A my w ogóle mamy więcej niż trzydzieści [milionów] osób, które nie korzystają z internetu". Mówię: "Tak? No, okej".

Ludzie tak naprawdę nie zdają sobie sprawy z rozmachu. To niekoniecznie władze państwowe, które prawdopodobnie nie rozumieją, jak działa internet, ale także moja mama, na przykład. Dopiero teraz zaczyna rozumieć, że kartę w 'Перекрёстке' dostaje nie za darmo, nie za błahą zniżkę, którą oferuje ten 'Перекрёсток', a dlatego, że później jej dane są wykorzystywane w OFD, zakupach, modelach prognostycznych i tak dalej.

Generalnie mieszkańców jest tylu, a o tylu jest informacja w otwartych źródłach. O niektórych znana jest tylko nazwisko, o innych wiadomo wszystko, łącznie z pornografią, którą lajkują (zawsze z tego żartuję, ale tak naprawdę jest); i wszelkie informacje: jak często ludzie podróżują, z kim się spotykają, jakie zakupy robią, z kim mieszkają, jak się przemieszczają – mnóstwo różnorodnych informacji, które mogą być wykorzystane przez złych, nie bardzo złych i dobrych ludzi (nawet nie wiem, jaką teraz skalę wymyślić, ale jednak).

Są media społecznościowe, które są naturalnie ogromnym zbiorem otwartych danych, grając na słabości ludzi, którzy niby krzyczą o prywatności. A tak naprawdę jest tak: jeśli wyobrazisz sobie wykres z ostatnich 5 lat – poziom histerii dotyczący danych osobowych rośnie, ale jednocześnie liczba zamkniętych kont w mediach społecznościowych maleje z roku na rok. Może nie do końca poprawne są wnioski, ale: pierwszym, co zniechęca każdą firmę zbierającą dane – jest po prostu zamknięte konto w mediach społecznościowych, ponieważ opinia człowieka w swoim zamkniętym koncie, jeśli nie ma 100 tysięcy subskrybentów, nie jest tak naprawdę ciekawa dla jakiejkolwiek analizy; ale zdarzają się też takie przypadki.

Skąd bierze się informacja o nas?

Czy kiedykolwiek do Twoich drzwi pukały stare szkolne przyjaciółki, z którymi dawno nie rozmawiałeś, a następnie te konta znikały? Tacy źli ludzie zbierają numery telefonów: analizują znajomych (a lista znajomych prawie zawsze jest otwarta, nawet jeśli dana osoba zamyka swój profil, listę znajomych można „odtworzyć w odwrotną stronę”, zbierając wszystkich innych użytkowników), biorą jakiegoś nieaktywnego przyjaciela, kopiują jego stronę, wysyłają zaproszenie do znajomych, dodajesz go, a po dwóch sekundach konto zostaje usunięte; ale ich kopia Twojej strony pozostaje. Tak w zasadzie robili ludzie niedawno, gdy 68 milionów profili z Facebooka zniknęło gdzieś – dodawali się do wszystkich w znajomych, kopiowali te informacje, nawet pisali do kogoś w wiadomościach prywatnych, coś robili...

Media społecznościowe to ogromne źródło informacji, praktycznie w 80% przypadków informacje o konkretnej osobie zdobywane są nie bezpośrednio, a z otoczenia – są to różnego rodzaju pośrednie wiedzy, sygnały (nazywamy to „algorytmem „Złej byłej”), bo jedna moja znajoma podsunęła mi tę absolutnie genialną myśl. Ona nigdy nie obserwowała swojego chłopaka – zawsze obserwowała pięciu jego przyjaciół i zawsze wiedziała, gdzie się znajduje. To w rzeczywistości temat na całą naukową pracę.

Istnieje ogromna liczba botów, które również robią różne dobre i złe rzeczy. Są niewinne, które po prostu subskrybują Cię, aby później reklamować kosmetyki; a są poważne sieci, które próbują narzucić swoje zdanie, zwłaszcza przed wyborami. Nie wiem, jak w Białorusi, ale w Moskwie przed wyborami municypalnymi nagle pojawiło się u mnie ogromna ilość dziwnych znajomych, a każdy z nich agitował za innego kandydata, to znaczy absolutnie nie analizują treści, które konsumuję – po prostu próbują narzucić jakąś niejasną reformę, biorąc pod uwagę, że w Moskwie w ogóle nie jestem zameldowany i nie zamierzam głosować.

Śmieci – źródło niebezpiecznych informacji.

Dodatkowo jest „Tor”, który nie jest niedoceniany - wszyscy uważają, że należy tam wejść tylko po to, aby kupić narkotyki lub dowiedzieć się, jak zbierać broń. W rzeczywistości jednak znajduje się tam wiele źródeł danych. Są one prawie wszystkie nielegalne (lub przynajmniej półlegalne), ponieważ ktoś mógł włamać się na jakieś hakerskie strony i tam je umieścić. Prawnie nie możesz tych danych używać, ale jeśli zdobędziesz z nich jakąś wiedzę (jak w amerykańskim sądzie) - na przykład nagranie rozmowy telefonicznej, zgromadzone bez nakazu, nie możesz użyć go, ale wiedza, którą z tej rozmowy uzyskałeś, nie zostanie zapomniana - tutaj jest podobnie.

To w rzeczywistości bardzo niebezpieczna rzecz, dlatego zawsze żartuję, ale to prawda. Zawsze zamawiam jedzenie z sąsiedniego domu, ponieważ „Delivery Club” bardzo często ma problemy z bezpieczeństwem. Ostatnio byłem bardzo zaskoczony: zamawiając produkty, na pudełku, które wrzucałem do kosza, była naklejka z napisem - „Artur Hachunyan”, numer telefonu, adres mieszkania, kod do domofonu i e-mail. Nawet naprawdę próbowaliśmy umówić się z moskiewskim urzędem miejskim, aby uzyskać dostęp do śmietnika: ogólnie rzecz biorąc, przyjechać na wysypisko i spróbować znaleźć jakieś wzmianki o tych danych osobowych - zrobić coś w rodzaju mini-badania. Ale odmówili, gdy dowiedzieli się, że chcemy przyjść z pracownikami Roskomnadzoru.

Ale tak naprawdę to prawda. Czy widziałeś świetny film „Hakerzy”? Przeszukiwali śmieci, aby znaleźć fragment wirusa. To także popularna sprawa - ludzie, kiedy coś wyrzucają do otwartych źródeł, zapominają o tym. Może to być jakaś strona szkolna, na której pisali pracę dyplomową o wyższości białej rasy, a potem poszli do Dumy Państwowej i zapomnieli o tym. Takie przypadki miały miejsce naprawdę.

Co lubią „jednorosy”?

Jeśli wejdziecie w „top” na stronie „LifeNews”… Dwa lata temu moi studenci przeprowadzili badanie: wzięli wszystkich uczestników prawy w „Jednej Rosji” (wszyscy zgłosili swoje konta na mediach społecznościowych do CEC), sprawdzili, co w ogóle lajkują – pornografię dziecięcą, trashowe treści, niezrozumiałe ogłoszenia od dziwnych dorosłych kobiet… Generalnie, ludzie jakby o tym zapomnieli.

Potem napisali list o tym, że dwudziestu osobom skradziono konta. Ale konta skradziono im dwa tygodnie temu, osiem miesięcy temu złożyli je w komisji wyborczej, a lajki były dwa lata temu… Rozumiecie, tak? Jest tam naprawdę ogromna ilość informacji, którą nawet w celach badawczych można zawsze wykorzystać.

Minioftop: wczoraj widziałem wiadomość, że Roskomnadzor zablokował badania studentów „wyrsza” sprzed dwóch lat. Może ktoś widział tę wiadomość? To badanie robili moi studenci: z „Tora”, ze strony „Hydra”, gdzie sprzedawane są narkotyki (przepraszam – z „Rampy”), zebrali informacje o tym, ile, co, w jakim regionie Rosji kosztuje, i przeprowadzili badanie. Nazywało się „Koszyk konsumencki imprezowicza”. To oczywiście śmieszna sprawa, ale z punktu widzenia analizy danych to rzeczywiście interesujący zbiór danych – później jeszcze przez około dwa lata chodziłem po różnych „hackathonach”. To realna rzecz – jest tam dużo ciekawych informacji.

Jak Get Contact „kupił dusze” ciekawskich użytkowników i dlaczego warto czytać regulamin użytkowania

Zwykle, gdy pytasz kogoś, jakiej utraty danych się obawia (szczególnie, jeśli osoba ma zaklejoną kamerę internetową), zawsze ustawia priorytety w ten sposób: hakerzy, państwo, korporacje.

To oczywiście żart. Ale w rzeczywistości aktywni analitycy danych, wszyscy możliwi badacze danych ukradli znacznie więcej, niż wydaje mi się, że straszni rosyjscy, amerykańscy czy jacyś inni hakerzy (podstawcie dowolnych, w zależności od waszych poglądów politycznych). Generalnie, zazwyczaj wszyscy się tego boją – na pewno macie zaklejoną kamerę internetową? Nie musicie nawet podnosić rąk.

Ale jeśli hakerzy robią coś nielegalnego, a państwo potrzebuje sądowego zezwolenia na pozyskanie danych, to ostatnim facetom [korporacjom] w ogóle nic nie potrzeba, ponieważ mają coś takiego jak umowa użytkownika, której nikt nigdy w życiu nie czyta. I bardzo mam nadzieję, że podobne wydarzenia zmuszą ludzi do czytania umów. Nie wiem, jak w Białorusi, ale w Moskwie w połowie tego roku była fala aplikacji „GetContact” (pewnie byliście na bieżąco), kiedy pojawiła się niezrozumiała aplikacja, która mówi: daj aplikacji dostęp do wszystkich swoich kontaktów, a my pokażemy ci, jak się do kogoś zabawnie zapisałeś.

W mediach to nie wyszło, ale wielu wysokich rangą pracowników skarżyło się, że zaczęli do nich dzwonić nieustannie. Najwyraźniej administratorzy postanowili znaleźć w tej bazie telefon Szojgu, czy kogoś innego… Wołoczkową… Nieszkodliwa sprawa. Ale ci, którzy czytali umowę licencyjną „GetContact” – tam jest napisane: spam w nieograniczonej ilości w nieograniczonym czasie, sprzedaż twoich danych kontrolowaną przez osoby trzecie, bez ograniczeń w prawie, okresie przedawnienia i w ogóle we wszystkim, co tylko możliwe. I to tak naprawdę nie jest taka super rzadka historia. Mnie „Facebook”, kiedy tam byłem, pokazywał 15 razy dziennie powiadomienia: „A zsynchronizuj kontakty, a znajdę ci wszystkich twoich przyjaciół, których masz!”.

Korporacjom wszystko jedno. FZ 152 i RODO.

Ale tak naprawdę priorytety są odwrotne, ponieważ korporacje chroni prawo prywatne i dlatego w praktyce w prawie wszystkich przypadkach niemożliwe jest udowodnienie, że ma rację. A biorąc pod uwagę, że jest duża, straszna i bardzo droga, to praktycznie niemożliwe. A jeśli jeszcze jesteście w Rosji, z przestarzałym prawodawstwem, to wszystko wygląda jeszcze bardziej ponuro.

Czy wiesz, czym różni się rosyjskie prawo (a jest praktycznie białoruskie) od np. RODO? Rosyjski FZ nr 152 chroni dane (to pozostałość po czasach sowieckich) – dokument, który chroni dane przed wyciekiem gdzieś. A RODO chroni prawa użytkowników – prawa do tego, że mogą stracić jakieś wolności, przywileje lub coś innego, ponieważ ich dane gdzieś wyciekną (wprowadzono pojęcie „data-li”). A u nas wszystko, co mogą ci wmenić, to mandat za brak certyfikowanego „open”-„Excela” do przetwarzania danych osobowych. Mam nadzieję, że to kiedyś się zmieni, ale myślę, że nie w najbliższym czasie.

Jakie są rzeczywiste możliwości targetowania dziś?

Pierwsza, chyba, przerażająca historia, o której wszyscy ciągle myśleli – to czytanie osobistych wiadomości. Na pewno wśród was jest ktoś, kto kiedykolwiek coś mówił na głos, a potem dostawał reklamę skierowaną do niego. Tak, były takie przypadki? Proszę o podniesienie rąk.

Naprawdę nie wierzę w to, że przykładowy „Yandex Navigator” rozpoznaje dokładnie audio w strumieniu dla wszystkich użytkowników, ponieważ ci, którzy nieco zetknęli się z rozpoznawaniem głosu, rozumieją, że: po pierwsze, centrum danych „Yandeksu” musiałoby być pięciokrotnie większe; ale najważniejsze, koszt pozyskania takiej osoby kosztowałby ogromne pieniądze (żeby w strumieniu rozpoznawać audio i rozumieć, o czym mówi człowiek). Ale! Są naprawdę algorytmy, które oznaczają cię według określonych słów kluczowych, aby potem prowadzić jakąś komunikację reklamową.

Przeprowadzono wiele takich badań, a ja 100 razy tworzyłem czyste konta, pisałem do kogoś w wiadomościach, a potem nagle otrzymywałem reklamy, które wydawały się całkowicie niezwiązane z tym. W rzeczywistości są dwa wnioski. W takim przypadku twierdzi się, że człowiek po prostu znalazł się w jakiejś statystycznej próbie; powiedzmy, że jesteś mężczyzną w wieku 25 lat, który właśnie w tym momencie powinien natknąć się na kursy języka angielskiego dokładnie w momencie, gdy napisałeś do kogoś. Przynajmniej „Facebook” zawsze tak mówi w sądzie: że istnieje pewien model zachowań, którego nie pokażemy, który został zbudowany na danych, których nie pokażemy, mamy wewnętrzne badania, których na pewno nie pokażemy (ponieważ to wszystko to tajemnica handlowa); ogólnie rzecz biorąc, znalazłeś się w jakiejś statystycznej próbie, dlatego to ci pokazaliśmy.

Jak „Facebook” rozwścieczył prywatność użytkowników

Niestety, w ogóle nie da się tego udowodnić, jeśli nie masz kogoś wewnątrz firmy, kto jakoś potwierdzi te działania. Ale w amerykańskim prawie w takim przypadku umowa o nieujawnianiu informacji tego pracownika ma wyższy priorytet niż jego chęć pomocy, dlatego nikt tego nie zrobi. Ciekawe jest to, że gdzieś rok lub półtorej roku temu zaczął rozwijać się w Stanach trend, kiedy ludzie instalowali rozszerzenia do przeglądarek, aby szyfrować wiadomości na „Facebooku”: piszesz coś do kogoś, on szyfruje to kluczem na urządzeniu i wysyła to w otwartym dostępie.

Oto „Facebook” przez półtora roku procesował się z tą firmą i wciąż nie wiadomo na jakich podstawach (bo nie znam się na amerykańskim prawie) zmusił ich do usunięcia tej aplikacji, a potem wprowadził zmianę w umowie użytkownika: jeśli spojrzysz, tam jest taki punkt, że nie możesz przesyłać wiadomości w formie zaszyfrowanej – jakoś to jest tak sprytnie opisane, że nie możesz używać algorytmów kryptograficznych do modyfikowania wiadomości – no, tak jest. To znaczy, że powiedzieli: albo korzystasz z naszej platformy, piszesz w otwartym dostępie, albo nie piszesz. I stąd pojawia się pytanie: po co w ogóle potrzebują osobistych wiadomości?

Osobiste wiadomości to źródło stuprocentowo wiarygodnych informacji.

To bardzo prosta sprawa. Wszyscy, którzy zajmują się analizą cyfrowego śladu, aktywnością ludzi, starają się wykorzystać te dane do marketingu lub czegoś innego – mają taką metrykę jak wiarygodność. To znaczy, pewien obraz człowieka – doskonale rozumiesz, że to nie jest sam człowiek – ten obraz zawsze jest nieco bardziej udany, nieco lepszy. Wiadomości osobiste to prawdziwa wiedza, którą można uzyskać o człowieku, są one prawie zawsze w 100% wiarygodne. Dlaczego? Bo rzadko ktoś pisze coś osobistego, kłamie, a wszystko to jest bardzo łatwe do zweryfikowania – odpowiednio, na podstawie innych wiadomości (wiesz, o co mi chodzi). Rzecz w tym, że wiedza pozyskana w ten sposób jest prawie w 100% wiarygodna, dlatego wszyscy zawsze próbują ją zdobyć.

Jednak wciąż jest to historia, która jest bardzo trudna do udowodnienia. A ci, którzy wierzą, że „VKontakte” ma taki dostęp dla organów ścigania do wiadomości osobistych, nie są do końca w prawie. Jeśli spojrzysz na historię wniosków sądowych o ujawnienie informacji – jak „VKontakte” bardzo sprytnie (w tym przypadku Mail.ru) broni się przed tymi wnioskami.
Ich głównym argumentem zawsze jest: zgodnie z prawem organy ścigania muszą uzasadnić, dlaczego potrzebują dostępu do wiadomości osobistych. Zazwyczaj, jeśli to morderstwo, zawsze śledczy mówi, że najprawdopodobniej osoba powiedziała, gdzie ukryła broń (w wiadomościach osobistych). Ale rozumiemy, że żaden rozsądny przestępca w życiu nie napisze swoim wspólnikom na „VKontakte”, gdzie ukrył broń palną. Ale to jeden z popularnych sposobów, w jakie urzędnicy się rozliczają.

Oto kolejny przerażający przykład (dzisiaj proszono mnie o przerażające przykłady) – dotyczący Rosji (mam nadzieję, że w Białorusi coś takiego się nie zdarzy): według prawa, śledczy musi mieć wystarczające powody, aby ujawnić te informacje dla operatora. Oczywiście nigdzie nie opisano, jakie to muszą być wiarygodne parametry (jakie, w jakiej formie), ale w Rosji obecnie pojawia się coraz więcej precedensów, gdy takie podstawy w sądzie mogą wystąpić, jeśli istnieje model, który przewidział określone, dobre lub złe, zachowanie.

To znaczy, że nikt nie może być skazany (i to dobrze) za to, że znalazł się w pewnej statystycznej próbce czystokrwistych zabójców – i to dobrze, ponieważ narusza to domniemanie niewinności; ale istnieją precedensy, gdy wyniki takich prognoz były wykorzystywane do uzyskania sądowego zezwolenia na dostęp do danych. Nie tylko w Rosji, nawiasem mówiąc. W Ameryce także mają podobne systemy. Tam 'Palantir' już od dawna stosuje takie rozwiązania. To przerażająca historia.

To moje badanie. Przeprowadziliśmy coś takiego: spacerując po Petersburgu, w miejscach zielonych punktów pisaliśmy kluczowe wiadomości do przyjaciół z 'czystych' kont – na przykład 'chciałbym wypić kawę', 'gdzie kupić proszek do prania?' i tak dalej. A potem, odpowiednio, otrzymywaliśmy geo-związane reklamy. W jakiś magiczny sposób… Albo jak to mówiono: 'Przypadek? Nie sądzę!' To osobiste wiadomości z 'Vkontakte'. Niech mi wybaczy Mail.ru, ale tak to jest. Każdy chętny może powtórzyć taki eksperyment.

Swoją drogą, kiedy pisaliśmy zgłoszenie do wsparcia, Mail powiedział, że były tam punkty wi-fi, które przechwyciły twój adres MAC. Takie rzeczy też się zdarzają.

Sposoby uzyskiwania oraz rozpowszechnione warianty 'wycieku' danych osobowych

Następna historia to wyciągnięcie dodatkowej wiedzy, kawałek której faktycznie dotknąłem. W rzeczywistości wypełniony profil osoby w mediach społecznościowych niesie ze sobą 15–20% realnej wiedzy, którą operator danych przechowuje o niej. Cała reszta historii pochodzi z bardzo interesujących rzeczy. Dlaczego, myślicie, „Google” intensywnie rozwija biblioteki do widzenia komputerowego? Przede wszystkim byli jednymi z pierwszych, którzy rozwijali biblioteki do analizy i kategoryzacji obiektów – w tle, na pierwszym planie, nieważne gdzie. Ponieważ to ogromne źródło dodatkowych informacji o tym, jakie ma ktoś mieszkanie, samochód, gdzie mieszka, dobra luksusowe...

Było wiele „hakerskich” przecieków, kiedy wyciekły wytrenowane sieci neuronowe „Google” (nie wiem, czyje one były, ale mimo to). Było tam wiele interesujących informacji na temat rozmiaru biustu, obwodu talii – co tylko ludzie nie próbowali odkryć o innych na podstawie analizy zdjęć. Ponieważ, gdy ktoś robi zdjęcie, nie zawsze myśli o tym, ile ciekawych rzeczy można z niego wyciągnąć? A ile w Rosji ludzie wrzucają zdjęcia paszportów noworodków?.. Albo: „Hurra, moje dziecko otrzymało wizę”! To w ogóle problem współczesnego społeczeństwa.

Jeszcze tak na marginesie (dziś będę dzielił się z Wami faktami): w Moskwie najczęstsze wycieki danych osobowych to wyrzucanie listy dłużników na drzwi, a ci dłużnicy później idą do sądu, ponieważ ich dane osobowe trafiły do publicznego dostępu bez ich zgody. Oby to nie zdarzyło się również Wam... Chodzi o to, że kiedy człowiek coś robi, nie wie, co było na tym zdjęciu, a czego nie było. Liczb pojazdów jest teraz wiele.

Kiedyś przeprowadziliśmy badanie – próbowaliśmy zrozumieć, ile osób ma otwarte zdjęcia samochodów (mają zatem odpowiednio wykroczenia i tak dalej) – to, niestety, można było tylko zrobić na podstawie przecieków z baz GIBDD, gdzie jest tylko numer (nie bardzo wiarygodne informacje), ale było to również ciekawe.

Twoja następna reklama zależy od tego, jak „przeżyłeś” poprzednią.

To pierwsza historia. Druga historia to modele zachowań, treści, które konsumuje człowiek, ponieważ jedną z najważniejszych metryk, które media społecznościowe próbują o tobie zbudować, jest to, jak wchodzisz w interakcję z reklamą. Jak precyzyjne i „niesamowite” by nie były algorytmy, jak świetnie nie działałyby sztuczne inteligencje i wszystko inne, to prawdziwym priorytetem sieci społecznościowej zawsze jest zarabianie pieniędzy. Dlatego, jeśli pojawi się hipotetyczny „Coca-Cola” i powie – „Chcę, żeby mojego posta zobaczyli wszyscy mieszkańcy Białorusi” – to go zobaczą, niezależnie od tego, co na temat tej osoby myślą algorytmy, jak ją retargetują. Na pewno dostawałeś reklamy, poza super-targetowanymi, zupełnie niezwiązane bzdury. Ponieważ za te zupełnie niezwiązane bzdury zapłacono bardzo dużo pieniędzy.

Ale jedną z najważniejszych metryk jest zrozumienie, z jaką treścią wchodzisz w interakcję najlepiej, a dokładniej – jak na nią reagujesz, aby pokazywać ci podobną reklamową historię. I odpowiednio, jest to metryka tego, jak wchodzisz w interakcję z reklamą: kto ją blokuje, kto – nie, jak człowiek klika, czy czyta tylko nagłówki, czy wnika w materiał; a potem na podstawie tego kontynuować jego trzymanie w tym, jak to się teraz nazywa, „bańce filtrów”, aby dalej wchodził w interakcje z tą treścią.

Jeśli kiedykolwiek będziesz ciekawy, spróbuj przez długi czas, przez tydzień, może miesiąc, po prostu blokować całą reklamę z mediów społecznościowych: pokazują ci jakąś reklamę – zamykasz ją. Jeśli to analizujesz i nałożysz na wykres, wyjdzie ciekawa historia: jeśli przez tydzień będziesz blokować reklamy, w następnym tygodniu będą ci pokazywać je wzmocnione i w ogóle z różnych kategorii; to znaczy, że jeśli lubisz psy i pokazują ci reklamy z psami – zablokujesz wszystkie psy, a potem zaczną ci pokazywać różnorodne bzdury z różnych kategorii, aby spróbować zrozumieć, czego potrzebujesz.

A potem, w końcu, zostaniesz odnotowany jako osoba, która nie angażuje się w reklamę, nałożą na ciebie symboliczny krzyżyk, a w tym momencie zaczną pokazywać ci reklamę tylko bogatych marek. To znaczy, że w tym momencie będziesz widzieć reklamę tylko „Coca-Coli”, „Kit Kat”, „Unilevera” i innych, którzy „wywalają” ogromne pieniądze, ponieważ trzeba sztucznie zwiększać wyświetlenia. Przez miesiąc przeprowadź eksperyment: przez tydzień lub dwa blokuj całą reklamę, potem oglądaj wszystko z rzędu i blokuj ją, – w końcu będziesz widzieć tylko reklamy, jak potem się okazuje (i mówią agencje reklamowe), tylko klientów, którzy płacą za wyświetlenia, ponieważ nie da się zrozumieć, jak wchodziłeś w interakcję z tą reklamą.

Pornografię częściej oglądają ci, którzy mają tendencję do głębokiego zanurzenia się w treści.

W związku z tym mowa o różnorodnym śledzeniu zachowań. Mam tutaj ciekawy przykład – odwiedzający jedną witrynę rządową. Najzabawniejsze jest to, że im większa głębokość przeglądania u ludzi, tym więcej z tych osób woli oglądanie pornografii od tradycyjnych relacji. Przepraszam, że ciągle o tym mówię, ale w rzeczywistości mam bardzo dobre relacje z „Pornhubem”, i to zawsze bardzo interesujące badania, ponieważ to temat, który wydaje się zakazany, ale wiele mówi o człowieku. A następne punkty dotyczące przepływu ruchu… Jeszcze na „Pornhub” wrócimy!

Co uważa się za dane osobowe i czy można odblokować „iPhone'a” 3D-modelem twarzy?

Moje ulubione to obejście przepisów o danych osobowych. Jeśli poczytać dokumentację techniczną tego samego „Facebooka”, który dostarczał jakieś wewnętrzne dokumenty (na przykład w sądzie), to nie znajdziesz tam wzmianki ani o rozpoznawaniu twarzy, ani o analizie głosu. Będą tam bardzo skomplikowane sformułowania, które żaden wykwalifikowany prawnik nie znajdzie w przepisach prawa. U nas w Rosji działa to w podobny sposób – pokażę ci teraz coś takiego.

Co widzicie tutaj? Każda normalna osoba powie, że to twarz. To, nawiasem mówiąc, Sasha Grey, moim zdaniem. A prawnie to jest – matryca pewnych trójwymiarowych punktów, których tutaj jest 300 tysięcy. Dobrze czy źle, ale według prawa nie są to dane osobowe. W ogóle, rosyjski RKN nie uważa jednego zdjęcia za dane osobowe – uznaje za dane osobowe tylko wtedy, gdy obok są jeszcze inne informacje (na przykład imię i nazwisko lub numer telefonu), a samo w sobie to zdjęcie jest w ogóle niczym. Gdy tylko wprowadzono ustawę o biometrii i dane biometryczne potraktowano jako dane osobowe (tak, bardzo ogólnie), wszyscy od razu zaczęli mówić: to nie są dane biometryczne, to zbór punktów! Szczególnie, jeśli z tego zbioru punktów weźmie się transformację Fouriera, jakby tak deanonimizować osobę – w wyniku tej transformacji nie można, ale zidentyfikować ją można. Teoretycznie ta ustawa niczego nie narusza.
Zrobiłem też inne badanie: to algorytm, który buduje trójwymiarową rekonstrukcję twarzy na podstawie otwartych źródeł – bierzemy konto na "Instagramie" i można potem wydrukować buzię na drukarce 3D. Kto, nawiasem mówiąc, jest zainteresowany, mam link w otwartym dostępie; jeśli ktoś chce odblokować czyjegoś "iPhone'a"... Żartuję – "iPhone'a" nie da się odblokować, tam jakość jest obniżona.

Zamknięty profil to zaleta dla bezpieczeństwa.

To jest pierwsza rzecz, a druga… Już dotykałem kwestii, że informacje w głównej mierze pozyskuje się z otoczenia użytkownika. Ten obrazek rysowałem w 2017 roku: przeciętny użytkownik rosyjskich sieci społecznościowych – jest wewnątrz, ma średnio 200–300 znajomych, jego znajomi znajomych i znajomi znajomych znajomych.

Dziękuję sieciom społecznościowym za wprowadzenie algorytmów "inteligentnych" e-feedów, które rzekomo zwiększają prawdopodobieństwo zetknięcia się z jakąś interesującą treścią. Ta liczba ludzi może w każdej chwili zobaczyć treść, którą tworzysz, nawet jeśli twój konto jest ograniczone tylko do najwyższych poziomów prywatności (tylko dla znajomych znajomych itd.). Oto to – znajomi znajomych:

Jeśli ktoś myśli, że wybierając w VK w „Moich postach” opcję „przyjaciele znajomych”, to trzy uściski dłoni to około 800 tysięcy osób, co nie jest w sumie mało, ale zależy od twojej treści. Może prowadzisz jakieś nieprzyzwoite streamy, a wszyscy ci przyjaciele znajomych mogą wchodzić w interakcje z tymi treściami. Ktoś z nich może coś gdzieś udostępnić, wszyscy ludzie mają swoją tablicę polubień, która najprawdopodobniej zostanie odwołana, ponieważ to nie jest najprzyjemniejsza rzecz. Dlatego w każdej chwili treść może gdzieś trafić.

W VK w zeszłym roku wprowadzili jeszcze superzamknięte profile, ale jak dotąd skorzystało z tego bardzo niewiele osób (nie będę mówił ile, ale mało!). Może pewnego dnia ludzie wpadną na ten pomysł – szczerze na to liczę. Wszystkie badania są nieustannie skierowane na to, aby pomóc ludziom zrozumieć skalę problemów. Ponieważ dopóki kogoś konkretnie nie dotkną jakieś straszne kwestie, nigdy o tym nie pomyślą. Idźmy dalej.

W instytucjach publicznych nie wiedzą, co to są dane osobowe i nie spieszą się z podaniem definicji.

Każdy specjalista w dziedzinie prawa ochrony danych osobowych zawsze mówi jedno: nigdy nie należy łączyć różnych źródeł danych, ponieważ tu masz e-maile (to jedne dane osobowe z jakimiś zanonimizowanymi identyfikatorami), tu – imię i nazwisko... Jeśli to wszystko połączysz, będą wyglądać na dane osobowe. Właściwie, byłoby dobrze najpierw poruszyć ten temat, ale myślę, że już się w to zagłębiłeś i wiesz, jak działa prawo.

W rzeczywistości nikt nie wie, co to są dane osobowe. Ważna koncepcja! Kiedy przychodzę do organów publicznych, mówię: "Butelka koniaku dla tego, kto powie, co to są dane osobowe". I nikt nie może tego powiedzieć. Dlaczego? Nie dlatego, że są głupi, ale dlatego, że nikt nie chce brać na siebie odpowiedzialności. Ponieważ, jeśli Roskomnadzor powie, że to są dane osobowe, jutro ktoś coś zrobi, a oni będą za to odpowiedzialni; a oni są organami władzy wykonawczej i w ogóle nie powinni być za nic odpowiedzialni.

Chodzi o to, że w prawie jasno określono, że dane osobowe to te informacje, na podstawie których można zidentyfikować osobę. Podano również przykład: imię, nazwisko, adres domowy, numer telefonu. Ale my wszyscy wiemy, że osobę można zidentyfikować także na podstawie tego, jak naciska przyciski, jak wchodzi w interakcję z interfejsem oraz na podstawie innych pośrednich parametrów. Jeśli kogoś to interesuje: praktycznie w każdej dziedzinie istnieje ogromna ilość luk.

Identyfikatory, które nas ujawniają

Na przykład, wszyscy zaczęli stawiać kropki w celu przechwytywania adresów MAC (na pewno z tym się spotkaliście?) – inteligentni (lub nie wiem, chciwi) producenci sprzętu mobilnego, tacy jak Apple i Google, szybko wprowadzili algorytmy, które generują losowy adres MAC, aby nie można było cię zidentyfikować, kiedy wędrujesz po mieście wysyłając swój adres MAC. Ale sprytni goście poszli jeszcze dalej.

Na przykład, możesz uzyskać licencję operatora mobilnego; po uzyskaniu licencji operatora mobilnego, uzyskasz dostęp do czegoś, co nazywa się protokołem SS7, dzięki któremu będziesz mógł obserwować pewien eter operatorów mobilnych; tam znajduje się wiele różnych identyfikatorów, które nie są danymi osobowymi. Wcześniej był to IMEI, a teraz – dosłownie ktoś zsunął z języka i postanowił wprowadzić w Rosji (taka inicjatywa) jednolitą bazę tych „IMEI”. Ona niby istnieje, ale mimo wszystko.

Jest jeszcze wiele identyfikatorów – na przykład IMCI (identyfikator sprzętu mobilnego), który nie jest ani danymi osobowymi, ani powiązany z innymi rzeczami i w związku z tym można go przechowywać bez żadnych konsekwencji prawnych, a potem wymienić się tymi identyfikatorami z kimś, aby później móc z nim skomunikować.

Kultura pracy z danymi osobowymi jest na niskim poziomie

Ogólnie rzecz biorąc, chodzi o to, że wszyscy są teraz bardzo zaniepokojeni łączeniem danych jednych z drugim, a większość firm zajmujących się tym połączeniem czasami nawet się nad tym nie zastanawia. Na przykład bank przyszedł, zawarł umowę o nieujawnianiu informacji z firmą zajmującą się scoringiem, przekazał jej 100 tysięcy swoich klientów...

A ten banku nie zawsze jest zapis o przekazywaniu danych trzeciom stronom. Ci klienci coś tam zastrzelili, a nie wiadomo, gdzie ta baza później trafiła – w większości firm w Rosji nie ma kultury usuwania danych… – na pewno ten "excel" gdzieś u sekretarki potem zostanie.

Nasze dane mogą być sprzedawane przy każdorazowym zakupie w sklepie.

Istnieje wiele schematów, które są pozornie zgodne z prawem (to znaczy, że są legalne). Na przykład, historia jest następująca: z 15 największych rosyjskich banków tylko dwa są własnymi bramkami SMS – „Tinkoff” i „Alfa”, to znaczy, że same wysyłają swoje SMS-y. Pozostałe banki korzystają z bramek SMS do wysyłania wiadomości do końcowych klientów. Te bramki SMS prawie zawsze mają prawo do analizy treści (na przykład, w celu zapewnienia bezpieczeństwa i wyciągania własnych wniosków), aby później sprzedawać zebrane statystyki. Te bramki SMS „współdziałają” z operatorami danych fiskalnych, którzy zarządzają paragonami.

I otrzymujemy następujący efekt: przychodzisz do kasy, operator danych fiskalnych (czy podałeś, czy nie podałeś swojego numeru telefonu – w jakiś sposób jest tam powiązany)… otrzymujesz SMS na swój numer telefonu, bramka tych SMS-ów widzi ostatnie 4 cyfry karty i numer telefonu. Wiemy, w którym momencie dokonałeś transakcji od operatora danych fiskalnych, a w SMS-ach wiemy (już teraz), na jaki numer przyszła informacja o pobraniu kwoty pieniędzy z tymi czterema ostatnimi cyframi karty. Cztery ostatnie cyfry karty nie są twoimi identyfikatorami, nie łamią prawa, ponieważ na ich podstawie nie można cię zanonimizować, kwota transakcji – również nie.

Ale jeśli umówiłeś się z operatorem danych fiskalnych – wiesz, w jakim oknie czasowym (plus-minus 5 minut) ten SMS powinien do ciebie przyjść. W ten sposób szybko powiązano cię z twoim numerem telefonu, a twój numer telefonu jest powiązany z identyfikatorami reklamowymi, w ogóle z wszystkim. Dlatego można cię później śledzić: możesz przyjść do sklepu, a potem dostajesz jeszcze jakąś bzdurę bez pozwolenia. Myślę, że w tej sali raczej nie ma nikogo, kto kiedykolwiek składał skargę do FAS na spam. Wątpię, że jest… Poza mną, prawdopodobnie.

Papierki – archaiczny, ale skuteczny sposób walki o swoje prawa.

To naprawdę świetnie działa. Naprawdę, trzeba będzie poczekać półtora roku, ale UOKiK rzeczywiście przeprowadzi kontrolę: kto, jak i komu przekazał dane, dlaczego dokąd i tak dalej.

Pytanie z sali (dalej – Z): – W Białorusi nie ma UOKiK. To inny kraj.

ACh: – Tak, rozumiem. Ale na pewno istnieje jakiś odpowiednik…

Z sali płyną sprzeciwy.

ACh: – Dobrze, zły przykład, „przepraszam”. Nie o to chodzi. Wśród moich przyjaciół nie znam nikogo, kto w ogóle wie o istnieniu podobnej historii – że można pójść napisać, a oni potem jeszcze rok będą pracować.

Druga historia, która również w Rosji bardzo się rozwija, ale myślę, że znajdziecie odpowiednik u siebie. Bardzo lubię to robić, kiedy organ państwowy źle z Tobą się komunikuje, jakiś bank lub coś innego – mówisz: „Dajcie kartkę”. I piszesz na kartce: „Zgodnie z punktem 14 ustawy nr 152 proszę prowadzić przetwarzanie danych osobowych w formie papierowej”. Nie wiem, jak dokładnie to w Białorusi się odbywa, ale na pewno się odbywa. Zgodnie z rosyjskimi przepisami nie mają prawa odmówić Ci usługi na tej podstawie.

Znam wiele osób, które w Mail.ru przesyłały takie prośby o prowadzenie ewidencji ich danych osobowych w formie papierowej. Mail.ru długo od tego się broniło. Znam nawet jednego dewelopera z Yandexu, któremu zrobili żart: usunęli jego konto w VK i wysłali mu paczkę wydrukowanych zrzutów ekranu, mówiąc, że będą mu wysyłać zrzuty ekranu za każdym razem, gdy będzie chciał zaktualizować swoją stronę.

Śmieszne, ale mimo to to realna alternatywa, jeśli ktoś rzeczywiście martwi się o swoje dane, z jednej strony… A z drugiej strony, ten sam RKN mówił mi, że ta umowa o przetwarzaniu danych osobowych jest formalna, a prawo przewiduje jeszcze kilka sposobów udzielenia tej zgody. I że, na przykład, zaproszono mnie tutaj na wydarzenie, i jeśli na przykład Human Constanta nie musi w ramach rosyjskiego prawa zawierać ze mną umowy o przetwarzaniu danych osobowych (bo sam fakt, że przyjechałem i zgodziłem się wystąpić, jest zgodą na przetwarzanie danych osobowych), – wszyscy i tak biorą te papierowe zezwolenia. Ale RKN mówił mi, że nie ma pewności, że w przyszłości to zniknie.

Mam nadzieję, że w Rosji nigdy nie powstanie jeden operator, przepraszam, Pana, danych osobowych, ponieważ gorsze niż złożenie wszystkich danych osobowych w jednym koszu może być tylko złożenie ich w państwowy kosz. Bo nie wiadomo, co z tego wyniknie.

Firmy wymieniają się danymi osobowymi, a przepisy są słabo regulujące to.

Większość firm wymienia ze sobą różne dane, identyfikatory. To może być sklep z bankiem, a potem bank z siecią społecznościową, sieć społecznościowa – z czymś jeszcze… I w końcu ci ludzie uzyskują pewną krytyczną masę informacji, które można w jakiś sposób wykorzystać, a wszystkie te informacje, prawda, teraz starają się zachować po swojej stronie. Niemniej jednak, w końcu wszystko i tak trafia w jakiś strumień reklamowy lub gdzie indziej.

Przekazywanie danych osobom trzecim to najzabawniejsze, co może być, ponieważ w przepisach nie jest określone, kim są te osoby trzecie, kto właściwie powinien być uznawany za "trzecią" osobę. To zresztą bardzo popularne sformułowanie wśród amerykańskich prawników – mają tam to "Third parties" – kto, kogo uznajesz za osoby trzecie: babcię, prababcię?.. Nawet zdarzył się w Stanach Zjednoczonych precedens, kiedy czyjeś dane zostały ujawnione, osoba pozwała i udowodnili, że ta osoba poprzez kilku znajomych zna właściciela danych – pewna liczba uściski dłoni, przytoczyli jakieś dziwne badania socjologiczne – w ten sposób udowodnili, że ci ludzie nie mogą być uznawani za osoby trzecie wobec siebie. Śmieszne. Ale fakt przekazywania takich danych jest bardzo powszechny.

Nawet jeśli wchodzisz na stronę, na której znajduje się licznik do identyfikacji – ten licznik ma prawo przekazywać dane tego ruchu gdziekolwiek ("Clickstream", właścicielom platform reklamowych czegokolwiek, "Pornhub", przykładowo). "Pornhub", jeśli ktoś z was jest deweloperem webowym, wejdźcie i zobaczcie, ile pikseli śledzących znajduje się na stronie "Pornhuba". Po prostu wchodzisz – tam ładowana jest ogromna liczba javascriptu, jakoby w celu poprawy działania strony. W rzeczywistości ustawia się tam również ciasteczka międzydomenowe, czego tam tylko nie ma, ponieważ ta informacja zawsze ma dużą wartość na rynku "clickstreamu".

Facebook manewruje i nie zamierza zrzucać maski

Oczywiście, nikt z dużych graczy nigdy nikomu nie mówi, komu i jak sprzedaje dane. Z tego powodu Europa próbuje teraz pozwać Facebooka. To właśnie po wprowadzeniu RODO Unia Europejska stara się uzyskać od Facebooka ujawnienie algorytmów dotyczących odsprzedaży danych osobom trzecim.

Facebook tego nie robi i ogłasza to wszem i wobec, że nie robi tego, ponieważ są "korporacją świata" (cytuję z pisma, które mi wysłali), są "przeciwko szkodliwemu używaniu technologii" (zwłaszcza, jeśli sprzedajesz rozpoznawanie twarzy Kremlowi). Zasadniczo chodzi o to, że Facebook nie działa w pełni uczciwie: ich głównym celem i tym, co się stanie, gdy ten mechanizm zostanie ujawniony – będzie można rzeczywiście obliczyć rentowność reklamy, zrozumieć rzeczywistą wartość reklam.

Mówiąc umownie, jeśli Facebook mówi ci teraz, że koszt wyświetlenia reklamy wynosi 5 rubli, a my sprzedajemy je za 3 (i, jak to mówią, dwa ruble pozostaje dla nas), i że rzekomo uzyskują 5% zysku z tych wyświetleń. W rzeczywistości to nie 5%, lecz 505, ponieważ jeśli ten algorytm wyjdzie na jaw (komu i jak Facebook przekazał "klikstream", dane o odwiedzinach, dane z pikseli różnym sieciom reklamowym), okaże się, że zarabiają znacznie więcej, niż mówią. Może to nie chodzi o same pieniądze, ale o to, że koszt kliknięcia to rubel, a w rzeczywistości to setne części copejki.

Generalnie chodzi o to, że wszyscy próbują ukryć takie przekazy, niezależnie od tego, czy chodzi o ruch reklamowy, czy nie, ale takie przekazy istnieją. Niestety, nie można tego w żaden sposób zweryfikować prawnie, ponieważ firmy są prywatne, a wszystko, co mają w środku, to ich prawo prywatne i tajemnica handlowa. Takie historie często się tam pojawiają.

Dealerzy narkotyków są przewidywalni i dają się złapać na Avito

Ostatni obrazek z tej prezentacji. Jest zabawny, a jego sedno polega na tym, że są pewne kategorie ludzi, którzy bardzo martwią się o swoje dane osobowe. I to dobrze, w rzeczywistości! Ten przykład dotyczy takiej kategorii ludzi jak dealerzy narkotyków. Wydawałoby się, że to ludzie, którzy powinni bardzo się martwić o swoje dane osobowe…

To jest badanie, które przeprowadzono na początku tego roku pod nadzorem odpowiednich organów. Tak, to jest skrypt, który otrzymał pieniądze, aby kupować narkotyki w «Telegramie», w «Torze», ale tylko od tych osób, które można było zidentyfikować.

W rzeczywistości prawie wszyscy handlarze narkotyków z Moskwy łapią się na tym, że ich numer telefonu w ogóle nie występuje w żadnych publicznych źródłach, ale prędzej czy później na «Avito» sprzedadzą coś, po czym będzie można zrozumieć ich przybliżone położenie. Chodzi o to, że czerwone kropki to miejsca, gdzie ludzie mieszkają, a zielone – to miejsca, gdzie jeżdżą zostawiać wiecie co. To była jedna z części algorytmu, który prognozował rozmieszczenie patroli, ale ci chłopcy z Moskwy zawsze starają się jakoś jechać na ukos, z daleka.

Uważają, że jeśli mieszkają na górze z lewej, to na pewno powinni jechać na górę z prawej i tam na pewno ich nigdy nie znajdą. Mówię ci to, bo jeśli próbujesz się ukrywać przed wszechobecnymi algorytmami, najskuteczniejszym sposobem jest zmiana modelu zachowania: zainstalować jakiś tam «Hoster» do randomizacji odwiedzin, posiadania i tak dalej. Ach, na litość boską, są nawet algorytmy, wtyczki, które zmieniają rozmiar przeglądarki o kilka pikseli, żeby nie można było obliczyć „odcisku palca” przeglądarki i jakoś ciebie zidentyfikować.
To wszystko z mojej strony. Jeśli macie pytania – śmiało. Oto link do prezentacji.

Pytanie z sali (Z): – Proszę powiedzieć, a z punktu widzenia użycia «Tora», z punktu widzenia śledzenia ruchu… Czy poleca pan?

Ukrycie się jest trudne, ale możliwe.

ACh: – „Tor”? Nie, w żadnej formie. Nie wiem jak w Białorusi, ale w Rosji zdecydowanie nie warto tam wchodzić, ponieważ większość „grace nodes” nagle dodaje jakieś pakiety do twojego ruchu. Nie wiem jakie, ale jeśli popatrzysz: są „nody”, które oznaczają ruch – nie wiadomo, kto to robi i w jakim celu – ale ktoś oznacza to w nagłówku, żeby potem można było zrozumieć. W Rosji cały ruch jest teraz przechowywany, nawet jeśli jest w formie zaszyfrowanej, a wszyscy krytykują „Pakiet Jarowa” po tym, jak mówi się o przechowywaniu zaszyfrowanego ruchu, ale pozostaje on oznaczony, więc nie można go wykorzystać, ani odszyfrować...

Z: – W Europie jest przechowywany od dłuższego czasu, około dziesięciu lat.

ACh: – Tak, rozumiem. Wszyscy się z tego śmieją – typu, przechowujecie https, którego nie można odczytać. Nie można odczytać treści, ale można zrozumieć, skąd pochodziły pakiety różnymi algorytmami – po wadze pakietów, długości i tak dalej. A kiedy masz pod kontrolą wszystkich dostawców, masz też całe wyposażenie magistralne i wszystkie paszporty... Ogólnie, rozumiesz, o czym mówię?

Z: – Jaką przeglądarkę polecasz?

ACh: – Do „Tora”?

Z: – Nie, wcale.

ACh: – Cóż, nie wiem. W rzeczywistości korzystam z „Chrome”, ale tylko dlatego, że tam panel dewelopera jest najwygodniejszy. Jeśli nagle będę musiał gdzieś wejść, pójdę do jakiejś kawiarni. Jednak nie warto logować się na prawdziwą kartę SIM.

Z: – Mówiłeś o jakichś studentach. Czy gdzieś uczysz lub prowadzisz jakieś kursy?

ACh: – Tak, mamy studia magisterskie z dziennikarstwa danych. Uczymy dziennikarzy zbierać dane, analizować je – czasami prowadzą takie badania.
Nie ma bezpiecznych aplikacji

Z: – W „Facebooku” i „VKontakte” nie jest bezpiecznie rozmawiać z przyjaciółmi, aby później nie otrzymać reklam kontekstowych. Jak można zwiększyć bezpieczeństwo?

ACh: – Pytanie, co uważasz za dopuszczalny poziom bezpieczeństwa. W zasadzie słowo „bezpieczny” nie istnieje. Chodzi o to, co uznajesz za akceptowalne. Niektórzy uważają, że wymiana intymnych zdjęć przez „Facebooka” jest dopuszczalna, a niektórzy pracownicy służb specjalnych sądzą, że wszystko, co zostało powiedziane na głos, nawet najbliższej osobie, jest już faktycznie niebezpieczne. Jeśli nie chcesz, aby sieć społecznościowa o tym wiedziała, to tak – lepiej o tym nie pisać. Nie znam żadnych bezpiecznych aplikacji. Boję się, że ich nie ma. I to jest w porządku, biorąc pod uwagę, że każdy właściciel dowolnej aplikacji musi jakoś ją monetyzować, nawet jeśli ta aplikacja jest darmowa lub to jakiś serwis informacyjny. Wydaje się, że jest darmowy, ale i tak musi na coś żyć. Dlatego nie ma niczego, co byłoby w pełni bezpieczne. Musisz samodzielnie zdecydować, co ci odpowiada.

Z: – A z czego korzystasz?

ACh: – Z sieci społecznościowych?

Z: – Z komunikatorów.

ACh: – Z komunikatorów korzystam z głównego komunikatora państwowego Federacji Rosyjskiej – „Telegramu”.

Z: – „Viber”. Czy on jest bezpieczny?

ACh: – Słuchaj, nie bardzo znam się na komunikatorach. Szczerze mówiąc, nie wierzę w bezpieczeństwo, bo byłoby to, chyba, bardzo dziwne. Chociaż „Telegram” jest jakby open source i jego algorytmy szyfrowania są ujawnione. Ale to też jest taka sprytna sprawa, bo tam klient jest 'open-source', a serwerów nikt nie widział. Myślę, że nie: w „Viberze” jest bardzo dużo spamu, botów i tak dalej. Nie wiem. Wydaje mi się, że to wszystko nie działa zbyt dobrze.

Kto jest bardziej niebezpieczny – korporacje czy państwo?

Prowadzący (P): – A mam do ciebie takie pytanie. Patrz, kilka razy wspominałeś o tym – że państwo... Zbyt wiele danych – to nie jest zbyt dobre... Korporacja ma zbyt wiele danych. Cóż, to po prostu życie, prawda? Kogo bardziej się bać – korporacji czy państwa? Gdzie są pułapki?

ACh: To jest bardzo skomplikowane pytanie. To jest graniczne. Skomplikowana bariera etyczna. Człowiek, jeśli nie ma się czego bać, jeśli nie łamał prawa, zasadniczo po co mu prywatność? Choć ja tak nie uważam – państwo tak uważa. Może w tym jest ziarno prawdy. Słuchaj, najbardziej boję się hakerów – jakichś takich strasznych rzeczy. W rzeczywistości najgorsze, co widziałem w swoim życiu (w całej tej tematyce): gdzieś półtora-dwa lata temu w Podmoskwiu złapali pedofila i podczas działań śledczych znaleźli na jego komputerze kilka podręczników do „Pythona”, skrypty, API VK. Zbierał konta dziewcząt, analizował, która z nich była w pobliżu, zbierał treści, które… W skrócie, rozumiesz. To jest najgorsza rzecz, jaką widziałem. I tego właśnie się boję, że pewnego pięknego dnia ktoś coś podobnego zrobi.

Jeszcze jeden mały offtop: Europejska Organizacja Bezpieczeństwa Publicznego w zeszłym roku zrobiła raport, że liczba kradzieży z kont bankowych wzrosła o około 20-25%, gdy hakerzy łamali pytania bezpieczeństwa. Pomyślcie teraz o swoim pytaniu bezpieczeństwa w banku i zastanówcie się, czy mogę poznać odpowiedź na nie z otwartych źródeł. Jeśli macie tam nazwisko panieńskie matki lub ulubione danie… Ogólnie rzecz biorąc, ludzie analizowali konta i na tej podstawie rozumieli ulubiony przydomek zwierzaka – jakoś tak…

Z: Mówiłeś, że firmy, korporacje zbierają potrzebne informacje za pomocą algorytmów? Na pewno wiesz, jak to działa?

ACh: Było poruszenie wśród ludzi, którzy przez pewien czas przepuszczali zdjęcia przez specjalny filtr, aby ten filtr łamał analizę obrazów, aby później nie można było w żaden sposób zidentyfikować tych ludzi. Podawałem wam przykład, że „Facebook” walczył z szyfrowaniem wiadomości. I jeśli ten wynalazek się pojawi i nabierze masowego charakteru, na pewno media społecznościowe będą z tym walczyć. Poza tym, rozpoznawanie obrazów teraz działa bardzo dobrze i to graniczy z tym, że ten wystarczający poziom, aby „złamać” to zdjęcie (aby „złamać” algorytm, który rozpoznaje te obrazy) – najprawdopodobniej na nim już nic nie będzie zrozumiałe.

Wszystkie rodzaje filtrów glitch dobrze działają, jeśli to mocne przesunięcie po połowie zdjęcia. Twoje konto nabierze wtedy wszystkich kolorów LSD. Teoretycznie nie uważam, że to straszne, jeśli "Facebook", na przykład, dowie się, jaki mam samochód – pewnie, jeśli nie będę logować się do samochodu przez "Facebook".

Prawo do zapomnienia działa, ale nie w Internecie

Z: – Czy zdarzyło się Wam spotkać użytkownika, który zmuszałby Was do szacunku, usunięcia, uzyskania dostępu? Operujecie na dużych zbiorach danych, na pewno informujecie o tym. Ludzie mogą się do Was zwrócić. Ile procent?

ACh: – Teraz opowiem. Teraz będzie naprawdę ciekawie. Obliczę, ile osób wejdzie, bo po wydarzeniu zawsze 15-20% wchodzi, wypełnia formularz o usunięcie danych – tak jest. Rzeczywiście to gdzieś 7-8% zamkniętych kont, których nie analizujemy, i około 5 osób na tysiąc, które proszą o usunięcie swoich danych. To bardzo mało, nawet według mojego skromnego zdania.

Problem polega na tym: istnieje coś takiego jak prawo do zapomnienia. Ale prawo do zapomnienia, przynajmniej w Rosji, ma zastosowanie tylko do wyszukiwarek. Jest tam wyraźnie napisane: wyszukiwarki. I to dotyczy tylko usuwania linków do materiałów, a nie samych materiałów. Rzeczywiście, aby coś usunąć z internetu, trzeba obejść wszystkie te źródła, więc w to zasadniczo w ogóle nie wierzę. Staramy się ostrzegać użytkowników, że najpierw trzeba się zastanowić, zanim opublikuje się coś.

Na razie ten procent jest bardzo mały – 5-7 osób na tysiąc. Odnośnie prawa do zapomnienia: wszyscy znają ten świetny przypadek "Sieczin przeciwko RBK". Prawo do zapomnienia zadziałało, artykuł został usunięty, ale wciąż jest wszędzie. Rozumiecie, że jeśli coś kiedykolwiek wpadło do internetu, to już nigdy stamtąd nie zniknie.

Użytkownicy są usuwani, ale są identyfikowani na podstawie typowego zachowania.

Z: – Czy nie uważacie, że ludzie, którzy usuwają swoje konta i starają się stać "czarną dziurą", będą w gorszej pozycji w porównaniu do innych podmiotów gospodarczych?

ACh: – Najprawdopodobniej tak — ta sytuacja będzie dla nich niekorzystna. Istnieje wiele różnych zniżek i ofert, które zależą od nich. Ale teoretycznie, jeśli ktoś teraz usunie konto... Jest to popularne wśród różnych ekstremistów, kiedy usuwają konto i tworzą fałszywe, ale i tak wciąż kontaktują się z tym samym contentem — tę osobę, znowu, można zidentyfikować (szczególnie jeśli to w ramach jednej sieci społecznej, z jednego komputera — to jest w ogóle kwestia); w prosty sposób można znaleźć tę osobę na podstawie modelu konsumowania contentu, jeśli taki jest cel.

Mam nadzieję, że w ciągu najbliższych 5 lat pojawi się jakaś technologia monetyzacji tych danych, kiedy ludzie naprawdę będą mogli dostać pieniądze — sam zapłacisz, a my nie będziemy wykorzystywać twoich danych. Ale myślę, że jeśli w jakimś «Instagramie» wprowadzą płatną subskrypcję, nikt z niej nie skorzysta, dlatego alternatywą jest płacenie użytkownikom za ich dane. Ale to nie stanie się szybko, ponieważ lobby potężnych korporacyjnych graczy nie pozwoli na wprowadzenie takiego prawa, chociaż byłoby to fajne. Ale kwestia polega na tym, że nie można oszacować rzeczywistej wartości danych jednej osoby w jakimś konkretnym momencie czasu.

«Facebook» – dziurawe chłopaki

Z: – Dzień dobry. Niedawno pojawiła się wiadomość, że «Facebook» zamierza zintegrować wszystkie swoje projekty, w tym «Instagram» i «Facebook», «WhatsApp» itd. Jak, według Pana, z perspektywy danych osobowych, kiedy teraz te programy na moim smartfonie istnieją jakoś osobno, ale i tak należą do Facebooka?.. Co będzie dalej?

ACh: – Zrozumiałem. Prawnie to już należą do «Facebooka», i może on niekontrolowanie je łączyć, dlatego myślę, że nic się nie zmieni. Jedyną rzeczą jest to, że teraz wystarczy złamać jedną aplikację, aby od razu uzyskać wszystko. A «Facebook»... Mam nadzieję, że się przyglądają. Strasznie dziurawe chłopaki w ogóle w każdym miejscu.

W ostatnim czasie pojawiło się wiele informacji na ten temat — o wyciekach danych z „Facebooka”. Nie jest to spowodowane tym, że „Facebook” nagle zaczął tracić te dane, ale dlatego, że RODO teraz zmusza firmę do wcześniejszego powiadamiania. Największa kara ma miejsce w przypadku, gdy wyciek nastąpił, a firma o tym milczała, dlatego „Facebook” sam o tym teraz informuje. To nie oznacza, że wcześniej takich wycieków danych nie było.

Z: – Dzień dobry. Mam pytanie dotyczące przechowywania danych. Obecnie każde państwo wprowadza prawo dotyczące tego, aby dane obywateli były przechowywane na terenie tego państwa. Jakie warunki należy spełnić, aby zrealizować to prawo dla jakiejś międzynarodowej aplikacji?.. Na przykład „Facebook”: baza danych jest jedna…

Jak to zrobić, aby spełnić te warunki?

ACh: – Słuchajcie, prawnie wystarczy po prostu wynająć serwer w tym kraju i umieścić na nim coś. Problem polega na tym, że nie ma kompetentnego organu kontrolnego. Dane „Facebooka” w Rosji nie leżą. Roskomnadzor walczy z nimi w nieskończoność… „Facebook” ma część serwerów, gdzie znajduje się interfejs tego „Facebooka”, i nie można zweryfikować, gdzie dokładnie leżą dane, jak są synchronizowane.

Z: – Sprawdzić ruch?

ACh: – Sprawdzić ruch? Tak. Ale ruch potem może trafić do jakiegoś głównego węzła. Dodatkowo, między serwerami może być coś w rodzaju VPN lub coś innego. Czy teoretycznie, nie ma sposobu, żeby kontrolować, że na przykład administrator systemu pewnego dnia nie wejdzie na ten serwer i nie pobierze czegoś stamtąd. To znaczy, że ten przepis został stworzony nie w celu ochrony danych, a aby firmy otwierały przedstawicielstwa, płaciły podatki i przechowywały serwery na terenie kraju. Ale moim zdaniem, to jest bardzo dziwna inicjatywa, szczerze mówiąc.

Z: – Czyli wystarczy praktycznie sprawdzić interfejs?

ACh: Może do was przyjść ktoś i sprawdzić, że dane u was leżą. Ale możecie pokazać jakiś „Excel”, i nikt tego nie zweryfikuje, raczej nikt tego nie będzie sprawdzać. Teraz po prostu patrzą po IP: czy adres IP przypisany do domeny znajduje się na terenie kraju — dalej nie sprawdzają. Teraz, pewnie, przyjdą do mnie, aby sprawdzić.

Nie ma usług, którym można zaufać w 100%, ale uczciwi ludzie nie mają się czego bać.

Z: – Taka wiadomość, wielokrotnie powielana: ktoś z „Microsoftu” opublikował, stworzył serwis do sprawdzania swoich…

ACh: – Coś w stylu: czy twoje hasła nie wyciekły? W rzeczywistości, po wyciekach w „Facebooku”, ten sam „Facebook” zawsze uruchamia jakieś zapasowe strony, na których można sprawdzić, że twoje dane nie trafiły do tej bazy – znowu, wymaga tego RODO. To znaczy, jeśli nie zrobisz czegoś takiego, to nie będzie ciło dobrze. Dlatego teraz wszyscy przedstawiają te projekty jako „to nasza inicjatywa”; w rzeczywistości, prawo tego wymaga. W rzeczy samej, to bardzo fajna rzecz, ale nie do końca ufałbym takim serwisom do sprawdzania, jeśli trzeba tam wysyłać coś bardziej skomplikowanego niż twoje hasło, ponieważ wiele osób ma takie same hasła.

Z: – Po prostu wpisujesz e-mail i już mówią, ile razy został skompromitowany…

ACh: – W rzeczywistości nie ufam takim rzeczom, ponieważ łatwo później powiązać cię z tą przeglądarką, z prawdziwym kontem. Szczególnie, jeśli korzystasz z usług tych samych ludzi, którzy uruchomili tę stronę. To jak w zeszłym roku, kiedy „Facebook” wysłał: jeśli twoje intymne zdjęcia wyciekły na „Facebooka”, prześlij je do nas, a sprawdzimy, gdzie były wspomniane.

Nie wiem, co to za PR-owy koszmar i kto w „Facebooku” to wymyślił, ale naprawdę tak było. Chcieli porównać, czy nikt nie przesyłał w wiadomościach twoich nagich zdjęć. W zasadzie ma to dobre cele, ale jest maksymalnie dziwne. Nie ufałbym temu.

Z: – I jeszcze jedno pytanie. Jakie są ryzyka wycieku dla przeciętnego użytkownika? Ryzyko szkód z wycieku.

ACh: – Rozumiem. To zależy, jakie dane przechowujesz. Myślę, że nie są one za wysokie. Najgorsze to, jeśli wyciekną gdzieś e-maile i hasła, a to samo hasło używasz wszędzie – wtedy tak. Uważam, że użytkownicy nie mają się za bardzo czego bać. Ale jeśli oczywiście nie przechowują jakichś makabrycznych rzeczy w Google Mail. Było wiele takich przykładów.

Najbardziej znana historia to ta z „Google”, kiedy w Utah porwano dziewczynkę, której nie mogli znaleźć, a w pewnym momencie porywacze przysłali jej zdjęcia w załączonym archiwum. I „Google”, skanując to załączone archiwum, odkryło oznaki pornofilmu dziecięcego. Wszystkich znaleziono. A oni jeszcze potrafili pozwać „Google” za naruszenie tajemnicy korespondencji. Ta sprawa trwała dość długo. Niemniej jednak uważam, że przeciętny użytkownik nie ma czego się obawiać, jeśli na przykład nie udostępnia swojego paszportu publicznie. To podwójna historia – w zależności od danych i użytkownika. Może teraz – nic strasznego, a za 15 lat, gdy zostanie jakimś urzędnikiem, jakieś materiały mogą wypłynąć.

Jak wygląda współpraca z państwem?

Z: – Dziękuję. Mówiłeś trochę o tym, że prowadzisz badania dla państwa, organów państwowych, służb, współpracujesz z nimi. Może trochę dokładniej opowiesz o jakichś aktualnych projektach. A jeśli możesz, to więcej o… Dwa pytania: po pierwsze – aktualne projekty, a po drugie – czy były jakieś propozycje od służb państwowych…

ACh: – Nieprzyzwoite!

Z: – Tak. Kiedy myślałeś: może lepiej tego nie robić.

ACh: – Opowiem wam. Mówię o tym wszystkim. Z tym człowiekiem długo się kłóciliśmy na „Twitterze”. Z zespołu Milonowa otrzymałem kiedyś pytanie o nauczycieli, którzy oglądają pornografia gejowską. Natychmiast powiedzieliśmy, że nie. Ale takie rzeczy się zdarzają, listy przychodzą często, i bardzo często jest to związane z jakimiś opozycjonistami, protestami. Takimi bzdurami się nie zajmujemy, wszyscy nas i tak obrzucają błotem. Nie wstydzę się tego.

Nasza polityka w sprawie „służb” jest następująca: rozwijamy oprogramowanie, oprogramowanie do rekonstrukcji trójwymiarowej, rozpoznawania twarzy, analizy danych. Co dokładnie robią, bardzo trudno powiedzieć, ale z modeli – to prognozowanie przestępstw, to, co dotyczy bezpieczeństwa państwowego w mieście, ruchu ludzi, geomarketingu i tak dalej. Od umiejscowienia obiektów wewnątrz miejskiego środowiska, aż po identyfikację pedofilów, gwałcicieli, morderców i wszelkich niebezpiecznych ludzi.

Szczerze mówiąc, nie zajmowaliśmy się żadnymi opozycjonistami. Może po prostu nie mówią nam tego prosto w twarz. W rzeczywistości to bardzo poważny problem - współpraca z "państwem", ponieważ nie zawsze wyjaśniają, o co dokładnie chodzi. Mówią ci: stwórz oprogramowanie do identyfikacji gospodyń domowych, a tak naprawdę planują robić coś zupełnie innego - tam wszystko się psuje.

Ponadto państwo to bardzo interesujący i dziwny klient, który stale stara się wtrącać swoje trzy grosze w twoje badania, a często ich podejście i zrozumienie uczenia maszynowego są bardzo powierzchowne. Na przykład, mam osobne wykłady na temat błędów w uczeniu maszynowym. Zawsze podaję przykład z momentu, gdy tworzyliśmy system prognozowania przestępczości w Podmoskowie, a zleceniodawca powiedział: tam, gdzie sprzedają arbuzy, proszę zwiększyć współczynnik czterokrotnie. A potem okazało się, że miejsca sprzedaży arbuzów wcale nie są przestępcze. To po prostu błędy wynikające z tego, że człowiek wprowadza swoje myśli.

Generalnie państwo to ciekawy klient, mają wiele interesujących zadań. Większość z nich sprowadza się do podobnych modeli prognozowania czegoś. Najczęściej dotyczy to miejskiej infrastruktury.

Z: - Czy są jakieś źródła, gdzie można śledzić wasze badania? Jest dużo informacji. Jak rozumiem, dużo z nich zostało jeszcze na uboczu. Wasze strony, coś jeszcze...

ACh: - Nie mam osobnych stron.

Z: - Prawdopodobnie na Facebooku już was zamknęli?

ACh: - Około czterech miesięcy temu była historia: wysłali nam wszystkim ogromne listy, że "jesteście potworami, sprzedajecie wszystko Kremlowi, łamiecie wszystkie zasady Facebooka". Nawet do mojego psa przysłali list: "Hello, Mars blue corgi, zbierasz dane!" itd. Słuchajcie, mamy obecnie rebranding. Za dwa, trzy tygodnie nasza strona internetowa i wszystko się zaktualizuje. Można to będzie śledzić. Ale po prostu jesteśmy bardzo leniwi w tej kwestii.

Jak można ocenić niezawodność VPN?

Z: - Kiedy mówiłeś, że wszedłbyś do kawiarni, nie identyfikując się tam swoim numerem telefonu. A pod jakim?

ACh: – Nie można mówić – pod innym nazwiskiem, ponieważ to jest wezwanie do naruszenia regulaminu identyfikacji. Nie, nie, nie. Żartuję. Obecnie prawie wszystkie kawiarnie identyfikują wszystko - to nie tylko numer telefonu, jest tam mnóstwo pikseli, identyfikacja urządzenia, adres MAC i co tam jeszcze jest, aby potem to wykorzystać - od celów reklamowych po operacje poszukiwawcze. Dlatego z takimi sprawami trzeba być bardzo ostrożnym. Możesz nie tylko coś napisać, ale z twojego urządzenia mogą coś napisać, a potem coś się wydarzy.

Może widziałeś historię o tym, że teraz prowadzą śledztwo, jak (w Białorusi, nawiasem mówiąc) wynajmuje się konta „Facebooka” do reklam kasyn. A w rzeczywistości nie wiadomo do czego, a także dają dostęp do komputera. Takie rzeczy trzeba maksymalnie unikać. Jeśli zdecydujesz się anonimowo coś napisać... Przyprowadziłbym się do kawiarni i włączyłby jakiś superVPN. Ale w rzeczywistości (znowu, nie wskazuję na nikogo), kiedy używasz konta w VPN, sprawdź, do kogo należy ten VPN, jaka firma, do kogo ta firma należy itd. Ponieważ większość graczy na rynku VPN to nie do końca dobrzy chłopcy.
No dobrze, w Białorusi to nie ma znaczenia. W Rosji dobry VPN sprawdza się po tym, czy azino777 jest zablokowane, czy nie. Ponieważ jeśli nie, to istnieje duże prawdopodobieństwo, że w ciągu tygodnia ten serwis VPN zostanie zamknięty. Ogólnie, sprawdzaj wszystko.

O automatycznym usuwaniu wiadomości

Z: – Tak dużo mówiłeś o wiadomościach osobistych, że ich sieci społecznościowe czytają… A na przykład „Facebook” ma tajne wiadomości osobiste, które można ustawić (poza tym, że są one również szyfrowane) na zniszczenie. Jak to możesz skomentować?

ACh: – W żaden sposób. Po pierwsze, nie jestem super profesjonalistą w kryptografii, a po drugie, problem tkwi w tym, że nikt nie widział serwerów „Facebooka”, nikt nie wie, jak to wszystko działa. Teoretycznie w jakiejś specyfikacji napisano, że to jest szyfrowanie end-to-end, ale może nie być takie, lub może być end-to-end, ale z jakimiś tam błędami czy czymś innym. Takiej funkcji warto użyć, jeśli obawiasz się, że osoba, której to wysłałeś, w pewnym momencie spróbuje coś zrobić.

W "Telegramie" jest wygodna funkcja do wysyłania intymnych zdjęć, które samoczynnie się usuwają: kiedy próbujesz zrobić zrzut ekranu, automatycznie się usuwa. Na "iPhonie" natomiast pojawiła się funkcja nagrywania wideo z ekranu, więc można nagrać wideo z ekranu i tak dalej… Po prostu bardzo często dostaję materiały z tą funkcją (autousuwanie) – nigdy nie rozumiem, po co. Mogę je przecież od razu pobrać! To wszystko zależy od Was.

Ranking społeczny w Chinach: mity, rzeczywistość, perspektywy

P: - Tak naprawdę trochę nadużywam, chociaż VPN nie jest mi potrzebny (przy okazji, VPN mamy sprawdzony). A pytanie o etykę. Mamy wspaniałego przyjaciela z Kazachstanu, przywoziliśmy go też na wykład. Kiedyś siedzieliśmy na jakiejś konferencji, gdzie opowiadano o różnych rzeczach, a on mówi (a zajmuje się cyberbezpieczeństwem, więc czystą inżynierską bezpieczeństwem, człowiek, którego interesują techniczne rozwiązania): "Wróciłem z Chin. Tam robią fantastyczną rzecz – ranking społeczny". Czy ty, nawiasem mówiąc, coś badałeś na ten temat, jak to u nich działa?

ACh: - W Rosji sprzedajemy scoring, wiem o tym sporo.

P: - Mam do Ciebie pytanie, żebyś opowiedział o tym więcej – o tym, co nas, być może, wszystkich czeka w przyszłości. Ale jeszcze pytanie o etykę. On tak radośnie mówił: "Ciekawe rozwiązanie inżynieryjne!" Masz swój kodeks etyki?

ACh: - Tak, przy okazji, mam. Dwa lata temu wprowadziliśmy go – właśnie po historii z Milonowem postanowiliśmy jakoś oceniać te projekty. Wracając do rankingu: to jedna z najpopularniejszych kwestii, ponieważ media bardzo demonizują tę historię – że ludzi nie wypuszczają za granicę, zabijają laserem z Księżyca. Przytaczam Wam, znowu, inżynieryjne rzeczy...

Jeśli zaczniesz zgłębiać tę historię, zobaczysz, jakie parametry wchodzą w skład tego społecznego rankingu. Zrozumiesz, że obejmuje on nie tylko mandaty za niezapłacone alimenty, wyroki sądowe, czy historię kredytową, to znaczy z inżynieryjnego punktu widzenia jest to naprawdę imponujące rozwiązanie. Żyjesz legalnie i dobrze – dostajesz niską stawkę kredytu. Masz ważną pracę społeczną (np. nauczyciel) – dostajesz odpowiednie mieszkanie. Na początku wielu było zdezorientowanych, ponieważ wpłynęła informacja, że jeśli będziesz źle pisać o prezydencie, twój ranking zostanie obniżony. Chociaż dowodów na to nie było. W obronie rankingu powiem, że nikt nie widział algorytmu ani nie wiadomo, jakie parametry są faktycznie używane.

Pojawiła się później informacja, że ponad milion osób nie zostało wpuszczonych za granicę, zakazano im wyjazdu. W rzeczywistości to nie do końca precyzyjna formułka. Kiedy otrzymujesz wizę (np. do Europy), to dostajesz wizę na podstawie '70 euro na dzień'; jeśli nie przedstawisz zaświadczenia o dochodach, nie dostaniesz wizy. W Chinach lokalne ministerstwo spraw zagranicznych postanowiło pójść krok dalej: od razu ostrzegło ludzi, którzy mają za mało pieniędzy, że jeśli chcą jechać za granicę, nie będą mieć na to wystarczającej gotówki. W związku z tym, wszystko to potem zostało wykorzystane w koncepcji, że biednych nie wpuszczają za granicę. To skomplikowana kwestia etyczna, graniczy z pewną domniemaniem winy-niewinności, ale w rzeczywistości nie mogę ocenić tego.

Ludzie zabijają, a nie broń.

Najważniejsze, co trzeba zrozumieć: wszystkie te algorytmy, które są potępiane przez społeczeństwo – problem nie leży w algorytmach. Algorytmy po prostu umożliwiły bardzo szybkie analizowanie dużej 'objętości' ludzi, i ten problem społeczny został ukazany na powierzchni. To znaczy, bot 'Microsoftu', który nauczył się na tweetach i stał się rasistą – to nie wina bota, ale tweetów, które czytał. Albo firma, która chce zbudować model idealnego pracownika, analizując obecnych, i okazuje się, że to biały, płci - mężczyzna z wyższym wykształceniem.

To nie model – rasista, seksista czy coś takiego; to ludzie, którzy zatrudnili tych ludzi (czy mieli rację, czy nie – nie ma to znaczenia). Wszystko graniczy z tym, że sztuczna inteligencja jest zła, zła i zniszczy świat, ale w rzeczywistości… Gdyby na przykład rząd rosyjski uchwalił ustawę o tym, że opozycjonistom nie przysługuje bezpłatne wykształcenie, i stworzono by oprogramowanie, które identyfikuje i odbiera im to bezpłatne wykształcenie – to nie algorytm byłby winny. Chociaż nikt nie wspiera mojej koncepcji, ponieważ, gdy mówię, że to nie broń zabija ludzi, a ludzie – dostaję określenia jak „jesteś faszystą” i tak dalej.

Ogólnie rzecz biorąc, to naprawdę bardzo ciekawe rozwiązanie inżynieryjne. Trzeba zrozumieć, dlaczego na przykład w Rosji to rozwiązanie nie będzie funkcjonować. U was [w Białorusi] tego nie będzie, ponieważ jesteście europejskim państwem, u was wszystko jest w porządku. W Rosji to nie będzie z wielu powodów: po pierwsze, nie mamy takiego poziomu zaufania do systemu prawnego jak w Chinach; nasz poziom cyfryzacji jest daleki od chińskiego. Dlaczego w Chinach to zadziałało? Ponieważ rząd: mają – cyfrową medycynę, cyfrowe ubezpieczenia, cyfrową policję. I ktoś mądry wpadł na pomysł: złożmy to wszystko i zróbmy – w zasadzie to program lojalnościowy. Tam jest więcej plusów niż „minusów”.
Dlatego tak – myślę, że w Rosji to nie zostanie wprowadzone. Najpierw trzeba zdigitalizować całe Ministerstwo Zdrowia (a to zadanie na 50 lat) – ktoś musi poświęcić życie, żeby to zrobić, a nikt, oczywiście, tego nie zrobi. Z drugiej strony, rosyjskie banki są w czołówce świata, jeśli chodzi o scoring ludzi, robią, co tylko chcą: „Aha, facet? Lajkujesz młode dziewczyny? Oto karta kredytowa na kochankę”. To wszystko jest bardzo zaawansowane. Na przykład w Ameryce w zasadzie wszędzie scoring podobny jest zabroniony, ponieważ istnieją przepisy, które obligują bank do wyjaśnienia ci, dlaczego: „Aha! Ponieważ firma Social Data Hub przez 10 lat przechowuje historię, i oto, co na twój temat wydała”! I wciągnij ich do sądu! A u nas takich historii nie ma.

Dlaczego zatajają statystyki?

Ogólnie wspieram scoring, o ile nie jest to jakaś „totalitarna” historia. Ale całe pytanie polega na tym, że nie można go przewidzieć ani ocenić. To najbardziej skomplikowana kwestia etyki dużych danych – przewidzieć efekt społeczny, który będzie tam za 15 lat. Na przykład, przez długi czas błagałem prokuraturę o ujawnienie informacji o przestępczości. Dane statystyki kryminalnej – to jeden z fundamentów każdej statystyki; wszyscy tego bardzo chcą. Jednak w Rosji statystyka kryminalna nie jest ujawniana z bardzo prostego powodu: obawiają się naruszyć demografię w miastach. Uważają, że ludzie przestaną mieszkać w niektórych miastach, nawet wewnątrz miasta wszystko w jakiś sposób się przemiesza. Z tego samego powodu nie ujawniają statystyki EGE – sami rozumiecie, do jakich szkół ludzie pójdą, a do jakich nie pójdą.

Możliwe, że to prawda, a może nie, ale było wiele projektów… Na przykład, „Yandex” pewnego czasu (znowu, według „żółtych” plotek, nie widziałem, nie wiem) postanowił do modelu prognozowania „nieruchomości” dodać liczbę ataków na taksówkarzy, czyli pewien taki sposób oceny poziomu przestępczości, licząc liczbę skarg taksówkarzy na to, że ktoś ich niepokoił, groził im itd. Szybko to wycofano wewnętrznie w firmie, aby takich rzeczy nie robić.

Z: – Rozmawiacie ze studentami, rozmawiacie z publicznością w swoim kraju, w naszym kraju. Zauważyliście po liczbie pytań z sali, że wciąż jesteśmy na etapie rozwoju, kiedy myślimy, że potrzebujemy prywatności, że możemy schować się przed kimś, chronić swoje dane, nie ujawniając ich, ukrywając, szyfrując. Jeśli Unia Europejska przeszła już do następnego etapu, etapu prywatności, który zakłada kontrolę nad danymi – zmusić wszystkich, którzy gromadzą twoje dane, do zapewnienia ci skutecznej kontroli nad nimi… W analizach według regionów, według warstw społecznych – która kategoria obywateli, ludzi, przeszła już na drugi etap, a kto jeszcze głównie tkwi na pierwszym?

Kto najbardziej martwi się o bezpieczeństwo danych osobowych?

ACh: – Praktycznie większość... Powiedziałbym: nikogo to nie obchodzi! Interesuje to teraz kierowników wyższego szczebla. W Rosji to miasta takie jak Moskwa i Sankt Petersburg. Aktywnym centrum są informatycy, projektanci, profesje kreatywne, wszyscy, którzy potrafią filtrować treści, zdobywać nową wiedzę i mają wysokie zainteresowanie międzynarodowymi problemami. W głównej mierze to menedżerowie wyższego szczebla; tak, informatycy (pomijając specjalistów ds. bezpieczeństwa); bankowcy – czyli wszyscy ci, na których wyciek danych może jakoś wpłynąć.

Jeśli na przykład dane jakiejś gospodyni domowej z Kalugi zostaną skradzione: wątpię, aby coś w jej życiu się zmieniło, jeśli ktoś ukradnie jej dostęp do Gmaila, gdzie przechowuje dostęp do seriali. Chodzi o to, że prawo wszystkich chroni równo, i to jest słuszne, ponieważ... z perspektywy prawa wszyscy są równi – ha-ha... ale najważniejsze, że nie można zrozumieć, ile będą kosztować czyjeś dane, dopóki te dane nie znikną – niestety, bardzo trudno to przewidzieć. Ale głównie to taka kategoria obywateli.

Telefon – do folii!

Tylko raz w życiu widziałem, jak wszystko i wszyscy są przechowywani w dwóch firmach. Jeden z nich to największy integrator w zakresie bezpieczeństwa informacji: tam wszystko, aż po USB, jest sklejone w biurze; a ludzie też tam chodzą tacy – spotkałem tam człowieka, którego telefon był w woreczku z folii. Dowiedziałem się, że są firmy, które sprzedają specjalne takie woreczki. A drugi raz zobaczyłem podobną sytuację w "Bloombergu" u pracowników: staliśmy w palarni, ktoś tam robił zdjęcia, i jeden z nich mówi – "Tak, żeby nas nie było w tle!" Myślałem sobie: "O, nic takiego!"

„Lepiej my niż FSB”

Nie chciałbym mówić, że to mniej niż jeden procent populacji, ale niestety, w ogólnym zarysie praktycznie nikogo to nie obchodzi. Z drugiej strony, mam kontrowersyjny serwis do kontroli działań nieletnich (od dawna uruchomiliśmy go pod hasłem „Lepiej my niż FSB”), aby ostrzec rodziców, że nieletni robią coś złego, zanim nasz algorytm, zainstalowany gdzieś tam, wyśle do nich kogoś.

Podczas weryfikacji dziecka należy przesłać skan paszportu (to zasadniczo normalna praktyka), ale napisaliśmy, że możesz przyciąć numer paszportu, ponieważ nas on nie interesuje; interesuje nas tylko twoje zdjęcie, hologram i imię oraz nazwisko. I praktycznie 100% ludzi – no, około 95 paszportów na 100 – ludzie w 'Photoshopie' starannie wycinali te numery i przesyłali tylko potrzebną część. To znaczy, że zrozumieli - aha, skoro to nie jest potrzebne, to nie trzeba tego przesyłać. Moim zdaniem to jest rzeczywisty krok do przodu, na który wpłynęło ich niedowiarstwo wobec nas.

Z: – Próbka jest określona. To są ludzie, którzy się zgłaszają, oni są już zaawansowani.

Ludzie nie chcą, aby ich śledzono, ale nie czytają umów.

ACh: – Tak. A druga rzecz jest taka, że na koniec zeszłego roku uruchomiliśmy aplikację randkową (wkrótce ją uruchomimy ponownie). Tam była grupa kontrolna licząca 100 tysięcy osób. I zgodnie z podejściem GDPR w panelu użytkownika było 15 checkboxów – zgadzam się na analizę interakcji z interfejsem, na dostęp do mojej demografii, na dostęp do trójwymiarowej rekonstrukcji twarzy, na dostęp do moich prywatnych wiadomości itd. Maksymalnie opisaliśmy wszystkie możliwe dostępy. Nawet gdzieś są dane statystyczne, kto na co zaznaczał. 98% zostawiło domyślnie zaznaczone wszystkie checkboxy (przy czym wchodziło na tę stronę i widziało to wszystko, ale nie obchodziło ich to), a te 2% były interesujące do analizy pod kątem priorytetów ludzi.

Wszyscy usunęli zgodę na dostęp do prywatnych wiadomości i prawie wszyscy usunęli zgodę na dostęp do danych z testu dotyczącego preferencji seksualnych (co im się podoba, co tam wypełniali, swoje zboczenia – żartuję). Ale to ludzi pchnęło w tę stronę: interfejs mówi im – przeczytaj to uważnie, daje możliwość przewinięcia tej umowy do końca. Ale zrobiono to wyłącznie dlatego, że to był projekt badawczy i wszyscy zostali ostrzeżeni. Żadna firma, w tym my, kiedy wypuści tę aplikację do otwartego dostępu, nie będzie zmuszać ludzi do czytania tej wiadomości aż do końca, bo… no, przepraszam, tak to wszystko działa.

Pod warunkiem, że przybyli do nas, wiedząc, czym zajmuje się firma, wiedząc, że weszli do serwisu, który będzie ci oferować kandydatów na podstawie tego, jakie porno lubisz – nawet na podstawie tego tylko 2% przeczytało te zaznaczenia i w ogóle coś zrobiło. A praktycznie nikt z nich nie zdjął zaznaczenia „Dostęp do ruchu i danych o odwiedzaniu innych stron internetowych”. W zasadzie wszystkich interesowały wiadomości prywatne.

Nagość i aresztowania za polubienia – ciekawe przepisy braterskich republik.

Z: – Mam pytanie dotyczące ochrony danych. Można nosić telefon w folii, udawać, że ich nie ma… Potem okazuje się, że niby zachowujesz, zachowujesz, ale potem musisz oddać swoje dane państwu, bo ono tego od ciebie wymaga, a ty nijak nie możesz… Tutaj wychodzi na to, że wykonawcy rządowi są wszyscy przepuszczeni. A w Białorusi jest jeszcze taki przepis: jeśli sprawdzę bezpieczeństwo swoich danych osobowych (coś poprawię i zdobędę dostęp do nich), to od razu jestem przestępcą. Ten sam artykuł użyto, aby oskarżyć dziennikarzy w sprawie „BelTA” o to, że uzyskali nieautoryzowany dostęp do danych (możecie sami poczytać). I tutaj jest moje pytanie: czy takie ograniczenia są skuteczną miarą na rzecz prywatności, a w ogóle dla bezpieczeństwa danych osobowych?

ACh: – Zrozumiałem. W Białorusi jest wiele bardzo ciekawych ustaw. Dosłownie niedawno się dowiedziałem… Cały czas żartuję o przekazywaniu nagości, a u was to, okazuje się, jest zabronione.

Z: – Demonstracja jest zabroniona!

ACh: – To w ogóle jest jakoś dziwne.

Z: – Można oglądać, nie można przekazywać, nie można lubić. Nie można oglądać razem!

ACh: – Odpowiem na twoje pytanie. Wracam do tematu „siedzą za polubienia” w Moskwie. W Rosji to jest temat numer jeden. Nie wiem, jak w Białorusi, ale, szczerze mówiąc, państwo… Analizując statystyki, w Moskwie 95 aresztowań za polubienia z 100 – to kiedy ludzie skarżą się na innych, ktoś pisze do prokuratury na drugiego człowieka. Państwo bardzo rzadko wszczyna takie sprawy. Wydaje mi się, że te prawo jest całkowicie absurdalne. Nie znam żadnego rzeczywistego przestępcy, którego za to wsadzono. Ale tę miarę wykorzystują, aby cokolwiek przyczepić człowiekowi. Wydaje mi się, że to maksymalnie dziwne. Myślę, że kiedyś to zniesie.

Z: – To się nazywa trzymać pod pokrywką.

ACh: – Noo, okay… I can't say. I'm not exactly a state monster, but my perception is a bit altered, you know, by the people who come to us and say: 'My child is missing, help me find them.' I say: 'I can't do anything without a court order.' You look at these parents who would give anything in their lives, would provide any access to any data – just to solve their problem. So it's very difficult for me to engage in such a discussion: on one hand, I believe that the state does the right thing when it catches real people, and on the other hand, granting uncontrolled access is a truly horrific story.

Returning to your point, sorry for getting sidetracked. I don't believe in foil bags at all. Having a mobile phone and wrapping it in foil – that's just silly. What's the point? To prevent it from connecting to Wi-Fi? It’s easier to turn it off. So that the mobile operator doesn't identify you? They can still trilaterate the signal and count it somehow. For me, the only effective security measures are storage that is protected, like a local network – maybe in an apartment, where you can store something.

Z: – The question here is about legislation. Is the legislation repressive towards a person who wants to verify their data?

ACh: – I see, yes. I didn't even know about this thing, so I can't tell you for sure. In Russia, it's not like that, although everything is very complicated there. Perhaps you can consult with qualified lawyers, and maybe there is some loophole – you could file something in some European court… No? I can't tell you about that. My knowledge of law is superficial, at the level of a company director. I know what you shouldn't do so that no one says anything to you. This is, of course, very sad.

Z: – I'm saying that in other countries (for example, in the States) it’s normal practice to be able to test some vulnerability and then report it, but not disclose it.

ACh: – Yes, 'bug bounty.' I get it, that exists.

Z: – And companies don't have a mechanism to get rid of you because it's cheaper.

ACh: – Ta sprawa również dotyka kwestii prawnych. Wszystko zależy od tego, jak odkryjesz tę lukę. Wydaje mi się, że znaczne sumy pieniędzy wypłacone za tę lukę w Stanach Zjednoczonych były wypłacane na mocy umowy o poufności i pod groźbą pozwu przeciwko danej osobie. Nie będę też tego szczególnie oceniać. Zawsze ryzykujemy czymś takim. Moi pracownicy kilka razy znaleźli podobne luki w różnych aplikacjach rządowych – zawsze mówię: "Lepiej wyślijcie anonimowy list, niż informujcie ich, że jest tam dziura". A potem przyjdzie jakiś instytut badawczy, który dostarczył tę usługę... W każdym razie, nie będę dłużej tego rozwijać.

Nie da się sprawdzić uczciwości biznesu: nie podoba się – nie korzystaj

Z: – Mam takie pytanie. Powiedzieliście, że przeprowadziliście eksperyment – trzeba było zaznaczyć 15 opcji… Załóżmy, że użytkownik odznacza wszystkie opcje. Kto i jak to skontroluje? Jak to w ogóle sprawdzić?

ACh: – Szczerze mówiąc: nikt i w żaden sposób. Naprawdę. To, że w Google zaznaczyliście lub odznaczyliście opcję "Zablokuj śledzenie reklam", tak naprawdę nic nie znaczy. Niestety, nawet gdy w Vkontakte ustawiasz zakaz indeksowania przez wyszukiwarki, wyszukiwarki wciąż to indeksują, a potem po prostu nie pokazują tych wyników określonym osobom. To wszystko wynika z braku kompetentnych organów, które mogłyby to sprawdzić. Ponadto, firmy, które się tym zajmują, są prywatne. Facebook ma jedną właściwą lub niewłaściwą pozycję: nie podoba się – nie korzystaj.

O regulacji

Z: – Mam tylko jedno proste pytanie. Jak odnosisz się do kwestii regulacji w przetwarzaniu danych, samoregulacji?

ACh: – Jako przedstawiciel firmy uważam, że rynek, biznes potrzebuje samoregulacji. Wierzę, że stowarzyszenie dużych danych może to wszystko samodzielnie uregulować, bez państwa. Bardzo nie ufam regulacji państwowej i bardzo nie ufam wszystkim historiom, kiedy państwo chce coś przechowywać, ponieważ każdy przypadek pokazał, że to bardzo źle się kończy. Zawsze znajdzie się ktoś, kto przyczepi login i hasło na żółtej karteczce na monitorze i tak dalej.

Ogólnie wierzę w samoregulację. Ponadto wierzę, że w ciągu najbliższych 5 lat dojdziemy do pewnej otwartości. Już teraz można to dostrzegać w wiadomościach, że rządowi jest bardzo trudno kłamać użytkownikom, a użytkownikom jest bardzo trudno oszukiwać system. I to, w zasadzie, może jest dobre. Zresztą mamy już pracowników służb wywiadowczych, którzy rozpoznają ludzi po zdjęciach publicznych.
To wszystko prowadzi do prawdopodobnego zmniejszenia poziomu przestępczości. Cóż, czysto matematycznie. Jeśli kogoś interesuje rozmowa na temat spadku poziomu przestępczości – istnieje wiele różnych wniosków, które można wyciągnąć. Ogólnie jestem za samoregulacją rynku. Dziękuję!

Trochę reklamy 🙂

Dziękujemy, że jesteś z nami. Podobają Ci się nasze artykuły? Chcesz zobaczyć więcej interesujących materiałów? Wspieraj nas składając zamówienie lub polecając nas znajomym, chmurowe VPS dla programistów od 4,99 $, unikatowy odpowiednik serwerów entry-level, który został stworzony przez nas dla Ciebie: Cała prawda o VPS (KVM) E5-2697 v3 (6 rdzeni) 10GB DDR4 480GB SSD 1Gbps od 19 $ lub jak prawidłowo podzielić serwer? (dostępne opcje z RAID1 i RAID10, do 24 rdzeni i do 40GB DDR4).

Dell R730xd dwa razy tańszy w centrum danych Equinix Tier IV w Amsterdamie? Tylko u nas 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100TB od 199 dolarów w Holandii! Dell R420 — 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB — od 99 dolarów! Czytaj o tym Jak zbudować infrastrukturę klasy korporacyjnej z zastosowaniem serwerów Dell R730xd E5-2650 v4 kosztujących 9000 euro za grosze?

Źródło: habr.com