🥇Mõõdetav andmeklassifitseerimine turvalisuse ja privaatsuse jaoks

Andmete klassifitseerimine sisu põhjal on avatud probleem. Traditsioonilised andmete kadumise ennetamise (DLP) süsteemid lahendavad selle probleemi, võttes vastavatelt andmetelt sõrmejälje ja jälgides lõpp-punkte. Arvestades Facebooki pidevalt muutuvaid andmeallikaid, ei ole see lähenemine mitte ainult mitteskaleeritav, vaid ka ebatõhus andmete asukoha määramisel. Käesolev artikkel käsitleb lõpp-punkti süsteemi, mis on loodud tundlike semantiliste tüüpi tuvastamiseks Facebookis mastaabis ja automaatse andmete säilitamise ning juurdepääsu kontrollimise tagamiseks.

Käesolevas artiklis kirjeldatud lähenemine on meie esimene lõpp-punkti privaatsuse süsteem, mis püüab selle probleemi lahendada, kaasates andmesignaale, masinõpet ja traditsioonilisi sõrmejälgede meetodeid, et kuvada ja klassifitseerida kogu Facebooki andmestikku. Kirjeldatud süsteem töötab tootmiskeskkonnas, saavutades keskmise F2 skoori 0,9+ erinevates privaatsusklassides, töötledes suures koguses andmeallikaid kümnetes ladudes. Tutvustame Facebooki publikatsiooni tõlget ArXiv'is masinõppe põhjalise andmete klassifitseerimise kohta privaatsuse ja turvalisuse tagamisel.

Sissejuhatus

Tänapäeval koguvad ja salvestavad organisatsioonid suurtes kogustes andmeid erinevates formaatides ja kohtades [1], seejärel kasutatakse andmeid paljudes kohtades, mõnikord kopeeritakse või vahemällu salvestatakse mitu korda, mille tulemusena väärtuslik ja конфиденциальная äriline teave hajub paljude ettevõtte andmehulkade vahel. Kui organisatsioonilt nõutakse teatud seaduslike või regulatiivsete nõuete täitmist, näiteks tuleb järgida regulatsioone tsiviilkohtumenetluse käigus, tekib vajadus koguda teavet vajalike andmete asukoha kohta. Kui konfidentsiaalsuse määruses sätestatakse, et organisatsioon peab maskeerima kõik sotsiaalkindlustuse numbrid (SSN), edastades isikuandmeid volitamata isikutele, on loomulik esimene samm kõigi SSN-ide otsimine organisatsiooni andmehulkadest. Sellistes oludes muutub andmete klassifitseerimine kriitiliseks [1]. Klassifitseerimissüsteem võimaldab organisatsioonidel automaatselt tagada konfidentsiaalsuse ja turvapoliitika, nagu juurdepääsu haldamise poliitika ja andmete säilitamine. Facebook tutvustab süsteemi, mille oleme loonud Facebookis, mis kasutab mitmeid andmesignaale, skaleeritavat süsteemiarhitektuuri ja masinõpet tundlike semantiliste andmetüüpide avastamiseks.

Andmete avastamine ja klassifitseerimine on nende leidmine ja märgistamine viisil, et vajadusel oleks võimalik kiiresti ja tõhusalt vajalikku teavet välja tõmmata. Praegune protsess on pigem manuaalne ja hõlmab asjakohaste seaduste või regulatsioonide uurimist, määramaks, milliseid teave tuleks pidada tundlikuks ja millised on erinevad tundlikkuse tasemed, ning seejärel vastavalt klasside ja klassifitseerimispoliitika koostamist [1]. Pärast andmekadu vältiva süsteemi (DLP) andmeid jälgivad ja jälgivad lõpp-punktid allavoolu, et saada sõrmejälgi. Töötades salvestusruumis, kus on palju varasid ja petabaiti andmeid, ei ole selline lähenemine lihtsalt skaleeritav.

Meie eesmärk on luua andmete klassifitseerimise süsteem, mis on skaleeritav nii stabiilsete kui ka ebastabiilsete kasutajateandmete jaoks, ilma igasuguste täiendavate piiranguteta andmete tüübi või formaadi osas. See on julge eesmärk ja loomulikult kaasnevad sellega raskused. Mõni andmerekord võib olla tuhandete sümbolite pikkune.

Joonis 1. Veebipõhise ja offline ennustamise voog

Seetõttu peame efektiivselt seda esindama, kasutades ühist omaduste kogumit, mida hiljem saab kombineerida ja hõlpsasti liigutada. Need omadused peavad mitte ainult tagama täpse klassifitseerimise, vaid ka pakkuma paindlikkust ja laiendatavust, et tulevikus oleks lihtne uusi andmetüüpe lisada ja avastada. Teiseks, tuleb tegeleda suurte iseseisvate tabelitega. Stabiilsed andmed võivad olla mitme petabaiti suurustes tabelites. See võib viia skaneerimise kiirus langemiseni. Kolmandaks peame järgima ranget SLA klassifitseerimist ebastabiilsete andmete osas. See sunnib süsteemi olema väga efektiivne, kiire ja täpne. Lõpuks peame tagama madala latentsusega andmete klassifitseerimise ebastabiilsete andmete jaoks, et teostada reaalajas klassifitseerimist, samuti veebikasutuse juhtude jaoks.

Selles artiklis käsitletakse, kuidas me lahendasime eelnevad probleemid, ja tutvustatakse kiiret ja skaleeritavat klassifitseerimissüsteemi, mis klassifitseerib andmeelemente kõikide tüüpide, formaatide ja allikate põhjal ühisest omaduste kogumist. Me laiendasime süsteemi arhitektuuri ja lõime spetsiaalse masinõppemudeli kiireks offline ja online andmete klassifitseerimiseks. See artikkel on korraldatud järgmiselt: jaotises 2 tutvustatakse süsteemi üldine disain. Jaotises 3 arutatakse masinõppesüsteemi osi. Jaotistes 4 ja 5 käsitletakse seotud tööd ning muudetakse tuleviku suundi.

Arhitektuur

Et lahendada stabiilsete ja online andmete väljakutseid Facebooki ulatuses, on klassifitseerimissüsteemil kaks eraldi voogu, millest arutame üksikasjalikult.

Stabiilsed andmed

Esialgu peab systeem saama teada Facebooki mitmesugustest teabest. Iga andmehoidla kohta kogutakse teatud põhiteave, nagu andmekeskus, mis sisaldab neid andmeid, süsteem, mis töötleb neid andmeid, ja varad, mis asuvad konkreetse andmehoidla sees. See moodustab metaandmete katalooge, mis võimaldab süsteemil andmeid tõhusalt välja tõmmata ilma klientide ja teiste inseneride kasutatavate ressursside ülekoormamiseta.

See metaandmete kataloog tagab usaldusväärse allika kõigi skaneeritud varade jaoks ja võimaldab jälgida erinevate varade seisundit. Selle teabe abil määratakse tähenduse prioriteet, tuginedes kogutud andmetele ja süsteemi siseteabele, nagu viimase eduka skaneerimise aeg ja varade loomise aeg, samuti varasemad mälu- ja protsessorinõuded selle vara jaoks, kui see on varem skaneeritud. Seejärel, kui andmeressursid on saadaval, kutsutakse kõigi andmeskaneerimise tööde jaoks esile ülesanne.

Iga ülesanne on kompileeritud binaarfail, mis viib läbi Bernoulli valimi viimaste andmete põhjal iga vara kohta. Vara jagatakse eraldi veergudeks, kus iga veeru klassifitseerimise tulemus töödeldakse iseseisvalt. Lisaks skaneerib süsteem veergudes paiknevaid igasuguseid küllastunud andmeid. JSON, massiivid, kodeeritud struktuurid, URL-aadressid, base 64 serialiseeritud andmed ja palju muud — kõik need skaneeritakse. See võib oluliselt suurendada skaneerimise täitmise aega, kuna ühes tabelis võib olla tuhandeid sissepandud veerge suures binaarobjektis. json.

Iga reani, mis valitakse andmevarast, tagastab klassifitseerimissüsteem hõljuvad ja tekstipõhised objektid sisult ning seob iga objekti tagasi veeruga, kust see pärineb. Objektide välja tõmbamise etapi tulemus on kaart kõigist objektidest iga leitud andmevara veergu.

Miks on funktsioonid vajalikud?

Tunnuste mõisted on võtmetähtsusega. Floating ja tekstiliste tunnuste asemel saame edastada töötlemata stringi näidiseid, mis on otse saadud igast andmeallikast. Lisaks saavad masinõppe mudelid õppida otse igast valimist, mitte sadu tunnuste arvutusi, mis proovivad valimit ligikaudu esitada. Sellel on mitmeid põhjuseid:

Privaatsus on peamine: kõige olulisem on see, et tunnuste mõisted võimaldavad meil mäletada vaid neid näidiseid, mille me ekstraheerime. See tagab, et me salvestame näidised üksnes ametlikel eesmärkidel ning ei logi neid omaette. See on eriti oluline ebastabiilsete andmete puhul, kuna teenus peab hoidma teatavat klassifitseerimise seisundit enne ennustuste tegemist.
Mälu: mõned näidised võivad olla tuhandeid märke pikad. Selliste andmete hoidmine ja nende edastamine süsteemi osadele ilma vajaduseta tarbib palju lisabaiti. Kahe teguri kombinatsioon võib aja jooksul osutuda problemaatiliseks, arvestades, et andmeallikates on palju tuhandeid veerge.
Tunnuste agregatsioon: tunnuste abil esitatakse igast skaneerimisest saadud tulemused selgelt, võimaldades süsteemil mugavalt ühendatega sama andmeallika eelnevate skaneerimiste tulemusi. See võib olla kasulik selleks, et liita ühe andmeallika skaneerimistulemusi mitmel korral.

Seejärel saadetakse tunnused ennustamisteenusesse, kus kasutame reeglitepõhist klassifitseerimist ja masinõpet, et ennustada iga veeru andmetäppe. Teenus tugineb nii reeglite klassifikaatoritele kui ka masinõppele ning valib parima ennustuse igast ennustamisobjektist.

Reeglite klassifikaatorid on käsitsi heuristika, mis kasutab arvutusi ja koefitsiente objekti normaliseerimiseks vahemikus 0 kuni 100. Kui selline esmane hinne on genereeritud iga andmeliigi ja nende andmetega seotud veeru nime jaoks, mis ei satu «mustadele nimekirjadele», valib reeglite klassifikaator kõrgeima normaliseeritud hinde kõigi andmeliikide seast.

Kuna keerukust klassifitseerimisel toob rangelt käsitsi heuristika kasutamine kaasa madala klassifitseerimise täpsuse, eriti struktureerimata andmete puhul. Seetõttu oleme välja töötanud masinõppe süsteemi, et töötada struktureerimata andmete klassifitseerimisega, nagu kasutajasisu ja aadress. Masinõpe on võimaldanud meil alustada üleminekut käsitsi heuristikalt ja rakendada täiendavaid andmesignaale (näiteks veergude nimetused, andmete päritolu), mis on märkimisväärselt suurendanud avastamise täpsust. Sukeldume meie masinõppe arhitektuuri hiljem sügavamale.

Prognoosimise teenus salvestab igas veerus igaüksu tulemused koos metainfoga, mis puudutab skaneerimise aega ja seisundit. Kõik tarbijad ja allakäivad protsessid, mis sõltuvad nendest andmetest, saavad neid lugeda igapäevaselt avaldatud andmekogust. See kogum koondab tulemused kõigist nendest skaneerimisülesannetest, või reaalajas andmekatalooge olev API. Avaldatud prognoosid on automaatse privaatsuse ja turvapoliitika rakendamise aluseks.

Lõpuks, pärast seda, kui prognoosimise teenus on kõik andmed salvestanud ja kõik prognoosid säilitatakse, saab meie andmekatalooge API reaalajas tagastada kõik prognoosid andmetüüpide kohta ressursi jaoks. Iga päev avaldab süsteem andmekogumi, mis sisaldab kõiki uusimaid prognoose iga varade kohta.

Ebausaldusväärsed andmed

Kuigi ülaltoodud protsess on loodud salvestatud varade jaoks, loetakse ka salvestamata liiklus organisatsiooni andmete osaks ja see võib olla oluline. Seetõttu pakub süsteem reaalajas prognoosimise klassifitseerimise API-d mis tahes ebausaldusväärse liikluse jaoks. Reaalajas prognoosimise süsteemi kasutatakse laialdaselt väljamineva liikluse klassifitseerimisel, sissetuleva liikluse masinõppe mudelites ja reklaamijate andmetes.

Siin API võtab vastu kaks peamist argumenti: gruppimistöötluse võti ja toored andmed, mida tuleb prognoosida. Teenus teostab sama objektide tõmbamise, nagu eespool kirjeldatud, ja grupeerib objekte koos sama võtmega. Need omadused on samuti salvestatud vahemälu jaoks, et taastada pärast tõrget. Iga gruppimistöötluse võtme puhul garanteerib teenus, et enne prognoosimise teenuse kutsumist on ta näinud piisavalt proove vastavalt eespool kirjeldatud protsessile.

Optimeerimine

Mõnede ladude skaneerimiseks kasutame raamatukogusid ja lugemise optimeerimise meetodeid kuumadest ladudest [2] ja garanteerime, et teiste kasutajate poolt sama ladudele ligipääsemisel ei esine tõrkeid.

Üksikute suurte tabelite (50+ petabaiti) puhul, vaatamata kõikidele optimeerimisele ja mälu tõhususele, töötab süsteem skaneerimise ja arvutamise kallal, enne kui mälu lõpeb. Lõppkokkuvõttes arvutatakse skaneerimine täielikult mälus ja skaneerimise ajal ei salvestata. Kui suured tabelid sisaldavad tuhandeid veerge struktuurita andmehulki, võib ülesanne ebaõnnestuda mäluresursside puudumise tõttu prognooside tegemisel kogu tabeli jaoks. See toob kaasa katvuse vähenemise. Selle vastu võitlemiseks oleme süsteemi optimeerinud, et kasutada skaneerimise kiirust vahendina, et näha, kui hästi süsteem praeguse koormusega toime tuleb. Kasutame kiiruset prognoosimehhanismina, et näha mälu probleeme ja ennetaval kaardistamisel objekte. Sellisel juhul kasutame vähem andmeid kui tavaliselt.

Andmesignaalid

Klassifitseerimissüsteem on hea nii headest andmesignaalidest. Siin vaatleme kõiki signaale, mida klassifitseerimissüsteem kasutab.

Sisu põhjal: muidugi, esimene ja kõige olulisem signaal on sisu. Teostame Bernoulli valikut iga andmeobjekti kohta, mida me skaneerime ja ekstraktime andmete omadusi. Paljud omadused tulenevad sisust. Võimalik on mis tahes arvu ujuvaid objekte, mis esindavad arvutusi selle kohta, kui sageli on teatud tüüpi mustrit nähtud. Näiteks võivad meil olla rotzandid e-kirjade arvu kohta, mis on valimis nähtud, või omadused selle kohta, kui palju emotikone on valimis nähtud. Need omaduste arvutused saab normaliseerida ja agreggeerida erinevate skaneeringute põhjal.
Andmete päritolu: oluline signaal, mis võib aidata, kui sisu on muutunud vanematabelist. Levinud näide on hashitud andmed. Kui andmed alamtabelis hashitakse, tulevad need sageli vanematabelist, kus nad jäävad avatud kujul. Päritoluandmed aitavad klassifitseerida teatud andmeliike, kui neid ei loeta selgelt või kui need on muundatud ülesvoolu tabelist.
Annotatsioonid: veel üks kvaliteetsignaal, mis aitab tuvastada struktureerimata andmeid. Tegelikult võivad annotatsioonid ja päritoluandmed töötada koos, et jagada atribuute erinevate andmeobjektide vahel. Annotatsioonid aitavad tuvastada struktureerimata andmete allikat, samas kui päritoluandmed aitavad jälgida nende andmete voogu kogu salvestuses.
Andmete süstimine on meetod, kus teadlikult sisestatakse spetsiaalseid, lugematud sümbolid tuntud allikatesse tuntud andmeliikide jaoks. Seega, iga kord, kui me skaneerime sisu sama lugematu sümbolite järjestusega, saab järeldada, et sisu pärineb sellest tuntud andmeliigist. See on veel üks kvaliteetsignaal andmete kohta, sarnane annotatsioonidele. Erinevalt sellest aitab sisu põhjalik avastamine tuvastada sisestatud andmeid.

Mõõdikute mõõtmine

Oluline komponent on erinevate mõõdikute mõõtmise range metodoloogia. Peamised mõõdikud klassifikatsiooni täiustamise iteratsioonide jaoks on iga märgise täpsus ja tagasiside, kusjuures F2 hindamine on kõige olulisem.

Nende näitajate arvutamiseks on vajalik sõltumatu metoodika andmete märgistamiseks, mis ei sõltu ise süsteemist, kuid mida saab kasutada selle vahetuks võrdlemiseks. Allpool kirjeldame, kuidas me kogume Facebookist põhiteavet ja kasutame seda meie klassifikatsioonisüsteemi koolitamiseks.

Usaldusväärsete andmete kogumine

Kogume usaldusväärseid andmeid igast allikast, mis on loetletud allpool, tema enda tabelisse. Iga tabel vastutab selle konkreetse allika viimaste täheldatud väärtuste kogumise eest. Igal allikal on andmekvaliteedi kontroll, et tagada, et iga allika täheldatud väärtused on kvaliteetsed ja sisaldavad viimaset andmetüüpide sildid.

Logimise platvormide konfiguratsioonid: teatud väljad kärgede tabelites täidetakse andmetega, mis kuuluvad kindlasse tüüpi. Nende andmete kasutamine ja levitamine on usaldusväärne usaldusväärsete andmete allikas.
Käsitsi märgistamine: süsteemi toetavad arendajad ning välised märgiseid õpetatakse veergude märgistamiseks. See töötab tavaliselt hästi kõigi andmetüüpide jaoks, mis sisaldub salvestuses, ja võib olla peamine usaldusväärsusallikas mõne struktureerimata andmete, näiteks sõnumite või kasutajate sisu jaoks.
Vanematelt tabelitelt pärinevad veerud võivad olla märgistatud või annotatsiooniga, et need sisaldavad teatud andmeid, ning me saame neid andmeid madalama taseme tabelites jälgida.
Töösuundade valimine: Facebooki töösuunad sisaldavad teatud tüüpi andmeid. Meie skanneri kasutamine teenuse arhitektuurina võimaldab meil valida suundi, mis sisaldavad tuntud andmetüüpe, ja saata need süsteemi. Süsteem lubab neid andmeid mitte salvestada.
Valimistabelid: suured kärgede tabelid, milles on tuntud, et need sisaldavad kogu andmekogumit, võivad samuti kasutada koolitusandmete jaoks ja edastatakse skanneri kaudu teenusena. See sobib suurepäraselt tabelitele, millel on kogu andmete tüüpide amplituud, nii et veeru juhuslik valimine on ekvivalentne selle andmetüübi kogu hulgast valimisega.
Süntetilised andmed: me saame kasutada ka teeke, mis genereerivad andmeid reaalajas. See töötab hästi lihtsate, avalike andmetüüpide jaoks, nagu aadress või GPS.
Andmekaitsjad: privaatsusprogrammid kasutavad tavaliselt andmekaitsjate abi, et kinnitada poliitikaid andmeelementide kohta. See toimib väga täpsena, et tagada usaldusväärsus.

Kombineerime iga peamise usaldusväärsete andmete allika ühe kogumina koos kõigi nende andmetega. Suurim probleem usaldusväärsuse tagamisel on see, et see oleks esinduslik andmehoidla jaoks. Vastasel juhul võivad klassifitseerimismootorid üleõppida. Selle vastu võitlemiseks kasutatakse kõiki ülalmainitud allikaid, et tagada tasakaal mudelite koolitamisel või mõõdikute arvutamisel. Samuti valivad andmemärgistajad juhuslikult erinevad veerud andmehoidlast ja märgistavad andmed vastavalt, et usaldusväärsete väärtuste kogumine jääks erapooletuks.

Pidev integreerimine

Kiire iteratsiooni ja täiustamise tagamiseks on oluline alati mõõta süsteemi jõudlust reaalajas. Saame mõõta iga klassifitseerimise täiustust võrreldes tänase süsteemiga, et saaksime strateegiliselt orienteerida andmeid edasistes täiustustes. Siin vaatame, kuidas süsteem lõpetab tagasiside tsükli, mida tagavad usaldusväärsed andmed.

Kui planeerimissüsteem puutub kokku varaga, millel on märge usaldusväärselt allikult, planeerime kaks ülesannet. Esimene kasutab meie tootmiskannerit ja seega meie tootmisvõimekusi. Teine ülesanne kasutab viimase versiooni skannerit, millel on uusimad omadused. Iga ülesanne kirjutab oma väljundi oma tabelisse, märgistades versioonid koos klassifitseerimistulemustega.

Nii võrreldame vabastatud kandidaadi ja tootemudeli klassifitseerimistulemusi reaalajas.

Kuna andmed võrreldes RC ja PROD-i omadusi, logitakse mitmeid erinevaid ML klassifitseerimise mootorite variatsioone prognoosimise teenuses. Viimane koostatud masinõppemudel, praegune tootmismudel ja kõik eksperimentaalsed mudelid. Sama lähenemine võimaldab meil "lõigata" erinevaid mudeli versioone (meie klassifikaatorite reeglid) ja võrrelda mõõdikuid reaalajas. Nii on lihtne kindlaks teha, millal ML-i katse on tootmisse rakendamiseks valmis.

Iga öö saadetakse selle päeva jaoks arvutatud RC-omadused ML-i koolituskonveierile, kus mudel õpib viimaste RC-omaduste pealt ja hindab oma toimivust võrreldes usaldusväärse andmekogumiga.

Iga hommik lõpetab mudel koolituse ning avaldatakse automaatselt eksperimentaalsena. See lülitatakse automaatselt eksperimentaalsesse nimekirja.

Mõned tulemused

Üle 100 erineva andmestiku tüübi märgistus kõrge täpsusega. Hästi struktureeritud tüübid, nagu e-kirjad ja telefoninumbrid, klassifitseeritakse f2 skooriga üle 0,95. Vaba tüüpi andmed, nagu kasutajasisu ja nimed, töötavad samuti väga hästi, f2 skooridega üle 0,85.

Igapäevaselt klassifitseeritakse suur hulk eraldi stabiilsete ja ebastabiilsete andmete veerge kõigis andmesalvestustes. Üle 500 terabaiti skaneeritakse iga päev rohkem kui 10 andmesalvestuses. Enamiku nende salvestuste ulatus on üle 98%.

Aja jooksul on klassifitseerimine muutunud väga tõhusaks, kuna klassifitseerimisülesanded salvestatud iseseisvas voos võtavad keskmiselt 35 sekundit varade skaneerimisest prognooside arvutamiseni iga veeru jaoks.

Joonis 2. Diagramm, mis kirjeldab pidevat integraatsiooni voogu, et mõista, kuidas RC objektid genereeritakse ja saadetakse mudelisse.

Joonis 3. Ülevaatlik diagramm masinõppe komponendist.

Masinõppe süsteemi komponent

Eelmisel peatükil süüvisime sügavale kogu süsteemi arhitektuuri, tuues esile ulatuse, optimeerimise ja andmevood iseseisvas ja online-režiimis. Selles peatükis vaatleme prognoosimise teenust ja kirjeldame masinõppesüsteemi, mis tagab prognoosimisteenuse toimimise.

Rohke on üle 100 andmetüübi ja teatud struktureerimata sisuga, nagu sõnumite andmed ja kasutajasisu, kasutamine ainult käsitsi heuristikaga toob kaasa alampiiratud klassifitseerimise täpsuse, eriti struktureerimata andmete puhul. Sellepärast oleme välja töötanud ka masinõppesüsteemi, et tegeleda struktureerimata andmete keerukustega. Masinõppe kasutamine võimaldab meil hakata loobuma käsitsi heuristikast ning töötada tunnuste ja andmesignaalide (nt veergude nimed, andmete päritolu) abil täpsuse suurendamiseks.

Teostatud mudel uurib vekt esitusviise [3] tihedate ja hõredate objektide üle eraldi. Seejärel koondatakse need, et luua vektor, mis läbib mitmeid etappe partii normaliseerimist [4] ja mittelineaarsust, et saada lõpptulemus. Lõpptulemus on ujuvpunktiga arv vahemikus [0-1] iga sildi jaoks, mis näitab tõenäosust, et näide kuulub teatud tundlikkuse kategooriasse. PyTorchi kasutamine mudelis võimaldas meil liikuda kiiremini, andes võimaluse arendajatele väljaspool meeskonda kiiresti muudatusi sisse viia ja testida.

Arhitektuuri kavandamisel oli oluline modelleerida hõredaid (nt tekstilisi) ja tihedaid (nt numbrilisi) objekte eraldi nende sisemise erinevuse tõttu. Lõpliku arhitektuuri jaoks oli samuti oluline teostada parameetrite lahtipakkimine, et leida optimaalsed õppimise kiirus, partii suurus ja muud hüperparameetrid. Optimeerija valik oli samuti oluline hüperparameeter. Me leidsime, et populaarne optimeerija Adamtoob sageli kaasa üleõppimise, samas kui mudeliga SGD stabiilsem. Oli täiendavaid nüansse, mida pidime mudelisse otse kaasama. Näiteks staatilised reeglid, mis tagavad, et mudel teeb deterministliku prognoosi, kui tunnus omab kindlat väärtust. Need staatilised reeglid on määratletud meie klientide poolt. Me avastasime, et nende otse mudelisse kaasamine viis enesekehtestava ja usaldusväärse arhitektuuri loomisele, erinevalt postitöötluse etapi rakendamisest nende eriliste äärmuste käsitlemiseks. Samuti tuleb märkida, et treeningu ajal need reeglid välja lülitatakse, et mitte segada gradientide langemise treeningprotsessi.

Probleemid

Üheks probleemiks oli kõrgekvaliteediliste ja usaldusväärsete andmete kogumine. Mudel vajab iga klassi usaldusväärsust, et see saaks õppida objektide ja siltide vahelisi seoseid. Eelnevas jaotises arutasime andmete kogumise meetodeid nii süsteemi mõõtmiseks kui ka mudelite treenimiseks. Analüüs näitas, et andmeklassid, nagu krediitkaardinumbrid ja pangakonto numbrid, ei ole meie andmemagazinis kuigi levinud. See raskendab suurte mahude usaldusväärsete andmete kogumist mudelite treenimiseks. Selle probleemi lahendamiseks oleme välja töötanud sünteetiliste usaldusväärsete andmete hankimise protsessid nende klasside jaoks. Genererime selliseid andmeid tundlike tüüpide jaoks, sealhulgas SSN, krediitkaardinumbrid ja IBAN-numbrid, mille osas mudel ei suutnud varem prognoosida. See lähenemine võimaldab käsitleda konfidentsiaalseid andmeid ilma seotud konfidentsiaalsuse riskideta, mis tulenevad tegelike konfidentsiaalsete andmete varjamisest.

Lisaks usaldusväärsete andmete probleemidele on avatud arhitektuuri probleemid, millega me töötame, nagu muudatuste isoleerimine ja varajane peatamine. Muudatuste isoleerimine on oluline, et erinevatesse võrgu osadesse tehtud muudatuste mõju oleks isoleeritud konkreetsetest klassidest ning ei avaldaks laiemat mõju üldisele prognoosimise tulemuslikkusele. Varajase peatamise kriteeriumide parandamine on samuti kriitilise tähtsusega, et saaksime treeningprotsessi lõpetada stabiilses punktis kõikide klasside jaoks, mitte seal, kus mõned klassid üleõpivad ja teised mitte.

Tunnuse tähtsus

Kui mudelisse sisestatakse uus tunnus, soovime teada selle üldist mõju mudelile. Samuti tahame veenduda, et prognoosid on inimeste jaoks tõlgendatavad, et mõista täpselt, milliseid tunnuseid kasutatakse iga andmetüübi puhul. Selleks oleme välja töötanud ja rakendanud klassipõhise tunnuste tähtsuse mudeli PyTorch jaoks. Pange tähele, et see erineb üldisest tunnuse tähtsusest, mida tavaliselt toetatakse, sest see ei ütle meile, millised tunnused on teatud klassi jaoks olulised. Me mõõdame objekti tähtsust, arvutades prognoosiviga suurenemise pärast objekti segamist. Tunnus on 'tähtis', kui väärtuste segamine suurendab mudeli viga, sest sellisel juhul tugines mudel prognoosimisel sellele tunnusele. Tunnus on 'ebatähtis', kui selle väärtuste segamine jätab mudeli vea muutumatuks, kuna sel juhul ignoreeris mudel seda [5].

Tunnuse tähtsus iga klassi jaoks võimaldab mudeli tõlgendatavust, et saaksime näha, millele mudel prognoosimisel tähelepanu pöörab. Näiteks kui analüüsime ADDR, tagame, et selle aadressiga seotud tunnus, nagu AddressLinesCount, on iga klassi tunnuste tähtsuse tabelis kõrgel kohal, et meie inimlikud intuitsioonid ühtiksid hästi mudeli õpituga.

Hindamine

Oluline on määrata ühtne edu mõõdik. Me valisime F2 — tasakaal vastuse ja täpsuse vahel (vastuse kaldumine on veidi suurem). Vastus on privaatsuse kasutusjuhtumi puhul olulisem kui täpsus, kuna meeskonna jaoks on äärmiselt oluline mitte jätta mingeid privaatsusandmeid tähelepanuta (tagades samal ajal mõistliku täpsuse). F2 meie mudeli tõhususe hindamise tegelikud andmed jäävad käesolevast artiklist väljapoole. Siiski, põhjaliku häälestamise korral saame saavutada kõrge (0,9+) F2 skoori kõige olulisemate tundlike klasside jaoks.

Seotud töö

On mitmeid algoritme, mis automaatselt klassifitseerivad struktuurimata dokumente, kasutades erinevaid meetodeid, nagu mallide vastendamine, dokumentide sarnasuse otsimine ja erinevad masinõppe meetodid (Bayesi, otsustuspuud, k-lähim naaber jne) [6]. Igaüht neist saab kasutada klassifitseerimise osana. Siiski on probleemiks skaleeritavus. Käesolevas artiklis on klassifitseerimise lähenemine suunatud paindlikkusele ja jõudlusele. See võimaldab meil tulevikus uusi klasse toetada ning säilitada madalat latentsusaja.

Samuti on palju töid, mis käsitlevad andmete jälgimist. Näiteks on autorid [7] kirjeldanud lahendust, mis keskendub konfidentsiaalse teabe lekete tuvastamise probleemile. Peamine eeldus on andmete jälje võimalus, et sobitada see tuntud konfidentsiaalsete andmete kogumiga. Autorid [8] kirjeldavad sarnast konfidentsiaalsuse lekke probleemi, kuid nende lahendus põhineb konkreetse Androidi arhitektuuril ning klassifitseeritakse ainult siis, kui kasutaja tegevus on viinud isikuandmete saatmiseni või kui põhiäpist on lekkinud kasutajaandmeid. Siin on olukord pisut erinev, kuna kasutajaandmed võivad samuti olla tugevalt struktuurimata. Seetõttu on meil vaja keerukamat tehnikat kui andmete jälje võtmine.

Lõpuks, et tegeleda andmete puudumisega mõnede konfidentsiaalsete andmete tüüpide jaoks, oleme sisse viinud sünteetilised andmed. Andmete täiendamise kohta on suur hulk kirjandust, näiteks on autorid [9] uurinud mürade süstimise rolli õppimise ajal ning täheldanud positiivseid tulemusi juhendatud õppimise kontekstis. Meie konfidentsiaalsuse lähenemine on erinev, kuna müraga andmete sissetoomine võib olla vastutöötav, ja selle asemel keskendume kvaliteetsetele sünteetilistele andmetele.

Kokkuvõte

Selles artiklis tutvustasime süsteemi, mis suudab andmefragmenti klassifitseerida. See võimaldab meil luua privaatsuspoliitikate ja turvameetmete järgimise süsteeme. Näitasime, et skaleeritav infrastruktuur, pidev integreerimine, masinõpe ja kõrgekvaliteedilised andmed andmete usaldusväärsuse kohta mängivad meie paljudes privaatsuse algatustes võtmeroll.

Tuleviku töö suundi on palju. See võib hõlmata struktureerimata andmete (failide) toe tagamise, mitte ainult andmetüübi, vaid ka tundlikkuse taseme klassifitseerimise, samuti isesäilitava õppe kasutamist otse õppimise ajal, täpsete sünteetiliste näidete genereerimise kaudu. Need omakorda aitavad mudelil vähendada kaotusi maksimaalsele tasemele. Tuleviku töö võib keskenduda ka uurimise tööprotsessile, kus läheme kaugemale avastamisest ja pakume erinevate privaatsuse rikkumiste põhjusanalüüsi. See aitab sellistes olukordades nagu tundlikkuse analüüs (nt kas andmete tüüp on kõrge (nt kasutaja IP) või madala (nt Facebooki sisemine IP) privaatsuse tundlikkuse poolest).

Bibliograafia

David Ben-David, Tamar Domany ja Abigail Tarem. Ettevõtte andmete klassifitseerimine semantilise veebi tehnoloogiate abil. Peter F.Ï Patel-Schneider, Yue Pan, Pascal Hitzler, Peter Mika, Lei Zhang, Jeff Z. Pan, Ian Horrocks ja Birte Glimm, toimetajad, Semantiline veeb – ISWC 2010, leheküljed 66–81, Berliin, Heidelberg, 2010. Springer Berlin Heidelberg.
Subramanian Muralidhar, Wyatt Lloyd, Sabyasachi Roy, Cory Hill, Ernest Lin, Weiwen Liu, Satadru Pan, Shiva Shankar, Viswanath Sivakumar, Linpeng Tang ja Sanjeev Kumar. f4: Facebooki soe BLOB-i salvestussüsteem. In 11. USENIXi symposium operatsioonisüsteemide projekteerimise ja rakendamise (OSDI 14), leheküljed 383–398, Broomfield, CO, oktoober 2014. USENIXi assotsiatsioon.
Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg S Corrado ja Jeff Dean. Jagatud sõnade ja fraaside esindused ning nende koostöölisus. C. J. C. Burgesi, L. Bottou, M. Wellingi, Z. Ghahramani ja K. Q. Weinbergeri toimetatud, Edusammud närviteabe töötlemise süsteemides 26, leheküljed 3111–3119. Curran Associates, Inc., 2013.
Sergey Ioffe ja Christian Szegedy. Partii normaliseerimine: sügava võrgu koolituse kiirendamine, vähendades sisemist muutuvate tingimuste nihkemust. Francis Bachi ja David Blei, toimetajad, 32. rahvusvahelise masinaõppimise konverentsi toimetised, köide 37 Masinaõppe uurimistöö toimetised, leheküljed 448–456, Lille, Prantsusmaa, 07–09 juuli 2015. PMLR.
Leo Breiman. Juhuslikud metsad. Mas. Õpe., 45(1):5–32, oktoober 2001.
Thair Nu Phyu. Klassifitseerimise tehnikate ülevaade andmekaevandamises.
X. Shu, D. Yao ja E. Bertino. Tundlike andmete lekke privaatsuse säilitav tuvastamine. IEEE Tehingud teabe forensika ja turvauuringute alal., 10(5):1092–1103, 2015.
Zhemin Yang, Min Yang, Yuan Zhang, Guofei Gu, Peng Ning ja Xiaoyang Wang. Appintent: Tundliku andmeedastuse analüüsimine Androidis privaatsuse lekkimise tuvastamiseks. leheküljed 1043–1054, 11 2013.
Qizhe Xie, Zihang Dai, Eduard H. Hovy, Minh-Thang Luong ja Quoc V. Le. Järelevalveta andmete suurendamine.

Uuri, kuidas omandada nõudlik amet nullist või täiendada oma oskusi ja palka, osaledes SkillFactory veebikursustel:

Andmete teaduse ametikoolitus nullist (12 kuud)

Masinõppe kursus (12 nädalat)

Edasijõudnud kursus "Masinõpe Pro + Süvaõpe" (20 nädalat)

Kursus "Matemaatika ja masinõpe andmete teaduses" (20 nädalat)
Veel kursuseid

Kursused "Python veebiarenduseks" (9 kuud)

Veebiarendaja amet (8 kuud)

Analüütiku elukutse igasuguse algtaseme jaoks (9 kuud)

DevOpsi kursus (12 kuud)

Java arendaja amet nullist (18 kuud)

JavaScripti kursus (12 kuud)

UX-disaineri amet nullist (9 kuud)

Veebidisaineri amet (7 kuud)