Kyberohtude analüütiline ülevaade, mis puudutab meditsiinilisi teabe süsteeme aastatel 2007–2017.

See ülevaade on märgitud tänukirjaga Venemaa tervishoiuministeeriumilt (vt ekraan allpool spoileris).

Kui laialdaselt on Venemaal levinud meditsiinilised teabe süsteemid?
- 2006. aastal teatas "Siberi Informatika" (IT-ettevõte, mis spetsialiseerub meditsiiniliste infotehnoloogiate arendamisele) [38]: "MIT Technology Review avaldab perioodiliselt traditsioonilist nimekirja kümnest perspektiivsest infotehnoloogiast, mis avaldavad lähiajal suurimat mõju inimkonnale. 2006. aastal kuulus 6 kümnest positsioonist selles nimekirjas tehnoloogiatele, mis olid seotud meditsiiniga. 2007. aastast kuulutati Venemaal 'tervishoiu infotehnoloogiseerimise aastaks'. Aastatel 2007-2017 on tervishoiu sõltuvus infotehnoloogiatest pidevalt suurenenud."
- 2012. aasta 10. septembril teatas analüüsi- ja teabe keskus "Avatud Süsteemid" [41], et 2012. aastal liitus EMIAS-ega (ühtne meditsiiniline infotehnoloogiline analüüsi süsteem) 350 Moskva polikliinikut. Veidi hiljem, 24. oktoobril 2012 teatas sama allikas [42], et hetkel on 3,8 tuhat arsti saanud automatiseeritud töökohti ning 1,8 miljonit kodanikku on juba EMIAS teenust proovinud. 12. mail 2015 teatas sama allikas [40], et EMIAS töötab kõigis 660 Moskva riiklikus polikliinikus ning sisaldab andmeid üle 7 miljoni patsiendi.
- 2016. aasta 25. juunil avaldas ajakiri "Profil" [43] rahvusvahelise analüüsikeskuse PwC eksperthinnangu: "Moskva on ainus megalinn, kus on täielikult rakendatud ühtne süsteem linna polikliinikute juhtimiseks, samas kui sarnased lahendused teistes maailma linnades, sealhulgas New Yorgis ja Londoni, on alles arutelu staadiumis." "Profil" teatas ka, et 25. juuli 2016 seisuga on EMIAS-s registreeritud 75% moskvalastest (umbes 9 miljonit inimest), süsteemis töötab rohkem kui 20 tuhat arsti; alates süsteemi käivitamisest on tehtud üle 240 miljoni arsti juurde broneeritud aja; igapäevaselt toimub süsteemis üle 500 tuhande erineva operatsiooni. 10. veebruaril 2017 teatas "Echo Moskvy", et hetkel toimub Moskvas juba üle 97% meditsiinilist vastuvõttu eelneva broneeringuga, mis on tehtud EMIAS-i kaudu.
- 19. juulil 2016 ütles Venemaa tervishoiuminister Veronika Skvortsova [11], et 2018. aastaks saavad 95% riigi meditsiinikeskustest ühendatud ühtse riikliku tervishoiusüsteemiga (EHGSS) – järgides ühtse elektroonilise patsiendikaardi (EPMC) rakendamist. Vastav seadus, mis kohustab Venemaa piirkondi süsteemiga liituma, on läbinud avaliku arutelu, saanud kõigi huvipoolte nõusoleku ja peagi läheb valitsusse. Veronika Skvortsova teatas, et 83 piirkonnas on korraldatud elektrooniline arsti vastuvõtule registreerimine; 66 kohas on rakendatud ühtne regionaalne kiirabi despatching süsteem; 81 piirkonnas töötab meditsiiniinfotehnoloogiasüsteem, mille kaudu on automatiseeritud 57% arstide töökohad. [11]
Kas saaksite anda rohkem teavet ühtse riikliku tervishoiusüsteemi (EHGSS) kohta?
- EHGSS on kõigi kohalike meditsiiniliste infotehnoloogiasüsteemide (MIS) juur. See koosneb regionaalsetest fragmentidest – RIST (regionaalne tervishoiu juhtimise infotehnoloogia süsteem). EMIAAS, mis on juba varem mainitud – on üks näide RIST-st (võimalikult tuntud ja kõige lootustandvam). [51] Nagu selgitab [56] ajakirja "Infoteenuste direktor" toimetus, on EHGSS pilvepõhine IT-infrastruktuur, mille regionaalsete segmentide loomisega tegelevad teadus- ja arendusasutused Kaliningradis, Kostr homas, Novosibirski, Orlis, Saratovis, Tomskis ja muudes Venemaa linnades.
- EHGSSi ülesanne on kõrvaldada tervishoiu "kudumine"; ühendades erinevate asutuste MIS-id, millest igaüks kasutas enne EHGSSi rakendamist omaenda eritellimusel valmistatud tarkvara, ilma üksikute tsentraliseeritud standarditeta. [54] Alates 2008. aastast põhineb Venemaa tervishoiu ühtne inforuum 26 tööstusharu IT-standardil [50]. 20 neist on rahvusvahelised.
- Meditsiinikeskuste töö sõltub suuresti infosüsteemidest, nagu OpenEMR või EMIAS. Infosüsteemid tagavad patsiendi teabe salvestamise: diagnostika tulemused, välja kirjutatud ravimite andmed, haiguslugu jne. Kõige levinumad infosüsteemide komponendid (30. märtsi 2017 seisuga): EHR (Electronic Health Records) – elektrooniliste meditsiinikaartide haldamise süsteem, mis salvestab patsiendi andmed struktureeritud kujul ja juhib tema haiguslugu. NAS (Network Attached Storage) – võrgule ühendatud andmesalvestus. DICOM (Digital Imaging and Communications in Medicine) – digitaalsete piltide loomise ja vahetamise standard meditsiinis. PACS (Picture Archiving and Communication System) – pildisalvestuse ja vahetuse süsteem, mis töötab DICOM-i standardi kohaselt. Loob, salvestab ja visualiseerib meditsiinilisi pilte ja uuritud patsientide dokumente. Kõige levinum DICOM-süsteem. [3] Kõik need infosüsteemid on haavatavad põhjalikult välja töötatud küberrünnakute suhtes, mille üksikasjad on avalikult kättesaadavad.
- 2015. aastal rääkisid Žilajev P.S., Gorjunova T.I. ja Volodin K.I., "Penzenski riikliku tehnoloogiaülikooli" tehnilised eksperdid, oma artiklis, mis käsitleb küberjulgeolekut meditsiinivaldkonnas, et EMIAS-i kuuluvad: 1) IMAEK (integreeritud meditsiiniline elektrooniline kaart); 2) linnaülesanne patsientide register; 3) patsientide voogude juhtimissüsteem; 4) integreeritud meditsiiniteabe haldamise süsteem; 5) konsolideeritud juhtimisarvestuse süsteem; 6) personaalse meditsiinilise abi arvestamise süsteem; 7) meditsiiniregistrite juhtimissüsteem. Mis puutub IMAEK-i, siis raadio "Echo Moskvy" teatel (10. veebruar 2017) on see alamsüsteem üles ehitatud OpenEHR standardi parimate praktikas tuginedes, mis esindab kõige arenenumat tehnoloogiat, millele üha enam arenenud riigid üle lähevad.
- Ajakiri «Computerworld Venemaa» selgitas samuti [41], et lisaks nende teenuste integreerimisele omavahel ja tervishoiuasutuste infosüsteemidega on EMIASe süsteem samuti integreeritud föderaalsete osade tarkvaraga «EGIS-Tervise» (EGIS – ühtne riiklik teabe süsteem) ja e-valitsuse süsteemidega, sealhulgas riigiteenuste portaalidega. Veidi hiljem, 25. juulil 2016, selgitas ajakirja «Profile» toimetus [43], et EMEA-s on hetkel mitmed teenused kokku koondatud: olukeskus, elektrooniline registreerimine, EKA, elektrooniline retsept, töövõimetuslehed, laboriteenus ja personaliseeritud arvestus.
- 7. aprillil 2016 teatas ajakirja «Infotehnoloogia juhi» toimetus [59], et EMIAS jõudis apteekidesse. Kõigis Moskva apteekides, mis väljastavad ravimeid soodushindadega retseptide alusel, on käivitatud «automaatne ravivarustuse haldamise süsteem» – M-Apteek.
- 19. jaanuaril 2017 teatas sama allikas [58], et alates 2015. aastast on Moskvas alanud ühtse radioloogilise teabe teenuse (ERIS) rakendamine, mis on integreeritud EMIASe süsteemiga. Arstidele, kes väljastavad patsientidele suuniseid diagnostikaks, on arendatud tehnolooge kaardid röntgeni uuringute, ultraheli, KT ja MRT jaoks, mis on integreeritud EMIASe süsteemiga. Projekti laienemise käigus plaanitakse liita teenusega haiglaid koos nende arvukate seadmetega. Paljudes haiglates on omad infosüsteemid, millega tuleb samuti integreeruda. Ajakiri «Profile» toimetus samuti tuvastab, et nähes positiivset pealinna kogemust, tunnevad ka regionaalvalitsused huvi EMIASe rakendamise vastu.
Kas võiks rääkida rohkem kodumaiste meditsiiniliste infosüsteemide tehnilistest omadustest?
- Selle peatüki teave on saadud – Siberi informaatika analüütilisest ülevaatest [49]. Umbes 70% meditsiinilistest infosüsteemidest on ehitatud relatsiooniliste andmebaaside peale. 1999. aastal kasutas 47% meditsiinilistest infosüsteemidest kohalikke (lauaarvuti) andmebaase, olles enamikul juhtudel dBase'i tabelid. Selline lähenemine on iseloomulik tarkvarade arendamise algfaasis meditsiini jaoks ja kitsaste spetsialiseeritud toodete loomisel.
- Iga aastaga väheneb kodumaiste süsteemide arv, mis põhinevad lauabasetel andmebaasidel. 2003. aastal oli see number juba ainult 4%. Tänaseks päevaks ei kasuta peaaegu keegi arendajatest dBase tabeleid. Mõned tarkvaratooted kasutavad omaenda andmebaasiformaate; sageli leiavad nad kasutust elektroonilistes farmakoloogilistes käsiraamatutes. Praegu on kodumisel turul meditsiiniline infotehnoloogia süsteem, mis on üles ehitatud isegi omaenda kliendi-serveri arhitektuuri andmebaasihaldussüsteemile: e-Hospital. On raske ette kujutada objektiivseid põhjuseid selliste lahenduste jaoks.
- Kodumaiste meditsiiniliste infotehnoloogia süsteemide väljatöötamisel kasutatakse peamiselt järgmisi andmebaasihaldussüsteeme: Microsoft SQL Server (52.18%), Cache (17.4%), Oracle (13%), Borland Interbase Server (13%), Lotus Notes/Domino (13%). Võrdluseks: kui analüüsida kogu meditsiinilist tarkvara, mis kasutab kliendi-serveri arhitektuuri, siis Microsoft SQL Serveri osakaal ulatub 64%-ni. Paljud arendajad (17.4%) lubavad mitmete andmebaaside kasutamist, kõige sagedamini on see kombinatsioon Microsoft SQL Serveri ja Oracle'i vahel. Kaks süsteemi (IS Kondopoga [44] ja Paracelsus-A [45]) kasutavad korraga mitmeid andmebaase. Kõik kasutatavad andmebaasid jagunevad kaheks põhimõtteliselt erinevaks tüübiks: relatsioonilised ja postrelatsioonilised (objektorienteeritud). Tänaseks päevaks on 70% kodumaisest meditsiinilisest infotehnoloogilisest süsteemist üles ehitatud relatsioonilistele andmebaasihaldussüsteemidele ja 30% - postrelatsioonilistele.
- Meditsiiniliste infotehnoloogia süsteemide arendamisel kasutatakse väga erinevaid programmeerimisvahendeid. Näiteks on DOKA+ [47] kirjutatud PHP-s ja JavaScriptis. "E-Hospital" [48] on välja töötatud Microsoft Visual C++ keskkonnas. Amulet on loodud Microsoft Visual.NET keskkonnas. "Infomed" [46], mis töötab Windowsi (98/Me/NT/2000/XP) halduses, omab kahetasandilist kliendi-serveri arhitektuuri; kliendiosa on realiseeritud Delphi programmeerimiskeeles; serveriosa on Oracle'i andmebaasi halduses.
- Umbes 40% arendajatest kasutavad andmebaasi sisseehitatud tööriistade komplekti. Aruande redaktorina kasutab 42% oma arenguid; 23% – andmebaasi sisseehitatud vahendeid. Programmi koode testimiseks ja projekteerimiseks kasutavad 50% arendajatest Visual Source Safe’i. Dokumentatsiooni koostamise tarkvarana kasutab 85% arendajatest Microsofti tooteid – tekstiredaktorit Word või, nagu näiteks e-Hospitali looja, Microsoft Help Workshopi.
- 2015. aastal avaldasid Ageenko T.Yu. ja Andrianov A.V., Moskva Tehnika Instituudi tehnilised eksperdid, artikli [55], kus nad üksikasjalikult kirjeldasid haigla automatiseeritud teabehaldussüsteemi (HAITS) tehnilisi detaile, sealhulgas tüüpilist haigla võrguinfrastruktuuri ja pakilisemat küberturvalisuse tagamise probleemi. HAITS on turvaline võrk, mille kaudu töötab EMIA, Venemaa kõige perspektiivikam tervishoiuinfosüsteem.
- «Siberi Infotehnoloogiad» väidab [53], et kaks kõige autoriteetsemat teadus- ja arenduskeskust, mis tegelevad tervishoiuinfosüsteemide arendamisega, on Venemaa Teaduste Akadeemia Tarkvarasüsteemide Instituut (asub vanas Vene linnas Pereslavlis-Zalesskis) ja mittetulundusühing «Meditsiinilise Abi Arendamise ja Erakliiniku Fund Medsančast-168» (asub Novosibirski Akadeemilinnakus). Ka «Siberi Infotehnoloogiad», mida võib samuti sellesse loendisse pidada, asub Omskis.
Milline on olukord EMIASi küberturvalisusega?
- 10. veebruaril 2017 andis Vladimir Makarov, EMIASi projekti kuraator, intervjuus raadiole «Echo of Moscow» järgmise mõtte [39], et absoluutne küberturvalisus ei eksisteeri: «Alati on olemas andmelekke oht. Tuleb harjuda sellega, et igasuguste moodsate tehnoloogiate kasutamise tagajärjel võivad kõik teie kohta andmed ilmneda. Elektronposti postkastid on häkitud isegi riikide juhtide seas». Sellega seoses võib mainida hiljutist juhtumit, mille tulemusena oli ära tuntud umbes 90 Briti parlamendi liikme elektronposti.
- 12. mai 2015 teatas Moskva infotehnoloogia osakond [40] neljast peamisest KSIBe (kompleksne infotehnoloogia kaitsesüsteem) punktist EMIASes: 1) füüsiline kaitse – andmed on salvestatud kaasaegsetele serveritele, mis asuvad maa-alustes ruumides, kuhu pääs on rangelt reguleeritud; 2) tarkvarakaitse – andmeid edastatakse krüptitud kujul kaitstud sidekanalite kaudu; lisaks võib korraga saada teavet ainult ühe patsiendi kohta; 3) volitatud juurdepääs andmetele – arst tuvastatakse isikliku nutikaardiga; patsiendi jaoks on ette nähtud kaheastmeline identifitseerimine, kasutades OMS poliisi ja sünnikuupäeva.
- 4) Meditsiinilised ja isiklikud andmed hoitakse eraldi, kahes erinevas andmebaasis, mis tagab nende täiendava turvalisuse; EMIASi serverid salvestavad meditsiinilist teavet anonüümse kujul: visiite arsti juurde, määramisi, haiguslehti, suunamisi, retsepte ja muid üksikasju; isiklikud andmed – OMS poliisinumber, ees- ja perekonnanimi, sugu ja sünnikuupäev – on Moskva linnakohustuste seadusliku meditsiinilise kindlustuse fondi andmebaasides; andmed nende kahe andmebaasi kohta kuvavad visuaalselt ainult arsti monitoril, pärast tema tuvastamist.
- Siiski, vaatamata näiliselt läbimatule kaitsele EMIAS, võimaldavad kaasaegsed küberrünnakute tehnoloogiad – mille üksikasjad on avalikult kergesti kättesaadavad – isegi sellist kaitset murda. Näiteks vaata Microsoft Edge'i uue brauseri rünnaku kirjeldust – tõrgete puudumisel ja kõigi olemasolevate kaitsete aktiivses olekus. [62] Lisaks on programmi koodis vigade puudumine juba iseenesest utoopia. Rohkem teavet selle kohta – esitluses "Küberkaitsjate mustad saladused". [63]
- 27. juunil 2017 katkestas kliinik "Invitro" ulatusliku küberrünnaku tõttu bioloogilise materjali kogumise ja testitulemuste väljastamise Venemaal, Valgevenes ja Kazahstanis. [64]
- 12. mai 2017. aastal registreeris "Kaspersky Lab" [60] 45 000 edukat WannaCry lunavara küberrünnakut 74 riigis; enamus neist rünnakutest toimusid Venemaa territooriumil. Kolm päeva hiljem (15. mai 2017) registreeris antiviirusettevõte Avast [61] juba 200 000 WannaCry lunavara küberrünnakut ja teatas, et rohkem kui pooled neist rünnakutest toimusid Venemaa territooriumil. Infosagentuur BBC teatas (13. mai 2017), et Venemaal olid lunavara ohvriks teiste seas ka tervishoiuministeerium, siseministeerium, Keskpank ja Juhtumite Uurimise Komitee. [61]
- Kuid nende ja teiste Venemaa ametiasutuste pressikeskused väidavad üheselt, et WannaCry lunavara küberrünnakud, kuigi nad toimusid, ei olnud aga edukad. Enamik venekeelseid väljaandeid, mis kajastasid nutuseid juhtumeid seoses WannaCry-ga ja mainisid mõnda või teist Venemaa ametiasutust, kiirustavad lisama midagi sellist: "Kuid ametlike andmete kohaselt kahju ei tekitatud." Teisalt usub lääne meedia, et WannaCry lunavara küberrünnakute tagajärjed on olulisemad kui vene keeles kajastatud. Lääne meedia on nii veendunud, et on isegi vabastanud Venemaa kahtlustest seoses selle küberrünnakuga. Kellele usaldada enam – lääne või kodumaistele meediakanalitele – on igaühe isiklik asi. Oluline on märkida, et mõlemal poolel on oma motiivid usaldusväärsete faktide suurendamiseks ja vähendamiseks.
Milline on olukord tervishoiu teabe süsteemide küberjulgeolekuga – numbrites?
- 1. juunil 2017 avaldas Rebecca Weintraub ("Brigham and Women’s Hospital" peaarst ja doktorikraadiga) koos Joram Borensteini (küberjulgeoleku insener) artikli, mis ilmus "Harvard Business Review" lehekülgedel, kus nad väidavad [18], et digitaalne ajastu on oluliselt lihtsustanud meditsiiniliste andmete kogumist ja meditsiinikaartide vahetamist erinevate meditsiinikeskuste vahel: täna on patsientide meditsiinikaardid muutunud mobiilseteks ja kantavateks. Kuid selliste digitaalsete mugavuste eest peavad meditsiinikeskused maksma tõsiste küberjulgeoleku riskidega.
- 3. märts 2017 teatas teabebüroo "SmartBrief" [24], et 2017. aasta esimesel kahel kuul toimus umbes 250 küberjulgeoleku intsidenti, mille tulemuseks oli enam kui miljoni konfidentsiaalse dokumendi varastamine. 50% neist intsidentidest puudutas väikeseid ja keskmisi ettevõtteid (ilma tervishoiusektorita). Umbes 30% puutumisest langes tervishoiusektorile. Veidi hiljem, 16. märtsil teatas sama agentuur [22], et küberjulgeoleku intsidentide liider 2017. aastal on tervishoiusektor.
- 17. jaanuar 2013 teatas Michael Greg, küberjulgeoleku konsultatsioonifirma "Mõttetööd" juht [21], et 2012. aastal olid 94% tervishoiu keskustest kannatanud konfidentsiaalse teabe lekke all. See on 65% rohkem kui 2010-2011. aastal. Halvimal juhul teatas 45% tervishoiu keskustest, et lekete ulatus muutub ajaga üha tõsisemaks; nad tunnistasid, et 2012-2013. aastal toimus neil rohkem kui viis sellist tõsist leket. Ja vähem kui pooled tervishoiu keskustest on veendunud, et selliseid lekkeid on võimalik vältida, või vähemalt on võimalik teada saada, et need on aset leidnud.
- Michael Greg teatas ka [21], et aastatel 2010-2012, vaid kolme aasta jooksul, sai rohkem kui 20 miljonit patsienti konfidentsiaalsete meditsiiniliste dokumentide varguse ohvriks, mis sisaldavad tundlikku teavet: diagnoosid, raviprotseduurid, makseteenuste teave, kindlustuse andmed, sotsiaalkindlustuse numbrid ja palju muud. Küberkurjategija, kes varastab meditsiinilisi dokumente, võib ära kasutada sellest saadud teavet mitmeti (vt lõiku „Kuidas on sotsiaalkindlustuse numbrite vargused seotud valeandmete tööstusega?“). Siiski on meditsiiniasutustes meditsiiniliste dokumentide kaitse sageli märgatavalt lõdvema, kui isikliku e-posti kaitse.
- 2. september 2014. Mike Orkut, tehnikaekspert MIT-st, teatas [10], et lunavara viirustega seotud juhtumid on iga aastaga sagenenud. 2014. aastal oli juhtumeid 600% rohkem kui 2013. aastal. Ameerika Ühendriikide FBI teatas lisaks, et 2016. aastal toimus igapäevaselt üle 4000 juhtu digitaalset väljapressimist – neli korda rohkem kui 2015. aastal. Samuti on murettekitav mitte ainult juhtumite kasvu trend, vaid ka sihikindlate rünnakute järkjärguline suurenemine. Need rünnakud sihivad kõige sagedamini finantsasutusi, jaekaubandust ja tervishoiu keskusi.
- 19. mai 2017. aastal avaldas uudisteagentuur BBC [23] Verizon 2017. aasta raporti, mille kohaselt moodustavad 72% lunavara viirustega seotud juhtumitest tervishoiu sektor. Samal ajal on viimase 12 kuu jooksul nende juhtumite arvu tõusnud 50%.
- 1. juuni 2017. aastal avaldati Harvard Business Review's [18] USA tervishoiu ja sotsiaalteenuste ministeeriumi esitatud raport, milles teatakse, et 2015. aastal varastati üle 113 miljoni meditsiinilise andmekaardi. 2016. aastal – üle 16 miljoni. Kuigi 2016. aasta võrreldes juhtumite arvus on märgatavalt vähenenud, on üldine trend siiski tõusuteel. 2017. aasta alguses teatas analüüsikeskus Experian [27], et tervishoid on praegu küberspetsialistide jaoks kõige nõutum sihtmärk.
- Andmete lekkimine patsientide kohta meditsiinitööstuses muutub järk-järgult [37] üheks kõige vajalikumaks probleemiks tervishoiusfääris. InfoWatch'i andmetel on viimase kahe aasta (2005-2006) jooksul igas teises meditsiiniasutuses toimunud patsiendiinfo lekkimine. Samal ajal toimub 60% andmelekete mitte sidekanalite kaudu, vaid läbi konkreetsete inimeste, kes viivad konfidentsiaalset teavet organisatsiooni piiridest välja. Ainult 40% andmelekete on tehniliste põhjuste tõttu. Inimene on [36] küberturvalisuse kõige nõrgem lüli meditsiiniliste infosüsteemide puhul. Suuri investeeringuid turvasüsteemide loomisse on küll võimalik teha, kuid madalapalgaline töötaja võib andmeid müüa selle väärtuse tuhandiku eest.
Kas arvutiviirused võivad nakatada meditsiiniseadmeid?
- 17. oktoober 2012 teatas David Talbot, MIT tehnoloogiaekspert, [1] et meditsiiniseadmed, mida kasutatakse meditsiinikeskustes, muutuvad üha enam arvutiseerituks, üha nutikamaks ja üha paindlikumaks ümberprogrammeerimise osas; samuti on neil üha enam võime toetada võrgus töötamist. Selle tulemusena muutuvad meditsiiniseadmed üha tundlikumaks küberrünnete ja viirusinfektsioonide suhtes. Probleem süveneb veelgi, kuna tootjad ei luba tavaliselt oma seadmeid modifitseerida, isegi mitte selleks, et tagada nende küberkaitse.
- Näiteks, 2009. aastal lekkis võrguviirus Conficker Beth Israel’i meditsiinikeskusesse ja nakatas seal osa meditsiiniseadmest, sealhulgas sünnitoetuse tööjaama (Philipsilt) ja röntgenuudistusjaama (General Electricilt). Et vältida sarnaste juhtumite kordumist tulevikus, otsustas selle meditsiinikeskuse IT-direktor John Halmak – kes on ka Harvardi Meditsiinikooli professor doktorikraadiga – välja lülitada selle seadme võrgutoe funktsiooni. Siiski seisis ta silmitsi probleemiga, et seadmeid „ei saa uuendada regulatiivsete piirangute tõttu“. Temalt nõuti märkimisväärseid jõupingutusi tootjatega kokkulepimiseks võrgutoe väljalülitamise osas. Kuid võrgust eemaldamine pole sugugi ideaalne lahendus, eriti arvestades meditsiiniseadmete kasvavat integreeritust ja omavahelist sõltuvust. [1]
- See puudutab „nutikat“ varustust, mida kasutatakse meditsiinikeskustes. Kuid on ka kaasaskantavaid meditsiiniseadmeid, nagu insuliinipumbad ja implanteeritud südamestimulaatorid, mis on üha enam küberrünnakute ja viirusinfektsioonide sihtmärgiks. [1] Samuti tasub märkida, et 12. mail 2017 (rantide viirus WannaCry triumfi päeval) teatas üks südamekirurg [28], et samal ajal, kui ta tegi südameoperatsiooni, olid mitu arvutit kokku kukkunud, kuid õnneks suutis ta siiski operatsiooni edukalt lõpetada.
Kuidas on lunavariantide ohud meditsiinitööstusele?
- 3. oktoober 2016. aastal selgitas Mohammed Ali, firma "Carbonite" juht, mis on spetsialiseerunud küberjulgeoleku lahendustele, [19] ajakirjas "Harvard Business Review", et lunavarakood on arvutiviirus, mis blokeerib kasutaja juurdepääsu tema süsteemile; kuni selleks on makstud lunarahaga. Lunavarakood krüpteerib kõvaketta, mille tulemusena kaotab kasutaja juurdepääsu oma arvutis olevale teabele, ning lunavarakood nõuab lunarahaga dekrüpteerimise võtme andmise eest. Kurjategijad kasutavad anonüümseid maksmise viise, nagu näiteks Bitcoin, et vältida kohtuga kohtumist. [19]
- Mohammed Ali teatas samuti [19], et lunavarakoodide levitajad on kindlaks teinud, et kõige optimaalsem lunahinna vahemik tavakodanikele ja väikeettevõtete omanikele on 300 kuni 500 dollarit. See on summa, millega paljud on valmis lahku minema, silmitsi seistes võimalusega kaotada kõik oma digitaalsed varad. [19]
- 16. veebruaril 2016 teatas uudisteagentuur "Guardian" [13], et lunavarakoodi tõttu kaotas "Hollywood Presbyterian Medical Center" meditsiinipersonal juurdepääsu oma arvutisüsteemidele. Selle tulemusena pidid arstid omavahel suhtlema faksi teel, õed dokumenteerisid haiguslugu vanamoodsates paberil tervisekaartides ning patsiendid pidid minema haiglasse, et isiklikult tulemusi kätte saada.
- 17. veebruaril 2016 avaldas "Hollywood Presbyterian Medical Center" juhtkond [30] järgmise avalduse: "5. veebruari õhtul kaotasid meie töötajad juurdepääsu haigla võrgule. Pahavara blokeeris meie arvutid ja krüpteeris kõik meie failid. Politseile anti koheselt teada. Küberjulgeoleku eksperdid aitasid taastada juurdepääsu meie arvutitele. Nõutav lunahind oli 40 bitcoini (17 000 dollarit). Kiireim ja tõhusam viis meie süsteemide ja haldusfunktsioonide taastamiseks oli lunaraha maksmine ja seega dekrüpteerimise võtme saamine. Kuna haigla süsteemide töölepingiga tagasime, olime sunnitud seda tegema."
- 12. mai 2017 teatas uudisteagentuur «New York Times» [28], et WannaCry intsidenti tõttu olid mõned haiglad nii halvasti mõjutatud, et nad ei suutnud isegi beebide nimekleebiseid välja trükkida. Haiglates öeldi patsientidele: «Me ei saa teid teenindada, kuna meie arvutid on maksnud.» Sellist asja on üsna haruldane kuulda sellistes suurtes linnades nagu London.
Kui küberintsidendid on nii ohtlikud, miks siis meditsiiniseadmete tootjad digiteerivad oma seadmeid?
- 9. juulil 2008 märkis Kristina Gri fantini, MITi tehnoloogiauuringute ekspert, oma artiklis «Meditsiinikeskused: Plug and Play ajastu» [2]: Uute «nutikate» meditsiiniseadmete järsk mitmekesisus haiglates lubab paremat patsiendihooldust. Probleem on aga selles, et need seadmed on tavaliselt omavahel ühilduvad, isegi kui need on toodetud sama tootja poolt. Seetõttu tunnevad arstid suurt vajadust integreerida kogu meditsiiniseade ühte arvutivõrku.
- 9. juulil 2009 tõdes Douglas Rosindale, veterani tervishoiu halduri IT-spetsialist – ja samal ajal ka Harvardi Meditsiinikooli professor doktorikraadiga – järgmist [2]: Täna on saadaval palju patenteeritud süsteeme, millel on suletud arhitektuur erinevatelt tarnijatelt, – kuid probleem on selles, et nad ei saa omavahel suhelda. Ja see tekitab patsiendihoolduses keerukusi.
- Kui meditsiiniseadmed teevad iseseisvaid mõõtmisi ega vaheta teavet omavahel, siis ei suuda nad patsiendi seisundit terviklikult hinnata. Seetõttu andestavad nad muret igasuguste normist kõrvalekallete puhul, olenemata, kas muretsemiseks on põhjust või mitte. See tekitab tõsiseid ebamugavusi õdedele, eriti intensiivravi osakonnas, kus on palju sõltumatuid seadmeid. Ilma integreerimise ja võrgu toestuseta, muutub intensiivravi osakond tõeliseks kaos. Integreerimine ja kohaliku võrgu toetus võimaldab koordineerida meditsiiniseadmete ja meditsiiniinfotehnoloogia süsteemide tööd (eriti nende seadmete suhtlemist patsiendi elektroonilise tervisekirjaga), mis viib oluliselt valehäirete arvu vähenemiseni. [2]
- Haiglates on väga palju vananenud kallist varustust, mis ei toeta võrguühendust. Tundes teravat vajadust integreerimise järele, asendavad haiglad seda varustust kas järk-järgult uue vastu või täiendavad seda, et see suudaks integreeruda üldisesse võrku. Isegi uue varustusega, mis on loodud integreerimisvõimalustega, pole see probleem siiski täielikult lahendatud. Iga meditsiiniseadmete tootja, keda ajendab pidev konkurents, püüab tagada, et tema seadmed saaksid omavahel vaid üksteisega integreeruda. Paljud kiirabi osakonnad vajavad aga spetsiifilist erinevate seadmete komplekti, mida ükski tootja üksi ei suuda pakkuda. Seetõttu ei lahenda ühe tootja valik ühilduvuse probleemi. See on veel üks takistus, mis seisab tervikliku integreerimise teel. Haiglad investeerivad selle probleemi lahendamisse olulisi summasid. Muul juhul muudab omavahel ühilduvusetu varustus haiguse valehäirete tõttu haigla tõeliseks kaoks. [2]
- 13. juuni 2017. aastal jagas Peter Pronovost, arst ja suurte meditsiinikeskuste patsiendiohutusjuht, oma mõtteid meditsiiniseadmete arvutiseerimise vajadusest ajakirjas "Harvard Business Review": "Võtame näiteks hingamisaparaadi. Optimaalne kopsude ventilatsiooni režiim sõltub patsiendi pikkusest. Patsiendi pikkus on salvestatud elektronilise patsiendi kausta (EPK) juurde. Reeglina ei suhtle hingamisaparaat EPK-ga, seega peavad arstid teavet käsitsi saama, mõned arvutused paberil tegema ja hingamisaparaadi parameetrid käsitsi seadistama. Kui hingamisaparaat ja EPK oleksid seotud arvutivõrgu kaudu, saaks seda operatsiooni automatiseerida. Sarnane rutiin arstide töödes eksisteerib ka teiste meditsiiniseadmete vahel. Seetõttu peavad arstid iga päev täitma sadu rutiinseid toiminguid, mis toovad esile vigu – kuigi haruldased, on need paratamatud.",
- Uued arvutiseeritud haiglavoodeid varustatakse kõrgtehnoloogiliste sensoritega, mis suudavad jälgida erinevaid parameetreid, mis on seotud patsiendiga, kes asub neil. Näiteks suudavad need voodid, jälgides patsiendi liikumisi voodis, määrata, kas tal on oht saada magamishaavu. Need kõrgtehnoloogilised sensorid moodustavad 30% kogu voodi maksumusest. Kuid ilma arvutiseeritud integratsioonita on sellest „nutikast voodist“ vähe kasu – kuna ta ei suuda suhelda teiste meditsiiniseadmetega. Sarnane olukord esineb „nutigatel traadita monitoridel", mis mõõdavad pulsisagedust, hingamissagedust, vererõhku jne. Ilma kogu selle seadme integreerimiseta üheks arvutivõrguks – ja eelkõige tagades otseühenduse patsiendi EPK-ga – on sellest vähe kasu. [17]
Miks on küberkurjategijad ümber lülitunud finantssektori ja jaekaubanduse asemel meditsiinikeskustesse?
- 16. veebruaril 2016 jagas Julia Cherry, «Guardian» spetsiaalreporter, oma tähelepanekuid selle kohta, et meditsiinikeskused on küberkurjategijatele eriti atraktiivsed, kuna nende infotehnoloogilised süsteemid – tänu riiklikule püüdlusele digitaliseerida meditsiinikaarte – sisaldavad rikkalikult mitmekesist teavet. Sealhulgas krediitkaartide numbrid, isiklikud andmed patsientide kohta ja konfidentsiaalsed meditsiinilised andmed. [13]
- 23. aprillil 2014 selgitas Jim Finkle, Reutersi küberturbe analüütik [12], et küberkurjategijad püüavad minna lihtsama vastupanu teed. Meditsiinikeskuste küberturbe süsteemid on oluliselt nõrgemad võrreldes teiste sektoritega, kus on selle probleemiga juba teadlikult tegeletud ja tõhusad vastumeetmed rakendatud. Seetõttu tõmbavad küberkurjategijad neid.
- 18. veebruaril 2016 teatas Mike Orkut, MITi tehniline ekspert, et küberkurjategijate huvi meditsiinisektori vastu on tingitud järgmistest viiest põhjusest: 1) Enamik meditsiinikeskusi on juba kõik oma dokumendid ja kaardid digitaalsesse vormi viinud; ülejäänud on selle protsessi käigus. Nende kaartide andmed sisaldavad isiklikku teavet, mis on mustal turul äärmiselt väärtuslik. 2) Meditsiinikeskustes ei ole küberturvalisus prioriteet; nad kasutavad sageli vananenud süsteeme ja ei hoolda neid korralikult. 3) Kiire ligipääs andmetele hädaolukordades ületab sageli turvalisuse tagamise vajaduse, mistõttu haiglad kipuvad küberturvalisusele ülevaatama, isegi olles teadlikud võimalikest tagajärgedest. 4) Haiglad ühendavad oma võrku järjest enam seadmeid, mis annab pahategijatele rohkem võimalusi haiglavõrku sisenemiseks. 5) Suundumus isikupärastatud meditsiini poole – eelkõige patsientide vajadus tervikliku ligipääsu järele oma EHR-idele – muudab tervishoiuinfosüsteemid veelgi enam sihtmärgiks. [14]
- Jaemüügiga ja finantssektor on juba ammu soovitud sihtmärk küberkurjategijatele. Kui varastatud teave neist asutustest täidab Darkneti musta turgu, muutub see järjest odavamaks, mistõttu halbadest poistele ei ole noteerida ja müüa seda kasulik. Seetõttu sukelduvad halvad poisid nüüd uude, kasumlikumasse sektorisse. [12]
- Darkneti mustal turul on meditsiinilised kaardid palju kallimad kui krediitkaartide numbrid. Esiteks, kuna neid saab kasutada pangakontodele juurdepääsuks ja kontrollitavate ravimite retseptide saamiseks. Teiseks, kuna meditsiinilise kaardi varguse ja selle ebaseadusliku kasutamise fakti avastamine on palju keerulisem, ning kuritarvituse hetke ja avastamise vahe on palju pikem kui krediitkaardi kuritarvitamisel. [12]
- Dell'i spetsialistide sõnul kombineerivad mõned eriti ettevõtlikud küberkurjategijad varastatud meditsiinilistelt kaartidelt saadud terviseinfot teiste tundlike andmetega ning koguvad seeläbi valeandmete komplekti. Selliseid komplekte nimetatakse musta turu žargoonis Darknetis 'fullz' ja 'kitz'. Iga sellise paketi hind ületab 1000 dollarit. [12]
- 1. aprillil 2016 rääkis Tom Simont, MIT tehnikaekspert, [4], et küberohtude oluline erinevus meditsiinisektoris seisneb selle tagajärgede tõsiduses. Näiteks, kui kaotate juurdepääsu oma töö e-postile, olete loomulikult mures; aga kaotada juurdepääs meditsiinilistele kaartidele, mis sisaldavad teavet patsientide ravimiseks – see on hoopis teine asi.
- Seetõttu on kyberkurjategijad, kes mõistavad, et see teave on arstide jaoks väga väärtuslik, meditsiinitööstuse silmis tõeliselt ahvatlev sihtmärk. Nii ahvatlev, et nad investeerivad pidevalt suure summasid, et muuta oma lunavaraviruusi veelgi arenenumaks; et püsida pidevalt ühe sammu võrra ees viirusetõrje süsteemidest. Muljetavaldavad summad, mida nad lunavaraviruusi kaudu koguvad, võimaldavad neil investeerimisel ei kitsi olla ning need kulutused tasuvad end kuhjaga ära. [4]
Miks on lunavaraviruustega nakatumise juhtumid meditsiinivaldkonnas sagenenud ja jätkuvalt kasvavad?
- 1. juunil 2017 avaldasid Rebecca Waintrub (Brigham and Women's Hospitali peaarst, doktorikraad) ja Joram Borenstein (kyberkuritegevuse insener) [18] Harvard Business Review's oma koostöös tehtud uuringu tulemused meditsiini kyberjulgeoleku kohta. Uuringu peamised mõtted on esitatud allpool.
- Ükski organisatsioon ei ole häkkimise eest kaitstud. See on reaalsus, mille sees me elame, ja see reaalsus sai eriti selgeks, kui 2017. aasta mai keskel toimus kuulsa WannaCry lunavaraviru levik, mis nakatas meditsiiniasutusi ja teisi organisatsioone kogu maailmas. [18]
- 2016. aastal avastasid Hollywood Presbyterian Medical Centeri suure polikliiniku administraatorid ootamatult, et nad olid kaotanud juurdepääsu teabele oma arvutites. Arstid ei saanud enam oma patsientide elektroonilistele haiguslugudele juurde ega isegi oma aruannetele. Kõik teave nende arvutites oli krüpteeritud lunavara viiruse poolt. Kuni kõik polikliiniku andmed olid kurjategijate pantvangis, pidi arstide suunama patsiendid teistesse haiglatesse. Kahe nädala jooksul kirjutasid nad kõik paberile, kuni nad otsustasid maksta kurjategijate nõutud lunavara – 17,000 dollarit (40 bitcoini). Makset ei olnud võimalik jälgida, kuna lunavara maksti anonüümses bitcoinide maksesüsteemis. Kui küberjulgeoleku spetsialistid paar aastat tagasi oleksid kuulnud, et otsustajad peavad raha krüptovaluutaks konverteerima – maksma lunavara viiruse arendajale, ei oleks nad sellele uskunud. Kuid täna juhtus just see. Tavalised inimesed, väikeettevõtete omanikud ja suured korporatsioonid – kõik nad on lunaviruside sihtmärgiks. [19]
- Mis puutub sotsiaalsesse inseneri, siis kalastuskirjad, mis sisaldavad kahjulikke linke ja manuseid – ei saadeta enam välismaal asuvate sugulaste nimel, kes soovivad jätta teile osa oma varandusest, vastutasuks konfidentsiaalse teabe eest. Täna on kalastuskirjad hoolikalt koostatud pöördumised, ilma trükivigadeta; tihti maskeeritud ametlike dokumentidena koos logode ja allkirjadega. Mõned neist ei eristu tavalisest ärikirjavestlusest ega seaduslikest rakendusteuuenduste teadetest. Mõnikord saavad otsustajad, kes on ametite valimisega hõivatud, kirju potentsiaalselt väärtuslikelt kandidaatidelt – koos manusena viirust sisaldava elulookirjeldusega. [19]
- Kuid arenenud sotsiaalne inseneritehnika on ainult pool murest. Veelgi hirmutavam on fakt, et lunavara käivitamine võib toimuda ka ilma kasutaja vahetu osaluseta. Lunavarakoodid võivad levida turvaaukude kaudu või vanade, kaitsmata rakenduste kaudu. Igatahes ilmub igal nädalal põhimõtteliselt uus lunavara tüüp ja meetodite arv, kuidas lunavarad arvutisüsteemidesse tungivad, kasvab pidevalt. [19]
- Näiteks, rääkides lunavarast WannaCry... Algul (15. mai 2017) jõudsid turvaekspertide järeldusele [25], et Ühendkuningriigi rahvusliku tervishoiusüsteemi nakatumise peamine põhjus on see, et haiglad kasutavad vananenud operatsioonisüsteemi Windows – XP (haiglates kasutatakse seda süsteemi, sest palju kallist haigla varustust ei ühildu uuemate Windowsi versioonidega). Siiski selgus hiljem (22. mai 2017), et WannaCry käivitamine Windows XP-l tekitas sageli arvuti krahhi, ilma et nakatumist toimuks; ja enamus nakatunud seadmetest töötas Windows 7 peal. Lisaks arvati alguses, et viirus WannaCry laienes phishing'u kaudu, kuid hiljem selgus, et see viirus levib iseseisvalt – sarnaselt võrguussile – ilma kasutaja sekkumiseta.
- Lisaks on olemas spetsialiseeritud otsingumootoreid, mis ei otsi veebisaitide, vaid füüsiliste seadmete järgi. Nende kaudu saab teada, millises kohas, millises haiglas, on mingi seade ühendatud võrguga. [3]
- Teine oluline tegur lunavara levikus on juurdepääs krüptovaluutale Bitcoin. Anonüümsete maksete lihtsus on kogu maailmas küberkuritegevuse kasvu soodustav. Lisaks, kui maksate lunavarale raha, stimuleerite seeläbi edasisi lunavaramiseks olevaid nõudmisi teie suunas. [19]
- Kübertäiskasvanud on õppinud hõivama isegi neid süsteeme, kus on rakendatud kõige kaasaegsem kaitse ja uusim tarkvara värskendus; ning avastamis- ja dekrüpteerimise vahendid (millele kaitsesüsteemid toetuvad) ei toimi alati; eriti kui rünnak on suunatud ja ainulaadne. [19]
- Siiski on väljapressimisviiruste vastu olemas tõhus vastumeede: kriitiliste andmete varukoopiate tegemine. Nii et võimalike probleemide korral saaks andmed hõlpsasti taastada. [19]
Arstid, õed ja patsiendid, kes said kannatada WannaCry tõttu – millised olid nende kogemused?
- 13. mail 2017 intervjueeris Guardian'i ajakirjanik Sarah Marsh mõnda inimest, kes olid WannaCry väljapressimisviiruse ohvrid, et mõista, milliseid tagajärgi [5] see intsident neile kaasa tõi (nimed on muudetud konfidentsiaalsuse kaalutlustel):
- Sergei Petrovitš, arst: Ma ei suutnud patsientidele vajalikku abi osutada. Olgu juhid kui palju tahes veendanud avalikkust, et küberintsidendid ei mõjuta lõpp-patsientide ohutust – see ei ole tõsi. Me ei saanud isegi röntgenülesvõtteid teha, kui meie arvutipõhised süsteemid nurjusid. Ilma nendeta ei saa peaaegu ühtegi meditsiinilist protseduuri läbi viia. Näiteks sel kurval õhtul uurisin ma patsienti ja mul tuli suunata ta röntgenülesvõttele, kuid kuna meie arvutipõhised süsteemid olid halvatud, ei saanud ma seda teha. [5]
- Vera Mihhailovna, rinnavähi patsient: Pärast keemiaravi seanssi olin poolel teel haiglast, kui toimus küberrünnak. Kuigi seanss oli juba läbitud, pidin haiglas viibima veel mitu tundi – oodates, kuni mulle lõpuks ravimid kätte antakse. Viivituse põhjuseks oli see, et enne ravimite andmist kontrollib meditsiinipersonal nende vastavust retseptidele, ja need kontrollid toimub arvutipõhiste süsteemide kaudu. Minu järel tulnud patsiendid olid juba keemiaravi seansiks valmis palatis; nende ravimid olid samuti kohal. Kuid kuna nende vastavust retseptidele ei saanud kontrollida – viivitati protseduuriga. Ülejäänud patsientide ravi lükati üldiselt järgmisse päeva. [5]
- Tatjana Ivanovna, õde: Esmaspäeval ei saanud me vaadata patsientide EMK-sid ja täna planeeritud vastuvõttude nimekirja. Nendel nädalavahetustel, kui toimusid taotluste vastuvõtud, olin mina dežuuris, - seetõttu pidi ma esmaspäeval, kui meie haigla langes küberrünnaku ohvriks, meeles pidama, kes peaks vastuvõtule tulema. Meie haigla infosüsteemid blokeerusid. Me ei saanud vaadata haiguslugu, raviretsepte; ei saanud vaadata patsientide aadresse ja kontaktandmeid; täita dokumente; kontrollida analüüside tulemusi. [5]
- Yevgeny Sergeyevich, süsteemihaldur: Tavaliselt on reedeti pärastlõunal meil kõige rohkem külastajaid. Nii oli ka sel reedel. Haiglas oli inimesi palju, ja kõnede vastuvõtmisel olid dežuuris 5 haigla töötajat, kelle telefonid helisesid pidevalt. Kõik meie arvutisüsteemid töötasid probleemideta, kuid umbes kell 15:00 muutusid kõik arvutiekraanid mustaks. Meie arstid ja õed kaotasid juurdepääsu patsientide EMK-dele, ning kõnedele vastavad töötajad ei saanud andmeid arvutisse sisestada. [5]
Kuidas saavad küberkurjategijad plastikakirurgia klinikatele kahju teha?
- Nagu teatab 'Guardian' [6], avaldas 30. mail 2017. aastal kuritegelik grupp 'Imperial Guards' konfidentsiaalsed andmed 25 000 patsiendi kohta Leedu plastikakirurgia kliinikust 'Grozio Chirurgija'. Nende hulgas olid isiklikud intiimsed fotod, mis tehti enne, ajal ja pärast operatsioone (nende säilitamine on vajalik kliiniku töö spetsiifika tõttu); samuti passide koopiad ja sotsiaalkindlustuse numbrid. Kuna kliinikul on hea maine ja taskukohased hinnad, kasutavad selle teenuseid elanikkond 60 riigist, sealhulgas maailmakuulsused [7]. Kõik nad said selle küberintsidendi ohvriks.
- Mõned kuud varem, häkkides kliiniku serverid ja varastades sealt andmeid, nõudsid 'kaardiväelased' 300 bitcoini suurust lunaraha (umbes 800 000 dollarit). Kliiniku juhtkond keeldus koostööst 'kaardiväelastega' ning jäi kindlaks isegi siis, kui 'kaardiväelased' alandasid lunahinna 50 bitcoini (umbes 120 000 dollarit). [6]
- Kaotades lootus saada lunastust kliiniku käest, otsustasid "kaardiväelased" üle minna kliendi sihtimisele. Märtsis avaldasid nad Darknetis 150 patsiendi fotosid kliinikust [8], et hirmutada teisi ja sundida neid tasuma. "Kaardiväelased" küsisid lunastust vahemikus 50 kuni 2000 eurot, makstes bitcoinides – sõltuvalt ohvri tuntusest ja varastatud teabe isiklikkusest. Täpne hulk šantažitud patsiente ei ole teada, kuid politseisse pöördus mitu tosinat kannatanut. Nüüd, kolm kuud hiljem, avaldasid "kaardiväelased" 25 000 kliendi konfidentsiaalsed andmed. [6]
Küberkurjategija varastas meditsiinilise kaardi – millised ohud sellega kaasnevad selle seaduslikule omanikule?
- 19. oktoobril 2016 märkis Adam Levin, küberjulgeoleku ekspert ja teadusliku uurimisvahe keskuse "CyberScout" juht [9], et me elame ajal, mil meditsiinilised kaardid sisaldavad üha rohkem murettekitavalt intiimset teavet: haiguste, diagnooside, ravi ja terviseprobleemide kohta. Kui see teave satub valedesse kätesse, võib seda kasutada kasu saamiseks Darkneti mustal turul, mistõttu küberkurjategijad valivad sageli oma sihtmärkideks meditsiinikeskused.
- 2. septembril 2014 ütles Mike Orkut, tehnikaekspert MIT-st [10]: "Samas kui varastatud krediitkaardinumbrid ja sotsiaalkindlustuse numbrid ise mustal turul Darknetis nõudlust kaotavad – meditsiinilised kaardid, mis sisaldavad rikkalikku isiklikku teavet, on seal heas hinnas. Sealhulgas seetõttu, et need võimaldavad kindlustamata isikutele saada meditsiinilist abi, mida nad muidu endale lubada ei saaks."
- Varastatud ravikaarti saab kasutada seadusliku omaniku nimel meditsiinilise abi saamiseks. Selle tagajärjel segunevad ravikaardil seadusliku omaniku meditsiinilised andmed ja varga meditsiinilised andmed. Lisaks, kui varas müüb varastatud ravikaardi kolmandatele isikutele, võib kaart veelgi rohkem saastuda. Seetõttu riskib seaduslik ravikaardi omanik haiglasse minnes saada meditsiinilist abi, mis põhineb kellegi teise veregrupil, kellegi teise haiguslool, kellegi teise allergiate nimekirjal jne. [9]
- Lisaks sellele võib varas ammendada seadusliku ravikaardi omaniku kindlustuspiiri, mis jätab viimase ilma vajalikust meditsiinilisest abist, kui see on vajalik. Kõige vähem sobival ajal. Paljudel kindlustusplaanidel on aastased piirangud teatud tüüpi protseduuridele ja ravile. Ja kindlasti ei maksa ükski kindlustusselts teile kahe apenditsiidi operatsiooni eest. [9]
- Kasutes varastatud ravikaarti, võib varas kuritarvitada retsepte ravimite jaoks. Sellega jättes seadusliku omaniku ilma võimalusest saada vajalikku ravimit, kui see on vajalik. Sest retseptid ravimitele on tavaliselt piiratud. [9]
- Massiivsete küberrünnakute kõrvaldamine krediit- ja deebetkaartidele ei ole kuigi keeruline. Sihtotsevate rünnakute kaitsmine on veidi keerulisem. Kuid kui tegemist on EMEK-i varguse ja nende kuritarvitamisega, võib kuritegu olla peaaegu nähtamatu. Kui kuriteo fakt avastatakse, toimub see enamasti vaid äärmuslikus olukorras, kui tagajärjed võivad olla eluohtlikud. [9]
Miks on meditsiinikaartide vargus kasvanud nõudluse objektiks?
- 2017. aasta märtsis teatas "Isikuandmete varguse tõkestamise keskuse" teatel, et üle 25% konfidentsiaalsete andmete leketest toimub meditsiinikeskustes. Need lekked toovad meditsiinikeskustele igal aastal 5,6 miljardi dollari suuruse kahju. Allpool on mõned põhjused, miks meditsiinikaartide vargus kasutab järjest suurenevat nõudlust. [18]
- Meditsiinilised kaardid on kõige nõutum kaup tumedatel turgudel. Meditsiinilisi kaarte müüakse seal 50 dollari eest tükk. Võrdluseks, krediitkaardinumbrite hind tumedal turul on 1 dollar tükk – 50 korda odavam kui meditsiinilised kaardid. Nõudlus meditsiiniliste kaartide järele tuleneb ka tegurist, et need on kulutatavad materjalid, mida kasutatakse koos keerukate kriminaalteenustega dokumentide valeandmiseks. [18]
- Kui meditsiiniliste kaartide ostjat ei leia, saab kurjategija kasutada meditsiinikaarti ise ja läbi viia traditsioonilise varguse: meditsiinilised kaardid sisaldavad piisavalt teavet, et ohvri nimel avada krediitkaart, pangakonto või võtta laenu. [18]
- Olles saanud kätte varastatud meditsiinilise kaardi, võib küberkurjategija näiteks läbiviia keerulise sihitud phishing-uuringu (mõistetavalt, valmistades ette phishing-odavat), esinedes pangana: „Tere, me teame, et olete plaaninud operatsiooni. Ärge unustage maksta kõrvalteenustega, minnes sellele lingile.” Ja siis te mõtlete: „Hästi, kuna nad teavad, et mul on homme operatsioon – kindlasti on see tõeliselt panga kiri.” Kui kurjategijal ei õnnestu ka siin ära kasutada varastatud meditsiiniliste kaartide potentsiaali, võib ta kasutada lunavaraviru, et nõuda meditsiinikeskuselt raha – juurdepääsu taastamiseks lukustatud süsteemidele ja andmetele. [18]
- Meditsiinikeskused rakendavad küberjulgeoleku meetodeid väga aeglaselt, kuigi need on teistes tööstusharudes juba tõhusalt kasutusele võetud, mis on üsna iroonia, kuna meditsiinikeskuste kohustuseks on arstiabi saladuse tagamine. Lisaks on meditsiinikeskustel tavaliselt oluliselt vähem küberjulgeoleku eelarveid ja oluliselt vähem kvalifitseeritud küberjulgeoleku spetsialiste kui näiteks finantsorganisatsioonidel. [18]
- Meditsiinilised IT-süsteemid on tihedalt seotud finantsteenustega. Näiteks võivad meditsiinikeskused omada paindlikke säästingupakke ettenägematute kulude jaoks, koos enda maksekaartide või hoiukontodega – kus hoitakse kuuekohalisi summasid. [18]
- Paljud organisatsioonid teevad koostööd meditsiinikeskustega ja pakuvad oma töötajatele individuaalset tervisehooldussüsteemi. See annab kurjategijatele võimaluse siseneda meditsiinikeskuste süsteemidesse ja pääseda ligi ettevõtte klientide konfidentsiaalsele teabele. Juba rääkimata sellest, et kurjategijana võib üles astuda ka tööandja, kes müüb vaikides oma töötajate meditsiinilisi andmeid kolmandatele isikutele. [18]
- Meditsiinikeskustel on keerulised tarneahelad ja ulatuslikud tarnijate nimekirjad, kellega neil on klassikaline digitaalne side. Meditsiinikeskuse IT-süsteemide läbi häkkimise kaudu võib kurjategija pääseda ka tarnijate süsteemidesse. Lisaks on tarnijad, kellega meditsiinikeskusel on digitaalne ühendus, endi jaoks juba iseenesest ahvatlev sissepääs meditsiinikeskuse IT-süsteemidesse. [18]
- Muudes valdkondades on kaitse muutunud väga keerukaks, mistõttu kurjategijad pidid omandama uusi oskusi valdkonnas, kus tehingud tehakse haavatava varustuse ja haavatava tarkvara kaudu. [18]
Kuidas on sotsiaalkindlustusnumber vargused seotud dokumentide valeväljaandmise kuritegevusega?
- 30. jaanuaril 2015 selgitas uudisteagentuur "Tom’s Guide" [31], kuidas tavaline dokumendi valevariant erineb kombineeritud valevariantidest. Lihtsaimal juhul dokumendi valevariant seisneb selles, et petis esitleb end mingisuguse teise isikuna, kasutades selle isiku nime, sotsiaalkindlustuse numbrit (SSN) ja muud isiklikku teavet. Sarnase petuskeemi avastamine toimub üsna kiiresti ja lihtsalt. Kombineeritud lähenemise korral loovad pahad inimesed täiesti uue identiteedi. Dokumendi valeväljaandmisel võetakse reaalne SSN ja lisatakse sellele mitme erineva isiku isiklikku teavet. See Frankensteini koletis, mis on kokku pandud erinevate inimeste isikuandmetest, on palju keerulisem tuvastada kui lihtne dokumendi valevariant. Kuna petis kasutab vaid mõningaid andmeid igaühe ohvrilt, ei seostata tema petuskeeme nende seaduslike omanikega. Näiteks oma SSN-i tegevust vaadates ei leia seaduslik omanik seal midagi kahtlast.
- Pahad inimesed võivad kasutada oma Frankensteini monsterit, et saada tööd või võtta laenu [31], samuti fiktiivsete ettevõtete avamiseks [32]; ostude tegemiseks, juhilubade ja passide saamiseks [34]. Isegi laenu võtmisel on dokumentide valeväljaandmise jälgimine väga keeruline, ning seetõttu, kui pangandustöötajad alustavad uurimist, tõmmatakse tõenäoliselt vastutusele selle või teise isiku isikuandmete seaduslik omanik, mitte Frankensteini koletise looja.
- Ebaeetilised ettevõtjad võivad dokumentide valeväljaandmist kasutada krediteerimispettuste jaoks, luues nn äri-sandwich'i. Äri-sandwich'i mõte on, et ebaeetilised ettevõtjad võivad luua mitmeid valeidentiteete ja esitleda neid oma äri klientidena, luues seeläbi edukuse illusiooni. Nii saavad nad oma laenuandjate seas atraktiivsemaks ja saavad madalamate intressimääradega krediiti kasutama [33].
- Isikliku teabe häkkimine ja kuritarvitamine jääb sageli pikaks ajaks märkamatuks tema seaduslikult omanikult, kuid võib tuua talle märkimisväärseid ebamugavusi kõige ebasobivamal ajal. Näiteks võib seaduslik omanik esitada taotluse sotsiaalteenuste saamiseks ja saada keeldumise – põhjuseks ülemäärane sissetulek, mis on tekkinud vale äritegevuse kaudu, kus on kasutatud tema SSN-i. [33]
- Alates 2007. aastast kuni tänaseni on miljardite dollarite suurune dokumendivõltsimise kuritegevus, mis põhineb SSN-il, üha populaarsemaks muutumas [34]. Petturid eelistavad neid SSN-e, mida nende seaduslikud omanikud aktiivselt ei kasuta – nende hulka kuuluvad laste ja surnud isikute SSN-id. CBS-i teabeagentuuri andmetel peeti 2014. aastal igakuised juhtumid tuhandeid, samas kui 2009. aastal oli neid maksimaalselt 100 kuus. Selle pettuse tüübi eksponentsiaalne kasv – eriti laste personaaluuringute puhul – toob tulevikus noortele kaasa kurvad tagajärjed. [34]
- Laste SSN-e kasutatakse selles pettuse skeemis 50 korda sagedamini kui täiskasvanute SSN-e. Selline huvi laste SSN-ide vastu tuleneb asjaolust, et laste SSN-id on reeglina mitteaktiivsed vähemalt 18-aastaseks saamiseni. Seega, kui alaealiste laste vanemad ei hoia jälgimist nende SSN-ide üle, võivad neid tulevikus keelata juhtimisõiguse või õppelaenu väljastamine. Samuti võib see raskendada tööhõivet – kui kahtlase SSN-aktiivsuse teave satub potentsiaalsete tööandjate kätesse. [34]
Täna räägitakse palju tehisintellekti süsteemide perspektiividest ja ohutust. Kuidas on asjad meditsiinitööstuses?
- 2017. aasta juuni numbris «MIT Technology Review» avaldas ajakirja peatoimetaja, kes spetsialiseerub tehisintellekti tehnoloogiatele, artikli «Tehisintellekti tumedamad küljed», kus ta käsitles seda küsimust põhjalikult. Artikli peamised punktid [35]:
- Kaasaegsed tehisintellekti (AI) süsteemid on nii keerulised, et isegi nende projekteerimisega tegelevad insenerid ei suuda selgitada, kuidas AI teeb teatud otsuseid. Praegu ja lähitulevikus ei ole võimalik arendada AI süsteemi, mis suudab alati oma tegevust selgitada. Süvaõppetehnoloogia on osutunud väga tõhusaks viimaste aastate aktuaalsete probleemide lahendamisel: piltide ja hääle tuvastamine, keele tõlkimine, meditsiinilised rakendused. [35]
- AI-le pannakse suured lootused surmavate haiguste diagnoosimisel, keeruliste majanduslike otsuste tegemisel; samuti oodatakse, et AI saab paljude teiste valdkondade keskseks elemendiks. Siiski ei juhtu see - või vähemalt ei tohiks juhtuda - enne, kui me ei leia viisi arendada süvaõppetehnoloogia süsteem, mis suudab selgitada oma tehtud otsuseid. Vastasel juhul ei suuda me ennustada, millal selline süsteem ebaõnnestub - ja see toimub varem või hiljem kindlasti. [35]
- See probleem on muutunud aktuaalseks juba praegu, ning tulevikus ainult süveneb. Olgu need siis majanduslikud, sõjalised või meditsiinilised otsused. Arvutid, millel on käivitatud vastavad AI süsteemid, on programmeerinud end ise, ja selliselt, et meil puudub võimalus mõista, „mida neil mõttes on“. Mis rääkida lõppkasutajatest, kui isegi nende süsteemide projekteerimisega tegelevad insenerid ei suuda mõista ja selgitada nende käitumist. AI süsteemide arengu käigus võime varsti ületada piiri – kui me juba ei ole seda teinud – kus, toetudes AI-le, peame tegema „uskumise hüppe“. Muidugi, olles inimesed, ei suuda me ka alati oma järeldusi selgitada, ja sageli toetume intuitsioonile. Aga kas me saame lubada masinatel mõelda samamoodi – et olla ettearvamatud ja seletamatud? [35]
- 2015. aastal inspireeris New Yorgi meditsiinikeskus "Mount Sinai" rakendama sügava õppimise kontseptsiooni oma ulatuslikule haiguslugude andmebaasile. Andmete struktuur, mida kasutati IA-süsteemi koolitamiseks, sisaldas sadu parameetreid, mis määrati testide, diagnooside, analüüside ja arstide dokumentatsioonide põhjal. Programmi, mis töötles neid kirjeid, nimetati "Sügav Patsient". Sellele õpetati 700 000 patsiendi salvestiste kaudu. Uute salvestiste testimisel osutus see haiguste ennustamisel väga kasulikuks. Ilma eksperdiga suhtlemiseta tuvastas "Sügav Patsient" sümptomeid, mis olid peidetud haiguslugudesse ja mis IA arvates viitasid sellele, et patsient on suurte komplikatsioonide, sealhulgas maksavähi, äärel. Oleme varasemalt katsetanud erinevaid ennustamismeetodeid, mis kasutasid mitme patsiendi haiguslugusid andmetena, kuid "Sügava Patsiendi" tulemused ei saa võrreldagi. Lisaks on täiesti ootamatud saavutused: "Sügav Patsient" ennustab väga hästi vaimsete häirete tulekut, nagu skisofreenia. Kuid kuna tänapäeva meditsiinil ei ole selle ennustamiseks ära kasutatavaid tööriistu, on küsimus, kuidas IA suutis seda teha. Kuid "Sügav Patsient" ei ole võimeline selgitama, kuidas ta seda teeb. [35]
- Ideaalis peaksid sarnased tööriistad arstidele selgitama, kuidas nad jõudsid teatud järeldusteni, et näiteks põhjendada teatud ravimi kasutamist. Kuid kaasaegsed tehisintellekti süsteemid ei oska seda kahjuks teha. Me saame selliseid programme luua, kuid me ei tea, kuidas need töötavad. Sügav õpe on viinud IA-süsteemide plahvatusliku eduni. Praegu rakendatakse selliseid IA-süsteeme võtmeotsuste tegemiseks valdkondades nagu meditsiin, rahandus, tootmine jne. Võib-olla on see tehisintellekti olemus – et vaid osa sellest allub ratsionaalsele seletusele, samas kui enamus otsuseid tehakse spontaanselt. Kuid kuhu see viib, kui lubame sellistel süsteemidel vähki diagnoosida ja sõjalisi manöövreid teha? [35]
Kas meditsiinisektor on õppinud WannaCry olukorrast?
- 25. mai 2017. aastal teatati, et üks peamisi põhjuseid, miks küberjulgeolekut kantavate meditsiiniseadmete puhul ei hinnata, on nende madal arvutusvõime, mida tingib rangetelt suuruse nõudmised. Kaks muud, mitte vähem olulist põhjust on: teadmiste puudus turvalise koodi kirjutamisest ja toote turule toomiseks seatud ajakavad.
- Samas teates märgiti, et ühe südamestimulaatorite tarkvara uuringute tulemusel leiti, et seal oli üle 8000 haavatavuse; ja kuigi küberjulgeoleku probleemide, mis tulenesid WannaCry intsidentidest, laialdasele avalikustamisele vaatamata, võttis ainult 17% meditsiiniseadmete tootjatest konkreetseid meetmeid oma seadmete küberjulgeoleku tagamiseks. Mis puutub meditsiinikeskustesse, mis suudsid WannaCry rünnakust pääseda, siis vaid 5% neist vaatasid oma seadmete küberjulgeolekut. Need raportid saadi peagi pärast seda, kui üle 60 tervishoiuorganisatsiooni Ühendkuningriigis langesid küberrünnaku alla.
- 13. juunil 2017, kuu aega pärast WannaCry intsidenti, arutles Peter Pronovost, doktorikraadiga arst ja suure meditsiinikeskuse "Johns Hopkins Medicine" patsientide turvalisuse asejuhataja, arutades ajakirjas "Harvard Business Review" meditsiiniseadmete arvutihalduse kiireloomulisi küsimusi – ei maininud küberjulgeolekust sõnagi.
- 15. juunil 2017, kuu aega pärast WannaCry intsidenti, arutles Robert Pearl, doktorikraadiga arst ja kahe meditsiinikeskuse juht, arutledes ajakirjas "Harvard Business Review" kaasaegseid väljakutseid, millega seisavad silmitsi EMK-süsteemide arendajad ja kasutajad – ei öelnud küberjulgeolekust sõnagi.
- 20. juuni 2017, kuu aega pärast WannaCry intsidenti, avaldas rühm doktorikraadiga teadlasi Harvard Medical School'ist, kes on samal ajal ka Brigham and Women’s Hospital'i võtmeosakondade juhid, artikli [20] Harvard Business Review's, milles käsitleti ümarlauda, mis oli pühendatud meditsiiniseadmete moderniseerimise vajadusele patsientide teenindamise kvaliteedi parandamiseks. Ümarlauda osalesid esindajad 34 juhtivast meditsiinikeskusest Ameerika Ühendriikides. Meditsiiniseadmete moderniseerimist käsitledes avaldasid osalejad suuri lootusi prognoosimisvahenditele ja nutikatele seadmetele. Küberturvalisusest ei räägitud sõnagi.
Kuidas tagada meditsiinikeskuste küberturvalisus?
- 2006. aastal ütles Venemaa Föderaalse Suhtlemisteenistuse infotehnoloogia osakonna ülem, kindralleitnant Nikolai Iljin [52]: „Infoturbe küsimus on täna aktuaalsem kui kunagi varem. Kasutatava tehnika hulk on järsult suurenenud. Kahjuks ei arvestata sageli projekteerimise etapil infoturbe küsimustega. On selge, et selle probleemi lahendamine maksab 10 kuni 20 protsenti süsteemi enda maksumusest ja tellijal ei ole alati soovi maksta lisaraha. Samas tuleb mõista, et usaldusväärne teabe kaitse saab olla rakendatud ainult siis, kui on rakendatud kompleksne lähenemine, kus organisatsioonilised meetmed on ühendatud tehniliste kaitsevahendite rakendamisega.”
- 3. oktoober 2016. aastal jagas Mohammed Ali, endine võtmeisik IBM-is ja Hewlett Packardis ning praegu ettevõtte "Carbonite", mis on spetsialiseerunud küberjulgeoleku lahendustele, lehti "Harvard Business Review" oma tähelepanekuid küberjulgeoleku olukorra kohta meditsiinitööstuses: "Kuna lunaväärid on nii levinud ja kahju võib olla nii kulukas, siis imestan alati, kui vestlustes CEO-dega kuulen, et nad ei pea seda tõsiseks. Parimal juhul delegeerib CEO küberjulgeoleku probleemid IT-osakonnale. Kuid tõhusa kaitse tagamiseks on sellest ebapiisav. Seetõttu kutsun ma alati CEO-sid üles: 1) lisama lunavääride ennetamise meetmed organisatsiooni arengu prioriteetide hulka; 2) kontrollima vastavat küberjulgeoleku strateegiat vähemalt kord aastas; 3) kaasama kogu oma organisatsiooni vastavasse haridusse.
- Saame laenata sõna-sõnalt lahendusi finantssektorist. Peamine järeldus, mille finantssektor küberjulgeoleku kaosest tegi: "Kõige tõhusam küberjulgeoleku element on personali koolitus. Sest tänapäeva peamine küberjulgeoleku häirete põhjus on inimfaktor, eeskätt inimeste haavatavus kalavale rünnakutele. Kuigi tugev krüpteerimine, küberriskide kindlustamine, mitmeotsakuna autentimine, leksimeerimine, kaardi kiipimine, plokiahel ja biomeetria on kasulikud, on need siiski suuresti teisejärguliselt tähtsad.
- 19. mail 2017. aastal teatas uudisteagentuur "BBC", et Suurbritannias suurenes pärast WannaCry juhtumit 25% võrra kaitseprogrammi müügimaht. Kuid Verizon spetsialistide arvates ei ole kaitseprogrammide paanikamüük see, mida küberjulgeoleku tagamiseks tõeliselt vajatakse; selle kätkema küberjulgeoleku tagamiseks tuleb järgida proaktiivse kaitsemeetmeid, mitte reaktiivseid.
P.S. Kas artikkel meeldis? Kui jah, siis palun vajutage meeldimist. Kui näen, et lugejatel on Habras selle teema vastu huvi (kuni 70 meeldimisega), siis valmistan varsti ette jätku, kus vaatan üle veel uuemaid ohte meditsiiniinfotehnoloogia süsteemidele.
Bibliograafia
- David Talbot. // MIT Technology Review (Digital). 2012.
- Kristina Grifantini. // MIT Technology Review (Digital). 2008.
- Dens Makrushin. // SecureList. 2017.
- Tom Simonite. // MIT Technology Review (Digital). 2016..
- Sarah Marsh. // The Guardian. 2017.
- Alex Hern. // The Guardian. 2017.
- Sarunas Cerniauskas. // OCCRP: Organized Crime and Corruption Reporting Progect. 2017.
- Ray Walsh. // BestVPN. 2017.
- Adam Levin. // HuffPost. 2016.
- Mike Orcutt. // MIT Technology Review (Digital). 2014.
- Pjotr Sapozhnikov. // АМИ: Российское агентство медико-социальной информации. 2016.
- Jim Finkle. // Reuters. 2014.
- Julia Carrie Wong. // The Guardian. 2016.
- Mike Orcutt. // MIT Technology Review (Digital). 2016.
- Robert M. Pearl, MD (Harvard). // Harvard Business Review (Digital). 2017.
- // BBC. 2017.
- Peter Pronovost, MD. // Harvard Business Review (Digital). 2017.
- Rebecca Weintraub, MD (Harvard), Joram Borenstein. // Harvard Business Review (Digital). 2017.
- Mohamad Ali. // Harvard Business Review (Digital). 2016.
- Meetali Kakad, MD, David Westfall Bates, MD. // Harvard Business Review (Digital). 2017.
- Michael Gregg. // HuffPost. 2013.
- // SmartBrief. 2017.
- Matthew Wall, Mark Ward. // BBC. 2017.
- // BBC. 2017.
- Alex Hern. // The Guardian. 2017.
- // FBI. 2017.
- // Rxperian. 2017.
- Steven Erlanger, Dan Bilefsky, Sewell Chan. // The New York Times. 2017.
- // BBC. 2017.
- Allen Stefanek. .
- Linda Rosencrance. // Tom’s Guide. 2015.
- .
- .
- Steven D'Alfonso. // Security Intelligence. 2014.
- Will Knight. Tumedad saladused AI keskmes // MIT Technology Review. 120(3), 2017.
- Kuznetsov G.G. // «Информатика Сибири».
- // «Информатика Сибири».
- // «Информатика Сибири».
- Vladimir Makarov. // Радио «Эхо Москвы».
- // Открытые системы. 2015.
- Irina Sheyan. // Computerworld Россия. 2012.
- Irina Sheyan. // Computerworld Россия. 2012.
- Olga Smirnova. // Профиль. 2016.
- Tsepljova Anastasia. // 2012.
- .
- Kuznetsov G.G. // «Информатика Сибири».
- .
- .
- // «Информатика Сибири».
- // «Информатика Сибири».
- // «Информатика Сибири».
- // «Информатика Сибири».
- // «Информатика Сибири».
- Ageenko T.Y., Andrianov A.V. // IT-Стандарт. 3(4). 2015.
- 2013.
- Zhilyaev P.S., Goryunova T.I., Volodin K.I. // Международный студенческий научный вестник. 2015.
- Irina Sheyan. // Директор информационной службы. 2017.
- Irina Sheyan. // Директор информационной службы. 2016.
- // 2017.
- Andrei Makhonin. // БиБиСи. 2017.
- Erik Bosman, Kaveh Razavi. Dedup Est Machina: Mälu deduplication kui edasijõudnud ekspluateerimismeetod // IEEE Symposium on Security and Privacy toimetised. 2016. lk. 987-1004.
- Bruce Potter. Teabe turvalisuse mustad väikesed saladused // DEFCON 15. 2007.
- Ekaterina Kostina. .
Allikas: habr.com
