Tehisintellekti kallutatusest

lühidalt kokkuvõttes:

• Masinõpe otsib andmetes mustreid. Kuid tehisintellekt võib olla „eelarvamusega” — see tähendab, et ta leiab vale mustrid. Näiteks võib nahavähi tuvastamise süsteem fotode põhjal pöörata erilist tähelepanu arstiruumis tehtud pildile. Masinõpe ei mõista: tema algoritmid tuvastavad ainult mustreid numbrite seast, ja kui andmed ei ole esinduslikud, siis on ka tulemused sellised. Kuid selliste vigade tuvastamine võib olla keeruline masinõppe enda mehhanismide tõttu.
• Kõige ilmsem ja hirmutavam probleemivaldkond on inimeste erinevus. On palju põhjuseid, miks inimandmete objektiivsus võib juba andmete kogumise etapis kaduda. Kuid ei tasu arvata, et see probleem puudutab ainult inimesi: samasuguseid keerukusi kogevad süsteemid ka näiteks laos üleujutuse tuvastamisel või rikki läinud gaasiturbina ära tundmisel. Ühed süsteemid võivad omada eelarvamusi nahavärvi suhtes, teised aga eelistavad Siemens'i andureid.
• Sarnased probleemid ei ole masinõppe jaoks midagi uut ja need ei ole iseloomulikud ainult sellele. Vale oletusi tehakse kõikides keerulistes struktuurides ning mõista, miks mingisugune otsus tehti, on alati keeruline. Selle vastu tuleb võidelda süsteemselt: luua tööriistu ja protsesse kontrollimiseks ning harida kasutajaid, et nad ei järgiks pimesi tehisintellekti soovitusi. Masinõpe tõepoolest teeb mõned asjad meist palju paremini — kuid näiteks koerad on palju tõhusamad kui inimesed narkootikumide avastamisel, mis ei ole siiski põhjus neid tunnistajatena kaasata või otsuseid nende tunnistustes põhineda. Ja koerad, muide, on oluliselt nutikam kui ükski masinõppesüsteem.

Masinõpe on täna üks olulisemaid ja põhialuseid tehnoloogilisi suundi. See on üks peamisi viise, kuidas tehnoloogia hakkab järgmisel kümnendil maailma muutma. Mõned aspektid nendest muudatustest tekitavad muret. Näiteks masinõppe potentsiaalne mõju tööjõuturule või selle kasutamine eetikast kõrvale kaldumise eesmärgil (näiteks autoritaarsete režiimide poolt). On veel üks probleem, millele see postitus keskendub: tehisintellekti eelarvamused.

See on keeruline lugu.

Google'i tehisintellekt suudab leida kassipoegi. See uudis aastast 2012 oli siis midagi erilist.

Mis on "tehisintellekti eelarvamused"?

"Toored andmed" on ühtlasi oksüümoron ja halb idee; andmed tuleb korralikult ja hoolikalt ette valmistada. —Jeffrey Baker

Umbes 2013. aastaks, et luua süsteem, mis näiteks tuvastaks fotosid kassi, pidi te kirjeldama loogilisi samme. Kuidas leida pildilt nurgad, tuvastada silmad, analüüsida tekstuure karva olemasolu osas, lugeda jalgu ja nii edasi. Siis kõiki komponente kokku koguma — ja avastama, et see ei tööta. Umbes nagu mehaaniline hobune — teoreetiliselt on see võimalik, kuid praktikas liiga keeruline kirjeldada. Tulemuseks on sadades (või isegi tuhandetes) käsitsi kirjutatud reegleid. Ja mitte ühtegi töötavat mudelit.

Masinõppe tulekuga oleme lõpetanud „käsitsi” reeglite kasutamise, et tuvastada teatud objekti. Selle asemel võtame tuhat näidist „sellest”, X, tuhat näidist „teisest”, Y, ja laseme arvutil koostada mudeli nende statistilise analüüsi põhjal. Seejärel anname sellele mudelile mingi andmekhte, ja see määrab, kas see sobib mõne ühe komplekti kategooriatesse. Masinõpe genereerib mudeli andmete põhjal, mitte inimeselt, kes selle kirjutab. Tulemused on muljetavaldavad, eriti pildituvastuse ja mustrite valdkonnas, ja just seetõttu on kogu tehnoloogia tööstus praegu masinõppele (ML) üleminekul.

Aga mitte kõik ei ole nii lihtne. Tegelikus maailmas sisaldavad teie tuhanded näidised X või Y ka A, B, J, L, O, R ja isegi L. Need võivad olla ebaühtlaselt jaotatud ning mõned neist võivad esineda nii sageli, et süsteem pöörab neile rohkem tähelepanu kui objektidele, mis teid tõeliselt huvitavad.

Mida see praktikas tähendab? Minu lemmiknäide on see, kui pildituvastussüsteemid vaatavad rohtuseid mägesid ja ütlevad: „lammas”. On selge, miks: enamus näidisfoto testid „lammas” on tehtud niitudel, kus nad elavad, ja nendel piltidel võtab rohi nähtavasti palju rohkem ruumi kui väikesed valged karvased olendid, ning just rohule peetakse süsteemi järgi kõige olulisemaks.

On ka tõsisemaid näiteid. Hiljutine — üks projekt nahavähi avastamisest piltidel. Selgus, et dermatoloogid sageli fotografeerivad joonlaua koos nahavähi ilmingutega, et fikseerida moodustiste suurus. Tervisliku naha näidispiltidel ei ole joonlauasid. Tehisintellekti süsteemi jaoks on need joonlauad (täpsemalt, pikslid, mida meie määrame kui „joonlaud”) saanud üheks erinevuseks näidiste kogumite vahel ja mõnikord on need olulisemad kui väike lööve nahal. Nii juhtus, et süsteem, mis oli loodud nahavähi tuvastamiseks, mõnikord tuvastas selle asemel joonlauad.

Siin on peamine punkt see, et süsteemil ei ole semantilist arusaamist sellest, millele ta vaatab. Me vaatame pikslite kogumit ja näeme seal lammast, nahka või joonluseid, aga süsteem näeb ainult numbrirea. Ta ei näe kolmemõõtmelist ruumi, ei näe ei objekte, ei tekstuure, ega lammaste. Ta näeb lihtsalt mustreid andmetes.

Sellise probleemi diagnoosimise keerukus seisneb selles, et närvivõrk (mudel, mille teie masinõpe genereeris) koosneb tuhandetest, isegi sadadest tuhandetest sõlmedest. Pole lihtsat viisi, kuidas mudelisse sisse vaadata ja näha, kuidas ta otsuseid teeb. Sellise viis, et kõik reeglid käsitsi kirja panna ilma masinõppe kasutamiseta, tähendaks, et protsess on piisavalt lihtne. Inimesed muretsevad, et masinõpe on muutunud mingiks 'mustaks karbiks'. (Selgitan hiljem, miks see võrdlus on siiski ülepingutatud.)

See on, üldiselt öeldes, tehisintellekti või masinõppe süsteemide kallutatuse probleem: andmete mustrite leidmiseks loodud süsteem võib leida vale mustreid ja te võite seda tähelepanemata jätta. See on tehnoloogia põhijoon ja see on selge kõigile, kes sellega teaduslikes ringkondades ja suurtes tehnoloogiaettevõtetes töötavad. Kuid selle tagajärjed on keerulised ja meie võimalikud lahendused nendele tagajärgidele samuti.

Räägime esmalt tagajärgedest.

AI võib meie jaoks varjatult otsustada, toetudes paljudele märkamatutele signaalidele, milliste inimeste kategooriate kasuks.

AI eelarvamuse stsenaariumid

Kõige ilmsem ja hirmutavam on see probleem, mis võib ilmneda, kui jutt on inimeste mitmekesisusest. Hiljuti levitus kuulujutt, et Amazon püüdis luua masinõppe süsteemi kandidaatide esmasteks valimiseks. Kuna Amazonis on rohkem mehi, on ka „eduka värbamise“ näidised sageli meessoost ja süsteemi pakutud CV-des oli rohkem mehi. Amazon märkas seda ja otsustas süsteemi tootmisesse mitte lasta.

Selle näite kõige olulisem aspekt on see, et süsteem, kuulujuttude kohaselt, eelistas meessoost kandidaate, hoolimata sellest, et soost ei olnud CV-des märgitud. Süsteem tuvastas teisi mustreid „eduka värbamise” näidetes: näiteks võivad naised kasutada saavutuste kirjeldamisel erilisi sõnu või neil võivad olla erilised hobid. Loomulikult ei teadnud süsteem, mis on „hoki”, kes on „inimesed” ega mis on „edu” — see tegi vaid tekstianalüüsile põhinevat statistilist analüüsi. Kuid mustrid, mida ta nägi, jääks tõenäoliselt inimese jaoks märkamata, ja mõned neist (näiteks, et erineva sooga inimesed kirjeldavad edu erinevalt) võivad olla meile keerulised isegi siis, kui me neid vaatame.

Edasi läheb halvemaks. Masinõppe süsteem, mis tunneb väga hästi ära nahavähi heleda naha peal, võib tumeda naha puhul töötada halvemini või vastupidi. See ei pruugi olla eelarvamuste tõttu, vaid sellepärast, et tõenäoliselt peate ehitama teise nahatooni jaoks eraldi mudeli, valides teised omadused. Masinõppe süsteemid ei ole asendatavad isegi nii kitsas valdkonnas nagu piltide tuvastamine. Te peate seadistama süsteemi, mõnikord lihtsalt katsete ja eksimuste abil, et sellel oleks hea võime märgata huvipakkuvaid omadusi teie andmetes, kuni saavutate soovitud täpsuse. Kuid te võite mitte märgata, et süsteem on ühes grupis 98% täpne ja teises vaid 91% (kuigi see on täpsem kui inimanalüüs).

Olen seni peamiselt kasutanud näiteid, mis puudutavad inimesi ja nende omadusi. See teema ongi arutelu keskmes. Kuid oluline on mõista, et inimeste suhtes kalduvus on vaid osa probleemist. Me kavatseme kasutada masinõpet paljude asjade jaoks ja andmete valimi viga puudutab kõiki neid. Teisest küljest, kui töötate inimestega, võib andmete kallutatus olla nendega mitteseostatav.

Selle mõistmiseks pöördume tagasi nahavähi näite juurde ja vaatleme kolme hüpoteetilist võimalust süsteemi rikke jaoks.

1. Inimeste ebaühtlane jaotumine: tasakaalustamata arv naha erinevate toonide fotosid, mis viib valepositiivsete või vale negatiivsete tulemusteni, mis on seotud pigmenteerumisega.
2. Andmed, mille põhjal süsteem treenitakse, sisaldavad sageli esinevat ja ebamugavalt jaotatud omadust, mis ei ole seotud inimestega ja ei oma diagnostilist väärtust: joonlauda nahavähi ilmingute fotodel või rohtu lampide piltidel. Sellisel juhul võib tulemus erineda, kui süsteem leiab pildilt pikslite seas midagi, mida inimsilmapaistab "joonlaud".
3. Andmed sisaldavad kolmandate osapoolte omadust, mida inimene ei saa isegi otsides näha.

Mida see tähendab? Me teame a priori, et andmed võivad esindada erinevaid inimrühmi erinevalt ning vähemalt saame kavandada sarnaste erandite otsimist. Teisisõnu, on palju sotsiaalseid põhjuseid oletada, et inimrühmade kohta käivad andmed sisaldavad juba teatud eelarvamusi. Kui vaatame fotot joonlauast, näeme seda joonlauda — me lihtsalt ignoreerisime seda varem, teades, et sellel ei ole tähtsust, ja unustades, et süsteemile ei ole midagi teada.

Aga mis juhtub, kui kõik teie haigete nahaga fotod on tehtud kontoris, kus kasutatakse hõõglampe, ja terved fotod fluorescentse valguse käes? Mis siis, kui pärast terve naha pildistamist uuendasite oma telefonil operatsioonisüsteemi, ja Apple või Google muutsid veidi müra vähendamise algoritmi? Inimene ei pruugi seda märgata, olenemata sellest, kui palju ta selliseid erisusi otsib. Aga masinõppe süsteem näeb seda kohe ja kasutab ära. Ta ei tea sellest midagi.

Kuigi me rääkisime vale korrelatsioonidest, võib selguda, et andmed on täpsed ja tulemused õiged, kuid te ei soovi neid kasutada eetiliselt, õiguslikult või juhtimislikel põhjustel. Mõnedes jurisdiktsioonides, näiteks, ei tohi naistele anda kindlustussoodustusi, vaatamata sellele, et naised võivad olla turvalisemad autojuhid. Me võime kergesti ette kujutada süsteemi, mis ajaloolisi andmeid analüüsite, annaks naisenimedele madalama riskikoefitsiendi. Okei, eemaldame nimed valimist. Kuid pidage meeles Amazoniga seotud näidet: süsteem võib määrata soo teiste tegurite põhjal (kuigi ta ei tea, mis soo on, ega ka mis auto on), ja te ei märkagi, kuni regulaator tagantjärele analüüsib teie pakutavaid tariife ja määrab teile trahvi.

Lõpuks eeldatakse sageli, et kasutame selliseid süsteeme ainult projektide jaoks, mis on seotud inimeste ja sotsiaalsete suhtlemistega. See ei ole tõsi. Kui tegelete gaasiturbinate tootmisega, soovite tõenäoliselt rakendada masinõpet teie tootega seotud telemeetriale, mida edastab kümned või sadakond sensoreid (audio-, video-, temperatuurit ja muid andureid, mis genereerivad andmeid, mida on väga lihtne kohandada masinõppemudeli loomiseks). Hüpoteetiliselt võiks öelda: „Siin on andmed tuhandest rikki läinud turbina kohta, mis kogutud nende rikke eelõhtul, ja siin on andmed tuhande turbina kohta, mis ei ole rikki läinud. Looge mudel, et näidata, milles on nende vahel erinevused.“ Kujutage nüüd ette, et Siemens'i andurid asuvad 75% halbadest turbiinidest ja vaid 12% headest (rikete vahel pole seost). Süsteem loob mudeli, et leida Siemensi anduritega turbiine. Ups!

Pilt — Moritz Hardt, UC Berkeley

AI kallutatuse juhtimine

Mis me sellega teha saame? Probleemile läheneda kolmest küljest:

1. Meetodiline täpsus andmete kogumisel ja haldamisel süsteemi koolitamiseks.
2. Tehnilised tööriistad mudeli käitumise analüüsimiseks ja diagnoosimiseks.
3. Koolitus, haridus ja ettevaatus mõistlikult masinõppe rakendamisel toodetes.

Molière'i teoses „Kodanik aadli seas” on nali: ühele mehele räägiti, et kirjandus jaguneb proosaks ja luuleks, ja ta avastab imetledes, et on terve elu rääkinud proosat, teadmata sellest. Tõenäoliselt tunnevad statistikud end tänapäeval just nii: nad on ise sellest märkamata pühendunud oma karjäärid tehisintellektile ja valimiveale. Valimivea otsimine ja selle pärast muretsemine ei ole uus probleem, me peame lihtsalt süsteemselt sellele lähenema. Nagu eespool mainitud, on mõnel juhul tõepoolest lihtsam tegeleda probleemidega, mis on seotud inimeste andmetega. Me eeldame eelduslikult, et meil võivad olla eelarvamused erinevate inimrühmade suhtes, kuid eelarvamust Siemens'i andurite kohta on meil raske isegi ette kujutada.

Uues on see, et inimesed ei tegele enam statistilise analüüsiga otseselt. Seda teeb masinad, mis loovad suured keerukad mudelid, mis on raskesti mõistetavad. Läbipaistvuse küsimus on üks peamisi aspekte kallutatuse probleemis. Me kardame, et süsteem ei ole lihtsalt kallutatud, vaid et pole mingit võimalust seda kallutust avastada, ja et masinõpe erineb teistest automatiseerimise vormidest, mis, nagu eeldatakse, koosnevad selgetest loogilistest sammudest, mida saab kontrollida.

Siin on kaks probleemi. Me võime siiski teha mingisugust masinõppe süsteemide auditi. Ja auditi teostamine mistahes teise süsteemi puhul ei ole sugugi lihtsam.

Esiteks, üks kaasaegse masinõppe teadusuuringute suundi on otsida meetodeid, kuidas tuvastada masinõppesüsteemide olulist funktsionaalsust. Samal ajal on masinõpe (oma praeguses seisus) täiesti uus teadusvaldkond, mis kiiresti muutub, nii et ei tasu arvata, et täna võimatuks peetud asjad ei saa peagi täiesti reaalseks. OpenAI — huvitav näide.

Teiseks, mõte, et saaks kontrollida ja mõista otsuste tegemise protsessi olemasolevates süsteemides või organisatsioonides, on teoorias hea, kuid praktikas pigem keskpärane. Suure organisatsiooni otsustusprotsesside mõistmine on äärmiselt keeruline. Ievenkui seal on ametlik otsustusprotsess, ei peegelda see tõeliselt, kuidas inimesed tegelikult suhtlevad, ja nad endid ei kasuta sageli loogilist süsteemset lähenemist oma otsuste tegemiseks. Nagu ütles mu kolleeg Vijay Pandey, inimesed on ka mustad kastid.

Võtke tuhat inimest mitmest üksteisega seotud ettevõttest ja institutsioonist ning probleem muutub veelgi keerulisemaks. Me teame järeldavalt, et „Space Shuttle’ile” oli saatuslik langeda osadeks tagasiteel, ja mõned inimesed NASA’s omasid teavet, mis andis neile alust arvata, et midagi halba võib juhtuda, kuid süsteem kokkuvõttes seda ei teadnud. NASA just läbis sarnase auditiprotsessi, kaotades eelmise kosmosesondi, ja ometi kaotas ta veel ühe — väga sarnasel põhjusel. Lihtne on väita, et organisatsioonid ja inimesed järgivad selgeid loogilisi reegleid, mida saab kontrollida, mõista ja muuta — kuid kogemus tõestab vastupidist. See on "plaani eksitus».

Ma võrdlen sageli masinõpet andmebaasidega, eriti relatsioonilistega — uue põlvkonna tehnoloogia, mis on muutnud informaatika võimalusi ja tema ümber olevaid maailmasid, mis on saanud kõikjal osaks ning mida me pidevalt kasutame, mõistmata seda. Andmebaasidel on samuti probleeme, mis on sarnase olemusega: süsteem võib olla üles ehitatud valele eeldustele või halvale teabele, kuid seda on raske märgata, ning süsteemi kasutavad inimesed teevad seda, mida see neile ütleb, küsimusi esitamata. On hunnik vanu nalju maksuhaldurite kohta, kes kunagi valesti on kirja pannud teie nime, ja veenda neid vea parandama on oluliselt keerulisem kui tegelikult nime vahetamine. Sellega võib mõelda erinevalt, kuid pole selge, kuidas paremini: kui tehnilise probleemina SQL-is, või kui vea Oracle'i väljalaskes, või kui bürokraatlike institutsioonide ebaõnnestumisena? Kui keeruline on leida viga protsessis, mis viis selleni, et süsteemis puudub selline funktsioon nagu trükivigade parandamine? Kas seda oleks saanud mõista enne, kui inimesed hakkasid kaebama?

Seda probleemi illustreerivad veelgi paremini lood, kus juhid vananenud andmete tõttu navigeerimisseadmest sõidavad jõkke. Okei, kaardid peavad olema pidevalt uuendatud. Aga kui palju on TomTom süüdi selles, et teie auto tõmbab merre?

Ma räägin seda, et jah — masinõppe kallutatus tekitab probleeme. Kuid need probleemid sarnanevad nendele, millega oleme varem silmitsi seisnud, ja neid saab märgata ja lahendada (või mitte) umbes sama hästi kui varem. Seega on tõenäoline, et stsenaarium, kus AI kallutatus toob kahju, ei juhtu juhtivate teadlastega, kes töötavad suures organisatsioonis. Pigem kirjutab mõni vähem oluline tehnoloogiline alltöövõtja või tarkvarapakkuja midagi kiirustades, kasutades talle arusaamatuid avatud lähtekoodiga komponente, raamatukogusid ja tööriistu. Ja õnnetu klient usub toote kirjelduse fraasi „tehisintellekt” ning jagab seda küsimusi esitamata oma madala palgaga töötajatele, sundides neid tegema seda, mida AI käsib. Just seda juhtus andmebaasidega. See ei ole tehisintellekti probleem, ega ka tarkvara probleem. See on inimtegur.

Kokkuvõte

Masinõpe võib teha kõik, mida sa saad õpetada koerale, — kuid kunagi ei saa olla kindel, mida sa selle koera tegelikult õpetasid.

Mulle tundub tihti, et termin "tehisintellekt" takistab meid sellistes vestlustes nagu see. See termin loob vale mulje, et me oleme tegelikult selle loonud — selle intellekti. Et me oleme teel HAL9000 või Skyneti poole — millegi poole, mis tegelikult mõistab. Kuid ei. Need on lihtsalt masinad, ja neid on palju õigem võrrelda näiteks pesumasinaga. See teeb pesu palju paremini kui inimene, kuid kui sa paned sinna nõud asemel pesu, siis see… peseb need. Nõud saavad isegi puhtaks. Kuid see ei ole see, milleks sa lootsid, ja see juhtub mitte seetõttu, et süsteemil oleks mingisuguseid eelarvamusi nõude suhtes. Pesumasin ei tea, mis on nõud, ega mis on riided — see on lihtsalt automaatimise näide, mis ei erine põhimõtteliselt sellest, kuidas protsesse varem automatiseeriti.

Ükskõik millest jutt on — olgu need masinad, lennukid või andmebaasid — need süsteemid saavad olema ühtviisi väga võimsad ja väga piiratud. Nad sõltuvad täielikult sellest, kuidas inimesed neid süsteeme kasutavad, millised on nende head või halvad kavatsused ning kui hästi nad nende toimimist mõistavad.

Seega on vale väita, et "tehisintellekt on matemaatika, seega ei saa tal olla eelarvamusi". Kuid sama vale on väita, et masinõpe on "oma olemuselt subjektiivne". Masinõpe leiab mustreid andmetes ja see, milliseid mustreid ta leiab, sõltub andmetest, ja need andmed sõltuvad meist. Samuti sõltub see, mida me nendega teeme. Masinõpe teeb tõesti mõningaid asju meie jaoks paljuski paremini — aga koerad on näiteks palju tõhusamad uimastite tuvastamisel kui inimesed, mis ei õigusta nende kaasamist tunnistajatena või kohtuotsuste langetamist nende tõendite põhjal. Ja koerad, muide, on oluliselt nutikam kui ükski masinõppe süsteem.

Tõlge: Diana Letskaia.
Toimetamine: Aleksei Ivanov.
Kogukond: @PonchikNews.

Allikas: habr.com