{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"Sulla parzialit\u00e0 dell'intelligenza artificiale","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Sulla parzialit\u00e0 dell&#039;intelligenza artificiale\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">tl;dr:<\/h2>\n<p><\/p>\n<ul>\n<li>Il machine learning cerca schemi nei dati. Tuttavia, l'intelligenza artificiale pu\u00f2 essere \"parziale\" \u2014 cio\u00e8, identificare schemi errati. Ad esempio, un sistema di rilevamento del cancro della pelle da una foto potrebbe prestare particolare attenzione alle immagini scattate in uno studio medico. Il machine learning non sa <em>capire<\/em>: i suoi algoritmi rilevano solo schemi nei numeri e, se i dati non sono rappresentativi, anche il risultato dell'elaborazione lo sar\u00e0. Identificare tali errori pu\u00f2 essere difficile a causa della stessa meccanica del machine learning. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>L'area problematica pi\u00f9 ovvia e preoccupante riguarda la diversit\u00e0 umana. Ci sono molte ragioni per cui i dati sulle persone possono perdere obiettivit\u00e0 gi\u00e0 nella fase di raccolta. Ma non bisognerebbe pensare che questo problema riguardi solo le persone: complicazioni simili si presentano nel tentativo di rilevare un allagamento in un magazzino o una turbina a gas guasta. Alcuni sistemi possono avere pregiudizi riguardo al colore della pelle, mentre altri possono essere parziali nei confronti dei sensori Siemens. <\/li>\n<li>Problemi come questi non sono nuovi per il machine learning e non sono esclusivi di questa tecnologia. Assunzioni errate possono verificarsi in qualsiasi sistema complesso, e capire perch\u00e9 \u00e8 stata presa una certa decisione non \u00e8 mai semplice. \u00c8 fondamentale affrontare la questione in modo olistico: creare strumenti e processi di verifica e formare gli utenti affinch\u00e9 non seguano ciecamente le raccomandazioni dell'IA. Il machine learning pu\u00f2 veramente superare le nostre capacit\u00e0 in alcune aree, ma i cani, ad esempio, sono molto pi\u00f9 efficaci degli esseri umani nel rilevamento delle droghe, il che non giustifica il loro uso come testimoni n\u00e9 il fatto di emettere sentenze basate sulle loro dichiarazioni. E per inciso, i cani sono decisamente pi\u00f9 intelligenti di qualsiasi sistema di machine learning. <\/li>\n<\/ul>\n<p>Oggi, il machine learning \u00e8 uno dei trend tecnologici fondamentali pi\u00f9 importanti. Rappresenta uno dei principali modi in cui la tecnologia cambier\u00e0 il mondo nei prossimi dieci anni. Alcuni aspetti di questi cambiamenti sollevano preoccupazioni. Ad esempio, l'impatto potenziale del machine learning sul mercato del lavoro o il suo utilizzo per scopi non etici (ad esempio, da regimi autoritari). C'\u00e8 anche un'altra questione alla quale \u00e8 dedicato questo post: <strong>pregiudizio dell'intelligenza artificiale<\/strong>. <\/p>\n<p><\/p>\n<p>Non \u00e8 una storia semplice. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sulla parzialit\u00e0 dell&#039;intelligenza artificiale\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>L'IA di Google sa trovare gattini. Questa notizia del 2012 era allora qualcosa di speciale.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">Che cos'\u00e8 il \"pregiudizio dell'IA\"?<\/h2>\n<p><\/p>\n<blockquote><p><em>\"Dati grezzi\" \u00e8 sia un ossimoro che un'idea sbagliata; i dati devono essere preparati in modo adeguato e attento.<\/em> \u2014Jeffrey Boker <\/p><\/blockquote>\n<p>Fino al 2013, per creare un sistema in grado di riconoscere i gatti nelle foto, era necessario descrivere i passaggi logici. Identificare gli angoli nell'immagine, riconoscere gli occhi, analizzare le texture per rilevare il pelo, contare le zampe e cos\u00ec via. Poi assemblare tutti i componenti - e scoprire che tutto ci\u00f2 non funzionava a dovere. Era un po' come una cavallo meccanico: teoricamente possibile, ma nella pratica troppo complesso da descrivere. Alla fine, si finiva con centinaia (o addirittura migliaia) di regole scritte a mano e nessun modello funzionante. <\/p>\n<p><\/p>\n<p>Con l'avvento del machine learning, abbiamo smesso di utilizzare regole \"manuali\" per il riconoscimento di un determinato oggetto. Invece, prendiamo mille campioni di \"quello\", X, mille campioni di \"qualcun altro\", Y, e facciamo costruire al computer un modello basato sulla loro analisi statistica. Successivamente, forniamo a questo modello un esempio di dati, e con una certa precisione determina se questo corrisponde a uno dei set. Il machine learning genera un modello basato sui dati, non grazie a una persona che lo scrive. I risultati sono impressionanti, specialmente nel campo del riconoscimento delle immagini e dei modelli, ed \u00e8 per questo che l'intera industria tecnologica sta ora passando al machine learning (ML). <\/p>\n<p><\/p>\n<p>Ma non \u00e8 tutto cos\u00ec semplice. Nel mondo reale, i vostri migliaia di esempi X o Y possono contenere anche A, B, J, L, O, R e persino L. Potrebbero essere distribuiti in modo irregolare, e alcuni di essi potrebbero presentarsi cos\u00ec frequentemente che il sistema li noter\u00e0 di pi\u00f9 rispetto agli oggetti che vi interessano.<\/p>\n<p><\/p>\n<p>Cosa significa questo nella pratica? Il mio esempio preferito \u00e8 quando i sistemi di riconoscimento delle immagini <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">guardano una collina erbosa e dicono: \"pecora\"<\/a><\/noindex>. \u00c8 comprensibile: gran parte delle fotografie di esempio delle \"pecore\" \u00e8 stata scattata nei pascoli dove vivono, e in queste immagini l'erba occupa molto pi\u00f9 spazio rispetto ai piccoli e soffici animali bianchi. \u00c8 proprio l'erba che il sistema considera la parte pi\u00f9 importante. <\/p>\n<p><\/p>\n<p>Ci sono esempi pi\u00f9 seri. Recentemente, uno <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">progetto<\/a><\/noindex> sulla rilevazione del cancro della pelle attraverso le fotografie. \u00c8 emerso che i dermatologi spesso fotografano un righello insieme alle manifestazioni del cancro della pelle per registrare le dimensioni delle lesioni. Nelle fotografie di pelle sana non ci sono righelli. Per il sistema di intelligenza artificiale, questi righelli (cio\u00e8, i pixel che noi definiamo come \"righello\") sono diventati una delle distinzioni tra i set di esempi, a volte pi\u00f9 importanti di una piccola eruzione cutanea. Cos\u00ec, un sistema progettato per riconoscere il cancro della pelle talvolta identificava righelli invece delle lesioni. <\/p>\n<p><\/p>\n<p>Il punto chiave qui \u00e8 che il sistema non ha comprensione semantica di ci\u00f2 su cui sta guardando. Noi guardiamo un insieme di pixel e vediamo una pecora, della pelle o dei righelli, mentre il sistema vede solo una stringa numerica. Non percepisce lo spazio tridimensionale, non vede n\u00e9 oggetti n\u00e9 texture n\u00e9 pecore. Vede semplicemente schemi nei dati. <\/p>\n<p><\/p>\n<p>La complessit\u00e0 della diagnosi di tali problemi risiede nel fatto che la rete neurale (il modello generato dal tuo sistema di apprendimento automatico) \u00e8 composta da migliaia e centinaia di migliaia di nodi. Non esiste un modo semplice per osservare il modello e vedere come prende decisioni. Avere un tale metodo significherebbe che il processo \u00e8 abbastanza semplice da poter descrivere tutte le regole manualmente, senza ricorrere all'apprendimento automatico. Le persone sono preoccupate che l'apprendimento automatico sia diventato una sorta di \u00abscatola nera\u00bb. (Spiegher\u00f2 pi\u00f9 avanti perch\u00e9 questa analogia \u00e8 comunque esagerata.) <\/p>\n<p><\/p>\n<p>Questa, in parole generali, \u00e8 la problematica del pregiudizio nell'intelligenza artificiale o nell'apprendimento automatico: un sistema pu\u00f2 trovare schemi errati nei dati e potresti non accorgertene. Questa \u00e8 una caratteristica fondamentale della tecnologia, ed \u00e8 evidente a tutti coloro che lavorano in ambito scientifico e in grandi aziende tecnologiche. Ma le sue conseguenze sono complesse, e anche le possibili soluzioni a queste conseguenze lo sono. <\/p>\n<p><\/p>\n<p>Iniziamo a parlare delle conseguenze. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sulla parzialit\u00e0 dell&#039;intelligenza artificiale\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>L'IA potrebbe implicitamente fare una scelta a nostro favore per determinate categorie di persone, basandosi su un gran numero di segnali impercettibili.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Scenari di pregiudizio dell'IA<\/h2>\n<p><\/p>\n<p>Il problema pi\u00f9 evidente e inquietante \u00e8 che questa problematica pu\u00f2 manifestarsi quando si parla di diversit\u00e0 umana. Recentemente <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">\u00e8 circolata la voce<\/a><\/noindex>, che Amazon ha tentato di costruire un sistema di apprendimento automatico per il primo screening dei candidati. Poich\u00e9 la maggior parte dei dipendenti Amazon sono uomini, gli esempi di \"assunzioni riuscite\" erano maggiormente di sesso maschile, e il campione di curriculum proposto dal sistema conteneva pi\u00f9 uomini. Amazon se n'era accorta e non ha rilasciato il sistema in produzione. <\/p>\n<p><\/p>\n<p>La cosa pi\u00f9 importante in questo esempio \u00e8 che, secondo le voci, il sistema dava preferenza ai candidati di sesso maschile, nonostante il sesso non fosse specificato nel curriculum.<strong> Il sistema scopriva altri schemi negli esempi di \"assunzioni riuscite\": ad esempio, le donne potrebbero utilizzare parole specifiche per descrivere i propri risultati o avere hobby particolari. Naturalmente, il sistema non sapeva cosa fosse \"hockey\", n\u00e9 chi fossero le \"persone\", n\u00e9 cosa fosse il \"successo\", ma si limitava a condurre un'analisi statistica del testo.<\/strong> Tuttavia, i modelli che ha osservato sarebbero probabilmente passati inosservati a un essere umano, e alcuni di essi (ad esempio, il fatto che le persone di sesso diverso descrivono il successo in modi differenti) sarebbe probabilmente difficile da rilevare anche considerando attentamente i dati. <\/p>\n<p><\/p>\n<p>Inoltre, la situazione pu\u00f2 peggiorare. Un sistema di apprendimento automatico che rileva bene il cancro su pelle chiara potrebbe non funzionare altrettanto bene su pelle scura, o viceversa. Non necessariamente a causa di pregiudizi, ma perch\u00e9 \u00e8 probabile che siano necessarie modelli separati per colori di pelle diversi, con caratteristiche scelte diversamente.<strong> I sistemi di apprendimento automatico non sono intercambiabili, anche in un campo ristretto come il riconoscimento delle immagini.<\/strong> \u00c8 necessario ottimizzare il sistema, a volte semplicemente attraverso tentativi ed errori, per acquisire una buona comprensione delle caratteristiche nei dati di interesse fino a raggiungere la precisione desiderata. Tuttavia, potresti non notare che il sistema \u00e8 preciso nel 98% dei casi per un gruppo e solo nel 91% (anche se \u00e8 pi\u00f9 preciso dell'analisi condotta da un essere umano) per un altro. <\/p>\n<p><\/p>\n<p>Finora ho principalmente utilizzato esempi riguardanti le persone e le loro caratteristiche. Questa \u00e8 in gran parte la focalizzazione della discussione su questo problema. Ma \u00e8 importante capire che il pregiudizio nei confronti delle persone \u00e8 solo una parte del problema. Utilizzeremo il machine learning per molte cose, e l'errore di campionamento sar\u00e0 rilevante per tutte queste applicazioni. D'altra parte, se si lavora con le persone, il pregiudizio nei dati potrebbe non essere legato a loro. <\/p>\n<p><\/p>\n<p>Per comprendere meglio, torniamo all'esempio sul melanoma e consideriamo tre possibili ipotetiche rotture del sistema. <\/p>\n<p><\/p>\n<ol>\n<li>Distribuzione eterogenea delle persone: numero sbilanciato di fotografie di pelli di diversi toni, il che porta a risultati falso positivi o falso negativi legati alla pigmentazione. <\/li>\n<li>I dati su cui si allena il sistema contengono caratteristiche frequentemente riscontrabili e distribuite in modo eterogeneo, non collegate alle persone e prive di valore diagnostico: un righello nelle fotografie di manifestazioni del cancro della pelle o l'erba nelle immagini di pecore. In questo caso, il risultato varier\u00e0 se l'immagine presenta pixel che il occhio umano riconosce come \"righello\". <\/li>\n<li>I dati contengono caratteristiche esterne che l'uomo non pu\u00f2 vedere, anche se le cerca. <\/li>\n<\/ol>\n<p><\/p>\n<p>Cosa significa questo? Sappiamo a priori che i dati possono rappresentare diversamente i vari gruppi di persone e possiamo perlomeno pianificare la ricerca di tali eccezioni. In altre parole, esistono molte ragioni sociali per supporre che i dati sui gruppi di persone contengano gi\u00e0 qualche tipo di pregiudizio. Se osserviamo una foto con un righello, vedremo quel righello: semplicemente lo abbiamo ignorato in precedenza, sapendo che non era rilevante, dimenticando che al sistema non \u00e8 noto nulla.<\/p>\n<p><\/p>\n<p>Ma cosa succede se tutte le tue foto di pelle non sana sono state scattate in un ufficio con lampade a incandescenza, mentre quelle di pelle sana lo sono state con luce fluorescente? E se, dopo aver finito di scattare quelle di pelle sana, prima di iniziare a scattare quelle di pelle non sana, hai aggiornato il sistema operativo sul tuo telefono e Apple o Google hanno apportato qualche modifica all'algoritmo di riduzione del rumore? Una persona potrebbe non notare queste differenze, per quanto si impegni a cercarle. Ma la macchina, invece, le percepir\u00e0 immediatamente e le utilizzer\u00e0. Essa non ne sa nulla. <\/p>\n<p><\/p>\n<p>Mentre parlavamo di false correlazioni, pu\u00f2 anche succedere che i dati siano accurati e i risultati giusti, ma per motivi etici, legali o gestionali, non volete utilizzarli. In alcune giurisdizioni, ad esempio, non \u00e8 possibile offrire sconti sull'assicurazione alle donne, nonostante il fatto che le donne potrebbero guidare in modo pi\u00f9 sicuro. Possiamo facilmente immaginare un sistema che, analizzando i dati storici, assegna un coefficiente di rischio inferiore ai nomi femminili. Ok, eliminiamo i nomi dal campione. Ma ricordate l'esempio di Amazon: il sistema pu\u00f2 determinare il sesso tramite altri fattori (anche se non sa cosa sia il sesso, n\u00e9 cosa sia un'auto), e non ve ne accorgerete finch\u00e9 il regolatore non esaminer\u00e0 retrospettivamente le tariffe che proponete e non vi infligger\u00e0 una multa. <\/p>\n<p><\/p>\n<p>Spesso si presume che utilizzeremo questi sistemi solo per progetti legati alle persone e alle interazioni sociali. Non \u00e8 cos\u00ec. Se state lavorando con turbine a gas, vorr\u00e0 dire che vorrete applicare l'apprendimento automatico ai dati di telemetria trasmessi da decine o centinaia di sensori sul vostro prodotto (sensori audio, video, di temperatura e altri generano dati che possono essere facilmente adattati per creare un modello di apprendimento automatico). Ipoteticamente, potreste dire: \"Ecco i dati di mille turbine guaste, raccolti prima del loro guasto, e qui ci sono i dati di mille turbine che non si sono rotte. Costruite un modello per capire quali sono le differenze tra di esse\". Ora immaginate che i sensori Siemens siano installati sul 75% delle turbine difettose e solo sul 12% di quelle funzionanti (senza una connessione ai guasti). Il sistema costruir\u00e0 un modello per identificare le turbine con sensori Siemens. Ops!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sulla parzialit\u00e0 dell&#039;intelligenza artificiale\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nImmagine \u2014 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Gestione del bias nell'IA<\/h2>\n<p><\/p>\n<p>Cosa possiamo fare al riguardo? Possiamo affrontare la questione da tre punti di vista:<\/p>\n<p><\/p>\n<ol>\n<li>Rigore metodologico nella raccolta e nella gestione dei dati per l'addestramento del sistema.<\/li>\n<li>Strumenti tecnici per l'analisi e la diagnosi del comportamento del modello.<\/li>\n<li>Formazione, educazione e cautela nell'implementazione del machine learning nei prodotti.<\/li>\n<\/ol>\n<p><\/p>\n<p>Nel libro \u00abIl burguese gentiluomo\u00bb di Moli\u00e8re c'\u00e8 una battuta: un uomo scopre con stupore che la letteratura si divide in prosa e poesia, e con entusiasmo realizza di aver parlato in prosa per tutta la vita, senza saperlo. Probabilmente \u00e8 cos\u00ec che si sentono oggi gli statistici: dedicando le loro carriere all'intelligenza artificiale e all'errore di campionamento senza nemmeno accorgersene. Cercare l'errore di campionamento e preoccuparsi per esso non \u00e8 un problema nuovo; dobbiamo semplicemente affrontarlo in modo sistematico. Come menzionato sopra, in alcuni casi \u00e8 davvero pi\u00f9 semplice studiare le problematiche relative ai dati sulle persone. Presupponiamo a priori che possiamo avere pregiudizi riguardo diversi gruppi di persone, ma \u00e8 difficile persino immaginare un pregiudizio nei confronti dei sensori Siemens.<\/p>\n<p><\/p>\n<p>Una novit\u00e0 in tutto ci\u00f2 \u00e8 che le persone non si dedicano pi\u00f9 direttamente all'analisi statistica. Essa \u00e8 condotta da macchine che creano modelli complessi, difficili da comprendere. La questione della trasparenza \u00e8 uno degli aspetti principali del problema del bias. Ci spaventa il fatto che il sistema non sia solo parziale, ma che non ci sia alcun modo per rilevare il suo bias, e che il machine learning si differenzi da altre forme di automazione che, si presume, siano composte da passaggi logici chiari, verificabili. <\/p>\n<p><\/p>\n<p>Qui ci sono due problemi. Forse possiamo comunque eseguire una certa auditabilit\u00e0 dei sistemi di machine learning. E l'audit di qualsiasi altro sistema, in realt\u00e0, non \u00e8 affatto pi\u00f9 semplice.<\/p>\n<p><\/p>\n<p>In primo luogo, una delle direzioni della ricerca moderna nel campo del machine learning \u00e8 la ricerca di metodi per identificare le funzionalit\u00e0 importanti dei sistemi di machine learning. D'altra parte, il machine learning (nella sua attuale condizione) \u00e8 un campo scientifico completamente nuovo che sta cambiando rapidamente, quindi non bisogna pensare che ci\u00f2 che oggi \u00e8 impossibile non possa presto diventare perfettamente reale. Progetto <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> \u2014 un esempio interessante di questo. <\/p>\n<p><\/p>\n<p>In secondo luogo, l'idea che si possano esaminare e comprendere i processi decisionali all'interno di sistemi o organizzazioni esistenti \u00e8 buona in teoria, ma non funziona altrettanto bene nella pratica. Comprendere come si prendono decisioni in una grande organizzazione \u00e8 tutt'altro che semplice. Anche se esiste un processo decisionale formale, questo non riflette come le persone interagiscono realmente, e spesso nemmeno loro hanno un approccio logico e sistematico alle loro decisioni. Come ha detto il mio collega <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Panda<\/a><\/noindex>, <strong>le persone sono anche scatole nere<\/strong>. <\/p>\n<p><\/p>\n<p>Prendete mille persone in diverse aziende e istituti intersecati, e il problema diventa ancora pi\u00f9 complesso. Sappiamo retrospettivamente che allo \"Space Shuttle\" era destino disintegrarsi durante il rientro, e che vari individui all'interno della NASA avevano informazioni che li portavano a pensare che potesse verificarsi qualcosa di grave, ma il sistema <em>nel suo complesso<\/em> non lo sapevo. Anche la NASA ha appena completato un audit simile, dopo aver perso il precedente shuttle, eppure ha perso un altro \u2014 per una ragione molto simile. \u00c8 facile affermare che le organizzazioni e le persone seguono regole logiche chiare, che possono essere verificate, comprese e cambiate \u2014 ma l'esperienza dimostra il contrario. Questo \u00ab<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">errore del Gosplan<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Spesso confronto il machine learning con i database, in particolare con quelli relazionali \u2014 una nuova tecnologia fondamentale che ha cambiato le capacit\u00e0 dell'informatica e il mondo intorno ad essa, che \u00e8 diventata parte integrante di tutto ci\u00f2 che usiamo continuamente, senza nemmeno rendercene conto.<\/strong> Anche i database hanno dei problemi di natura simile: un sistema pu\u00f2 essere costruito su presupposti errati o su dati scadenti, ma questo \u00e8 difficile da notare, e le persone che usano il sistema faranno ci\u00f2 che il sistema dice, senza porsi domande. Ci sono molte barzellette vecchie sui funzionari fiscali che hanno scritto erroneamente il tuo nome e convincerli a correggere l'errore \u00e8 molto pi\u00f9 difficile che cambiare il nome in realt\u00e0. Puoi pensarci in modo diverso, ma non \u00e8 chiaro quale sia il meglio: come un problema tecnico in SQL, come un errore in una release di Oracle o come un fallimento degli istituti burocratici? Quanto \u00e8 difficile trovare un errore in un processo che ha portato al fatto che il sistema non ha una funzione come la correzione degli errori di battitura? Si poteva capire questo prima che le persone cominciassero a lamentarsi? <\/p>\n<p><\/p>\n<p>Questa problematica \u00e8 ulteriormente illustrata da storie in cui i conducenti, a causa di dati obsoleti nel navigatore, finiscono nei fiumi. Va bene, le mappe devono essere costantemente aggiornate. Ma quanto \u00e8 colpevole TomTom se la tua macchina viene portata in mare?<\/p>\n<p><\/p>\n<p>Lo dico perch\u00e9 s\u00ec, il pregiudizio del machine learning creer\u00e0 problemi. Ma questi problemi assomiglieranno a quelli con cui abbiamo gi\u00e0 avuto a che fare in passato, e potranno essere rilevati e risolti (o meno) con la stessa efficacia di come siamo riusciti a farlo in passato. Pertanto, \u00e8 poco probabile che uno scenario in cui il pregiudizio dell'IA causi danni si verifichi con i principali ricercatori che lavorano in una grande organizzazione. \u00c8 pi\u00f9 probabile che un piccolo appaltatore tecnologico insignificante o un fornitore di software scriva qualcosa di frettoloso, utilizzando componenti open source, librerie e strumenti di cui non comprende l'uso. E un cliente sprovveduto potrebbe essere attratto dalla frase \u201cintelligenza artificiale\u201d nella descrizione del prodotto e, senza fare domande, lo distribuisce ai propri dipendenti malpagati, incaricandoli di seguire le istruzioni dell'IA. Questo \u00e8 esattamente ci\u00f2 che \u00e8 successo con i database. Non \u00e8 un problema dell'intelligenza artificiale, n\u00e9 tantomeno un problema del software. \u00c8 un fattore umano.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Conclusione<\/h2>\n<p><\/p>\n<blockquote><p><em>Il machine learning pu\u00f2 fare tutto ci\u00f2 che puoi insegnare a un cane, ma non puoi mai essere sicuro di cosa esattamente gli hai insegnato.<\/em><\/p><\/blockquote>\n<p>Spesso mi sembra che il termine \"intelligenza artificiale\" renda difficile l'ingresso in conversazioni come questa. Questo termine crea una falsa impressione che in realt\u00e0 l'abbiamo creata \u2014 questa intelligenza. Che siamo sulla strada per HAL9000 o Skynet \u2014 verso qualcosa che in realt\u00e0 <em>comprende<\/em>. Ma no. Sono solo macchine, e sarebbe pi\u00f9 corretto paragonarle, per esempio, a una lavatrice. Essa svolge molto meglio il compito di lavare rispetto a un essere umano, ma se ci metti dentro i piatti invece della biancheria, li\u2026 laver\u00e0. I piatti diventeranno anche puliti. Ma non sar\u00e0 ci\u00f2 che ti aspettavi, e ci\u00f2 accadr\u00e0 non perch\u00e9 il sistema abbia pregiudizi nei confronti dei piatti. La lavatrice non sa cos'\u00e8 un piatto n\u00e9 cos'\u00e8 un vestito \u2014 \u00e8 solo un esempio di automazione, concettualmente non diverso da come i processi venivano automatizzati in passato.<\/p>\n<p><\/p>\n<p>Qualunque sia l'argomento \u2014 che si parli di automobili, aerei o database \u2014 questi sistemi saranno al contempo molto potenti e molto limitati. Dipenderanno completamente da come le persone usano questi sistemi, dalle loro buone o cattive intenzioni e da quanto capiscono il loro funzionamento.<\/p>\n<p><\/p>\n<p>Pertanto, affermare che 'l'intelligenza artificiale \u00e8 matematica, quindi non pu\u00f2 avere pregiudizi' \u00e8 totalmente errato. Ma \u00e8 altrettanto sbagliato dire che l'apprendimento automatico \u00e8 'soggettivo per natura'. L'apprendimento automatico trova schemi nei dati, e quali schemi trova dipende dai dati, che a loro volta dipendono da noi. Cos\u00ec come ci\u00f2 che facciamo con essi. L'apprendimento automatico effettivamente svolge alcune attivit\u00e0 molto meglio di noi \u2014 ma, ad esempio, i cani sono molto pi\u00f9 efficaci degli esseri umani nel riconoscere la droga, il che non giustifica affatto il loro coinvolgimento come testimoni e l'emissione di sentenze sulla base delle loro dichiarazioni. E i cani, a proposito, sono molto pi\u00f9 intelligenti di qualsiasi sistema di apprendimento automatico.<\/p>\n<p><strong>Traduzione:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Leckaya<\/a><\/noindex>.<br \/>\n<strong>Revisione:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Aleksey Ivanov<\/a><\/noindex>.<br \/>\n<strong>Comunit\u00e0:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Fonte: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.0.1 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.0.1\" \/>\n\t\t<meta property=\"og:locale\" content=\"it_IT\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47 Sulla parzialit\u00e0 dell'intelligenza artificiale | ProHoster","description":"riassunto: .","canonical_url":"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"it_IT","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}