{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"Sull'intelligenza artificiale e i pregiudizi","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Sull&#039;intelligenza artificiale e i pregiudizi\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">tl;dr:<\/h2>\n<p><\/p>\n<ul>\n<li>Il machine learning cerca schemi nei dati. Tuttavia, l'intelligenza artificiale pu\u00f2 essere \"parziale\" \u2014 cio\u00e8, pu\u00f2 trovare schemi errati. Ad esempio, un sistema di rilevamento del cancro della pelle tramite fotografia potrebbe prestare particolare attenzione alle immagini scattate in uno studio medico. Il machine learning non \u00e8 in grado di <em>comprendere<\/em>: i suoi algoritmi si limitano a identificare schemi nei numeri, e se i dati non sono rappresentativi, il risultato dell\u2019elaborazione sar\u00e0 altrettanto fuorviante. Rilevare tali errori pu\u00f2 risultare difficile a causa della stessa meccanica del machine learning. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>L'area problematica pi\u00f9 ovvia e spaventosa \u00e8 la diversit\u00e0 umana. Ci sono molte ragioni per cui i dati sulle persone possono perdere obiettivit\u00e0 gi\u00e0 nella fase di raccolta. Ma non si deve pensare che questo problema riguardi solo le persone: difficolt\u00e0 simili si verificano anche nel tentativo di rilevare un'alluvione in un magazzino o una turbina a gas guasta. Alcuni sistemi possono avere pregiudizi riguardo al colore della pelle, altri possono essere parziali nei confronti dei sensori Siemens. <\/li>\n<li>Tali problemi non sono nuovi per il machine learning e non sono caratteristici solo di esso. Vengono fatte supposizioni errate in qualsiasi struttura complessa, e capire perch\u00e9 \u00e8 stata presa una certa decisione non \u00e8 mai semplice. \u00c8 necessario affrontare questa situazione in modo complesso: creare strumenti e processi per la verifica \u2014 e formare gli utenti affinch\u00e9 non seguano ciecamente le raccomandazioni dell'IA. Il machine learning fa davvero alcune cose molto meglio di noi: ad esempio, i cani sono notevolmente pi\u00f9 efficaci degli esseri umani nel rilevare droghe, il che non giustifica affatto il loro coinvolgimento come testimoni e l'emissione di verdetti sulla base delle loro testimonianze. E a proposito, i cani sono molto pi\u00f9 intelligenti di qualsiasi sistema di machine learning. <\/li>\n<\/ul>\n<p>Oggi, il machine learning \u00e8 una delle tendenze tecnologiche fondamentali pi\u00f9 importanti. \u00c8 uno dei principali modi in cui la tecnologia cambier\u00e0 il mondo nei prossimi dieci anni. Alcuni aspetti di questi cambiamenti sono fonte di preoccupazione. Ad esempio, il potenziale impatto del machine learning sul mercato del lavoro, o il suo uso per scopi non etici (per esempio, da parte di regimi autoritari). C'\u00e8 un altro problema, che \u00e8 il tema di questo post: <strong>il pregiudizio nell'intelligenza artificiale<\/strong>. <\/p>\n<p><\/p>\n<p>\u00c8 una storia complessa. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sull&#039;intelligenza artificiale e i pregiudizi\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>L'IA di Google pu\u00f2 trovare gattini. Questa notizia del 2012 era qualcosa di speciale.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">Cos'\u00e8 il \u00abpregiudizio dell'IA\u00bb?<\/h2>\n<p><\/p>\n<blockquote><p><em>I \u00abdati grezzi\u00bb sono sia un ossimoro che un'idea sbagliata; i dati devono essere ben preparati e con attenzione.<\/em> \u2014Jeffrey Baker <\/p><\/blockquote>\n<p>Fino al 2013, per creare un sistema che, ad esempio, riconosce i gatti nelle foto, dovevi descrivere i passi logici. Come trovare gli angoli nell'immagine, riconoscere gli occhi, analizzare le texture per evidenziare il pelo, contare le zampe, e cos\u00ec via. Poi raccogliere tutti i componenti - e scoprire che non funzionava affatto. Pi\u00f9 o meno come un cavallo meccanico: teoricamente \u00e8 possibile farlo, ma nella pratica \u00e8 troppo complesso da descrivere. Alla fine avevi centinaia (o anche migliaia) di regole scritte a mano. E nessun modello funzionante. <\/p>\n<p><\/p>\n<p>Con l'arrivo del machine learning abbiamo smesso di utilizzare regole \u00abmanuali\u00bb per il riconoscimento di vari oggetti. Invece, prendiamo mille campioni di \u00abquello\u00bb, X, mille campioni di \u00abaltro\u00bb, Y, e costruiamo un modello sulla base della loro analisi statistica. Poi diamo a questo modello un esempio di dati, e lui determina con una certa precisione se si adatta a uno dei set. Il machine learning genera un modello basato sui dati, non tramite una persona che lo scrive. I risultati sono impressionanti, specialmente nel riconoscimento delle immagini e dei pattern, ed \u00e8 per questo che l'intera industria tecnologica sta attualmente passando al machine learning (ML). <\/p>\n<p><\/p>\n<p>Ma non \u00e8 tutto cos\u00ec semplice. Nel mondo reale, i tuoi mille esempi di X o Y contengono anche A, B, J, L, O, R e persino L. Possono essere distribuiti in modo irregolare, e alcuni di essi potrebbero apparire cos\u00ec frequentemente che il sistema dar\u00e0 loro pi\u00f9 attenzione rispetto agli oggetti che ti interessano.<\/p>\n<p><\/p>\n<p>Cosa significa questo nella pratica? Il mio esempio preferito \u00e8 quando i sistemi di riconoscimento delle immagini <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">guardano una collina erbosa e dicono: \u00abpecora\u00bb<\/a><\/noindex>. Si capisce il motivo: la maggior parte delle foto campione di \u00abpecore\u00bb \u00e8 scattata nei prati dove vivono, e in queste immagini l'erba occupa molto pi\u00f9 spazio rispetto ai piccoli batuffoli bianchi e peli, e proprio l'erba \u00e8 considerata la cosa pi\u00f9 importante dai sistemi. <\/p>\n<p><\/p>\n<p>Ci sono anche esempi pi\u00f9 seri. Uno recente \u00e8 uno <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">progetto<\/a><\/noindex> per la rilevazione del cancro della pelle nelle fotografie. Si \u00e8 scoperto che i dermatologi fotografano spesso righelli insieme alle manifestazioni del cancro della pelle, per fissare la dimensione delle lesioni. Negli esempi di fotografie di pelle sana non ci sono righelli. Per il sistema di intelligenza artificiale, tali righelli (piuttosto, i pixel che noi definiamo come \u00abrighello\u00bb) sono diventati una delle differenze tra i set di esempi, e a volte pi\u00f9 importanti di una piccola eruzione cutanea. Cos\u00ec, il sistema creato per riconoscere il cancro della pelle a volte riconosceva righelli invece di tumori. <\/p>\n<p><\/p>\n<p>Il punto chiave qui \u00e8 che il sistema non ha una comprensione semantica di ci\u00f2 che sta osservando. Noi guardiamo una serie di pixel e vediamo in essi una pecora, della pelle o righelli, mentre il sistema vede solo una stringa numerica. Non vede lo spazio tridimensionale, n\u00e9 oggetti, n\u00e9 texture, n\u00e9 pecore. Vede solo schemi nei dati. <\/p>\n<p><\/p>\n<p>La difficolt\u00e0 nella diagnosi di tali problemi sta nel fatto che una rete neurale (il modello generato dal tuo sistema di apprendimento automatico) \u00e8 composta da migliaia, centinaia di migliaia di nodi. Non esiste un modo semplice per guardare nel modello e vedere come prende decisioni. Avere un modo di farlo significherebbe che il processo \u00e8 abbastanza semplice da descrivere tutte le regole manualmente, senza utilizzare l'apprendimento automatico. Le persone sono preoccupate che l'apprendimento automatico sia diventato una sorta di 'scatola nera'. (Spiegher\u00f2 pi\u00f9 avanti perch\u00e9 questo confronto \u00e8 comunque un eccesso.) <\/p>\n<p><\/p>\n<p>Questa, in parole generali, \u00e8 la questione del pregiudizio dell'intelligenza artificiale o dell'apprendimento automatico: un sistema per trovare schemi nei dati pu\u00f2 trovare schemi sbagliati e tu potresti non accorgertene. Questa \u00e8 una caratteristica fondamentale della tecnologia, ed \u00e8 evidente a chi lavora con essa nei circoli scientifici e nelle grandi aziende tecnologiche. Ma le sue conseguenze sono complesse, e anche le nostre possibili soluzioni a queste conseguenze lo sono. <\/p>\n<p><\/p>\n<p>Iniziamo a parlare delle conseguenze. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sull&#039;intelligenza artificiale e i pregiudizi\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>L'intelligenza artificiale pu\u00f2 implicitamente fare delle scelte per noi a favore di determinate categorie di persone, basandosi su un gran numero di segnali impercettibili.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Scenari di pregiudizio dell'IA<\/h2>\n<p><\/p>\n<p>La cosa pi\u00f9 ovvia e inquietante \u00e8 che questo problema pu\u00f2 manifestarsi quando si parla di diversit\u00e0 umana. Recentemente <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">\u00e8 circolato un rumor<\/a><\/noindex>, che Amazon ha cercato di costruire un sistema di apprendimento automatico per lo screening iniziale dei candidati al lavoro. Poich\u00e9 ci sono pi\u00f9 uomini tra i dipendenti di Amazon, anche gli esempi di \"assunzioni di successo\" erano per lo pi\u00f9 di sesso maschile, e nella selezione dei curriculum proposta dal sistema c'erano pi\u00f9 uomini. Amazon ha notato ci\u00f2 e ha deciso di non lanciare il sistema in produzione. <\/p>\n<p><\/p>\n<p>La cosa pi\u00f9 importante in questo esempio \u00e8 che, secondo voci, il sistema dava preferenza ai candidati maschili, anche se il genere non era indicato nel curriculum.<strong> Il sistema notava altri schemi negli esempi di \"assunzioni di successo\": ad esempio, le donne possono utilizzare parole particolari per descrivere i risultati o avere hobby specifici. Certo, il sistema non sapeva cosa fosse \"hockey\", n\u00e9 chi fossero \"le persone\", n\u00e9 cosa si intendesse per \"successo\", \u2014 faceva semplicemente un'analisi statistica del testo.<\/strong> Ma i modelli che osservava sarebbero probabilmente rimasti non notati da un essere umano, e alcuni di essi (ad esempio, che persone di sesso diverso descrivono il successo in modo differente) probabilmente ci sarebbe difficile vederli anche solo osservandoli. <\/p>\n<p><\/p>\n<p>E le cose peggiorano. Un sistema di apprendimento automatico, che trova molto bene il cancro sulla pelle chiara, potrebbe funzionare peggio su quella scura, o viceversa. Non necessariamente per pregiudizio, ma perch\u00e9 probabilmente \u00e8 necessario costruire un modello separato per colori di pelle differenti, selezionando altre caratteristiche.<strong> I sistemi di apprendimento automatico non sono intercambiabili neanche in un campo cos\u00ec ristretto come il riconoscimento delle immagini.<\/strong> \u00c8 necessario configurare il sistema, a volte semplicemente attraverso prove ed errori, per catturare bene le caratteristiche nei dati di interesse, fino a raggiungere la precisione desiderata. Ma si potrebbe non accorgere che il sistema \u00e8 preciso nel 98% dei casi con un gruppo e solo nel 91% (anche se \u00e8 pi\u00f9 preciso dell'analisi condotta da un umano) con un altro. <\/p>\n<p><\/p>\n<p>Finora ho utilizzato principalmente esempi riguardanti persone e le loro caratteristiche. Questa \u00e8 principalmente la tematica al centro della discussione attorno a questo problema. Ma \u00e8 importante capire che il pregiudizio nei confronti delle persone \u00e8 solo una parte del problema. Utilizzeremo l'apprendimento automatico per molte cose, e l'errore di campionamento sar\u00e0 rilevante per tutte. D'altra parte, se si lavora con le persone, il pregiudizio dei dati potrebbe non essere legato a loro. <\/p>\n<p><\/p>\n<p>Per comprendere questo, torniamo all'esempio del cancro della pelle e consideriamo tre ipotetiche possibilit\u00e0 di fallimento del sistema. <\/p>\n<p><\/p>\n<ol>\n<li>Distribuzione non omogenea delle persone: un numero sbilanciato di foto di pelle di diversi toni, che porta a risultati falsi positivi o falsi negativi legati alla pigmentazione. <\/li>\n<li>I dati su cui si allena il sistema contengono una caratteristica frequentemente presente e distribuita in modo non omogeneo, non correlata alle persone e priva di valore diagnostico: una righello nelle foto delle manifestazioni del cancro della pelle o l'erba nelle foto delle pecore. In questo caso, il risultato varier\u00e0 se nell'immagine il sistema trova pixel di qualcosa che l'occhio umano definir\u00e0 come \"righello\". <\/li>\n<li>I dati contengono una caratteristica esterna che una persona non pu\u00f2 vedere, anche se la sta cercando. <\/li>\n<\/ol>\n<p><\/p>\n<p>Cosa significa questo? Sappiamo a priori che i dati possono rappresentare in modo diverso le diverse gruppi di persone e, almeno, possiamo pianificare la ricerca di tali eccezioni. In altre parole, ci sono molte ragioni sociali per supporre che i dati sui gruppi di persone contengano gi\u00e0 qualche pregiudizio. Se guardiamo una foto con il righello, vedremo quel righello: lo abbiamo semplicemente ignorato prima, sapendo che non ha importanza, e dimenticando che il sistema non sa nulla.<\/p>\n<p><\/p>\n<p>Ma cosa succede se tutte le tue foto di pelle non sana sono state scattate in un ufficio dove si utilizzano lampade a incandescenza, mentre quelle di pelle sana sono state scattate sotto luce fluorescente? Cosa succede se, una volta finite le riprese della pelle sana, prima di scattare quelle della pelle non sana hai aggiornato il sistema operativo del tuo telefono e Apple o Google ha leggermente modificato l'algoritmo di riduzione del rumore? Una persona non lo noter\u00e0, non importa quanto cerchi tali caratteristiche. Ma il sistema di utilizzo dei dati delle macchine lo vedr\u00e0 e lo utilizzer\u00e0 immediatamente. Non sa nulla. <\/p>\n<p><\/p>\n<p>Mentre parlavamo di correlazioni false, pu\u00f2 anche accadere che i dati siano corretti e i risultati siano giusti, ma non si voglia usarli per motivi etici, legali o gestionali. In alcune giurisdizioni, ad esempio, non \u00e8 consentito offrire sconti assicurativi alle donne, nonostante il fatto che possano guidare in modo pi\u00f9 sicuro. Possiamo facilmente immaginare un sistema che, analizzando i dati storici, assegnerebbe coefficienti di rischio inferiori ai nomi femminili. Bene, eliminiamo i nomi dal campione. Ma ricordate l'esempio di Amazon: il sistema pu\u00f2 determinare il genere in base ad altri fattori (anche se non sa cosa sia il genere, n\u00e9 cosa sia un\u2019auto), e non ve ne accorgerete finch\u00e9 il regolatore non analizzer\u00e0 retroattivamente le tariffe che proponete e non vi comminer\u00e0 una multa. <\/p>\n<p><\/p>\n<p>Infine, si presume spesso che utilizzeremo tali sistemi solo per progetti legati alle persone e alle interazioni sociali. Non \u00e8 cos\u00ec. Se state producendo turbine a gas, vorrete sicuramente applicare l'apprendimento automatico ai dati di telemetria trasmessi da decine o centinaia di sensori nel vostro prodotto (sensori audio, video, di temperatura e altri generano dati che possono essere facilmente adattati per creare un modello di apprendimento automatico). Ipoteticamente, potete dire: \"Ecco i dati di mille turbine guaste, raccolti prima del loro guasto, e qui ci sono i dati di mille turbine che non si sono guastate. Costruite un modello per dire qual \u00e8 la differenza tra di loro\". E ora immaginate che i sensori Siemens siano installati sul 75% delle turbine difettose e solo sul 12% di quelle funzionanti (non c'\u00e8 alcuna connessione con i guasti). Il sistema costruir\u00e0 un modello per trovare turbine con sensori Siemens. Ops!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sull&#039;intelligenza artificiale e i pregiudizi\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nImmagine \u2014 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Gestione del pregiudizio dell'IA<\/h2>\n<p><\/p>\n<p>Cosa possiamo fare al riguardo? Possiamo affrontare la questione da tre punti di vista:<\/p>\n<p><\/p>\n<ol>\n<li>Rigor rigoroso nella raccolta e nella gestione dei dati per l'addestramento del sistema.<\/li>\n<li>Strumenti tecnici per l'analisi e la diagnosi del comportamento del modello.<\/li>\n<li>Formazione, educazione e cautela nell'implementazione dell'apprendimento automatico nei prodotti.<\/li>\n<\/ol>\n<p><\/p>\n<p>Nel libro \u00abIl borghese gentiluomo\u00bb di Moli\u00e8re c'\u00e8 una battuta: a un uomo viene detto che la letteratura si divide in prosa e poesia, e lui con ammirazione si accorge che per tutta la vita ha parlato in prosa, senza saperlo. Probabilmente, gli statistici si sentono in questo modo oggi: senza nemmeno accorgersene, hanno dedicato le loro carriere all'intelligenza artificiale e all'errore di campionamento. Cercare l'errore di campionamento e preoccuparsi per questo non \u00e8 un problema nuovo, dobbiamo solo affrontarlo sistematicamente. Come accennato sopra, in alcuni casi \u00e8 realmente pi\u00f9 facile farlo, studiando i problemi legati ai dati delle persone. Presumiamo a priori che possiamo avere pregiudizi riguardo a diversi gruppi di persone, ma \u00e8 difficile anche solo immaginare un pregiudizio riguardante i sensori Siemens.<\/p>\n<p><\/p>\n<p>La novit\u00e0 in tutto questo, ovviamente, \u00e8 che le persone non si occupano pi\u00f9 di analisi statistica direttamente. Questa viene condotta dalle macchine, che creano grandi modelli complessi, difficili da comprendere. La questione della trasparenza \u00e8 uno degli aspetti principali del problema del pregiudizio. Ci spaventa pensare che il sistema non sia solo parziale, ma che non ci sia alcun modo di rilevare il suo pregiudizio e che l'apprendimento automatico si distingue da altre forme di automazione, che si suppone siano composte da passaggi logici chiari, verificabili. <\/p>\n<p><\/p>\n<p>Qui ci sono due problemi. Potremmo comunque condurre un certo audit dei sistemi di apprendimento automatico. E l'audit di qualsiasi altro sistema, in realt\u00e0, non \u00e8 di per s\u00e9 facile.<\/p>\n<p><\/p>\n<p>Innanzitutto, una delle direzioni delle ricerche moderne nel campo dell'apprendimento automatico \u00e8 la ricerca di metodi per identificare le funzionalit\u00e0 importanti dei sistemi di apprendimento automatico. Inoltre, l'apprendimento automatico (nella sua attuale condizione) \u00e8 un campo della scienza completamente nuovo, che sta cambiando rapidamente, quindi non dobbiamo pensare che ci\u00f2 che oggi \u00e8 impossibile non possa presto diventare realt\u00e0. Il progetto <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> \u00e8 un esempio interessante di ci\u00f2. <\/p>\n<p><\/p>\n<p>In secondo luogo, l'idea che si possa verificare e comprendere il processo decisionale nelle attuali sistemi o organizzazioni \u00e8 buona in teoria, ma non nella pratica. Capire come si prendono decisioni in una grande organizzazione non \u00e8 affatto semplice. Anche se esiste un processo decisionale formale, non riflette come le persone interagiscono realmente, e spesso nemmeno loro hanno un approccio logico sistemico per prendere le proprie decisioni. Come ha detto il mio collega <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Pande<\/a><\/noindex>, <strong>le persone sono anche scatole nere<\/strong>. <\/p>\n<p><\/p>\n<p>Prendete mille persone in diverse aziende e istituti intersecati, e il problema diventa ancora pi\u00f9 complesso. Sappiamo a posteriori che lo Shuttle spaziale era destinato a distruggersi durante il rientro, e singole persone all'interno della NASA avevano informazioni che le portavano a credere che potesse accadere qualcosa di brutto, ma il sistema <em>nel suo complesso<\/em> non lo sapeva. La NASA aveva appena completato un'analisi simile, perdendo lo shuttle precedente, eppure ha perso un altro shuttle \u2014 per una ragione molto simile. \u00c8 facile affermare che le organizzazioni e le persone seguono regole logiche chiare che possono essere verificate, comprese e modificate \u2014 ma l'esperienza dimostra il contrario. Questo \u00e8 il<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">fraintendimento del Gosplan<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Spesso confronto il machine learning con i database, in particolare con quelli relazionali \u2014 una nuova tecnologia fondamentale che ha cambiato le capacit\u00e0 dell'informatica e il mondo attorno ad essa, diventando parte di tutto, che utilizziamo costantemente senza rendercene conto.<\/strong> Anche le basi di dati hanno problemi, e sono di natura simile: il sistema pu\u00f2 essere costruito su presupposti errati o su dati scadenti, ma sar\u00e0 difficile accorgersene, e le persone che utilizzano il sistema faranno ci\u00f2 che esso dice loro, senza farsi domande. Ci sono molte vecchie barzellette sui lavoratori delle imposte che un tempo hanno registrato male il tuo nome, e convincerli a correggere l'errore \u00e8 molto pi\u00f9 difficile che cambiare effettivamente il nome. Questo pu\u00f2 essere visto in modi diversi, ma non \u00e8 chiaro quale sia il migliore: come un problema tecnico in SQL, o come un errore nel rilascio di Oracle, o come un fallimento degli istituti burocratici? Quanto \u00e8 difficile trovare l'errore in un processo che ha portato al fatto che il sistema non ha una funzionalit\u00e0 come la correzione degli errori di battitura? Era possibile capirlo prima che le persone iniziassero a lamentarsi? <\/p>\n<p><\/p>\n<p>Questa problematica \u00e8 resa ancora pi\u00f9 chiara da storie in cui i conducenti a causa di dati obsoleti nel navigatore finiscono nei fiumi. Ok, le mappe devono essere costantemente aggiornate. Ma quanto \u00e8 colpevole TomTom se la tua auto viene portata via in mare?<\/p>\n<p><\/p>\n<p>Dico questo perch\u00e9 s\u00ec, i pregiudizi del machine learning creeranno problemi. Ma questi problemi saranno simili a quelli che abbiamo affrontato in passato, e sar\u00e0 possibile notarli e risolverli (o meno) all'incirca con la stessa facilit\u00e0 con cui lo abbiamo fatto in passato. Pertanto, \u00e8 poco probabile che si verifichi uno scenario in cui il pregiudizio dell'IA causi danni con ricercatori prominenti che lavorano in grandi organizzazioni. \u00c8 molto pi\u00f9 probabile che un qualche insignificante appaltatore tecnologico o fornitore di software scriva qualcosa alla buona, utilizzando componenti open-source, librerie e strumenti che non comprende. E un cliente poco avveduto si lascer\u00e0 ingannare dalla frase 'intelligenza artificiale' nella descrizione del prodotto e, senza farsi troppe domande, lo fornir\u00e0 ai suoi dipendenti malpagati, costringendoli a fare ci\u00f2 che dice l'IA. Questo \u00e8 esattamente ci\u00f2 che \u00e8 successo con le basi di dati. Non \u00e8 un problema dell'intelligenza artificiale, e nemmeno un problema del software. \u00c8 un fattore umano.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Conclusione<\/h2>\n<p><\/p>\n<blockquote><p><em>Il machine learning pu\u00f2 fare tutto ci\u00f2 che puoi insegnare a un cane, ma non puoi mai essere sicuro di cosa esattamente tu abbia insegnato a quel cane.<\/em><\/p><\/blockquote>\n<p>Spesso mi sembra che il termine \u00abintelligenza artificiale\u00bb ostacoli le conversazioni come questa. Questo termine crea l'illusione che in realt\u00e0 lo abbiamo creato \u2014 questa intelligenza. Che siamo sulla strada per HAL9000 o Skynet \u2014 verso qualcosa che in realt\u00e0 <em>capisce<\/em>. Ma non \u00e8 cos\u00ec. Sono semplicemente macchine, e sarebbe pi\u00f9 corretto paragonarle, ad esempio, a una lavatrice. Essa gestisce il lavaggio molto meglio di un umano, ma se ci metti dentro piatti invece di biancheria, loro\u2026 verranno lavati. I piatti diventeranno persino puliti. Ma non sar\u00e0 ci\u00f2 che ti aspettavi, e non succeder\u00e0 perch\u00e9 il sistema ha qualche pregiudizio sui piatti. La lavatrice non sa cosa siano i piatti n\u00e9 cosa sia la biancheria \u2014 \u00e8 solo un esempio di automazione, concettualmente non diverso da come i processi venivano automatizzati in passato.<\/p>\n<p><\/p>\n<p>Qualunque sia l'argomento \u2014 macchine, aerei o database \u2014 questi sistemi saranno contemporaneamente molto potenti e molto limitati. Dipenderanno completamente da come le persone utilizzano questi sistemi, dalle loro buone o cattive intenzioni e da quanto comprendono il loro funzionamento.<\/p>\n<p><\/p>\n<p>Pertanto, affermare che \u00abl'intelligenza artificiale \u00e8 matematica, quindi non pu\u00f2 avere pregiudizi\u00bb \u00e8 del tutto errato. Ma \u00e8 altrettanto errato affermare che l'apprendimento automatico \u00e8 \u00absoggettivo per natura\u00bb. L'apprendimento automatico trova schemi nei dati, e quali schemi trover\u00e0 dipende dai dati, che dipendono da noi. Cos\u00ec come ci\u00f2 che facciamo con essi. L'apprendimento automatico fa davvero alcune cose molto meglio di noi \u2014 ma i cani, ad esempio, sono molto pi\u00f9 efficaci degli esseri umani nel rilevare droghe, il che non \u00e8 certo un motivo per coinvolgerli come testimoni e pronunciare verdetti basati sulle loro testimonianze. E i cani, a proposito, sono molto pi\u00f9 intelligenti di qualsiasi sistema di apprendimento automatico.<\/p>\n<p><strong>Traduzione:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Letzkaya<\/a><\/noindex>.<br \/>\n<strong>Editing:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Alexey Ivanov<\/a><\/noindex>.<br \/>\n<strong>Comunit\u00e0:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Fonte: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.1.1 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.1.1\" \/>\n\t\t<meta property=\"og:locale\" content=\"it_IT\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Sui pregiudizi dell'intelligenza artificiale | ProHoster","description":"tl;dr: .","canonical_url":"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"it_IT","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/it\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}