{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pt\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"Sobre o preconceito da intelig\u00eancia artificial","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Sobre o preconceito da intelig\u00eancia artificial\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">tl;dr:<\/h2>\n<p><\/p>\n<ul>\n<li>A aprendizagem de m\u00e1quina procura padr\u00f5es nos dados. No entanto, a intelig\u00eancia artificial pode ser 'tendenciosa' \u2014 ou seja, identificar padr\u00f5es incorretos. Por exemplo, um sistema de detec\u00e7\u00e3o de c\u00e2ncer de pele a partir de fotografias pode prestar especial aten\u00e7\u00e3o \u00e0s imagens tiradas em consult\u00f3rios m\u00e9dicos. A aprendizagem de m\u00e1quina n\u00e3o consegue <em>compreender<\/em>: seus algoritmos apenas detectam padr\u00f5es em n\u00fameros, e se os dados n\u00e3o forem representativos, o resultado do seu processamento tamb\u00e9m ser\u00e1. E detectar esses erros pode ser complicado devido \u00e0 pr\u00f3pria mec\u00e2nica da aprendizagem de m\u00e1quina. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>A \u00e1rea problem\u00e1tica mais evidente e inquietante \u00e9 a diversidade humana. Existem v\u00e1rias raz\u00f5es pelas quais os dados sobre pessoas podem perder a objetividade desde a coleta. Mas n\u00e3o devemos pensar que esse problema se limita apenas a pessoas: dificuldades semelhantes surgem ao tentar detectar uma inunda\u00e7\u00e3o em um armaz\u00e9m ou uma turbina a g\u00e1s com falha. Alguns sistemas podem ter preconceitos em rela\u00e7\u00e3o \u00e0 cor da pele, enquanto outros ter\u00e3o uma vis\u00e3o tendenciosa em rela\u00e7\u00e3o a sensores da Siemens. <\/li>\n<li>Esses problemas n\u00e3o s\u00e3o novos para a aprendizagem de m\u00e1quina, e n\u00e3o s\u00e3o exclusivos dela. Suposi\u00e7\u00f5es err\u00f4neas s\u00e3o feitas em qualquer estrutura complexa, e entender por que uma determinada decis\u00e3o foi tomada \u00e9 sempre desafiador. \u00c9 necess\u00e1rio combater isso de maneira abrangente: criando ferramentas e processos para verifica\u00e7\u00e3o \u2014 e educando os usu\u00e1rios para que n\u00e3o sigam cegamente as recomenda\u00e7\u00f5es da IA. A aprendizagem de m\u00e1quina realmente faz algumas coisas muito melhor do que n\u00f3s, \u2014 mas os c\u00e3es, por exemplo, s\u00e3o muito mais eficazes do que as pessoas na detec\u00e7\u00e3o de drogas, o que n\u00e3o \u00e9 justificativa para us\u00e1-los como testemunhas e proferir condena\u00e7\u00f5es com base em seus testemunhos. E os c\u00e3es, por sua vez, s\u00e3o muito mais inteligentes do que qualquer sistema de aprendizagem de m\u00e1quina. <\/li>\n<\/ul>\n<p>A aprendizagem de m\u00e1quina hoje \u00e9 uma das tend\u00eancias tecnol\u00f3gicas fundamentais mais importantes. \u00c9 uma das principais maneiras pelas quais a tecnologia mudar\u00e1 o mundo nas pr\u00f3ximas d\u00e9cadas. Alguns aspectos dessas mudan\u00e7as s\u00e3o preocupantes. Por exemplo, o impacto potencial da aprendizagem de m\u00e1quina no mercado de trabalho, ou seu uso para fins anti\u00e9ticos (por regimes autorit\u00e1rios, por exemplo). H\u00e1 outro problema, que \u00e9 o foco deste post: <strong>tend\u00eancia da intelig\u00eancia artificial<\/strong>. <\/p>\n<p><\/p>\n<p>Esta n\u00e3o \u00e9 uma hist\u00f3ria simples. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sobre o preconceito da intelig\u00eancia artificial\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>A IA do Google consegue encontrar gatinhos. Essa not\u00edcia de 2012 foi algo especial na \u00e9poca.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">O que \u00e9 \"preconceito na IA\"?<\/h2>\n<p><\/p>\n<blockquote><p><em>\"Dados brutos\" s\u00e3o ao mesmo tempo um ox\u00edmoro e uma m\u00e1 ideia; os dados precisam ser bem preparados e tratados com cuidado.<\/em> \u2014Jeffrey Boker <\/p><\/blockquote>\n<p>At\u00e9 cerca de 2013, para criar um sistema que, digamos, reconhecesse gatos em fotos, voc\u00ea precisava descrever os passos l\u00f3gicos. Como encontrar \u00e2ngulos na imagem, reconhecer olhos, analisar texturas para identificar pelo, contar patas, e assim por diante. Depois, juntar todos os componentes \u2014 e descobrir que, na verdade, n\u00e3o funciona muito bem. Aproximadamente como um cavalo mec\u00e2nico \u2014 teoricamente voc\u00ea pode constru\u00ed-lo, mas na pr\u00e1tica \u00e9 muito complicado de descrever. No final, voc\u00ea tem centenas (ou at\u00e9 milhares) de regras escritas \u00e0 m\u00e3o. E nenhuma modelo funcionando. <\/p>\n<p><\/p>\n<p>Com o surgimento do aprendizado de m\u00e1quina, paramos de usar regras \"manuais\" para reconhecer determinado objeto. Em vez disso, pegamos mil amostras de \"aquilo\", X, mil amostras de \"outro\", Y, e fazemos o computador construir um modelo com base na an\u00e1lise estat\u00edstica deles. Ent\u00e3o, damos a esse modelo um exemplo de dados, e ele, com alguma precis\u00e3o, determina se se encaixa em um dos conjuntos. O aprendizado de m\u00e1quina gera um modelo com base nos dados, e n\u00e3o por um ser humano que o escreve. Os resultados s\u00e3o impressionantes, especialmente na \u00e1rea de reconhecimento de imagens e padr\u00f5es, e \u00e9 por isso que toda a ind\u00fastria de tecnologia est\u00e1 atualmente migrando para aprendizado de m\u00e1quina (ML). <\/p>\n<p><\/p>\n<p>Mas nem tudo \u00e9 t\u00e3o simples. No mundo real, suas milhares de amostras X ou Y tamb\u00e9m cont\u00eam A, B, J, L, O, R e at\u00e9 mesmo L. Elas podem estar distribu\u00eddas de maneira desigual, e algumas podem ocorrer com tanta frequ\u00eancia que o sistema presta mais aten\u00e7\u00e3o a elas do que aos objetos que realmente interessam.<\/p>\n<p><\/p>\n<p>O que isso significa na pr\u00e1tica? Meu exemplo favorito \u00e9 quando os sistemas de reconhecimento de imagens <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">olham para uma colina gramada e dizem: \"ovelha\"<\/a><\/noindex>. \u00c9 f\u00e1cil entender o porqu\u00ea: a maior parte das fotos-exemplo de \"ovelhas\" foi tirada em campos onde elas vivem, e nessas imagens a grama ocupa muito mais espa\u00e7o do que os pequenos peludos branqu\u00edssimos, e \u00e9 a grama que os sistemas consideram mais importante. <\/p>\n<p><\/p>\n<p>H\u00e1 exemplos ainda mais s\u00e9rios. Recentemente, um <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">projeto<\/a><\/noindex> sobre a detec\u00e7\u00e3o de c\u00e2ncer de pele em fotografias. Descobriu-se que os dermatologistas frequentemente fotografam uma r\u00e9gua junto com as manifesta\u00e7\u00f5es do c\u00e2ncer de pele para registrar o tamanho das les\u00f5es. Nas fotografias de pele saud\u00e1vel, n\u00e3o existem r\u00e9guas. Para o sistema de IA, essas r\u00e9guas (mais precisamente, os pixels que definimos como \"r\u00e9gua\") tornaram-se uma das diferen\u00e7as entre os conjuntos de exemplos, e \u00e0s vezes mais importantes do que uma pequena erup\u00e7\u00e3o na pele. Assim, o sistema criado para reconhecer o c\u00e2ncer de pele, \u00e0s vezes, reconhecia a r\u00e9gua em vez dele. <\/p>\n<p><\/p>\n<p>O ponto-chave aqui \u00e9 que o sistema n\u00e3o possui compreens\u00e3o sem\u00e2ntica do que est\u00e1 observando. N\u00f3s olhamos para um conjunto de pixels e vemos nele uma ovelha, pele ou r\u00e9guas, enquanto o sistema v\u00ea apenas uma sequ\u00eancia num\u00e9rica. Ele n\u00e3o v\u00ea o espa\u00e7o tridimensional, n\u00e3o percebe objetos, texturas ou ovelhas. Ele simplesmente v\u00ea padr\u00f5es nos dados. <\/p>\n<p><\/p>\n<p>A dificuldade no diagn\u00f3stico de tais problemas \u00e9 que a rede neural (modelo gerado pelo seu sistema de aprendizagem de m\u00e1quina) consiste em milhares de n\u00f3s. N\u00e3o h\u00e1 uma maneira simples de olhar para o modelo e ver como ele toma decis\u00f5es. Ter essa forma de olhar significaria que o processo \u00e9 simples o suficiente para descrever todas as regras manualmente, sem o uso de aprendizagem de m\u00e1quina. As pessoas se preocupam que a aprendizagem de m\u00e1quina se tornou uma esp\u00e9cie de \"caixa-preta\". (Explicarei mais tarde por que essa compara\u00e7\u00e3o \u00e9 um exagero.) <\/p>\n<p><\/p>\n<p>Esta, em termos gerais, \u00e9 a quest\u00e3o da vi\u00e9s na intelig\u00eancia artificial ou na aprendizagem de m\u00e1quina: o sistema que busca padr\u00f5es nos dados pode encontrar padr\u00f5es incorretos, e voc\u00ea pode n\u00e3o perceber isso. Esta \u00e9 uma caracter\u00edstica fundamental da tecnologia, e \u00e9 algo que \u00e9 evidente para todos que trabalham com ela em c\u00edrculos acad\u00eamicos e em grandes empresas de tecnologia. Mas suas consequ\u00eancias s\u00e3o complexas, e nossas poss\u00edveis solu\u00e7\u00f5es para essas consequ\u00eancias tamb\u00e9m s\u00e3o. <\/p>\n<p><\/p>\n<p>Vamos primeiro falar sobre as consequ\u00eancias. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sobre o preconceito da intelig\u00eancia artificial\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>A IA pode implicitamente fazer escolhas a favor de determinadas categorias de pessoas, com base em um grande n\u00famero de sinais sutis.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Cen\u00e1rios de vi\u00e9s da IA.<\/h2>\n<p><\/p>\n<p>A coisa mais \u00f3bvia e assustadora \u00e9 que este problema pode se manifestar quando se trata da diversidade humana. Recentemente, <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">surgiu um boato.<\/a><\/noindex>, que a Amazon tentou construir um sistema de aprendizado de m\u00e1quina para triagem inicial de candidatos a emprego. Como entre os funcion\u00e1rios da Amazon h\u00e1 mais homens, os exemplos de \u201ccontrata\u00e7\u00e3o bem-sucedida\u201d tamb\u00e9m eram predominantemente masculinos, e na sele\u00e7\u00e3o de curr\u00edculos apresentada pelo sistema havia mais homens. A Amazon percebeu isso e decidiu n\u00e3o colocar o sistema em produ\u00e7\u00e3o. <\/p>\n<p><\/p>\n<p>O mais importante neste exemplo \u00e9 que o sistema, segundo rumores, favorecia candidatos do sexo masculino, mesmo que o g\u00eanero n\u00e3o estivesse especificado no curr\u00edculo.<strong> O sistema identificava outros padr\u00f5es nos exemplos de \u201ccontrata\u00e7\u00e3o bem-sucedida\u201d: por exemplo, mulheres podem usar palavras espec\u00edficas para descrever conquistas, ou ter hobbies distintos. Claro, o sistema n\u00e3o sabia o que era \u201ch\u00f3quei\u201d, quem eram os \u201chomens\u201d, ou o que significava \u201csucesso\u201d \u2014 ele simplesmente realizava uma an\u00e1lise estat\u00edstica do texto.<\/strong> Mas os padr\u00f5es que ele identificava provavelmente ficariam despercebidos por um humano, e alguns deles (como o fato de que pessoas de diferentes g\u00eaneros descrevem o sucesso de maneiras diferentes) provavelmente seriam dif\u00edceis de reconhecer, mesmo ao observ\u00e1-los. <\/p>\n<p><\/p>\n<p>E a situa\u00e7\u00e3o piora. Um sistema de aprendizado de m\u00e1quina que detecta c\u00e2ncer muito bem em pele clara pode ter um desempenho inferior em pele escura, ou vice-versa. N\u00e3o necessariamente por preconceito, mas porque voc\u00ea provavelmente precisaria construir um modelo separado para a outra cor de pele, escolhendo outras caracter\u00edsticas.<strong> Sistemas de aprendizado de m\u00e1quina n\u00e3o s\u00e3o intercambi\u00e1veis, mesmo em um campo t\u00e3o espec\u00edfico quanto o reconhecimento de imagens.<\/strong> Voc\u00ea precisa ajustar o sistema, \u00e0s vezes apenas por meio de tentativas e erros, para captar bem as particularidades dos dados de seu interesse, at\u00e9 alcan\u00e7ar a precis\u00e3o desejada. Mas voc\u00ea pode n\u00e3o perceber que o sistema \u00e9 98% preciso com um grupo e apenas 91% (ainda que isso seja mais preciso do que a an\u00e1lise feita por um humano) com outro. <\/p>\n<p><\/p>\n<p>At\u00e9 agora, usei principalmente exemplos referentes a pessoas e suas caracter\u00edsticas. \u00c9 em torno desse tema que a discuss\u00e3o sobre esse problema se concentra. Mas \u00e9 importante entender que o preconceito contra pessoas \u00e9 apenas uma parte do problema. Vamos usar aprendizado de m\u00e1quina para uma variedade de coisas, e a escolha de amostra ser\u00e1 relevante para todas elas. Por outro lado, se voc\u00ea est\u00e1 lidando com pessoas, o preconceito nos dados pode n\u00e3o estar relacionado a elas. <\/p>\n<p><\/p>\n<p>Para entender isso, voltemos ao exemplo do c\u00e2ncer de pele e consideremos tr\u00eas possibilidades hipot\u00e9ticas de falha do sistema. <\/p>\n<p><\/p>\n<ol>\n<li>Distribui\u00e7\u00e3o heterog\u00eanea de pessoas: n\u00famero desequilibrado de fotos de pele em diferentes tons, levando a resultados falso-positivos ou falso-negativos relacionados \u00e0 pigmenta\u00e7\u00e3o. <\/li>\n<li>Os dados nos quais o sistema \u00e9 treinado cont\u00eam uma caracter\u00edstica frequentemente encontrada e distribu\u00edda de forma heterog\u00eanea, que n\u00e3o est\u00e1 relacionada a pessoas e n\u00e3o tem valor diagn\u00f3stico: uma r\u00e9gua nas fotos de manifesta\u00e7\u00f5es de c\u00e2ncer de pele ou grama nas fotos de ovelhas. Nesse caso, o resultado ser\u00e1 diferente se a imagem contiver pixels de algo que o olho humano identificaria como 'r\u00e9gua'. <\/li>\n<li>Os dados cont\u00eam uma caracter\u00edstica externa que uma pessoa n\u00e3o pode ver, mesmo que a procure. <\/li>\n<\/ol>\n<p><\/p>\n<p>O que isso significa? Sabemos a priori que os dados podem representar diferentes grupos de pessoas de maneira diferente, e pelo menos podemos planejar a busca por tais exce\u00e7\u00f5es. Em outras palavras, h\u00e1 v\u00e1rias raz\u00f5es sociais para supor que os dados sobre grupos de pessoas j\u00e1 contenham algum preconceito. Se olharmos para a foto com a r\u00e9gua, veremos essa r\u00e9gua \u2014 simplesmente a ignoramos antes, sabendo que n\u00e3o tem relev\u00e2ncia, e esquecemos que o sistema n\u00e3o sabe de nada.<\/p>\n<p><\/p>\n<p>Mas e se todas as suas fotos de pele doente forem tiradas em um escrit\u00f3rio onde s\u00e3o usadas l\u00e2mpadas incandescentes, enquanto as de pele saud\u00e1vel foram feitas sob luz fluorescente? E se, ap\u00f3s fotografar a pele saud\u00e1vel, voc\u00ea atualizou o sistema operacional do seu telefone antes de fotografar a pele doente e a Apple ou o Google alteraram um pouco o algoritmo de supress\u00e3o de ru\u00eddo? Um humano n\u00e3o perceber\u00e1 isso, n\u00e3o importa o quanto procure por tais caracter\u00edsticas. Mas o sistema de uso da m\u00e1quina ver\u00e1 e usar\u00e1 isso imediatamente. Ele n\u00e3o sabe nada. <\/p>\n<p><\/p>\n<p>Enquanto falamos sobre correla\u00e7\u00f5es esp\u00farias, pode acontecer que os dados sejam precisos e os resultados corretos, mas voc\u00ea n\u00e3o queira us\u00e1-los por raz\u00f5es \u00e9ticas, legais ou gerenciais. Em algumas jurisdi\u00e7\u00f5es, por exemplo, n\u00e3o se pode oferecer descontos em seguros para mulheres, mesmo que elas possam dirigir de forma mais segura. Podemos facilmente imaginar um sistema que, ao analisar dados hist\u00f3ricos, atribui um menor coeficiente de risco a nomes femininos. Ok, vamos remover os nomes da amostra. Mas lembre-se do exemplo da Amazon: o sistema pode determinar o g\u00eanero por outros fatores (mesmo n\u00e3o sabendo o que \u00e9 g\u00eanero ou o que \u00e9 um carro), e voc\u00ea n\u00e3o perceber\u00e1 isso at\u00e9 que o regulador analise retroativamente as tarifas que voc\u00ea prop\u00f5e e lhe aplique uma multa. <\/p>\n<p><\/p>\n<p>Finalmente, frequentemente presume-se que usaremos esses sistemas apenas para projetos relacionados a pessoas e intera\u00e7\u00f5es sociais. N\u00e3o \u00e9 assim. Se voc\u00ea est\u00e1 fabricando turbinas a g\u00e1s, provavelmente querer\u00e1 aplicar aprendizado de m\u00e1quina \u00e0 telemetria transmitida por dezenas ou centenas de sensores em seu produto (sensores de \u00e1udio, v\u00eddeo, temperatura e quaisquer outros geram dados que podem ser facilmente adaptados para criar um modelo de aprendizado de m\u00e1quina). Hipoteticamente, voc\u00ea poderia dizer: \"Aqui est\u00e3o os dados de mil turbinas que falharam, obtidos antes de suas quebras, e aqui est\u00e3o os dados de mil turbinas que n\u00e3o falharam. Construa um modelo para indicar as diferen\u00e7as entre elas\". Agora imagine que os sensores da Siemens est\u00e3o instalados em 75% das turbinas defeituosas e apenas 12% das boas (n\u00e3o h\u00e1 rela\u00e7\u00e3o com as quebras). O sistema construir\u00e1 um modelo para localizar turbinas com sensores da Siemens. Oops!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sobre o preconceito da intelig\u00eancia artificial\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nImagem \u2014 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Gerenciamento de vi\u00e9s de IA<\/h2>\n<p><\/p>\n<p>O que podemos fazer a respeito? Podemos abordar a quest\u00e3o de tr\u00eas maneiras:<\/p>\n<p><\/p>\n<ol>\n<li>Rigor metodol\u00f3gico na coleta e gerenciamento de dados para treinar o sistema.<\/li>\n<li>Ferramentas t\u00e9cnicas para an\u00e1lise e diagn\u00f3stico do comportamento do modelo.<\/li>\n<li>Treinamento, aprendizado e cautela ao integrar aprendizado de m\u00e1quina em produtos.<\/li>\n<\/ol>\n<p><\/p>\n<p>No livro \"O Burgu\u00eas Phon\u00eamico\" de Moli\u00e8re, h\u00e1 uma piada: um homem descobre que a literatura se divide em prosa e poesia, e ele se maravilha ao perceber que, a vida toda, falou em prosa sem saber. Provavelmente, os estat\u00edsticos se sentem assim hoje: sem perceber, dedicaram suas carreiras \u00e0 intelig\u00eancia artificial e ao erro de amostragem. Buscar o erro de amostragem e se preocupar com ele n\u00e3o \u00e9 um novo problema; precisamos simplesmente abordar sistematicamente sua solu\u00e7\u00e3o. Como mencionado acima, em alguns casos, \u00e9 realmente mais f\u00e1cil fazer isso estudando problemas relacionados a dados sobre pessoas. Suponhamos, a priori, que possamos ter preconceitos em rela\u00e7\u00e3o a diferentes grupos de pessoas, mas o preconceito sobre os sensores Siemens \u00e9 algo que nos parece dif\u00edcil at\u00e9 de imaginar.<\/p>\n<p><\/p>\n<p>A novidade em tudo isso \u00e9, claro, que as pessoas n\u00e3o est\u00e3o mais fazendo an\u00e1lises estat\u00edsticas diretamente. Elas s\u00e3o realizadas por m\u00e1quinas que criam grandes modelos complexos, dif\u00edceis de entender. A quest\u00e3o da transpar\u00eancia \u00e9 um dos aspectos principais do problema do preconceito. Temos medo de que o sistema n\u00e3o seja apenas tendencioso, mas que n\u00e3o haja nenhuma possibilidade de detectar seu preconceito, e que o aprendizado de m\u00e1quina se diferencia de outras formas de automa\u00e7\u00e3o, que se presume consistirem em etapas l\u00f3gicas claras que podem ser verificadas. <\/p>\n<p><\/p>\n<p>Aqui existem duas quest\u00f5es. Podemos, talvez, realizar algum tipo de auditoria nos sistemas de aprendizado de m\u00e1quina. E a auditoria de qualquer outro sistema, na verdade, n\u00e3o \u00e9 muito mais f\u00e1cil.<\/p>\n<p><\/p>\n<p>Primeiro, uma das dire\u00e7\u00f5es da pesquisa moderna em aprendizado de m\u00e1quina \u00e9 encontrar m\u00e9todos para identificar funcionalidades importantes dos sistemas de aprendizado de m\u00e1quina. No entanto, o aprendizado de m\u00e1quina (em seu estado atual) \u00e9 um campo cient\u00edfico completamente novo que muda rapidamente, por isso n\u00e3o devemos pensar que coisas imposs\u00edveis hoje podem, em breve, se tornar bastante reais. O projeto <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> \u00e9 um exemplo interessante disso. <\/p>\n<p><\/p>\n<p>Em segundo lugar, a ideia de que se pode verificar e compreender o processo de tomada de decis\u00f5es em sistemas ou organiza\u00e7\u00f5es existentes \u00e9 boa em teoria, mas n\u00e3o funciona t\u00e3o bem na pr\u00e1tica. Entender como as decis\u00f5es s\u00e3o tomadas em uma grande organiza\u00e7\u00e3o n\u00e3o \u00e9 nada f\u00e1cil. Mesmo que exista um processo formal de tomada de decis\u00f5es, ele n\u00e3o reflete como as pessoas realmente interagem, e elas muitas vezes n\u00e3o t\u00eam uma abordagem l\u00f3gica e sistem\u00e1tica para tomar suas decis\u00f5es. Como disse meu colega, <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Pand\u00e9<\/a><\/noindex>, <strong>as pessoas tamb\u00e9m s\u00e3o caixas-preta.<\/strong>. <\/p>\n<p><\/p>\n<p>Pegue mil pessoas de v\u00e1rias empresas e institui\u00e7\u00f5es interconectadas, e o problema se tornar\u00e1 ainda mais complexo. Sabemos, a posteriori, que o \"Space Shuttle\" estava destinado a se desintegrar na reentrada, e indiv\u00edduos dentro da NASA tinham informa\u00e7\u00f5es que os levaram a pensar que algo ruim poderia acontecer, mas o sistema <em>como um todo<\/em> n\u00e3o sabia disso. A NASA havia acabado de passar por uma auditoria semelhante, ap\u00f3s perder o \u00faltimo \u00f4nibus espacial, e mesmo assim perdeu outro \u2014 por uma raz\u00e3o muito similar. \u00c9 f\u00e1cil afirmar que organiza\u00e7\u00f5es e indiv\u00edduos seguem regras l\u00f3gicas claras, que podem ser verificadas, compreendidas e alteradas \u2014 mas a experi\u00eancia prova o contr\u00e1rio. \u00c9 a \"<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">ilus\u00e3o do Gosplan.<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>Costumo comparar o aprendizado de m\u00e1quina com bancos de dados, especialmente com bancos de dados relacionais \u2014 uma nova tecnologia fundamental que transformou as capacidades da inform\u00e1tica e o mundo ao seu redor, que se tornou parte de tudo, que usamos continuamente sem nos darmos conta.<\/strong> Os bancos de dados tamb\u00e9m t\u00eam problemas, e s\u00e3o de natureza semelhante: o sistema pode ter sido constru\u00eddo com suposi\u00e7\u00f5es incorretas ou dados ruins, mas isso ser\u00e1 dif\u00edcil de perceber, e as pessoas que usam o sistema far\u00e3o o que ele diz, sem questionar. Existem muitas piadas antigas sobre trabalhadores do fisco que erraram seu nome e convencer eles a corrigir o erro \u00e9 muito mais complicado do que realmente mudar o nome. Podemos pensar sobre isso de diferentes maneiras, mas n\u00e3o est\u00e1 claro qual \u00e9 a melhor: como um problema t\u00e9cnico em SQL, como um erro em uma vers\u00e3o do Oracle ou como uma falha dos institutos burocr\u00e1ticos? Qu\u00e3o dif\u00edcil \u00e9 encontrar o erro em um processo que levou o sistema a n\u00e3o ter um recurso como a corre\u00e7\u00e3o de erros de digita\u00e7\u00e3o? Seria poss\u00edvel perceber isso antes que as pessoas come\u00e7assem a reclamar? <\/p>\n<p><\/p>\n<p>Essa problem\u00e1tica fica ainda mais clara em hist\u00f3rias onde motoristas acabam em rios devido a dados desatualizados em seus navegadores. Certo, os mapas precisam ser constantemente atualizados. Mas at\u00e9 que ponto a TomTom \u00e9 respons\u00e1vel por levar seu carro ao mar?<\/p>\n<p><\/p>\n<p>Digo isso para afirmar que sim \u2014 o vi\u00e9s do aprendizado de m\u00e1quina criar\u00e1 problemas. Mas esses problemas ser\u00e3o semelhantes aos que enfrentamos no passado, e poder\u00e3o ser percebidos e resolvidos (ou n\u00e3o) de maneira t\u00e3o eficaz quanto fizemos anteriormente. Portanto, o cen\u00e1rio em que o vi\u00e9s da IA cause danos provavelmente n\u00e3o ocorrer\u00e1 com l\u00edderes de pesquisa em grandes organiza\u00e7\u00f5es. O mais prov\u00e1vel \u00e9 que um pequeno contratante tecnol\u00f3gico ou fornecedor de software escreva algo improvisado, utilizando componentes, bibliotecas e ferramentas de c\u00f3digo aberto que n\u00e3o compreende. E o cliente ing\u00eanuo cai na armadilha da express\u00e3o \u201cintelig\u00eancia artificial\u201d na descri\u00e7\u00e3o do produto e, sem questionar, distribui isso entre seus funcion\u00e1rios mal remunerados, obrigando-os a fazer o que a IA disser. Isso j\u00e1 aconteceu com bancos de dados. N\u00e3o \u00e9 um problema da intelig\u00eancia artificial e nem mesmo \u00e9 um problema de software. \u00c9 um fator humano.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Conclus\u00e3o<\/h2>\n<p><\/p>\n<blockquote><p><em>O aprendizado de m\u00e1quina pode realizar qualquer coisa que voc\u00ea consiga ensinar a um cachorro \u2014 mas voc\u00ea nunca pode ter certeza do que exatamente voc\u00ea ensinou esse cachorro.<\/em><\/p><\/blockquote>\n<p>Frequentemente, eu sinto que o termo \"intelig\u00eancia artificial\" apenas atrapalha conversas como esta. Esse termo cria uma falsa impress\u00e3o de que realmente a criamos \u2014 essa intelig\u00eancia. Que estamos a caminho do HAL9000 ou Skynet \u2014 algo que realmente <em>entende<\/em>. Mas n\u00e3o. S\u00e3o apenas m\u00e1quinas, e \u00e9 muito mais correto compar\u00e1-las, digamos, a uma m\u00e1quina de lavar. Ela lavar\u00e1 as roupas muito melhor do que um humano, mas se voc\u00ea colocar lou\u00e7a em vez de roupa, ela\u2026 vai lav\u00e1-la. A lou\u00e7a ficar\u00e1 limpa. Mas n\u00e3o ser\u00e1 o que voc\u00ea esperava, e isso n\u00e3o acontecer\u00e1 porque o sistema tem algum preconceito em rela\u00e7\u00e3o \u00e0 lou\u00e7a. A m\u00e1quina de lavar n\u00e3o sabe o que \u00e9 lou\u00e7a nem o que \u00e9 roupa \u2014 \u00e9 apenas um exemplo de automa\u00e7\u00e3o, conceitualmente n\u00e3o diferente de como os processos eram automatizados antes.<\/p>\n<p><\/p>\n<p>Seja sobre m\u00e1quinas, avi\u00f5es ou bancos de dados, esses sistemas ser\u00e3o simultaneamente muito poderosos e muito limitados. Eles depender\u00e3o totalmente de como as pessoas utilizam esses sistemas, de suas inten\u00e7\u00f5es boas ou m\u00e1s e de qu\u00e3o bem elas compreendem seu funcionamento.<\/p>\n<p><\/p>\n<p>Portanto, afirmar que \"intelig\u00eancia artificial \u00e9 matem\u00e1tica, portanto n\u00e3o pode ter preconceitos\" \u00e9 completamente errado. Mas \u00e9 igualmente incorreto declarar que o aprendizado de m\u00e1quina \"\u00e9 subjetivo por natureza\". O aprendizado de m\u00e1quina encontra padr\u00f5es nos dados, e quais padr\u00f5es encontrar\u00e1 depende dos dados, que dependem de n\u00f3s. Assim como o que fazemos com eles. O aprendizado de m\u00e1quina realmente faz algumas coisas muito melhor que n\u00f3s \u2014 mas c\u00e3es, por exemplo, s\u00e3o muito mais eficazes do que humanos em detectar drogas, o que de forma alguma \u00e9 motivo para traz\u00ea-los como testemunhas e emitir senten\u00e7as com base em seus depoimentos. E, a prop\u00f3sito, os c\u00e3es s\u00e3o muito mais inteligentes do que qualquer sistema de aprendizado de m\u00e1quina.<\/p>\n<p><strong>Tradu\u00e7\u00e3o:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Letskaya<\/a><\/noindex>.<br \/>\n<strong>Edi\u00e7\u00e3o:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Alexey Ivanov<\/a><\/noindex>.<br \/>\n<strong>Comunidade:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Fonte: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.3 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/pt\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.3\" \/>\n\t\t<meta property=\"og:locale\" content=\"pt_PT\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/pt\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Sobre o preconceito da intelig\u00eancia artificial | ProHoster","description":"tl;dr: .","canonical_url":"https:\/\/prohoster.info\/pt\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"pt_PT","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/pt\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}