{"id":123966,"date":"2025-05-03T15:05:12","date_gmt":"2025-05-03T13:05:12","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/proekt-debian-nachal-obshhee-golosovanie-po-kriteriyam-otkrytosti-ai-modelej"},"modified":"2025-05-03T15:05:12","modified_gmt":"2025-05-03T13:05:12","slug":"proekt-debian-nachal-obshhee-golosovanie-po-kriteriyam-otkrytosti-ai-modelej","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pt\/blog\/news\/proekt-debian-nachal-obshhee-golosovanie-po-kriteriyam-otkrytosti-ai-modelej","title":{"rendered":"O projeto Debian iniciou uma vota\u00e7\u00e3o geral sobre os crit\u00e9rios de abertura dos modelos de IA","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
O projeto Debian anunciou a realiza\u00e7\u00e3o de uma vota\u00e7\u00e3o geral (GR, resolu\u00e7\u00e3o geral) entre os desenvolvedores do projeto para a aprova\u00e7\u00e3o dos crit\u00e9rios de aceita\u00e7\u00e3o de modelos de aprendizado de m\u00e1quina no reposit\u00f3rio principal do projeto. Neste momento, a fase de discuss\u00e3o foi iniciada, ap\u00f3s a qual a coleta de votos come\u00e7ar\u00e1 (a data de in\u00edcio da vota\u00e7\u00e3o ainda n\u00e3o foi definida). Cerca de mil desenvolvedores que trabalham na manuten\u00e7\u00e3o de pacotes e na infraestrutura do Debian t\u00eam direito a voto. <\/p>\n
Modelos de IA distribu\u00eddos sob licen\u00e7as abertas, mas sem a disponibiliza\u00e7\u00e3o do material fonte e das ferramentas para treinar o modelo, devem ser considerados incompat\u00edveis com os crit\u00e9rios do Debian que definem software livre (DFSG, Debian Free Software Guideline). Se a proposta for aprovada, esses modelos n\u00e3o poder\u00e3o ser inclu\u00eddos no reposit\u00f3rio principal do projeto (\"main\"). A possibilidade de fornecer tais modelos nos reposit\u00f3rios \"non-free\" n\u00e3o \u00e9 considerada enquanto a vota\u00e7\u00e3o estiver em andamento. <\/p>\n
Entre os problemas que surgem na aus\u00eancia de dados utilizados no treinamento, est\u00e3o mencionados: <\/p>\n
\n
A falta de dados ou programas usados para o treinamento limita severamente as possibilidades de modifica\u00e7\u00e3o dos modelos de IA prontos. Apesar de a licen\u00e7a permitir modifica\u00e7\u00f5es, na pr\u00e1tica, tal modifica\u00e7\u00e3o \u00e9 dificultada. Mudan\u00e7as podem ser necess\u00e1rias, por exemplo, na necessidade de substituir o tokenizador, essencial para adicionar suporte a novos idiomas.\n
Os dados utilizados para treinar o modelo podem ser vistos como \"c\u00f3digo fonte\" do modelo, e o modelo final como o resultado do processamento desse \"c\u00f3digo fonte\" por meio de ferramentas de treinamento. Assim, para uma modifica\u00e7\u00e3o completa do modelo, deve haver a possibilidade de modificar os dados fonte e as ferramentas.\n
A impossibilidade de reproduzir o trabalho realizado para criar o modelo, sem acesso aos dados de origem e \u00e0s ferramentas.\n
Seguran\u00e7a e quest\u00f5es \u00e9ticas. Sem dados e ferramentas de origem, a possibilidade de corrigir vulnerabilidades em modelos \u00e9 limitada pela aplica\u00e7\u00e3o de patches bin\u00e1rios ou pela substitui\u00e7\u00e3o completa do modelo. Esses patches podem ser elaborados apenas pelo autor do modelo, e os consumidores do modelo tornam-se totalmente dependentes dele. Ao mesmo tempo, ningu\u00e9m, incluindo os autores do modelo, consegue entender a ess\u00eancia das altera\u00e7\u00f5es propostas dessa forma. A falta de dados de origem tamb\u00e9m dificulta a identifica\u00e7\u00e3o de backdoors em modelos de aprendizado de m\u00e1quina.\n
Restri\u00e7\u00f5es de estudo. Sem dados de origem, n\u00e3o \u00e9 poss\u00edvel confirmar que o modelo foi treinado com dados fornecidos sob licen\u00e7as que permitam tal uso, ou excluir que dados obtidos de forma ilegal n\u00e3o foram utilizados durante o treinamento. Al\u00e9m disso, se dados sob licen\u00e7a GPL foram utilizados durante o treinamento, pode ser necess\u00e1rio analisar a presen\u00e7a de trechos com a c\u00f3pia desses dados nos resultados gerados pelo modelo, para os quais \u00e9 necess\u00e1rio mencionar a fonte e a licen\u00e7a. O desenvolvedor pode adicionar ao seu projeto c\u00f3digo\/conte\u00fado gerado pelo modelo e, inadvertidamente, violar a licen\u00e7a de alguns dados de origem. <\/ul>\n
Em outubro do ano passado, a organiza\u00e7\u00e3o OSI (Open Source Initiative) publicou uma defini\u00e7\u00e3o de sistema de IA aberto (Open Source AI). Um sistema de IA aberto deve oferecer as seguintes capacidades: uso para quaisquer fins sem a necessidade de obter permiss\u00e3o separada; estudar o funcionamento do sistema e inspecionar seus componentes; fazer altera\u00e7\u00f5es para quaisquer fins; transferir para outros tanto a vers\u00e3o original quanto a edi\u00e7\u00e3o ap\u00f3s as mudan\u00e7as, sem restri\u00e7\u00e3o aos fins de uso. Um sistema de IA aberto deve incluir informa\u00e7\u00f5es detalhadas sobre a arquitetura do modelo, dados utilizados durante o treinamento e a metodologia de treinamento, bem como o c\u00f3digo-fonte para executar e treinar o sistema de IA. As informa\u00e7\u00f5es devem ser suficientes para que um desenvolvedor profissional consiga recriar um sistema de IA equivalente por conta pr\u00f3pria, utilizando os mesmos dados ou dados semelhantes para o treinamento. <\/p>\n
A organiza\u00e7\u00e3o de direitos digitais Software Freedom Conservancy (SFC) criticou essa defini\u00e7\u00e3o. O descontentamento surgiu porque os crit\u00e9rios n\u00e3o exigem a apresenta\u00e7\u00e3o dos dados usados para treinar o modelo. Na defini\u00e7\u00e3o da OSI, \u00e9 necess\u00e1rio apenas fornecer informa\u00e7\u00f5es detalhadas sobre os dados utilizados no treinamento, mas n\u00e3o os pr\u00f3prios dados. A defini\u00e7\u00e3o aceita garante apenas duas das quatro liberdades declaradas do Open Source \u2014 a liberdade de usar e a liberdade de distribuir, enquanto as possibilidades de modificar e estudar n\u00e3o est\u00e3o totalmente garantidas. <\/p>\n
A decis\u00e3o da OSI \u00e9 explicada pelo fato de que a publica\u00e7\u00e3o dos dados de origem, em muitos casos, \u00e9 imposs\u00edvel devido a raz\u00f5es que n\u00e3o dependem do desenvolvedor do modelo de IA, como a necessidade de preservar a confidencialidade, o uso de materiais protegidos por direitos autorais, o licenciamento de dados de fornecedores terceiros, etc. Se a exig\u00eancia de fornecimento de dados fosse adicionada, nenhum dos grandes modelos de linguagem existentes teria status de aberto, e a defini\u00e7\u00e3o em si se tornaria uma utopia inating\u00edvel. \n Fonte: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"