O projeto Debian anunciou a realização de uma votação geral (GR, resolução geral) entre os desenvolvedores do projeto para a aprovação dos critérios de aceitação de modelos de aprendizado de máquina no repositório principal do projeto. Neste momento, a fase de discussão foi iniciada, após a qual a coleta de votos começará (a data de início da votação ainda não foi definida). Cerca de mil desenvolvedores que trabalham na manutenção de pacotes e na infraestrutura do Debian têm direito a voto.
Modelos de IA distribuídos sob licenças abertas, mas sem a disponibilização dos materiais de origem e ferramentas para treinar o modelo, são propostos para serem considerados incompatíveis com os critérios do Debian que definem software livre (DFSG, Diretriz de Software Livre do Debian). Se a proposta for aprovada, tais modelos não poderão ser incluídos no repositório principal do projeto ('main'). A possibilidade de fornecer esses modelos nos repositórios 'non-free' não está sendo considerada na votação em andamento.
Entre os problemas que surgem na ausência de dados utilizados no treinamento, estão mencionados:
- A falta de dados ou programas usados para o treinamento limita severamente as possibilidades de modificação dos modelos de IA prontos. Apesar de a licença permitir modificações, na prática, tal modificação é dificultada. Mudanças podem ser necessárias, por exemplo, na necessidade de substituir o tokenizador, essencial para adicionar suporte a novos idiomas.
- Os dados utilizados para o treinamento podem ser vistos como o 'código-fonte' do modelo, e o modelo pronto como o resultado do processamento desse 'código-fonte' por ferramentas de treinamento. Portanto, para uma modificação completa do modelo, deve haver a possibilidade de modificar os dados de origem e as ferramentas.
- A impossibilidade de reproduzir o trabalho realizado para criar o modelo, sem acesso aos dados de origem e às ferramentas.
- Segurança e questões éticas. Sem dados e ferramentas de origem, a possibilidade de corrigir vulnerabilidades em modelos é limitada pela aplicação de patches binários ou pela substituição completa do modelo. Esses patches podem ser elaborados apenas pelo autor do modelo, e os consumidores do modelo tornam-se totalmente dependentes dele. Ao mesmo tempo, ninguém, incluindo os autores do modelo, consegue entender a essência das alterações propostas dessa forma. A falta de dados de origem também dificulta a identificação de backdoors em modelos de aprendizado de máquina.
- Restrições de estudo. Sem dados de origem, não é possível confirmar que o modelo foi treinado com dados fornecidos sob licenças que permitam tal uso, ou excluir que dados obtidos de forma ilegal não foram utilizados durante o treinamento. Além disso, se dados sob licença GPL foram utilizados durante o treinamento, pode ser necessário analisar a presença de trechos com a cópia desses dados nos resultados gerados pelo modelo, para os quais é necessário mencionar a fonte e a licença. O desenvolvedor pode adicionar ao seu projeto código/conteúdo gerado pelo modelo e, inadvertidamente, violar a licença de alguns dados de origem.
Em outubro do ano passado, a organização OSI (Open Source Initiative) publicou uma definição de sistema de IA aberto (Open Source AI). Um sistema de IA aberto deve oferecer as seguintes capacidades: uso para quaisquer fins sem a necessidade de obter permissão separada; estudar o funcionamento do sistema e inspecionar seus componentes; fazer alterações para quaisquer fins; transferir para outros tanto a versão original quanto a edição após as mudanças, sem restrição aos fins de uso. Um sistema de IA aberto deve incluir informações detalhadas sobre a arquitetura do modelo, dados utilizados durante o treinamento e a metodologia de treinamento, bem como o código-fonte para executar e treinar o sistema de IA. As informações devem ser suficientes para que um desenvolvedor profissional consiga recriar um sistema de IA equivalente por conta própria, utilizando os mesmos dados ou dados semelhantes para o treinamento.
A organização de direitos digitais Software Freedom Conservancy (SFC) criticou essa definição. O descontentamento se deve ao fato de que nos critérios não há requisitos para a divulgação dos dados utilizados para treinar o modelo. A definição da OSI exige apenas que se forneça informações detalhadas sobre os dados utilizados no treinamento, mas não os próprios dados. A definição aceita garante apenas duas das quatro liberdades declaradas do Open Source — a possibilidade de usar e a possibilidade de distribuir, enquanto as possibilidades de modificar e estudar não estão totalmente garantidas.
A decisão da OSI é explicada pelo fato de que a publicação dos dados de origem, em muitos casos, é impossível devido a razões que não dependem do desenvolvedor do modelo de IA, como a necessidade de preservar a confidencialidade, o uso de materiais protegidos por direitos autorais, o licenciamento de dados de fornecedores terceiros, etc. Se a exigência de fornecimento de dados fosse adicionada, nenhum dos grandes modelos de linguagem existentes teria status de aberto, e a definição em si se tornaria uma utopia inatingível.
Fonte: opennet.ru
