Bradley M. Kuhn, diretor executivo e um dos fundadores da organização de defesa dos direitos Software Freedom Conservancy (SFC), criticou a definição recentemente publicada pela OSI (Open Source Initiative) sobre sistemas de IA aberta (Open Source AI). Segundo Kuhn, a organização OSI apressou-se a publicar a versão final da definição e a aprovou sem um debate amplo e aprofundado durante a fase inicial do desenvolvimento desses sistemas. Para comparação, a definição de Open Source foi dada após muitos anos de reflexões e discussões. Quanto à definição publicada de sistemas de IA aberta, nesta fase, deveria ser chamada de recomendação, e não de definição.
Kuhn teme que os critérios adotados na forma atual para IA aberta tenham consequências de longo alcance, minem a credibilidade do termo Open Source e causem uma divisão na comunidade. O problema é que, apesar das objeções, a organização OSI chegou a um compromisso e não incluiu a exigência de fornecimento dos dados utilizados para treinar o modelo. O motivo do compromisso foi que, se uma cláusula desse tipo fosse adicionada, nenhum dos grandes modelos de linguagem existentes obteria o status de aberto.
Segundo a OSI, a elaboração de uma definição de sistema de IA aberta que leve em conta as realidades atuais permitirá evitar manipulações por parte dos produtores com o termo 'aberto', que em situações de incerteza chamam de abertos modelos apenas com base na disponibilidade de pesos, mesmo que a licença do modelo restrinja o seu uso (por exemplo, muitos modelos proíbem a aplicação em projetos comerciais) e não revelem os detalhes da implementação.
Na definição aprovada pela OSI de sistemas de IA aberta, apenas é necessário fornecer informações detalhadas sobre os dados utilizados para o treinamento, mas não os próprios dados. Sem a disponibilização dos dados originais nos quais o modelo foi treinado, não é possível reproduzir completamente o sistema de IA, o que contradiz o conceito de código aberto. Assim, a organização OSI limitou-se a considerar o modelo de IA apenas como uma tecnologia e não analisou-os como um produto integral.
A definição atualmente aceita de um sistema de AI aberto garante apenas duas das quatro liberdades declaradas do Open Source — a liberdade de usar e a liberdade de distribuir, enquanto as liberdades de modificar e estudar não são garantidas completamente. Além disso, a falta de dados de origem dificulta a identificação de substituições de backdoors em modelos de aprendizado de máquina.
Por outro lado, a publicação de dados de origem, em muitos casos, é impossível devido a razões que não dependem do desenvolvedor do modelo de AI, como a necessidade de manter a confidencialidade, o uso de materiais protegidos por direitos autorais, a licenciamento de dados de fornecedores externos, etc. Na opinião dos críticos da definição aceita, esses problemas não justificam a diminuição ou desvalorização do conceito de Open Source.
Bradley Kuhn pretende participar das próximas eleições para a liderança da OSI e tentar ingressar no conselho diretor para conseguir a revogação da definição aceita e sua transição para uma categoria de recomendações. Além da organização Software Freedom Conservancy, alguns desenvolvedores do projeto Debian expressaram seu desacordo com a definição de AI aberta e propuseram uma votação geral para chamar a atenção para o problema. O Fund for Open Source também está desenvolvendo sua definição de um sistema de AI livre, que pretende incluir na sua definição a exigência de acessibilidade de todos os dados, embora reconheça que existem razões éticas que podem impedir a divulgação em certos casos (por exemplo, se dados médicos ou pessoais foram utilizados no treinamento).
Fonte: opennet.ru
