Bradley M. Kuhn, director ejecutivo y uno de los creadores de la organización de defensa Software Freedom Conservancy (SFC), ha criticado la reciente definición de sistema de IA abierta publicada por la OSI (Open Source Initiative). Según Kuhn, la OSI se apresuró a publicar la versión final de la definición y la aprobó sin un largo debate exhaustivo y en una fase inicial del desarrollo de estos sistemas. En comparación, la definición de Open Source fue dada después de muchos años de reflexión y discusión. En cuanto a la definición publicada de sistema de IA abierta, en esta etapa debería haber sido denominada no definición, sino recomendación.
Kuhn teme que los criterios adoptados en su forma actual para la IA abierta tendrán consecuencias de largo alcance, socavarán la autoridad del término Open Source y llevarán a una división en la comunidad. El problema es que, a pesar de las objeciones, la OSI llegó a un compromiso y no incluyó la exigencia de proporcionar datos utilizados para entrenar el modelo. La razón de este compromiso es que, si se añadiera tal cláusula, ninguno de los modelos de lenguaje grandes existentes obtendría el estatus de abierto.
Según la OSI, mantener una definición de sistema de IA abierta que considere las realidades actuales impedirá que los productores manipulen el término "abierto", quienes en condiciones de incertidumbre llaman abiertos a modelos únicamente por la disponibilidad de coeficientes, incluso si la licencia del modelo limita su uso (por ejemplo, muchos modelos prohíben su aplicación en proyectos comerciales) y no se revelan los detalles de implementación.
En la definición aprobada de sistema de IA abierta por la OSI, solo se requiere proporcionar información detallada sobre los datos utilizados para entrenar, pero no los propios datos. Sin la provisión de los datos originales en los que fue entrenado el modelo, no es posible reproducir completamente el sistema de IA, lo que va en contra del concepto de código abierto. Así, la organización OSI se limitó a considerar el modelo de IA solo como una tecnología y no los vio como un producto integral.
La definición aceptada de un sistema de IA abierta garantiza solo dos de las cuatro libertades declaradas de Open Source: la posibilidad de usar y la posibilidad de distribuir. Sin embargo, las libertades de modificar y estudiar no están totalmente garantizadas. Además, la falta de datos de origen dificulta la identificación de backdoors en los modelos de aprendizaje automático.
Por otro lado, la publicación de los datos de origen en muchos casos es imposible debido a razones ajenas al desarrollador del modelo de IA, como la necesidad de mantener la confidencialidad, el uso de materiales protegidos por derechos de autor, la licencia de datos de proveedores externos, etc. Según los críticos de la definición aceptada, tales problemas no justifican la disminución y desvalorización del concepto de Open Source.
Bradley Kuhn tiene la intención de participar en las próximas elecciones de liderazgo de la OSI y tratar de ingresar a la junta directiva para lograr la revocación de la definición aceptada y su conversión en una recomendación. Además de la organización Software Freedom Conservancy, algunos desarrolladores del proyecto Debian también han expresado su desacuerdo con la definición de IA abierta, proponiendo una votación general para llamar la atención sobre el problema. La Fundación FSF también está trabajando en su propia definición de sistema de IA libre, que tiene la intención de incluir el requisito de accesibilidad de todos los datos, aunque reconoce que existen razones éticas que en algunos casos impiden la divulgación de datos (por ejemplo, si se utilizaron datos médicos o personales durante el entrenamiento).
Fuente: opennet.ru
