{"id":123966,"date":"2025-05-03T15:05:12","date_gmt":"2025-05-03T13:05:12","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/proekt-debian-nachal-obshhee-golosovanie-po-kriteriyam-otkrytosti-ai-modelej"},"modified":"2025-05-03T15:05:12","modified_gmt":"2025-05-03T13:05:12","slug":"proekt-debian-nachal-obshhee-golosovanie-po-kriteriyam-otkrytosti-ai-modelej","status":"publish","type":"post","link":"https:\/\/prohoster.info\/fr\/blog\/news\/proekt-debian-nachal-obshhee-golosovanie-po-kriteriyam-otkrytosti-ai-modelej","title":{"rendered":"Le projet Debian a lanc\u00e9 un vote g\u00e9n\u00e9ral sur les crit\u00e8res de transparence des mod\u00e8les d'IA","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Le projet Debian a annonc\u00e9 la tenue d'un vote g\u00e9n\u00e9ral (GR, g\u00e9n\u00e9ral resolution) des d\u00e9veloppeurs du projet pour approuver les crit\u00e8res d'acceptation des mod\u00e8les d'apprentissage automatique dans le r\u00e9f\u00e9rentiel principal du projet. \u00c0 ce stade, la phase de discussion est lanc\u00e9e, apr\u00e8s laquelle le recueil des votes commencera (la date de d\u00e9but du vote n'est pas encore d\u00e9termin\u00e9e). Environ mille d\u00e9veloppeurs, participant \u00e0 l'accompagnement des paquets et au maintien de l'infrastructure Debian, ont le droit de vote. <\/p>\n
Les mod\u00e8les d'IA distribu\u00e9s sous des licences ouvertes, mais sans fourniture du mat\u00e9riel source et des outils pour entra\u00eener le mod\u00e8le, doivent \u00eatre reconnus comme incompatibles avec les crit\u00e8res Debian d\u00e9finissant les logiciels libres (DFSG, Debian Free Software Guideline). Si la proposition est approuv\u00e9e, de tels mod\u00e8les ne pourront pas \u00eatre inclus dans le r\u00e9f\u00e9rentiel principal du projet (\u00ab main \u00bb). La possibilit\u00e9 de fournir ces mod\u00e8les dans les r\u00e9f\u00e9rentiels \u00ab non-free \u00bb au cours d'un vote en cours n'est pas envisag\u00e9e. <\/p>\n
Parmi les probl\u00e8mes soulev\u00e9s par l'absence de donn\u00e9es utilis\u00e9es lors de l'entra\u00eenement, on mentionne : <\/p>\n
\n
L'absence de donn\u00e9es sources ou de programmes utilis\u00e9s pour l'entra\u00eenement limite consid\u00e9rablement les possibilit\u00e9s de modification des mod\u00e8les d'IA existants. Bien que la licence autorise la modification, en pratique, une telle modification est compliqu\u00e9e. Des changements peuvent \u00eatre n\u00e9cessaires, par exemple, pour remplacer un tokenizeur requis pour ajouter le support de nouvelles langues.\n
Les donn\u00e9es utilis\u00e9es pour l'entra\u00eenement peuvent \u00eatre interpr\u00e9t\u00e9es comme le \u00ab code source \u00bb du mod\u00e8le, et le mod\u00e8le final comme le r\u00e9sultat du traitement de ce \u00ab code source \u00bb par des outils d'entra\u00eenement. En cons\u00e9quence, pour modifier pleinement le mod\u00e8le, il doit \u00eatre possible de modifier les donn\u00e9es source et les outils.\n
L'impossibilit\u00e9 de reproduire le travail effectu\u00e9 pour cr\u00e9er le mod\u00e8le sans acc\u00e8s aux donn\u00e9es sources et aux outils.\n
S\u00e9curit\u00e9 et questions \u00e9thiques. Sans donn\u00e9es sources et outils, la possibilit\u00e9 de corriger les vuln\u00e9rabilit\u00e9s dans les mod\u00e8les est limit\u00e9e par l'application de correctifs binaires ou par le remplacement complet du mod\u00e8le. De tels correctifs ne peuvent \u00eatre pr\u00e9par\u00e9s que par l'auteur du mod\u00e8le, et les utilisateurs du mod\u00e8le deviennent enti\u00e8rement d\u00e9pendants de celui-ci. De plus, personne, y compris les auteurs du mod\u00e8le, n'est capable de comprendre la nature des modifications propos\u00e9es de cette mani\u00e8re. L'absence de donn\u00e9es sources complique \u00e9galement l'identification des substitutions de backdoors dans les mod\u00e8les d'apprentissage automatique.\n
Restrictions li\u00e9es \u00e0 l'apprentissage. Sans donn\u00e9es sources, il est impossible de confirmer que le mod\u00e8le a \u00e9t\u00e9 entra\u00een\u00e9 sur des donn\u00e9es fournies sous des licences autorisant une telle utilisation, ou d'exclure que des donn\u00e9es obtenues de mani\u00e8re ill\u00e9gale n'ont pas \u00e9t\u00e9 utilis\u00e9es lors de l'entra\u00eenement. De plus, si des donn\u00e9es sous licence GPL ont \u00e9t\u00e9 utilis\u00e9es lors de l'entra\u00eenement, une analyse pourrait \u00eatre n\u00e9cessaire pour d\u00e9terminer la pr\u00e9sence dans les r\u00e9sultats fournis par le mod\u00e8le de fragments copi\u00e9s de ces donn\u00e9es, pour lesquels une mention de la source et de la licence est obligatoire. Le d\u00e9veloppeur peut int\u00e9grer dans son projet du code\/contenu g\u00e9n\u00e9r\u00e9 par le mod\u00e8le et involontairement violer la licence de certaines donn\u00e9es sources. <\/ul>\n
En octobre de l'ann\u00e9e derni\u00e8re, l'organisation OSI (Open Source Initiative) a publi\u00e9 une d\u00e9finition d'un syst\u00e8me d'IA ouverte (Open Source AI). Un syst\u00e8me d'IA ouverte doit offrir les possibilit\u00e9s suivantes : utilisation \u00e0 toutes fins sans n\u00e9cessiter d'accord sp\u00e9cifique ; \u00e9tude du fonctionnement du syst\u00e8me et inspection de ses composants ; apport de modifications \u00e0 des fins diverses ; transmission \u00e0 d'autres personnes sous forme originale, ainsi que sous forme r\u00e9vis\u00e9e apr\u00e8s modifications, sans restriction quant aux fins d'utilisation. Un syst\u00e8me d'IA ouverte doit inclure des informations d\u00e9taill\u00e9es sur l'architecture du mod\u00e8le, les donn\u00e9es utilis\u00e9es lors de l'entra\u00eenement et la m\u00e9thodologie d'apprentissage, ainsi que le code source pour ex\u00e9cuter et entra\u00eener le syst\u00e8me d'IA. Les informations doivent \u00eatre suffisantes pour qu'un d\u00e9veloppeur professionnel puisse recr\u00e9er par ses propres moyens un syst\u00e8me d'IA \u00e9quivalent, en utilisant les m\u00eames donn\u00e9es ou des donn\u00e9es similaires pour l'entra\u00eenement. <\/p>\n
L'organisation de d\u00e9fense des droits Software Freedom Conservancy (SFC) a critiqu\u00e9 cette d\u00e9finition. Le m\u00e9contentement provient du fait que les crit\u00e8res n'imposent pas d'exigences quant \u00e0 la fourniture des donn\u00e9es utilis\u00e9es pour entra\u00eener le mod\u00e8le. La d\u00e9finition de l'OSI ne n\u00e9cessite que des informations d\u00e9taill\u00e9es sur les donn\u00e9es utilis\u00e9es pour l'entra\u00eenement, mais pas les donn\u00e9es elles-m\u00eames. La d\u00e9finition adopt\u00e9e garantit seulement deux des quatre libert\u00e9s d\u00e9clar\u00e9es de l'Open Source : la possibilit\u00e9 d'utiliser et la possibilit\u00e9 de distribuer, tandis que les possibilit\u00e9s de modifier et d'\u00e9tudier ne sont pas enti\u00e8rement assur\u00e9es. <\/p>\n
La d\u00e9cision de l'OSI s'explique par le fait que la publication des donn\u00e9es sources est souvent impossible pour des raisons ind\u00e9pendantes du d\u00e9veloppeur du mod\u00e8le d'IA, telles que la n\u00e9cessit\u00e9 de pr\u00e9server la confidentialit\u00e9, l'utilisation de mat\u00e9riaux prot\u00e9g\u00e9s par le droit d'auteur, la licence des donn\u00e9es aupr\u00e8s de tiers fournisseurs, etc. Si une exigence de fourniture de donn\u00e9es \u00e9tait ajout\u00e9e, aucun des mod\u00e8les linguistiques de grande taille existants ne pourrait obtenir le statut d'open source, et la d\u00e9finition elle-m\u00eame deviendrait une utopie inatteignable. \n Source : opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"