IA open source en entreprise : risques juridiques, licences et AI Act
Llama, Mistral, Falcon, Stable Diffusion… Les modèles d'IA open source séduisent les entreprises par leur coût apparent nul et leur flexibilité. Mais "open source" ne signifie pas "sans contraintes". Derrière chaque téléchargement se cachent des licences complexes, des obligations de conformité et une responsabilité juridique que l'AI Act européen est venu préciser. Tour d'horizon des risques concrets pour les DPO, RSSI et responsables conformité.
Open source IA : une réalité juridique bien différente du logiciel classique
Le terme "open source" appliqué aux modèles d'IA est un abus de langage hérité du monde du développement logiciel. En pratique, les licences IA présentent des spécificités majeures que peu d'équipes juridiques anticipent.
Des licences hétérogènes et souvent restrictives
Contrairement à une licence MIT ou Apache 2.0 standard, les licences des grands modèles de fondation intègrent fréquemment :
- Des clauses d'usage acceptable (Acceptable Use Policy) qui interdisent certaines applications commerciales ou sectorielles — Meta AI Research License pour Llama 2 interdit l'usage aux plateformes dépassant 700 millions d'utilisateurs actifs mensuels.
- Des restrictions de fine-tuning redistribuable : certains modèles autorisent l'adaptation interne mais interdisent la redistribution du modèle affiné sous une autre licence.
- Des obligations de traçabilité sur les données d'entraînement utilisées pour les versions dérivées.
Exemple concret : une ESN qui fine-tune Llama 3 pour un client grand compte et livre le modèle résultant comme composant logiciel doit vérifier si la licence autorise cette redistribution commerciale — ce qui n'est pas garanti.
Le mythe de la "gratuité" des modèles ouverts
L'absence de coût de licence ne supprime pas les coûts de conformité : audit du périmètre d'usage, documentation des droits de propriété intellectuelle sur les données d'entraînement amont, et désormais, les obligations documentaires de l'AI Act. Ces coûts cachés surprennent systématiquement les directions achats qui n'ont pas intégré la gouvernance IA dans leur processus de contractualisation.
Ce que l'AI Act change pour les déployeurs de modèles open source
L'AI Act introduit une distinction fondamentale entre le fournisseur (provider) et le déployeur (deployer). Cette distinction a des conséquences directes pour toute entreprise qui intègre un modèle open source dans ses systèmes.
Quand vous devenez fournisseur sans le savoir
L'article 25 de l'AI Act précise qu'un déployeur devient fournisseur dès lors qu'il modifie substantiellement un système d'IA à haut risque. Concrètement, si votre équipe Data Science fine-tune un modèle open source pour une application RH (sélection de CV, évaluation de performance) ou de crédit scoring, vous basculez dans les obligations du fournisseur :
- Documentation technique complète (Annexe IV)
- Évaluation de conformité avant mise sur le marché
- Enregistrement dans la base de données EU AI Act
- Mise en place d'un système de gestion des risques
Les modèles GPAI open source : un régime spécifique
L'AI Act prévoit un régime allégé pour les modèles d'IA à usage général (GPAI) publiés sous licences véritablement ouvertes — à condition que les poids du modèle soient publiquement accessibles. Ces modèles bénéficient d'exemptions partielles sur les obligations de transparence et de documentation. Cependant, si le modèle GPAI présente un risque systémique (capacités supérieures à 10^25 FLOPs d'entraînement), les exemptions ne s'appliquent plus, quelle que soit la licence.
Attention : cette exemption concerne le fournisseur originel du modèle, pas nécessairement l'entreprise qui le déploie dans un contexte métier spécifique.
Risques juridiques concrets et points de vigilance contractuels
Propriété intellectuelle et données d'entraînement
Les modèles open source ont été entraînés sur des corpus dont la licéité fait l'objet de contentieux actifs (procès Getty Images contre Stability AI, class actions aux États-Unis contre OpenAI et Meta). En intégrant ces modèles, votre entreprise s'expose potentiellement à une responsabilité indirecte si des œuvres protégées ont été utilisées sans droit. Les clauses d'indemnisation des éditeurs propriétaires (Microsoft Copilot Copyright Commitment, indemnisation Adobe) n'existent pas dans l'open source.
Shadow AI et modèles non déclarés
Le risque de shadow AI est amplifié par l'accessibilité des modèles open source. Un développeur peut télécharger et déployer un modèle sur Hugging Face en quelques minutes, sans validation juridique ni sécurité. Pour les RSSI, cela représente un vecteur d'exfiltration de données sensibles (le modèle tourne souvent en local, mais les données qui le "nourrissent" peuvent ensuite remonter via des pipelines non maîtrisés). La gouvernance AI Act exige un inventaire des systèmes d'IA déployés : les modèles open source non déclarés constituent une non-conformité directe.
Clause de responsabilité dans les contrats fournisseurs
Lorsqu'un prestataire livre une solution intégrant un modèle open source, plusieurs points contractuels doivent être négociés explicitement :
- Audit de licence : le prestataire doit fournir un SBOM (Software Bill of Materials) incluant les modèles IA et leurs licences.
- Allocation de responsabilité AI Act : qui assume le rôle de fournisseur ou de déployeur ? Cette clause doit être explicite.
- Garantie contre les réclamations PI : absence de garantie dans l'open source, à compenser par une clause d'indemnisation spécifique du prestataire.
- Obligation de mise à jour : en cas d'évolution de la licence ou de décision de justice affectant le modèle.
Recommandations pratiques pour sécuriser vos déploiements
Face à ces risques, quelques mesures concrètes permettent de structurer une approche de gouvernance adaptée :
- Créer un registre des modèles IA incluant les modèles open source avec leurs licences, leur version, leur cas d'usage et leur classification AI Act (risque minimal, limité, haut risque).
- Systématiser l'analyse de licence avant tout déploiement : identifier si la licence autorise l'usage commercial, le fine-tuning, la redistribution et si elle impose des obligations de réciprocité.
- Qualifier le rôle juridique de votre organisation pour chaque système : déployeur ou fournisseur au sens de l'AI Act ?
- Intégrer les clauses IA dans les contrats prestataires dès aujourd'hui, en anticipation de l'application progressive du règlement (obligations GPAI : août 2025 ; systèmes haut risque : août 2026).
- Former les équipes techniques aux implications juridiques des licences IA — un développeur qui choisit un modèle doit comprendre que ce choix a des conséquences contractuelles.
L'IA open source n'est pas un Far West juridique, mais son cadre est encore en construction. Les entreprises qui mettent en place une gouvernance rigoureuse dès maintenant éviteront des requalifications coûteuses et des sanctions AI Act dont les montants peuvent atteindre 15 millions d'euros ou 3 % du chiffre d'affaires mondial.
FAQ
Un modèle open source est-il toujours utilisable librement en entreprise ?
Non. Chaque modèle open source est soumis à une licence spécifique qui peut restreindre les usages commerciaux, le fine-tuning redistribuable ou certains secteurs d'activité. Il est indispensable d'analyser la licence avant tout déploiement professionnel.
L'AI Act s'applique-t-il aux modèles open source que j'intègre en interne ?
Oui. Si vous déployez un modèle open source dans un contexte métier, vous êtes déployeur au sens de l'AI Act. Si vous le modifiez substantiellement pour un usage à haut risque, vous devenez fournisseur et supportez des obligations documentaires et d'évaluation de conformité renforcées.
Comment gérer le risque de shadow AI lié aux modèles open source ?
En mettant en place un registre obligatoire des systèmes d'IA, en sensibilisant les équipes techniques aux obligations de déclaration, et en intégrant les modèles open source dans votre politique de gouvernance IA avec un processus de validation avant déploiement.
Que doit contenir un contrat avec un prestataire qui utilise un modèle open source ?
Le contrat doit inclure un SBOM listant les modèles et leurs licences, une clause d'allocation des rôles fournisseur/déployeur AI Act, une garantie contre les réclamations de propriété intellectuelle, et une obligation de mise à jour en cas d'évolution de la licence ou de décision de justice.
Quelle est la différence entre un modèle GPAI open source et un modèle à risque systémique sous l'AI Act ?
Un modèle GPAI publié sous licence ouverte bénéficie d'exemptions partielles sur les obligations de transparence. Mais si ce modèle dépasse 10^25 FLOPs d'entraînement, il est considéré à risque systémique et les exemptions ne s'appliquent plus, imposant des obligations complètes même à l'éditeur open source.