Publié le 3 juillet 2024, modifié le 3 juillet 2024.
Par Christophe Romei

Repensons l’IA générative open source : Open-washing et loi européenne sur l’IA

Publié le 3 juillet 2024, modifié le 3 juillet 2024.
Par Christophe Romei

À l'aube de la législation européenne sur l'IA, la question de l'ouverture réelle des systèmes d'IA générative devient cruciale. "Rethinking Open Source Generative AI" explore comment l'open-washing menace la transparence et l'innovation, appelant à une réévaluation des standards d'ouverture pour ces technologies complexes.

La montée en puissance des systèmes d’IA générative dits “open source” suscite un débat crucial sur la véritable nature de leur ouverture et la transparence des technologies qui les sous-tendent. Ce débat est particulièrement pertinent à l’approche de la mise en œuvre de l’EU AI Act, une législation européenne visant à réguler ces technologies. Le document “Rethinking Open Source Generative AI: Open-washing and the EU AI Act” met en lumière les défis et les enjeux liés à cette problématique. L’analyse et la discussion dans le document sont centrées sur les modèles d’IA à usage général et leur environnement réglementaire, sans aborder des industries spécifiques comme celle des constructeurs de smartphone.

La complexité de l’ouverture

L’un des principaux défis réside dans la complexité des systèmes d’IA modernes. Contrairement à d’autres logiciels, les architectures de ces systèmes et leurs processus de formation sont sophistiqués, rendant difficile toute classification simple de l’open-source. Ainsi, il n’est pas suffisant de déclarer qu’un système est “open source” simplement parce que certains aspects, comme les poids des modèles, sont disponibles. L’ouverture doit être mesurée de manière composite, en tenant compte de plusieurs dimensions, telles que l’accès aux ensembles de données de formation, la documentation scientifique et technique, et les méthodes d’accès.

L’Open-washing

Le phénomène de l’open-washing, où les entreprises se présentent comme open-source sans offrir une véritable transparence, est un problème croissant. De nombreux modèles sont qualifiés de “open source” mais ne partagent que les poids des modèles, sans divulguer les données de formation ou les méthodes d’ajustement. Cette approche permet aux entreprises de bénéficier des avantages de l’étiquette “open source” sans s’engager pleinement dans les principes de transparence et de responsabilité. Par conséquent, cela compromet les standards professionnels en matière de développement logiciel et de technologie.

Législation Européenne sur l’IA

L’Acte sur l’IA de l’Union Européenne (UE) impose des exigences potentiellement lourdes aux fournisseurs d’IA à usage général, telles qu’une évaluation de conformité, une surveillance humaine et la fourniture d’une documentation technique détaillée (Annexe IV). Ces exigences marquent une nette amélioration par rapport à la situation actuelle, où les modèles d’IA se sont développés sans surveillance réglementaire adéquate.

L’EU AI Act introduit aussi une nouvelle dimension dans ce débat en accordant une importance particulière à l’open source. Cette législation vise à favoriser l’innovation et la recherche en créant des exemptions pour les modèles ouverts, leur permettant d’échapper à certaines exigences documentaires strictes. Cependant, cette approche crée des incitations pour les entreprises à manipuler la définition de l’open-source afin de contourner les réglementations. Les critiques, telles que Kate Downing et Alek Tarkowski, soulignent que l’Acte de l’UE sur l’IA manque de standards significatifs de transparence des ensembles de données, rendant l’évaluation de l’ouverture encore plus urgente.

Propositions pour une ouverture significative

Le document propose une approche basée sur des preuves pour évaluer l’open-source, reconnaissant que celle-ci doit être composite et graduée. Cette approche inclut 14 dimensions clés, allant des ensembles de données de formation à la documentation technique et aux méthodes d’accès. Un cadre d’évaluation de l’ouverture, lorsqu’il est correctement mis en œuvre, peut aider les régulateurs, les institutions et le public à prendre des décisions éclairées concernant le déploiement des systèmes d’IA générative.

Les risques et opportunités

L’open-washing a des conséquences considérables, freinant l’innovation et la recherche, et créant une fausse impression de transparence auprès du public. Pour contrer cela, le document propose des outils pour évaluer de manière précise et nuancée l’ouverture des systèmes d’IA. Il souligne également l’importance des petits acteurs et des entités non-corporatives qui contribuent significativement au progrès vers des systèmes plus ouverts. Ces modèles, bien que plus petits, peuvent offrir des alternatives précieuses aux modèles géants des grandes entreprises.

En somme, “Rethinking Open Source Generative AI: Open-washing and the EU AI Act” appelle à une réévaluation de ce que signifie réellement être “open source” dans le contexte des systèmes d’IA générative. Il est crucial de promouvoir une ouverture significative, basée sur des preuves, pour garantir la transparence, l’innovation et la responsabilité dans le développement de ces technologies. Le cadre proposé par le document vise à fournir les outils nécessaires pour évaluer et encourager cette ouverture, tout en protégeant les utilisateurs et la société des effets négatifs de l’open-washing.

Ouverture de 40 générateurs de texte décrits comme ouverts, avec ChatGPT d’OpenAI (en bas) comme point de référence fermé.

Ouverture de 40 générateurs de texte décrits comme ouverts, avec ChatGPT d’OpenAI (en bas) comme point de référence fermé.

L’impact de l’Acte sur l’IA de l’UE sur les constructeurs de smartphones

Innovation et développement de produits : Les constructeurs de smartphones pourraient bénéficier de modèles d’IA plus ouverts et accessibles pour intégrer des fonctionnalités avancées dans leurs appareils. Par exemple, l’amélioration des assistants vocaux, des systèmes de reconnaissance faciale, et des applications de caméra intelligente pourrait être facilitée par des modèles d’IA open source.L’Acte sur l’IA encourage l’innovation et la recherche open source, ce qui pourrait accélérer le développement de nouvelles technologies pour les smartphones.

Conformité réglementaire : Les constructeurs de smartphones devront s’assurer que leurs systèmes d’IA intégrés respectent les nouvelles régulations de l’UE. Cela inclut la transparence sur les algorithmes utilisés, les sources de données d’entraînement, et les processus de validation de l’IA. Les exemptions pour les modèles open source pourraient alléger certaines exigences réglementaires, mais les entreprises devront toujours fournir des résumés détaillés des données de formation et des processus de réglage.

Coût et accès à la technologie : L’accès à des modèles d’IA open source pourrait réduire les coûts de développement pour les constructeurs de smartphones, car ils n’auraient pas à développer leurs propres modèles d’IA propriétaires à partir de zéro. Cependant, ils devront peut-être investir dans des compétences et des infrastructures pour adapter et intégrer ces modèles open source dans leurs produits.

Concurrence et différenciation : Les entreprises qui réussissent à intégrer de manière transparente et innovante des modèles d’IA open source dans leurs smartphones pourraient se différencier sur le marché grâce à des fonctionnalités avancées et des améliorations de performance. La transparence accrue exigée par l’Acte sur l’IA pourrait également renforcer la confiance des consommateurs envers les constructeurs de smartphones qui adhèrent aux meilleures pratiques de transparence et de responsabilité en matière d’IA.

Risque de “Open-washing” : Comme mentionné dans le document, le phénomène de “open-washing” où les entreprises revendiquent une ouverture sans transparence réelle pourrait affecter la réputation des constructeurs de smartphones. Ils devront éviter de tomber dans cette pratique pour maintenir la confiance des consommateurs et des régulateurs.

 

l’Acte sur l’IA de l’UE pourrait avoir des impacts significatifs sur les constructeurs de smartphones en termes de développement de produits, conformité réglementaire, coûts, concurrence, et gestion de la transparence. Les constructeurs devront naviguer ces défis et opportunités pour maximiser les bénéfices de l’adoption de l’IA tout en respectant les nouvelles régulations.

Lire aussi