Publié le 25 septembre 2023.
Par Christophe Romei

Les enjeux de la transparence et de l’éthique pour Open AI

Publié le 25 septembre 2023.
Par Christophe Romei
Création : @servicesmobiles

Création : @servicesmobiles

Des plaintes, des enquêtes qui met en lumière les enjeux de la "transparence" et de l'"éthique" dans les pratiques de traitement des données par les géants de l'IA.

L’intelligence artificielle (IA) est une technologie en plein essor qui a le potentiel de transformer de nombreux aspects de notre vie. Cependant, son développement et son utilisation soulèvent également des enjeux majeurs, notamment en matière de transparence et d’éthique. La transparence est essentielle pour garantir que les systèmes d’IA sont conçus et utilisés de manière responsable. Les acteurs de l’IA doivent être en mesure de fournir des informations claires et complètes sur leurs systèmes, notamment sur leurs données d’entraînement, leurs algorithmes et leurs résultats. Cela permettra aux utilisateurs de comprendre comment fonctionnent ces systèmes et de s’assurer qu’ils ne sont pas utilisés à des fins néfastes.

L’éthique est également un enjeu fondamental pour l’IA. Les systèmes d’IA doivent être conçus et utilisés de manière à respecter les droits humains et les valeurs morales. Cela implique de s’assurer que ces systèmes ne sont pas utilisés pour discriminer, nuire ou porter atteinte à la vie privée des individus.

Plainte et enquête pour Open AI

Un groupe d’auteurs américains s’unissent pour lancer un procès spectaculaire contre OpenAI.Le syndicat représentant des écrivains de fiction américains, tels que John Grisham, George R.R. Martin et Jodi Picoult, a porté plainte contre OpenAI pour violation présumée de droits d’auteur. Selon eux, leurs romans auraient été utilisés pour entraîner les grands modèles linguistiques du ChatGPT d’OpenAI. Le procès, déposé par la Guilde des auteurs mardi dernier (19 septembre) dans un tribunal fédéral de Manhattan, New York, stipule qu’OpenAI a copié “les œuvres des plaignants en gros, sans permission ni considération”. Ces œuvres auraient ensuite été introduites dans ses algorithmes de grand modèle linguistique, “conçus pour produire des réponses textuelles semblables à celles des humains aux sollicitations et requêtes des utilisateurs”.

Autre enquête par l’autorité polonaise de protection des données. Cette démarche fait suite à une plainte accusant l’IA générative ChatGPT de produire de fausses informations et d’enfreindre potentiellement les lois sur la protection des données. La plainte déposée auprès du Bureau de protection des données personnelles en Pologne allègue que ChatGPT a fourni des informations incorrectes sur un utilisateur. De plus, une demande ultérieure visant à rectifier ces données aurait été ignorée par OpenAI. L’autorité de surveillance a noté que OpenAI n’avait pas informé le plaignant de la manière dont elle accède à leurs données.

Le manque de transparence dans les principes de traitement des données est ainsi mis en avant par l’utilisateur. En tout cas cette enquête met en lumière les enjeux de la transparence”et de l’éthique dans les pratiques de traitement des données par les géants de l’IA. Le verdict de cette enquête pourrait avoir des implications significatives pour OpenAI et d’autres entreprises du secteur de l’IA.

Il convient de noter que ce n’est pas la première fois qu’OpenAI fait face à des problèmes de réglementation. L’organisation a également rencontré des obstacles réglementaires en Italie.

Les préoccupations autour de l’utilisation des chatbots IA génératifs

L’une des préoccupations concernant l’utilisation des chatbots IA génératifs est l’absence de clarté sur la provenance du code source de la propriété intellectuelle (PI) ou du langage ouvert utilisé pour recueillir les informations nécessaires au développement des plateformes. La PDG de la Guilde des auteurs, Mary Rasenberger, a déclaré que “les auteurs doivent avoir la possibilité de contrôler si et comment leurs œuvres sont utilisées par l’IA générative”. Elle a souligné qu’il était “impératif d’arrêter ce vol sur le champ, sinon nous détruirons notre incroyable culture littéraire”.

OpenAI a pris des mesures concrètes

OpenAI a pris des mesures concrètes pour mettre en œuvre des principes. L’entreprise publie des informations détaillées sur ses systèmes, notamment sur leurs données d’entraînement, leurs algorithmes et leurs résultats. Elle a également créé un comité d’éthique chargé de superviser le développement de ses systèmes. Les principes quels doit mettre en place sont d’éviter la création d’une IA biaisée ou discriminatoire, de promouvoir la transparence et la responsabilité dans le développement de l’IA et encourager la collaboration entre les chercheurs, les développeurs et le public pour garantir une utilisation responsable de l’IA.

Cela d’autant que le mois dernier, il a été signalé qu’OpenAI était sur la piste de réaliser $ 1 milliard de revenus cette année grâce aux abonnements des utilisateurs et en octroyant sa technologie à d’autres sociétés 🙂

La régulation peine

Alors que le Congrès US est alarmé par l’augmentation non limitée et fulgurante de l’IA au cours de la dernière année, les législateurs ont du mal à réglementer. Les autorités fédérales ont été lentes à suivre parce que l’IA est une telle nouvelle technologie et progresse à un rythme effréné. Les législateurs sont également mal équipés pour faire face au boom de l’IA car la plupart n’ont pas de formation technique et lutte pour comprendre les mécanismes par lesquels les technologies de l’IA fonctionnent. Mais il est clair qu’il doit y avoir des lois et des règlements pour garantir que le progrès technologique prend forme d’une manière équitable.

Lire aussi