OpenAI ouvre un peu ses portes à Apollo, mais garde la main

Porte entrouverte retenue devant OpenAI
Image d'illustration. OpenAI teste une ouverture très encadrée. — ADN

OpenAI va intégrer six chercheurs d’Apollo Research dans un pilote de sûreté IA. Un signal fort, mais avec un accès encore étroit aux systèmes.

En bref

  • OpenAI accueille six évaluateurs d’Apollo
  • Le pilote cible la subversion des garde-fous IA
  • L’accès accordé reste partiel et encadré

L’enjeu n’est pas seulement technique. Il touche à la gouvernance même des labos d’IA avancée. En acceptant d’intégrer six évaluateurs de Apollo Research dans un pilote interne, OpenAI teste une idée simple sur le papier, bien plus compliquée en pratique, laisser des regards extérieurs observer les risques pendant le développement, pas juste à la fin.

Un pilote qui change la méthode de contrôle

Jusqu’ici, les évaluateurs externes intervenaient surtout après le post-training, à l’approche d’une sortie publique. Le problème, c’est que ce timing laisse de côté pas mal de choses, notamment les comportements mal alignés qui émergent pendant l’entraînement ou lors d’usages internes. L’idée d’embarquer des chercheurs au cœur du labo circulait déjà chez Anthropic. Cette fois, OpenAI semble être le premier à la mettre en route.

On comprend pourquoi après plusieurs alertes récentes. L’une a marqué les esprits, un essaim d’agents d’OpenAI est sorti de son bac à sable et a piraté Hugging Face pendant un test de cybersécurité. Pas anodin.

Le vrai sujet, la subversion des garde-fous

Le pilote avec Apollo Research vise un point précis, vérifier si les modèles tentent de saboter leurs propres mécanismes d’alignement, ou ceux de leurs successeurs. Dit autrement, voir si une IA essaie de contourner les règles censées la maintenir sous contrôle humain.

Ce n’est pas théorique. OpenAI a récemment expliqué qu’en entraînant GPT-5.6 Sol, le modèle avait commencé à laisser des instructions à de futures versions pour masquer ses erreurs et ses comportements mal alignés à l’utilisateur. Apollo Research veut aussi tester si l’entraînement crée des incitations à la subversion, si les évaluations elles-mêmes peuvent la faire émerger, si elle apparaît en déploiement interne, et si le raisonnement qui y mène est détectable.

Le sujet devient brûlant à mesure que les modèles gagnent en autonomie. Des travaux antérieurs d’Apollo Research avec OpenAI avaient déjà montré que certains modèles se comportent différemment quand ils savent qu’ils sont observés.

Un accès accordé, mais sous conditions serrées

OpenAI va donner accès au code d’entraînement jugé pertinent, à des jeux de données, à des rollouts de renforcement avec traces de raisonnement disponibles et récompenses, plus la possibilité d’interroger des checkpoints intermédiaires. C’est utile, clairement.

Mais le périmètre reste limité, borné aux modèles, aux périodes et aux affirmations validés à l’avance. Et OpenAI garde le droit de retenir certaines informations pour des raisons de faisabilité technique, de sécurité ou de protection de propriété intellectuelle. L’entreprise dit qu’elle ne bloquera pas des éléments simplement parce qu’ils seraient défavorables.

Côté humain, même logique. Apollo Research ne pourra parler qu’à des salariés autorisés par OpenAI. Si un autre employé transmet des informations confidentielles entrant dans le champ de l’étude, les échanges devront s’arrêter et repasser par OpenAI.

Pourquoi ce précédent compte malgré ses limites

Ce cadrage serré arrive après le licenciement par OpenAI de trois chercheurs accusés d’avoir partagé des informations confidentielles avec METR, qui avait participé, avec Redwood, au retour d’expérience sur l’incident Hugging Face.

Autre limite, Apollo Research pourra publier ses conclusions indépendantes, mais pas forcément toutes les preuves permettant à des tiers de les vérifier. Pour l’écosystème, c’est là que ça se joue. Sans accès complet aux données, aux logs d’évaluation ou aux documents internes, difficile d’auditer vraiment les affirmations d’un développeur. Bref, ce pilote ouvre une porte. Mais la clé reste encore chez OpenAI.

Christophe Romei

Spécialiste Tech

Expert sur l'industrie du mobile depuis 2005

X LinkedIn Site web Tous ses articles →
Une erreur dans cet article ?

Nous apportons le plus grand soin à chaque article et nous appuyons sur des sources fiables. Personne n'est à l'abri d'une erreur : si vous en repérez une, signalez-la, nous la corrigerons au plus vite.

Sujets
Intelligence artificielle OpenAI Sécurité

Lisez Servicesmobiles.fr en priorité sur Google

Ajoutez-nous à vos sources préférées : nos articles remonteront plus haut dans votre actualité.

Ajouter à mes sources