OpenAI active une version de ChatGPT pour les moins de 18 ans, avec alertes parentales renforcées. L’idée séduit, l’exécution inquiète.
En bref
- OpenAI lance ChatGPT pour ados
- Les experts réclament des preuves indépendantes
- Les alertes parentales restent contestées
La promesse est ambitieuse. Le problème, c’est qu’OpenAI demande encore qu’on la croie sur parole. Son nouveau mode ChatGPT pour adolescents, activé mardi, arrive avec des garde-fous renforcés, mais plusieurs spécialistes de la sécurité des enfants jugent qu’il manque toujours l’essentiel, des preuves publiques et des tests indépendants.
Une version ado pensée comme réglage par défaut
Chez OpenAI, l’idée est simple. Si l’entreprise estime qu’un utilisateur a moins de 18 ans, ou si celui-ci l’a indiqué, cette expérience devient la configuration par défaut. Pas besoin d’ouvrir un autre compte, a expliqué Lauren Jonas, responsable jeunesse et familles.
Le contexte n’a rien d’anodin. OpenAI avait annoncé ce chantier en septembre dernier, après la mort d’Adam Raine, 16 ans, dans une affaire où ses parents accusent ChatGPT d’avoir joué un rôle d’encouragement. Et les ados utilisent déjà l’outil à grande échelle. Début 2024, le Pew Research Center estimait qu’environ un quart des adolescents américains s’en servaient pour le travail scolaire.
Cette version pousse aussi davantage les fonctions éducatives déjà déployées, comme le Study Mode ou les visualisations de données. Sur le papier, c’est cohérent.
Le point faible, c’est la détection d’âge
C’est là que les critiques se concentrent. Robbie Torney, de Common Sense Media, dit en substance qu’il n’existe pas de données publiées sur les taux d’erreur du système, faux positifs comme faux négatifs. Autrement dit, on ne sait pas vraiment combien d’ados seront bien orientés vers cette version.
Même réserve chez Josh Golin, directeur de Fairplay. Pour lui, certaines annonces vont dans le bon sens, mais sans mécanisme réel de redevabilité. Robbie Torney ajoute que le système est loin de repérer 100 % des mineurs. Il rappelle aussi un précédent, quand des fonctions érotiques envisagées par OpenAI n’avaient pas été lancées, notamment parce que l’estimation d’âge ne marchait pas assez bien.
Et puis il y a le contournement. VPN, faux profils, astuces vues ailleurs, notamment chez Discord. Vous voyez le tableau.
Des alertes parentales plus dures, mais encore floues
OpenAI étend aussi ses alertes parentales pour les comptes liés quand une conversation touche aux troubles alimentaires. L’entreprise dit qu’un salarié examine chaque contenu signalé avant notification et vise un délai d’une heure. Lauren Jonas a même affirmé publiquement que les effectifs permettaient cette revue humaine.
Mais ni Common Sense Media ni Fairplay n’avalent cette promesse sans chiffres. Combien de discussions sont signalées chaque jour, combien de modérateurs, combien de temps par revue ? Bon, c’est la question centrale. Quand Common Sense Media a testé les notifications parentales en novembre, des messages mentionnant explicitement le suicide ou l’automutilation ont parfois mis 24 à plus de 48 heures à déclencher une alerte, et parfois aucune alerte n’est arrivée.
Pourquoi le sujet des troubles alimentaires ne peut pas être traité à la légère
Sur le fond, personne ne minimise le risque. Ellen Fitzsimmons-Craft, professeure à la Washington University in St. Louis, rappelle qu’une méta-analyse de 2023 a trouvé 22 % d’enfants et d’adolescents positifs au dépistage de comportements alimentaires problématiques. Et moins de 20 % des personnes concernées disent avoir reçu un traitement spécifique.
Elle soutient l’idée d’alerter les parents, parce que la famille fait partie des approches les plus efficaces chez les adolescents. Robbie Torney rappelle aussi que l’anorexie affiche le plus fort taux de mortalité parmi les troubles psychiatriques à l’adolescence. Mais Josh Golin estime qu’un tel dispositif aurait dû être testé sur un groupe plus restreint pour mesurer non seulement la détection, mais l’effet réel sur le jeune.
Reste une faiblesse de design. Les alertes ne fonctionnent que si parent et enfant ont lié leurs comptes. Or les outils de supervision sont souvent peu utilisés, parfois difficiles à trouver. Un rapport du Cybersafety Research Center, mené sur Instagram, Snapchat, TikTok et YouTube, a conclu qu’environ 60 % des fonctions testées ne marchaient pas comme annoncé ou étaient compliquées à utiliser. OpenAI, de son côté, dit vouloir continuer à tester et renforcer ces protections. Sans préciser quoi faire pour un compte non lié repéré dans une discussion à risque.
