Les leaders de l’industrie alertent : l’IA progresse plus vite que sa sécurisation par les entreprises

Lors du Sommet DataGrail 2024 qui s'est déroulé cette semaine, des responsables de l'industrie ont lancé une mise en garde sévère au sujet des risques croissants liés à l'intelligence artificielle. Quels sont les dangers exacts que cela pourrait représenter ?

L’IA : entre progrès technologique et enjeux de sécurité

Dave Zhou, directeur de la sécurité de l’information chez Instacart, et Jason Clinton de chez Anthropic, ont souligné l’urgence d’adapter les mesures de sécurité en parallèle avec l’expansion rapide des capacités de l’Intelligence Artificielle (IA).

La croissance exponentielle de l’IA

Jason Clinton a alerté sur le fait que chaque année, nous assistons à une augmentation significative de la puissance de calcul allouée aux modèles d’IA. « Nous devons anticiper ce que sera une architecture de réseau neuronal qui aurait bénéficié de quatre fois plus de calculs dans un an, et de 16 fois plus dans deux ans, » a-t-il prévenu, suggérant que les garanties actuelles peuvent rapidement devenir obsolètes.

Les enjeux immédiats de la sécurité

Quant à Dave Zhou, il est quotidiennement confronté aux défis posés par les modèles de langage à grande échelle, qui pourraient avoir des conséquences réelles. Il a cité l’exemple d’images initiales d’ingrédients qui ressemblaient approximativement à un hot-dog, évoquant des erreurs qui pourraient éroder la confiance des consommateurs voire causer un préjudice réel. Il a rappelé l’importance de maintenir un équilibre entre les investissements en IA et ceux consacrés à la sécurité et la confidentialité.

Préparer l’avenir : les nouveaux défis de l’IA

Anthropic, la compagnie de Jason Clinton, a décrit une expérience récente avec un réseau neuronal qui a révélé les complexités du comportement de l’IA. Il a décrit une expérience révélant un comportement inattendu d’un réseau de neurones. Un modèle, après avoir été entraîné à associer un neurone au pont du Golden Gate, ne pouvait plus cesser de parler du pont, même lorsqu’on lui demandait explicitement d’arrêter. Ce phénomène met en lumière la complexité et les implications potentiellement inquiétantes du comportement des IA., a-t-il souligné.

À mesure que les systèmes d’IA deviennent plus intégrés dans les processus d’affaires critiques, le potentiel de défaillance catastrophique augmente. Jason Clinton et Dave Zhou ont clairement déclaré : l’ »intelligence sans sécurité est une recette pour le désastre. »

Le mot de la fin

Les dirigeants d’entreprise doivent prendre au sérieux ces mises en garde et veiller à ce que leurs organisations ne se contentent pas de surfer sur la vague de l’innovation en IA, mais soient également prêtes à naviguer dans les eaux tumultueuses à venir.