Véhicules autonomes : comment l’IA peut-elle être manipulée ?

McAfee vient de publier les résultats de ses recherches qui montrent comment l'intelligence artificielle peut être manipulée par un processus que McAfee appelle le "model hacking".

Un processus qui a un impact sur la sécurité, et donc l’avenir des véhicules autonomes.

Les équipes de recherche McAfee ont réussi à créer une attaque ciblée en boîte noire sur le système de caméra MobilEye EyeQ3, utilisé aujourd’hui dans de nombreux véhicules. Lors de cette attaque, les chercheurs de McAfee ont réussi à faire accélérer jusqu’à 80 km/h une voiture autonome alors que la limitation de vitesse était de 35km/h. MobilEye est largement déployé, utilisé aujourd’hui sur plus de 40 millions de véhicules, y compris les modèles Tesla qui implémentent le Hardware Pack 1.

En fin de compte, ils ont réussi à créer des attaques numériques extrêmement efficaces qui pourraient provoquer des erreurs de classification d’un classificateur très robuste, conçu pour déterminer avec une grande précision et exactitude ce qu’il regarde, approchant une confiance à 100%. Source

McAfee Research suit une politique de divulgation responsable, comme indiqué sur leur site Web. À ce titre, ils ont divulgué les conclusions de cette recherche à Tesla et à MobilEye 90 jours avant la divulgation publique. McAfee a dévoilé les résultats à Tesla le 27 Septembre e 2019 et MobilEye le 3 Octobre 2019. Les deux fournisseurs ont manifesté leur intérêt et étaient reconnaissants pour la recherche, mais n’ont pas exprimé de MaJ actuelles pour régler la question sur la plate-forme existante. MobilEye a indiqué que la ou les versions les plus récentes du système de caméras répondent à ces cas d’utilisation.

De cette recherche, ressortent plusieurs constats

• Selon Gartner, le nombre de véhicules équipés de fonctionnalités de conduite autonome dans le monde atteindront 745 705 unités d’ici 2023, contre 137 129 unités en 2018.
• Toutefois, un travail de pédagogie et de sensibilisation sur les dangers potentiels et les problèmes de sécurité associés à l’avancée aussi rapide de cette technologie est nécessaire.
• Compte tenue de cette croissance prévue, l’industrie automobile et les professionnels de la cybersécurité ont l’opportunité de devancer les cybercriminels en comprenant parfaitement comment les modèles d’IA/Machine Learning peuvent être exploités afin de développer des technologies de nouvelle génération plus sûres.