Microsoft et MITRE veulent améliorer la sécurité des logiciels intelligents

Microsoft s’est alliée avec MITRE dans un projet pour identifier les vulnérabilités concernant l’apprentissage automatique des machines. Ce type d’intelligence artificielle fait face à de nouveaux défis, en termes de sécurité et de fonctionnalités. Mikel Rodriguez, directeur de la recherche sur le « Machine Learning » (ML), voudrait que toutes les décisions prises soient le résultat de « la coopération d’acteurs privés autant que des investissements publics ».

Des hackers peuvent facilement prendre le contrôle des systèmes ML, en utilisant des techniques traditionnelles comme le phishing. Chaque entreprise utilisant la faculté d’apprentissage des ordinateurs doit donc être capable de réagir à temps pour contrer une attaque extérieure, ou simplement un dysfonctionnement des algorithmes.

microsoft ia

Une douzaine d’entreprises et d’organisations, ainsi que des universités dans le secteur des nouvelles technologies, se sont mises ensemble pour améliorer la performance des programmes intelligents.

Le risque des données « empoisonnées »

Pour MITRE, le monde est mal préparé aux attaques faites sur les ML, pourtant de nombreuses attaques ont déjà été perpétrées sur des entreprises de renom comme Tesla, Google, ou Amazon. Les systèmes informatiques à apprentissages automatiques peuvent être victime d’un « empoisonnement de données » par des personnes malintentionnées. Un rapport sur le sujet affirme que 30 % des agressions qui auront lieu d’ici 2022 impliqueront des systèmes trompés et induits en erreur.

Les attaques peuvent exploiter une ou plusieurs vulnérabilités, compromettant la confidentialité des données, ainsi que la disponibilité et l’intégrité d’un système ML. Les sites de commerce en ligne peuvent être des victimes de choix, car les hackers peuvent y détourner des produits de manière anonyme. Théoriquement, aucun système n’est protégé à 100 %, mais des améliorations peuvent être apportées pour optimiser la sécurité.

Contribution des grandes entreprises et des universités

Des universitaires et des chercheurs contribuent à la collecte des données, comme le Berryville Institute of Machine Learning, l’université de Cardiff et celle de Toronto, ainsi que le Software Engineering Institute. De grandes entreprises d’envergure internationale participent également au projet, à l’instar d’IBM, d’Airbus, et de Bosh, entre autres. IBM et NVIDIA apportent également leur pierre à l’édifice, tout comme Two Six Lab et Deep Instinct.

L’objectif de MITRE et de Microsoft est de pouvoir identifier les différentes attaques contre les systèmes d’apprentissage automatiques, afin que tous les analystes de sécurité dans le monde puissent s’y préparer.

Pour que les ML du futur soient mieux protégés, tout le monde est appelé à contribuer pour l’enrichissement de la base de connaissances sur les vulnérabilités actuelles.