Doté d’un budget de 45 M€ sur la période 2021 – 2024, Confiance.ai ambitionne, grâce à un collectif de 13 partenaires industriels et académiques français majeurs, de créer une plateforme d’outils logiciels permettant l’intégration d’IA dans des produits ou services critiques, c’est-à-dire dont les accidents, les pannes ou les erreurs pourraient avoir des conséquences graves sur les personnes et les biens.
Confiance.ai mobilise l’expertise française en intelligence artificielle, mais aussi en ingénierie et en sureté de fonctionnement, pour offrir aux industriels des solutions leur permettant de développer de nouveaux produits et services à base d’IA de confiance, répondant ainsi à des enjeux majeurs autant sociétaux qu’en termes de compétitivité économique et de souveraineté.
La question du fonctionnement sûr et fiable des logiciels est au cœur de nombreuses applications de tous les jours, qu’il s’agisse du transport (automobile, aviation, rail, etc.), des dispositifs de santé, des opérateurs d’intérêt vital. La diffusion rapide des logiciels d’intelligence artificielle (IA) dans tous les secteurs d’activité pose ainsi des questions spécifiques en termes de garanties sur leur « bon fonctionnement ». Que l’on pense à la sûreté d’une prise de décision « autonome » en temps réel comme pour le véhicule autonome, à des domaines ne tolérant pas l’erreur de décision (sécurité, justice, diagnostic de santé, etc.) ou à des attentes d’équité de traitement qui exigent la garantie que les traitements ne sont pas biaisés, la confiance placée dans les produits et services intégrant de l’IA doit ainsi impérativement être développée.
Dans le cadre du Grand Défi[1] « sécuriser, certifier et fiabiliser les systèmes fondés sur l’intelligence artificielle » impulsé par l’État et dirigé par Julien Chiaroni (Secrétariat général pour l’investissement), le programme Confiance.ai réunit un collectif de 13 partenaires industriels et académiques français majeurs : Air Liquide, Airbus, Atos, Naval Group, Renault, Safran, Sopra Steria, Thales, Valeo, ainsi que le CEA, Inria, l’IRT Saint Exupéry et l’IRT SystemX .
Tous sont fédérés autour d’une même ambition et conjuguent leurs forces et leurs compétences pour industrialiser et intégrer de l’IA de confiance dans les futurs produits et services industriels critiques, c’est-à-dire dont les accidents, les pannes ou les erreurs pourraient avoir des conséquences graves sur les personnes et les biens. Le montage et le pilotage du programme ont été confiés à l’IRT SystemX.
« Ces développements technologiques sont un prérequis à une IA de confiance, éthique et responsable en France et en Europe. De par l’excellence de sa recherche en mathématiques, en intelligence artificielle, en ingénierie et en sûreté de fonctionnellement, la France dispose d’atouts indéniables pour relever ce défi. C’est sur la combinaison de l’ensemble de ces forces que capitalise le programme Confiance.ai. Il se propose ainsi d’apporter un « cadre » technique à la proposition de réglementation européenne sur l’IA », explique Julien Chiaroni, Directeur du Grand Défi IA de confiance au sein du Secrétariat général pour l’investissement.
Lors de l’événement de lancement du programme le 1er juillet qui s’est tenu dans le nouveau centre de R&D de Valeo dédié au véhicule autonome « Valeo Mobility Tech Center », Jean-Baptiste Djebbari, Ministre délégué chargé des Transports a déclaré :
« La France se dote aujourd’hui d’un cadre réglementaire complet pour la circulation des véhicules autonomes : c’est une première en Europe. Et nous avons donc plus que jamais besoin d’une IA sûre, performante et homologable. C’est l’objectif de Confiance.ai, le plus grand programme R&T de la stratégie nationale en Intelligence Artificielle lancée par le Président de la République en 2018, financé à hauteur de 30M€ par le Programme d’investissements d’avenir. Je me réjouis que des industriels de différents secteurs collaborent à ce grand défi. »
Cédric O, secrétaire d’Etat chargé de la Transition numérique et des Communications électroniques, a pour sa part salué les avancées de ce projet : « L’IA de confiance, c’est-à-dire l’IA pour les systèmes critiques, est aujourd’hui nécessaire dans de nombreux domaines comme la voiture autonome, l’aéronautique ou le spatial. L’avancée de ce chantier témoigne de la réussite de la Stratégie nationale pour l’intelligence artificielle et conforte la nécessité d’un investissement public dans les technologies de pointe. »
Concevoir une plateforme d’outils logiciels pour l’IA de confiance
Ce collectif multi-filière s’attachera, sur la période 2021 à 2024, à concevoir et à proposer un plateforme d’outils logiciels souveraine, ouverte, interopérable et pérenne permettant l’intégration de l’IA dans des produits et services critiques de manière sûre, fiable et sécurisé.
Dédiée à l’ingénierie des produits et services industriels innovants intégrant de l’intelligence artificielle, cette plateforme fournira des méthodes et des outils logiciels au service de la conception, de la validation, de la qualification, du déploiement et de la maintenance de produits et services à base d’intelligence artificielle. Elle vise ainsi à réduire les coûts de développement de ces produits et services tout en garantissant leur « bon » fonctionnement.
Les premiers secteurs d’application seront l’automobile, l’aéronautique, l’énergie, le numérique, l’industrie 4.0, la défense et le maritime, avec des cas d’applications variés comme le contrôle industriel en ligne, la mobilité autonome ou les systèmes d’aide à la décision.
Un enjeu sociétal, de compétitivité économique et de souveraineté
Confiance.ai répond à la fois à des enjeux d’acceptation sociale, de compétitivité industrielle et de souveraineté nationale.
Partout dans le monde, usagers, citoyens, autorités et instances de réglementation, d’homologation ou de certification, attendent que ces nouveaux produits et services proposés soient sûrs, fiables, éthiques et de confiance. De même, la robustesse, la fiabilité et la sécurité des systèmes d’IA critiques seront indispensables pour permettre leur passage à l’échelle industrielle. Ainsi la capacité à expliquer les prises de décision suggérées par les algorithmes ou à apporter des preuves garantissant leur « bon » fonctionnement deviendra prochainement décisive.
Des solutions technologiques sur la certification, la fiabilité, l’évaluation, la transparence et l’auditabilité des algorithmes garantiront, demain, un haut de niveau de confiance dans les futures solutions d’IA pour l’industrie. La maîtrise de ces technologies représente un enjeu fort de souveraineté numérique mais également la capacité à mettre en œuvre la future réglementation européenne sur l’IA.
Pilier technologique du Grand Défi dédié à l’IA de confiance bénéficiant d’un investissement de 45M€, Confiance.ai est à ce jour le programme de recherche technologique le plus doté de la stratégie nationale #AIforHumanity visant à faire de la France un pays leader de l’intelligence artificielle. Il s’inscrit dans la lignée du « Manifeste pour l’intelligence artificielle au service de l’industrie » signé en juillet 2019, par 8 industriels français engagés pour « faire de l’IA une source de croissance et d’emploi dans leurs secteurs industriels ». 6 de ces grands groupes sont partie-prenante du programme Confiance.ai[2].
Une stratégie collective et multi-filière
Le programme Confiance.ai traduit l’ambition du Grand Défi de fédérer des acteurs majeurs de la recherche et de l’industrie afin d’adopter une stratégie collective et multi-filière. Plus de 300 équivalents temps plein (ETP) sont mobilisés sur deux plateaux projets à Saclay et à Toulouse.
Cette ambition s’est construite collectivement pendant 9 mois et s’est matérialisée par une feuille de route stratégique. Cinq principaux axes la structurent : la caractérisation de l’IA, l’IA de confiance by design, l’ingénierie de la donnée et des connaissances, la maîtrise de l’ingénierie système fondée sur l’IA, et l’IA de confiance pour l’embarqué.
« Les enjeux de l’intégration de l’intelligence artificielle dans les systèmes critiques sont immenses et les attentes des industriels français sont importantes et à prendre en compte dès maintenant. Il existe de nombreux démonstrateurs, mais les industrialiser pour des applications critiques dans des systèmes industriels représente un défi d’envergure. Le programme Confiance.ai est en synergie avec les initiatives existantes (DEEL, ANITI, DATAIA, MIAI et IA2), et apporte un niveau d’intégration supplémentaire de par son orientation industrielle forte », commente Emmanuelle Escorihuela, Présidente du comité de pilotage du programme Confiance.ai.
Les travaux du programme Confiance.ai ont débuté en janvier 2021. Le calendrier prévoit, la livraison de briques technologiques intégrées chaque année, en veillant à la valorisation des actifs transférables vers les industriels du consortium sera réalisée dès les premiers résultats.
Le programme Confiance.ai ambitionne d’avoir une portée internationale forte qu’il construit d’ores et déjà avec le Québec où un programme complémentaire est en cours d’élaboration, ou en encore une coopération renforcée sur les normes avec l’Allemagne.
Un AMI pour intégrer start-ups et PME innovantes dans le programme
Un Appel à Manifestation d’Intérêt (AMI) est lancé ce 1er juillet 2021 pour intégrer dans les 7 projets du programme Confiance.ai des start-ups et PME innovantes dont les technologies sont susceptibles de contribuer à la résolution des verrous technologiques du programme. Ces verrous concernent les 3 thématiques suivantes : confiance et ingénierie système à composants IA, confiance et données d’apprentissage, confiance et interaction humaine. Les réponses sont attendues d’ici le 3 septembre prochain à 12h. A l’issue du processus de sélection, les start-ups et PME retenues pourront démarrer leurs travaux au 4ème trimestre 2021.
[1] Les Grands Défis sont des programmes publics d’investissement qui vise à développer des technologies et innovations de rupture à fort impact social et économique.
[2] Airbus, Air Liquide, Renault, Safran, Thales et Valeo
