Seminar@SystemX animé par Jean-Michel Loubes

Jean-Michel Loubes (Inria) animera un Seminar@SystemX sur le thème « Les biais en IA : détecter la déloyauté d’un algorithme par des mesures locales », le 23 janvier 2025 de 14h à 15h.

>> Lien de connexion au wébinaire <<

Résumé

Détecter les biais des algorithmes d’IA est devenu une nécessité depuis l’adoption de la loi europénne sur l’IA. En particulier, les plateformes de vente en ligne permettent aux consommateurs de trouver différentes offres de produits provenant de divers vendeurs. Les opérateurs de ces plateformes utilisent des algorithmes complexes pour déterminer quels vendeurs et produits les consommateurs voient prioritairement sur leurs sites. Ces « recommandations » peuvent être bénéfiques pour les consommateurs en facilitant leur recherche mais influent énormément sur les ventes. A travers l’audit d’un algorithme de  ce type, nous montrons que ces algorithmes peuvent etre biaisés. Pour cela nous nous expliquerons le lien  entre les mesures à la fois globales et locales et nous étudierons l’impact de ces déviations. Nous essaierons de quantifier l’impact de ces biais en utilisant des méthodes de génération de « counterfactual » utilisant du transport optimal.

Biographie

Jean-Michel Loubes est actuellement Directeur de Recherche à l’Inria. Il est également porteur d’une chaire de recherche au sein du Cluster IA « ANITI » de Toulouse. Sa recherche porte sur la robustesse et les biais des algorithmes de machine learning. A ce titre il fait partie de la commission au sein de l’AFNOR sur l’écriture des normes européennes de l’IA Act.

 

Inscription

• Pour être informé de nos prochains Seminar@SystemX, rendez-vous ici.