Seminar@SystemX with Jean-Michel Loubes

Jean-Michel Loubes (Inria) will run a  Seminar@SystemX on the topic: “Les biais en IA : détecter la déloyauté d’un algorithme par des mesures locales”, on January 23, 2025, from 2:00pm to 3:00 pm.

>> Connect to the webinar <<

Resume

Détecter les biais des algorithmes d’IA est devenu une nécessité depuis l’adoption de la loi europénne sur l’IA. En particulier, les plateformes de vente en ligne permettent aux consommateurs de trouver différentes offres de produits provenant de divers vendeurs. Les opérateurs de ces plateformes utilisent des algorithmes complexes pour déterminer quels vendeurs et produits les consommateurs voient prioritairement sur leurs sites. Ces « recommandations » peuvent être bénéfiques pour les consommateurs en facilitant leur recherche mais influent énormément sur les ventes. A travers l’audit d’un algorithme de  ce type, nous montrons que ces algorithmes peuvent etre biaisés. Pour cela nous nous expliquerons le lien  entre les mesures à la fois globales et locales et nous étudierons l’impact de ces déviations. Nous essaierons de quantifier l’impact de ces biais en utilisant des méthodes de génération de “counterfactual” utilisant du transport optimal.

Biography

Jean-Michel Loubes est actuellement Directeur de Recherche à l’Inria. Il est également porteur d’une chaire de recherche au sein du Cluster IA “ANITI” de Toulouse. Sa recherche porte sur la robustesse et les biais des algorithmes de machine learning. A ce titre il fait partie de la commission au sein de l’AFNOR sur l’écriture des normes européennes de l’IA Act.

 

Registration

• To be up to date about our next Seminar@SystemX, click here.