(4) Réduire les biais d'apprentissage en IA

À quand la voiture sans pilote ? A quand un programme permettant de sélectionner des CV en évitant la discrimination ? Mais des exemples récents semblent montrer que ces exploits ne sont pas encore à la portée de nos IA. 

Dans cet épisode, Virginie Mathivet nous aide à décrypter les difficultés qui se cachent derrière ces échecs, ce qu’on appelle « les biais d’apprentissage ». Ses propos sont illustrés par des cas d'usage. Elle nous expliquera également que pour apprendre à une machine à faire au moins aussi bien qu’un humain, il faut passer par une phase d’apprentissage. Durant cette dernière, on donne les moyens à la machine de comprendre les relations entre les données et de prendre du recul. Dès lors, quelle est la part de responsabilité de l’humain dans une IA ? Peut-on contrer ces manquements grâce à des audits externes ou un manuel de bonnes pratiques ?

______________________________________________________________________

À propos de l'invité

Virginie Mathivet est Docteur en Intelligence Artificielle. Actuellement, elle dirige la partie R&D de TeamWork Corporate, manager de la Data Squad (équipe chargée des projets autour de la data tels que Big Data, IA, IoT…). Elle écrit également des livres sur l’IA, anime des conférences et des formations en IA.

Virginie publie régulièrement des postes sur LinkedIn. D’ailleurs, vous pouvez retrouver ici l’article où elle détaille l’utilité de l'audit externe pour garantir la fiabilité d'une application IA. 

______________________________________________________________________

Notes de l'épisode

Pour en savoir plus sur les exemples décrits dans cet épisode, voici quelques liens :

• Huskies ou le détecteur de neige
• Les accidents liés aux véhicules autonomes
  • Accident Uber
  • Tesla voiture de police
  • Tesla 2 hommes tués
  • Ethique et accident
• Quelques articles à propos des IA et des racismes
  • Apple et les chinois 
  • Facebook raciste

Retrouvez nous sur Facebook, Twitter ou LinkedIn pour continuer la discussion.

Si vous avez envie d’en savoir plus sur les applications intelligentes, abonnez vous à ce podcast sur Apple Podcasts, Google Podcasts ou sur votre plateforme d’écoute habituelle. Laissez-nous votre avis, c’est le meilleur moyen de nous soutenir et que d’autres personnes le découvrent plus facilement.

N’hésitez pas à partager ce podcast avec votre entourage, on y gagne tous à avoir des clés de compréhension sur les applications intelligentes qui font de plus en partie de notre quotidien sans qu’on ne s’en rende toujours compte.

Pour participer au podcast, nous suggérer des intervenants ou nous poser des questions, vous pouvez utiliser notre formulaire de contact.