Par Céline Castets-Renard, professeure titulaire, Faculté de droit civil, Université d’Ottawa. Titulaire de la chaire IA responsable à l’échelle mondiale et de la chaire Law au sein d’ANITI (Artificial and Natural Intelligence Toulouse Institute). Affiliée au Yale Internet Society Project et membre de l’Observatoire de l’économie des plateformes à la Commission européenne.
Résumé: Alors que l’intelligence artificielle et les technologies en général sont régulièrement présentées comme facteurs de progrès dans les sociétés, la réalité est souvent toute autre et peut conduire à des situations de profilage et de discrimination. Plusieurs études portant sur la reconnaissance faciale ont pu montrer la discrimination envers les personnes racisées et envers les femmes. De même, si l’usage de l’IA en imagerie médicale est un exemple a priori positif pour aider au diagnostic des cancers, il faut aussi considérer plus largement les facteurs socio-économiques et techniques de mise en oeuvre qui peuvent conduire à exclure des personnes, notamment selon leur pathologie ou leur ethnie. Également, les lois anti-avortement adoptées récemment dans plusieurs États américains donnent lieu à une surveillance par des dispositifs technologiques de géolocalisation ou collecte d’informations auprès des géants du numérique ou courtiers des données, afin de traquer les femmes souhaitant interrompre leur grossesse. Ces cas de profilages fondés sur le genre, la race ou la santé illustrent le fait que les rapports de pouvoir, domination et contrôle social sont alors maintenus voire renforcés dans l’utilisation de technologies. La discussion engagera à la recherche collective de solutions.
