Transparence et responsabilité des algorithmes

Salle polyvalente (SH-4800) - Pavillon Sherbrooke Coeur des sciences de l’UQAM 200, rue Sherbrooke Ouest Montréal (Québec) H2X 3P2

Lien vers l'événement

16 octobre 2017

Les algorithmes jouent un rôle de plus en plus fondamental dans tous les aspects de notre vie. En particulier, ils sont utilisés pour classer, prédire et utiliser comme outil d’aide à la décision (voir pour prendre des décisions automatisées) dans de nombreux contextes tels que le commerce en ligne, la finance, la justice, la police, les ressources humaines ou encore la politique. Cependant, leur prégnance et l’impact important qu’ils ont sur la société soulève aussi de nombreux risques et questionnements à tel point que certains tels qu’Antoinette Rouvroy n’hésite pas à parler de « gouvernementalité algorithmique ». Une des principales craintes soulevées par les algorithmes est leur manque de transparence de leur fonctionnement, en particulier lorsque que ceux-ci sont appris à partir de données massives grâce à des techniques avancées d’apprentissage machine telle que l’apprentissage profond, ce qui pourrait amener à l’avènement d’une « société boîte noire » comme la baptisé Franck Pasquale. De plus, cette transparence est un prérequis pour pouvoir analyser les éventuels biais que pourrait avoir l’algorithme (par exemple en discriminant par rapport à certaines catégories) et ainsi pouvoir lui demander de rendre des comptes sur le pourquoi de ces décisions en vue éventuellement de corriger certains de ces biais.

Le but de ce colloque est de discuter en suivant une approche multidisciplinaire, les questions soulevées par la transparence et la responsabilité des algorithmes telles que par exemple :

  • Est ce que les algorithmes devraient être régulés et si oui de quelle manière ?
  • Quelles sont les situations où la transparence est nécessaire et comment l’implémenter en pratique ?
  • Comment réconcilier le besoin des entreprises de protéger leur propriété intellectuelle avec le besoin des citoyens de pouvoir comprendre la logique derrière les algorithmes qu’ils utilisent ou qui produisent un effet sur leurs vies ?
  • Comment améliorer la transparence, la responsabilité ainsi que l’équité des décisions prises par des systèmes algorithmiques sans pour autant compromettre leur utilité (telles que mesurée par exemple en termes de précision ou pertinence)

Ce contenu a été mis à jour le 10/15/2017 à 11:32 AM.