Encadré 22 | Le défi de l’alignement : le roi Midas et l’IA 

ENCADRÉ 22

Dans la mythologie grecque, le roi Midas souhaitait que tout ce qu’il touche se transforme en or. Son voeu fut exaucé… pour son plus grand malheur, puisqu’en embrassant sa fille, il la changea en or! Cette fable constitue une excellente analogie sur l’importance capitale de définir les objectifs d’un système d’IA, d’assurer son bon alignement avec les droits de la personne, les besoins des êtres humains et les valeurs sociales.

Toute erreur ou imprécision à ce chapitre pourrait, en théorie, avoir des conséquences néfastes, voire dévastatrices. L’informaticien Stuart Russell explique, par exemple, qu’un robot chargé d’aller chercher le café chaque matin pourrait éventuellement refuser que son propriétaire l’éteigne, « parce qu’on ne peut pas apporter le café si on est éteint ». 

[EXTRAIS DU RAPPORT]

Les travaux scientifiques requis en ce sens se poursuivront dans tous les domaines de l’IA : apprentissage automatique, apprentissage profond, vision par ordinateur, traitement du langage naturel, robotique, etc. Mais en matière d’IA, le défi ne consistera pas seulement à trouver des manières d’améliorer la technologie à l’aide d’approches informatiques. Il faudra aussi mener de nouvelles recherches en sciences humaines et sociales, notamment en psychologie, en philosophie, en éthique, en anthropologie et en droit, pour rendre l’IA plus sûre dès la conception. Comme le relève le National Science and Technology Council (NSTC) aux États-Unis, « l’étude des aspects éthiques, juridiques et sociétaux de l’IA revêt [notamment] une importance cruciale, car les décisions concernant sa conception et son utilisation peuvent nécessiter des compromis entre des valeurs concurrentes, telles que l’équité, la justice, la confidentialité et l’autonomie. Ces problématiques sont complexes, même en dehors du domaine de l’IA ». 

Il faudra également produire de nouvelles connaissances scientifiques pour documenter et comprendre : 

• les impacts négatifs que le recours à l’IA pourrait avoir sur la vie privée; 

• les transformations que cette technologie engendrera dans le domaine du travail; 

• la manière de minimiser les risques qu’elle comporte pour la démocratie et la culture. 

L’apport des chercheurs, notamment en science de la gestion, en marketing, en relations industrielles et en éducation, sera tout aussi précieux pour définir les modifications à apporter, à l’ère de l’IA, aux modes de gestion de la relation client des entreprises et des organismes publics, aux tâches et aux responsabilités des employés, à leur formation, etc. De surcroît, les travaux en ce sens seront utiles pour créer des formations de haute qualité pour les travailleurs ainsi que pour développer des outils pratiques qui aideront les organisations à opérationnaliser les concepts de développement et de déploiement responsables de l’IA, à les appliquer sur le terrain. 

Finalement, le succès du déploiement responsable de l’IA dépendra de l’évolution continue du cadre québécois de gouvernance de l’IA (voir le chapitre 1 - Assurer la gouvernance agile de l’IA), de même que de la mise en oeuvre de politiques publiques et de programmes gouvernementaux adaptés au contexte de la montée de l’IA. Les recherches scientifiques en essentielles pour aider à définir les orientations que l’État gagnerait à suivre en matière de réglementation, que ce soit pour planifier des projets d’encadrement de l’IA dans des secteurs spécifiques, ou encore aider les acteurs réglementaires à prendre de meilleures décisions en matière d’IA. 

À l’heure actuelle, le financement accordé aux acteurs québécois de la recherche en IA, quoiqu’important, leur permet seulement d’aborder une fraction des imposants défis qui émergent dans le secteur. L’accroissement des budgets sera nécessaire pour élaborer les nouvelles approches qui permettront d’assurer le développement responsable de l’IA dès sa conception, d’en définir les impacts avec précision et/ou d’établir les conditions de succès de son adoption dans la société. L’ampleur des travaux à réaliser nécessite que le Québec investisse davantage en recherche fondamentale et en recherche appliquée en IA dans tous les domaines. En somme, le Conseil recommande, afin d’assurer l’excellence du réseau de recherche québécois en IA, que le gouvernement investisse de manière significative dans des travaux de recherche, spécialement en sciences humaines et sociales, et de mobilisation des connaissances de qualité dans les divers domaines de l’IA, notamment en ce qui a trait à la sûreté de l’IA, à ses impacts sociétaux et aux conditions du succès de son adoption dans la société (RP-5). 

Consulter le rapport complet ici.