L’Avance

L’humain est au cœur des rapports du CAC, du début à la fin : l’approche du CAC en matière d’IA

Dans ce numéro  :

• L’humain est au cœur des rapports du CAC, du début à la fin : l’approche du CAC en matière d’IA
• Le Canada est en train de laisser passer l’occasion de mieux tirer parti de son infrastructure de recherche à l’échelle nationale
• À la lumière des données probantes : l’évolution de la réponse du Canada à la menace de la résistance aux antimicrobiens
• Dans l’actualité

L’humain est au cœur des rapports du CAC, du début à la fin : l’approche du CAC en matière d’IA

Par : Tijs Creutzberg, Président-directeur général

Le principe d’une politique fondée sur des données probantes est assez simple: si les données sont fiables, une bonne politique s’ensuit. En d’autres termes, une politique ou un programme qui tient compte des données pertinentes a plus de chances d’atteindre ses objectifs et d’éviter les pièges qu’une politique ou un programme qui repose sur des connaissances anecdotiques, incomplètes ou de mauvaise qualité.

Tel est l’attrait de l’IA dans le domaine des données probantes et des politiques publiques : rassembler des données provenant de l’ensemble de l’univers numérique mondial et fournir des interprétations concises qui peuvent éclairer tous les domaines d’action. Entre les mains des parlementaires, des analystes politiques, des membres du gouvernement et des conseils d’administration, elle devrait ouvrir la voie à une ère de décisions plus rapides, fondées sur une base factuelle plus large que ne le permettent les processus actuels. Cependant, ce scénario idyllique mérite d’être examiné avec attention. 

Il ne fait aucun doute que l’IA recèle un immense potentiel, mais que savons-nous de ses limites pour éclairer les politiques publiques ? On a beaucoup écrit sur les « hallucinations » de l’IA, notamment les références inventées de toutes pièces et les biais implicites ancrés dans les données d’entraînement utilisées par les grands modèles linguistiques. Le CAC lui-même s’est vu attribuer et citer à plusieurs reprises des travaux que nous n’avons pas réalisés. 

On aborde moins souvent la question de ce qui manque dans les ensembles de données qui servent de base à l’entraînement des modèles d’IA, des conclusions auxquelles ils parviennent, et de la question de savoir si certaines données utilisées sont obsolètes ou intentionnellement fausses. Nous savons peu de choses sur la manière dont les connaissances auxquelles accèdent les outils d’IA peuvent différer de celles qui échappent à leur portée. Et dans le contexte canadien, qu’en est-il des savoirs autochtones ou des données en langues autres que l’anglais, dont nous savons qu’elles sont sous-représentées dans les données d’entraînement ? Sur le plan épistémologique, comment ces modèles évaluent-ils les données et les connaissances pour aboutir à un consensus proclamé par l’IA ? Privilégient-ils les connaissances d’origine scientifique, ou celles issues d’un raisonnement moral ou juridique, par exemple ? 

La réalité est que les modèles d’IA sont opaques et difficiles à tester. Les paramètres des modèles – ces valeurs apprises qui déterminent les prédictions – dépassant le billion, les nouveaux modèles d’IA actuels ne peuvent pas être facilement interrogés pour comprendre comment les décisions analytiques sont prises. Et cela ne changera pas de sitôt. Pour les décisions politiques lourdes de conséquences, il existe donc un déficit de confiance dans l’utilisation de l’IA qui ne peut être simplement surmonté par la vérification. Le jugement d’un expert restera probablement indispensable pour accorder sa confiance aux résultats de l’IA. 

Alors, où cela nous mène-t-il, nous et les autres organisations qui se sont engagées à respecter des standards élevés en matière de qualité de la recherche ? Quelles sont les bonnes pratiques permettant d’utiliser l’IA de manière efficace et fiable pour étayer les données probantes sur lesquelles s’appuient les politiques publiques ? Telles sont les questions que nous nous posons aujourd’hui. Et en matière d’IA, le CAC est, comme toujours, avide d’apprendre. Nous sommes ouverts aux possibilités qu’elle offre, mais pas au prix de déléguer nos responsabilités fondamentales, ni celles de nos bénévoles experts, à un outil qui pourrait ne pas répondre à nos normes ou partager nos valeurs. Les décisions politiques fondées sur les évaluations du CAC sont trop importantes pour prendre un tel risque. À cette fin, nous prenons les engagements suivants envers nos commanditaires, nos lecteurs, nos utilisateurs, nos bénévoles et la communauté au sens large : 

• L’humain est au cœur des rapports du CAC, du début à la fin. Même si nous pouvons recourir à l’IA pour des tâches mécaniques telles que la relecture, l’analyse de données ou l’identification de preuves, nos rapports sont rédigés par des personnes, sous un contrôle humain à chaque étape du processus.    
• Nous ne confions pas notre jugement à l’IA. Nos experts bénévoles et notre personnel débattent, évaluent, valident et synthétisent un large éventail de données probantes, dont certaines échappent à la portée de l’IA. Il en résulte des connaissances fiables, solides et pertinentes dans le contexte canadien.
• Nous mettons des données fiables à la disposition des systèmes d’IA. Le CAC a pour mission d’alimenter les débats nationaux sur des questions importantes, ce qui implique notamment de contribuer à fournir des réponses de meilleure qualité aux personnes qui se tournent de plus en plus vers l’IA pour s’informer. 

L’utilisation de l’IA dans le domaine des données probantes au service des politiques publiques continuera bien entendu d’évoluer rapidement dans un avenir prévisible, ce qui nécessitera une réévaluation continue de nos pratiques, que nous mènerons de manière ouverte et transparente. Afin de nous doter des meilleurs processus et garde-fous pour encadrer l’utilisation de l’IA de façon à renforcer et à préserver l’intégrité de notre travail, le CAC a commencé à échanger avec la communauté élargie des experts et des praticiens des politiques publiques, dans le but d’écouter, d’apprendre et de partager les enseignements tirés de leurs expériences, notamment en ce qui concerne les cas d’utilisation prometteurs. 

Les deux prochaines étapes de cette démarche seront le Falling Walls Science Summit, qui se tiendra à Berlin la semaine prochaine, et la Conférence sur les politiques scientifiques canadiennes, qui aura lieu à Ottawa plus tard en novembre. Le CAC participera à des tables rondes lors de ces deux événements afin de mieux comprendre les enjeux en cause. Et ce n’est qu’un début. Surveillez notre prochaine infolettre pour découvrir comment vous pourrez prendre part à la suite de cette démarche.

L’utilisation de l’IA au CAC

Le Canada est en train de laisser passer l’occasion de mieux tirer parti de son infrastructure de recherche à l’échelle nationale

Le 20 octobre, le CAC a publié Améliorer l’infrastructure de recherche à l’échelle nationale du Canada, un nouveau rapport du comité d’experts qui examine comment le Canada peut optimiser ses installations scientifiques de grande envergure, ses plateformes numériques et ses réseaux collaboratifs. 

L’infrastructure de recherche joue un rôle essentiel dans l’avancement des découvertes scientifiques, la stimulation de l’innovation et la prospérité économique du Canada. Le rapport examine les forces et les lacunes de l’écosystème actuel de l’infrastructure de recherche au Canada et cerne les possibilités d’améliorer la planification, la gouvernance et les investissements afin de mieux répondre aux besoins actuels et futurs. Le rapport a été bien accueilli et a fait l’objet d’une couverture médiatique dans The Globe and Mail, The Logic, et University Affairs. 

Le rapport complet et les documents d’accompagnement sont disponibles sur notre site web.

À la lumière des données probantes : l’évolution de la réponse du Canada à la menace de la résistance aux antimicrobiens 

La résistance aux antimicrobiens (RAM) représente une menace importante et croissante pour les personnes, les collectivités et les économies du monde entier. En 2019, le rapport du comité d’experts du CAC, Quand les antibiotiques échouent, a dressé le portrait le plus complet à ce jour des coûts réels de la RAM pour le Canada. En 2018, 26 % des infections bactériennes étaient résistantes aux antimicrobiens de première ligne. Le comité estimait également que la RAM avait causé 5 400 décès, entraîné des coûts de 1,4 milliard de dollars pour le système de santé et réduit le PIB de 2 milliards de dollars. Il prévoyait aussi que, si le taux de résistance atteignait 40 % d’ici 2050, les pertes annuelles du PIB pourraient s’élever à 21 milliards de dollars. Plus récemment, des chercheurs des États-Unis et de l’Inde ont estimé qu’en 2021, la RAM avait été associée à des pertes économiques mondiales de 3 500 milliards de dollars américains.

Le Plan d’action pancanadien sur la résistance aux antimicrobiens de 2023 s’est appuyé sur les estimations du CAC et a défini dix mesures prioritaires pour les gouvernements de l’ensemble du Canada, notamment un engagement à « élaborer et mettre en œuvre des incitations économiques et/ou réglementaires » afin de soutenir l’innovation et de faciliter un accès durable aux antimicrobiens. 

Entre 2010 et 2019, le gouvernement du Canada n’a réussi à assurer l’accès qu’à deux des 18 nouveaux antibiotiques commercialisés dans le monde. En 2023, Vaincre la résistance, un rapport du comité d’experts du CAC réalisé à la demande de l’Agence de la santé publique du Canada (ASPC), a conclu qu’un incitatif économique en aval à l’abonnement, qui rémunère la valeur d’un médicament plutôt que son volume de ventes, offrait le plus grand potentiel pour améliorer l’accès aux antimicrobiens au Canada. L’ASPC prépare maintenant le Projet pilote d’innovation en matière de RAM, dont l’appel à candidatures devrait être lancé cet automne.

Plus tôt ce mois-ci, le Comité permanent de la santé de la Chambre des communes a recommandé l’établissement de cibles mesurables et l’allocation d’un financement réservé au plan d’action. 

Le plan d’action actuel prendra fin en 2027, mais les décisions concernant la lutte contre la RAM continueront de se prendre au sein des gouvernements, des industries et des établissements de santé partout au pays. Il sera essentiel que ces décisions reposent sur des données probantes à jour afin de protéger la santé et la prospérité du Canada et de sa population.