Institut canadien de la sécurité de l'IA : le CIFAR dirigera un programme de recherche sur la sécurité de l'IA

MONTRÉAL, le 12 nov. 2024 /CNW/ - L'Institut canadien de recherches avancées (CIFAR) est fier d'annoncer qu'il occupera un rôle essentiel au sein de l'Institut canadien de la sécurité de l'intelligence artificielle (ICSIA), une initiative très attendue dévoilée aujourd'hui par le gouvernement du Canada. Ce nouvel institut représente une étape cruciale pour garantir le développement et le déploiement sécuritaires et responsables des technologies d'intelligence artificielle (IA), renforçant ainsi la position du Canada en tant que leader mondial dans le domaine de l'IA.

De récentes études ont montré que le manque de confiance dans la sécurité de l'IA constitue une entrave à l'adoption de l'IA par de nombreuses entreprises canadiennes, ce qui risque d'avoir un impact sur leur avantage concurrentiel et leur productivité. En abordant les défis sociétaux, techniques et éthiques liés à l'IA, l'ICSIA jouera un rôle de premier plan pour instaurer la confiance dans les technologies de l'IA et promouvoir leur adoption de manière responsable par les entreprises et les institutions canadiennes.

En 2017, le gouvernement du Canada a identifié le CIFAR comme partenaire pour lancer la Stratégie pancanadienne en matière d'IA faisant du Canada le premier pays à mettre en œuvre une telle stratégie. En continuité avec ce rôle, le CIFAR mettra désormais en œuvre les volets de recherche appliquée et dirigée de l'ICSIA. Bénéficiant d'une subvention de 27 millions de dollars du gouvernement du Canada, le volet de recherche de l'ICSIA sera dirigé par le CIFAR, en collaboration avec les instituts nationaux d'IA, et adoptera une approche multidisciplinaire, faisant appel à des experts de divers domaines pour atténuer et traiter les risques à court et à long termes des systèmes d'intelligence artificielle. En s'associant à des instituts de recherche partout au pays, il fera avancer la recherche que les experts canadiens ont déjà entamée dans les domaines de la sécurité de l'IA, tels que la détection du contenu généré par l'IA, l'évaluation des modèles d'IA avancés, l'adoption sécuritaire de l'IA dans les applications à haut risque et la protection de la vie privée dans les systèmes d'IA.

« L'Institut canadien de la sécurité de l'intelligence artificielle propulsera le Canada à l'avant-scène des efforts mondiaux visant l'utilisation responsable de l'IA, et sera un acteur incontournable pour bâtir la confiance de la population à l'endroit de ces technologies. Dans un monde qui évolue rapidement et plein d'incertitudes, les Canadiens peuvent avoir confiance que nous prendrons toujours les mesures nécessaires pour garantir que l'IA qu'ils utilisent est sûre, responsable et digne de confiance », indique l'honorable François-Philippe Champagne, ministre de l'Innovation, des Sciences et de l'Industrie du Canada.

Le volet de recherche appliquée et dirigée de l'ICSIA soutiendra les priorités définies par l'ICSIA, tout en tenant compte des principaux rapports internationaux tels que le Rapport scientifique international sur la sécurité de l'IA avancée, élaboré dans le cadre d'une initiative mondiale à la suite du premier sommet international sur la sécurité de l'IA, en 2023. Yoshua Bengio, titulaire d'une chaire canadienne CIFAR sur l'IA et fondateur et directeur scientifique de Mila, avait été désigné pour diriger la création de ce rapport.

Afin de déployer un effort concerté et intégré pour comprendre et atténuer les risques liés à l'IA, les activités de recherche du CIFAR à l'ICSIA seront guidées par un Comité scientifique, qui regroupera des chercheurs et des représentants du CIFAR, du Conseil national de recherches du Canada et des trois instituts nationaux d'IA du pays : Mila à Montréal, le Vector Institute à Toronto et Amii à Edmonton. Le programme s'appuiera sur la vaste expertise de ces instituts de renom.

Stephen Toope, président et chef de la direction de l'Institut canadien de recherches avancées (CIFAR), a exprimé son enthousiasme envers cette initiative : « Alors que le monde entier est aux prises avec l'énorme potentiel et les risques de l'IA, le CIFAR est heureux de jouer un rôle de premier plan dans la réponse du Canada. Le volet de recherche appliquée et dirigée par des chercheurs du CIFAR s'appuiera sur les forces de la communauté scientifique canadienne dans le domaine de l'IA afin de faire progresser la recherche de pointe sur la sécurité de l'IA, au bénéfice de tous ».

Le lancement de l'Institut canadien de la sécurité de l'IA marque une étape importante, puisque le Canada rejoint un groupe restreint de pays disposant de leur propre institut pour la sécurité de l'IA, tels que le Royaume-Uni et les États-Unis. À quelques jours de la rencontre inaugurale de l'International Network of AI Safety Institutes à San Francisco et du prochain Sommet pour l'action sur l'intelligence artificielle qui se tiendra à Paris en février prochain, le Canada a renforcé son engagement en faveur du développement et de l'adoption de manière sécuritaire de la technologie de l'IA.

« Au fil des décennies, le Canada a bâti un important réseau de chercheurs canadiens en IA, en partie grâce à la stratégie pancanadienne en matière d'IA », commente Elissa Strome, directrice générale de la Stratégie pancanadienne en matière d'intelligence artificielle au CIFAR. « Nos scientifiques de renommée internationale sont très engagés dans les questions scientifiques qui guident le développement d'une IA sécuritaire et responsable. Cette initiative permettra au Canada de continuer à jouer un rôle de premier plan dans les interventions scientifiques et le déploiement de cette nouvelle et puissante technologie. »

Le CIFAR cherche actuellement à pourvoir trois postes de membres à titre individuel au sein du Comité scientifique. Les candidatures sont acceptées jusqu'au 16 décembre 2024 et peuvent être soumises ici.

À propos de CIFAR

L'Institut canadien de recherches avancées (CIFAR) est un organisme de recherche d'influence mondiale fièrement basé au Canada. Nous mobilisons les personnes les plus brillantes du monde, dans toutes les disciplines et à tous les stades de leur carrière, pour faire progresser les connaissances transformatrices et résoudre ensemble les plus grands problèmes de l'humanité. Grâce à ses 15 programmes de recherche et à la stratégie pancanadienne en matière d'IA, le CIFAR rassemble près de 400 des meilleurs chercheurs du monde, issus de 141 institutions dans 20 pays. Cette communauté compte 23 lauréats du prix Nobel, 3 lauréats du prix Turing, 37 lauréats de la médaille d'or Gerhard Herzberg du Canada en sciences et en ingénierie et 2 lauréats de la médaille d'or du Conseil de recherches en sciences humaines du Canada. Nos programmes de début de carrière attirent et soutiennent certains des jeunes chercheurs les plus passionnants du monde actuel. Nous sommes soutenus par les gouvernements du Canada, de l'Alberta et du Québec, ainsi que par des fondations canadiennes et internationales, des particuliers, des entreprises et des organisations partenaires.

SOURCE Institut canadien de recherches avancées

Personnes-ressources pour les médias : Eric Aach, [email protected], 514 569-3594; Anna Woodmass, [email protected], 416 571-2147