Faut-il ralentir l'IA?

Des voix canadiennes

Deux des trois lauréats du prix Turing pour l'apprentissage profond ont bâti leur carrière au Canada. Tous deux affirment aujourd'hui que la technologie qu'ils ont créée pourrait échapper au contrôle humain.

• Yoshua Bengio

  Université de Montréal et Mila. Prix Turing. A présidé le Rapport international sur la sécurité de l'IA.

  “Je pense maintenant que nous ne sommes pas sur la bonne voie, que pour récolter les bénéfices de l'IA, éviter des conséquences catastrophiques, mieux comprendre et atténuer les risques, des changements importants sont nécessaires.”

  “Il ne suffit pas d'espérer que tout se passera bien : vaut mieux prévenir que guérir.”

  Pour aller plus loin

  • Ses questions fréquentes sur les risques catastrophiques liés à l'IA · yoshuabengio.org
  • Comment des IA malveillantes peuvent apparaître — son propre récit · yoshuabengio.org
  • Le Rapport international sur la sécurité de l'IA, qu'il préside · International AI Safety Report
  • LawZero, l'organisme montréalais qu'il a fondé · LawZero

• Geoffrey Hinton

  Université de Toronto. Prix Nobel de physique 2024. Prix Turing.

  “Il est inspirant de voir des parlementaires canadiens de part et d'autre de la Chambre affronter directement le risque que pose la superintelligence. C'est l'un des défis déterminants de notre époque, et il façonnera la vie de chaque citoyen canadien. Il est grand temps de nous y attaquer.”

  Pour aller plus loin

  • La déclaration d'une phrase sur le risque d'extinction qu'il a signée · Center for AI Safety
  • D'autres citations · PauseAI

• David Krueger

  Mila et Université de Montréal. PDG fondateur d'Evitable.

  “Avancer vers une IA superintelligente sans aucun plan concret pour la contrôler est totalement inacceptable. Nous avons besoin d'une réglementation efficace qui ramène le risque à un niveau acceptable. À l'heure actuelle, les développeurs ne peuvent se conformer à aucune réglementation efficace, car ils ne comprennent pas ce qu'ils construisent.”

  Pour aller plus loin

  • Son blogue, The Real AI · Substack
  • Evitable, l'organisme qu'il a fondé · Evitable
  • La déclaration sur le risque d'extinction qu'il a signée · Center for AI Safety

• Tania Saba

  Directrice générale intérimaire, Observatoire international sur les impacts sociétaux de l'IA et du numérique (Obvia).

  “Il est essentiel aujourd'hui de passer d'une éthique essentiellement déclarative à une gouvernance plus opérationnelle de l'intelligence artificielle.”

  “Ce qui manque dans toutes les initiatives et consultations qui ont été menées au sujet de l'intelligence artificielle, ce sont les voix de la société civile, ainsi que celles des peuples autochtones.”

  Pour aller plus loin

  • Son témoignage devant le comité sénatorial · Sénat du Canada

• Chantal Guay

  Directrice générale, Conseil canadien des normes.

  “Il faut commencer par nos alliés. C'est toujours comme cela que l'on travaille. Ce n'est jamais sur le coin de la table. Quand M. Bengio parle de cela, je dis : « Je suis là! » On fait le travail. Pour la normalisation, on est là.”

  Pour aller plus loin

  • Son témoignage devant le comité sénatorial · Sénat du Canada