Outil interactif · Intelligence artificielle

Évaluer un usage de l'IA.

Déterminez le niveau de gouvernance d'un usage de l'IA, ce que l'organisme doit mettre en place et ce que l'autorité doit examiner avant de l'autoriser.

Cet outil s'adresse aux OBNL et aux organismes de bienfaisance qui veulent décider, usage par usage, de l'encadrement qu'il faut à l'intelligence artificielle. Nous évaluons l'usage, pas simplement l'outil. Nous regardons ce que l'IA fait, les données utilisées, ce qui peut arriver si elle se trompe et la capacité réelle de l'organisme à garder le contrôle. Choisissez la vérification rapide (cinq minutes) pour un usage courant, ou l'évaluation complète (vingt minutes) pour un usage plus sensible.

Le calcul suit des règles fixes : les mêmes réponses donnent toujours le même résultat. Tout se passe dans votre navigateur. Aucune réponse n'est envoyée ni conservée sur un serveur. Enregistrez vos réponses dans un fichier pour reprendre plus tard. Pour la politique générale de l'organisme, utilisez le générateur de politique d'IA.

  • Le niveau de gouvernance de l'usage, de 1 (enjeu faible) à 4 (enjeu critique), avec les raisons qui l'expliquent.
  • Un diagnostic du contrôle humain et de la capacité de votre organisme, comparé à ce que le niveau exige.
  • La liste des contrôles requis, à cocher au fur et à mesure, et une éligibilité indicative (non autorisable en l'état, autorisation conditionnelle ou autorisation complète).
  • Un dossier Word (.docx) à soumettre à l'autorité compétente, avec un bloc de décision à remplir.

Cet outil est gratuit et offert comme gabarit de départ. Le résultat constitue un outil de gouvernance. Il ne constitue pas un avis juridique ni une certification de conformité. Il ne remplace ni la décision de l'autorité compétente, ni la vérification des preuves.

Évaluez votre usage

Repères

Évaluer l’usage plutôt que l’outil

Pourquoi l’usage compte plus que l’outil

Un même outil d’intelligence artificielle peut servir à corriger une infolettre ou à classer des demandes d’aide. Le premier usage présente peu d’enjeux. Le second touche des personnes vulnérables et des décisions qui les concernent. C’est pourquoi l’évaluation porte sur ce que l’IA fait dans un contexte précis, avec quelles données et avec quelles conséquences possibles, plutôt que sur le nom du logiciel.

Ce qui fait monter le niveau de gouvernance

Des exemples pour situer votre usage

Faire reformuler un texte déjà public, comme une page de site Web, présente en général un enjeu faible. Résumer des notes de rencontres avec des donateurs exige déjà de vérifier où les données sont hébergées et qui peut y accéder. Utiliser l’IA pour présélectionner des candidatures ou prioriser des demandes de services demande un encadrement beaucoup plus serré, parce que l’outil peut reproduire des biais et que les personnes concernées ont droit à une décision juste. Votre résultat réel dépend toutefois de vos réponses au questionnaire.

Le contrôle humain

Le contrôle humain ne se résume pas à « quelqu’un regarde le résultat ». La personne qui vérifie doit avoir la compétence, le temps et l’autorité de corriger ou de refuser ce que l’outil propose. Si elle approuve tout par habitude, le contrôle n’existe que sur papier. L’outil compare donc le contrôle prévu à ce que le niveau de l’usage exige réellement.

Le rôle de l’autorité

Selon le niveau, la décision revient à une gestionnaire, à la direction générale ou au conseil d’administration. Le dossier Word produit par l’outil lui donne ce dont elle a besoin pour décider en connaissance de cause. On y trouve la description de l’usage, les risques, les contrôles prévus et un bloc de décision. Conservez ce dossier avec les autres décisions de gouvernance. Il montre que l’organisme a réfléchi avant d’agir.

Réévaluer avec le temps

Un usage évolue. Un outil ajoute une fonction, l’équipe l’utilise pour autre chose, le fournisseur change ses conditions. Prévoyez de refaire l’évaluation au moins une fois par année, ou dès qu’un changement important survient. Gardez votre fichier de réponses pour gagner du temps.