Outil interactif · Intelligence artificielle
Évaluer un usage de l'IA.
Déterminez le niveau de gouvernance d'un usage de l'IA, ce que l'organisme doit mettre en place et ce que l'autorité doit examiner avant de l'autoriser.
Cet outil s'adresse aux OBNL et aux organismes de bienfaisance qui veulent décider, usage par usage, de l'encadrement qu'il faut à l'intelligence artificielle. Nous évaluons l'usage, pas simplement l'outil. Nous regardons ce que l'IA fait, les données utilisées, ce qui peut arriver si elle se trompe et la capacité réelle de l'organisme à garder le contrôle. Choisissez la vérification rapide (cinq minutes) pour un usage courant, ou l'évaluation complète (vingt minutes) pour un usage plus sensible.
Le calcul suit des règles fixes : les mêmes réponses donnent toujours le même résultat. Tout se passe dans votre navigateur. Aucune réponse n'est envoyée ni conservée sur un serveur. Enregistrez vos réponses dans un fichier pour reprendre plus tard. Pour la politique générale de l'organisme, utilisez le générateur de politique d'IA.
Ce que vous obtenez
- Le niveau de gouvernance de l'usage, de 1 (enjeu faible) à 4 (enjeu critique), avec les raisons qui l'expliquent.
- Un diagnostic du contrôle humain et de la capacité de votre organisme, comparé à ce que le niveau exige.
- La liste des contrôles requis, à cocher au fur et à mesure, et une éligibilité indicative (non autorisable en l'état, autorisation conditionnelle ou autorisation complète).
- Un dossier Word (.docx) à soumettre à l'autorité compétente, avec un bloc de décision à remplir.
Cet outil est gratuit et offert comme gabarit de départ. Le résultat constitue un outil de gouvernance. Il ne constitue pas un avis juridique ni une certification de conformité. Il ne remplace ni la décision de l'autorité compétente, ni la vérification des preuves.
Questionnaire
Évaluez votre usage
Résultat
Usage de l'IA
Repères
Évaluer l’usage plutôt que l’outil
Pourquoi l’usage compte plus que l’outil
Un même outil d’intelligence artificielle peut servir à corriger une infolettre ou à classer des demandes d’aide. Le premier usage présente peu d’enjeux. Le second touche des personnes vulnérables et des décisions qui les concernent. C’est pourquoi l’évaluation porte sur ce que l’IA fait dans un contexte précis, avec quelles données et avec quelles conséquences possibles, plutôt que sur le nom du logiciel.
Ce qui fait monter le niveau de gouvernance
- Des renseignements personnels ou sensibles sont saisis dans l’outil.
- Le résultat influence une décision sur une personne, comme une embauche, une admission ou une aide.
- Le contenu est diffusé au public ou aux donateurs sans relecture.
- Une erreur serait difficile à repérer ou à corriger.
- L’organisme a peu de moyens pour surveiller l’outil dans le temps.
Des exemples pour situer votre usage
Faire reformuler un texte déjà public, comme une page de site Web, présente en général un enjeu faible. Résumer des notes de rencontres avec des donateurs exige déjà de vérifier où les données sont hébergées et qui peut y accéder. Utiliser l’IA pour présélectionner des candidatures ou prioriser des demandes de services demande un encadrement beaucoup plus serré, parce que l’outil peut reproduire des biais et que les personnes concernées ont droit à une décision juste. Votre résultat réel dépend toutefois de vos réponses au questionnaire.
Le contrôle humain
Le contrôle humain ne se résume pas à « quelqu’un regarde le résultat ». La personne qui vérifie doit avoir la compétence, le temps et l’autorité de corriger ou de refuser ce que l’outil propose. Si elle approuve tout par habitude, le contrôle n’existe que sur papier. L’outil compare donc le contrôle prévu à ce que le niveau de l’usage exige réellement.
Le rôle de l’autorité
Selon le niveau, la décision revient à une gestionnaire, à la direction générale ou au conseil d’administration. Le dossier Word produit par l’outil lui donne ce dont elle a besoin pour décider en connaissance de cause. On y trouve la description de l’usage, les risques, les contrôles prévus et un bloc de décision. Conservez ce dossier avec les autres décisions de gouvernance. Il montre que l’organisme a réfléchi avant d’agir.
Réévaluer avec le temps
Un usage évolue. Un outil ajoute une fonction, l’équipe l’utilise pour autre chose, le fournisseur change ses conditions. Prévoyez de refaire l’évaluation au moins une fois par année, ou dès qu’un changement important survient. Gardez votre fichier de réponses pour gagner du temps.