Lignes directrices d'éthique pour l'IA et exigences d'audit des biais - Québec
Québec, Québec, les conseils municipaux sont de plus en plus appelés à décider du déploiement de l'IA dans les services municipaux, les marchés publics et l'application des règlements. Ce guide explique comment un règlement municipal sur l'éthique de l'IA ou les audits de biais s'articule généralement avec les règlements municipaux existants, les obligations en matière de vie privée et les directives fédérales en matière de décision automatisée. Il s'adresse aux membres du conseil, aux agents d'application des règlements et aux équipes de gouvernance TI pour repérer les évaluations requises, la conservation des dossiers, les voies de plainte et les options d'application afin que les décisions locales restent transparentes, responsables et juridiquement défendables.
Sanctions et application
Aucun règlement municipal consolidé spécifique à l'IA n'est actuellement codifié dans l'index des règlements de la Ville de Québec; les amendes et les règles d'escalade exactes sont non précisées sur la page citée[1]. Les conseils qui s'appuient sur des systèmes de décision automatisée doivent également tenir compte des exigences fédérales en matière de décision automatisée et des processus d'évaluation d'impact algorithmique lors de la conception des audits et des sanctions[2]. Les obligations provinciales en matière de vie privée peuvent ajouter des obligations de déclaration et des ordonnances correctives sous l'autorité des organismes québécois compétents[3].
- Amendes : non précisées sur la page municipale citée ; les montants doivent être fixés dans le règlement adoptant ou le règlement de référence[1].
- Escalade : structures pour première, récidive et infraction continue non précisées sur la page municipale citée et nécessitent un libellé explicite du règlement[1].
- Sanctions non pécuniaires : ordonnances correctives, suspension de l'utilisation du système, audits obligatoires et renvoi au tribunal sont des outils typiques ; l'autorité spécifique dépend du règlement et du droit provincial[1].
- Autorité d'application : le Contrôle des règlements ou le bureau de gouvernance TI de la municipalité applique normalement les règles locales ; les plaintes et inspections suivent les procédures de plainte municipales et les agents délégués[1].
Formulaires et demandes
Il n'existe pas de formulaire unique municipal d'audit des biais publié sur les pages de la Ville de Québec ; les conseils adoptent souvent ou adaptent des modèles d'évaluation d'impact algorithmique, comme l'outil fédéral référencé ici, pour la conception et la documentation[2]. Les notifications de vie privée et les formulaires d'impact de données sont régis par les autorités provinciales et les modèles ou instructions de soumission figurent sur le site de la Commission d'accès à l'information[3].
- Modèle d'évaluation d'impact algorithmique : non précisé sur la page municipale citée ; de nombreuses municipalités se réfèrent aux modèles fédéraux pour la structure[2].
- Notifications de vie privée / protection des données : consultez les orientations de l'autorité provinciale pour le contenu obligatoire et les voies de soumission[3].
Violations courantes
- Déployer une décision automatisée sans audit ou documentation approuvés.
- Ne pas conserver les dossiers d'audit, les journaux ou les évaluations d'impact requis par la politique municipale.
- Non-conformité aux ordonnances correctives des inspecteurs municipaux ou aux autorités provinciales de la vie privée.
Appels, révision et moyens de défense
Les voies d'appel suivent normalement les processus d'adjudication municipale ou les tribunaux administratifs prévus dans l'instrument d'adoption ; si le règlement est muet, le contrôle judiciaire devant les tribunaux civils peut être disponible. Les délais d'appel dépendent du règlement spécifique ou des lois provinciales et sont non précisés sur la page municipale citée[1]. Les moyens de défense courants incluent une excuse raisonnable, une autorisation écrite préalable ou l'appui d'une dérogation ou d'un contrat d'approvisionnement approuvé ; ces éléments doivent être expressément autorisés dans le texte du règlement.
Applications et étapes pratiques pour les conseils
- Adopter un périmètre clair : définir les systèmes qui nécessitent des audits et quand.
- Exiger des évaluations d'impact algorithmique préalables au déploiement ou à l'approvisionnement.
- Désigner un responsable et un point de contact public pour les plaintes et les rapports de transparence.
FAQ
- La Ville de Québec a-t-elle déjà un règlement spécifique à l'IA ?
- L'index des règlements municipaux ne publie pas de règlement consolidé spécifique à l'IA ; les conseils doivent consulter les registres municipaux et les procès-verbaux du conseil pour tout instrument adopté[1].
- Quand un audit de biais est-il requis ?
- Le calendrier dépend des seuils du règlement ; de nombreux conseils exigent une évaluation pour les systèmes qui prennent des décisions automatisées importantes ou traitent des données personnelles sensibles, souvent en suivant les pratiques fédérales d'évaluation d'impact[2].
- Qui applique les questions de vie privée liées à l'IA ?
- Les autorités provinciales d'accès et de protection des renseignements traitent les plaintes liées aux données personnelles et peuvent ordonner des corrections ; l'application municipale couvre les infractions au règlement[3].
How-To
- Définir le périmètre : lister les services utilisant la prise de décision automatisée et classer les niveaux de risque.
- Exiger une évaluation d'impact algorithmique avant l'approvisionnement ou le déploiement, à l'aide d'un modèle documenté.
- Réaliser des tests de biais et d'équité avec une revue indépendante et consigner les résultats.
- Imposer des mesures d'atténuation et des délais pour la correction des préjudices identifiés.
- Mettre en place un mécanisme d'appel et de révision et publier des rapports de transparence annuels.
Points clés
- Les municipalités doivent adopter un libellé explicite pour fixer les amendes, l'escalade et les voies d'application.
- Utiliser les évaluations d'impact algorithmique et les orientations provinciales sur la vie privée comme contrôles minimums.
Aide et ressources
- Ville de Québec — Index des règlements
- Commission d'accès à l'information du Québec
- Secrétariat du Conseil du Trésor du Canada — Directive sur la prise de décisions automatisée