Lignes directrices éthiques IA et audit de biais - Gatineau
À Gatineau, Québec, les départements municipaux et les contractants utilisant des systèmes décisionnels automatisés doivent respecter les obligations en matière de confidentialité, d'approvisionnement et de règlements municipaux tout en traitant les risques d'éthique et de biais algorithmique. Ce guide explique comment les règles locales s'appliquent aux outils d'IA utilisés par la Ville, comment effectuer un audit de biais, qui fait appliquer la conformité et les étapes pratiques pour adopter une IA transparente et responsable dans les services municipaux. Lorsqu'une réglementation spécifique à l'IA n'a pas été publiée par Gatineau, le guide renvoie aux instruments municipaux et aux bureaux chargés des achats, de la protection des renseignements et de l'exécution des règlements.
Quelles règles municipales s'appliquent aux outils d'IA à Gatineau
Les systèmes municipaux qui collectent ou traitent des renseignements personnels sont soumis aux politiques municipales, aux lois provinciales sur la confidentialité et aux cadres d'approvisionnement et de règlements de la Ville de Gatineau. Pour les règlements municipaux consolidés, voir la page officielle des règlements municipaux [1]. Pour les exigences d'approvisionnement et de passation de marchés qui touchent les fournisseurs d'IA tiers, consultez les pages d'approvisionnement de la Ville [2].
Sanctions et application
Gatineau n'a pas publié de règlement municipal dédié avec des amendes prédéterminées pour des infractions liées à l'IA; les sanctions et l'application découlent des règlements applicables, des conditions contractuelles et des règles provinciales/fédérales sur la protection des renseignements. Lorsqu'une contravention exécutoire existe, le bureau chargé de l'application est généralement la Conformité - Exécution des règlements, le service des achats ou le département responsable du service.
- Amendes : les montants monétaires spécifiques pour les infractions liées à l'IA ne sont pas précisés sur les pages municipales citées; l'application s'appuie sur les dispositions du règlement ou du contrat applicable. [1]
- Escalade : les plages pour première, récidive et infraction continue ne sont pas précisées pour les outils d'IA sur les pages citées; l'escalade suit le règlement ou les clauses contractuelles en vigueur. [1]
- Sanctions non monétaires : ordres de cesser le traitement, directives de conformité, suspension ou résiliation de contrat, saisie ou désactivation des systèmes, et renvoi aux tribunaux ou organismes administratifs sont possibles en vertu des cadres municipaux et provinciaux existants.
- Autorité et voie de plainte : la Conformité - Exécution des règlements et le département responsable traitent les plaintes; les litiges relatifs aux achats sont traités par le bureau des approvisionnements. Les coordonnées figurent dans la section Ressources.
- Appels et révision : les voies d'appel dépendent de l'instrument imposant la sanction (cour municipale, révision administrative, règlement de différend contractuel). Les délais de recours ne sont pas précisés sur les pages municipales citées et dépendront du règlement ou du contrat spécifique. [1]
- Moyens de défense et pouvoir discrétionnaire : les moyens de défense courants incluent une évaluation d'impact sur la vie privée approuvée, une autorité légale ou une autorisation contractuelle; le pouvoir discrétionnaire est exercé par le département d'application compétent en vertu du règlement ou de la politique applicable.
Demandes et formulaires
La Ville ne publie pas de formulaire municipal dédié « approbation IA » sur les pages citées; les départements exigent généralement des évaluations d'impact sur la vie privée, des soumissions d'approvisionnement ou des documents de conformité contractuelle. Si une demande ou un formulaire officiel est requis, il sera affiché sur la page du département concerné ou dans les documents d'appel d'offres. [2]
Comment réaliser un audit de biais municipal
Cette section présente des étapes pratiques pour le personnel municipal ou les contractants afin de planifier et exécuter un audit de biais pour les outils de Gatineau, intégrer les conclusions et documenter la conformité pour les examinateurs d'approvisionnement et d'application des règlements.
- Définir la portée et les parties prenantes : lister le système, les sources de données, les décisions affectées et les départements concernés.
- Rassembler la documentation : contrat d'approvisionnement, conception du système, dictionnaires de données, descriptions des jeux d'entraînement et évaluations d'impact sur la vie privée.
- Analyse technique : évaluer la performance du modèle selon les groupes protégés, mesurer l'impact disparate et tester des métriques de justice pertinentes pour les résultats municipaux.
- Revue de gouvernance : confirmer les rôles, l'autorité décisionnelle, les pistes d'audit et la supervision humaine dans les procédures opérationnelles.
- Plan d'atténuation : proposer des corrections techniques, des changements de données, des ajustements de seuils ou des contrôles opérationnels et estimer coûts et délais.
- Rapport et approbation : soumettre le rapport d'audit au département responsable, au bureau des approvisionnements et au service de conformité si requis; documenter les décisions et la conservation des dossiers.
FAQ
- La Ville de Gatineau a-t-elle un règlement municipal spécifique à l'IA ?
- Non, la Ville n'a pas publié de règlement spécifique à l'IA sur sa page des règlements municipaux; les règlements généraux, les règles d'approvisionnement et les exigences en matière de confidentialité s'appliquent. [1]
- Qui fait appliquer la conformité pour les outils d'IA municipaux ?
- L'application est généralement gérée par la Conformité - Exécution des règlements ou le département responsable du service, avec la participation du bureau des approvisionnements pour les systèmes contractés.
- Existe-t-il des formulaires standard pour l'approbation d'IA ou les évaluations d'impact ?
- La Ville ne publie pas de formulaire d'approbation IA dédié sur les pages citées; les départements exigent souvent des évaluations d'impact sur la vie privée et des documents de conformité contractuelle. [2]
How-To
- Planifier l'audit : définir objectifs, échéancier et responsables.
- Rassembler la documentation : collecter les documents système et de données requis par les examinateurs d'approvisionnement et de confidentialité.
- Effectuer des tests d'équité : exécuter des métriques d'équité et documenter les résultats avec des méthodes reproductibles lorsque permis.
- Mettre en œuvre des atténuations : appliquer des corrections techniques ou opérationnelles et vérifier les améliorations.
- Rapporter et conserver : soumettre le rapport final au département responsable et conserver les dossiers selon les règles municipales.
Points clés
- Gatineau applique actuellement des règles générales d'approvisionnement, de règlements et de confidentialité plutôt qu'un règlement dédié à l'IA.
- Réalisez des audits de biais documentés, conservez les preuves et respectez les exigences d'approvisionnement et de confidentialité.
Assistance et ressources
- Ville de Gatineau - Règlements municipaux
- Ville de Gatineau - Approvisionnement et contrats
- Ville de Gatineau - Exécution des règlements
- Ville de Gatineau - Protection des renseignements personnels