Directives d'éthique IA et exigences d'audit de biais pour Burlington
Ce guide explique comment Burlington, Ontario évalue les outils décisionnels alimentés par l'IA utilisés par les services municipaux. Il résume les approches municipales actuelles en matière d'éthique, d'audit de biais, d'approvisionnement et de surveillance, identifie les bureaux d'application et fournit des étapes claires pour les fournisseurs et le personnel municipal afin de respecter les exigences locales et les attentes en matière de gestion des risques.
Portée et applicabilité
Les outils décisionnels de la Ville, y compris les systèmes de décision automatisés utilisés pour la prestation de services, les permis, les licences ou l'application des règlements municipaux, sont assujettis aux politiques corporatives de Burlington, aux conditions d'approvisionnement et aux règles applicables en matière de confidentialité et de gestion des dossiers lorsqu'ils sont utilisés par la municipalité. Les services doivent évaluer la fonction de l'outil, les entrées de données et les impacts potentiels sur les résidents avant le déploiement.
Évaluation des risques et exigences d'audit de biais
Avant de déployer un outil décisionnel en IA, les services doivent effectuer une évaluation d'impact documentée et un audit de biais indépendant couvrant les données d'entraînement, l'équité algorithmique, la performance selon les groupes protégés et vulnérables, et les plans de surveillance continue.
- Réaliser une évaluation d'impact algorithmique documentée et un inventaire des données.
- Exiger un audit de biais indépendant ou externe fournissant des mesures, une méthodologie et des plans de remédiation.
- Inclure des attestations de fournisseurs et de la documentation technique dans les soumissions d'approvisionnement.
- Établir des intervalles de re-test réguliers et des conditions déclencheuses pour un nouvel audit.
Transparence, dossiers et confidentialité
Conservez les enregistrements des versions de modèles, des rapports d'audit, des journaux de décision et de la provenance des données pour assurer la transparence et répondre aux demandes d'accès. Assurez-vous de respecter les règles municipales de conservation des documents et la législation applicable en matière de confidentialité lors du partage ou de la publication d'informations algorithmiques.
Sanctions et application
L'application en cas d'utilisation inappropriée des outils d'IA relève des bureaux de surveillance municipaux concernés; les amendes monétaires ou les barèmes de pénalité spécifiques pour l'utilisation abusive d'outils d'IA ne sont pas publiés sur les pages de politique de la ville citées ici.Application des règlements municipaux[1]
- Montants d'amende : non précisés sur la page citée.
- Escalade : les procédures pour les infractions initiales, répétées ou continues ne sont pas précisées sur la page citée.
- Sanctions non pécuniaires : ordres d'arrêt d'utilisation, directives de remédiation, suspension de déploiement et renvoi pour examen juridique ou au conseil sont possibles; les autorités spécifiques ne sont pas détaillées sur la page citée.
- Organisme d'application : l'application incombe à l'Application des règlements municipaux, aux services juridiques corporatifs ou au service responsable selon le contexte; les plaintes et inspections débutent auprès de l'Application des règlements municipaux.[1]
- Recours/appeal : les voies de recours et les délais légaux ne sont pas précisés sur la page citée et peuvent dépendre de l'instrument utilisé pour ordonner la conformité.
- Moyens de défense/discrétion : des moyens de défense discrétionnaires, un motif raisonnable ou des permis/variances approuvés peuvent s'appliquer lorsqu'ils sont autorisés; les détails ne sont pas publiés sur les pages de politique cités.
Demandes et formulaires
Les pages de politique corporative et d'approvisionnement de la ville décrivent la documentation requise pour la sélection des fournisseurs et la passation de marchés, mais ne publient pas de formulaire unique d'enregistrement des outils d'IA ; les services exigent généralement des pièces jointes d'approvisionnement et des annexes techniques lors de la contractualisation.Politiques corporatives et approvisionnement[2]
- Nom/numéro de formulaire : non précisé sur la page citée.
- Frais : non précisés sur la page citée.
- Soumission : généralement via des portails d'approvisionnement ou en pièces jointes de contrat ; consultez le contact d'approvisionnement concerné.[2]
Violations courantes
- Déployer un outil décisionnel sans évaluation d'impact ou audit documenté.
- Ne pas conserver les journaux, les versions de modèles ou les rapports d'audit.
- Omettre les attestations de fournisseurs ou les annexes techniques requises dans l'approvisionnement.
Étapes d'action pour les services et les fournisseurs
- Évaluer : effectuer une évaluation d'impact algorithmique avant l'approvisionnement.
- Auditer : mandater un audit de biais indépendant et inclure des plans de remédiation.
- Contracter : ajouter des clauses contractuelles sur les données, les journaux, les mises à jour et les droits d'audit.
- Signaler : adresser les questions de conformité ou les plaintes à l'Application des règlements municipaux ou au responsable du projet.
FAQ
- Qui applique les exigences relatives aux outils d'IA pour la ville ?
- Le contact principal pour l'application est l'Application des règlements municipaux et le service responsable du déploiement ; les services juridiques corporatifs peuvent aussi conseiller.
- Y a-t-il des amendes publiées pour l'utilisation abusive de l'IA ?
- Non précisé sur les pages de la ville citées ; demandez les directives d'application au bureau municipal indiqué ci-dessous.[1]
- Les fournisseurs doivent-ils fournir des rapports d'audit de biais ?
- Oui, les fournisseurs doivent fournir la documentation technique et, lorsque requis par l'approvisionnement, des audits de biais ou des attestations.
How-To
- Identifier le processus décisionnel et les parties prenantes et préparer une évaluation d'impact algorithmique.
- Mandater un auditeur indépendant pour effectuer des tests de biais et d'équité et produire un plan de remédiation.
- Inclure les rapports d'audit, les inventaires de données et les droits d'audit contractuels dans les soumissions d'approvisionnement.
- Établir la surveillance, la consignation et des ré-audits programmés et conserver les dossiers pour la supervision et les demandes d'accès.
Points clés
- Documenter les évaluations d'impact et les audits de biais avant le déploiement.
- Inclure les livrables d'audit et les attestations de fournisseurs dans les dossiers d'approvisionnement.
- Contacter l'Application des règlements municipaux ou l'approvisionnement tôt pour obtenir des conseils.
Aide et ressources
- Application des règlements municipaux - Ville de Burlington
- Politiques corporatives et approvisionnement - Ville de Burlington
- Services d'approvisionnement - Ville de Burlington
