Guide sur l'éthique de l'IA, règlement et audit des biais à Hamilton
Hamilton, Ontario déploie de plus en plus d'outils algorithmiques dans les services municipaux. Ce guide explique comment les lignes directrices d'éthique de l'IA et un processus d'audit des biais peuvent s'inscrire dans la gouvernance municipale de Hamilton, qui applique les règles, comment les résidents et le personnel peuvent demander des examens, et des étapes pratiques pour réduire les risques. Il se concentre sur les responsabilités municipales, la transparence, la tenue de dossiers et les voies d'appel pour les décisions utilisant des systèmes automatisés.
Scope and Core Principles
L'approche municipale devrait prioriser la transparence, l'équité, la responsabilité et la minimisation des données pour les systèmes d'IA utilisés dans la prestation de services, la délivrance de permis, l'application et l'aménagement. Les politiques municipales exigent souvent la documentation de l'objectif du modèle, la provenance des données, les tests d'impact différentiel et l'avis public lorsque des décisions automatisées affectent matériellement des personnes.
Penalties & Enforcement
La Cité de Hamilton délègue l'application et la surveillance de la conformité aux départements spécifiques selon le système utilisé, tels que l'application des arrêtés municipaux, la délivrance de permis ou la gouvernance des technologies de l'information. Pour les préoccupations liées à la vie privée ou à l'accès, le bureau d'accès et de protection de la vie privée de la ville est responsable des demandes et des plaintes.[1][2]
- Montants des amendes : non précisé sur la page citée.
- Escalade (première, récidive, infractions continues) : non précisé sur la page citée.
- Sanctions non pécuniaires : ordres de cessation d'utilisation, directives de conformité, suppression des processus en cause ou action en justice sont possibles lorsque l'autorité légale existe ; les recours spécifiques ne sont pas listés sur les pages municipales consultées.
- Autorité d'application : application des arrêtés municipaux ou le service responsable du système (p. ex. délivrance de permis, gouvernance TI, accès et vie privée).
- Voies d'inspection et de plainte : déposer une plainte auprès du bureau d'accès et de protection de la vie privée de la Ville de Hamilton ou via le service concerné.[2]
- Recours/appels : les voies d'appel formelles et les délais légaux ne sont pas précisés sur les pages municipales consultées ; les demandeurs doivent suivre le processus d'appel décrit par le département compétent ou envisager un contrôle judiciaire si applicable.
- Défenses/discrétion : les municipalités peuvent autoriser des excuses raisonnables, des permis, des dérogations ou des plans de correction ; les défenses explicites pour l'utilisation de l'IA ne sont pas précisées sur la page citée.
Applications & Forms
Pour les demandes de documents ou les audits, utilisez les canaux d'accès et de protection de la vie privée de la Ville de Hamilton. Aucun formulaire type d'audit d'IA n'est publié sur les pages citées ; les demandes d'accès ou de plainte standard s'appliquent aux dossiers et préoccupations liées à la vie privée.[2]
Implementing a Bias Audit Process
Les étapes pratiques pour les systèmes municipaux incluent la gouvernance, la documentation, les tests indépendants, la correction, la divulgation publique et la surveillance continue. Voici une liste opérationnelle concise pour aligner les projets sur les attentes municipales.
- Inventorier les systèmes d'IA et les points de décision.
- Documenter les sources de données, l'objectif du modèle et l'impact attendu.
- Commander des tests d'indépendance et des évaluations d'impact.
- Adopter des plans de correction en cas d'impact différentiel identifié.
- Publier des résumés d'audit et des décisions lorsque la divulgation est légale.
FAQ
- Hamilton a-t-elle un arrêté dédié à l'IA ?
- Il n'existe pas d'arrêté spécifique à l'IA publié sur les pages de la Ville de Hamilton consultées ; ce sont les politiques municipales et la gouvernance départementale qui régissent actuellement l'utilisation des systèmes automatisés.[1]
- Comment demander un audit ou déposer une plainte au sujet d'une décision automatisée ?
- Déposez une demande d'accès ou une plainte en matière de vie privée via le bureau d'accès et de protection de la vie privée de la Ville de Hamilton ou via le canal de plainte du service concerné.[2]
- Existe-t-il des formulaires ou des frais standard pour les audits d'IA ?
- Il n'existe pas de formulaire type municipal publié ni de frais d'audit d'IA sur les pages citées ; les demandes d'accès et de protection suivent les procédures publiées de la ville.[2]
How-To
- Cartographier le processus municipal où le système d'IA prend des décisions et identifier les parties prenantes.
- Inventorier les jeux de données, noter les attributs sensibles et consigner la provenance des données.
- Effectuer une évaluation d'impact algorithmique pour déterminer les préjudices probables.
- Effectuer des tests de détection des biais et documenter les métriques, les seuils et la méthodologie.
- Créer et mettre en œuvre un plan de correction, incluant la ré-entraînement, l'ajustement des seuils ou la révision humaine.
- Publier un résumé d'audit et établir un calendrier de surveillance avec des points clairs pour la révision.
Key Takeaways
- La gouvernance municipale de Hamilton attend de la transparence et une documentation des risques pour les systèmes d'IA.
- Les audits des biais doivent être indépendants, reproductibles et documentés.
- Utilisez les canaux d'accès et de protection de la vie privée de la ville pour demander des dossiers ou déposer des plaintes.
Help and Support / Resources
- City of Hamilton - Access to Information & Privacy
- City of Hamilton - Legislation & Bylaws
- City of Hamilton - Licensing and Standards
- City of Hamilton - By-law Enforcement