Guide des règlements d'éthique de l'IA et d'audit des biais à Nepean
Ce guide explique les attentes municipales en matière d'éthique de l'IA et d'audits de biais concernant les outils utilisés à Nepean, Ontario, et comment les fournisseurs locaux et les entrepreneurs doivent se préparer aux marchés publics, aux examens de confidentialité et à la conformité de la ville. Il résume les autorités officielles les plus pertinentes, les voies d'application, les obligations typiques lors du déploiement de systèmes de décision automatisés et les actions à entreprendre pour documenter, auditer et contester les décisions affectant les résidents.
Overview
La Ville d'Ottawa gouverne les services municipaux de la région de Nepean et publie des orientations officielles en matière d'information et de confidentialité pertinentes pour les outils algorithmiques utilisés par ou pour la ville. Les cadres juridiques pertinents comprennent les lois provinciales sur la confidentialité et la gouvernance municipale ainsi que les pages d'information et d'approvisionnement de la Ville d'Ottawa. Pour les règles provinciales sur la confidentialité, consulter la Loi sur l'accès à l'information municipale et la protection de la vie privée (MFIPPA). Information et confidentialité - Ville d'Ottawa[1] et Loi sur l'accès à l'information municipale et la protection de la vie privée (MFIPPA)[2].
Penalties & Enforcement
Il n'existe pas d'« arrêté sur l'IA » propre à Nepean publié séparément de la gouvernance de la Ville d'Ottawa; l'application suit généralement les règles de responsabilité, de confidentialité et d'approvisionnement de la ville administrées par le Bureau d'accès à l'information et de la protection de la vie privée, les Services des règlements municipaux et les Services d'approvisionnement. Les montants d'amende spécifiques pour les infractions liées à l'IA ne sont pas précisés sur les pages citées et dépendront de l'instrument juridique invoqué.
- Amendes : non spécifiées sur la page citée ; les montants dépendent de l'arrêté ou de la loi appliqué et des recours contractuels dans les marchés publics.
- Escalade : d'abord remédiation interne et avis ; les infractions répétées peuvent entraîner des recours contractuels ou une saisine du tribunal — fourchettes non précisées sur les pages citées.
- Sanctions non pécuniaires : ordres de cessation d'utilisation, exigences d'audits correctifs, suppression ou arrêt du traitement des données, suspension ou résiliation de contrat et actions judiciaires.
- Autorités et contacts : le Bureau d'accès à l'information et de la protection de la vie privée de la Ville d'Ottawa et les Services des règlements municipaux traitent les plaintes et enquêtes ; l'approvisionnement est géré par les Services d'approvisionnement. Voir les pages de la ville pour les voies de contact.[1]
- Recours et révision : les voies d'appel varient selon l'instrument ; les plaintes en matière de confidentialité suivent le processus publié par la ville et peuvent être portées devant le Commissaire à l'information et à la protection de la vie privée de l'Ontario lorsque la MFIPPA s'applique; les délais ne sont pas précisés sur les pages citées.
- Défenses et discrétion : mesures raisonnables documentées, évaluations d'impact sur la vie privée, exemptions contractuelles et dérogations approuvées.
Applications & Forms
La ville publie des orientations en matière de confidentialité et d'approvisionnement ; toutefois aucune « formulaire de politique d'éthique de l'IA » normalisé ou formulaire d'audit de biais n'est publié sur les pages citées. Si une évaluation d'impact sur la vie privée ou un modèle d'impact algorithmique est requis, cela sera précisé dans les documents d'approvisionnement ou l'orientation en matière de confidentialité pour le projet spécifique ; les formulaires et instructions de soumission ne sont pas précisés sur les pages citées.[1]
FAQ
- Qui applique les exigences d'éthique de l'IA pour les outils utilisés à Nepean ?
- La Ville d'Ottawa applique via son Bureau d'accès à l'information et de la protection de la vie privée, les Services des règlements municipaux et les Services d'approvisionnement; la MFIPPA provinciale peut également s'appliquer.[1][2]
- Existe-t-il des amendes fixes pour les biais ou violations de la vie privée liés à l'IA ?
- Non précisées sur les pages citées ; les amendes et recours dépendent de l'arrêté, de la loi ou du contrat applicable.
- Comment signaler une décision automatisée biaisée ?
- Déposez une plainte auprès des canaux de plainte de la ville pour la confidentialité ou le service et conservez les preuves et les enregistrements de décision ; si la MFIPPA s'applique, il est possible d'escalader au Commissaire à l'information et à la protection de la vie privée de l'Ontario.
How-To
- Documentez l'objectif de l'outil, les entrées, les sorties et la logique de décision ; conservez des journaux versionnés et la provenance des jeux d'entraînement.
- Réalisez un audit indépendant des biais avec des méthodes statistiques et qualitatives reconnues ; fournissez un rapport écrit avec des mesures correctrices.
- Préparez une évaluation d'impact sur la vie privée et soumettez-la conformément aux orientations de la ville.
- Incluez des clauses contractuelles pour la surveillance, les rapports et les audits tiers dans les marchés publics et contrats de service.
- Répondez aux plaintes en suivant le processus de la ville et conservez les preuves pour un éventuel appel.
- Lorsque requis, informez les résidents et les autorités conformément à la MFIPPA ou autres obligations de notification applicables.
Key Takeaways
- Documentez les algorithmes, la provenance des données et les résultats d'audit pour les examens municipaux.
- Utilisez des audits indépendants et conservez les mesures de remédiation pour réduire les risques d'application.
Help and Support / Resources
- Ville d'Ottawa - Information et confidentialité
- Ville d'Ottawa - Services d'approvisionnement
- Loi MFIPPA (Ontario)