Politique de Londres sur l'éthique de l'IA et audits de partialité
Londres, Ontario évalue la gouvernance de l'intelligence artificielle dans les services municipaux et les marchés publics pour réduire les résultats biaisés et améliorer la transparence. La ville a commencé à publier des documents sur la stratégie numérique et des orientations administratives qui encadrent l'utilisation éthique de l'IA et les attentes en matière d'audits et de surveillance,[1] mais la municipalité ne dispose pas encore d'un règlement autonome qui prescrit des seuils d'audit précis ou des amendes monétaires fixes pour les systèmes décisionnels algorithmiques.
Sanctions et application
La Ville de Londres s'appuie actuellement sur les canaux d'application existants (Application des règlements municipaux, conformité et processus de responsabilité d'entreprise) et sur des recours administratifs généraux plutôt que sur un barème unique de sanctions pour l'IA. Lorsqu'une orientation s'applique aux marchés publics, à la prestation de services ou aux licences, les recours comprennent les ordres administratifs, les plans d'action correctifs, les sanctions en matière d'approvisionnement et l'escalade vers des examens juridiques ou au conseil. Les montants précis des amendes et les pénalités journalières pour des manquements à l'éthique de l'IA ne sont pas indiqués sur les pages municipales citées.[2]
- Amendes : non précisées sur la page citée.
- Escalade : les infractions initiales, répétées et continues sont traitées par des mesures administratives progressives; les plages d'augmentation monétaire ne sont pas listées.
- Sanctions non monétaires : ordres correctifs, suspension de l'approvisionnement ou de l'utilisation du service, retrait du système de la production et renvoi aux services juridiques ou au conseil.
- Organisme chargé de l'application : Application des règlements municipaux et bureau d'entreprise responsable des services numériques ou des marchés publics; les plaintes et inspections sont traitées via les canaux municipaux de conformité.
- Appels et révision : la révision administrative ou l'appel au niveau du conseil s'appliquent; les délais légaux pour les appels ne sont pas précisés sur la page citée.
- Moyens de défense et appréciation : excuse raisonnable, plans de remédiation et exceptions approuvées en matière d'approvisionnement peuvent être pris en compte en vertu de la politique d'entreprise.
Demandes et formulaires
Il n'existe pas de formulaire municipal dédié pour la certification d'éthique de l'IA ou le dépôt d'un audit de partialité publié sur les pages de la ville; les demandes d'audit ou les plaintes sont soumises par les canaux existants d'approvisionnement, de confidentialité ou d'application des règlements.
- Aucun formulaire autonome d'audit IA publié sur les pages citées.
Comment la politique s'applique
Le personnel municipal et les fournisseurs qui travaillent avec des systèmes automatisés ou algorithmiques doivent suivre les orientations numériques et d'approvisionnement de l'entreprise, intégrer la détection des biais dès la conception, conserver des dossiers audités et informer les résidents concernés lorsque des décisions importantes sont automatisées. Pour les obligations en matière de confidentialité et de tenue de dossiers, les principes de la LFIPPA (accès à l'information et protection) guident la gestion des données et des résultats de modèles dans le cadre des opérations municipales.
Violations courantes
- Absence de documentation sur les données d'entraînement, les modifications de modèle ou la logique décisionnelle.
- Déploiement de modèles sans tests de biais ou évaluations de risque achevés.
- Ignorer les ordres de remédiation émis par la conformité d'entreprise ou l'application des règlements.
FAQ
- La Ville de Londres a-t-elle un règlement spécifique à l'IA ?
- Non, la Ville publie des orientations numériques d'entreprise mais ne possède pas de règlement distinct sur l'IA sur les pages citées.
- Qui applique la conformité pour l'usage municipal de l'IA ?
- Application des règlements municipaux, services numériques de l'entreprise, approvisionnement et services juridiques coordonnent l'application et les recours.
- Comment signaler une décision municipale automatisée problématique ?
- Signalez via les canaux de plaintes municipaux ou d'application des règlements indiqués dans la section Aide et ressources ci-dessous.
How-To
- Identifiez la décision, le nom du système, les dates et les dossiers touchés.
- Contactez l'Application des règlements municipaux ou le bureau numérique de l'entreprise pour déposer une plainte ou demander un audit.
- Fournissez les documents à l'appui : dossiers d'approvisionnement, résultats du modèle, résumés des données d'entraînement et évaluations d'impact.
- Suivez le processus d'examen municipal et fournissez toute information supplémentaire demandée pendant l'enquête.
Points clés
- Londres régit l'IA via la politique numérique d'entreprise et les canaux d'application existants plutôt que par un seul règlement sur l'IA.
- Les amendes spécifiques et les pénalités journalières pour les manquements à l'éthique de l'IA ne sont pas publiées sur les pages citées de la ville.
- Les fournisseurs et le personnel doivent conserver des dossiers audités et réaliser des audits de partialité avant le déploiement.
Aide et ressources
- Application des règlements municipaux - Ville de Londres
- Stratégie numérique de l'entreprise - Ville de Londres
- Contacts et services municipaux - Ville de Londres