Audit d'éthique et de biais de l'IA pour les outils municipaux à Oakville
Oakville, Ontario, le personnel municipal et les contractants utilisent de plus en plus des outils fondés sur les données. Ce guide explique comment planifier et réaliser un audit d'éthique et de biais de l'IA pour les systèmes exploités ou sous contrat de la ville, qui applique les règles et comment documenter les conclusions pour répondre aux attentes municipales en matière d'approvisionnement, de confidentialité et de règlements.
Portée et objectifs
Un audit d'éthique et de biais de l'IA évalue la qualité des jeux de données, les entrées et sorties du modèle, les trajectoires de décision, la supervision humaine, la transparence et les garanties de confidentialité pour les systèmes utilisés dans des services municipaux tels que les permis, les licences, l'application du stationnement et la prise de décision automatisée.
Sanctions et application
Oakville applique les règlements municipaux, les règles d'approvisionnement et les obligations en matière de confidentialité par l'entremise des services de By-law Enforcement et des Services corporatifs. Les montants d'amendes précis pour les déploiements de systèmes automatisés biaisés ou non conformes ne sont pas spécifiés sur la page citée.Règlements et code municipaux[1]
- Amendes : non spécifiées sur la page citée; l'application peut utiliser les dispositions de pénalité existantes ou des recours en matière d'approvisionnement.
- Escalade : non spécifiée sur la page citée; la pratique municipale typique inclut un avertissement, une contravention, des poursuites ou des recours contractuels.
- Sanctions non pécuniaires : ordonnances administratives, retrait ou suspension du système, résiliation de contrat et action en justice.
- Autorité : By-law Enforcement et Services corporatifs (approvisionnement, gestion de l'information); les plaintes et inspections passent par le contact municipal ci‑dessous.Contact By-law Enforcement[2]
- Recours et révision : les processus d'appel dépendent de l'instrument juridique utilisé (contravention municipale, différend contractuel ou contrôle judiciaire); les délais ne sont pas spécifiés sur les pages citées.
Formulaires et demandes
La Ville ne publie pas de formulaire standardisé "audit IA" sur ses pages d'approvisionnement ou de règlements; les dossiers d'approvisionnement et de contrat sont gérés par le processus d'achat de la Ville et les équipes de gestion des dossiers corporatifs.Approvisionnement et achats[3]
- Formulaire requis : aucun formulaire publié spécifiquement pour les audits d'IA sur les pages citées.
- Délais : respecter les calendriers d'approvisionnement et les clauses contractuelles; les délais précis ne sont pas spécifiés sur les pages citées.
Conduire un audit d'éthique et de biais de l'IA
Suivez un plan d'audit documenté approuvé par le propriétaire du projet municipal. Les composantes clés comprennent la définition de la portée, l'inventaire des données, les tests de biais, la documentation du modèle, l'évaluation d'impact, le plan d'atténuation, la supervision humaine et les indicateurs de surveillance.
- Étape 1 : définir la portée, les parties prenantes et le contexte réglementaire, y compris les règlements et clauses d'approvisionnement pertinents.
- Étape 2 : inventorier les sources de données, les pratiques d'étiquetage et les règles de conservation.
- Étape 3 : effectuer des tests statistiques de biais et d'équité sur les ensembles d'entraînement et de test.
- Étape 4 : revoir les seuils de décision, les processus humains et les canaux d'appel.
- Étape 5 : produire un plan de correction et de surveillance avec des responsables assignés.
Étapes d'action pour le personnel municipal
- Inclure les exigences d'audit dans les modèles d'appels d'offres et de contrats.
- Diriger les questions des fournisseurs vers l'approvisionnement et la gestion de l'information dès le début.
- Prévoir un poste budgétaire pour les audits par des tiers si nécessaire.
FAQ
- Qui applique les questions liées à l'IA à Oakville?
- By-law Enforcement et Services corporatifs traitent les plaintes, les manquements aux marchés publics et les préoccupations relatives à la confidentialité; les procédures varient selon l'instrument.
- Existe-t-il des amendes pour les décisions automatisées biaisées?
- Il n'existe pas d'amendes publiées sur les pages municipales citées; l'application utilise les recours prévus par les règlements ou les contrats.
- Comment demander un audit pour un outil sous contrat municipal?
- Contactez l'approvisionnement et demandez que les livrables d'audit soient inclus comme exigence contractuelle; incluez la portée, le calendrier et les modalités d'accès aux données dans l'appel d'offres.
How-To
Comment réaliser un audit d'éthique et de biais de l'IA pour un outil municipal.
- Rassembler une équipe pluridisciplinaire avec l'approvisionnement, le juridique, la gestion de l'information et les responsables de service.
- Définir la portée, les objectifs, les jeux de données et les points de décision à tester.
- Obtenir des extraits de données et la documentation du fournisseur sous accord de confidentialité signé.
- Exécuter les tests de biais et de performance et documenter les méthodes et les résultats.
- Préparer des mesures correctives, mettre à jour les politiques et exiger des correctifs ou des contrôles supplémentaires du fournisseur.
- Établir des indicateurs de surveillance et un calendrier de réévaluation périodique.
Points clés
- Commencez les exigences d'audit d'IA lors de l'approvisionnement, pas après le déploiement.
- Documentez les méthodes, les résultats et les corrections dans le dossier contractuel.
- L'application utilise les mécanismes existants de règlements, d'approvisionnement et de confidentialité; les amendes précises ne sont pas publiées sur les pages citées.
Aide et ressources
- By-law Enforcement - Town of Oakville
- Approvisionnement et achats - Town of Oakville
- Règlements et code municipaux - Town of Oakville
- Urbanisme et aménagement - Town of Oakville