Liste de vérification éthique IA de Montréal
Montréal, Québec exige que les équipes municipales et les fournisseurs suivent une liste de vérification éthique de l'IA et un processus d'audit des biais lors du déploiement de systèmes décisionnels automatisés utilisés par la ville. Cet article explique la portée de la politique, les éléments typiques de l'audit, qui fait appliquer la conformité et comment agir si votre projet doit répondre aux exigences municipales de Montréal[1]. Il est destiné au personnel municipal, aux contractants, aux équipes juridiques et aux résidents recherchant une feuille de route pratique de conformité pour les systèmes algorithmiques qui affectent les services municipaux à Montréal.
Ce que couvre la liste de vérification
La liste de vérification municipale exige généralement la documentation de l'objet du système, des sources de données, des évaluations d'impact sur la vie privée, l'identification et l'atténuation des biais, la supervision humaine et la communication transparente aux résidents concernés. Les projets devraient s'attendre à documenter :
- Déclaration de gouvernance et d'objet, incluant la portée décisionnelle et l'usage autorisé.
- Provenance des données et descriptions des jeux d'entraînement, avec des traces du prétraitement et de l'étiquetage.
- Résultats d'évaluation des risques de biais et mesures d'atténuation documentées.
- Plans de surveillance et réévaluations ou audits programmés.
- Matériel de transparence pour avis publics et voies d'appel pour les utilisateurs.
Sanctions et application
La politique éthique de Montréal établit des exigences procédurales et de supervision mais ne précise pas de sanctions pénales sur la page de politique citée; les amendes financières ou sanctions statutaires ne sont pas spécifiées sur la page citée. L'application est normalement assurée par le bureau municipal désigné responsable de la gouvernance algorithmique et par l'application des règlements municipaux; les voies d'appel et de révision suivent en général les procédures administratives municipales et les recours provinciaux en matière d'accès à l'information ou de révision judiciaire. Le résumé ci-dessous présente les éléments d'application habituels et les responsabilités attribuées par la ville.
- Amendes et pénalités monétaires : non spécifiées sur la page citée.
- Escalade : avis de conformité, plans correctifs obligatoires et mesures pour non-conformité répétée sont indiqués en pratique mais les fourchettes spécifiques ne sont pas précisées sur la page citée.
- Sanctions non monétaires : ordres de suspension d'utilisation, retrait du système de la production, audits obligatoires et exigences de rapport.
- Autorité d'application : le service municipal nommé dans la politique (par exemple le bureau responsable de la gouvernance algorithmique ou le Secrétariat/Services juridiques) gère les inspections, avis de conformité et renvois.
- Inspection et plaintes : les résidents peuvent déposer des plaintes via le portail des règlements ou des plaintes de la ville ; des pages de soumission spécifiques sont fournies par la ville.
- Recours et révisions : voies de recours administratives ou de révision judiciaire s'appliquent ; les délais ne sont pas spécifiés sur la page citée et doivent être confirmés auprès du service en charge.
Demandes et formulaires
Lorsque des formulaires sont requis, la politique municipale fait référence à de la documentation et des livrables d'audit plutôt qu'à un formulaire standard unique ; la page de politique ne publie pas de formulaire nommé ni de tableau de frais. Les contractants et départements doivent demander la liste de contrôle de soumission spécifique auprès du service municipal indiqué dans la politique. Si aucun formulaire n'est requis, la ville précisera les livrables et le format sur ses pages d'intake de projet ou d'approvisionnement.
Étapes pratiques de conformité
- Inventoriez les systèmes effectuant des décisions automatisées et cartographiez les services et parties prenantes concernés.
- Réalisez un audit de biais documenté couvrant les données d'entraînement, le comportement du modèle selon les groupes protégés et les tests d'atténuation.
- Planifiez des ré-audits périodiques et incluez les métriques de surveillance dans les contrats fournisseurs.
- Soumettez toute documentation requise au service municipal et conservez une trace des soumissions et des réponses.
FAQ
- Montréal exige-t-elle des audits de biais pour toute IA utilisée par la ville ?
- Oui pour les systèmes qui prennent des décisions ou informent matériellement des décisions municipales touchant les résidents ; la politique demande des audits et de la documentation pour ces systèmes.
- Existe-t-il des modèles standards pour la liste de vérification ?
- La politique municipale présente les éléments requis mais ne publie pas forcément un formulaire universel ; les départements fournissent souvent des modèles spécifiques lors de l'intake.
- Qui contacter pour signaler une non-conformité ?
- Contactez le service municipal responsable de la gouvernance algorithmique ou le portail de plaintes/application des règlements de la ville figurant dans les ressources ci-dessous.
How-To
Suivez ces étapes pour préparer un audit de biais et une soumission de liste de vérification éthique pour un projet municipal :
- Identifiez la portée du système et rassemblez les documents de gouvernance et les contrats d'approvisionnement.
- Effectuez un inventaire des données et réalisez des tests de biais sur des tranches démographiques définies.
- Mettez en œuvre des mesures d'atténuation et consignez les changements ; préparez un plan de surveillance avec métriques et seuils.
- Soumettez le dossier d'audit au service municipal et attendez toute demande de clarification.
- Exécutez les mesures correctives exigées par la ville et documentez leur achèvement pour la traçabilité.
Points clés
- Conservez un dossier complet et vérifiable pour chaque système algorithmique municipal.
- Les audits de biais et les plans d'atténuation sont des éléments centraux de la liste de vérification municipale.
- Contactez tôt le service municipal pour confirmer le format de soumission et les délais.
Aide et ressources
- Ville de Montréal - site officiel
- Ville de Montréal - services et départements
- Commission d'accès à l'information du Québec