Lignes directrices d'éthique de l'IA et audits obligatoires sur les biais pour les outils municipaux à Brampton
Brampton, Ontario met à jour la gouvernance des outils municipaux utilisant l'intelligence artificielle, en mettant l'accent sur l'éthique transparente, les audits obligatoires sur les biais et la responsabilité pour les décisions affectant les résidents. Ce guide explique le champ d'application probable, les voies d'application, les moyens de porter plainte et les étapes pratiques de conformité pour les services, les fournisseurs et les parties prenantes communautaires à Brampton.
Champ d'application et définitions
Cette politique s'applique aux logiciels municipaux, aux systèmes de décision automatisés, à l'analytique prédictive et à tout approvisionnement dont les résultats algorithmiques influencent l'admissibilité aux programmes, les licences, l'application des règlements ou la prestation de services publics. Les définitions incluent souvent «décision automatisée», «audit de biais» et «système à fort impact»; lorsque Brampton ne publie pas de définitions précises sur une page de règlement unique, les services adoptent les normes provinciales et municipales lorsque disponibles.[1]
Sanctions et application
La Ville applique les politiques municipales par l'entremise de l'application des règlements, du greffe municipal et des services responsables (par ex. Licences, Aménagement, TI). Les montants précis des amendes, le cas échéant, et les grilles de sanctions structurées ne sont pas spécifiés sur la page générale du règlement; l'application repose généralement sur des ordonnances, des mesures contractuelles ou des renvois devant les tribunaux lorsque des contraventions légales existent.[1]
- Amendes : non spécifiées sur la page citée ; consultez le règlement ou le contrat applicable pour les montants précis.[1]
- Escalade : mesures pour une première infraction, pénalités répétées ou infractions continues non indiquées sur la page générale et peuvent figurer dans les protocoles de service ou les termes contractuels.[1]
- Sanctions non pécuniaires : ordonnances de conformité, suspension d'utilisation, résiliation de contrat, saisie de preuves ou renvoi en justice.
- Application et plaintes : l'application des règlements et le greffe coordonnent les enquêtes; soumettez une plainte via les pages d'accès à l'information ou de plaintes de la Ville de Brampton pour un traitement officiel.[2]
- Recours et appels : les voies de recours dépendent de l'instrument d'application — processus contractuel, voies municipales ou contrôle judiciaire — les délais et procédures sont précisés dans l'instrument concerné (non spécifié sur la page citée).[1]
- Moyens de défense et discrétion : excuse raisonnable, exemptions discrétionnaires ou dérogations approuvées peuvent s'appliquer lorsqu'autorisées par la politique ou une résolution du Conseil.
Demandes et formulaires
Aucun formulaire standardisé "audit IA" n'est publié sur la page d'accueil des règlements de la Ville; les services et les équipes d'approvisionnement exigent généralement des rapports d'audit, la documentation technique et des évaluations d'impact sur la protection des renseignements dans le cadre des soumissions contractuelles. Pour les formulaires et portails de soumission précis, contactez le service responsable ou le greffe municipal.[1]
Étapes de conformité pour les services et les fournisseurs
- Inventaire : recensez les systèmes qui prennent des décisions automatisées et documentez les sources de données, modèles et seuils décisionnels.
- Audit de biais : mandatez un audit de biais indépendant avant le déploiement et périodiquement en exploitation.
- Approvisionnement : incluez des clauses d'éthique et d'audit dans les appels d'offres et les contrats exigeant des recours en cas de non-conformité.
- Transparence : publiez des avis d'impact en langage clair et des voies d'appel ou de révision humaine.
Infractions courantes
- Absence d'audit de biais lorsqu'il est requis.
- Déploiement d'un système à fort impact sans approbation documentée ou garde-fous de révision humaine.
- Non-respect des obligations en matière de protection des données ou de divulgation FOI.
FAQ
- Qui applique les exigences d'éthique et d'audit pour l'IA à Brampton ?
- L'application est assurée par l'application des règlements, le greffe municipal et le service propriétaire du système ; les gestionnaires de contrats appliquent également les obligations des fournisseurs.[2]
- Existe-t-il des amendes pour l'échec d'un audit de biais ?
- La page d'accueil des règlements de la Ville ne précise pas d'amendes monétaires ; l'application peut reposer sur des mesures contractuelles, des ordonnances ou des actions en justice.
How-To
- Déterminez si votre système relève de la définition municipale d'un système de décision automatisé.
- Mandatez un audit de biais indépendant et conservez le rapport et la méthodologie de l'auditeur.
- Soumettez la documentation requise au service responsable ou joignez-la aux soumissions d'approvisionnement.
- Répondez aux ordonnances de conformité et appliquez les mesures d'atténuation recommandées aux échéances indiquées.
Points clés
- Documentez et auditez les outils algorithmiques avant leur utilisation dans les services touchant les résidents.
- Incluez des clauses d'audit et de recours contraignantes dans les contrats et les appels d'offres.
Assistance et ressources
- City of Brampton By-laws
- Accès à l'information / FOI - Ville de Brampton
- Greffe municipal - Ville de Brampton
- Application des règlements - Ville de Brampton