Directives d'éthique de l'IA et règles d'audit des biais pour Winnipeg, Manitoba
Winnipeg, Manitoba, les organismes publics et les entrepreneurs qui utilisent des systèmes décisionnels automatisés devraient suivre des pratiques claires d'éthique de l'IA et d'audit des biais pour protéger les résidents et les services publics. Cet article explique comment les règlements municipaux et les voies d'application s'appliquent à l'utilisation de l'IA dans les opérations municipales, où trouver les règles officielles, des étapes pratiques de conformité et comment signaler des biais ou des non-conformités présumés aux autorités municipales.[1]
Portée et fondement juridique
Il n'existe pas de règlement municipal unique et dédié à l'IA consolidé sur les pages des règlements de la Ville de Winnipeg ; la gouvernance des enjeux liés à l'IA s'appuie généralement sur les pouvoirs prévus par d'autres règlements, les règles d'approvisionnement, les obligations en matière de protection de la vie privée et les politiques administratives. Pour les instruments juridiques spécifiques et leur consolidation, consultez les règlements et pages de politique de la Ville de Winnipeg référencés ci-dessous.[1]
Sanctions et application
Étant donné qu'un règlement autonome sur l'IA n'est pas consolidé sur les pages municipales citées, les amendes monétaires spécifiques, les calendriers d'escalade et certaines sanctions non pécuniaires ne sont pas indiqués et doivent être confirmés auprès du service d'application ou du texte du règlement applicable.
- Montants des amendes : non précisé sur la page citée.[1]
- Escalade (première, récidive, infractions continues) : non précisé sur la page citée.[1]
- Sanctions non pécuniaires : ordres de cessation, directives de conformité, saisie d'équipement ou mesures contractuelles peuvent être appliqués lorsque les règlements ou les contrats le permettent ; mesures spécifiques non précisées sur la page citée.[1]
- Organisme d'application : l'Application des règlements et le service administratif pertinent (approvisionnement, services de l'information, permis) supervisent la conformité ; voir les pages de contact officielles ci-dessous.
- Voies d'inspection et de plainte : déposer des plaintes via les portails de services ou de demandes de la Ville de Winnipeg ; les procédures d'entrée de dossier figurent sur le site municipal.[1]
- Recours et examens : les voies d'appel dépendent du règlement habilitant ou des termes du contrat ; les délais d'appel ne sont pas précisés sur la page citée et doivent être confirmés auprès du service émetteur.[1]
Formulaires et demandes
Aucun formulaire municipal spécifiquement intitulé « éthique de l'IA » ou « audit des biais » n'est publié sur la page des règlements citée ; lorsque des audits sont exigés par contrat ou politique, les unités d'approvisionnement ou de gestion de l'information émettent les formulaires ou directives correspondants, qui ne sont pas précisés sur la page citée.[1]
Étapes pratiques de conformité pour les services municipaux et les entrepreneurs
- Inventaire : maintenir un registre des systèmes décisionnels automatisés et des ensembles de données utilisés dans les services municipaux.
- Audits de biais : exiger des audits indépendants pour les systèmes à fort impact avant le déploiement et à intervalles réguliers.
- Conditions contractuelles : inclure des clauses d'audit, de transparence et de remédiation dans les contrats avec les fournisseurs.
- Tenue de dossiers : conserver les rapports d'audit, les données de test et les actions d'atténuation selon les périodes de conservation exigées par la politique municipale ou la loi provinciale.
- Traitement des plaintes : établir un flux de travail normalisé pour l'enregistrement et la priorisation des signalements de biais et affecter un responsable conformité.
Infractions courantes
- Ne pas effectuer les audits ou évaluations d'impact requis.
- Utiliser des modèles non testés ou opaques pour des décisions à forts enjeux sans mesures d'atténuation.
- Clauses contractuelles inadéquates empêchant la surveillance ou la revue indépendante.
- Ne pas répondre aux plaintes ou ne pas mettre en œuvre de mesures correctives.
FAQ
- Existe-t-il un règlement de Winnipeg qui régit spécifiquement l'utilisation de l'IA ?
- Non, aucun règlement spécifique à l'IA n'est consolidé sur les pages des règlements de la Ville de Winnipeg ; les règles s'appliquent via d'autres règlements, les termes d'approvisionnement et les politiques et doivent être confirmées auprès de la ville.[1]
- Comment signaler un biais présumé dans un système d'IA municipal ?
- Soumettez une plainte à l'Application des règlements ou au service concerné via les canaux de demande de service de la ville ; incluez des preuves, les parties touchées et les horodatages. Voir les ressources ci-dessous pour les liens de contact.
- Les audits indépendants des biais sont-ils obligatoires pour les fournisseurs travaillant avec la ville ?
- Les obligations dépendent des exigences contractuelles et de la politique du service ; lorsque des audits obligatoires sont prévus, ils figureront dans les documents d'approvisionnement ou les clauses contractuelles et ne sont pas indiqués sur la page des règlements citée.[1]
How-To
- Identifiez le système automatisé et rassemblez la documentation sur son objectif, ses sources de données et son déploiement.
- Contactez le programme contractant ou l'Application des règlements pour signaler les préoccupations et demander des directives.
- Faites appel à un auditeur indépendant ou suivez le protocole d'audit approuvé par la ville si disponible.
- Soumettez le rapport d'audit au responsable conformité de la ville et mettez en œuvre les mesures recommandées.
- Surveillez les résultats et conservez les dossiers conformément aux règles de conservation de la ville ou à la loi provinciale sur la vie privée.
Points clés
- Winnipeg s'appuie sur des règlements existants, l'approvisionnement et des cadres politiques pour encadrer l'utilisation de l'IA plutôt que sur un seul règlement consolidé.
- Des audits proactifs, des clauses contractuelles et des voies claires de plainte réduisent les risques de résultats biaisés.
Assistance et ressources
- Ville de Winnipeg - Règlements
- Ville de Winnipeg - Données ouvertes
- Ville de Winnipeg - Bureau du greffier municipal
- Ville de Winnipeg - Approvisionnement et services contractuels