Directives d'éthique de l'IA et processus d'audit des biais pour Burnaby

Burnaby, Colombie-Britannique, doit fournir aux équipes municipales qui adoptent ou achètent des outils pilotés par l'IA une orientation claire en matière d'éthique et un processus pratique d'audit des biais afin de respecter les normes légales, de confidentialité et de service. Ce guide explique comment la politique municipale, les considérations de règlement et les voies de révision internes peuvent s'appliquer aux systèmes d'IA utilisés par les services de la ville et les contractants, avec des étapes pour évaluer les biais, documenter les décisions et répondre aux plaintes.

Portée et objectif

Cette orientation vise à aider les services et fournisseurs de Burnaby à évaluer les risques algorithmiques, à aligner la passation de marchés et les opérations sur les obligations municipales, et à créer des pistes d'audit reproductibles pour les décisions affectant le public.

Éléments clés d'un programme d'éthique de l'IA

• Inventaire des risques pour les systèmes qui affectent les résidents ou l'admissibilité aux services.
• Méthodologie d'audit des biais documentant les sources de données, la performance du modèle, les résultats par sous-groupes et les limites.
• Clauses de passation de marchés exigeant la documentation du fournisseur, des fiches techniques du modèle et des droits d'audit.
• Voies de plainte et d'escalade qui relient les résidents concernés au bureau municipal responsable.

Sanctions et application

Il n'existe pas de règlement unique à Burnaby qui prescrit actuellement des amendes pour l'absence de politiques d'éthique de l'IA ou d'audits de biais; les options d'application dépendent du règlement municipal applicable, des conditions du contrat de passation de marchés et des obligations provinciales. Lorsqu'un règlement municipal ou une condition contractuelle est enfreint, les voies d'application typiques comprennent les ordonnances de mise en conformité, les recours contractuels, les pénalités administratives lorsque le règlement les prévoit, et le renvoi aux services juridiques ou aux autorités réglementaires.

Les bureaux responsables comprennent généralement les Services des technologies de l'information et le Service juridique pour la conformité aux politiques internes, et l'application des règlements municipaux pour les questions régies par un règlement de Burnaby. Pour le texte des règlements et les coordonnées d'application, consultez les pages municipales sur les règlements et l'application des règlements City of Burnaby: Bylaws^[1] et City of Burnaby: By-law Enforcement^[2].

• Amendes monétaires : non précisées sur la page citée pour les mesures de gouvernance de l'IA ; consultez le règlement ou le contrat applicable.
• Escalade : le traitement des infractions initiales/répétées/continues n'est pas précisé sur la page citée et dépend du règlement ou de la clause contractuelle spécifique.
• Sanctions non monétaires : ordonnances de conformité, suspension de service, recours contractuels ou action en justice peuvent s'appliquer selon l'instrument.
• Appels et révisions : les voies d'appel dépendent du règlement ou du contrat ; les délais et les tribunaux/tribunaux administratifs sont précisés dans l'instrument de contrôle ou le contrat (non précisé sur la page citée).

Demandes et formulaires

Aucun formulaire municipal dédié pour la certification d'éthique de l'IA ou le dépôt d'un audit des biais n'est publié sur les pages citées ; les services acceptent généralement les rapports d'audit et la documentation des fournisseurs via les canaux de passation de marchés ou juridiques (non précisé sur la page citée).

Étapes pratiques pour les services

• Élaborez un calendrier pour inventorier les systèmes d'IA et planifier les audits.
• Exigez la documentation du modèle et les droits d'audit des fournisseurs dans les appels d'offres et les contrats.
• Réalisez des audits de biais incluant la désagrégation des résultats et des plans d'atténuation.
• Publiez un processus de plainte clair pour les résidents et orientez les plaintes vers le service responsable.

FAQ

Burnaby a-t-elle un règlement qui exige des audits de biais pour l'IA ?

Il n'y a pas de règlement spécifique de Burnaby exigeant des audits de biais municipaux cité sur les pages officielles ; les exigences sont généralement fixées par la politique, les clauses de passation de marchés ou des règlements spécifiques lorsque cela s'applique.

Qui applique la conformité liée à l'IA à Burnaby ?

L'application dépend de l'instrument : la conformité aux politiques internes est gérée par les TI et le Service juridique, tandis que les infractions aux règlements sont traitées par l'application des règlements municipaux ou les autorités compétentes.

Comment les résidents peuvent-ils signaler une décision automatisée problématique ?

Les résidents doivent utiliser les canaux de plainte ou de demande de service municipaux disponibles sur le site de la Ville de Burnaby et demander l'orientation vers le service responsable pour examen.

How-To

1. Inventoriez tous les systèmes municipaux utilisant la prise de décision automatisée et classez les risques.
2. Priorisez les systèmes à haut risque pour des audits indépendants des biais portant sur les caractéristiques protégées et les disparités de résultats.
3. Exigez des fournisseurs la documentation du modèle, la description des données d'entraînement et des engagements de remédiation.
4. Publiez des résumés d'audit, les actions de remédiation et une voie de plainte pour les résidents.

Points clés

• Commencez les exigences d'éthique et d'audit lors de la passation de marchés pour fixer des attentes exécutoires.
• Documentez les audits et les mesures d'atténuation pour soutenir la transparence et les droits d'appel.

Assistance et ressources

• City of Burnaby: Bylaws
• City of Burnaby: By-law Enforcement
• City of Burnaby: City Hall and Departments
• City of Burnaby: Licensing, Permits and Procurement

1. [1] City of Burnaby: Bylaws
2. [2] City of Burnaby: By-law Enforcement