Règlement de Vaughan sur l'audit des biais IA et la divulgation des fournisseurs
Vaughan, Ontario discute de plus en plus de la gestion des outils algorithmiques et des systèmes de décision automatés dans les marchés publics. Cet article explique les attentes actuelles concernant les audits de biais, la divulgation par les fournisseurs de l'utilisation de l'IA dans les soumissions, et les étapes pratiques pour les fournisseurs et le personnel. Il résume où la Ville publie des directives d'approvisionnement et des règlements municipaux, comment sont gérés les controles et les plaintes, et ce que les fournisseurs doivent inclure dans les propositions pour réduire les risques. Lorsqu'une disposition municipale ou une amende n'est pas publiée sur la page officielle citée, le texte indique "non spécifié sur la page citée" et renvoie au département responsable pour suite.
Champ d'application et exigences pour les audits de biais IA
Les pratiques d'approvisionnement de Vaughan sont régies par les règles d'achats et d'approvisionnement de la Ville et les arrêtés applicables; les exigences explicites de la ville pour des audits indépendants sur l'IA ou des modèles standards de divulgation ne sont pas centralisées sur une seule page publique et les détails varient selon le type de contrat. Il est recommandé que les fournisseurs incluent une description des systèmes de décision automatés, l'origine des données de formation et les mesures documentées d'atténuation des biais dans les soumissions techniques. Si un audit de biais est demandé pendant un appel d'offres, les documents d'approvisionnement préciseront la portée, les normes et la répartition des coûts.
Sanctions et application
Les montants d'amendes spécifiques, les règles d'escalade pour les infractions répétées ou continues, ou les montants pénaux pour le manquement à divulguer l'utilisation de l'IA dans les achats ne sont pas spécifiés sur les pages d'approvisionnement ou d'arrêtés citées; les sanctions en approvisionnement sont typiquement contractuelles et administratives plutôt que pénales pour les questions municipales d'approvisionnement[1]. Les responsabilités d'application sont partagées entre la division des achats/approvisionnement pour la conformité des contrats et l'application des arrêtés ou le greffe pour les questions d'arrêtés; les plaintes en matière d'approvisionnement peuvent être adressées au bureau des achats ou au greffe comme indiqué sur le site de la Ville[2].
Les recours et mesures typiques peuvent comprendre :
- Résiliation du contrat ou retenue de paiement pour fausse déclaration matérielle.
- Recouvrement de dommages ou coûts pour remedier à des prestations non conformes lorsque le contrat le permet.
- Exigence de fournir un audit corretif des biais ou un plan de remédiation aux frais du fournisseur si les clauses contractuelles le prévoient.
- Saisine des instances judiciaires en cas de fraude ou de dissimulation intentionnelle.
- Directives administratives des agents d'approvisionnement ou d'arrêtés et reception des plaintes via les contacts officiels.
Demandes et formulaires
La Ville ne publie pas de formulaire normalisé public intitulé « divulgation IA » ni une demande d'audit de biais unique sur les pages d'approvisionnement; les exigences sont normalement incluses dans les documents d'appel d'offres ou le DCE. Lorsqu'un audit de biais ou une divulgation est requis, le document d'approvisionnement précisera tout nom de formulaire requis ou les preuves à fournir et la méthode de soumission, généralement via le portail d'approvisionnement électronique ou par courriel au contact des achats[1].
Mesures concrètes pour fournisseurs et personnel
- Inclure une declaration d'IA claire dans les propositions décrivant les modèles, les sources de données, l'usage prévu et les limites connues.
- Conserver la documentation et les artefacts de modèle pour appuyer tout audit de biais ou vérification demandée.
- Être prêt à proposer des mesures de remédiation et un calendrier si des problèmes de biais sont identifiés.
- Répondre rapidement aux clarifications d'approvisionnement et respecter les délais d'audit spécifiés dans le contrat.
FAQ
- Les fournisseurs doivent-ils fournir un audit indépendant des biais pour chaque soumission liée à l'IA ?
- Pas systématiquement ; l'exigence dépend des documents d'approvisionnement. Si un audit de biais est requis, il sera précisé dans l'appel d'offres ou le contrat.
- Qui applique les obligations de divulgation pour les approvisionnements à Vaughan ?
- La conformité contractuelle est gérée par la division des achats/approvisionnement et les questions d'arrêtés par le greffe ou l'application des arrêtés selon le cas.
- Existe-t-il des amendes fixes pour le non-respect de la divulgation de l'IA ?
- Les amendes municipales fixes pour la non-divulgation de l'IA dans les approvisionnements ne figurent pas sur les pages d'approvisionnement citées et sont généralement traitées contractuellement ; voir le contact des achats pour des conseils spécifiques au cas par cas[1].
How-To
- Identifiez tout système de décision automaté inclus dans les biens ou services que vous proposez.
- Préparez une divulgation concise : objectif du modèle, sources de données, limites connues des biais et mesures d'atténuation.
- Si demandé, mandatez un audit indépendant des biais selon la portée indiquée dans les documents d'approvisionnement.
- Soumettez les divulgations et rapports d'audit via le portail d'approvisionnement ou au contact des achats avant la date limite indiquée dans l'appel d'offres.
Points essentiels
- Divulguez l'utilisation de l'IA dès le départ pour réduire les risques et les retards.
- Les recours en approvisionnement sont le plus souvent contractuels ; les amendes monétaires ne sont pas centralisées.
- Contactez les achats ou le greffe pour les procédures d'appel ou de divulgation spécifiques.
Help and Support / Resources
- City of Vaughan - Purchasing and Procurement
- City of Vaughan - By-laws and Licensing
- City of Vaughan - Contact & Clerk