Guide sur l'approvisionnement IA et conformité éthique à Kitchener
Kitchener, Ontario exige que les fournisseurs de logiciels et de services, y compris les fournisseurs d'IA, respectent les normes municipales d'approvisionnement, les attentes en matière de confidentialité et de sécurité, ainsi que des garanties éthiques documentées avant de contracter avec la ville. Ce guide explique comment Kitchener évalue les solutions d'IA, les vérifications préalables demandées aux fournisseurs, les contrôles contractuels à prévoir et les voies pour signaler ou contester des décisions. Il s'adresse aux responsables des achats, aux conseillers juridiques et aux fournisseurs potentiels préparant des soumissions, propositions ou demandes de renseignements pour des projets municipaux à Kitchener.
Règles d'approvisionnement pour les fournisseurs d'IA
Le service des approvisionnements de la Ville régit les processus d'approvisionnement concurrentiels, les critères d'évaluation et les clauses obligatoires pour les fournisseurs. Les fournisseurs doivent s'inscrire, consulter les appels d'offres publiés et suivre les instructions des RFP/RFQ. Le service des approvisionnements exige des énoncés clairs de l'étendue, des livrables, de la gestion des données et des plans de sous-traitance. Les fournisseurs potentiels doivent également documenter comment les systèmes d'IA traitent le biais, la transparence et l'auditabilité dans leurs soumissions techniques. Pour les processus officiels d'approvisionnement et les détails d'inscription, consultez la page d'approvisionnement de la Ville[1].
Préalable et exigences obligatoires
- Preuve du statut de l'entreprise, assurance et documents WSIB ou équivalents.
- Documentation technique sur l'objectif du modèle, les catégories de données d'entraînement et les limites connues.
- Contrôles de sécurité et de confidentialité, y compris la preuve du chiffrement, des contrôles d'accès et d'une évaluation des incidences sur la vie privée lorsque des données personnelles sont traitées.
- Tarification détaillée, conditions de licence et frais de maintenance éventuels.
- Déclarations de conflits d'intérêts et références de travaux antérieurs.
Éthique, transparence et obligations en matière de données
La Ville attend des fournisseurs qu'ils décrivent les mesures prises pour atténuer le biais algorithmique, fournissent un niveau d'explicabilité lorsque cela est possible et permettent la revue ou l'audit par la Ville des résultats algorithmiques. Lorsque des projets impliquent des renseignements personnels, les fournisseurs doivent se conformer aux exigences municipales en matière de confidentialité et appuyer les évaluations de la vie privée; consultez la page de confidentialité de la Ville pour les orientations officielles et les voies de plainte[2].
Sanctions et application
L'application des règles d'approvisionnement et de la conformité au règlement municipal est assurée par le service des approvisionnements pour les contrats et par la Police des règlements municipaux pour les infractions; les plaintes peuvent être déposées via les contacts municipaux publiés ci-dessous[3]. Les amendes monétaires spécifiques ou les barèmes de pénalité liés à la non-conformité en matière d'approvisionnement ne sont pas systématiquement publiés sur les pages d'approvisionnement référencées; lorsque des amendes ou des contraventions s'appliquent, les pages officielles citées peuvent les indiquer ou les laisser non spécifiées.
- Montants des amendes : non spécifié sur la page d'approvisionnement citée.
- Escalade (première/répétition/infractions continues) : non spécifié sur les pages d'approvisionnement ou de règlements municipales.
- Sanctions non monétaires : résiliation de contrat, retenue de paiement, retenues sur performance, obligations de remédier aux systèmes non conformes et suspension possible des appels d'offres futurs.
- Autorité d'application : le service des approvisionnements pour les manquements contractuels ; la Police des règlements municipaux pour les infractions ; le bureau de la confidentialité pour les atteintes à la vie privée.
- Voies d'inspection, d'enquête et de plainte : soumettez les problèmes via le contact d'approvisionnement municipal publié, le processus de plainte en matière de vie privée ou les formulaires de plainte de règlement municipal indiqués dans Ressources.
Demandes et formulaires
La Ville publie des documents d'approvisionnement standard (modèles de RFP/RFQ, portails d'inscription) sur ses pages d'approvisionnement. Les formulaires spécifiques pour l'éthique de l'IA ou les évaluations d'impact algorithmique ne sont pas universellement publiés ; lorsqu'ils sont requis, l'appel d'offres joindra ou référencera habituellement les formulaires demandés. Pour les documents officiels d'approvisionnement, consultez le portail d'approvisionnement et les pièces jointes des appels d'offres sur le site de la Ville[1].
Infractions fréquentes et conséquences typiques
- Fausse déclaration des capacités ou de l'expérience — résiliation possible du contrat et disqualification des futurs appels d'offres.
- Manquement à la protection des données personnelles — enquête, ordonnances de remédiation et actions juridiques potentielles en vertu des cadres de confidentialité.
- Non-livraison des services contractés ou échéances manquées — retenues, dommages-intérêts ou résiliation selon les conditions contractuelles.
FAQ
- Les fournisseurs d'IA ont-ils besoin d'une licence spéciale pour répondre aux appels d'offres de la Ville ?
- Pas de licence IA spéciale ; les fournisseurs doivent satisfaire aux qualifications standard d'approvisionnement, d'assurance et de licence indiquées dans chaque appel d'offres.
- La Ville exigera-t-elle l'accès au code source du modèle ?
- Les exigences varient selon le projet ; la Ville peut exiger un accès suffisant, une documentation ou des droits d'audit pour vérifier la sécurité et l'équité, mais la divulgation complète du code source est négociée au contrat et n'est pas universellement imposée.
- Comment signaler une inconduite dans l'approvisionnement ?
- Signalez les préoccupations d'approvisionnement au service des approvisionnements et utilisez les voies de plainte en matière de règlements municipaux ou de vie privée selon le cas ; voir Ressources pour les liens de contact.
How-To
- Examinez l'appel d'offres et les exigences obligatoires indiquées dans le RFP ou le RFQ.
- Préparez une annexe technique décrivant l'objectif du modèle, les types de données d'entraînement, les méthodes de test et les mesures d'atténuation du biais.
- Complétez une évaluation des incidences sur la vie privée si des données personnelles sont traitées et joignez les preuves de sécurité.
- Incluez des clauses contractuelles claires sur les droits d'audit, la garantie, la responsabilité et la propriété ou la licence des données.
- Soumettez la tarification, les calendriers et les plans de maintenance, et assurez-vous que la proposition respecte les règles de soumission.
- Si vous êtes présélectionné, préparez-vous à des entrevues techniques, des démonstrations et des vérifications de références.
Points clés
- Préparez les documents d'éthique, de confidentialité et de sécurité comme éléments centraux de la proposition.
- Respectez exactement les instructions de l'appel d'offres ; les formulaires requis et les pièces jointes sont spécifiques au projet.
Aide et ressources
- City of Kitchener Procurement & Contracts
- City of Kitchener Privacy Office
- City of Kitchener By-law Enforcement