Avis sur l'utilisation de systèmes de décision automatisée par la Ville de Montréal : assurer une gouvernance responsable, juste et inclusive

MONTRÉAL, le 23 août 2021 /CNW Telbec/ - Le Conseil jeunesse de Montréal (CjM) est heureux d'annoncer la publication de son nouvel Avis sur l'utilisation des systèmes de décision automatisée par la Ville de Montréal : assurer une gouvernance responsable, juste et inclusive.

Cet avis s'inscrit dans le débat sur l'utilisation, par la Ville de Montréal, son service de police et les organismes paramunicipaux, des technologies axées sur les données et les procédés algorithmiques pour assister ou remplacer la prise de décision humaine. En effet, l'exploitation par les villes des technologies centrées sur les données, notamment les systèmes de décision automatisée (SDA), dans la gestion, la planification et la prestation de services publics, soulève de multiples débats touchant à la protection de la vie privée des citoyen-nes, aux biais et aux discriminations, à l'efficacité même de ces SDA, à leur fiabilité, ainsi qu'à leur encadrement réglementaire.

Par cet avis, le CjM étudie les impacts de l'utilisation de ces SDA et réfléchit à l'élaboration d'un plan d'encadrement, de régulation et de gouvernance de ceux-ci. L'objectif de cette recherche est d'apporter des pistes d'action disponibles aux élu-es municipaux pour mettre en place un cadre responsable de gouvernance des données et des technologies à la Ville de Montréal.

Malgré les progrès réalisés par la Ville en matière de gouvernance de données dans les dernières années, certaines lacunes subsistent, notamment en matière de transparence des SDA et quant à l'absence de cadre réglementaire englobant et contraignant, remettant en question la possibilité d'une utilisation juste, responsable et inclusive de tels procédés technologiques. Face au constat de biais algorithmiques et d'importants questionnements éthiques soulevés par l'utilisation de SDA, le CjM propose également la mise en place de mesures d'évaluation et d'encadrement de ces outils technologiques basées sur le concept d'explicabilité afin d'en assurer un déploiement raisonné et équitable.

Afin d'encadrer le déploiement de la gouvernance responsable des données et des SDA, le CjM recommande entre autres :

• Que la Ville de Montréal crée :
• Un registre public des données numériques comprenant toutes les données qui sont captées dans l'espace public municipal, les entités qui captent les données, la manière dont les données sont traitées et stockées, la manière dont le consentement a été obtenu, les finalités décisionnelles associées aux données collectées, les entités qui ont accès aux données et les conditions relatives au partage des données;
• Un registre public des systèmes de décision automatisée indiquant tous les systèmes de décision automatisée ainsi que, pour chaque système, l'objectif du fonctionnement, le fonctionnement, les conditions d'utilisation, les risques, le rapport d'évaluation d'incidence et les informations sur l'auteur du système.
• Que la Ville de Montréal adopte un moratoire sur l'utilisation ou l'acquisition de technologies de police prédictive, qui sera effectif jusqu'à ce que les politiques et les cadres juridiques et règlementaires, incluant des mécanismes de consultation publique, soient pleinement déployés, afin de garantir le respect des droits de la personne.
• Que la Ville de Montréal nomme une personne responsable de la protection des données et de l'évaluation de l'impact des technologies axées sur les données et d'aide à la décision utilisées par les organismes municipaux.

Avec cet avis, le CjM veut faire entendre les préoccupations des jeunes et rappeler qu'il ne faut pas négliger l'incidence des technologies sur les Montréalais-es, et plus particulièrement sur certaines communautés marginalisées : « Le principal postulat posé par cet avis est l'exigence d'intégrer le concept d'explicabilité dans l'encadrement réglementaire de l'utilisation des SDA par la Ville, afin d'assurer une protection suffisante des droits et libertés des Montréalais-es. L'objectif d'une mesure comme l'évaluation de l'incidence des SDA est d'identifier les angles morts de ces derniers et les biais discriminatoires qui pourraient causer des préjudices sérieux aux citoyen-nes. Des expériences internationales nous démontrent malheureusement que l'injustice algorithmique existe réellement et les technologies peuvent contribuer à reproduire et à renforcer les biais inhérents aux algorithmes, et ainsi participer à décupler de façon systémique les inégalités déjà présentes dans notre société. En conséquent, le CjM formule le souhait que la trajectoire numérique empruntée par la Ville de Montréal soit déterminée non seulement par des principes, mais aussi par des politiques publiques et des règlements exhaustifs et de nature contraignante. », a affirmé le président du CjM, M. Benjamin Herrera.

« Les données demeurent des leviers importants en innovation, en développement social et en économie. Toutefois, avec la multiplication des outils de captation de données et l'usage grandissant des données analysées pour la prise de décisions, il est indispensable de se doter d'outils d'encadrement. La Charte des données numériques de Montréal est l'un de ces outils qui place la population et le bien commun au cœur de notre approche sur les données. Nous accueillons avec ouverture cette publication que nous étudierons avec intérêt afin d'évaluer de quelle manière la Ville peut aller encore plus loin en matière de gouvernance des données », a déclaré M. François W. Croteau, responsable de la ville intelligente, des technologies de l'information, de l'innovation et de l'enseignement supérieur au sein du comité exécutif de la Ville de Montréal.

« Ce nouvel avis du CjM aborde une question d'actualité, qui sera déterminante durant les années à venir pour l'ensemble de la société. La Ville de Montréal veut avant tout que les outils technologiques soient inclusifs et au service des citoyen.nes », a souligné Mme Nathalie Goulet, responsable de l'inclusion sociale, des sports et loisirs, de la condition féminine, de l'itinérance et de la jeunesse au sein du comité exécutif de la Ville de Montréal.

Le lancement virtuel de cet avis aura lieu le 14 septembre prochain. Lors de cette occasion, les membres du CjM présenteront les faits saillants du document ainsi que les 15 recommandations qu'ils et elles formulent à la Ville de Montréal. De plus, un échange réunissant la chercheuse ayant rédigé l'avis, Mme Lyne Nantel, doctorante en études urbaines au Centre Urbanisation Culture Société de l'Institut national de la recherche scientifique, ainsi que M. Jonathan Durand-Folco, professeur à l'École d'innovation sociale de l'Université Saint-Paul aura lieu.

Pour télécharger le document : http://ville.montreal.qc.ca/pls/portal/docs/page/cons_jeunesse_fr/media/documents/Avis_SDA.pdf

Pour participer au lancement : https://www.eventbrite.ca/e/billets-lancement-de-lavis-sur-lutilisation-de-systemes-de-decision-automatisee-167663984491

Qui sommes-nous?

Le Conseil jeunesse de Montréal a pour mandat de conseiller le conseil de la ville sur toutes les questions relatives aux jeunes âgés de 12 à 30 ans et d'assurer la prise en compte des préoccupations jeunesse dans les décisions de l'Administration municipale. Pour plus d'informations sur les travaux et activités du Conseil jeunesse de Montréal : www.cjmtl.com.

Facebook : /cjmtl 
Twitter : @cjmtl
Instagram : @conseiljmtl
www.cjmtl.com  

SOURCE Conseil jeunesse de Montréal

Conseil jeunesse de Montréal, Geneviève Coulombe, Secrétaire-recherchiste, 514 250-8258, [email protected]

Liens connexes

www.ville.montreal.qc.ca/cjm