{"id":13697,"date":"2023-02-14T16:56:08","date_gmt":"2023-02-14T21:56:08","guid":{"rendered":"https:\/\/dev.ccla.org\/non-classe\/blogue-invite-les-developpeurs-dintelligence-artificielle-doivent-sassurer-dun-engagement-envers-un-consentement-significatif\/"},"modified":"2026-04-23T14:10:29","modified_gmt":"2026-04-23T18:10:29","slug":"blogue-invite-les-developpeurs-dintelligence-artificielle-doivent-sassurer-dun-engagement-envers-un-consentement-significatif","status":"publish","type":"post","link":"https:\/\/dev.ccla.org\/fr\/vie-privee\/blogue-invite-les-developpeurs-dintelligence-artificielle-doivent-sassurer-dun-engagement-envers-un-consentement-significatif\/","title":{"rendered":"Blogue invit\u00e9 : Les d\u00e9veloppeurs d\u2019intelligence artificielle doivent s\u2019assurer d\u2019un engagement envers un consentement significatif"},"content":{"rendered":"[vc_row type=\u00a0\u00bbin_container\u00a0\u00bb full_screen_row_position=\u00a0\u00bbmiddle\u00a0\u00bb column_margin=\u00a0\u00bbdefault\u00a0\u00bb column_direction=\u00a0\u00bbdefault\u00a0\u00bb column_direction_tablet=\u00a0\u00bbdefault\u00a0\u00bb column_direction_phone=\u00a0\u00bbdefault\u00a0\u00bb scene_position=\u00a0\u00bbcenter\u00a0\u00bb text_color=\u00a0\u00bbdark\u00a0\u00bb text_align=\u00a0\u00bbleft\u00a0\u00bb row_border_radius=\u00a0\u00bbnone\u00a0\u00bb row_border_radius_applies=\u00a0\u00bbbg\u00a0\u00bb overlay_strength=\u00a0\u00bb0.3″ gradient_direction=\u00a0\u00bbleft_to_right\u00a0\u00bb shape_divider_position=\u00a0\u00bbbottom\u00a0\u00bb bg_image_animation=\u00a0\u00bbnone\u00a0\u00bb][vc_column column_padding=\u00a0\u00bbno-extra-padding\u00a0\u00bb column_padding_tablet=\u00a0\u00bbinherit\u00a0\u00bb column_padding_phone=\u00a0\u00bbinherit\u00a0\u00bb column_padding_position=\u00a0\u00bball\u00a0\u00bb column_element_spacing=\u00a0\u00bbdefault\u00a0\u00bb background_color_opacity=\u00a0\u00bb1″ background_hover_color_opacity=\u00a0\u00bb1″ column_shadow=\u00a0\u00bbnone\u00a0\u00bb column_border_radius=\u00a0\u00bbnone\u00a0\u00bb column_link_target=\u00a0\u00bb_self\u00a0\u00bb gradient_direction=\u00a0\u00bbleft_to_right\u00a0\u00bb overlay_strength=\u00a0\u00bb0.3″ width=\u00a0\u00bb1\/1″ tablet_width_inherit=\u00a0\u00bbdefault\u00a0\u00bb tablet_text_alignment=\u00a0\u00bbdefault\u00a0\u00bb phone_text_alignment=\u00a0\u00bbdefault\u00a0\u00bb bg_image_animation=\u00a0\u00bbnone\u00a0\u00bb border_type=\u00a0\u00bbsimple\u00a0\u00bb column_border_width=\u00a0\u00bbnone\u00a0\u00bb column_border_style=\u00a0\u00bbsolid\u00a0\u00bb][vc_column_text]Jonathan A. Obar, PhD, est professeur agr\u00e9g\u00e9 au d\u00e9partement de communication et d\u2019\u00e9tudes des m\u00e9dias de l\u2019Universit\u00e9 York. Ses recherches et son enseignement portent sur la politique de l\u2019information et de la communication, ainsi que sur la relation entre les technologies num\u00e9riques, les libert\u00e9s civiles et l\u2019inclusivit\u00e9 des cultures publiques. Les publications acad\u00e9miques abordent le big data et la vie priv\u00e9e, les interfaces de consentement en ligne, la transparence de la confidentialit\u00e9 des donn\u00e9es corporatives et l\u2019activisme num\u00e9rique. <\/em><\/p>\n

Les ensembles de donn\u00e9es pour l\u2019entra\u00eenement de l\u2019intelligence artificielle (IA) peuvent \u00eatre remplis d\u2019informations obtenues sans consentement significatif. Qu\u2019une organisation recueille des donn\u00e9es directement aupr\u00e8s des utilisateurs ou d\u2019une autre organisation, il est essentiel d\u2019assurer le consentement significatif des personnes repr\u00e9sent\u00e9es dans les donn\u00e9es. Alors que le gouvernement canadien d\u00e9bat du projet de loi C-27 et remet en question l\u2019avenir de l\u2019IA \u00e9thique, cette question doit \u00eatre une priorit\u00e9. <\/p>\n

Les d\u00e9veloppeurs peuvent tenter d\u2019entra\u00eener des syst\u00e8mes d\u2019IA pour aider un magasin \u00e0 vendre des produits, une banque pour d\u00e9terminer les hypoth\u00e8ques, une compagnie d\u2019assurance pour estimer les primes, la police pour identifier les suspects ou un juge pour calculer les taux de r\u00e9cidive. Dans chacun de ces cas \u2014 et bien d\u2019autres \u2014 si les personnes dont les donn\u00e9es alimentent ces syst\u00e8mes n\u2019ont pas consenti \u00e0 ce que leurs donn\u00e9es soient utilis\u00e9es dans le d\u00e9veloppement de l\u2019IA, cela constitue une violation potentielle des libert\u00e9s civiles. De plus, le manque de surveillance associ\u00e9 \u00e0 un consentement significatif pourrait entra\u00eener des pr\u00e9judices associ\u00e9s \u00e0 la discrimination li\u00e9e aux big data<\/a>. <\/p>\n

\u00c9crivant sur la collecte et l\u2019utilisation probl\u00e9matiques de donn\u00e9es par les d\u00e9veloppeurs d\u2019IA, Kate Crawford, une chercheuse de premier plan en IA, met en garde<\/a> :<\/p>\n

L\u2019industrie de l\u2019IA a favoris\u00e9 une forme de pragmatisme impitoyable, avec un minimum de contexte, de prudence ou de pratiques de donn\u00e9es bas\u00e9es sur le consentement, tout en promettant l\u2019id\u00e9e que la collecte massive de donn\u00e9es est n\u00e9cessaire et justifi\u00e9e pour cr\u00e9er des syst\u00e8mes d’\u00ab intelligence \u00bb computationnelle rentables (p. 95).<\/p><\/blockquote>\n

Quand quelqu\u2019un partage une photo en ligne, est-ce qu\u2019il est d\u2019accord que la photo peut entra\u00eener l\u2019IA pour les ressources humaines? Quand les gens ouvrent la porte d\u2019un centre commercial, conviennent-ils que les images des cam\u00e9ras de surveillance peuvent entra\u00eener la prise de d\u00e9cision automatis\u00e9e pour les syst\u00e8mes de justice p\u00e9nale? D\u00e9placer les donn\u00e9es d\u2019un contexte \u00e0 un autre<\/a> soul\u00e8ve des inqui\u00e9tudes quant au r\u00f4le du consentement comme m\u00e9canisme de surveillance. Les personnes qui tentent de donner leur consentement apr\u00e8s avoir t\u00e9l\u00e9charg\u00e9 une application comprennent-elles comment les informations personnelles peuvent circuler au sein d\u2019une organisation? Par exemple, du programme PC Optimum de Loblaws<\/a> aux entreprises de sant\u00e9 et de services financiers au sein de l\u2019organisation Loblaw? D\u2019une organisation \u00e0 une autre, comme du suivi de localisation mobile de Foursquare<\/a> \u00e0 KFC? Dans les deux cas, la r\u00e9ponse est probablement non si les gens ne lisent pas les conditions d\u2019utilisation et les politiques de confidentialit\u00e9. <\/p>\n

Consentement significatif et \u00ab Le plus grand mensonge sur Internet \u00bb<\/strong><\/p>\n

Un consentement significatif sugg\u00e8re que les individus prennent conscience et compr\u00e9hension de la fa\u00e7on dont les informations personnelles sont utilis\u00e9es sur le moment, ainsi que des implications pour l\u2019avenir. D\u00e9velopper cette compr\u00e9hension peut \u00eatre difficile si les d\u00e9veloppeurs d\u2019IA refusent d\u2019enseigner aux gens les pratiques de l\u2019industrie, et impossible si les gens ignorent les occasions d\u2019engagement et d\u2019apprentissage. <\/p>\n

\u00c9voquant une \u00ab logique extractive \u00bb centrale dans la fa\u00e7on dont les d\u00e9veloppeurs d\u2019IA collectent et utilisent les donn\u00e9es, Crawford \u00e9crit : \u00ab Il est devenu tellement normalis\u00e9 dans l\u2019industrie de prendre et d\u2019utiliser tout ce qui est disponible que peu de gens prennent le temps de remettre en question la politique sous-jacente \u00bb (p. 93).<\/p>\n

Ces politiques sous-jacentes incluent ce qu\u2019on appelle \u00ab le plus grand mensonge d\u2019Internet \u00bb, connu sous le nom de \u00ab j\u2019accepte les termes et conditions \u00bb (voir : www.biggestlieonline.com<\/a>). Ce m\u00e8me internet sugg\u00e8re que les gens \u00ab mentent \u00bb en acceptant les conditions de service sans y acc\u00e9der, les lire ou les comprendre. La taille (c\u2019est-\u00e0-dire \u00ab la plus grande \u00bb) est due \u00e0 l\u2019omnipr\u00e9sence des services num\u00e9riques, dont les conditions sont accept\u00e9es tout le temps.[\/vc_column_text][image_with_animation image_url=\u00a0\u00bb8543″ animation=\u00a0\u00bbFade In\u00a0\u00bb hover_animation=\u00a0\u00bbnone\u00a0\u00bb alignment=\u00a0\u00bb\u00a0\u00bb border_radius=\u00a0\u00bbnone\u00a0\u00bb box_shadow=\u00a0\u00bbnone\u00a0\u00bb image_loading=\u00a0\u00bbdefault\u00a0\u00bb max_width=\u00a0\u00bb75%\u00a0\u00bb max_width_mobile=\u00a0\u00bbdefault\u00a0\u00bb][vc_column_text]Dans deux \u00e9tudes tentant de d\u00e9m\u00ealer \u00ab le plus grand mensonge d\u2019Internet \u00bb, des \u00e9tudiants de premier<\/a> cycle et des adultes de 50+<\/a> ans se sont vu pr\u00e9senter un processus de consentement fictif en ligne pour un site de m\u00e9dias sociaux fictif. Dans les deux \u00e9tudes, les participants ont syst\u00e9matiquement ignor\u00e9 et pr\u00e9cipit\u00e9 le processus de consentement en ligne, soit en sautant les politiques sans y acc\u00e9der, soit en passant peu de temps \u00e0 les lire. Pour \u00e9valuer si les participants comprenaient les implications de l\u2019accord, les termes du service incluaient des \u00ab clauses pi\u00e8ges \u00bb. Dans l\u2019\u00e9tude de premier cycle, les termes du service incluaient une clause \u00ab premier enfant \u00bb, exigeant que les participants abandonnent un enfant pour utiliser le service de m\u00e9dias sociaux. Sur les 543 participants, 93% \u00e9taient d\u2019accord. Dans l\u2019\u00e9tude sur les personnes \u00e2g\u00e9es, 83,4% des 500 participants ont accept\u00e9 de c\u00e9der un rein pour utiliser un service de m\u00e9dias sociaux similaire. Dans les deux \u00e9tudes, lorsqu\u2019on leur a demand\u00e9 s\u2019il y avait quelque chose d\u2019inqui\u00e9tant dans les politiques, plus de 98% des participants, dans ces deux \u00e9tudes, n\u2019ont pas identifi\u00e9 ces clauses probl\u00e9matiques. <\/p>\n

Si les personnes dans les deux \u00e9tudes pouvaient manquer les clauses de pi\u00e8ge et ne pas identifier deux implications tr\u00e8s extr\u00eames du soi-disant accord, il est probable qu\u2019elles manquent aussi des occasions d\u2019apprendre sur le partage de donn\u00e9es pour le d\u00e9veloppement de l\u2019IA.<\/p>\n

Il y a de nombreuses raisons \u00e0 \u00ab le plus grand mensonge d\u2019Internet \u00bb, notamment la longueur<\/a> et la complexit\u00e9<\/a> des politiques de services num\u00e9riques, ainsi que la d\u00e9mission<\/a> et le d\u00e9sint\u00e9r\u00eat<\/a> de l\u2019individu. Ce qui pr\u00e9occupe particuli\u00e8rement est le clickwrap (voir ci-dessus), la porte d\u2019entr\u00e9e vers les \u00e9cosyst\u00e8mes num\u00e9riques fa\u00e7onn\u00e9s et exploit\u00e9s par les capitalistes de la surveillance et d\u2019autres b\u00e9n\u00e9ficiaires de l\u2019IA. Au lieu d\u2019innovations de conception pour soutenir la sensibilisation et la compr\u00e9hension, cette interface utilisateur trompeuse encourage \u00e0 ignorer les comportements \u2013 acc\u00e9l\u00e9rant les processus de consentement en ligne vers les parties des services num\u00e9riques qui g\u00e9n\u00e8rent des revenus. <\/p>\n