L’art peut façonner la manière dont l’IA est gouvernée
L’article ci-dessous a été écrit en 2020. Maintenant, en 2023, c’est le secteur de l’IA qui commence à définir les notions d’art et de créativité, et ce n’est pas sans conséquences*.
À noter que: La progrmmation de AI Impact Alliance comme les ateliers Art Impact AI et ses résidences artistiques gratuites pendant la pandémie, ont été l’occasion d’une réflexion créative à l’intersection de l’art, des technologies d’IA et de la recherche qualitative participative, en mettant l’accent sur l’impact social de l’IA. Compte tenu de l’impact de l’IA sur les artistes et leurs communautés, leurs voix ont été placées au premier plan pour explorer le rôle de l’art dans l’innovation politique en matière d’IA. Grâce à des pratiques de co-création et de partage des connaissances, l’AI Impact Alliance a mis au défi les frontières traditionnelles de la recherche et favoriser la synergie entre des artistes de diverses disciplines et des scientifiques du monde entier, des scientifiques ouverts à de nouvelles façons d’ancrer la recherche-action-création dans la communauté. Tout en encourageant la recherche-action interdisciplinaire critique et basée sur la communauté, AI Impact Alliance s’est attaquée au décalage entre le monde universitaire, les progrès rapides de l’IA et les défis sociaux, culturels, économiques, politiques et juridiques qu’elle pose encore aujourd’hui.
Introduction
En 2020, l’utilisation de technologies d’intelligence artificielle (IA) est couramment intégrée dans des moteurs de recommandations, des outils d’analyse et de diagnostic. L’IA assiste les entreprises, les gouvernements et les citoyens dans la prise de décisions allant de la détermination à l’accès à du crédit bancaire, à la durée d’une sentence criminelle, ou encore l’utilisation quasi quotidienne des agents conversationnels afin d’effectuer des transactions diverses. La pandémie a accéléré l’adoption du numérique, et plusieurs gouvernements misent sur l’intelligence artificielle comme moteur de relance économique.
Dans un effort pour assurer une transition socialement juste vers l’économie numérique, un nombre important de groupes de travail ont publié des lignes directrices sur l’éthique du développement et de la gouvernance de l’IA. En novembre 2019, une recherche démontre que la majorité de ces guides encadrants sont conçus par le secteur privé, ou par des collaborations entre les secteurs public-privés1.
Malheureusement, une fracture numérique genrée, sectorielle et régionale se creuse, elle aussi très rapidement, et ce encore plus depuis la pandémie, affectant la capacité de la société civile à comprendre les implications de l’IA, et entravant ainsi notre capacité collective à déployer l’IA de manière durable et équitable dans la société. De plus, la majorité des entreprises ayant participé font partie de l’industrie qui profite commercialement de l’exploitation de cette nouvelle technologie. Tel que le démontre l’histoire et souligné à nouveau dans les médias récemment, l’autoréglementation n’inspire ni confiance ni efficacité2. Pendant ce temps, un secteur clé est sous-représenté, tant au sein des développeurs de technologies IA, que des collaborateurs à l’élaboration de cadres éthiques et normatifs de l’IA » : les organismes de la société civile (OSC)3.
Dans le but d’assurer une gouvernance plus démocratique, transparente et durable de l’IA, et pour faciliter la participation d’un plus grand nombre de femmes et de personnes issues de la diversité, un plus grand accès à l’IA pour les OSC est important notamment pour les raisons suivantes :
• Il augmente un besoin critique de plus de femmes et de diversité dans le développement et la gouvernance des données et de l’IA. Les femmes représentent en moyenne 7/10 des femmes travaillant dans des organisations à but non lucratif (OSC) dédiées aux services sociaux à la communauté dans le cadre des 17 ODD des Nations Unies4.
• Il accroit les chances que nous nous attaquions au problème social sous-jacent, avant de le résoudre avec la technologie (Ex de techno-solutionnisme à éviter : ne pas combler avec de la technologie un problème de sexisme systémique causant la sous-valorisation du « care work »).
• Augmente la confiance et accélère l’adoption responsable des nouvelles technologies. (New Frontiers in Social Innovation, A.Nicholls, J.Simon, M.Gabriel)
• Facilite la collecte de données pertinentes et de qualité, permet d’obtenir des résultats scientifiques plus solides et socialement bénéfiques. (Professur Milind Tambe)
• Remédier au déficit de participation du secteur civil dans la gouvernance de l’IA permettra d’améliorer les processus démocratiques en matière d’innovation réglementaire.
Au cœur du changement, les arts, la culture et la créativité
Parmi les OSC, on trouve des vecteurs de changement important comme les individus et organismes du secteur des arts, de la culture et de la créativité. En effet, les artistes ont un rôle clé à jouer dans une relance économique numérique durable. Soulignons ici quelques déclarations et publications faites par des experts internationaux à ce sujet.
• Le rapport5 du Brookings Institute sur l’impact de Covid-19 sur l’économie créative a conclu que ce secteur, ainsi que la technologie et les entreprises, est le moteur d’économies régionales, et que tout dommage qui lui serait causé porterait atteinte à notre culture, à notre bien-être et à notre qualité de vie.
• Lors de la conclusion d’ateliers internationaux6, l’Organisation mondiale de la propriété intellectuelle (OMPI) a conclu sur la nécessité de soutenir le secteur des arts, de la culture et de la création afin d’assurer la viabilité de l’AI et de soutenir les capacités d’innovation des pays.
• Le Département des affaires économiques et sociales des Nations unies (UNDESA) ont également souligné7 l’importance du secteur des arts et de la culture dans une économie numérique en mutation rapide.
L’IA est un outil qui révolutionne les expériences interactives et immersives et présente des opportunités excitantes en arts numériques. Le potentiel pour les industries créatives est exponentiel. Toutefois, l’IA a plus besoin des arts, que les arts de l’IA. La participation des artistes, des travailleurs culturels et des agents créatifs peut pousser l’IA au-delà de ses limites actuelles et faciliter une adoption durable et centrée sur l’humain et la planète.
Les ateliers Art Impact AI : augmenter la voix des artistes sur l’IA
Entre août 2019 et février 2020, les ateliers Art Impact AI ont offert aux artistes la possibilité de commenter, de réfléchir à comment intégrer l’IA dans leurs pratiques grâce à une présentation de ses applications et de ses implications. Le principe à la base était que les artistes sont des moteurs importants de l’engagement citoyen qui peuvent informer le dialogue social sur le potentiel de l’IA ainsi que sur ses implications éthiques et sociales. L’initiative a rassemblé un réseau national d’artistes, de travailleurs culturels et d’agents créatifs intéressés par un partage de connaissances et de ressources permettant de mener des discussions critiques sur :
• Comment l’IA pourrait-elle avoir un impact sur les artistes, leurs pratiques, et leurs communautés ?
• Comment les artistes veulent-ils avoir un impact sur le développement et la gouvernance de l’IA ?
Le rapport des ateliers et les recommandations résultant de ces recherches sont un plaidoyer pour le rôle des arts dans l’avenir de l’IA. Voici le sommaire8 de quelques points saillants.
1. L’art contribue à la conception de politiques publiques démocratiques et inclusives
La recherche9 démontre que pour mettre en place des politiques légitimes d’AI, la recherche a montré que nous avons besoin 1) d’un grand nombre de citoyens, 2) d’une diversité de perspectives et 3) d’une compréhension des implications de la science ou de la technologie en jeu. L’art est l’un des meilleurs moyens d’y parvenir, car il s’est avéré à maintes reprises être un outil puissant pour améliorer la compréhension du public sur des questions complexes, engager la société civile dans un dialogue social informé et revitaliser des processus démocratiques stressés.
Une majorité accablante de citoyens ne comprend pas les diverses implications politiques, juridiques, économiques et sociétales de l’IA qui leur permettraient de faire des choix importants pour leur avenir. En s’adressant à des publics nombreux et variés, les artistes, les travailleurs
culturels et les agents créatifs contribuent à informer les politiques d’IA, et facilitent ainsi une gouvernance plus inclusive et démocratique de l’AI.
2. La transparence : ce qui touche tout le monde doit être décidé par tout le monde.
Trois (3) concepts sont largement acceptés et définissent la base de l’éthique de l’IA : l’équité, la responsabilité et la transparence. Plus spécifiquement la transparence est généralement comprise comme étant la capacité d’expliquer le résultat d’algorithmes menant à une décision telle que la recommandation pour une sentence plus longue derrière les barreaux, ou encore, le déni d’accès à l’enseignement supérieur, ou des soins de santé. Comprendre les critères utilisés et le fonctionnement de la prise de décision algorithmique est par conséquent essentiel. Toutefois, la transparence mérite d’être définie plus largement et doit inclure aussi la compréhension en amont des implications éthiques, sociales, juridiques, économiques et politiques de l’IA.
Un dialogue social informé, les délibérations constructives et la conception critique font partie des processus nécessaires menant à une plus grande capacité collective de prise de décision face à des choix politiques importants. D’un point de vue juridique, ce préalable « informatif » est une condition sine qua non d’un consentement valable et éclairé, où, sans compréhension, le consentement n’est pas valide. L’art est un espace qui facilite la tenue de cet échange d’information, augmentant ainsi la capacité des citoyens à faire des choix éclairés.
• Contribuer à la transparence de l’IA, une composante essentielle de l’IA éthique, en facilitant un dialogue continu, informé et inclusif sur l’IA et ses implications pour toutes les communautés.
• Aider les citoyens à comprendre la logique algorithmique et les implications des technologies de l’IA, à la fois le potentiel et les risques, et contribuer à une vision informée et incarnée10 de notre avenir et à façonner le récit autour de l’IA.
• Être une force motrice vers des politiques d’IA informées et légitimes, et revitaliser les processus démocratiques dans l’adoption de directives éthiques et réglementaires sur le développement et la gouvernance de l’IA en engageant un plus grand nombre de citoyens divers qui en comprennent les implications.
• Encourager l’utilisation de l’intelligence artificielle pour améliorer les droits de la personne en engageant divers publics sur des questions telles que les préjugés sexistes, le profilage racial, la surveillance.
• Aider à la progression d’une croissance sociétale nécessaire pour suivre la mise en œuvre rapide de l’IA dans les applications quotidiennes. Par exemple, les compétences les plus importantes de l’avenir sont la créativité, la pensée critique, la résolution de problèmes et la collaboration. Ces compétences importantes sont menacées si nous automatisons aveuglément sans investir dans l’éducation et un secteur culturel prospère.
• Améliorer l’IA en collaborant avec des chercheurs sur des projets liés à la compréhension de la créativité et de la prise de décision. Selon le professeur Yoshua Bengio, il s’agit là de l’avenir de l’IA.
Bref, les artistes contribuent à former un narratif indépendant sur l’IA, parfois en utilisant l’IA comme outil de recherche et de création, en rendant public et accessible son potentiel ou ses incohérences, mais parfois aussi en questionnant l’IA à travers arts traditionnels tels que le tricot, le « beading » et autres.
3. La propriété intellectuelle, l’IA et les inégalités sociales
Dans un dernier temps, il est important de sonner l’alarme au sujet de transformations en cours aux stratégies de propriété intellectuelle (PI) causées par l’IA puisqu’il est encore temps d’éviter de répéter l’histoire de la privatisation aux mains d’une minorité des bénéfices d’une nouvelle technologie.
Dans l’analyse approfondie Electric Sounds, Technological Change and the Rise of Corporate Mass Media, Steve J. Wurtzler explique comment les entreprises ont construit des alliances stratégiques afin de contrôler à la fois le narratif de la nouvelle technologie, et la propriété, par la création de pools de brevets, définis comme des accords entre les propriétaires de brevets pour partager les bénéfices des brevets. L’histoire de l’innovation en matière de nouveaux médias acoustique démontre comment les stratégies en PI ont exacerbé une concentration croissante de la propriété et du pouvoir au sein des médias américains. Alors que le discours sur l’innovation acoustique faisait l’éloge d’un nouvel “outil pour le bien commun’, en réalité, les utilisations indépendantes et éducatives de l’innovation des médias acoustique ont été contournées et les bénéfices privatisés.
Conclusion
En bref, la collaboration entre les différentes parties prenantes, incluant le secteur culturel, est par conséquent fondamentale et urgente pour s’assurer que l’IA soit en effet un outil qui bénéficie au plus grand nombre.
1 The Global Landscape of AI Ethics Guidelines, A. Jobin, M. Ienca, E. Vayena, 2019,, https://arxiv.org/abs/1906.11668
2 From whistleblower laws to unions: How Google’s AI ethics meltdown could shape policy, Quote of Christina Colclough, member of GPAI steering committee: https://venturebeat.com/2020/12/16/from-whistleblower-laws- to-unions-how-googles-ai-ethics-meltdown-could-shape-policy/; Jordan, C. (2018) International Policy Standards: An Argument for Discernment
3 Incluant les organismes d’économie sociale, organismes à vocation social, associatifs ou communautaires.
4 Virage numérique: portrait des opportunités et enjeux pour les OSBL, Pierre Tircher, Valentine Goddard, Nicolas Zorn, Décembre 2019.
5 Lost art: Measuring COVID-19’s devastating impact on America’s creative economy.
Richard Florida and Michael Seman, August 11, 2020. Brooking’s report is US based but interesting because of how it positions the importance of the sector in terms of its importance in the economic recovery. For Canadian perspective, see the excellent study done by I Lost My Gig Canada which was published by Hills Strategies. Hill Strategies Research Inc, June 1st 2020, Research and report by ArtsPond: https://hillstrategies.com/resource/i-lost- my- gig-canada/?fbclid=IwAR0SPfEVZkDgV4nuW1Z7Pcdgt3FY8ZeXAPVextHiO7TGr6XibXnA_HaLNcAreport
6 Les rapports seront rendus disponibles sur le site de l’OMPI selon les indications reçus.
7 Rapports et interventions : https://www.un.org/development/desa/dspd/2020-meetings/socially-just-transition- digital-technologies.html
8L’ensemble du rapport et des recommandations est disponible au lien suivant : https://1drv.ms/b/s!AvOMwxuBUYxXjSRZsIfHWrd_Tdla?e=XYIFvu
9 Theatre as a public engagement tool for health-policy development, J. Nisker, D. Martin, R. Bluhm, A. Daar, 2006.
10 “Position Paper on the Indigenous Protocol and Artificial Intelligence”by JasonEdwardLewis, Angie Abdilla et al.
*J’aimerais ajouter à cette liste de références, ce guide important qui a été porté à ma connaissance récemment par la professeure Caroline Hotte, UQAM: Protocoles autochtones pour les arts visuels.
Les ateliers Art Impact AI, initiés par AI Impact Alliance, se sont tenus sur une période de près d’un an, ont permis de mieux comprendre l’impact de l’IA sur les artistes et leurs communautés et comment les artistes et leaders culturels veulent avoir un impact sur l’IA. Le rapport Art Impact soumis aux Nations Unies à l’été 2020. Tous nos programmes font la promotion de la recherche-création menée par des experts de la société civile, ou la recherche-action/création interdisciplinaire critique ancrée dans la communauté. Nous remercions notre écosystème du soutien pour nos initiatives avant-gardistes et la reconnaissance de cette expertise par le Conseil des arts du Canada et le Conseil des arts de Montréal.
*Voir articles précédents pour en savoir plus.
