L’ascension de l’IA générative dans les Arts: Démocratie en péril?

Cet article vise à souligner l’importance d’agir face aux impacts de l’IA générative sur les secteurs des arts et de la culture, et plus largement, sur la démocratie. Dans un deuxième temps, l’article soumet des recommandations pour mieux l’encadrer. L’article est une réponse aux deux consultations* sur la gouvernance de l’IA et plus particulièrement sur la réglementation encadrant l’IA générative.

Contexte.

Un rapport récent de McKinsey prévoit que l’IA générative devrait ajouter jusqu’à 4,4 billions de dollars de valeur à l’économie mondiale chaque année. Le marché de l’IA incluant l’IA générative, dans le domaine militaire à lui seul, est estimé à 9,2 milliards de dollars US en 2023 et devrait atteindre 38,8 milliards de dollars US d’ici 2028, à un taux de croissance annuel composé (TCAC) de 33,3 % entre 2023 et 2028.

Assurer un accès équitable au potentiel économique de l’IA au Canada.

Présentement, alors qu’un petit nombre d’entrepreneurs des industries créatives manifestent un enthousiasme à saisir cette opportunité, toutefois, la majorité des artistes et organisations culturelles au Canada sont inquiets. Plusieurs sont déjà confrontés à des pertes de revenus et d’emplois selon ce qui nous a été rapporté.

Il est urgent de se pencher sur les répercussions économiques de l’IA générative sur les artistes et les travailleurs des organisations créatives et culturelles, et les consultations gouvernementales en cours doivent en tenir compte.

Rappelons qu’en 2020, le secteur des arts et de la culture a fourni plus de 600 550 emplois et contribué à hauteur de 55,5 milliards de dollars au PIB du Canada, soit 2,7 % du PIB global du pays. Les domaines de l’audiovisuel et des médias interactifs (+ 1,6 milliard de dollars) et des arts visuels et appliqués (+ 1,1 milliard de dollars) sont ceux qui ont le plus contribué au gain observé du PIB culturel.

L’IA générative créera certainement de nouvelles sources de revenus, mais les inégalités sociales existantes aura un impact sur qui pourra bénéficier de son potentiel de croissance économique. Rappelons que:

• 1 travailleur canadien sur 26 exerce une profession culturelle et 1 travailleur canadien sur 116 est un artiste. Environ la moitié sont des femmes, plus de la moitié dans certaines disciplines telles que les arts visuels.
• La fracture numérique affecte plus les femmes que les hommes.
• Les emplois des femmes sont plus susceptibles d’être automatisables par l’IA.
• L’histoire coloniale du Canada a eu un impact profond sur les peuples autochtones, leurs langues et leurs cultures, et les artistes autochtones sont beaucoup plus nombreux que les artistes non autochtones à être des artisans et des artistes visuels.
• Les arts visuels étant l’un des premiers secteurs à être affectés négativement par l’IA, les femmes et les artistes autochtones risquent d’être plus durement touchées. Les femmes racisées, trans, queer, ou non-binaires font face à un double risque.

Coûts inhérents à la correction des inégalités sociales

Les images générées par l’IA sont généralement racistes, sexistes et biaisées à plusieurs autres niveaux. Les utilisateurs marginalisés devront donc composer avec des images qui renvoient une image négative de soi, reflétant et amplifiant une discrimination existante. Pour contrer ces biais, ces personnes se voient donc dans l’obligation de déployer des efforts plus importants que les personnes non-marginalisées. Ces efforts occasionnent des coûts supplémentaires (création de nouvelles bases de données, crédits d’accès aux plateformes, Nuage, internet, temps de travail, etc.). De plus, il y a constamment le risque de perdre la souveraineté et la propriété des données ainsi que la propriété intellectuelle des images et prompts soumis aux plateformes telles que Dall-e.

En bref, l’impact de l’IA générative ne peut pas être compris sans tenir compte des inégalités sociales existantes qui risquent d’être exacerbées. Par conséquent, toutes les politiques et réglementations relatives à l’IA et aux données doivent tenir compte de la dimension de genre et de l’intersectionnalité afin d’offrir un accès équitable aux opportunités offertes par l’IA.

“Les impacts socio-économiques de l’IA générative dépendront largement de la manière dont sa diffusion sera gérée. Il (le rapport) souligne la nécessité de concevoir des politiques qui favorisent une transition ordonnée, équitable et consultative. Le dialogue avec les travailleurs, la formation et une protection sociale adéquate seront essentielles pour gérer la transition.” Rapport de l’OIT, août 2023.

Sommaire des préoccupations.

1. Impact sur le bien-être économique des artistes : L’utilisation croissante de l’IA et de l’IA générative dans les processus créatifs peut générer d’importants profits pour les grandes entreprises technologiques américaines, tout en entraînant une perte de revenus pour les artistes. Le souci soulevé concerne la limite acceptable de l’utilisation des plateformes d’IA, qui peut affecter les moyens de subsistance des artistes.
2. Ingérence de l’industrie technologique sur la définition de l’art et de la créativité et sur la réglementation émergente en IA: L’influence croissante de l’industrie technologique dans la définition de la créativité et de l’art est insidieuse et celle-ci a d’importantes répercussions économiques et politiques. Certaines des plus importantes entreprises mondiales en IA tentent de façonner les réglementations gouvernementales canadiennes liées à l’IA et à l’IA générative, ce qui pourrait avoir un impact sur les processus artistiques, l’expression culturelle, les droits économiques des artistes et la vitalité du secteur des arts et de la culture.
3. Démocratie, droits économiques et culturels : Il y a des parallèles importants à faire entre le travail des artistes et celui des journalistes, tous deux cruciaux pour les systèmes démocratiques. Le rôle des artistes dans la lutte contre la dé/mésinformation et la polarisation, en tant qu’agents provocateurs de délibérations publiques de qualité, risque une perte de capacité.
4. Impacts genrés et régionaux : L’article soulève des préoccupations concernant les disparités genrées et régionales dans l’utilisation et les avantages de l’IA et de l’IA générative. On signale que les tendances actuelles suggèrent que ces technologies pourraient principalement bénéficier aux hommes blancs vivant dans les centres urbains de Nord global, ce qui pourrait aggraver les inégalités genrées et régionales.

Sommaire des solutions proposées.

1. Assurer la protection de la propriété intellectuelle : Veiller à ce que l’IA ne puisse pas imiter librement les styles, les œuvres et les traditions culturelles des artistes, sans conséquence; promouvoir les lois actuelles en propriété intellectuelle; faciliter l’accès aux artistes à la défense de leurs droits en matière de PI; faire la promotion de la propriété intellectuelle culturelle (voir la définition du Conseil des arts du Canada); ne pas faire d’exception “Fair Use” pour l’IA.

2. De plus, puisque la majorité des artistes ne gagnent pas assez d’argent pour défendre leurs droits de propriété intellectuelle, l’équilibre réglementaire de l’IA générative doit aller au-delà de la propriété intellectuelle et englober la protection de leurs droits économiques. D’ailleurs, Google a déjà commencé à approcher les gouvernements pour leur demander de changer la réglementation sur la propriété intellectuelle afin qu’elle soit plus adaptée à l’IA générative. Il est donc d’autant plus important de réfléchir en amont à des modes de protection de la valeur du travail des artistes qui vont au-delà de la PI. Ceci pourrait inclure la conception de mécanismes de redistribution des bénéfices imposés aux plateformes d’IA générative. Enfin, il est important de réfléchir à un modèle viable qui assure un revenu décent pour les artistes (éviter l’exemple de Spotify). Les paiements pourraient être versés et gérés par des organisations artistiques nationales et des organismes de financement tels que le Conseil des arts du Canada, qui sont mieux positionnées pour assurer une transition équitable. Ils sont également les mieux placés pour définir ce qu’est l’art, un artiste. La réflexion sur la conception d’un système de redistribution des bénéfices des plateformes d’IA pourrait évaluer la faisabilité par exemple d’une taxe sur les plateformes étrangères, de créer une plateforme canadienne avec retours financiers significatifs sur contribution de contenus). À cette fin, un comité de travail pour explorer différentes possibilités pourrait être mis en place. À titre informatif, plus de 70 % des personnes interrogées dans le cadre de cette enquête sont en faveur d’un encadrement juridique de l’IA générative en arts et d’assurer une compensation significative pour leur contribution aux modèles génératifs.

3. Politiques de financement public : Veiller à ce que le financement public ne soit pas utilisé pour façonner les politiques liées à l’IA et les lois émergentes (éviter l‘influence indue des grosses entreprises étrangères sur la réglementation) (voir la pétition ArtXAI Conversation): les entreprises privées, surtout étrangères, ne doivent pas avoir la permission de participer à des projets de recherche qui résultent en recommandations de politiques publiques.

4. Assurer la protection et la promotion de droits économiques, sociaux et culturels protégés par le traité multilatéral le PIDESC signé par le Canada et en vigueur depuis 1976.

5.Inclusion dans les accords commerciaux en économie numérique : Veiller à ce que la protection des arts et de la culture soit une priorité dans les accords nationaux et internationaux comme l’est par exemple le genre dans l’accord de libre-échange entre le Chili et le Canada.

6. Assurer une veille quant aux implications intersectionnelles de l’IA générative via par exemple, la mise en place d’un groupe de travail ou comité interministériel assurant une écoute des voix sous-entendues et sous-représentées en matière de gouvernance de l’IA.

7. Tendez l’oreille à la conversation Art X AI, un mouvement national mené par AI Impact Alliance. La pétition est signée par plus de 1725 personnes et soutenue par un grand nombre des plus importantes organisations culturelles du pays (CARFAC, le RAAV, Illustration Québec, et bien d’autres encore). Envisagez rendre des lignes directrices obligatoires, en particulier lorsque des fonds publics sont engagés pour la recherche en IA et éthique de l’IA, la création artistique et sa promotion (musées, outils de découvrabilité, etc.) ou dans des projets où se rencontrent l’IA, l’éthique et les arts. Les professeurs Yoshua Bengio, Ebrahim Bagheri et Margie Mendell ont signé cette pétition.

Basée sur des années de recherche, les lignes directrices proposées sont conçues pour orienter l’utilisation des arts en éthique et gouvernance de l’IA vers la réconciliation, les droits de la personne et le développement durable, et en éviter une utilisation à objectif purement commerciale (incluant les utilisations militaires de l’IA générative). Elles sont utilisées pour guider l’attribution de financement ou de reconnaissance et visibilité. Elles favorisent:

1. Un art qui reconnaît les dimensions politiques de l’IA et contribue à la cocréation d’une IA et d’une gouvernance des données responsables, équitables et durables.
2. Des scénarios qui favorisent un sentiment d’agentivité, de pouvoir d’action, en évitant la dystopie, la peur et la panique.
3. L’interactivité et l’immersion qui facilitent l’apprentissage partagé.
4. Les projets qui considèrent l’inclusion comme une valeur ajoutée dans la conception (pour les jurys et les bailleurs de fonds, cela pourrait signifier, par exemple, évaluer qui dirige et bénéficie le plus du projet, ajouter cela comme une question).
5. L’art public dans toutes sortes d’espaces, de quartiers ( et moins dans les institutions).
6. Les projets qui reconnaissent la pluralité des sources de connaissances dans les processus de co-construction et qui en accordent le crédit.
7. L’art qui valorise l’authenticité et les objectifs concrets du projet, tels que la réconciliation, les droits de la personne et les objectifs de développement durable.
8. Les projets qui valorisent la propriété intellectuelle des artistes, et respectent la propriété intellectuelle autochtone.

Conclusion

Les régimes autoritaires suppriment souvent l’art et la culture afin de contrôler le narratif des médias et d’étouffer la dissidence. Un encadrement inadéquat des plateformes d’IA générative pourrait conduire à l’étouffement imprévu des arts et de la culture. Vu le rôle essentiel des arts dans la fabrication du tissu social, dans la littératie algorithmique et dans la lutte à la désinformation, il est essentiel d’assurer une protection réglementaire et financière à ce secteur. Les démocraties qui nourrissent la créativité sont plus adaptables et plus résistantes. Il faut donc s’investir collectivement dans la valorisation du travail fondamental que font les personnes œuvrant en artisanat, art de toute discipline, création de contenu original, et travail culturel.

En résumé, les politiques et cadres de gouvernance en IA et IA générative doivent:

1) Assurer au secteur des arts et de la culture l’accès aux outils, données et expertise en IA générative nécessaire à la saisie du potentiel tout en protégeant la souveraineté des données et la propriété intellectuelle et culturelle.

2) Protéger (juridiquement et économiquement) les artistes et créateurs de contenu créatif et culturel face aux pertes de revenus qui n’auront pu être évitées dans certaines disciplines artistiques.

MUTEK 2023. Left to right: Valentine Goddard, Tegan Maharaj, Édouard Lanctôt, Tiara Roxanne. Photo by Maryse Boyce.

_________________________________________________________________

• Au Canada, à ma connaissance, deux consultations sont en cours sur l’IA.
  La première est menée par le gouvernement du Québec, qui a chargé le Conseil de l’innovation du Québec (CIQ) d’accélérer l’adoption de l’IA. J’ai été invitée à prendre part à la consultation concernant les impacts sur le secteur des arts et de la culture (les deux autres sujets étaient IA et démocratie, et IA et environnement). L’autre consultation est menée par le gouvernement du Canada, ou plus précisément par le ministère de l’Innovation, des Sciences et du Développement économique (ISDE). Elle porte sur l’IA générative et vise à s’aligner sur le projet de loi C-27, la loi sur l’IA et les données (AIDA est conçue pour soutenir l’économie numérique du Canada tout en protégeant la vie privée, les droits de l’homme et les valeurs des citoyens). L’ISDE a demandé au Conseil consultatif sur l’IA de donner son avis sur la première version d’un projet de code de conduite sur l’IA générative. Au cours de ces consultations, mon objectif est d’expliquer pourquoi il est essentiel que la réglementation de l’IA soit conçue de manière à éviter un impact économique négatif sur le secteur des arts et de la culture, et sur la démocratie.
• La pétition est encore en cours. Ajoutez votre nom en cliquant ici.
• Read this article in English.