Un écosystème d’IA qui aime ses artistes, ça rapporte.
Une bonne stratégie d’économie numérique est créative, équitable et durable. Dans cet article, je me penche sur la question de la compensation raisonnable pour l’utilisation d’art et de contenu culturel lors de l’entraînement des IA génératives, et ouvre la porte sur des modèles éthiques et responsables. Puis, je vous relance la balle et vous invite à échanger sur cette collision technologique, culturelle et sociale.
1. L’art d’être ou de ne pas être, de l’art
Depuis les développements disruptifs en IA générative, la définition de l’art, et conséquemment de qui peut être reconnu comme artiste, côtoie de plus près celle de l’IA générative, devenant même parfois difficile de les distinguer. Toutefois, cette distinction doit être faite puisqu’elle a des impacts économiques importants comme l’éligibilité à se prévaloir de financement auprès des organismes artistiques et culturels. La définition et sa distinction de l’art des IA génératives auront un impact sur la reconnaissance du statut d’artiste, sur l’allocation de budgets (financement public) et de financement de projets (bourses, prêts, etc.). Les fonds traditionnellement alloués à des artistes, reconnus par des pairs via un processus géré par des organismes culturels indépendants du gouvernement (arm length arts organizations), pourraient se voir réorientés vers des personnes qui maîtrisent les langages de l’intelligence artificielle générative, c’est-à-dire des programmeurs, et même vers les quelques entreprises technologiques qui développent ces plateformes. Vous me direz peut-être, est-ce bien grave?
La collaboration entre artistes et experts en IA est un espace important dans l’écosystème d’innovation de l’économie créative. Donc, ce n’est peut-être pas grave, mais il est certainement critique d’en comprendre les implications et faire les bons choix de politiques publiques en allant de l’avant. Dans le secteur des arts et de la culture, le financement public culturel favorise un retour sur investissement (ROI) public qui contribue de façon importante à l’économie canadienne, mais aussi à la fibre sociale, donc qui assure autrement dit, un retour social sur investissement. Ce retour, il est critique pour contrer les effets de la crise de la désinformation et la polarisation (j’en parle dans d’autres articles et dans les notes commissariales de l’exposition Frontières algorithmiques-voir notion de sécurité culturelle).
Bref, éviter de confondre «œuvre» et «résultante algorithmique», «programmeur » et «artiste» pourrait faire la différence entre une stratégie réussie pour contrer la désinformation et ses impacts sur la démocratie, versus une guerre perdue contre la polarisation sociale et la déconstruction des institutions démocratiques.
La mutation de la définition de l’art, et l’art du code.
Dans les dernières années, on observe une mutation de la définition de l’art. Cette mutation s’opère entre autres dans les conférences sur l’IA où des scientifiques en sciences informatiques (IA) se prononcent sur cette définition (NeurIPS, ACM, etc.). C’est parfois en défense des droits des artistes, mais sans en connaître les impacts sur les politiques culturelles et économiques. Je mets donc en garde contre le recours à ces publications pour éclairer nos recherches sur la définition de l’art versus du “AI Art”, de l’art 100% généré.
Rappelons que le code logiciel d’un système d’IA peut être protégé par le droit d’auteur, et là aussi, les lignes se brouillent entre art et code. Cette délimitation est importante en matière de droit d’auteur et de protection du droit des artistes. On lit et entend des affirmations selon lesquelles des programmeurs peuvent entraîner l’IA à reconnaître une valeur artistique en lui donnant de multiples exemples d’œuvres artistiques. Toutefois, ce type d’affirmation comporte des présomptions non négligeables.
Même si ces programmeurs ont la capacité de mettre au point des applications d’IA pouvant générer du contenu de nature culturel (images, films, musiques, etc.), les débats au sujet du droit d’auteur sont maintenant judiciarisés et les gouvernements du monde entier s’affairent à adopter des lois pour encadrer l’IA, utilisons les mots justes :
- Un programmeur, un ingénieur en sciences informatiques, à moins d’être aussi reconnu comme artiste par des pairs et/ou par un organisme du secteur des arts et de la culture, n’est pas un artiste en vertu des conventions actuelles. Sans cette reconnaissance et validation de son statut, il/elle/iel ne peut entraîner un système d’IA à reconnaître une valeur artistique ni ne peut prétendre que les résultantes visuelles sont de l’art.
- À moins que ce programmeur, pour entraîner son algorithme génératif, ait fait ses propres œuvres (humainement peu probable vu le nombre de paramètres requis), ou qu’il ait obtenu le consentement pour utiliser celles créées par d’autres artistes, ce que le système d’IA produit est un résultat de traitement algorithmique.
- L’expression donner des exemples à un système d’IA me semble anthropomorphiser l’entraînement d’un système d’IA et incite le lecteur à voir l’IA comme un enfant à qui on enseigne des chose. On dirait plutôt ici qu’un programmeur entre des données.
Pour soutenir et promouvoir la valeur de notre culture, ne serait-il pas préférable que 1) la valeur artistique d’une IA générative soit déterminée par les parties prenantes de l’écosystème culturel; 2) et qu’il y ait une entente sociale à savoir si le système d’IA peut produire ses propres œuvres artistiques originales, avant de présumer que l’IA crée des oeuvres (voir la pièce no. 2 de l’exposition Frontières algorithmiques)?
La collaboration entre artistes et experts en IA est un espace qui doit être mieux compris et soutenu par des politiques publiques qui favorisent la valorisation du rôle des arts et de la culture dans la société, la protection de notre diversité culturelle, et la confiance en nos institutions démocratiques.
Quels sont d’après vous des moyens permettant de soutenir cette collaboration? Ajoutez vos opinions dans la plateforme de discussion de Frontières algorithmiques.
Provoquer les limites du droit d’auteur
Les plateformes d’IA générative évoluent très rapidement et donnent de plus en plus de contrôle à la personne qui l’utilise, artiste ou autre. Le critère de contrôle est déterminant en droit de la propriété intellectuelle, puisqu’il permet au Tribunal d’évaluer le processus de création. D’ailleurs, en Corée du Sud en janvier 2024, un film généré par l’IA et intitulé “AI Surobuin” s’est vu accorder des droits d’auteur. Il a été classé comme une œuvre de composition parce que la Commission a jugé que les créateurs ont exercé un contrôle important sur le produit final.
Les plateformes d’IA générative évoluent très rapidement et donnent de plus en plus de contrôle à la personne qui l’utilise, artiste ou autre. Le critère de contrôle est déterminant en droit de la propriété intellectuelle, puisqu’il permet au Tribunal d’évaluer le processus de création. D’ailleurs, en Corée du Sud en janvier 2024, un film généré par l’IA et intitulé “AI Surobuin” s’est vu accorder des droits d’auteur. Il a été classé comme une œuvre de composition parce que la Commission a jugé que les créateurs ont exercé un contrôle important sur le produit final.
Selon la Commission, le contrôle s’est manifesté de deux façons:
- par le processus d’édition, combinant les images, le texte, les voix et la musique générés;
- par la personnalisation détaillée des modalités génératives de l’IA comme la mise au point (fine-tuning) ou RGA ou Génération augmentée par le retrait sélectif d’informations (Retrieval Augmented Generation (RAG).
Dans mon exposition interactive, j’explore également ces limites. Dans la peinture no. 4, j’ai appliqué ces mécanismes de contrôle pour tenter d’évaluer comme artiste et comme avocate, si le résultat était “mien” ou pas. D’ailleurs, j’ai signé certaines oeuvres de l’exposition, et pas d’autres, laissant ouverte la discussion sur la titularité des oeuvres. Dans mon processus créatif, j’ai utilisé ma propre peinture et film argentique comme source d’inspiration et prompt. Puis, une vidéo a été générée à partir de l’image et du vidéo avec le prompt “une femme phoque plonge dans l’océan”. Les commandes de la plateforme générative RunwayML comprennent le texte, l’image, la vidéo, les angles, la vitesse, etc. En utilisant mon art comme prompt et les fonctions offertes par la plateforme pour guider leur IA générative vers un résultat voulu, le vidéo me semble être une expression originale. Elle est impossible à reproduire. Est-ce suffisant pour y rattacher un droit d’auteur, des droits moraux?
L’image ci-dessous est un photogramme (Digital Still) peint numériquement intitulée Le Souffle de la Baleine. L’image de base est extraite du vidéo puis repeinte avec plusieurs couches de peinture numérique. Confiante d’y avoir injecté assez d’étapes dans mon processus de création, je l’ai signée, mais la réponse demeure nuancée et je vous invite à visiter l’exposition pour approfondir ce questionnement.
Je récapitule: quand les artistes s’invitent dans la création avec des outils d’IA générative et que ces outils donnent de plus en plus de contrôle à l’artiste, l’attribution de droits d’auteurs devient plus complexe à déterminer. C’est pourquoi il est important de réfléchir en amont à des mécanismes de distribution des bénéfices de l’IA générative (compensation).
2. Égalité d’accès aux bénéfices et répartition équitable
Le droit d’auteur est un des moyens à notre disposition au Canada pour favoriser un marché adapté aux besoins changeants des utilisateurs et aux nouvelles technologies. C’est un des moyens de protéger les expressions créatives de l’intellect qui ont une valeur commerciale et morale, mais pas le seul. Nous sommes dans un contexte où la technologie avance très rapidement, par conséquent, mes réflexions se portent souvent sur l’exploration de nouveaux moyens de protéger et valoriser nos expressions créatives, une recherche qui nous amène dans la sphère de l’innovation sociale.
Toute innovation technologique est généralement accompagnée d’innovation sociale. Dans une boucle itérative, la société s’adapte à la technologie puis, la technologie est conçue et déployée par la société. Les groupes sociaux façonnent des règles qui détermineront qui peut y avoir accès, et mettront en place des limites pour éviter certains risques, et ainsi de suite. Ces choix orienteront les bénéfices de la nouvelle technologie et les récipiendaires de ces bénéfices.
Le hic ici c’est que si vous n’êtes pas du groupe de personnes qui oriente ces politiques, qui conçoivent ces machines, ou si vous êtes minoritaire de votre “groupe social” et que votre voix n’est pas entendue dans la gouvernance de celles-ci, et bien, vous risquez fort de ne pas être de ceux qui pourront bénéficier des impacts positifs de la nouvelle technologie, ou pire d’être parmi ceux qui en font les frais.
Le gouvernement du Canada s’est d’ailleurs engagé à faire progresser l’équité des genres en vertu de plusieurs politiques, notamment la Politique féministe du Canada, et le Programme mondial sur les femmes, la paix et la sécurité. Est-ce que le déséquilibre de genres en IA causera des reculs face à ces engagements ? Y a-t-il un véritable intérêt chez les cadres de mesurer les implications genrées et intersectionnelles de l’IA, des impacts envers nos engagements en matière de paix et de sécurité?
Le 11 mars, une résolution a été adoptée par l’Organisation des Nations Unies (ONU) pour s’adresser à ces enjeux et demander à tous les États membres et autres parties prenantes de « s’abstenir ou de cesser de se servir des systèmes d’intelligence artificielle qu’il est impossible d’utiliser dans le respect des droits humains ou qui présentent des risques excessifs pour l’exercice des droits humains ». L’UNESCO et le secrétaire général de l’ONU Antonio Guterres ont alerté les États aux biais des systèmes d’IA conçues principalement par des hommes et qui « ignorent » les besoins et les droits des femmes: « Des algorithmes dominés par les hommes pourraient littéralement programmer des inégalités dans des activités comme la planification urbaine, la solvabilité ou l’imagerie médicale, pour des années ».
Implications pour le secteur art et culture
Les artistes et professionnels des arts et de la culture sont plus nombreux à oeuvrer dans des regroupements et organismes culturels à but non lucratif ou à mission sociale. Et, toutes disciplines et régions confondues, il y a généralement une majorité de femmes, sauf dans les disciplines numériques ou plus technologiques.
Ayant déjà discuté plus en détail de l’impact de l’IA générative sur les femmes dans d’autres articles et dans l’exposition Frontières Algorithmiques, je rappelle simplement ici que la fracture numérique est sectorielle et genrée: 1) les organismes de la société civile (OSC), et les organismes sans but lucratif du secteur art et culture n’ont pas accès aux mêmes investissements en IA, et gouvernent leurs opérations sous des modèles d’affaires différents; 2) de nombreux rapports démontrent que les femmes n’auront pas un accès égal aux bénéfices des investissements en IA.
Je rappelle ces points parce que quand on parle d’ “offrir aux créateurs et créatrices les droits dont ils ont besoin pour encourager une création d’emplois dans l’ensemble de l’économie” (tiré de la récente Consultation sur le droit d’auteur du ministère de l’Innovation, de la Science et du Développement économique qui s’est terminée le 15 janvier 2024), la mesure des implications genrées, intersectionnelles et sectorielles doit être une priorité dans l’étude des impacts de l’IA sur le droit et les partenariats internationaux en matière de propriété intellectuelle.
Voici une liste non limitative des mesures à prendre: faire une liste des emplois et professions au sein du secteur arts et culture incluant et distinguant les résultats de celui des industries créatives (ex: jeux vidéos); dresser un portrait des impacts potentiels pour chaque discipline de pratique ou domaine d’application créative en distinguant Art de Résultante algorithmique (assistée ou non ou en partie); adopter des politiques conçues en collaboration avec, ou par, les organismes du secteur des arts et de la culture; faciliter un accès plus équitable au potentiel de l’IA (collecte de données, fiducies de données, LLMs par et pour les artistes, etc.).
La résolution récente de l’ONU représente un engagement des 193 pays membres à respecter les droits humains et orienter son utilisation vers les 17 objectifs de développement durable ce qui inclut l’égalité des genres, la réduction des inégalités et l’accès à un travail décent pour tous et toutes. Les 193 pays qui ont signé la résolution onusienne s’engagent aussi à:
Poursuivre la promotion de l’innovation tout en respectant les garanties appropriées du respect des droits de propriété intellectuelle, y compris les contenus protégés par des droits d’auteur, et promouvoir les systèmes d’intelligence artificielle qui favorisent, protègent et préservent la diversité linguistique et culturelle.
*Vous trouverez un résumé de la résolution expliqué ici en entrevue à La Mosaïque à la radio de Radio-Canada.
Un LLM équitable, par et pour les artistes?
Bonne nouvelle: quand on veut innover de façon responsable, on peut! C’est un de nos voisins américains qui vient de nous en donner la preuve avec des partenaires de la France. J’ai un brin d’esprit de compétition et j’aurais bien aimé que ce soit nous.
“Il n’y a aucune raison fondamentale pour laquelle quelqu’un ne pourrait pas former un LLM de manière équitable”, déclare Ed Newton-Rex, PDG de Fairly Trained.
“C’est un argument de vente”, affirme Mary Rasenberger, PDG de l’Authors Guild, qui représente les auteurs de livres. “Nous commençons à voir beaucoup plus de licences et de demandes de licences. La Guilde des auteurs, tout comme le syndicat des acteurs et des artistes de radio SAG-AFTRA et quelques autres groupes professionnels, a récemment été nommée partenaire officiel de “Fairly Trained”. Ces derniers proposent une certification aux entreprises désireuses de prouver qu’elles ont entraîné leurs modèles d’IA sur des données dont elles sont propriétaires, qu’elles ont obtenues sous licence ou qui sont dans le domaine public.”
Voir cet article dans le magazine Wired ce matin, et voir les partenariats qui se créent autour m’a vraiment fait chaud au coeur ce matin. Cette annonce a été suivie rapidement du lancement de Latimer AI qui se fait une fierté de créer des modèles d’IA génératives qui sont culturellement riches et dénués de biais et de discrimination.
L’expérience Frontières algorithmiques que j’ai rendue disponible le 8 mars dernier fait d’ailleurs appel à l’importance de créer des LLMs plus équitables et éthiques. On y explore entre autres un processus d’entraînement qui est développé sur une base de LLM (ce qui me dérangeait) dans la Section Explore et joue. AI Impact Alliance cherche des partenaires pour développer des LLMs équitables au bénéfice du secteur des arts et de la culture. N’hésitez pas à nous faire part de votre intérêt à collaborer.
En bref, un gros bravo à Fairly Trained, et deux rappels importants:
- N’oublions pas que les industries créatives d’ici peuvent toujours être acquises par des intérêts étrangers comme l’ont été le Cirque du Soleil et C2. Les investissements étrangers en médias numériques interactifs (jeux, réalité virtuelle) sont d’ailleurs désormais soumis à un examen de sécurité nationale. Donc, le modèle d’affaires et la gouvernance des données nécessitent une grande vigilance.
- Statistiquement, les systèmes d’IA et les modèles de mise au point des algorithmes, soit pour répondre à des intentions artistiques ou pour réduire les biais, etc, sont conçus par des hommes. Donc, Fairly Trained ne répond pas au besoin d’une plus grande équité d’accès à la propriété de systèmes d’IA, Latimer AI, oui.
Je récapitule: avoir une IA générative éthique en arts, c’est possible. Rémunérer et valoriser la création de contenu culturel est fondamental pour y arriver.
3. Compensation raisonnable des artistes
Pour garantir l’accès à ces données pour la formation des systèmes d’IA tout en assurant une juste rémunération qui respecte les créateurs de ce contenu, il est nécessaire de comprendre comment le contenu culturel est utilisé sous un angle technique, mais aussi de:
“Reconnaître que ces données d’entraînement sont le résultat de la créativité, du travail et d’efforts humains. Ces systèmes d’IA ne pourraient pas être formés sans la créativité et le travail humains qui ont contribué à la création de ces données.
Puisque le succès d’un modèle d’IA dépend entièrement de cette production créative humaine, la rémunération doit être proportionnelle à la contribution de ces œuvres au succès de la plateforme d’IA, surtout lorsque la plateforme dépend presque exclusivement de contenus protégés par le droit d’auteur ou de la production créative humaine pour former le système.”
M. Crabtree-Ireland poursuit et demande:
“Quelle est la valeur commerciale dérivée de ces données d’entraînement. Certains systèmes d’IA sont formés pour des fins non commerciales, comme l’éducation ou des initiatives à but non lucratif, tandis que d’autres sont clairement développés à des fins commerciales, et la valeur commerciale de ces données est évidente à travers des indicateurs économiques classiques, tels que les revenus générés pour ces entreprises. Si un modèle d’IA formé sur des créations génère des revenus significatifs pour une entité, cela devrait être pris en compte pour définir une rémunération équitable pour les créateurs originaux de ces données.”
En complémentarité avec tout ce qui précède en termes de définir l’art, de l’égalité d’accès aux opportunités, de l’équité dans la répartition des bénéfices et d’une compensation raisonnable du travail de création d’art et de contenu culturel, une fiducie de données à finalité sociale* est un modèle juridique et économique rempli de promesses. Il pourrait être garant d’une plus grande sécurité des données, d’un retour social et économique sur investissement et d’une compensation juste du travail des artistes. Une fiducie de données peut aussi inclure des paramètres de gestion visant une plus grande diversité et inclusion dans l’accès et la gouvernance.
Je vous relance donc la question: comment détermine-t-on la valeur des données utilisées pour entraîner des plateformes d’IA génératives? comment valorise-t-on la création de contenus culturels?
Inscrivez vos réponses, ou d’autres questions, dans la plateforme de discussion de Frontières Algorithmiques.
Conclusion.
Le débat sur l’adoption de l’IA s’est polarisé, et il oppose ceux qui offrent des scénarios dignes de charlatans, à ceux et celles qui préconisent inclusion et responsabilité sociale. J’ai entendu et lu des horreurs comme celles-ci:
“L’innovation en IA risque de tuer quelques personnes mais c’est le coût qu’il faut payer.”
“Si on respecte le droit d’auteur, l’opportunité d’être un prochain Hollywood ira à d’autres.”
Par respect, je ne nomme pas ces personnes mais je vous laisse devenir leur genre et leur taux de risque d’être tués ou passé dessus par un bulldozer d’innovation irrespectueux des droits des artistes.
Réalisme et espoir, innovation et responsabilité ne devraient pas être mis en opposition. En fait, j’observe lors de mes conférences que plus on est réaliste, plus il y a de l’espoir, espoir dans notre capacité collective d’extraire les bénéfices de l’IA et d’en éviter les risques les plus importants.
Il en va de même dans l’utilisation de l’IA générative pour la création de contenu culturel et l’art. Si nous devons reconnaître l’art de l’IA comme de l’art, IA Responsable doit rimer avec responsabilité sociale, avec respect et valorisant de l’art et de la culture.
Si l’IA générative devient de l’art, ne devrait-elle pas “soulever des questions, percer les piétismes, encourager l’empathie et offrir des visions alternatives de l’avenir”. Dans Frontières algorithmiques, je propose qu’elle soit une nouvelle forme de résistance, d’avant-garde, et que les partenariats et les politiques de financement renforcent “les mains des penseurs et des créateurs indépendants.” (Extraits du Foreign Affairs, février 2024)
En tant qu’artiste qui touche à des sujets politiques, j’apprécie la chance que j’ai de vivre dans un pays sécuritaire et de pouvoir militer sans craindre la violence, l’emprisonnement ou encore un assassinat commandé par le gouvernement. La violence à l’encontre des journalistes est connue, mais ce qui l’est moins, c’est la violence croissante à l’encontre des artistes, et pourtant, leur rôle dans la démocratie est tout aussi fondamental. C’est pourquoi je crois que réduire le portefeuille du secteur des arts et de la culture est dangereux. Il nous place face à un avenir où l’art, en tant qu’institution vivante des sociétés démocratiques, en tant que machine à tisser des liens sociaux, est affaibli.
Par conséquent, si nous adoptons l’IA dans l’art dans les productions d’art, de films, dans l’industrie créative, dans les nouveaux médias interactifs, nous devons réfléchir sérieusement à comment protégerons ce rôle vital.
Ces questions sont importantes pour la sécurité culturelle et l’économie.
Ma fin pour aujourd’hui.
***English Translation will follow eventually.
Annexe 1. Capture d’écran de la plateforme de discussion
Pol.is a été conçu conçu à Taiwan pour favoriser une prise de décision démocratique. La plateforme a été intégrée à l’exposition pour faciliter une conversation sur les implications Art X AI.
Annexe 2. Références supplémentaires
*Fracture numérique sectorielle et politiques publiques:
- https://www.centraide-mtl.org/wp-content/uploads/2021/01/Memoire-Centraide-du-Grand-Montreal-2020.pdf,
- https://www.mcgill.ca/centre-montreal/list/professors-practice/ana-brandusescu.
**Fiducie de données culturelles: L’organisme Culture pour tous a d’ailleurs une initiative hautement innovatrice en ce sens.
