À qui profite l’art générée par l’IA?

Les grandes entreprises technologiques sont-elles en train de voler notre démocratie ?

La manière dont nous réglementons l’IA dans un système capitaliste démocratique dépend de la capacité des gouvernements à écouter et à protéger leurs citoyens. Lorsque les percées technologiques et scientifiques sont suffisamment importantes pour provoquer des révolutions industrielles et des révolutions de l’information, les dirigeants tentent de gérer le chaos à l’aide de règles.

Les entreprises contrôlent les “inventions” qui, dans le cas de l’IA, sont appelées “intégrations innovantes de systèmes d’IA” dans des produits commercialisables et/ou des informations monétisables (données). Les entreprises peuvent avoir investi dans la recherche coûteuse qui a conduit à certaines de ces percées et voudront un retour sur investissement. Elles voudront des règles qui maximisent leurs bénéfices.

Qui d’autre veut informer et façonner les règles ? Nous. Les citoyens. La société civile. Il ne s’agit pas d’un groupe homogène de personnes qui s’accordent sur ce que nous attendons des systèmes d’IA. Les avantages et les risques pour un groupe social seront probablement très différents de l’impact sur un autre. L’utilité pour une catégorie de travailleurs peut accroître la sécurité et l’efficacité, mais pour d’autres, elle peut signifier la fin complète et non sollicitée de leurs pratiques et de leurs moyens de subsistance. Cependant, une société civile informée, capable d’engager des approches délibératives dans l’innovation politique sur la gouvernance de l’IA, est le fondement même de la démocratie.

Des définitions en mutation qui ont des conséquences importantes

Le secteur des arts et de la culture en particulier a un rôle vital à jouer dans la gestion (gouvernance) de l’IA que les gouvernements et les décideurs politiques doivent protéger.

Pour commencer, l’IA, et plus précisément l’IA générative, ne va pas seulement perturber (éliminer l’ancien et créer du nouveau) le travail, mais elle va aussi perturber les systèmes d’information. Elle perturbera la création et la transmission des médias. La façon dont nous créons et partageons le contenu. C’est peut-être un peu comme si l’on avait inventé et déployé la presse à imprimer en même temps que la chaîne de montage de Ford… fois dix ?

Ce qui est certain, c’est que les définitions de l’IA générative, de l’art et des médias se mélangent très rapidement, affectant tous les secteurs à but lucratif ou non lucratif de ce large éventail d’activités. Cette fusion aura des répercussions politiques, juridiques et économiques cruciales et pourrait ébranler le fondement même des démocraties capitalistes.

L’IA générative devrait représenter un marché de 1,3 billion de dollars d’ici à 2032. Il faut donc s’attendre à de nombreuses pressions à la table des négociations sur la réglementation, car celle-ci signifie 1) une part de ce gâteau, 2) le contrôle des médias d’information. Dans la course à l’innovation et à l’expansion, les dirigeants perdent-ils de vue la valeur fondamentale d’une information de qualité et d’une culture authentique ? Les yeux rivés sur le “prix”, oublient-ils ce qui leur a donné le pouvoir en premier lieu ?

Les arts dans la gouvernance de l’IA

En toile de fond

En 2019, j’ai eu l’incroyable opportunité de parcourir le Canada et de rencontrer des artistes, des travailleurs culturels, des administrateurs artistiques, des dirigeants communautaires et des aînés dans le cadre du programme Art Impact AI. Le rapport comprend un résumé des recommandations formulées par de nombreux participants à l’atelier, ce qui a donné lieu à des recommandations politiques internationales soulignant le rôle des artistes dans la gouvernance de l’IA. L’atelier a également permis à une communauté de se réunir autour de certaines de ces questions. Dans les pré-résidences Art + AI, les participants allaient d’un peintre à l’huile de 76 ans à des chercheurs universitaires en traitement du langage naturel (essentiel à ce que tout le monde connaît aujourd’hui sous le nom d’IA générative). Lors de la conférence IA en Mission Sociale 2020, la première édition consacrée à la pandémie, l’ensemble du programme portait sur l’avenir de la narration, avec des experts tels que le fondateur de l’Open Documentary Lab du MIT, William Uricchio, et Sandra Gaudenzi de l’université de Westminster. En 2021, avec les partisans d’IA en Mission Sociale, nous avons réuni les fonds nécessaires pour offrir des bourses modestes aux artistes qui souhaitaient s’engager dans l’éthique et la politique de l’IA. J’ai eu l’honneur d’apprendre d’un grand nombre d’artistes, de leaders culturels et d’aîné(es) au cours de ces années d’exploration.

En 2022, j’ai regroupé ces réflexions dans un document de travail intitulé Orientations scientifiques émergentes en design d’apprentissage profond et meilleures pratiques commissariales en éthique de l’IA. C’est à ces meilleures pratiques que je fais référence dans la pétition ART X AI Conversation.

Innovation politique et réglementaire contre lobbying

En bref, ce que ce document de travail voulais exprimer, c’est que les arts sont un excellent outil pour informer et engager les citoyens dans l’IA, qui en apprenant sur ses nombreuses implications sociales pouvait ainsi mieux discerner le potentiel et les risques de l’IA, et ainsi, faire des choix civiques libres et éclairés. Puis, grâce à de nouveaux mécanismes de “consultation”, le gouvernement serait en mesure de faire des choix politiques et réglementaires plus judicieux, plus démocratiques, plus légitimes et plus fiables.

Au Canada, seul un Canadien sur quatre fait confiance au gouvernement pour réglementer l’IA.

L’accès à l’information, la liberté de la presse et l’expression des opinions politiques par le biais de nouvelles formes d’expression médiatique sont essentiels à la démocratie. Il est également essentiel de pouvoir communiquer les points de vue de la société civile et de se faire entendre. “La participation du public aux politiques publiques est plus importante que jamais. Nous ne pouvons pas nous permettre d’attendre 3 à 5 ans pour voter sur quelque chose qui évolue si rapidement. C’est là que la démocratie électorale doit être complétée par la démocratie délibérative”, a déclaré PeiChin Tay, résumant une table ronde organisée à Asia TechX2023 sur ce sujet géopolitiquement sensible, lors d’une importante conférence sur l’IA en Asie.

L’innovation politique dans les démocraties délibératives diffère du lobbying et de la capture réglementaire, qui servent des objectifs très différents.

La capture réglementaire est “une forme de corruption de l’autorité qui se produit lorsqu’une entité politique, un décideur ou un régulateur est coopté pour servir les intérêts commerciaux, idéologiques ou politiques d’une circonscription mineure, telle qu’une zone géographique particulière, une industrie, une profession ou un groupe idéologique. Lorsqu’il y a capture réglementaire, un intérêt particulier est privilégié par rapport aux intérêts généraux du public, ce qui entraîne une perte nette pour la société”. (Source Wikipedia)

Alors que la pression pour réglementer l’IA s’intensifie, nous devons donner la priorité à la création indépendante d’informations et de dialogues (actualités, images et visuels, éducation, travail social et toutes les formes d’art).

L’art et le projet de loi canadien sur l’IA et les données, le projet de loi C-27

À la suite d’une réunion d’urgence du Conseil consultatif canadien sur l’IA organisée par la ministre Champagne, les cosignataires se sont rassemblés pour demander à nos représentants élus de soutenir le projet de loi C-27, qui comprend l’un des premiers cadres juridiques au monde pour réglementer l’IA. En tant que membre du Conseil consultatif sur l’IA, j’ai exprimé certaines priorités qui ont été prises en compte dans le projet final. Cependant, comme l’ont souligné de nombreux experts, la “flexibilité” du cadre juridique a laissé des concepts clés indéfinis, tels que ce qui constitue un préjudice, un système à incidence élevée ou une personne raisonnable. Sur une note optimiste, j’ai fait référence à la recommandation n° 5 formulée par le groupe de sensibilisation du public (sous-groupe du Conseil consultatif sur l’IA), qui souligne le rôle important des arts dans l’engagement en faveur de l’IA.

Cela m’a donné un espoir raisonnable qu’il s’agissait d’un engagement, et qu’après l’adoption éventuelle du projet de loi, ce mécanisme de dialogue serait utilisé pour informer, engager et écouter la société civile. Il me semble encore que ce soit une victoire incontestable pour améliorer les façons dont la société civile et le gouvernement peut être en dialogue. Les citoyen(ne)s seraient mieux entendu(e)s et sentir qu’ils, elles, iel, peuvent avoir influencer les réglementations émergentes en matière d’intelligence artificielle. Et les artistes auraient un rôle essentiel à jouer dans ce processus.

Le projet de loi C-27 doit s’accompagner d’un engagement sérieux envers le secteur artistique et culturel.

Quels sont les privilèges liés à la définition de l’IA générative en tant qu’art ?

Les fins artistiques, littéraires ou journalistiques : une exception à la protection de la vie privée

La protection de la vie privée au Canada comporte quelques exceptions pour de bonnes raisons, mais à mesure que les définitions de l’art et des médias se brouillent, ces exceptions pourraient devenir une grave source de risque.

Le projet de loi C-27 détermine qui peut recueillir les données personnelles des citoyens sans leur consentement. La partie 1 de la loi réitère une exception existante dans le droit de la protection de la vie privée : “Une organisation peut recueillir des renseignements personnels à l’insu d’une personne et sans son consentement si la collecte est faite uniquement à des fins journalistiques, artistiques ou littéraires. Article 38, projet de loi C-27

La jurisprudence définissant “l’exception artistique” est rare (la plupart des artistes peuvent se permettre d’aller devant les tribunaux). Dans une affaire, la CBC a soutenu la revendication de Google selon laquelle Google était protégé par l’exception journalistique (perdu), et dans une autre, l’architecture de données sismiques a été reconnue comme une “œuvre d’art” (gagné). C’est à peu près tout. Dans les deux cas, les personnes cherchant à ce que leur utilisation soit considérée comme une exception artistique ou journalistique étaient en fait des utilisations technologiques.

Si l’IA générative est définie comme un art, l’exception “à des fins artistiques” pourrait ouvrir la porte à un certain nombre d’utilisations de données à caractère personnel sans consentement, telles que les formes d’art immersives et interactives qui collectent les données biométriques sensibles des participants, à des fins autres que le bien public.

L’IA, l’art et… la sécurité ?

Si l’IA générative est reconnue comme de l’art, ou comme un artiste littéraire, ou comme du journalisme, la terminologie se transforme en “art” génératif. L’”art” génératif peut être et sera utilisé à des fins militaires (deep fakes/fake news, surveillance faciale et biométrique, chasseurs de têtes automatisés pour accroître la radicalisation en ligne).

Les grandes entreprises technologiques soumissionnent pour des contrats très lucratifs et il faut s’attendre à une augmentation des applications militaires de l’IA. DeepMind (filiale de Google) participera à la première conférence sur l’IA et la sécurité qui se tiendra cet automne au Royaume-Uni, tandis que le “ministre des affaires étrangères organisera également la toute première réunion d’information du Conseil de sécurité des Nations unies sur les possibilités et les risques de l’intelligence artificielle pour la paix et la sécurité internationales”.

Conclusion

Les définitions ont une importance juridique et économique et, si l’IA générative est définie comme de l’art, par le biais de divers mécanismes de financement et de capture réglementaire, cela aura des répercussions politiques, juridiques et économiques majeures. S’assurer que les artistes, et les organisations qui les représentent, sont aux commandes de la définition de l’art pourrait faire la différence entre une démocratie forte qui valorise ses créateurs d’information, d’art et de médias, et le scénario de science-fiction juridique suivant :

• L’IA générative est reconnue comme de l’art, ou comme de l’art littéraire, ou comme du journalisme, devenant ainsi de l’”art” génératif.
• Aucun consentement n’est nécessaire pour collecter des données à caractère personnel à des fins d’“art” génératif.
• Ces données sont utilisées pour former des systèmes d’IA susceptibles d’être utilisés dans le cadre de stratégies militaires, d’une surveillance accrue, d’une polarisation, d’une diminution de la confiance dans les institutions publiques et démocratiques, de conflits sociaux, etc.

Nous avons encore le pouvoir de choisir.

Voici comment vous pouvez soutenir le secteur artistique et culturel:

• Vous pouvez signer notre pétition pour la conversation ArtXAI ;
• Suivez-moi sur les médias sociaux, pour être informé(e) de réunions à venir avec les acteurs clés de ce secteur ;
• Si vous êtes un laboratoire de recherche sur l’IA, vous pouvez adopter des politiques qui empêchent Big Tech d’accéder à vos recherches financées par des fonds publics et les empêcher d’urgence de faire des “recommandations politiques”, c’est-à-dire du lobbying ;
• Si vous êtes un décideur au sein d’un gouvernement, vous pouvez vous engager publiquement et fermement à protéger le rôle vital des arts, y compris dans les mécanismes délibératifs et les démocraties durables.

Crédit photo: Gaëlle Vuillaume