¿Quién se beneficia con el arte de la IA? ¿Nos están robando la democracia los Gigantes Tecnológicos?
*The translation to Spanish was generously made by Elizabeth Aguado and Fernanda Undurraga Jeria.
La manera de regular la IA en un sistema capitalista democrático depende de la capacidad de los gobiernos para escuchar y proteger a sus ciudadanos. Cuando los avances tecnológicos y científicos son lo suficientemente significativos como para provocar revoluciones industriales y de la información, los líderes intentarán gestionar el caos con normas.
Las corporaciones tienen el control sobre las “invenciones”, que en el caso de la IA llamaríamos “integraciones innovadoras de sistemas de IA” en productos comercializables y/o información (datos) monetizable. Las empresas pueden haber invertido en la costosa investigación que ha conducido a algunos de estos avances y querrán recuperar sus inversiones. Las empresas querrán normas que maximicen sus beneficios.
¿Quién más quiere informar y dar forma a las normas? Nosotros. Los ciudadanos. La sociedad civil. No se trata de un grupo homogéneo de personas que estén de acuerdo en lo que quieren de los sistemas de IA. Las ventajas y los riesgos para un grupo social serán probablemente muy diferentes de las repercusiones para otro. La utilidad para una clase de trabajadores podría aumentar la seguridad y la eficiencia, pero para otros podría significar el fin completo y no solicitado de sus prácticas y medios de vida. No obstante, una sociedad civil informada y capaz de adoptar enfoques deliberativos en la innovación política sobre la gobernanza de la IA es el fundamento mismo de la democracia.
Definiciones cambiantes con grandes consecuencias
El sector artístico y cultural, en concreto, tiene un papel vital en la administración (gobernanza) de la IA que los gobiernos y los responsables políticos deben proteger.
Para empezar, la IA, y abordémosla más específicamente por ahora, la IA Generativa, no sólo generará una disrupción (eliminará lo antiguo y creará lo nuevo) en el trabajo, sino que alterará los sistemas de información. Modificará la creación y transmisión de los medios de comunicación. Cómo creamos y compartimos contenidos. Tal vez sea un poco como inventar y desplegar la imprenta al mismo tiempo que la línea de ensamblaje de Ford… ¿diez veces?
Lo cierto es que las definiciones de IA Generativa, Arte y Medios de Comunicación se están mezclando muy rápidamente, afectando a todos los sectores con o sin fines de lucro en ese amplio abanico de actividades. Esa mezcla tendrá repercusiones políticas, jurídicas y económicas críticas y podría sacudir los cimientos mismos de las democracias capitalistas.
La IA generativa está llamada a convertirse en un mercado de 1,3 billones de dólares en 2032, por lo que podemos esperar muchas presiones en la mesa de la regulación, ya que ésta significa 1) una parte de ese pastel, 2) un control de los medios de información. Con las prisas por innovar y escalar, ¿están perdiendo de vista los líderes el valor fundamental de una información de calidad y una cultura genuina? Con los ojos puestos en el “premio”, ¿están olvidando lo que les dio el poder en primer lugar?
Las Artes en la gobernanza de la IA
Un poco de historia
En el 2019, tuve la increíble oportunidad de recorrer Canadá y reunirme con artistas, trabajadores culturales, administradores artísticos, líderes comunitarios y ancianos para el programa Art Impact AI. El informe incluye un resumen de las recomendaciones formuladas por muchos de los participantes del taller, lo que dio lugar a recomendaciones políticas internacionales que subrayan el papel de los artistas en la gobernanza de la IA. También propició la unión de una comunidad en torno a algunas de esas cuestiones. En las Pre-Residencias de Arte + IA, participaron desde un pintor al óleo de 76 años hasta investigadores académicos en Procesamiento del Lenguaje Natural (vital para lo que ahora todo el mundo conoce como IA Generativa). En la conferencia “AI on a Social Mission 2020”, la primera edición pandémica, todo el programa giró en torno al futuro de la narración de historias y contó con expertos como el fundador del Open Documentary Lab del MIT, William Uricchio, y Sandra Gaudenzi, de la Universidad de Westminster. En el 2021, con el apoyo de “AI on a Social Mission”, recaudamos el dinero necesario para poder ofrecer modestas becas a artistas que quisieran comprometerse con la ética y la política de la IA. Tuve el honor de aprender de varios artistas indígenas y líderes culturales a lo largo de esos años de exploración.
En el 2022, reagrupé esas reflexiones en un documento de trabajo titulado Art Shaped AI: Emerging Scientific Orientation in Machine Learning Design and Best Curatorial Practices for AI Ethics. Es a esas Mejores Prácticas a las que me refiero en la petición de conversación ART X AI.
Innovación política y normativa versus Lobbying
En resumen, lo que ese documento intentaba decir era que las Artes son una herramienta excelente para informar e involucrar a los ciudadanos en la Inteligencia Artificial, para aprender sobre sus muchas implicancias sociales y para permitir que los trabajadores atareados comprendan el potencial y los riesgos de la IA, de modo que puedan tomar decisiones cívicas libres e informadas. Esto, a su vez, a través de nuevos mecanismos de “consulta”, ayudaría al gobierno a generar políticas públicas y normativas mejores, más democráticas, legítimas y dignas de confianza.
En Canadá, sólo 1 de cada 4 canadienses confía en que el gobierno regule la IA.
El acceso a la información, la libertad de prensa y la expresión de opiniones políticas a través de nuevas formas de expresión mediática son claves para la democracia. Poder comunicar los puntos de vista de la sociedad civil y ser escuchados también es clave. “La participación ciudadana en las políticas públicas es más importante que nunca. No podemos permitirnos esperar de 3 a 5 años para votar sobre algo que avanza tan rápidamente. Aquí es donde la democracia electoral debe complementarse con la democracia deliberativa”, dice PeiChin Tay resumiendo un panel de debate en Asia TechX2023 sobre este tema geopolíticamente sensible en la importante conferencia sobre IA en Asia.
La innovación de las políticas en las democracias deliberativas es diferente del lobbying y la captura reguladora, que tienen fines muy distintos.
La captura reguladora o captura del regulador, es “una forma de corrupción de la autoridad que se produce cuando una entidad política, un responsable político o un regulador es cooptado para servir a los intereses comerciales, ideológicos o políticos de un grupo menor, como una zona geográfica específica, una industria, una profesión o un grupo ideológico. Cuando se produce la captura reguladora, se da prioridad a un interés especial por sobre los intereses generales del público, lo que conlleva una pérdida neta para la sociedad”.
A medida que se intensifica la presión para regular la Inteligencia Artificial, debemos dar prioridad a la información independiente y a la creación de diálogo (noticias, imágenes y visuales, educación, trabajo social y todas las formas de arte).
El arte y la propuesta de ley canadiense sobre IA y datos, proyecto C-27
Tras una reunión de urgencia del Consejo Consultivo Canadiense sobre IA celebrada por el Ministro Champagne, los cofirmantes se reunieron para pedir a nuestros oficiales electos que apoyaran el proyecto de ley C-27, que incluye uno de los primeros marcos jurídicos del mundo para regular la IA. Como miembro del Consejo Consultivo, expresé algunas prioridades que se abordaron en el proyecto final, sin embargo, como muchos expertos plantearon, la “flexibilidad” del marco de trabajo dejó sin definir conceptos clave, como qué constituye daño, sistema de alto impacto o persona razonable. Con optimismo, me referí a la Recomendación nº 5 del Grupo de Concienciación Pública (subgrupo del Consejo Consultivo de AI), que destaca el importante papel de las artes en el compromiso con la AI.
Esto me dio una esperanza razonable de que se trataba de un compromiso y de que, tras la eventual adopción del proyecto de ley, se realizaría un verdadero esfuerzo para informar, involucrar y escuchar a la sociedad civil y, lo que es más importante, que los artistas tendrían un papel esencial que desempeñar. Fue una clara victoria para las distintas formas de participación de la sociedad civil con nuestro gobierno, de ser escuchados y de dar forma a las nuevas normativas sobre IA.
El proyecto de ley C-27 debe ir acompañado de un compromiso serio con el sector artístico y cultural.
¿Qué privilegios conlleva definir la IA generativa como arte?
Fines artísticos, literarios o periodísticos: una excepción a la protección de la privacidad.
La protección de la privacidad en Canadá tiene algunas excepciones por una buena razón, pero a medida que se difuminan las definiciones de arte y medios de comunicación, esas excepciones podrían convertirse en un serio motivo de preocupación.
El proyecto de ley C-27 determina quién puede recoger datos personales de los ciudadanos sin su consentimiento. La parte 1 de la ley reitera una excepción existente en la legislación sobre privacidad: “Una organización puede recopilar datos personales de un individuo sin su conocimiento o consentimiento si la recopilación tiene únicamente fines periodísticos, artísticos o literarios”. Sección 38, Proyecto de ley C-27
La jurisprudencia que define la “excepción artística” es escasa (la mayoría de los artistas pueden permitirse ir a los tribunales). En un caso, la CBC apoyó la alegación de Google de que estaba protegida por la excepción periodística (perdieron), y en otro, se reconoció que la arquitectura de datos sísmicos era una “obra de arte” (ganaron). Eso es todo. En ambos casos, las personas que pretendían que su uso se considerase una excepción artística o periodística eran en realidad usos tecnológicos.
Si la IA generativa se define como arte, la excepción “con fines artísticos” podría abrir la puerta a una serie de usos de datos personales sin consentimiento, como las formas de arte inmersivo e interactivo que recogen datos biométricos sensibles de los participantes, con fines distintos del bien público.
IA, arte y… ¿Seguridad?
Si la IA Generativa se reconoce como arte, o como artista literario, o como periodismo, la terminología se transforma en “Arte” Generativo. El “Arte” Generativo puede y será utilizado con fines militares (deep fakes/noticias falsas, vigilancia facial y biométrica, cazatalentos automatizados para aumentar la radicalización en línea).
Las grandes empresas tecnológicas pujan por contratos muy lucrativos y es de esperar un aumento de las aplicaciones militares de la IA. DeepMind (filial de Google) estará en la primera conferencia sobre IA y Seguridad que se celebrará este otoño en el Reino Unido, mientras que el “Ministro de Asuntos Exteriores también convocará la primera sesión informativa del Consejo de Seguridad de la ONU sobre las oportunidades y los riesgos de la Inteligencia Artificial para la paz y la seguridad internacionales.”
Conclusión
Las definiciones importan desde el punto de vista jurídico y económico y, si la IA Generativa se define como Arte, a través de diversos mecanismos de financiación y captación normativa, esto tendrá repercusiones políticas, jurídicas y económicas críticas. Asegurarse de que los artistas, y las organizaciones que los representan, están al timón de cómo se define el arte podría marcar la diferencia entre una democracia fuerte que valora a sus creadores de noticias, arte y medios de comunicación, o el siguiente escenario legal de ciencia ficción:
· La IA Generativa es reconocida como arte, o como arte literario, o periodismo, convirtiéndose en “Arte” Generativo.
· No es necesario el consentimiento para recoger datos personales con fines de “Arte” Generativo.
· Estos datos se utilizan para entrenar sistemas de IA con usos probables para estrategias militares, aumento de la vigilancia, polarización, disminución de la confianza en las instituciones públicas y democráticas, malestar social, etc.
Todavía tenemos el poder de elegir.
A continuación, le indicamos cómo puede apoyar al sector artístico y cultural:
· Puede firmar nuestra petición ArtXAI Conversation;
· Sígame en las redes sociales, ya que estoy planeando una reunión con las principales partes interesadas en la mesa;
· Si usted es de un laboratorio de investigación sobre IA, puede adoptar políticas que impidan a las grandes tecnológicas acceder a su investigación financiada con fondos públicos y evitar urgentemente que hagan “recomendaciones políticas”, también conocidas como lobby;
· Si usted es un responsable de la toma de decisiones en el gobierno, puede hacer un compromiso público y fuerte para proteger el papel vital de las artes, en los mecanismos deliberativos y las democracias sostenibles.
The translation to Spanish was generously made by Elizabeth Aguado and Fernanda Undurraga Jeria. Muchas gracias!
