A partir de la disponibilidad de herramientas como DALL-E, Stable Diffusion o Midjourney para la generación de imágenes, y ChatGPT, Bard, Open Assistant o los cientos de bots conversacionales basados en LLaMA, millones de personas comenzaron a experimentar con la creación de textos e imágenes asistida por IA generativa. Las motivaciones para usar las herramientas son muy variadas, desde generar ilustraciones y carteles amateurs para ilustrar posts (como este) hasta experimentar nuevas posibilidades en el arte digital, pasando por tomar ideas para la escritura creativa o explorar lúdicamente las respuestas paradójicas que se obtienen al preguntarle al software por sus sentimientos o intenciones.
También se instalaron debates debido a presuntos “riesgos existenciales” y a supuestas infracciones al derecho de autor. Estos debates, en parte, fueron alimentados por las propias empresas que desarrollan estas herramientas, cuya estrategia retórica ha sido inflar tanto las virtudes como los riesgos de los modelos que desarrollan, dos formas complementarias de exagerar su potencia. Menos visibles, casi siempre, quedan los sesgos, fallas y limitaciones importantes que todavía tienen estas herramientas lanzadas al mercado de forma muchas veces apresurada.
La amenaza para la humanidad
Comencemos mencionando brevemente el discurso sobre la “amenaza para la humanidad”. El verdadero riesgo de este discurso es que resulta funcional a la mistificación y el secretismo en torno a una tecnología cuyo conocimiento y desarrollo debería, por el contrario, democratizarse al máximo. Proyectos de código abierto como ChaosGPT, un bot conversacional al que se le ordenó “conquistar el mundo” y “destruir a la humanidad”, ponen en evidencia de manera creativa lo ridículo de las afirmaciones más tremendistas sobre la IA.
Por otro lado, hay una premura por censurar prompts y contenidos “inapropiados” o “violentos”, que muchas veces son definidos según una moral rígida y una ideología del orden. Pero la investigación sobre los sesgos y las fallas reales de estos programas suele tener menos difusión. Es a través de la investigación participativa que se pueden construir modelos y conjuntos de datos que representen mejor la diversidad real que hay en el mundo. Para esto es fundamental que los conjuntos de datos sean abiertos y los modelos sean de software libre. Cuantas más personas puedan conocer cómo están hechas estas tecnologías, investigar con ellas, probarlas y desarrollarlas, habrá más ojos y manos para construir mejores herramientas, que ayudarán en tareas más útiles y promoverán la creatividad en lugar de reproducir prejuicios. Un ejemplo en América Latina es el de EDIA, un conjunto de herramientas desarrolladas por Fundación Vía Libre para identificar estereotipos y discriminación en modelos de lenguaje.
El plagio masivo
En la discusión sobre los derechos de autor, parece por suerte bastante saldada la cuestión de que las obras resultantes de la IA generativa están en dominio público, sobre todo a partir de la reciente opinión de la oficina de copyright de Estados Unidos. Esta es una buena noticia, dado que, de otro modo, las empresas desarrolladoras de los modelos podrían tener un poder inmenso sobre los contenidos generados a partir de la interacción entre las personas usuarias, las herramientas de inteligencia artificial y el acervo común de datos y contenidos culturales.
En tanto, lo que genera más debates hoy en día es si la recopilación de contenidos para crear los conjuntos de datos, así como el procesamiento informático de esos datos que hacen los modelos de inteligencia artificial, son usos justos o, por el contrario, infringen los derechos de autor.
En los últimos tiempos proliferan artículos y manifiestos que reclaman mayores controles y restricciones sobre la IA generativa para proteger la propiedad intelectual. Un ejemplo de estos manifiestos en el mundo de habla hispana se denomina Arte es Ética. Este manifiesto afirma, entre otras cosas, que lo que generan las tecnologías de IA generativa son “derivados no consentidos y parasitarios”, “plagio masivo” y “automatizado”, “expolio” y “robo”; exige la implementación de herramientas de filtrado de contenidos; reclama la prohibición de prompts que incluyan nombres de personas e incluso nombres de movimientos estéticos enteros; exhorta al uso obligatorio de marcas de agua y a la identificación compulsiva de los usuarios que introducen los prompts; y apunta contra la creación de nuevas excepciones a los derechos de autoría para la minería de datos, a pesar de que este tipo de excepciones son fundamentales para el progreso de muchos campos científicos. Los reclamos señalados están mezclados de manera desordenada con otros que son genuinamente atendibles, como la creación de fondos para el fomento de la cultura o la protección de los trabajadores frente a despidos masivos injustificados. Pero el sentido general de los pedidos no se vuelca hacia los reclamos laborales ni hacia el fomento del arte, sino hacia una lisa y llana expansión de la propiedad intelectual. Esto se ve, por ejemplo, en el apoyo a demandas judiciales como la del banco de imágenes Getty contra Stability AI; en la burda caracterización negativa de la IA como tecnología de expolio; y, en general, en que el principal blanco de los ataques sean los proyectos de código abierto, es decir, aquellos que más chances tienen de democratizar el uso de la tecnología.
Lamentablemente han surgido planteos similares de personas que hace algunos años participaron del movimiento de cultura libre. Recientemente Marta Peirano publicó un artículo en el que se pueden encontrar términos parecidos para referirse a los modelos de inteligencia artificial, como el de “máquina automática de plagio masivo”, que sirve para “robar (…) contenidos ajenos”. Peirano también se hace eco de la demanda de Getty a Stability AI y la presenta como parte de la supuesta reacción legítima frente a este robo a gran escala, tomando partido por la empresa de contenidos frente a la empresa tecnológica. El artículo parece renegar de la propia militancia pasada de la autora en favor del acceso al conocimiento, en la medida que sus argumentos de aquellos años fueron luego aparentemente usados por empresas tecnológicas para robar la propiedad intelectual.
Hay un punto verdadero en lo que dice Peirano: en la sociedad actual, las empresas capitalistas siempre serán quienes mejor puedan aprovechar el conocimiento libre en su favor. Esto no es algo novedoso ni peculiar. Hay muchos otros ejemplos análogos. La educación pública y la infraestructura de transporte son solo algunos de ellos. En la sociedad capitalista, las enormes sumas de dinero destinadas a la educación pública forman trabajadores y trabajadoras que luego, inevitablemente, pasan a ocupar puestos asalariados en empresas capitalistas. El hecho de que las empresas capitalistas se apropien de los beneficios de la educación pública no debería ser un argumento en contra de la educación pública, que es un derecho de las personas. Por el contrario, debería llamarnos a reflexionar sobre qué otra sociedad necesitamos para que la educación pública esté al servicio de una producción no explotadora.
Lo mismo ocurre con el conocimiento libre. Hace falta remarcar una y mil veces que la disponibilidad amplia de la cultura y el conocimiento es un avance para los derechos culturales de las personas, habilitado por el desarrollo de las fuerzas productivas. El conocimiento humano es un acervo construido colectivamente que debe servir a toda la sociedad. Cualquier paso atrás en ese sentido es reaccionario. Por supuesto, en nuestra sociedad las empresas tecnológicas tienen una enorme ventaja a la hora de aprovechar el conocimiento libre. Este hecho debería llevarnos a profundizar la crítica comenzada al cuestionar la propiedad del conocimiento, para transformarla en una crítica al sistema social en su conjunto. Para Peirano parece imposible dar este paso, lo que la lleva a optar, en cambio, por una especie de mea culpa y marcha atrás hacia la defensa típica de la propiedad intelectual. Quizás no sea irónico que el artículo de Peirano se encuentre detrás de un muro de pago.
Un necesario cambio de enfoque
Vistos en perspectiva, los discursos enardecidos contra la IA generativa parecen un revival de las invectivas contra Internet a fines de 1990 y principios de los 2000, con análogos pronósticos apocalípticos sobre la muerte del arte, el empobrecimiento de la vida cultural y el declive cognitivo de las nuevas generaciones expuestas a estas tecnologías inmediatistas. Y más atrás, discursos de la misma índole se pueden rastrear en el nacimiento de la música grabada, la fotografía y hasta la imprenta.
Algo que tienen en común estas posturas, en sus distintas variantes, es el planteo de que la contradicción principal se da entre dos sectores. Por un lado, los titulares de derechos de autor, supuestamente expoliados, que incluyen artistas, editoriales y empresas de contenidos de todo tipo. Por otro lado, las corporaciones tecnológicas. Es decir, la contradicción principal no estaría entre los trabajadores y trabajadoras artistas y sus patrones de las empresas de contenidos, sino entre dos sectores industriales: el creativo y el tecnológico. De manera que no se trata de un reclamo de clase, sino intersectorial.
Frente a esta visión que enmarca el problema como una disputa entre sectores industriales, vale la pena complejizar el panorama señalando la existencia de otros actores sociales. Uno de ellos es la comunidad educativa, científica y académica que investiga mediante técnicas de inteligencia artificial. Sobre la importancia de las excepciones al derecho de autor para la minería de texto y datos con fines de investigación pueden leer el informe “Políticas de inteligencia artificial y derechos de autor en América Latina” publicado por la Alianza Latinoamericana por el Acceso Justo el Conocimiento.
El otro actor olvidado son las personas usuarias de herramientas de IA generativa. Muchas personas empezaron a usar estas herramientas como forma de expresión: artistas digitales que usan prompts para generar imágenes, escritores o aficionados que usan chatbots para obtener ideas de textos, personas comunes que simplemente quieren divertirse o expresarse generando con la IA e interactuando con los resultados. Quizás sea hora de que el derecho de las personas a participar en la vida cultural sea considerado en la discusión.
El derecho a participar en la vida cultural tiene algunos requisitos. Siguiendo a Lea Shaver, estos incluyen:
- La libertad de acceder a materiales culturales, es decir, a las obras, ideas, lenguajes y medios ya existentes.
- La libertad de acceder a herramientas y tecnologías indispensables para disfrutar y utilizar estos materiales y obras, así como para crear nuevos materiales.
- La libertad de usar estos materiales y obras, transformarlos, hacerlos circular y ponerlos en diferentes contextos.
Siguiendo este esquema, la posibilidad de usar herramientas de IA generativa libres de censura puede entenderse como parte del derecho a acceder a las herramientas y tecnologías para expresarse creativamente. Así como el acceso a instrumentos musicales es fundamental para crear música o las computadoras y otros dispositivos digitales son importantes para cultivar la fotografía, el video y otras formas de expresión visual, las herramientas de IA generativa pueden constituirse en una herramienta clave para la expresión creativa y estética. Este principio no involucra únicamente a los artistas y a sus procedimientos, herramientas y materiales profesionales, sino a toda persona usuaria de estas tecnologías, que a través del arte y otros contenidos generados por IA accede y participa de una experiencia estética peculiar y personal.
Pero los derechos de las personas usuarias se ven amenazados desde distintos lugares. Por un lado, las empresas proveedoras de servicios de IA generativa crean expectativas engañosas sobre las herramientas que ofrecen; manipulan arbitrariamente los resultados y censuran contenidos; vulneran la privacidad de sus usuaries; imponen barreras económicas abusivas; e invierten menos de lo necesario en solucionar los sesgos de las herramientas.
Por otro lado, las industrias de contenidos y los titulares de derechos de autor, aduciendo que estas herramientas facilitan infracciones al copyright por parte de quienes las usan, promueven regulaciones draconianas que incluyen el control y filtrado de contenidos; estigmatizan el uso de la IA generativa como una práctica poco ética o incluso delictiva; y, a través de su ataque a los proyectos de código abierto, contribuyen a la concentración de poder de las principales corporaciones tecnológicas. Las restricciones y controles que reclaman estas industrias para la IA generativa no pueden implementarse sin limitar severamente la capacidad de las personas usuarias para hacer un uso expresivo legítimo de las herramientas.
De algo podemos tener certeza: no habrá una salida progresiva de este debate si no se empiezan a tener en cuenta los derechos de las personas que usan la inteligencia artificial generativa. Y nadie tendrá en cuenta esos derechos si las propias personas usuarias no levantamos la voz.
En la segunda parte de esta serie, complejizaremos el debate al hablar de las prácticas artísticas emergentes en relación con la IA generativa.
[…] a la cultura: Aunque aún no ha sucedido, cuando surjan iniciativas de regulación de la IA, debe tenerse en cuenta también a las personas usuarias de estas herramientas, sobre todo en su vertiente generativa, y no únicamente a las industrias. Para muchas personas, […]