Esta semana, Spotify se ha apuntado al movimiento en contra del arte generado por inteligencia artificial. Cada vez se oyen con más fuerza las críticas hacia los textos, imágenes y demás trabajos generados por IA de forma encubierta y se reclaman medidas para detectar el uso de esta tecnología.
La plataforma de música en streaming ha anunciado esta semana medidas contra los músicos creados con inteligencia artificial, pero aclara que los artistas humanos pueden usarla. A su vez, Google se ha visto obligada a desactivar su IA en Google Earth por la avalancha de imágenes falsas de guerras y catástrofes que se crearon como si fueran de satélites.
El realismo de lo creado con esta tecnología sigue descompensado por la falta de un sistema robusto y universal de identificación que permita frenar las fake news, los bulos que aprovechan la IA para generar caos.
El Código de Transparencia de la UE se plantea como el marco legal que podría empujar a las empresas de IA a ofrecer una solución más definitiva. Entró en vigor el 2 de agosto y obliga a las compañías a identificar todos los contenidos que generen.
Anthropic y OpenAI han anunciado en los últimos días que cumplirán con esta normativa europea. También Google, Meta, Microsoft o Mistral han firmado el Código de Transparencia de la UE. Sin embargo, ni xAI (de Elon Musk) ni las empresas chinas se han adherido de momento.
Made by AI
La medida se aplicará a los modelos lanzados a partir del 2 de agosto. Pero para los modelos anteriores, la UE da un plazo hasta el 2 de diciembre que Anthropic tiene previsto cumplir.
Estas compañías hablan de dos sistemas de verificación: las marcas de agua y los metadatos de C2PA (Coalition for Content Provenance and Authenticity), uno de los mayores grupos que intentan abordar la generación de imágenes con IA.
El sistema de autenticación de C2PA es un estándar técnico que incluye información acerca del origen de las imágenes y el flujo de trabajo utilizado tanto en el hardware como el software para así crear un trazo digital.
OpenAI recuerda que este mismo estándar también está siendo adoptado por fabricantes de cámaras, medios de comunicación y otros para certificar la fuente y el historial, o procedencia, del contenido multimedia.
Anthropic, por su parte, aclara la diferencia entre ambas técnicas. El texto generado incluirá marcas de agua integradas y los archivos generados incluirán metadatos de procedencia firmados digitalmente, cuando sea compatible.
Aparte de la marca de agua, cuando Claude genera un archivo compatible, como un archivo .svg, .png o .jpg, le adjunta metadatos de procedencia firmados. Estos metadatos siguen el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).
Adobe icono CRedentials
Omicrono
Esa marca delatora no se verá a simple vista al leer el texto, pero estará implícita en él. Incluso si se modifica, traduce o fragmenta el texto, la marca estará presente.
En el caso de las imágenes generadas con ChatGPT, Codex y la API de OpenAI incluyen tanto las marcas de agua de SynthID como los metadatos de C2PA.
“Estamos trabajando para permitir que usuarios y otras entidades puedan detectar las marcas incluidas y la procedencia de los metadatos”, indica Anthropic, dando a entender que aún faltan detalles por pulir.
Por lo general, las propias empresas ofrecen sus sistemas de verificación. OpenAI, los responsables de ChatGPT ofrecen la web openai.com/verify para comprobar si un texto, imagen o audio es fruto de su IA.
Icono Credentials
Omicrono
El uso de metadatos y marcas de agua no es nuevo, y hasta ahora bastaba con hacer captura de pantalla sobre una imagen para eliminar ese rastro delator de su origen artificial. Hasta que no se lance por completo el sistema de detección será complicado saber en qué supuestos se puede anular la marca de agua. Por ejemplo, si el trozo de texto generado es muy pequeño o surge de un archivo comprimido.
Para quienes quieran dejar claro a simple vista la procedencia del contenido, es posible solicitar al chatbot que genere, por ejemplo, la imagen con una marca de agua visible. Pero con ayuda de otro chatbot, esa marca se puede borrar de nuevo.
Rechazo de la IA
Hace años se acusó a la difunta novelista británica Jane Austen de usar la IA para escribir sus famosas novelas. Otros autores clásicos como Dostoievski o Mary Shelley recibieron el mismo diagnóstico. Hoy, escritores de todo el mundo recurren a trucos como las faltas de ortografía o escritura caótica para desmarcarse de la IA y no ser acusados de usarla.
Para los creadores actuales, ser confundidos con la IA puede ser un problema. Actualmente, existe una tendencia cultural que defiende el rechazo absoluto hacia esta tecnología a la hora de crear ya sea texto, música u obras pictóricas. Lo artesanal más puro se prioriza frente a lo artificial.
Una persona escribiendo a ChatGPT
Omicrono
Herramientas como ZeroGPT o Originality, parecen haber mejorado su percepción de lo que es una obra original de una artificial. Según explica ZeroGPT en su página web, el detector analiza los textos en busca de “patrones de tokens, frecuencia de aparición de eventos, entropía y características de clasificadores de conjunto entrenados con datos mixtos”.
Otros proyectos recientes han abordado un reto mayor, poder detectar los vídeos generados con IA. Investigadores de la UC Riverside han creado un sistema que, no solo detecta que el vídeo lo creó la IA, también qué IA está tras ese vídeo.
A diferencia de las imágenes fijas, los vídeos contienen información de movimiento y temporal: cómo cambian los elementos visuales de un fotograma a otro a lo largo del tiempo. Los distintos generadores de vídeo con IA producen patrones sutiles en esos cambios, creando “artefactos distintivos”, como huellas dactilares que delatan a cada herramienta generativa o modelo.
En contraposición a esta tendencia a detectar todo lo que haya pasado por los algoritmos de la IA, los responsables de los principales modelos generativos recuerdan que el uso de la IA para trabajar o crear no implica que el autor no aplique su impronta al trabajo, su propio estilo o no requiera un esfuerzo.
Anthropic advierte que estas marcas de agua no sentencian la procedencia del texto. “Claude puede no ser el autor original. La gente suele usar Claude para corregir, traducir, resumir o convertir archivos”, explica Anthropic.
“La gente se olvida que detrás del click que mueve a la IA hay una persona”, explicaba Noelia Carballo, directora de arte de Magnific en un evento de prensa hace meses ante las críticas que recibe el cine hecho con IA. “Nosotros tenemos en el equipo más de 10 IA Artist que son fotógrafos que se han transformado en artistas digitales, toda esta gente tiene un proceso de crecimiento y de estudios y de trabajo que al final es válido”.
