La inteligencia artificial (IA) está transformando el ecosistema de YouTube. Mientras la plataforma ya permite a los creadores generar avatares capaces de replicar su imagen y su voz, impulsados por IA, también lidia con su vertiente más controvertida: el uso fraudulento de identidades a través de ‘deepfakes’.
Tras ampliar sus herramientas contra los ‘deepfakes’ para proteger la imagen de las figuras públicas, ahora YouTube ha confirmado el lanzamiento de sus herramientas para detectarlos a todos los creadores de contenido mayores de 18 años.
La plataforma ha ampliado el lanzamiento de su herramienta de detección de ‘deepfakes’, que lanzó oficialmente en octubre del año pasado, con el objetivo de ayudar a un mayor número de personas a proteger su identidad en YouTube.
De hecho, esta herramienta destaca por ser una forma de ayudar a los creadores de contenido a combatir los ‘deepfakes’ generados con IA que usan su imagen y voz en vídeos sin su consentimiento.
Por lo que esta función es ideal para supervisar la manera en la que aparece la imagen de un creador de contenido, ya sea creada o modificada con IA, ayudándole a proteger su identidad, especialmente en aquellos vídeos manipuladores que reflejan una visión que no comparten.
Así funciona la herramienta de detección de ‘deepfakes’ de YouTube
Para acceder a esta función, conocida como detección de apariencia, el proceso exige certificar de antemano la identidad del usuario. YouTube requiere que el creador complete una verificación única, aportando un documento oficial emitido por el gobierno y un escaneo facial en vídeo.
Una vez completado este paso de seguridad, los algoritmos de la plataforma comienzan a rastrear de forma continua los millones de vídeos que se suben a diario.
El sistema opera de forma muy similar al veterano Content ID, que detecta infracciones de derechos de autor en música y vídeo, pero en esta ocasión la inteligencia artificial busca de forma específica alteraciones sintéticas en los rasgos biométricos.
Cuando el sistema localiza una coincidencia sospechosa, el vídeo infractor no desaparece de forma automática, sino que la plataforma traslada la responsabilidad y el poder de decisión al propio creador.
Este recibe una alerta en su panel de control de YouTube Studio, concretamente en la pestaña de detección de contenido. Ante un aviso, el usuario tiene varias vías de acción directa. Por un lado, puede solicitar la eliminación por privacidad si considera que el vídeo atenta contra sus derechos personales, suplanta su identidad con fines maliciosos o difunde estafas.
Por otro lado, puede reclamar directamente por derechos de autor si el metraje utiliza material original sin licencia.
Sin embargo, si se trata de un vídeo inofensivo, como una parodia evidente, un montaje creado por seguidores o un contenido legítimo que no engaña a la audiencia, el creador simplemente puede archivar la alerta e ignorar el aviso, permitiendo que el vídeo siga publicado.
Desde Google han advertido que el sistema, aunque avanzado, todavía se encuentra en fase de ajuste, por lo que es probable que en esta etapa inicial la herramienta detecte vídeos reales donde el creador aparece, asumiendo por error que han sido generados por IA. En estos escenarios de falsos positivos, las políticas de eliminación no aplican, salvaguardando el uso legítimo de terceros.
