Principales destacados
- YouTube comenzó a ofrecer su tecnología de detección de deepfakes a políticos, autoridades y periodistas.
- La herramienta identifica videos que utilizan rostros generados por inteligencia artificial sin autorización.
- El sistema funciona de manera similar a Content ID, pero enfocado en detectar rostros manipulados con IA.
YouTube anunció la expansión de su herramienta de detección de deepfakes para un nuevo grupo de usuarios: autoridades gubernamentales, candidatos políticos y periodistas.
La iniciativa forma parte de un programa piloto que busca ofrecer mayor protección a figuras públicas frente al aumento de videos manipulados con inteligencia artificial.
La tecnología ya había sido lanzada anteriormente para creadores dentro de la plataforma. Ahora, el objetivo es ampliar el alcance del sistema hacia áreas consideradas más sensibles, como el debate público y el entorno político, donde el impacto de contenidos falsificados puede ser mucho mayor.
Cómo funciona el sistema de identificación
La tecnología funciona de manera similar a Content ID, la conocida herramienta de YouTube utilizada para identificar material protegido por derechos de autor.
En este caso, el sistema analiza los videos subidos a la plataforma para detectar rostros que puedan haber sido generados o manipulados mediante inteligencia artificial.
Para utilizar la herramienta, los participantes deben verificar su identidad. El proceso incluye enviar un documento oficial con fotografía y grabar un video selfie para confirmar la identidad. Una vez aprobados, obtienen acceso a un panel donde pueden visualizar videos sospechosos que utilizan su imagen.
Si encuentran contenido falso o no autorizado, pueden solicitar su eliminación a través del proceso de denuncia de privacidad de la plataforma.
No todos los videos serán eliminados
A pesar de la nueva tecnología, YouTube dejó claro que la detección de deepfakes no significa que los videos se eliminarán automáticamente.
La empresa afirma que continuará protegiendo contenidos de parodia, sátira y comentarios políticos, incluso cuando involucren a figuras públicas.
Según Leslie Miller, vicepresidenta de asuntos gubernamentales y políticas públicas de YouTube, la expansión busca proteger la integridad de la conversación pública sin limitar la libertad de expresión.
La ejecutiva señaló que los riesgos de suplantación mediante inteligencia artificial son especialmente altos dentro del ámbito cívico, lo que motivó la ampliación de la herramienta.
De la comunidad de creadores al debate público
El sistema de detección fue desarrollado inicialmente en 2024 en colaboración con Creative Artists Agency. Durante las primeras pruebas, creadores populares como MrBeast y Marques Brownlee participaron en la evaluación de la tecnología.
Posteriormente, la herramienta se puso a disposición de millones de creadores que forman parte del Programa de Socios de YouTube. Según la empresa, el número de solicitudes de eliminación entre creadores ha sido relativamente bajo.
Con la llegada de la tecnología al entorno político y periodístico, el escenario podría cambiar. Los videos manipulados que involucren a líderes o candidatos pueden tener un impacto directo en la confianza pública y en el debate democrático.
YouTube informó que planea ampliar el acceso de forma gradual en los próximos meses y también está explorando tecnologías capaces de detectar imitaciones de voz y representaciones generadas por inteligencia artificial.
