Un nuevo informe de la organización Media Matters ha revelado una situación preocupante que involucra el uso de la inteligencia artificial de Google. Según la entidad, videos ofensivos que se volvieron virales recientemente en TikTok habrían sido generados con Veo 3, la tecnología más reciente de generación de videos por IA desarrollada por la empresa.
Los contenidos identificados incluyen estereotipos racistas y antisemitas, como animaciones que asocian a personas negras con comportamientos criminales y escenas absurdamente ofensivas con personajes en campos de concentración nazis.
- Uno de los videos más vistos mostraba a un policía blanco disparando contra una persona negra.
- Otro, con más de un millón de visualizaciones, presentaba a un hombre esquelético burlándose de su propia presencia en un campo de exterminio.
Algunos de estos clips sumaban millones de visualizaciones y estaban marcados con la palabra «Veo» o incluían hashtags y nombres de usuario que hacían referencia a la herramienta.
El informe señala que estos videos poseen características típicas de contenidos generados por IA, como distorsiones visuales, fallas en los escenarios y textos inconexos, además de tener una duración de hasta ocho segundos, el límite actual de las versiones públicas de Veo 3.
La difusión de tales materiales contradice las directrices tanto de TikTok como de Google, que prohíben expresamente discursos de odio, violencia y contenidos que fomenten la discriminación.
Tanto Google como TikTok, consultados por Mashable, no comentaron el caso hasta la publicación del artículo. Vale la pena recordar que, en el lanzamiento de Veo 3, Google destacó el uso de marcas de agua digitales y directrices de seguridad para prevenir abusos.
Sin embargo, la aparición de estos videos plantea cuestionamientos sobre la eficacia de las medidas adoptadas y reaviva el debate sobre los desafíos éticos y técnicos en el uso de IA generativa.
