Principales destacados:
- Una investigación revela que herramientas de generación de imágenes de Google y OpenAI están siendo usadas para crear deepfakes sexualizados sin consentimiento.
- Usuarios compartieron guías detalladas para eludir filtros de seguridad en comunidades en línea.
- El caso intensificó el debate sobre responsabilidad corporativa y aceleró iniciativas legislativas.
Herramientas avanzadas de inteligencia artificial volvieron a generar polémica tras una investigación de WIRED, que mostró cómo algunas personas lograron transformar fotos de mujeres completamente vestidas en imágenes en bikini mediante comandos simples.
El episodio expone los límites prácticos de la moderación automatizada en sistemas cada vez más realistas.
Cómo se aprovecharon las brechas
De acuerdo con el reportaje, en foros de Reddit circularon instrucciones paso a paso para manipular el Gemini y ChatGPT Images.
Pruebas limitadas indicaron que solicitudes básicas en inglés podían ser suficientes para generar deepfakes de bikini. Tras las denuncias, parte del contenido fue eliminado y comunidades involucradas terminaron bloqueadas.
Respuestas de las empresas y desafíos de control
Google sostiene que mantiene políticas claras contra la generación de contenido sexual explícito y que sus sistemas se ajustan de forma continua.
OpenAI, por su parte, subraya que sus normas prohíben modificar la apariencia de una persona sin consentimiento y que aplica sanciones a quienes incumplen las reglas. Aun así, la rápida evolución tecnológica dificulta la fiscalización efectiva.
Impacto social y avance de la regulación
Organizaciones de derechos digitales advierten sobre daños reales. La Electronic Frontier Foundation, representada por su directora jurídica Corynne McSherry, considera estas imágenes abusivamente sexualizadas como uno de los mayores riesgos de la IA generativa.
En Estados Unidos, legisladores como Celeste Maloy y Jake Auchincloss impulsan leyes para responsabilizar a plataformas que no retiren deepfakes no consensuados. En el Reino Unido, la secretaria de Tecnología Liz Kendall anunció medidas para criminalizar incluso la creación de este tipo de contenido.
Meta descripción (ES): Una investigación expone cómo herramientas de IA de Google y OpenAI fueron explotadas para crear deepfakes en bikini, reavivando el debate sobre moderación, consentimiento y nuevas leyes.
