- El nuevo instituto quiere hacer algo diferente 🔎
- ¿Y cuáles serían los riesgos? ⚠️
- El problema comienza antes del aula
- Google y OpenAI ya respondieron 🗣️
- El instituto ya comenzó a poner a prueba a las empresas
- La comparación con las redes sociales 📱
- Entonces, ¿qué quiere cambiar Siegel?
- ¿Y la industria aceptará este tipo de supervisión? 🤔
Principales destacados
- Nuevo liderazgo en seguridad infantil: Tom Siegel asumió la dirección del Youth AI Safety Institute, creado por Common Sense Media para evaluar productos de IA utilizados por jóvenes.
- “No pueden evaluar su propio trabajo”: Siegel defiende evaluaciones independientes y estándares de seguridad para la IA, comparables con las pruebas de choque de la industria automotriz.
- El problema ya llegó a las escuelas: una investigación del instituto señala que el 70% de los adolescentes estadounidenses utiliza IA para tareas escolares, con indicios de que parte de este uso podría reducir el ejercicio del pensamiento crítico.
Tom Siegel pasó 15 años supervisando la seguridad y la confianza en las plataformas de Google. Ahora decidió dedicar su próximo capítulo profesional a una pregunta incómoda: ¿qué ocurre cuando la inteligencia artificial llega a la vida de los niños antes de que existan estándares sólidos para protegerlos?
En una entrevista con Reuters, Siegel afirmó que el sector está repitiendo errores cometidos durante la expansión de las redes sociales, pero con una diferencia potencialmente importante: la IA puede interactuar directamente con los niños, responder a sus preguntas e influir en sus comportamientos de una manera mucho más personalizada.
🧒 La preocupación ya no es hipotética: el Youth AI Safety Institute fue creado precisamente para investigar cómo niños y adolescentes están utilizando estas herramientas y qué riesgos aparecen en situaciones reales.
El nuevo instituto quiere hacer algo diferente 🔎
Siegel asumió el 22 de septiembre el cargo de primer director ejecutivo del Youth AI Safety Institute, una iniciativa lanzada por Common Sense Media en mayo de 2026.
La propuesta es relativamente sencilla de explicar: evaluar los sistemas de IA antes de que sus riesgos se conviertan en un problema, después de que millones de niños ya estén utilizando los productos.
El instituto pretende:
• crear estándares de seguridad específicos para jóvenes;
• desarrollar evaluaciones abiertas que puedan ser utilizadas por los propios desarrolladores;
• probar productos de IA de forma independiente;
• publicar los resultados para aumentar la transparencia.
🚗 La inspiración viene de los automóviles: Siegel compara el modelo propuesto con las pruebas de choque que ayudaron a establecer estándares de seguridad para los vehículos.
La lógica es que las empresas de IA no deberían ser las únicas responsables de determinar si sus propios productos son seguros.
“No pueden evaluar su propio trabajo.”
La frase resume la visión de Siegel: las evaluaciones independientes podrían crear una referencia externa para comparar los riesgos de diferentes sistemas.
¿Y cuáles serían los riesgos? ⚠️
Siegel mencionó preocupaciones que van desde el suicidio y la psicosis hasta la pérdida gradual de habilidades cognitivas cuando los niños comienzan a delegar en la IA tareas que deberían requerir razonamiento propio.
Este último fenómeno tiene un nombre: cognitive offloading, o descarga cognitiva.
La idea no es simplemente que un niño utilice IA para encontrar una información. El problema aparece cuando la herramienta empieza a realizar por él etapas importantes del proceso de pensar, investigar, formular hipótesis o construir una respuesta.
📚 Y esto ya está ocurriendo en las escuelas: una investigación nacional del instituto con 1.017 adolescentes estadounidenses descubrió que el 70% utiliza IA para tareas escolares. Entre quienes utilizan estas herramientas, el 63% recurre a la IA para obtener una respuesta para sus trabajos.
Al mismo tiempo, el estudio muestra que el comportamiento no es uniforme: el 77% también utiliza IA para actividades como generar ideas o revisar su propio trabajo.
El problema comienza antes del aula
Una investigación anterior de Common Sense Media, realizada con 1.204 niños de entre 9 y 17 años, encontró que el 86% ya utiliza IA, y que casi una cuarta parte utiliza estas herramientas diariamente. Más de cuatro de cada diez dijeron que nunca habían hablado con sus padres o responsables sobre seguridad en IA.
Esto crea una situación curiosa.
La tecnología está incorporándose rápidamente a la rutina de niños y adolescentes, mientras que familias, escuelas y empresas todavía intentan establecer reglas básicas sobre cómo debería utilizarse.
La IA llegó primero. Los estándares de seguridad están corriendo detrás.
Google y OpenAI ya respondieron 🗣️
En el reportaje de Reuters, Google afirmó que los padres ya cuentan con controles para restringir el acceso de los niños al buscador y defendió sus recursos de IA como herramientas útiles para el aprendizaje y la exploración.
OpenAI, por su parte, dijo que utiliza señales de cuenta y comportamiento, combinadas con la edad declarada por el usuario, para identificar a menores, además de afirmar que prueba y mejora continuamente estos sistemas. Anthropic no respondió a la solicitud de comentarios de Reuters.
Siegel considera que esto no es suficiente.
Entre sus propuestas está una verificación de edad más rigurosa para servicios como los de OpenAI y Anthropic.
Para Google, también propone que los usuarios tengan la opción de desactivar recursos como AI Overviews y AI Mode en las búsquedas, de manera similar a los controles existentes para determinados tipos de contenido.
El instituto ya comenzó a poner a prueba a las empresas
El trabajo no está apenas comenzando.
El Youth AI Safety Institute ya publicó evaluaciones de productos de IA. En septiembre, clasificó la búsqueda con IA de Perplexity como un sistema que presenta “riesgo inaceptable” para los niños después de analizar 1.200 búsquedas.
En julio, el instituto llegó a la misma clasificación para las funciones AI Overview y AI Mode de Google Search, al considerar que todavía no eran lo suficientemente seguras, confiables y precisas como para funcionar como respuesta predeterminada para los niños.
La metodología pretende precisamente ir más allá del discurso de las empresas y someter los productos a pruebas independientes, incluidos escenarios específicos relacionados con usuarios jóvenes.
La comparación con las redes sociales 📱
Aquí es donde la advertencia de Siegel adquiere otra dimensión.
Durante años, las empresas de redes sociales argumentaron que podían gestionar los efectos negativos de sus plataformas mediante herramientas internas, moderación y controles parentales.
Hoy, las plataformas digitales enfrentan una enorme presión regulatoria y jurídica relacionada con sus impactos sobre niños y adolescentes.
Siegel teme que la industria de la IA esté siguiendo un camino similar.
La diferencia es que un chatbot no solo muestra contenido a un niño. También conversa con él.
Y esa interacción puede involucrar educación, asesoramiento, entretenimiento, relaciones e incluso cuestiones emocionales.
La propia Common Sense Media afirma que sus investigaciones encontraron niños utilizando IA no solo como una herramienta de productividad, sino también como una especie de confidente.
Entonces, ¿qué quiere cambiar Siegel?
La idea central no es simplemente impedir que los niños utilicen IA.
Es crear un estándar independiente para determinar cuándo un determinado producto es apropiado o inapropiado para un determinado público infantil.
1️⃣ Probar: someter los sistemas a situaciones reales que involucren a jóvenes.
2️⃣ Medir: transformar los riesgos encontrados en evaluaciones reproducibles.
3️⃣ Comparar: permitir que diferentes productos sean analizados mediante criterios similares.
4️⃣ Publicar: hacer que los resultados sean accesibles para familias, escuelas y empresas.
Esto podría cambiar la relación entre tecnología y seguridad infantil: en lugar de descubrir los problemas después de que millones de usuarios hayan estado expuestos, sería posible identificarlos antes.
¿Y la industria aceptará este tipo de supervisión? 🤔
Esta quizá sea la parte más interesante de la historia.
El instituto cuenta con el apoyo de organizaciones como Anthropic y OpenAI Foundation, mientras pretende evaluar productos de esas mismas empresas.
En otras palabras, la próxima disputa no será solamente sobre lo que la IA es capaz de hacer.
También será sobre quién tiene autoridad para decidir qué debería estar autorizada a hacer cuando al otro lado de la pantalla hay un niño.
Siegel dejó Google precisamente después de concluir que la industria tecnológica estaba estancada en la creación de entornos online seguros. Ahora vuelve al problema por otro camino: intentando crear las pruebas antes de que la historia de la IA con los niños se parezca demasiado a la historia de las redes sociales.
