Lantern: Nueva iniciativa en línea busca proteger a los niños contra el abuso sexual con el apoyo de Google, Meta y otras empresas

Un nuevo programa llamado Lantern busca combatir la explotación y el abuso sexual infantil en línea (ESIAO) mediante el intercambio de señales entre empresas en línea, como Google, Meta y Discord.

La Tech Coalition, un grupo de empresas de tecnología con el objetivo de combatir el ESIAO, anunció hoy que el programa tiene como objetivo evitar que los depredadores eludan la detección transfiriendo posibles víctimas a otras plataformas.

Lantern funciona como una base de datos central donde las empresas pueden contribuir con datos y verificar sus propias plataformas.

Cuando las empresas identifican señales, como direcciones de correo electrónico o nombres de usuario que violan las políticas de ESIAO, hashes de material de abuso sexual infantil (CSAM) o palabras clave relacionadas, pueden marcar estas señales en sus sistemas. Aunque estas señales no son una prueba definitiva de abuso, ayudan a las empresas a investigar y tomar medidas, como cerrar una cuenta o informar la actividad a las autoridades.

La participación de las empresas en Lantern incluye a Discord, Google, Meta, Quora, Roblox, Snap y Twitch. La coalición ha estado trabajando en el desarrollo de Lantern durante los últimos dos años y, además de crear soluciones técnicas, ha tenido que someterse a una evaluación de elegibilidad para garantizar el cumplimiento de los requisitos legales y regulatorios, así como el cumplimiento ético.

Uno de los desafíos que enfrentan los programas de este tipo es garantizar su eficacia sin crear nuevos problemas. En el pasado, ha habido incidentes en los que las personas fueron investigadas por la policía después de ser señaladas por Google por CSAM debido a fotos de infecciones en la ingle de sus hijos.

Para evitar problemas similares, la Tech Coalition encargó una evaluación de impacto en los derechos humanos a Business for Social Responsibility (BSR), una coalición de empresas centrada en cuestiones de seguridad y sostenibilidad global. BSR proporcionará orientación continua a medida que el programa evoluciona.