Meta anunció una nueva herramienta de seguridad destinada a proteger a usuarios adolescentes que interactúan con su asistente de inteligencia artificial, Meta AI. La compañía comenzará a notificar a los padres que utilizan las funciones de supervisión parental de Instagram cuando detecte posibles señales de angustia vinculadas con la salud mental en conversaciones de jóvenes de entre 13 y 17 años.
El sistema comenzó a implementarse en Estados Unidos, Reino Unido, Australia y Canadá, y la empresa adelantó que planea extenderlo al resto del mundo antes de finalizar el año.
La función utiliza un sistema de inteligencia artificial diseñado específicamente para identificar indicios de riesgo en los chats, incluso cuando aparecen de manera indirecta o con expresiones ambiguas. Si una conversación contiene señales relacionadas con autolesiones o situaciones de vulnerabilidad emocional, el caso será enviado primero a una revisión humana antes de generar una alerta para los adultos responsables.
Desde Meta explicaron que, cuando no sea posible determinar con claridad la intención del adolescente, se priorizará la prevención y se enviará igualmente una notificación al padre o tutor. Además, la compañía ofrecerá recursos elaborados junto a especialistas para ayudar a los adultos a abordar este tipo de conversaciones con sus hijos.
El sistema fue desarrollado con la colaboración de profesionales de salud mental, quienes aportaron criterios para identificar señales de riesgo y evaluar las respuestas de la inteligencia artificial. Según informó la empresa, más de 75 expertos en salud mental especializados en adolescentes participaron en la revisión de cientos de interacciones para mejorar el funcionamiento de Meta AI frente a situaciones sensibles.
La nueva herramienta se suma a otras medidas de seguridad que Instagram ya aplicaba, como las alertas a padres supervisores cuando un adolescente realizaba búsquedas reiteradas relacionadas con autolesiones o intentos de suicidio en períodos cortos de tiempo.
Además, Meta trabaja en una función que permitiría contactar a servicios de emergencia cuando una conversación con Meta AI, tanto de un menor como de un adulto, sugiera un riesgo inmediato. La empresa señaló que actualmente ya deriva casos detectados en Facebook e Instagram a organismos de emergencia y que durante el último año realizó miles de intervenciones de este tipo a nivel global.
Por otra parte, la compañía anunció que las herramientas de control parental tendrán mayor alcance dentro de Meta AI. Las cuentas adolescentes ya cuentan con una configuración de contenido adaptada para mayores de 13 años, que limita ciertos intercambios considerados inapropiados. Ahora, la opción de “Contenido Limitado”, que pueden activar los padres para aumentar el nivel de protección, también se aplicará a las conversaciones con el asistente virtual.
Con esta medida, Meta busca reforzar el control familiar sobre el uso de la inteligencia artificial y reducir los riesgos asociados a conversaciones sensibles entre adolescentes y sistemas automatizados.
En Argentina, ante situaciones de crisis relacionadas con salud mental o pensamientos de autolesión, existe el Centro de Asistencia al Suicida, que brinda orientación y apoyo a través del 135 (línea gratuita en Buenos Aires), el (011) 5275-1135 y el 0800 345 1435 para llamadas desde todo el país.
Comentarios