La tecnología avanza a un ritmo vertiginoso y las herramientas de inteligencia artificial ya forman parte del día a día de los más jóvenes. Sin embargo, su uso no está exento de riesgos. Meta ha anunciado hoy una serie de funciones adicionales para garantizar que sus sistemas respondan de manera adecuada ante situaciones extremadamente delicadas, como las conversaciones relacionadas con el suicidio o las autolesiones. El objetivo principal es ofrecer apoyo inmediato y conectar a los adolescentes con ayuda profesional o con sus tutores legales.
Notificaciones directas a los padres tras una revisión manual
Una de las novedades más destacadas es que Meta proactivamente alertará a los padres que utilicen las funciones de supervisión si el chat de su hijo con Meta AI sugiere que el menor podría estar en peligro. Esta detección se basa en un sistema de inteligencia artificial especializado desarrollado junto a profesionales de la salud mental.
Para evitar malentendidos y rebajar el nivel de angustia que una notificación de este tipo puede generar en una familia, la compañía ha establecido un protocolo muy claro:
- Detección automática: El sistema de inteligencia artificial analiza la conversación en busca de indicios, incluso si la referencia al daño físico es sutil.
- Revisión por humanos: Antes de enviar cualquier alerta al móvil del progenitor, un equipo humano revisará el chat marcado para confirmar el riesgo.
- Principio de precaución: Si tras la revisión humana el contexto sigue siendo ambiguo, se dará prioridad a la seguridad y se enviará la notificación de todos modos.
Integración con servicios de emergencia y mejoras de la IA
Además de involucrar a las familias, la empresa está desarrollando la capacidad de ponerse en contacto directamente con los servicios de emergencias si detecta que un usuario, ya sea menor o adulto, se encuentra en una situación de peligro inminente de quitarse la vida. Esta medida amplía un protocolo que ya se aplica con éxito en redes sociales como Instagram y Facebook.
Por otro lado, Meta ha trabajado con más de setenta y cinco especialistas en salud mental juvenil para mejorar las respuestas que ofrece su asistente. La idea es evitar que la inteligencia artificial corte la conversación bruscamente al tratar temas sensibles. En su lugar, el asistente mostrará empatía y guiará al usuario de manera compasiva hacia recursos de ayuda externa.
Restricción de contenidos y disponibilidad de la función
La compañía también ha integrado el ajuste de Contenido Limitado dentro de la experiencia de Meta AI. Si los padres activan esta opción en el perfil de Instagram del adolescente, el asistente limitará aún más los temas sobre los que está dispuesto a interactuar, negándose a responder a preguntas delicadas o inapropiadas para su edad.
Esta funcionalidad de alerta ya está disponible para los usuarios que cuentan con supervisión parental activa en Estados Unidos, Reino Unido, Australia y Canadá. Los planes de la tecnológica pasan por extender esta capa de protección al resto de países del mundo antes de que finalice el año.