Preguntar a la IA

MHTS: uso de los estándares

Orientaciones prácticas para incorporar los requisitos de MHTS al diseño de productos, la arquitectura de software y los procesos de desarrollo.

MHTS está concebido para orientar decisiones reales de diseño e ingeniería, desde los requisitos del producto y los componentes tecnológicos hasta las interacciones con el usuario, los flujos de datos y los lanzamientos. Las siguientes orientaciones ilustran enfoques prácticos sin añadir requisitos a los estándares publicados.

Diseñar para usuarios vulnerables

Las interfaces de salud mental deben diseñarse pensando en las circunstancias en las que pueden necesitarlas las personas a las que se dirigen. A una persona que busca ayuda en un momento de malestar agudo pueden resultarle difíciles de procesar las instrucciones complejas, el exceso de opciones o una terminología poco familiar. El malestar emocional también puede aumentar la vulnerabilidad a la manipulación, sobre todo cuando las interfaces explotan el miedo, la culpa o el deseo urgente de alivio.

Por ello, los equipos de desarrollo deben examinar la experiencia completa desde la perspectiva del usuario. Entre las cuestiones importantes figuran:

  • ¿Con qué rapidez puede el usuario llegar al apoyo previsto?
  • ¿Se entienden de inmediato las acciones disponibles?
  • ¿Puede utilizarse la experiencia sin formación previa?
  • ¿Introduce la interfaz opciones innecesarias?
  • ¿Son las instrucciones concisas y siguen un orden adecuado?
  • ¿Puede el usuario acceder a ayuda humana o de emergencia?
  • ¿Hay interrupciones que nada tienen que ver con el apoyo?
  • ¿Podría algún mensaje, decisión de diseño u oferta comercial explotar la vulnerabilidad emocional del usuario?

Siempre que sea posible, los equipos de desarrollo deben probar las experiencias pertinentes con usuarios representativos de la población prevista, teniendo en cuenta los aspectos pertinentes de accesibilidad y usabilidad.

Una revisión práctica podría consistir en abrir la aplicación sin cuenta previa, sin ajustes guardados y sin conocer el servicio. Si no es posible llegar a la función de estabilización sin dar pasos innecesarios, la interfaz debe examinarse más a fondo a la luz del Estándar 3.

La apariencia visual no determina por sí sola la accesibilidad. Una interfaz minimalista puede resultar confusa, mientras que una interfaz más detallada puede seguir siendo fácil de usar si la información está bien organizada.

El objetivo es reducir el esfuerzo evitable en el momento en que se necesita ayuda.

Arquitectura centrada en la privacidad

El Estándar 1 y el Estándar 2 de MHTS exigen que la privacidad se garantice mediante el diseño técnico. Esto empieza por determinar qué información necesita realmente la aplicación. Los equipos de desarrollo deben examinar:

  • Los sistemas de cuentas y autenticación
  • Los formularios y campos de entrada de datos
  • Las cookies y otros mecanismos de almacenamiento del navegador
  • Las bibliotecas de analítica
  • Las integraciones publicitarias
  • Los scripts externos
  • Los identificadores del dispositivo
  • Los registros de la aplicación y del servidor
  • Las solicitudes de red
  • Los proveedores de servicios externos
  • Las interfaces de texto libre y conversacionales

Una aplicación que no solicita visiblemente información personal puede, no obstante, recoger información identificativa a través de su infraestructura. Por ejemplo, los identificadores persistentes del dispositivo, los metadatos de red almacenados o las transcripciones de conversaciones pueden generar registros identificativos. Por ello, los equipos de desarrollo deben examinar la recogida y conservación reales de datos.

Los servicios de terceros requieren especial atención. Un proveedor no debe dar por hecho que un componente externo es conforme con MHTS simplemente porque cumple una función técnica y no publicitaria. Las preguntas pertinentes son qué datos se transfieren, si se produce algún tratamiento de datos de comportamiento y si esos flujos se declaran.

Las aplicaciones que utilizan modelos de IA deben examinar si las instrucciones, las conversaciones u otras entradas se transmiten a proveedores externos y si esas entradas pueden contener información identificable o sensible.

El diseño anónimo también exige tener en cuenta la información que los usuarios puedan introducir voluntariamente. Un campo de texto libre puede recoger información identificativa aunque la aplicación no pida expresamente un nombre.

La ausencia de un formulario de registro es solo una parte de una arquitectura centrada en la privacidad. El resultado buscado es un sistema que ofrezca apoyo sin recoger la identidad personal ni practicar vigilancia del comportamiento.

Experiencia de usuario ética e interacción

El diseño de la interfaz de usuario influye en algo más que la comodidad. La redacción, el momento y la presentación de las funciones pueden fomentar determinados comportamientos. En las tecnologías de salud mental, esas influencias deben examinarse en relación con el bienestar del usuario.

Notificaciones

Las notificaciones no deben explotar la vulnerabilidad emocional ni generar miedo, vergüenza o urgencia artificial. Un recordatorio diseñado para inquietar a alguien por no utilizar un servicio es incompatible con el Estándar 5.

Recompensas

Los mecanismos de recompensa no deben convertir en objetivo de participación la recurrencia del malestar ni el hecho de comunicarlo repetidamente.

Rachas

MHTS prohíbe expresamente los sistemas de retención basados en rachas. Los equipos de desarrollo no deben considerar la participación diaria como un resultado deseable en sí mismo para las herramientas de apoyo emocional.

Mensajes comerciales

Los mensajes comerciales deben examinarse para detectar presión psicológica. Por ejemplo, presentar el pago como condición necesaria para obtener alivio inmediato puede plantear graves problemas éticos.

Idioma

Las interfaces deben evitar mensajes que exageren las consecuencias, minen la confianza del usuario o fomenten una dependencia emocional inadecuada.

Una pregunta de diseño útil es:

«¿Esta función ayuda realmente a los usuarios o solo está pensada para que sigan volviendo?»

Si una función está pensada principalmente para que los usuarios sigan volviendo, y no para ayudarlos realmente, debe replantearse. El propósito es ayudar a los usuarios a desarrollar habilidades y estabilidad, no construir una relación en la que la vulnerabilidad emocional continuada adquiera valor comercial.

Diseño seguro de las intervenciones

El orden de una intervención forma parte de su diseño. El Estándar 4 de MHTS establece que, en los estados de malestar pertinentes, la regulación fisiológica para reducir la activación debe preceder a la reflexión, el análisis o la educación.

Para los equipos de desarrollo, esto supone examinar qué pide la aplicación al usuario en primer lugar. Una herramienta destinada a la estabilización ante un malestar emocional agudo podría:

  1. Empezar por la regulación

    Comenzar con un ejercicio de regulación adecuado.

  2. Invitar después a la reflexión

    Invitar al usuario a reflexionar sobre su experiencia emocional o a describirla.

Un orden distinto puede ser adecuado para un producto diseñado exclusivamente con fines de educación general, pero su finalidad debe quedar clara.

Los equipos de desarrollo no deben dar por hecho que todos los usuarios se beneficiarán de la misma intervención. La idoneidad de determinadas técnicas psicológicas depende de la población prevista, las circunstancias, la evidencia disponible y las consideraciones clínicas.

El apoyo digital también debe reconocer las situaciones en las que la estabilización de uso autónomo no es suficiente.

El orden de la intervención nunca debe impedir el acceso a ayuda profesional urgente.

Integración de la ayuda humana y los servicios de emergencia

El Estándar 6 de MHTS exige un acceso claro a servicios reales de apoyo emocional prestados por personas y a los servicios de emergencia locales. La implementación debe tener en cuenta tanto la visibilidad como la utilidad práctica de esas vías. Entre las preguntas importantes figuran:

  • ¿Pueden los usuarios encontrar fácilmente las opciones de apoyo humano?
  • ¿Son los contactos de emergencia adecuados para la ubicación del usuario?
  • ¿Se describen con precisión los servicios de apoyo?
  • ¿Se mantienen actualizados los números y enlaces pertinentes?
  • ¿Pueden los usuarios pedir ayuda de emergencia sin completar un ejercicio?
  • ¿Indica claramente la tecnología sus propias limitaciones?

En las aplicaciones internacionales, no debe suponerse automáticamente que los recursos de apoyo de un país sean adecuados en otro.

En las herramientas basadas en IA, es necesario un cuidado especial al describir las capacidades del sistema. Un modelo conversacional puede ofrecer respuestas de apoyo, pero no debe dar a entender que posee la autoridad o las capacidades de un profesional sanitario cualificado cuando no es así. Del mismo modo, una conversación automatizada no debe disuadir a nadie de buscar ayuda humana.

Cuando exista una amenaza inmediata para la vida o la seguridad, debe dirigirse a los usuarios a los servicios de emergencia adecuados sin demoras innecesarias.

Aplicar los estándares durante todo el desarrollo

MHTS debe tenerse en cuenta a lo largo de todo el ciclo de vida del producto.

  1. Definición del producto

    Determine la finalidad prevista de la tecnología, sus usuarios y sus circunstancias de uso. Identifique qué funciones regulan, apoyan o influyen en los estados emocionales.

  2. Diseño

    Revise los recorridos de usuario a la luz de los requisitos de acceso anónimo, estabilización sin obstáculos, orden adecuado de las intervenciones y participación no manipuladora.

  3. Arquitectura

    Examine la recogida y el almacenamiento de datos, los servicios externos, los mecanismos de seguimiento y la actividad de red.

  4. Implementación

    Asegúrese de que los requisitos publicados se reflejan en el producto real, y no solo en la documentación de diseño.

  5. Pruebas

    Compruebe si las salvaguardas pertinentes funcionan como se pretende. Por ejemplo, verifique que la estabilización sigue siendo accesible sin registro y que no existen mecanismos de seguimiento prohibidos.

  6. Revisión previa al lanzamiento

    Antes del lanzamiento, revise la tecnología a la luz de los siete estándares y corrija cualquier aspecto no conforme.

  7. Mantenimiento continuo

    Repita las comprobaciones pertinentes al introducir funciones, actualizar bibliotecas, cambiar de proveedor o modificar las interacciones con el usuario.

Un producto que antes cumplía un requisito puede dejar de cumplirlo tras un cambio técnico o comercial. Por tanto, la conformidad exige prestar atención al funcionamiento actual de la tecnología.