Perguntar à IA

Parte 6 de 7

MHTS: responsabilização

Como as tecnologias devem demonstrar segurança psicológica, medir a eficácia e disponibilizar a informação relevante para escrutínio público.

As tecnologias de saúde mental devem ser avaliadas não só pelo que prometem, mas também pela forma como funcionam e pelo que a evidência disponível demonstra. As MHTS tratam das salvaguardas estruturais e da responsabilização pública, complementando a avaliação clínica, sem a substituir.

Segurança psicológica

A tecnologia pode influenciar o estado emocional de uma pessoa através dos seus conteúdos, da interface, das interações e das recomendações. Experiências mal concebidas podem introduzir riscos, sobretudo quando utilizadas em momentos de sofrimento. Entre as possíveis preocupações incluem-se:

  • Sequências de intervenção inadequadas
  • Mensagens que intensificam o medo ou a vergonha
  • Mecanismos de envolvimento manipuladores
  • Exigências cognitivas desnecessárias
  • Afirmações enganosas sobre as capacidades de apoio
  • Acesso inadequado a apoio humano
  • Omissão de limitações importantes

Nos sistemas baseados em IA, podem também surgir riscos decorrentes de respostas geradas que sejam inexatas, inadequadas ou incompatíveis com a situação do utilizador.

A segurança exige, por isso, atenção tanto à finalidade prevista da tecnologia como ao seu comportamento real. As MHTS estabelecem salvaguardas contra vários riscos de conceção identificáveis, incluindo a vigilância comportamental, as barreiras de acesso, a conceção orientada para a dependência e a ausência de encaminhamento para apoio humano.

A conformidade com estes requisitos estruturais não demonstra que todas as interações ou intervenções sejam clinicamente seguras. Os programadores continuam a ser responsáveis por avaliar os riscos previsíveis associados à sua tecnologia específica.

Eficácia e conformidade

Há duas questões que devem ser consideradas separadamente, porque dizem respeito a tipos de prova diferentes.

  • Conformidade

    A tecnologia cumpre os requisitos das MHTS?

    A conformidade com as MHTS diz respeito aos requisitos estruturais e éticos publicados.

  • Eficácia

    A tecnologia alcança os resultados de saúde mental pretendidos?

    A eficácia diz respeito à questão de saber se a tecnologia produz os resultados que alega.

Uma tecnologia pode cumprir os requisitos publicados em matéria de privacidade, acessibilidade e conceção sem dispor de evidência suficiente para sustentar uma alegação de eficácia clínica.

Inversamente, a evidência de que uma intervenção pode produzir um resultado benéfico não demonstra que as práticas de tratamento de dados ou os mecanismos de envolvimento da tecnologia cumprem os requisitos das MHTS.

Por exemplo, a investigação que sustenta uma técnica de respiração não demonstra que a aplicação que a disponibiliza seja anónima, isenta de vigilância comportamental ou acessível em situações de sofrimento agudo. Do mesmo modo, uma aplicação anónima pode ainda assim disponibilizar uma intervenção sem evidência suficiente que a sustente.

Ambas as questões são importantes.

Medir a eficácia e o impacto

As alegações sobre resultados em saúde mental devem estar associadas a medições claramente definidas. O programador deve explicar:

  • Que resultado está a ser medido.
  • Como é obtida a medição.
  • Quando é feita a medição.
  • Que população é representada pela informação disponível.
  • Que limitações afetam a interpretação.

São exemplos de indicadores não identificáveis potencialmente relevantes:

Utilização

O número de vezes que uma função de apoio é acedida ou concluída.

Este indicador traduz atividade, não necessariamente eficácia.

Alteração autorreportada

Respostas facultativas e não identificáveis sobre a alteração emocional percecionada antes e depois de uma intervenção.

Podem indicar um benefício percecionado a curto prazo, mas não demonstram, por si só, eficácia clínica.

Acesso a ajuda adicional
Informação agregada que indique se os utilizadores optaram por uma via de apoio humano, quando essa informação puder ser medida sem identificar nem rastrear pessoas.
Disponibilidade
Informação técnica que indique se as funções de apoio relevantes estão acessíveis e operacionais.
Resultados a longo prazo

Quando adequado e com apoio independente, a investigação pode analisar se uma intervenção produz benefícios duradouros.

Estas conclusões exigem desenhos de estudo adequados e não devem ser inferidas a partir de estatísticas de utilização correntes.

Uma avaliação responsável distingue as observações diretas das interpretações. Por exemplo, um aumento do número de sessões não prova uma melhoria da saúde mental. Do mesmo modo, uma redução do sofrimento autorreportado durante um exercício não demonstra, por si só, um benefício clínico a longo prazo.

A medição deve ser proporcional à finalidade prevista da tecnologia e não deve comprometer os requisitos de privacidade estabelecidos pelas MHTS.

Dados de acesso público

A Norma 7 das MHTS exige o acesso público aos dados não identificáveis recolhidos e transparência quanto à medição da eficácia e do impacto. Este requisito tem de ser aplicado em conjunto com as Normas 1 e 2.

A responsabilização pública não pode servir de pretexto para recolher dados de identidade nem para introduzir vigilância comportamental.

Uma abordagem possível consiste em recolher apenas a informação mínima não identificável necessária para medir um resultado definido. Por exemplo, um sistema pode registar uma contagem anónima dos exercícios concluídos ou as respostas agregadas a uma pergunta facultativa sobre o estado emocional. Essa informação pode depois ser disponibilizada publicamente de uma forma que não identifique as pessoas.

No entanto, a remoção dos nomes não torna automaticamente anónimo um conjunto de dados.1, 2 Registos temporais detalhados, características raras, grupos populacionais pequenos e combinações de atributos aparentemente inofensivos podem criar riscos de reidentificação. Os programadores devem, por isso, ponderar:

  • Se a informação é verdadeiramente não identificável.
  • Se é possível excluir pormenores desnecessários.
  • Se a agregação reduz os riscos de divulgação.
  • Se os grupos pequenos exigem proteção adicional.
  • Se a informação publicada pode ser cruzada com fontes externas para identificar alguém.
  • Se o próprio método de medição introduz um rastreamento proibido.

Quando não for possível tornar um determinado conjunto de dados não identificável em condições de segurança, a forma de recolha ou de comunicação dos dados deve ser repensada.

Um relatório público adequado pode conter

  • Contagens agregadas de resultados.
  • Uma explicação do método de recolha.
  • As limitações relevantes.
  • O período abrangido.

Não deve conter

  • Registos identificáveis de utilizadores.
  • Informação que possa, de forma razoável, ser associada a pessoas concretas.

O objetivo é tornar o impacto alegado da tecnologia passível de análise, sem comprometer as pessoas que ela se destina a proteger.

Transparência das práticas tecnológicas

A responsabilização pública exige mais do que a publicação de uma estatística favorável. Uma explicação significativa deve ajudar o leitor a compreender o que a tecnologia faz e em que se fundamentam as suas alegações. A informação relevante pode incluir:

Finalidade prevista
Aquilo para que a tecnologia foi concebida e as circunstâncias em que se destina a ser utilizada.
Práticas de tratamento de dados
Que informação é recolhida, como é tratada e se alguma informação é transferida para o exterior.
Métodos de medição
Como são definidos, recolhidos e calculados os indicadores de eficácia e de impacto.
Limitações
Aquilo que a informação disponível não permite demonstrar.
Tratamento externo
A divulgação dos subcontratantes relevantes e a confirmação expressa, exigida pelas MHTS, de que não existem subcontratantes terceiros de dados comportamentais.
Alterações ao longo do tempo
Informação sobre alterações substanciais que afetem a interpretação dos resultados publicados.

A transparência deve facilitar a avaliação das alegações. Não deve recorrer à complexidade técnica nem a documentação excessiva para ocultar práticas relevantes.

Escrutínio independente e avaliação contínua

A informação de acesso público permite que terceiros analisem as atividades e os resultados comunicados de uma tecnologia.

Investigadores
Podem analisar a metodologia utilizada para medir os efeitos.
Clínicos
Podem ponderar se as alegações são adequadas à evidência apresentada.
Programadores
Podem comparar abordagens de medição que preservam a privacidade.
Utilizadores e organizações
Podem avaliar se a informação sustenta as alegações de um fornecedor.

A disponibilização pública não garante que um determinado conjunto de dados seja completo, exato ou cientificamente suficiente. Essas qualidades continuam a exigir avaliação. Do mesmo modo, um relatório público não deve ser confundido com uma validação clínica independente, a menos que essa validação tenha efetivamente ocorrido.

A avaliação contínua é importante porque as tecnologias mudam. Uma atualização pode alterar uma intervenção, introduzir um novo subcontratante de dados ou modificar a conceção de uma funcionalidade de envolvimento. As alterações que afetem os requisitos publicados devem dar origem a uma nova revisão.

O resultado pretendido é um contexto em que as tecnologias de saúde mental permaneçam abertas à análise, à correção e à melhoria.