Le tecnologie digitali possono rendere più accessibile il supporto alla salute mentale, ma la loro progettazione può anche introdurre rischi che diventano particolarmente rilevanti quando gli utenti sono spaventati, sopraffatti o comunque emotivamente vulnerabili. Eppure nessuno standard di sicurezza stabiliva tutele di progettazione specifiche per queste tecnologie: MHTS è stato il primo a farlo, attraverso requisiti strutturali ed etici espliciti.
Le lacune degli standard esistenti
MHTS è nato perché nessuno standard di sicurezza stabiliva tutele di progettazione specifiche per le tecnologie digitali per la salute mentale. Le app per la salute mentale sono state descritte come gravemente carenti di regolamentazione, e gli standard esistenti sono in gran parte generici: si applicano in modo ampio alle app sanitarie, alla sanità digitale o ai sistemi di intelligenza artificiale, anziché specificamente alle tecnologie per la salute mentale.1
Persino i National Safety and Quality Digital Mental Health Standards australiani, che si applicano ai servizi digitali per la salute mentale, sono di alto livello e incentrati sui processi: stabiliscono requisiti di governance per i fornitori di servizi, non il modo in cui deve essere progettata la tecnologia stessa.2 Nessuno di questi quadri di riferimento stabilisce come le tecnologie per la salute mentale debbano proteggere chi le utilizza in una condizione di vulnerabilità emotiva.
Le alternative esistenti più vicine a confronto:
| Quadro di riferimento | Ambito principale | Specifico per le tecnologie per la salute mentale | Tutele di progettazione per utenti in condizioni di disagio |
|---|---|---|---|
| ISO/TS 82304-23 | Qualità e affidabilità delle app per la salute e il benessere. | No: riguarda tutte le app sanitarie. | No: solo requisiti generali sui rischi per la salute. |
| APA App Evaluation Model4 | Aiutare utenti e professionisti a valutare e scegliere le app. | Sì. | No: è una guida alla valutazione, non uno standard di progettazione. |
| Standard australiani NSQDMH2 | Governance e processi di servizio per i fornitori australiani. | Sì. | No: di alto livello e incentrati sui processi. |
| NICE ESF5 | Evidenze richieste a supporto delle tecnologie per la sanità digitale. | No: riguarda la sanità digitale in generale. | No. |
| Normativa sui dispositivi medici | Classificazione e autorizzazione dei prodotti con finalità mediche. | Solo se il prodotto rientra nella definizione di dispositivo medico. | In parte: requisiti generali di sicurezza e usabilità, nulla di specifico per gli utenti in condizioni di disagio emotivo. |
| Normativa sulla protezione dei dati | Liceità del trattamento dei dati personali. | No: si applica a tutti i dati personali. | In parte: richiede la protezione dei dati fin dalla progettazione, ma non affronta la manipolazione né la dipendenza. |
| MHTS | Requisiti di sicurezza strutturali ed etici. | Sì. | Sì: sette requisiti. |
MHTS è il primo standard di sicurezza a stabilire tutele di progettazione specifiche per le tecnologie digitali per la salute mentale. I quadri di riferimento esistenti restano importanti e alcuni, come la normativa a tutela dei consumatori e il regolamento europeo sull'intelligenza artificiale, vietano già determinate pratiche manipolative. Nessuno di essi stabilisce come una tecnologia debba essere progettata affinché le pratiche che sfruttano le persone in condizioni di disagio emotivo siano escluse fin dall'inizio.
MHTS colma questa lacuna con tutele incentrate sulla progettazione delle tecnologie che influenzano gli stati emotivi e mentali. I suoi elementi distintivi comprendono:
- Il divieto di richiedere l'identità come condizione per accedere alla stabilizzazione.
- Il divieto di sorveglianza comportamentale.
- L'eliminazione degli ostacoli all'accesso nei momenti di disagio.
- La priorità della stabilizzazione rispetto all'interpretazione.
- La prevenzione di meccanismi di coinvolgimento che generano dipendenza.
- Il mantenimento di percorsi immediati verso il supporto umano.
- La pubblicazione di dati non identificativi su efficacia e impatto.
MHTS intende integrare i quadri di riferimento esistenti pertinenti, non duplicarli né sostituirli. Si veda Rapporto con i quadri di riferimento esistenti.
Le sezioni seguenti illustrano i rischi a cui rispondono queste tutele.
La vulnerabilità psicologica nei momenti di disagio
Le persone che vivono un intenso disagio emotivo, come ansia, panico, lutto o disperazione, possono essere particolarmente vulnerabili alla manipolazione e allo sfruttamento psicologico.
Nei periodi di vulnerabilità emotiva, il desiderio di sollievo, rassicurazione o sicurezza può rendere le persone più sensibili alla persuasione, soprattutto quando i messaggi fanno leva sulle loro paure, sulle loro insicurezze o sui loro bisogni emotivi immediati. La ricerca ha dimostrato che lo stress acuto può compromettere il processo decisionale6 e che i messaggi basati sulla paura possono aumentare la sensibilità alla persuasione.7
Questa vulnerabilità comporta importanti responsabilità etiche per chi fornisce tecnologie per la salute mentale. Il disagio di una persona che cerca supporto emotivo non dovrebbe mai essere sfruttato a fini commerciali, per influenzarne il comportamento o per indurla a utilizzare di più il servizio.
Un servizio potrebbe, ad esempio, sfruttare il timore di una persona che la propria salute mentale peggiori per spingerla ad acquisti non necessari, alimentare una dipendenza emotiva per accrescere l'utilizzo continuativo del servizio o servirsi di confidenze emotive sensibili per inviarle messaggi persuasivi altamente personalizzati.8
A differenza di molte altre tecnologie, i servizi per la salute mentale possono entrare in contatto con le persone proprio nel momento di massima vulnerabilità emotiva. Il rapporto tra fornitore e utente comporta quindi una responsabilità accresciuta nel proteggere le persone da manipolazione, coercizione e sfruttamento.
Le tecnologie per la salute mentale devono essere progettate per sostenere il benessere degli utenti, mai per approfittare delle circostanze emotive che li hanno spinti a chiedere aiuto.
Il rischio di sfruttamento psicologico
I prodotti digitali possono influenzare il comportamento attraverso la presentazione, i tempi, il linguaggio e i sistemi su cui si basano. Ad esempio:
- Un falso senso di urgenza che spinge ad agire subito
- Un linguaggio basato sulla paura, volto a influenzare le decisioni
- Pressioni emotive per continuare a utilizzare un servizio
- Affermazioni fuorvianti sulle conseguenze dell'abbandono del servizio
- Interfacce che nascondono scelte importanti
- Messaggi personalizzati sulla base di profili comportamentali
- Offerte commerciali che sfruttano il disagio emotivo per spingere all'acquisto
Queste tecniche sono riconducibili a quelli che le autorità per la tutela dei consumatori definiscono comunemente modelli di progettazione ingannevoli o manipolativi. La Federal Trade Commission statunitense ha documentato come la progettazione delle interfacce possa influenzare le decisioni dei consumatori attraverso pratiche che occultano informazioni, manipolano le scelte o inducono ad azioni non desiderate.9 Tali pratiche sollevano ulteriori problemi etici quando la persona influenzata sta cercando aiuto per affrontare un'esperienza emotivamente difficile.
Si pensi a una persona che apre un'applicazione di supporto per l'ansia durante un attacco di panico. Invece di fornire un aiuto immediato, l'applicazione avverte che i sintomi potrebbero peggiorare se non si sblocca un supporto aggiuntivo, inducendo la persona ad acquistare un abbonamento. In questo modo si sfruttano deliberatamente la paura e l'urgente bisogno di sollievo della persona per spingerla a una decisione economica in un momento di accresciuta vulnerabilità emotiva.
Allo stesso modo, un'applicazione che invia notifiche a forte carica emotiva può sfruttare la maggiore vulnerabilità di una persona per creare dipendenza dal prodotto, traendo un vantaggio commerciale proprio dalla difficoltà che dichiara di affrontare, a scapito della salute mentale dell'utente.
MHTS stabilisce requisiti volti a prevenire questi conflitti. L'obiettivo non è semplicemente scoraggiare comportamenti contrari all'etica, ma impedire determinate forme di sfruttamento attraverso la struttura e il funzionamento stessi della tecnologia.
Interessi commerciali e benessere degli utenti
Molte aziende digitali misurano il successo in base al coinvolgimento degli utenti. Tra gli indicatori più comuni figurano:
- Utenti attivi giornalieri
- Durata delle sessioni
- Frequenza delle visite di ritorno
- Tassi di fidelizzazione
- Interazioni con le notifiche
- Rinnovi degli abbonamenti
- Ricavi generati per utente
Questi indicatori possono essere utili per i prodotti digitali tradizionali. Gli obiettivi del supporto alla salute mentale, tuttavia, possono essere radicalmente diversi.
Per una persona che utilizza uno strumento di stabilizzazione, un'esperienza riuscita potrebbe consistere nell'utilizzare il servizio per poco tempo, ritrovare la calma e non avere più bisogno di tornarci. Un'applicazione progettata per massimizzare l'utilizzo quotidiano potrebbe quindi perseguire un obiettivo commerciale in contrasto con il risultato atteso dell'intervento.
Il conflitto diventa più grave quando i meccanismi di coinvolgimento si basano sul ripetersi del disagio emotivo. Un prodotto potrebbe, ad esempio, utilizzare serie di giorni consecutivi per incoraggiare l'interazione quotidiana, premiare gli utenti che segnalano ripetutamente il proprio disagio o inviare promemoria che generano ansia per il timore di perdere i progressi fatti. Funzionalità di questo tipo approfittano della vulnerabilità ricorrente di una persona per creare dipendenza, anziché favorire lo sviluppo di capacità autonome di gestione delle difficoltà: servono il fornitore, non la salute mentale dell'utente.
Lo Standard 5 di MHTS affronta direttamente questo problema vietando la progettazione orientata alla dipendenza.
La distinzione non è tra tecnologia commerciale e non commerciale. Un prodotto commerciale per la salute mentale può operare in modo responsabile. La distinzione è tra generare ricavi da un servizio utile e strutturare deliberatamente quel servizio per sfruttare o prolungare la vulnerabilità.
Il successo di un supporto alla salute mentale dovrebbe essere misurato in base al beneficio per l'utente, non soltanto in base alla frequenza con cui l'utente ritorna.
Privacy e dati emotivi
Le tecnologie per la salute mentale possono trattare informazioni molto più sensibili rispetto a quelle trattate abitualmente da un'applicazione. Ad esempio:
- Difficoltà emotive
- Esperienze di lutto o di trauma
- Ansia e panico
- Relazioni personali
- Sentimenti di isolamento
- Vulnerabilità psicologiche
- Andamenti del disagio emotivo
Quando tali informazioni possono essere associate a una persona identificabile, la loro raccolta può comportare rischi significativi per la privacy. Questi rischi possono derivare da richieste dirette di informazioni personali o da meccanismi tecnici meno visibili, come cookie, identificativi dei dispositivi, tracciamento tra siti, profilazione comportamentale e trasferimenti di informazioni a servizi di terze parti.
Anche dati apparentemente anonimi possono diventare identificativi se combinati con altre informazioni. Una tecnologia può non chiedere mai il nome di un utente e creare comunque un profilo comportamentale in grado di distinguere quella persona dalle altre.
Le applicazioni per la salute mentale dovrebbero quindi essere esaminate in base ai flussi di dati effettivi, non solo alle informazioni richieste tramite moduli visibili. MHTS stabilisce due requisiti complementari:
- Accesso anonimo, senza informazioni personali identificabili.
- Nessuna sorveglianza comportamentale e nessun flusso di dati non dichiarato.
L'obiettivo è impedire che la tecnologia trasformi la vulnerabilità psicologica in un patrimonio di dati identificabile o sfruttabile commercialmente.
La sicurezza nei momenti di disagio emotivo
Un'interfaccia digitale tradizionale può presupporre che gli utenti abbiano tempo, attenzione e capacità cognitive sufficienti per orientarsi tra le sue funzionalità. Questo presupposto può essere inadatto a un'applicazione destinata a fornire una stabilizzazione immediata. Tra i possibili ostacoli figurano:
- Accesso obbligatorio con credenziali
- Registrazione di un account
- Lunghe procedure di configurazione iniziale
- Istruzioni eccessive
- Navigazione complessa
- Questionari non necessari
- Notifiche che interrompono l'utilizzo
- Messaggi promozionali
- Ritardi nell'accesso al supporto
Questi ostacoli possono impedire a una persona di ricevere aiuto proprio nel momento in cui ne ha bisogno.
La sicurezza dipende anche da ciò che la tecnologia fa dopo aver consentito l'accesso. Un sistema progettato per il disagio acuto dovrebbe valutare se le sue prime istruzioni siano adatte a una persona già sopraffatta. Proporre un'interpretazione psicologica complessa prima di tentare la stabilizzazione può aumentare il carico cognitivo in un momento inopportuno.
MHTS affronta questo aspetto con i requisiti relativi all'accesso immediato e alla stabilizzazione prima dell'interpretazione. Gli standard richiedono inoltre un accesso chiaro a un reale supporto umano e ai servizi di emergenza.
Gli strumenti digitali hanno dei limiti. Chi ha bisogno di assistenza professionale o urgente non deve essere indotto ad affidarsi esclusivamente a un intervento automatizzato.
Costruire la fiducia attraverso la progettazione
Un'informativa sulla privacy può spiegare quali informazioni raccoglie un'azienda. Un codice etico può descrivere come un'azienda intende trattare i propri utenti. La descrizione di un prodotto può promettere che un servizio è sicuro, di supporto o riservato.
Queste dichiarazioni possono essere utili, ma non stabiliscono necessariamente come funziona davvero una tecnologia. Un'applicazione, ad esempio, può presentarsi come attenta alla privacy pur caricando servizi di terze parti che raccolgono informazioni comportamentali. Un'altra può dichiarare di promuovere l'autonomia pur utilizzando ricompense e notifiche progettate per creare dipendenza.
MHTS si concentra su requisiti che possono essere verificati attraverso il comportamento effettivo del prodotto. Una tecnologia dovrebbe essere in grado di dimostrare, ad esempio, che:
- La stabilizzazione è accessibile senza identificazione.
- Non vengono utilizzati cookie né profilazione comportamentale.
- Il supporto non richiede registrazione.
- I meccanismi di coinvolgimento non alimentano la dipendenza.
- Il supporto umano resta accessibile.
- I dati anonimi sull'efficacia e i metodi di misurazione sono accessibili al pubblico.
Questo approccio rende gli impegni etici più concreti e verificabili.
L'obiettivo è un ambiente digitale per la salute mentale in cui le persone possano cercare supporto senza dover rinunciare alla propria identità, alla propria attenzione o alla propria autonomia.

