Digitale Technologien können Unterstützung für die psychische Gesundheit leichter zugänglich machen. Ihre Gestaltung kann aber auch Risiken mit sich bringen, die besonders schwer wiegen, wenn Nutzende verängstigt, überwältigt oder auf andere Weise emotional verletzlich sind. Dennoch legte kein Sicherheitsstandard konkrete Schutzvorkehrungen für die Gestaltung dieser Technologien fest. MHTS wurde als erster Standard geschaffen, der dies leistet – durch ausdrückliche strukturelle und ethische Anforderungen.
Lücken in bestehenden Standards
MHTS wurde geschaffen, weil kein Sicherheitsstandard konkrete Schutzvorkehrungen für die Gestaltung digitaler Technologien für die psychische Gesundheit festlegte. Apps für psychische Gesundheit gelten als stark unterreguliert; die bestehenden Standards sind überwiegend allgemein gehalten und gelten für Gesundheits-Apps, digitale Gesundheit oder KI-Systeme insgesamt, nicht speziell für Technologien für die psychische Gesundheit.1
Selbst die australischen National Safety and Quality Digital Mental Health Standards, die für digitale Dienste im Bereich der psychischen Gesundheit gelten, sind übergeordnet und prozessorientiert: Sie stellen Governance-Anforderungen an Dienstleister, regeln aber nicht, wie die Technologie selbst gestaltet sein muss.2 Keines dieser Regelwerke legt fest, wie Technologien für die psychische Gesundheit Menschen schützen müssen, die sie in einem emotional verletzlichen Zustand nutzen.
Die naheliegendsten Alternativen im Vergleich:
| Regelwerk | Hauptschwerpunkt | Speziell für Technologien für die psychische Gesundheit | Schutzvorkehrungen in der Gestaltung für Nutzende in akuter Belastung |
|---|---|---|---|
| ISO/TS 82304-23 | Qualität und Zuverlässigkeit von Gesundheits- und Wellness-Apps. | Nein: gilt für alle Gesundheits-Apps. | Nein: nur allgemeine Anforderungen zu Gesundheitsrisiken. |
| APA App Evaluation Model4 | Unterstützung von Nutzenden und Fachleuten bei der Bewertung und Auswahl von Apps. | Ja. | Nein: ein Bewertungsleitfaden, kein Gestaltungsstandard. |
| Australische NSQDMH-Standards2 | Governance und Prozesse für Dienstleister in Australien. | Ja. | Nein: übergeordnet und prozessorientiert. |
| NICE ESF5 | Evidenz, die für digitale Gesundheitstechnologien erwartet wird. | Nein: gilt für digitale Gesundheit insgesamt. | Nein. |
| Medizinprodukterecht | Einstufung und Zulassung von Produkten mit medizinischer Zweckbestimmung. | Nur, wenn ein Produkt als Medizinprodukt gilt. | Teilweise: allgemeine Anforderungen an Sicherheit und Gebrauchstauglichkeit, keine speziellen Anforderungen für Nutzende in akuter Belastung. |
| Datenschutzrecht | Rechtmäßige Verarbeitung personenbezogener Daten. | Nein: gilt für alle personenbezogenen Daten. | Teilweise: verlangt datenschutzfreundliche Technikgestaltung, regelt aber weder Manipulation noch Abhängigkeit. |
| MHTS | Strukturelle und ethische Sicherheitsanforderungen. | Ja. | Ja: sieben Anforderungen. |
MHTS ist der erste Sicherheitsstandard, der konkrete Schutzvorkehrungen für die Gestaltung digitaler Technologien für die psychische Gesundheit festlegt. Bestehende Regelwerke bleiben wichtig. Einige verbieten bereits bestimmte manipulative Praktiken, etwa das Lauterkeitsrecht und die KI-Verordnung. Keines legt jedoch fest, wie eine Technologie gestaltet sein muss, damit Praktiken, die emotional belastete Menschen ausnutzen, von vornherein ausgeschlossen sind.
MHTS schließt diese Lücke mit Schutzvorkehrungen, die bei der Gestaltung von Technologien ansetzen, die emotionale und psychische Zustände beeinflussen. Zu seinen besonderen Schwerpunkten gehören:
- Das Verbot, die Stabilisierung von der Preisgabe der Identität abhängig zu machen.
- Das Verbot der Verhaltensüberwachung.
- Der Abbau von Zugangshürden in akuten Belastungssituationen.
- Der Vorrang der Stabilisierung vor der Deutung.
- Die Verhinderung von Mechanismen der Nutzerbindung, die Abhängigkeit erzeugen.
- Die Sicherung unmittelbarer Wege zu menschlicher Hilfe.
- Die öffentliche Bereitstellung nicht personenbeziehbarer Daten zu Wirksamkeit und Wirkung.
MHTS soll relevante bestehende Regelwerke ergänzen, nicht doppeln oder ersetzen. Siehe Verhältnis zu bestehenden Regelwerken.
Die folgenden Abschnitte beschreiben die Risiken, denen diese Schutzvorkehrungen begegnen.
Psychische Verletzlichkeit in akuten Belastungssituationen
Menschen unter starker emotionaler Belastung, etwa bei Angst, Panik, Trauer oder Verzweiflung, können für psychologische Manipulation und Ausbeutung besonders anfällig sein.
In Phasen emotionaler Verletzlichkeit kann der Wunsch nach Erleichterung, Beruhigung oder Sicherheit Menschen empfänglicher für Beeinflussung machen, vor allem wenn Botschaften gezielt ihre Ängste, Unsicherheiten oder unmittelbaren emotionalen Bedürfnisse ansprechen. Studien zeigen, dass akuter Stress die Entscheidungsfähigkeit beeinträchtigen kann6 und dass angstbasierte Botschaften die Empfänglichkeit für Überzeugungsversuche erhöhen können.7
Diese Verletzlichkeit begründet eine erhebliche ethische Verantwortung für Anbieter von Technologien für die psychische Gesundheit. Die Not eines Menschen, der emotionale Unterstützung sucht, sollte niemals für kommerziellen Gewinn, Verhaltensbeeinflussung oder eine stärkere Nutzerbindung ausgenutzt werden.
So könnte ein Angebot etwa die Angst eines Menschen vor einer Verschlechterung seiner psychischen Gesundheit ausnutzen, um unnötige Käufe anzuregen, emotionale Abhängigkeit fördern, um die weitere Nutzung zu steigern, oder sensible emotionale Offenbarungen nutzen, um stark personalisierte, manipulative Botschaften auszuspielen.8
Anders als viele andere Technologien treten Angebote für psychische Gesundheit möglicherweise genau dann mit Menschen in Kontakt, wenn diese emotional am verletzlichsten sind. Das Verhältnis zwischen Anbietern und ihren Nutzenden bringt daher eine erhöhte Verantwortung mit sich, Menschen vor Manipulation, Zwang und Ausbeutung zu schützen.
Technologien für die psychische Gesundheit müssen so gestaltet sein, dass sie das Wohlergehen der Nutzenden unterstützen – und niemals die emotionale Lage ausnutzen, die sie dazu gebracht hat, Hilfe zu suchen.
Das Risiko psychologischer Ausbeutung
Digitale Produkte können Verhalten durch Darstellung, Zeitpunkt, Sprache und die zugrunde liegenden Systeme beeinflussen. Beispiele sind:
- Künstlich erzeugte Dringlichkeit, die zu sofortigem Handeln drängt
- Angstbasierte Sprache, die Entscheidungen beeinflussen soll
- Emotionaler Druck, ein Angebot weiter zu nutzen
- Irreführende Aussagen über die Folgen eines Ausstiegs
- Benutzeroberflächen, die wichtige Wahlmöglichkeiten verbergen
- Personalisierte Botschaften auf Grundlage von Verhaltensprofilen
- Kommerzielle Angebote, die emotionale Belastung ausnutzen, um zum Kauf zu drängen
Diese Techniken ähneln dem, was Verbraucherschutzbehörden gemeinhin als täuschende oder manipulative Gestaltungsmuster („Dark Patterns“) bezeichnen. Die US-amerikanische Federal Trade Commission hat dokumentiert, wie die Gestaltung von Benutzeroberflächen Verbraucherentscheidungen beeinflussen kann, indem Informationen verschleiert, Entscheidungen manipuliert oder unerwünschte Handlungen gefördert werden.9 Solche Praktiken werfen zusätzliche ethische Bedenken auf, wenn die beeinflusste Person Hilfe in einer emotional schwierigen Situation sucht.
Stellen Sie sich vor, jemand öffnet während einer Panikattacke eine App zur Unterstützung bei Angst. Statt sofort Hilfe zu leisten, warnt die App, die Symptome könnten sich verschlimmern, wenn nicht zusätzliche Unterstützung freigeschaltet wird, und fordert zum Abschluss eines Abonnements auf. Damit werden die Angst der Person und ihr dringender Wunsch nach Erleichterung gezielt ausgenutzt, um sie in einem Moment erhöhter emotionaler Verletzlichkeit zu einer finanziellen Entscheidung zu drängen.
Ebenso kann eine App, die mit emotional aufgeladenen Benachrichtigungen arbeitet, die erhöhte Verletzlichkeit eines Menschen nutzen, um Abhängigkeit vom Produkt aufzubauen. Sie profitiert dann kommerziell genau von den Schwierigkeiten, die sie nach eigenen Angaben angeht – auf Kosten der psychischen Gesundheit der Nutzenden.
MHTS legt Anforderungen fest, die solche Konflikte verhindern sollen. Ziel ist es nicht nur, von unethischem Verhalten abzuschrecken, sondern bestimmte Formen der Ausbeutung schon durch Aufbau und Funktionsweise der Technologie zu verhindern.
Kommerzielle Anreize und das Wohl der Nutzenden
Viele digitale Unternehmen messen ihren Erfolg an der Nutzerbindung. Gängige Kennzahlen sind:
- Täglich aktive Nutzende
- Sitzungsdauer
- Häufigkeit wiederholter Besuche
- Bindungsraten
- Interaktion mit Benachrichtigungen
- Abonnementverlängerungen
- Umsatz pro Nutzerkonto
Diese Kennzahlen können bei herkömmlichen digitalen Produkten sinnvoll sein. Die Ziele von Unterstützung für die psychische Gesundheit können sich jedoch grundlegend davon unterscheiden.
Für einen Menschen, der ein Werkzeug zur Stabilisierung nutzt, kann eine erfolgreiche Erfahrung darin bestehen, das Angebot kurz zu nutzen, die Fassung wiederzuerlangen und nicht zurückkehren zu müssen. Eine App, die auf maximale tägliche Nutzung ausgelegt ist, könnte daher ein kommerzielles Ziel verfolgen, das dem beabsichtigten Ergebnis der Intervention zuwiderläuft.
Dieser Konflikt verschärft sich, wenn Mechanismen der Nutzerbindung auf wiederkehrender emotionaler Belastung beruhen. So könnte ein Produkt etwa Nutzungsserien einsetzen, um zu täglicher Nutzung anzuhalten, Nutzende dafür belohnen, wiederholt Belastungen zu melden, oder Erinnerungen senden, die Angst vor dem Verlust von Fortschritten erzeugen. Solche Funktionen nutzen die wiederkehrende Verletzlichkeit eines Menschen aus, um Abhängigkeit aufzubauen, statt die Entwicklung eigenständiger Bewältigungsstrategien zu fördern – sie dienen dem Anbieter und nicht der psychischen Gesundheit der Nutzenden.
Standard 5 von MHTS geht dieses Problem mit dem Verbot gezielt erzeugter Abhängigkeit direkt an.
Die Unterscheidung verläuft nicht zwischen kommerzieller und nichtkommerzieller Technologie. Auch ein kommerzielles Produkt für die psychische Gesundheit kann verantwortungsvoll betrieben werden. Die Unterscheidung verläuft zwischen dem Erzielen von Einnahmen mit einem nützlichen Angebot und einer bewussten Ausgestaltung dieses Angebots, die Verletzlichkeit ausnutzt oder verlängert.
Der Erfolg von Unterstützung für die psychische Gesundheit sollte an ihrem Nutzen für die Nutzenden gemessen werden, nicht bloß daran, wie häufig sie zurückkehren.
Datenschutz und emotionale Daten
Technologien für die psychische Gesundheit können mit Informationen umgehen, die deutlich sensibler sind als gewöhnliche App-Aktivitäten. Beispiele sind:
- Emotionale Schwierigkeiten
- Erfahrungen von Trauer oder Trauma
- Angst und Panik
- Persönliche Beziehungen
- Gefühle der Isolation
- Psychische Verletzlichkeiten
- Muster emotionaler Belastung
Wenn solche Informationen einer identifizierbaren Person zugeordnet werden können, kann ihre Erhebung erhebliche Datenschutzrisiken mit sich bringen. Diese Risiken können durch direkte Abfragen personenbezogener Daten entstehen oder durch weniger sichtbare technische Mechanismen wie Cookies, Gerätekennungen, websiteübergreifendes Tracking, Verhaltensprofile und die Übermittlung von Informationen an Drittanbieterdienste.
Selbst scheinbar anonyme Daten können in Verbindung mit anderen Informationen eine Identifizierung ermöglichen. Eine Technologie fragt womöglich nie nach dem Namen ihrer Nutzenden und erstellt dennoch ein Verhaltensprofil, mit dem sich eine Person von anderen unterscheiden lässt.
Apps für psychische Gesundheit sollten daher auf ihre tatsächlichen Datenflüsse geprüft werden, nicht nur auf die Angaben, die über sichtbare Formulare abgefragt werden. MHTS legt zwei einander ergänzende Anforderungen fest:
- Anonymer Zugang ohne personenbezogene Daten, die eine Identifizierung ermöglichen.
- Keine Verhaltensüberwachung und keine nicht offengelegten Datenflüsse.
Ziel ist es zu verhindern, dass die Technologie psychische Verletzlichkeit in einen identifizierbaren oder kommerziell verwertbaren Datenbestand verwandelt.
Sicherheit bei emotionaler Belastung
Eine herkömmliche digitale Benutzeroberfläche geht unter Umständen davon aus, dass Nutzende genügend Zeit, Aufmerksamkeit und kognitive Kapazität haben, um sich durch ihre Funktionen zu bewegen. Für eine Anwendung, die sofortige Stabilisierung bieten soll, kann diese Annahme ungeeignet sein. Mögliche Hindernisse sind:
- Pflicht zur Anmeldung
- Kontoregistrierung
- Langwieriges Onboarding
- Übermäßig viele Anweisungen
- Komplizierte Navigation
- Unnötige Fragebögen
- Störende Benachrichtigungen
- Werbebotschaften
- Verzögerter Zugang zu Unterstützung
Diese Hindernisse können verhindern, dass Menschen genau dann Hilfe erreichen, wenn sie sie brauchen.
Sicherheit hängt auch davon ab, was die Technologie tut, nachdem der Zugang gewährt wurde. Ein System für akute Belastungssituationen sollte prüfen, ob seine ersten Anweisungen für jemanden geeignet sind, der bereits überwältigt ist. Wird eine komplexe psychologische Deutung angeboten, bevor eine Stabilisierung versucht wurde, kann das die kognitiven Anforderungen in einem ungeeigneten Moment erhöhen.
MHTS begegnet dem mit seinen Anforderungen an einen Zugang ohne Hürden und an Stabilisierung vor Deutung. Die Standards verlangen außerdem einen klaren Zugang zu echter menschlicher Unterstützung und zu Notdiensten.
Digitale Werkzeuge haben Grenzen. Wer professionelle oder dringende Hilfe benötigt, darf nicht dazu verleitet werden, sich ausschließlich auf eine automatisierte Intervention zu verlassen.
Vertrauen durch Gestaltung
Eine Datenschutzerklärung kann erläutern, welche Informationen ein Unternehmen erhebt. Eine Ethikerklärung kann beschreiben, wie ein Unternehmen mit seinen Nutzenden umgehen will. Eine Produktbeschreibung kann versprechen, dass ein Angebot sicher, unterstützend oder vertraulich ist.
Solche Erklärungen können nützlich sein, belegen aber nicht zwangsläufig, wie eine Technologie tatsächlich funktioniert. So kann sich eine App etwa als datenschutzfreundlich bezeichnen und gleichzeitig Drittanbieterdienste laden, die Verhaltensdaten erheben. Eine andere behauptet vielleicht, Selbstständigkeit zu fördern, setzt aber Belohnungen und Benachrichtigungen ein, die gezielt Abhängigkeit aufbauen.
MHTS konzentriert sich auf Anforderungen, die sich am tatsächlichen Verhalten eines Produkts überprüfen lassen. Eine Technologie sollte zum Beispiel nachweisen können, dass:
- Stabilisierung ohne Identifizierung zugänglich ist.
- keine Cookies und keine Verhaltensprofile eingesetzt werden.
- Unterstützung keine Registrierung erfordert.
- Mechanismen der Nutzerbindung keine Abhängigkeit fördern.
- menschliche Hilfe zugänglich bleibt.
- anonyme Daten zur Wirksamkeit und die Messmethoden öffentlich verfügbar sind.
Dieser Ansatz macht ethische Selbstverpflichtungen konkreter und überprüfbar.
Ziel ist ein digitales Umfeld für psychische Gesundheit, in dem Menschen Unterstützung suchen können, ohne ihre Identität, ihre Aufmerksamkeit oder ihre Selbstbestimmung preisgeben zu müssen.

