MHTS soll konkrete Gestaltungs- und Entwicklungsentscheidungen leiten, von Produktanforderungen und technischen Komponenten bis hin zu Nutzerinteraktionen, Datenflüssen und Releases. Die folgenden Hinweise zeigen praktische Ansätze auf, ohne über die veröffentlichten Standards hinaus Anforderungen hinzuzufügen.
Gestaltung für verletzliche Nutzergruppen
Oberflächen für psychische Gesundheit sollten für die Situationen gestaltet sein, in denen die vorgesehenen Nutzenden sie brauchen. Wer in akuter Not Hilfe sucht, kann komplexe Anleitungen, zu viele Auswahlmöglichkeiten oder unbekannte Fachbegriffe nur schwer verarbeiten. Emotionale Belastung kann zudem die Anfälligkeit für Manipulation erhöhen, insbesondere wenn Oberflächen Angst, Schuldgefühle oder den dringenden Wunsch nach Erleichterung ausnutzen.
Entwicklungsteams sollten daher das gesamte Nutzungserlebnis aus Sicht der Nutzenden prüfen. Wichtige Fragen sind:
- Wie schnell gelangen Nutzende zur vorgesehenen Unterstützung?
- Sind die verfügbaren Aktionen sofort verständlich?
- Lässt sich das Angebot ohne vorherige Schulung nutzen?
- Bietet die Oberfläche unnötige Auswahlmöglichkeiten?
- Sind die Anleitungen knapp und in sinnvoller Reihenfolge?
- Können Nutzende menschliche Hilfe oder Notfallhilfe erreichen?
- Gibt es Unterbrechungen, die nichts mit der Unterstützung zu tun haben?
- Könnten Botschaften, Gestaltungsentscheidungen oder kommerzielle Angebote die emotionale Verletzlichkeit der Nutzenden ausnutzen?
Wo möglich, sollten Entwicklungsteams die relevanten Abläufe mit Nutzenden testen, die der vorgesehenen Zielgruppe entsprechen, und dabei auch Barrierefreiheit und Gebrauchstauglichkeit angemessen berücksichtigen.
Eine praktische Prüfung kann darin bestehen, die Anwendung ohne bestehendes Konto, ohne gespeicherte Einstellungen und ohne Vorkenntnisse über den Dienst zu öffnen. Gelangt man nicht ohne unnötige Zwischenschritte zur Stabilisierungsfunktion, muss die Oberfläche anhand von Standard 3 eingehender geprüft werden.
Das Erscheinungsbild allein entscheidet nicht über die Zugänglichkeit. Eine minimalistische Oberfläche kann dennoch verwirrend sein, während eine detailliertere Oberfläche gut nutzbar bleiben kann, wenn die Informationen sorgfältig gegliedert sind.
Ziel ist es, vermeidbaren Aufwand in dem Moment zu verringern, in dem Hilfe gebraucht wird.
Datenschutzorientierte Architektur
Standard 1 und Standard 2 von MHTS verlangen, dass der Datenschutz durch die technische Gestaltung sichergestellt wird. Das beginnt mit der Frage, welche Informationen die Anwendung tatsächlich benötigt. Entwicklungsteams sollten Folgendes prüfen:
- Konto- und Authentifizierungssysteme
- Formulare und Eingabefelder
- Cookies und andere Speichermechanismen des Browsers
- Analysebibliotheken
- Werbeintegrationen
- Externe Skripte
- Gerätekennungen
- Anwendungs- und Serverprotokolle
- Netzwerkanfragen
- Drittanbieter
- Freitext- und Dialogschnittstellen
Eine Anwendung, die nicht sichtbar nach persönlichen Angaben fragt, kann über ihre Infrastruktur dennoch identifizierende Informationen erfassen. So können dauerhafte Gerätekennungen, gespeicherte Netzwerk-Metadaten oder Gesprächsprotokolle identifizierende Datensätze entstehen lassen. Entwicklungsteams sollten daher prüfen, welche Daten tatsächlich erhoben und gespeichert werden.
Dienste von Drittanbietern erfordern besondere Aufmerksamkeit. Ein Anbieter sollte nicht davon ausgehen, dass eine externe Komponente schon deshalb mit MHTS vereinbar ist, weil sie einem technischen und keinem Werbezweck dient. Entscheidend ist, welche Daten übermittelt werden, ob Verhaltensdaten verarbeitet werden und ob diese Datenflüsse offengelegt sind.
Bei Anwendungen, die KI-Modelle nutzen, sollte geprüft werden, ob Prompts, Gespräche oder andere Eingaben an externe Anbieter übermittelt werden und ob diese Eingaben identifizierbare oder sensible Informationen enthalten können.
Eine von Grund auf anonyme Gestaltung bedeutet auch, Informationen zu berücksichtigen, die Nutzende freiwillig eingeben. Ein Freitextfeld kann identifizierende Informationen erfassen, auch wenn die Anwendung nicht ausdrücklich nach einem Namen fragt.
Der Verzicht auf ein Registrierungsformular ist nur ein Teil einer datenschutzorientierten Architektur. Angestrebt wird ein System, das Unterstützung bietet, ohne die persönliche Identität zu erfassen oder Verhaltensüberwachung zu betreiben.
Ethische Nutzererfahrung und Nutzerbindung
Die Gestaltung der Benutzeroberfläche beeinflusst mehr als nur den Bedienkomfort. Wortwahl, Zeitpunkt und Darstellung von Funktionen können bestimmte Verhaltensweisen fördern. Bei Technologien für psychische Gesundheit sollten diese Einflüsse im Hinblick auf das Wohlbefinden der Nutzenden geprüft werden.
- Benachrichtigungen
Benachrichtigungen sollten weder emotionale Verletzlichkeit ausnutzen noch Angst, Scham oder künstliche Dringlichkeit erzeugen. Eine Erinnerung, die darauf angelegt ist, Menschen zu beunruhigen, weil sie einen Dienst nicht nutzen, ist mit Standard 5 nicht vereinbar.
- Belohnungen
Belohnungsmechanismen sollten nicht darauf abzielen, das erneute Auftreten oder wiederholte Melden von Belastung als Mittel zur Nutzerbindung zu fördern.
- Nutzungsserien
MHTS untersagt ausdrücklich Bindungssysteme auf Basis von Nutzungsserien. Entwicklungsteams sollten die tägliche Nutzung bei Werkzeugen zur emotionalen Unterstützung nicht als an sich erstrebenswertes Ziel betrachten.
- Kommerzielle Botschaften
Kommerzielle Botschaften sollten auf psychologischen Druck hin geprüft werden. Wird etwa eine Zahlung als notwendige Voraussetzung für sofortige Erleichterung dargestellt, kann das ernsthafte ethische und rechtliche Bedenken aufwerfen.
- Sprache
Oberflächen sollten keine Botschaften enthalten, die Folgen übertreiben, das Selbstvertrauen der Nutzenden untergraben oder eine unangemessene emotionale Abhängigkeit fördern.
Eine hilfreiche Leitfrage für die Gestaltung lautet:
„Hilft diese Funktion den Nutzenden wirklich, oder soll sie nur dafür sorgen, dass sie wiederkommen?“
Ist eine Funktion in erster Linie darauf ausgelegt, Nutzende zur Rückkehr zu bewegen, statt ihnen wirklich zu helfen, sollte sie überdacht werden. Es geht darum, sie beim Aufbau von Fähigkeiten und Stabilität zu unterstützen, nicht darum, eine Beziehung aufzubauen, in der anhaltende emotionale Verletzlichkeit kommerziell wertvoll wird.
Sichere Gestaltung von Interventionen
Die Reihenfolge einer Intervention ist Teil ihrer Gestaltung. Standard 4 von MHTS legt fest, dass in den betreffenden Belastungszuständen die physiologische Herunterregulierung vor Reflexion, Analyse oder Wissensvermittlung stehen sollte.
Für Entwicklungsteams heißt das, zu prüfen, wozu die Anwendung die Person zuerst auffordert. Ein Werkzeug zur akuten emotionalen Stabilisierung könnte:
-
Mit Regulation beginnen
Mit einer geeigneten Übung zur Regulation einsteigen.
-
Dann zur Reflexion einladen
Die Person einladen, das eigene emotionale Erleben zu betrachten oder zu beschreiben.
Bei einem Produkt, das ausschließlich der allgemeinen Wissensvermittlung dient, kann eine andere Reihenfolge angemessen sein; sein Zweck muss dann jedoch klar erkennbar sein.
Entwicklungsteams sollten nicht davon ausgehen, dass jede nutzende Person von derselben Intervention profitiert. Ob bestimmte psychologische Techniken geeignet sind, hängt von der vorgesehenen Zielgruppe, den Umständen, der verfügbaren Evidenz und klinischen Erwägungen ab.
Digitale Unterstützung muss außerdem Situationen erkennen, in denen selbstgesteuerte Stabilisierung nicht ausreicht.
Die Reihenfolge der Intervention darf niemals den Zugang zu dringender professioneller Hilfe verhindern.
Einbindung menschlicher Hilfe und Notdienste
Standard 6 von MHTS verlangt einen klaren Zugang zu echten, von Menschen getragenen Angeboten emotionaler Unterstützung und zu den örtlichen Notdiensten. Bei der Umsetzung sollten sowohl die Sichtbarkeit als auch der praktische Nutzen dieser Wege berücksichtigt werden. Wichtige Fragen sind:
- Finden Nutzende die Angebote menschlicher Hilfe leicht?
- Passen die Notfallkontakte zum Standort der nutzenden Person?
- Werden die Hilfsangebote zutreffend beschrieben?
- Werden die relevanten Nummern und Links aktuell gehalten?
- Können Nutzende Notfallhilfe suchen, ohne erst eine Übung abzuschließen?
- Macht die Technologie ihre eigenen Grenzen deutlich?
Bei internationalen Anwendungen sollte man nicht ohne Weiteres davon ausgehen, dass die Hilfsangebote eines Landes auch anderswo geeignet sind.
Bei KI-gestützten Werkzeugen ist bei der Beschreibung der Fähigkeiten des Systems besondere Sorgfalt geboten. Ein Sprachmodell kann unterstützende Antworten geben, darf aber nicht den Eindruck erwecken, es verfüge über die Autorität oder die Fähigkeiten einer qualifizierten Fachkraft im Gesundheitswesen, wenn dies nicht der Fall ist. Ebenso sollte ein automatisiertes Gespräch niemanden davon abhalten, menschliche Hilfe zu suchen.
Besteht eine unmittelbare Gefahr für Leben oder Sicherheit, sollten Nutzende ohne unnötige Verzögerung an geeignete Notdienste verwiesen werden.
Anwendung der Standards während der gesamten Entwicklung
MHTS sollte über den gesamten Produktlebenszyklus hinweg berücksichtigt werden.
-
Produktdefinition
Den vorgesehenen Zweck der Technologie, ihre Nutzenden und die Nutzungssituationen bestimmen. Festlegen, welche Funktionen emotionale Zustände regulieren, unterstützen oder beeinflussen.
-
Gestaltung
Die Nutzungsabläufe anhand der Anforderungen an anonymen Zugang, Stabilisierung ohne Hürden, angemessene Reihenfolge der Interventionen und manipulationsfreie Nutzerbindung prüfen.
-
Architektur
Datenerhebung, Speicherung, externe Dienste, Tracking-Mechanismen und Netzwerkaktivität prüfen.
-
Umsetzung
Sicherstellen, dass sich die veröffentlichten Anforderungen im tatsächlichen Produkt widerspiegeln und nicht nur in der Entwurfsdokumentation.
-
Test
Testen, ob die relevanten Schutzvorkehrungen wie vorgesehen funktionieren. Beispielsweise überprüfen, ob die Stabilisierung ohne Registrierung erreichbar bleibt und keine unzulässigen Tracking-Mechanismen vorhanden sind.
-
Prüfung vor der Veröffentlichung
Die Technologie vor der Veröffentlichung anhand aller sieben Standards prüfen und etwaige Abweichungen beheben.
-
Laufende Wartung
Relevante Prüfungen wiederholen, wenn neue Funktionen eingeführt, Bibliotheken aktualisiert, Anbieter gewechselt oder Nutzerinteraktionen geändert werden.
Ein Produkt, das eine Anforderung bisher erfüllt hat, erfüllt sie nach einer technischen oder kommerziellen Änderung möglicherweise nicht mehr. Konformität erfordert daher, den aktuellen Betrieb der Technologie im Blick zu behalten.

