Teil 6 von 7

MHTS: Rechenschaft

Wie Technologien ihre psychologische Sicherheit belegen, ihre Wirksamkeit messen und relevante Informationen der öffentlichen Kontrolle zugänglich machen sollten.

Technologien für die psychische Gesundheit sollten nicht nur danach beurteilt werden, was sie versprechen, sondern danach, wie sie funktionieren und was ihre Nachweise tatsächlich belegen. MHTS befasst sich mit strukturellen Schutzvorkehrungen und öffentlicher Rechenschaft und ergänzt die klinische Bewertung, ohne sie zu ersetzen.

Psychologische Sicherheit

Technologie kann den emotionalen Zustand eines Menschen durch ihre Inhalte, ihre Benutzeroberfläche, ihre Interaktionen und ihre Empfehlungen beeinflussen. Schlecht gestaltete Angebote können Risiken mit sich bringen, insbesondere wenn sie in akuter Belastung genutzt werden. Mögliche Probleme sind unter anderem:

  • Ungeeignete Abfolgen von Interventionen
  • Botschaften, die Angst oder Scham verstärken
  • Manipulative Mechanismen zur Nutzerbindung
  • Unnötige kognitive Anforderungen
  • Irreführende Angaben zu den Unterstützungsmöglichkeiten
  • Unzureichender Zugang zu menschlicher Hilfe
  • Fehlende Hinweise auf wichtige Grenzen

Bei KI-basierten Systemen können Risiken auch von generierten Antworten ausgehen, die unzutreffend, unangemessen oder mit der Situation der nutzenden Person unvereinbar sind.

Sicherheit erfordert daher, sowohl den vorgesehenen Zweck der Technologie als auch ihr tatsächliches Verhalten zu berücksichtigen. MHTS legt Schutzvorkehrungen gegen mehrere klar benennbare Gestaltungsrisiken fest, darunter Verhaltensüberwachung, Zugangshürden, gezielt erzeugte Abhängigkeit und das Fehlen einer Weiterleitung an menschliche Hilfe.

Die Einhaltung dieser strukturellen Anforderungen belegt nicht, dass jede Interaktion oder Intervention klinisch sicher ist. Hersteller und Anbieter bleiben dafür verantwortlich, die vorhersehbaren Risiken ihrer jeweiligen Technologie zu bewerten.

Wirksamkeit und Konformität

Zwei Fragen sollten getrennt betrachtet werden. Sie betreffen unterschiedliche Arten von Nachweisen.

  • Konformität

    Erfüllt die Technologie die MHTS-Anforderungen?

    Die MHTS-Konformität bezieht sich auf die veröffentlichten strukturellen und ethischen Anforderungen.

  • Wirksamkeit

    Erreicht die Technologie die beabsichtigten Ergebnisse für die psychische Gesundheit?

    Bei der Wirksamkeit geht es darum, ob die Technologie die Ergebnisse erzielt, die sie für sich in Anspruch nimmt.

Eine Technologie kann die veröffentlichten Anforderungen an Datenschutz, Zugänglichkeit und Gestaltung erfüllen, ohne dass ausreichende Nachweise für eine klinische Wirksamkeit vorliegen.

Umgekehrt belegt ein Nachweis, dass eine Intervention ein positives Ergebnis bewirken kann, nicht, dass der Umgang der Technologie mit Daten oder ihre Mechanismen zur Nutzerbindung die MHTS-Anforderungen erfüllen.

So belegen beispielsweise Forschungsergebnisse, die für eine Atemtechnik sprechen, nicht, dass eine Anwendung, die diese Technik vermittelt, anonym ist, ohne Verhaltensüberwachung auskommt oder in akuter Belastung zugänglich ist. Ebenso kann eine anonyme Anwendung dennoch eine Intervention vermitteln, für die keine ausreichenden Nachweise vorliegen.

Beide Fragen sind wichtig.

Messung von Wirksamkeit und Wirkung

Aussagen über Ergebnisse für die psychische Gesundheit sollten mit klar definierten Messungen verknüpft sein. Entwicklungsteams sollten erläutern:

  • Welches Ergebnis gemessen wird.
  • Wie die Messwerte erhoben werden.
  • Wann die Messung erfolgt.
  • Für welche Personengruppe die vorliegenden Informationen repräsentativ sind.
  • Welche Einschränkungen die Interpretation beeinflussen.

Beispiele für möglicherweise relevante, nicht identifizierende Indikatoren sind:

Nutzung

Wie oft eine Unterstützungsfunktion aufgerufen oder abgeschlossen wird.

Dies zeigt Aktivität an, nicht unbedingt Wirksamkeit.

Selbstberichtete Veränderung

Freiwillige, nicht identifizierende Angaben zur wahrgenommenen emotionalen Veränderung vor und nach einer Intervention.

Sie können auf einen wahrgenommenen kurzfristigen Nutzen hindeuten, belegen aber nicht automatisch eine klinische Wirksamkeit.

Zugang zu weiterer Hilfe
Aggregierte Informationen darüber, ob Nutzende einen Weg zu menschlicher Unterstützung gewählt haben, sofern sich dies messen lässt, ohne Einzelpersonen zu identifizieren oder zu verfolgen.
Verfügbarkeit
Technische Informationen darüber, ob die relevanten Unterstützungsfunktionen zugänglich und funktionsfähig sind.
Längerfristige Ergebnisse

Wo dies angemessen ist und unabhängig begleitet wird, kann Forschung untersuchen, ob eine Intervention einen anhaltenden Nutzen bewirkt.

Solche Ergebnisse erfordern geeignete Studiendesigns und sollten nicht aus gewöhnlichen Nutzungsstatistiken abgeleitet werden.

Eine verantwortungsvolle Bewertung unterscheidet zwischen direkten Beobachtungen und Interpretationen. So beweist etwa eine steigende Zahl von Sitzungen keine Verbesserung der psychischen Gesundheit. Ebenso belegt ein Rückgang der selbst angegebenen Belastung während einer Übung für sich genommen keinen langfristigen klinischen Nutzen.

Die Messung sollte in einem angemessenen Verhältnis zum vorgesehenen Zweck der Technologie stehen und darf die Datenschutzanforderungen von MHTS nicht beeinträchtigen.

Öffentlich zugängliche Daten

Standard 7 von MHTS verlangt den öffentlichen Zugang zu den erhobenen nicht identifizierenden Daten sowie Transparenz bei der Messung von Wirksamkeit und Wirkung. Diese Anforderung muss im Einklang mit den Standards 1 und 2 umgesetzt werden.

Öffentliche Rechenschaft darf kein Grund sein, Identitäten zu erfassen oder Verhaltensüberwachung einzuführen.

Ein möglicher Ansatz besteht darin, nur die Mindestmenge an nicht identifizierenden Informationen zu erheben, die zur Messung eines festgelegten Ergebnisses erforderlich ist. Ein System könnte beispielsweise anonym zählen, wie viele Übungen abgeschlossen wurden, oder die Antworten auf eine freiwillige Frage zum emotionalen Befinden aggregiert erfassen. Diese Informationen können dann in einer Form veröffentlicht werden, die keine Rückschlüsse auf Einzelpersonen zulässt.

Das Entfernen von Namen macht einen Datensatz jedoch nicht automatisch anonym.1, 2 Detaillierte Zeitstempel, seltene Merkmale, kleine Personengruppen und Kombinationen scheinbar harmloser Merkmale können das Risiko einer Re-Identifizierung bergen. Entwicklungsteams sollten daher prüfen:

  • Ob die Informationen tatsächlich nicht identifizierend sind.
  • Ob unnötige Details weggelassen werden können.
  • Ob eine Aggregation das Offenlegungsrisiko verringert.
  • Ob kleine Gruppen zusätzlichen Schutz benötigen.
  • Ob veröffentlichte Informationen mit externen Quellen kombiniert werden könnten, um eine Person zu identifizieren.
  • Ob die Messmethode selbst ein unzulässiges Tracking mit sich bringt.

Lässt sich ein bestimmter Datensatz nicht sicher in eine nicht identifizierende Form bringen, sollte die Art der Erhebung oder Berichterstattung überdacht werden.

Ein geeigneter öffentlicher Bericht könnte enthalten:

  • Aggregierte Ergebniszahlen.
  • Eine Erläuterung der Erhebungsmethode.
  • Relevante Einschränkungen.
  • Den erfassten Zeitraum.

Er sollte nicht enthalten:

  • Identifizierbare Datensätze zu Nutzenden.
  • Informationen, die sich mit vertretbarem Aufwand einzelnen Personen zuordnen lassen.

Ziel ist es, die behauptete Wirkung der Technologie überprüfbar zu machen, ohne die Menschen zu gefährden, die sie schützen soll.

Transparenz der technischen Praktiken

Öffentliche Rechenschaft erfordert mehr als die Veröffentlichung einer günstigen Statistik. Eine aussagekräftige Erläuterung sollte den Lesenden verständlich machen, was die Technologie leistet und wie ihre Aussagen belegt werden. Relevante Informationen können sein:

Vorgesehener Zweck
Wofür die Technologie entwickelt wurde und unter welchen Umständen sie eingesetzt werden soll.
Umgang mit Daten
Welche Informationen erhoben werden, wie sie verarbeitet werden und ob Informationen nach außen übermittelt werden.
Messmethoden
Wie Indikatoren für Wirksamkeit und Wirkung definiert, erhoben und berechnet werden.
Grenzen
Was die vorliegenden Informationen nicht belegen können.
Externe Verarbeitung
Die Offenlegung der relevanten Verarbeiter und die von MHTS verlangte ausdrückliche Bestätigung, dass keine externen Verarbeiter von Verhaltensdaten eingesetzt werden.
Änderungen im Zeitverlauf
Informationen über wesentliche Änderungen, die sich auf die Interpretation veröffentlichter Ergebnisse auswirken.

Transparenz sollte die Bewertung von Aussagen erleichtern. Technische Komplexität oder ein Übermaß an Dokumentation dürfen nicht dazu dienen, relevante Praktiken zu verschleiern.

Unabhängige Überprüfung und fortlaufende Bewertung

Öffentlich zugängliche Informationen ermöglichen es Dritten, die berichteten Aktivitäten und Ergebnisse einer Technologie zu überprüfen.

Forschende
Können die Methodik zur Messung der Effekte untersuchen.
Klinisch Tätige
Können prüfen, ob die Aussagen durch die angegebenen Nachweise gedeckt sind.
Entwicklungsteams
Können Ansätze für datenschutzfreundliche Messungen vergleichen.
Nutzende und Organisationen
Können beurteilen, ob die Informationen die Aussagen eines Anbieters stützen.

Öffentliche Verfügbarkeit garantiert nicht, dass ein bestimmter Datensatz vollständig, korrekt oder wissenschaftlich ausreichend ist. Diese Eigenschaften müssen weiterhin geprüft werden. Ebenso sollte ein öffentlicher Bericht nicht mit einer unabhängigen klinischen Validierung verwechselt werden, sofern eine solche Validierung nicht tatsächlich stattgefunden hat.

Eine fortlaufende Bewertung ist wichtig, weil sich Technologien verändern. Ein Update kann eine Intervention verändern, einen neuen Datenverarbeiter einbinden oder die Gestaltung einer Funktion zur Nutzerbindung anpassen. Änderungen, die die veröffentlichten Anforderungen betreffen, sollten eine erneute Prüfung auslösen.

Angestrebt wird ein Umfeld, in dem Technologien für die psychische Gesundheit offen für Prüfung, Korrektur und Verbesserung bleiben.