Ist KI-Paartherapie privat und sicher?

Ist KI-Paartherapie privat und sicher? Sie kann es sein, aber nicht automatisch. Die meisten KI-Apps für Paare sind Verbraucher-Apps, und HIPAA gilt für sie in der Regel nicht. Der Datenschutz hängt dann von der Richtlinie der App ab. Achte auf Verschlüsselung, keinen Verkauf von Daten, echte Löschung und Transkripte, die dein Partner nie lesen kann.

Dieser Leitfaden ist für einen Partner, der gleich etwas Persönliches in eine App tippen will. Vielleicht fragst du dich, wer das noch lesen könnte. Die Seite erklärt, was „privat“ und „sicher“ bedeuten, was anderswo schiefgegangen ist und was du fragen solltest. Dann zeigt sie, wie Pragma, die App, die wir entwickeln, jede Frage beantwortet.

Was „privat und sicher“ bei einer App für KI-Paartherapie bedeutet

Sicher heißt, dass Außenstehende nicht an deine Worte kommen. Privat heißt, dass das Unternehmen selbst begrenzt, was es damit tut. Eine App kann sicher und trotzdem nicht privat sein. Sie kann alles verschlüsseln und deine Antworten dann bewusst an Werbekunden geben. Du brauchst beides, und beides lässt sich in ein paar konkrete Fragen aufteilen.

Die letzte Zeile lassen allgemeine Datenschutz-Ratgeber aus. Eine Paar-App hat zwei verbundene Nutzer. In einer Paar-App ist dein Partner vielleicht der Leser, um den es dir am meisten geht.

Gilt HIPAA für KI-Paartherapie?

Meist nicht: HIPAA schützt Gesundheitsdaten bei Krankenversicherern, den meisten Gesundheitsdienstleistern und deren Geschäftspartnern. Das US-Gesundheitsministerium HHS erklärt, dass die HIPAA-Regeln Daten, die du für den persönlichen Gebrauch in Apps eingibst, in der Regel nicht schützen. Die Ausnahme ist eine App, die dir eine erfasste Einrichtung (im Gesetz „covered entity“) oder ihr Geschäftspartner bereitstellt. Eine KI-App für Paare, die du selbst herunterlädst, liegt also meist außerhalb von HIPAA.

Dieselbe Seite des HHS warnt, dass App-Daten für gezielte Werbung genutzt werden können. Sie ergänzt, dass solche Daten auch an einen Datenhändler verkauft werden können. Das beschreibt den App-Markt allgemein, nicht jede App. Es ist der Grund, jede Richtlinie zu lesen, statt dem Wort „privat“ auf einer Startseite zu vertrauen.

Ein zugelassener Paartherapeut ist in einer anderen Lage. Die meisten Gesundheitsdienstleister sind erfasste Einrichtungen, also gelten die HIPAA-Regeln für ihre Unterlagen. Ein KI-Beziehungscoach ist kein Gesundheitsdienstleister. Er stellt keine Diagnosen und behandelt nicht, und er sollte keinen HIPAA-Schutz behaupten, den er nicht hat.

Außerhalb von HIPAA zu liegen macht eine App nicht unsicher. Es heißt, dass dich die eigenen Versprechen der App schützen. In den USA können Behörden eingreifen, wenn eine App diese Versprechen bricht, wie der nächste Abschnitt zeigt.

Was Behörden und Forschende zum Datenschutz von Therapie-Apps fanden

Manche Apps für Therapie und psychische Gesundheit haben ihre Datenschutzversprechen gebrochen, und Behörden haben gehandelt. Der bekannteste Fall betrifft einen Online-Beratungsdienst, keine KI-App. Er zeigt trotzdem, was mit deinen sensibelsten Antworten passieren kann.

Im März 2023 schlug die FTC eine Anordnung gegen BetterHelp vor, einen Online-Beratungsdienst. Sein Anmeldefragebogen fragte nach Depression, Suizidgedanken und Medikamenten. Laut FTC versprach BetterHelp, Gesundheitsdaten nur für begrenzte Zwecke wie die Beratung zu nutzen. Danach gab das Unternehmen Gesundheitsdaten von Verbrauchern für Werbung an Plattformen wie Facebook und Snapchat weiter. Die Anordnung verbot die Weitergabe von Gesundheitsdaten für Werbung und verlangte eine Einwilligung, bevor persönliche Daten an Dritte gehen.

Die FTC bezeichnete die Zahlung von 7,8 Millionen USD als ihr erstes Verfahren, das Verbrauchern wegen Gesundheitsdaten Geld zurückgibt. Die Anordnung verpflichtete BetterHelp auch, Dritte zur Löschung der weitergegebenen Daten aufzufordern. Sie begrenzte außerdem, wie lange Daten aufbewahrt werden dürfen.

Unabhängige Prüfer fanden umfassendere Probleme. Das Team von Mozillas Privacy Not Included prüfte 2022 insgesamt 27 Apps für psychische Gesundheit. Dreiundzwanzig bekamen bei der ersten Veröffentlichung das Datenschutz-Warnlabel. Als das Team sie 2023 erneut prüfte, waren etwa 17 der 27 schlechter geworden oder weiterhin schwach.

Dieselbe Prüfung von Mozilla rät, nur das Nötigste zu teilen. Sie warnt, dass Chat-Transkripte in manchen Fällen nicht privat sein könnten. Sie stellt auch fest, dass das Löschen einer App deine Daten fast nie löscht, also beantrage die Löschung. Mozilla hat diese Arbeit inzwischen verlagert, deshalb führt der Link zu einer archivierten Kopie.

Nichts davon heißt, dass jede App Daten missbraucht. Es heißt, dass ein Datenschutzversprechen nur so stark ist wie die Richtlinie dahinter.

Datenschutz-Checkliste: 10 Fragen an jede App für KI-Paartherapie, bevor du etwas teilst

Stell diese 10 Fragen jeder App für Paare oder KI-Therapie, und such jede Antwort in ihrer Datenschutzrichtlinie. Wenn eine Richtlinie keine Antwort gibt, ist auch das eine Antwort.

1. Sind meine Daten bei der Übertragung und im Ruhezustand verschlüsselt? Achte auf TLS und einen genannten Standard wie AES-256.
2. Wer im Unternehmen kann meine Transkripte lesen? Achte auf eingeschränkten, authentifizierten Zugriff, nicht auf vage Prüfung durch Mitarbeitende.
3. Welche externen Firmen bekommen meine Worte? Die Richtlinie sollte Arten von Dienstleistern nennen, etwa KI-Anbieter.
4. Werden meine Gespräche genutzt, um KI-Modelle zu trainieren? Die Antwort sollte die App und ihre KI-Anbieter abdecken.
5. Werden meine Daten verkauft oder für Werbung genutzt? Die Antwort sollte ein klares Nein sein, ohne Ausnahmen für ungenannte „Partner“.
6. Gilt HIPAA für die App? Meist nicht, also setz es nie voraus. Wenn eine App HIPAA behauptet, frag, welche erfasste Einrichtung sie bereitstellt.
7. Was kann mein Partner sehen? Frag, ob Transkripte, Zusammenfassungen, Stimmungen oder Themen je beim anderen Konto ankommen.
8. Kann ich sehen und löschen, was sich die KI merkt? Du solltest es ansehen und entfernen können.
9. Was passiert, wenn ich mein Konto lösche? Achte auf dauerhafte Löschung der Gespräche, wobei aufbewahrte Daten genannt und erklärt werden.
10. Wann gibt das Unternehmen Daten an Behörden weiter? Erwarte „soweit gesetzlich vorgeschrieben“, und sei bei lockereren Formulierungen vorsichtig.

Wenn eine Richtlinie die meisten dieser Fragen klar beantwortet, hat die App ihre Hausaufgaben gemacht. Wenn nicht, halte deine sensibelsten Themen aus dieser App heraus.

Wie KI-Paartherapie zwischen euch beiden privat bleibt

Vereinbart die Grundregeln gemeinsam, bevor einer von euch anfängt, damit aus Privatsphäre kein Misstrauen wird. Ein privater Raum funktioniert nur, wenn ihr beide ihm vertraut. Wenn ein Partner die Sitzungen des anderen lesen will, ist der Raum nicht mehr privat.

Ein Beispiel, aus mehreren Paaren zusammengesetzt, kein echtes Paar. Es ist Sonntag, 10 Uhr abends. Ein Partner hat gerade eine Sitzung darüber beendet, dass er sich beim Abendessen nicht gehört fühlte. Der andere kommt herein und fragt halb im Scherz, was über ihn gesagt wurde. Ohne Vereinbarung kann diese Frage die ganze Idee verderben.

Ein kurzes Gespräch vorab verhindert das. Probiert diese Sätze.

Sag: „Deine Sitzungen gehören dir. Ich werde nicht fragen, ob ich sie lesen darf, und ich wünsche mir dasselbe.“

Sag: „Wenn aus einer Sitzung etwas für uns wichtig ist, erzählen wir es uns in eigenen Worten.“

Ein paar Gewohnheiten schützen deine Privatsphäre auf dem Gerät selbst:

• Nutz dein eigenes Handy und dein eigenes Konto, mit einem Code, den nur du kennst.
• Blende Vorschauen von Benachrichtigungen auf dem Sperrbildschirm aus.
• Melde dich auf gemeinsam genutzten Tablets oder Laptops von der App ab.
• Teile das Muster, bei dem du Hilfe willst, nicht jeden Namen und jedes Detail.
• Beantrage die Löschung, wenn du eine App nicht mehr nutzt, statt sie nur zu deinstallieren.

Sechs Übungen „Heute Abend ausprobieren“ als PDF herunterladen (auf Englisch)

Wie Pragma als KI-Beziehungscoach mit Datenschutz und Sicherheit umgeht

Pragma ist ein KI-Beziehungscoach, kein Therapeut, und seine Datenschutzerklärung beantwortet die meisten Fragen der Checkliste. Das steht darin, Punkt für Punkt.

Verschlüsselung und Zugriff. Sensible Felder, darunter Transkripte, Nachrichten und Antworten aus dem Einstiegsfragebogen, werden auf Anwendungsebene mit AES-256-GCM verschlüsselt. Daten werden bei der Übertragung zusätzlich mit TLS verschlüsselt. Der Zugriff auf die Systeme ist eingeschränkt und authentifiziert. Die Erklärung sagt auch, dass kein System vollkommen sicher ist, und das ist die ehrliche Antwort für jede App.

Was dein Partner sieht. Deine Sitzungstranskripte und Rohnachrichten werden deinem Partner nie angezeigt. Dein Partner sieht Aktivität, etwa dass du die heutige Sitzung abgeschlossen hast, und deine Serie. Laut Erklärung können begrenzte, datenschutzbewusste Einblicke wie übergeordnete Themen geteilt werden, aber nur so, wie das Produkt sie anzeigt. Dein Journal mit vergangenen Sitzungen ist nur für dich.

KI-Anbieter und Training. Deine Nachrichten gehen an KI-Anbieter, damit eine Antwort entsteht. Pragma weist sie an, ihre allgemeinen Modelle nicht mit deinen Inhalten zu trainieren, wo diese Option besteht. Das ist eine Grenze, kein absolutes Versprechen, also lies den genauen Wortlaut in unserer Datenschutzerklärung.

Verkauf, Werbung und Weitergabe. Pragma verkauft deine persönlichen Daten nicht. Es nutzt deine privaten Gespräche nicht für Werbung. Es gibt Daten an Dienstleister weiter, die in seinem Auftrag arbeiten. Außerdem gibt es Daten an Behörden weiter, wenn das Gesetz es verlangt oder es um Sicherheit geht.

Gedächtnis und Löschung. Der Coach hat ein Gedächtnis, damit spätere Sitzungen an frühere anknüpfen können. Du kannst diese Erinnerungen in der App ansehen und löschen. Wenn du dein Konto löschst, werden deine persönlichen Daten und Gesprächsinhalte dauerhaft gelöscht. Nur minimale Abrechnungsdaten werden aus rechtlichen oder steuerlichen Gründen aufbewahrt, und sie sind nicht mit deiner Identität verknüpft.

Sicherheit und HIPAA. Gespräche werden auf Krisensignale geprüft, damit die App dich auf Krisenhilfen hinweisen kann. Pragma ist kein Notdienst. Seine Erklärung behauptet keinen HIPAA-Schutz, und es stellt keine Diagnosen und behandelt nicht.

Jeder Partner spricht etwa 15 Minuten am Tag mit dem Coach, per Sprache oder Chat, auf dem eigenen Handy. Ihr verbindet euch mit einem 8-stelligen Einladungscode, und was jeder sagt, bleibt privat. Den ganzen Ablauf zeigt So funktioniert es.

Wann ihr mehr Hilfe braucht

Ein KI-Coach ist nicht für Missbrauch, Gefahr, Trauma oder Gedanken an Selbstverletzung gedacht. Er ist nicht für eine psychische Erkrankung gedacht, die Behandlung braucht. Wenn du Angst vor deinem Partner hast, überleg zuerst, wer dein Handy sehen könnte.

In den USA erreicht ihr die 988 rund um die Uhr per Anruf oder SMS. Die Domestic Violence Hotline hat die Nummer 1-800-799-7233. Weitere Hotlines findet ihr auf der Seite mit Krisenhilfen von Pragma.

Bei Vertrauensbruch oder einem Muster, das ihr allein nicht durchbrechen könnt, geht zu einem zugelassenen Therapeuten. Manche Themen gehören auch wegen des Datenschutzes zu einer Fachkraft, da HIPAA für die meisten Gesundheitsdienstleister gilt. Unsicher, was passt? Macht den kurzen Check unten.

Unser Leitfaden zu KI-App oder professioneller Paarberatung erklärt, wie ihr wählt.