A terapia de casal com IA é privada e segura?

A terapia de casal com IA é privada e segura? Pode ser, mas não por defeito. A maioria das apps de IA para casais são apps de consumo, e a HIPAA geralmente não as abrange. A privacidade depende então da política da própria app. Procurem encriptação, nenhuma venda de dados, eliminação a sério e transcrições que o vosso parceiro nunca possa ler.

Este guia é para o parceiro que está prestes a escrever algo pessoal numa app. Talvez se pergunte quem mais o poderá ler. A página explica o que querem dizer «privada» e «segura», o que correu mal noutros casos e o que perguntar. Depois mostra como o Pragma, a app que fazemos, responde a cada ponto.

O que significa «privada e segura» numa app de terapia de casal com IA

Segura quer dizer que ninguém de fora chega às vossas palavras. Privada quer dizer que a própria empresa limita o que faz com elas. Uma app pode ser segura e, mesmo assim, não ser privada. Pode encriptar tudo e depois entregar as vossas respostas a anunciantes, por opção. Precisam das duas coisas, e cada uma divide-se em algumas perguntas concretas.

A última linha é a que os guias gerais de privacidade ignoram. Uma app de casal tem dois utilizadores emparelhados. Numa app de casal, o leitor que mais vos preocupa pode ser o vosso parceiro.

A terapia de casal com IA está abrangida pela HIPAA?

Normalmente não. A HIPAA é a lei norte-americana de privacidade na saúde. Protege a informação de saúde detida por seguradoras de saúde, pela maioria dos prestadores de cuidados e pelos seus parceiros de negócio. O HHS explica que as regras da HIPAA geralmente não protegem os dados que introduzem em apps para uso pessoal. A exceção é uma app fornecida por uma entidade abrangida ou por um parceiro de negócio dela. Por isso, uma app de IA para casais que descarregam por vossa conta fica, em regra, fora da HIPAA.

A mesma página do HHS avisa que os dados das apps podem ser usados para direcionar anúncios. Acrescenta que esses dados também podem ser vendidos a um corretor de dados. É uma descrição do mercado de apps em geral, não de todas as apps. É a razão para lerem cada política, em vez de confiarem na palavra «privado» numa página de apresentação.

Um terapeuta de casal licenciado está numa posição diferente. A maioria dos prestadores de cuidados de saúde são entidades abrangidas, por isso as regras da HIPAA aplicam-se aos registos que guardam. Um coach de relacionamentos com IA não é um prestador de cuidados de saúde. Não diagnostica nem trata, e não deve alegar uma proteção da HIPAA que não tem.

Estar fora da HIPAA não torna uma app insegura. Quer dizer que são as promessas da própria app que vos protegem. Nos EUA, os reguladores podem agir quando uma app quebra essas promessas, como mostra a secção seguinte.

O que reguladores e investigadores encontraram sobre a privacidade das apps de terapia

Algumas apps de terapia e de saúde mental quebraram as suas promessas de privacidade, e os reguladores agiram. O caso mais conhecido envolve um serviço de aconselhamento online, não uma app de IA. Mesmo assim, mostra o que pode acontecer às respostas mais sensíveis que dão.

Em março de 2023, a FTC propôs uma ordem contra o BetterHelp, um serviço de aconselhamento online. O seu questionário de inscrição perguntava por depressão, pensamentos suicidas e medicação. Segundo a FTC, o BetterHelp prometeu usar os dados de saúde só para fins limitados, como o aconselhamento. Depois partilhou dados de saúde dos consumidores com plataformas como o Facebook e o Snapchat, para publicidade. A ordem proibiu a partilha de dados de saúde para publicidade. Exigiu também consentimento antes de partilhar dados pessoais com terceiros.

A FTC descreveu o pagamento de 7,8 milhões de dólares como a sua primeira ação a devolver dinheiro aos consumidores por causa de dados de saúde. A ordem obrigou também o BetterHelp a pedir a terceiros que apagassem os dados partilhados. Fixou limites ao tempo durante o qual os dados podem ser guardados.

Avaliadores independentes encontraram problemas mais amplos. A equipa Privacy Not Included da Mozilla analisou 27 apps de saúde mental em 2022. Vinte e três receberam o seu aviso de privacidade logo no lançamento. Quando a equipa as voltou a verificar em 2023, cerca de 17 das 27 estavam piores ou continuavam fracas.

A mesma análise da Mozilla aconselha a partilhar só o necessário. Avisa que, em alguns casos, as transcrições das conversas podem não ser privadas. Nota ainda que apagar uma app quase nunca apaga os vossos dados, por isso peçam a eliminação. A Mozilla passou entretanto este trabalho para outro sítio, por isso a ligação aponta para uma cópia arquivada.

Nada disto quer dizer que todas as apps usam mal os dados. Quer dizer que uma promessa de privacidade vale o que vale a política que a sustenta.

Lista de verificação de privacidade: 10 perguntas a fazer a qualquer app de terapia de casal com IA antes de partilharem algo

Façam estas 10 perguntas a qualquer app de casal ou de terapia com IA, e procurem cada resposta na sua política de privacidade. Se a política não responde, esse silêncio também é uma resposta.

1. Os meus dados são encriptados em trânsito e em repouso? Procurem TLS, mais uma norma identificada, como AES-256.
2. Quem, na empresa, pode ler as minhas transcrições? Procurem acesso restrito e autenticado, não uma vaga revisão por funcionários.
3. Que empresas externas recebem as minhas palavras? A política deve identificar os tipos de fornecedor, como os fornecedores de IA.
4. As minhas conversas são usadas para treinar modelos de IA? A resposta deve abranger a app e os seus fornecedores de IA.
5. Os meus dados são vendidos ou usados para publicidade? A resposta deve ser um não simples, sem exceções para «parceiros» sem nome.
6. A app está abrangida pela HIPAA? Normalmente não, por isso nunca o deem por certo. Se uma app alega estar abrangida pela HIPAA, perguntem que entidade abrangida a fornece.
7. O que pode ver o meu parceiro? Perguntem se transcrições, resumos, estados de espírito ou temas chegam alguma vez à outra conta.
8. Posso ver e apagar aquilo de que a IA se lembra? Devem conseguir revê-lo e removê-lo.
9. O que acontece quando elimino a minha conta? Procurem o apagamento definitivo das conversas, com os registos mantidos identificados e explicados.
10. Quando é que a empresa partilha dados com as autoridades? Contem com «quando exigido por lei», e desconfiem de formulações mais vagas.

Se uma política responde à maioria destas perguntas em palavras simples, a app fez o trabalho de casa. Se não responde, deixem os temas mais sensíveis fora dessa app.

Como manter a terapia de casal com IA privada entre os dois

Combinem as regras juntos, antes de qualquer um começar, para que a privacidade não se transforme em desconfiança. Um espaço privado só funciona se os dois confiarem nele. Se um parceiro pede para ler as sessões do outro, o espaço deixa de ser privado.

Eis um exemplo composto, não um casal real. São 10 da noite de um domingo. Um dos parceiros acabou de fazer uma sessão sobre não se sentir ouvido ao jantar. O outro entra e pergunta, meio a brincar, o que foi dito a seu respeito. Sem um acordo, essa pergunta pode estragar a ideia toda.

Uma conversa curta à partida evita isso. Experimentem estas frases.

Digam: «As tuas sessões são tuas. Não vou pedir para as ler, e gostava que fizesses o mesmo.»

Digam: «Se alguma coisa de uma sessão for importante para nós, contamos um ao outro por palavras nossas.»

Alguns hábitos protegem a vossa privacidade no próprio dispositivo:

• Cada um usa o seu telemóvel e a sua conta, com um código que só o próprio sabe.
• Escondam as pré-visualizações das notificações no ecrã de bloqueio.
• Terminem a sessão da app em qualquer tablet ou portátil partilhado.
• Partilhem o padrão com que querem ajuda, não todos os nomes e pormenores.
• Peçam a eliminação quando deixarem de usar uma app, em vez de apenas a desinstalarem.

Descarregar seis exercícios "Experimentem esta noite" em PDF (em inglês)

Como o Pragma trata a privacidade e a segurança enquanto coach de relacionamentos com IA

O Pragma é um coach de relacionamentos com IA, não um terapeuta, e a sua política de privacidade responde à maior parte da lista. Eis o que diz, ponto por ponto.

Encriptação e acesso. Os campos sensíveis, incluindo transcrições, mensagens e respostas ao questionário inicial, são encriptados com AES-256-GCM na camada da aplicação. Os dados em trânsito são também encriptados com TLS. O acesso aos sistemas é restrito e autenticado. A política diz ainda que nenhum sistema é perfeitamente seguro, que é a resposta honesta para qualquer app.

O que o vosso parceiro vê. As transcrições das vossas sessões e as vossas mensagens nunca são mostradas ao vosso parceiro. O vosso parceiro vê a atividade, como o facto de terem concluído a sessão de hoje e a vossa sequência de dias. A política diz que podem ser partilhadas observações limitadas e respeitadoras da privacidade, como temas gerais, apenas da forma como o produto as apresenta. O Diário das sessões anteriores de cada um é privado.

Fornecedores de IA e treino. As vossas mensagens são enviadas a fornecedores de IA para gerar uma resposta. O Pragma dá-lhes instruções para não treinarem os seus modelos gerais com o vosso conteúdo, quando essa opção existe. É um limite, não uma promessa absoluta, por isso consultem a nossa política de privacidade para a formulação exata.

Venda, anúncios e partilha. O Pragma não vende a vossa informação pessoal. Não usa as vossas conversas privadas para publicidade. Partilha dados com prestadores de serviços que trabalham em seu nome. Partilha também com as autoridades quando a lei o exige ou por razões de segurança.

Memória e eliminação. O coach guarda uma memória, para que as sessões seguintes possam retomar o que foi dito nas anteriores. Podem ver essas memórias na app e apagá-las. Eliminar a conta apaga definitivamente os vossos dados pessoais e o conteúdo das conversas. Só ficam registos mínimos de faturação, por razões legais ou fiscais, e não estão ligados à vossa identidade.

Segurança e HIPAA. As conversas são verificadas para detetar sinais de crise, para que a app vos possa indicar recursos de crise. O Pragma não é um serviço de emergência. A sua política não alega estar abrangida pela HIPAA, e o Pragma não diagnostica nem trata.

Cada parceiro fala com o coach cerca de 15 minutos por dia, por voz ou chat, no seu próprio telemóvel. Emparelham-se com um código de convite de 8 caracteres, e as palavras de cada pessoa ficam privadas. O percurso completo está em como funciona.

Quando procurar mais ajuda

Um coach de IA não se destina a abuso, perigo, trauma ou pensamentos de autolesão. Não se destina a um problema de saúde mental que precise de tratamento. Se têm medo do vosso parceiro, pensem primeiro em quem poderia ver o vosso telemóvel.

Nos EUA, liguem ou enviem SMS para o 988, a qualquer hora. A Domestic Violence Hotline (linha de apoio à violência doméstica) é o 1-800-799-7233. Encontram mais linhas de apoio na página de recursos de crise do Pragma.

Em caso de traição, ou de um padrão que não consigam interromper sozinhos, consultem um terapeuta licenciado. Alguns temas pertencem também a um profissional por causa da privacidade, já que a HIPAA abrange a maioria dos prestadores. Não sabem o que se aplica a vocês? Façam a verificação rápida abaixo.

O nosso guia sobre uma app de IA vs aconselhamento de casal com um profissional explica como escolher.