Os assistentes de inteligência artificial, como ChatGPT, Gemini e Claude, são usados para tirar dúvidas, organizar tarefas e até conversar sobre questões pessoais. O problema é que essa proximidade também pode levar usuários a compartilhar informações que deveriam permanecer privadas. Muitas vezes, as conversas com IA podem reunir dados financeiros, questões de saúde, inseguranças pessoais e detalhes de projetos ou da vida cotidiana. Como esses serviços processam as informações em servidores remotos, o usuário nem sempre tem controle sobre o que acontece com os dados depois do envio. Existem, porém, diferentes formas de reduzir essa exposição. Elas vão desde contratos que limitam a retenção das conversas até tecnologias de segurança e modelos de IA executados no próprio dispositivo. A seguir, tire suas dúvidas sobre: Por que suas conversas com IA são um risco à privacidade? O que são e como funcionam os Contratos de Retenção Zero de Dados (ZDR)? É possível confiar em serviços intermediários “sem registros”? O que são Ambientes de Execução Confiáveis (TEEs)? É mais seguro quando os dados são processados localmente? Por que uma IA segura custa mais caro? Por que suas conversas com IA são um risco à privacidade? Os chatbots ocupam um espaço parecido com o de um “confessionário virtual”. É comum encontrar usuários compartilhando com a IA informações sobre relacionamentos, finanças, saúde, trabalho e outros assuntos pessoais. O problema começa quando esses dados são enviados para servidores externos. Serviços tradicionais de IA, como ChatGPT, Claude e Gemini, coletam e armazenam conversas por padrão, de acordo com as políticas de cada plataforma. O uso dessas informações varia conforme o serviço e as configurações escolhidas pelo usuário, podendo incluir o aprimoramento dos modelos de IA. Além de serem usadas para treinar modelos, as conversas podem ser acessadas por meio de solicitações de autoridades policiais ou por prestadores de serviço terceirizados que ajudam a ajustar os sistemas. Dependendo das políticas de cada empresa, os dados também podem chegar a parceiros comerciais e anunciantes ou ser requisitados em intimações de processos judiciais civis. Isso cria uma nova preocupação de privacidade, já que uma única conversa pode concentrar uma quantidade grande de informações sobre uma pessoa. Como observa Moxie Marlinspike, criador do Signal, o principal ponto de exposição que antes estava nas mensagens de texto não criptografadas migrou para as conversas com IA. Segundo ele, essa mudança amplia os riscos de privacidade, já que os sistemas de IA concentram uma quantidade muito maior de informações sobre os usuários. O que são e como funcionam os Contratos de Retenção Zero de Dados (ZDR)? Uma das alternativas à coleta de dados são os contratos de Retenção Zero de Dados (Zero Data Retention ou ZDR). Empresas como OpenAI, Anthropic e Google oferecem esses acordos, que determinam a exclusão dos registros das conversas após o processamento. Porém, essa opção costuma ficar restrita a contas corporativas e de desenvolvedores pagas, fora do alcance da maioria dos usuários comuns. O ZDR também tem exceções para monitoramento de segurança e prevenção de abusos. A Anthropic, por exemplo, não aplica a retenção zero a pesquisas sobre hacking ou fraudes. A OpenAI usa o Private Safety Processing para analisar atividades nos sistemas do cliente antes da exclusão e pode alertar a equipe da plataforma em caso de irregularidades. No Google, prompts do Gemini podem ser mantidos para análise de abusos mesmo sob ZDR. A empresa remove o endereço IP e o ID do usuário, mas o próprio texto da pergunta ainda pode revelar quem fez a consulta. Por isso, o ZDR funciona como uma proteção prevista em contrato entre o cliente e o provedor. Ele não oferece uma barreira criptográfica que impeça completamente o acesso aos dados. É possível confiar em serviços intermediários “sem registros”? Outra opção para aumentar a privacidade são serviços que prometem não guardar registros das conversas, como Proton Lumo, Duck.ai e Venice.ai. Algumas dessas plataformas também escondem o endereço IP do usuário e enviam as perguntas para modelos de outras empresas, como os da OpenAI e da Anthropic. O problema é que uma política de privacidade não oferece a mesma garantia que uma proteção técnica. Como explica o criptógrafo Matthew Green, da Universidade Johns Hopkins, mesmo que o serviço intermediário não guarde registros, o modelo de IA que recebe a pergunta ainda pode coletar o texto. Além disso, esconder o endereço IP não elimina totalmente o risco de identificação. O próprio conteúdo da conversa pode revelar informações sobre quem fez a pergunta. Uma consulta sobre um local específico ou um documento particular, por exemplo, pode trazer detalhes suficientes para identificar o usuário. O que são Ambientes de Execução Confiáveis (TEEs)? Uma das dificuldades para proteger conversas com inteligência artificial está no próprio funcionamento desses modelos. Em aplicativos de mensagens, o servidor pode apenas encaminhar os dados sem acessar seu conteúdo. Já as IAs na nuvem precisam receber o texto sem criptografia para processá-lo e gerar uma resposta. Como a criptografia de ponta a ponta tradicional ainda não funciona da mesma forma para esses sistemas, a indústria começou a usar os Ambientes de Execução Confiáveis (TEEs). Os TEEs usam uma proteção baseada em hardware para limitar o acesso aos dados. A tecnologia impede que o serviço grave as conversas e restringe o acesso ao conteúdo durante o processamento. Por exemplo, com a tecnologia Confidential Computing da Nvidia, os prompts são processados em áreas isoladas do hardware. O servidor pode gerar uma prova criptográfica de que outras partes da infraestrutura não conseguem acessar esses dados. Um dos principais exemplos é o Confer, assistente privado criado por Moxie Marlinspike, fundador do Signal. O serviço usa TEEs em chips Nvidia, autenticação por passkeys e código aberto, que pode ser analisado publicamente. Outro exemplo é o modo incógnito do Meta AI no WhatsApp, desenvolvido com apoio de Marlinspike. A opção pode ser ativada ao tocar no botão de busca da IA e selecionar o ícone de cadeado. Embora não use criptografia de ponta a ponta tradicional, o sistema impede a Meta de manter registros da conversa. O modelo é diferente do novo agente Muse, também da Meta, que ainda funciona em máquinas virtuais separadas, sem o uso de TEEs. É mais seguro quando os dados são processados localmente? Executar a inteligência artificial no próprio computador é uma alternativa para quem busca mais privacidade. Ferramentas para usuários avançados, como Ollama, LM Studio e LocalAI, permitem rodar modelos de linguagem 100% offline. Nesse caso, as informações não precisam sair do dispositivo. Já a Apple segue uma estratégia híbrida. Para tarefas do dia a dia, a empresa usa um modelo compacto no próprio iPhone, Mac ou Apple Watch. Quando a tarefa precisa de mais capacidade, o processamento é enviado ao Private Cloud Compute (PCC), uma estrutura de nuvem privada. No entanto, quando a Siri ou a Apple Intelligence faz uma pesquisa no ChatGPT ou em outros serviços de terceiros, a proteção do PCC deixa de valer. Antes de enviar a pergunta, porém, o sistema pede autorização ao usuário. O principal limite da IA local é o desempenho. Os computadores pessoais têm menos capacidade de processamento que os grandes data centers, o que restringe o tamanho dos modelos que podem ser executados. Como resultado, o usuário pode precisar escolher modelos menores e sujeitos a erros. Por que uma IA segura custa mais caro? Para manter uma inteligência artificial avançada, é necessário grandes data centers, processadores de alto desempenho e muito consumo de energia. A forma de pagar por essa estrutura, porém, varia conforme o modelo de negócio de cada empresa. Serviços populares, como ChatGPT e Claude, cobram cerca de US$ 20 por mês. Já ferramentas focadas em privacidade, como o Confer, chegam a US$ 34,99 mensais. Segundo Moxie Marlinspike, fundador do Confer, a diferença representa o custo real e sem subsídios para processar consultas em hardware isolado. Marlinspike afirma que concorrentes tradicionais conseguem cobrar menos porque parte dos custos operacionais é compensada pela monetização dos dados dos usuários. Esse modelo também levanta dúvidas sobre a sustentabilidade das IAs focadas em privacidade. Sem explorar os dados dos usuários, essas empresas precisam encontrar outras formas de manter o serviço financeiramente viável. Com custos operacionais altos, existe o risco de algumas reduzirem suas medidas de proteção de dados ao longo do tempo. Como resume Matthew Green, professor da Universidade Johns Hopkins: “Se você quer privacidade de verdade, talvez tenha que pagar por ela”. Se você gostou do conteúdo, talvez também se interesse por conferir “O que significa quando uma empresa diz que vai treinar IA com dados dos usuários”. {{WHATSAPP_CHANNEL}}

Os assistentes de intelig ncia artificial, como ChatGPT, Gemini e Claude, s o usados para tirar d vidas, organizar tarefas e at conversar sobre quest es pessoais. O problema que essa proximidade tamb m pode levar usu rios a compartilhar informa es que deveriam permanecer privadas. Muitas vezes, as conversas com IA podem reunir dados financeiros, quest es de sa de, inseguran as pessoais e detalhes de projetos ou da vida cotidiana. Como esses servi os processam as informa es em servidores remotos, o usu rio nem sempre tem controle sobre o que acontece com os dados depois do envio. Existem, por m, diferentes formas de reduzir essa exposi o. Elas v o desde contratos que limitam a reten o das conversas at tecnologias de seguran a e modelos de IA executados no pr prio dispositivo. A seguir, tire suas d vidas sobre: Por que suas conversas com IA s o um risco privacidade? O que s o e como funcionam os Contratos de Reten o Zero de Dados (ZDR)? poss vel confiar em servi os intermedi rios “sem registros”? O que s o Ambientes de Execu o Confi veis (TEEs)? mais seguro quando os dados s o processados localmente? Por que uma IA segura custa mais caro? Por que suas conversas com IA s o um risco privacidade? Os chatbots ocupam um espa o parecido com o de um “confession rio virtual”. comum encontrar usu rios compartilhando com a IA informa es sobre relacionamentos, finan as, sa de, trabalho e outros assuntos pessoais. O problema come a quando esses dados s o enviados para servidores externos. Servi os tradicionais de IA, como ChatGPT, Claude e Gemini, coletam e armazenam conversas por padr o, de acordo com as pol ticas de cada plataforma. O uso dessas informa es varia conforme o servi o e as configura es escolhidas pelo usu rio, podendo incluir o aprimoramento dos modelos de IA. Al m de serem usadas para treinar modelos, as conversas podem ser acessadas por meio de solicita es de autoridades policiais ou por prestadores de servi o terceirizados que ajudam a ajustar os sistemas. Dependendo das pol ticas de cada empresa, os dados tamb m podem chegar a parceiros comerciais e anunciantes ou ser requisitados em intima es de processos judiciais civis. Isso cria uma nova preocupa o de privacidade, j que uma nica conversa pode concentrar uma quantidade grande de informa es sobre uma pessoa. Como observa Moxie Marlinspike, criador do Signal, o principal ponto de exposi o que antes estava nas mensagens de texto n o criptografadas migrou para as conversas com IA. Segundo ele, essa mudan a amplia os riscos de privacidade, j que os sistemas de IA concentram uma quantidade muito maior de informa es sobre os usu rios. O que s o e como funcionam os Contratos de Reten o Zero de Dados (ZDR)? Uma das alternativas coleta de dados s o os contratos de Reten o Zero de Dados (Zero Data Retention ou ZDR). Empresas como OpenAI, Anthropic e Google oferecem esses acordos, que determinam a exclus o dos registros das conversas ap s o processamento. Por m, essa op o costuma ficar restrita a contas corporativas e de desenvolvedores pagas, fora do alcance da maioria dos usu rios comuns. O ZDR tamb m tem exce es para monitoramento de seguran a e preven o de abusos. A Anthropic, por exemplo, n o aplica a reten o zero a pesquisas sobre hacking ou fraudes. A OpenAI usa o Private Safety Processing para analisar atividades nos sistemas do cliente antes da exclus o e pode alertar a equipe da plataforma em caso de irregularidades. No Google, prompts do Gemini podem ser mantidos para an lise de abusos mesmo sob ZDR. A empresa remove o endere o IP e o ID do usu rio, mas o pr prio texto da pergunta ainda pode revelar quem fez a consulta. Por isso, o ZDR funciona como uma prote o prevista em contrato entre o cliente e o provedor. Ele n o oferece uma barreira criptogr fica que impe a completamente o acesso aos dados. poss vel confiar em servi os intermedi rios “sem registros”? Outra op o para aumentar a privacidade s o servi os que prometem n o guardar registros das conversas, como Proton Lumo, Duck.ai e Venice.ai. Algumas dessas plataformas tamb m escondem o endere o IP do usu rio e enviam as perguntas para modelos de outras empresas, como os da OpenAI e da Anthropic. O problema que uma pol tica de privacidade n o oferece a mesma garantia que uma prote o t cnica. Como explica o cript grafo Matthew Green, da Universidade Johns Hopkins, mesmo que o servi o intermedi rio n o guarde registros, o modelo de IA que recebe a pergunta ainda pode coletar o texto. Al m disso, esconder o endere o IP n o elimina totalmente o risco de identifica o. O pr prio conte do da conversa pode revelar informa es sobre quem fez a pergunta. Uma consulta sobre um local espec fico ou um documento particular, por exemplo, pode trazer detalhes suficientes para identificar o usu rio. O que s o Ambientes de Execu o Confi veis (TEEs)? Uma das dificuldades para proteger conversas com intelig ncia artificial est no pr prio funcionamento desses modelos. Em aplicativos de mensagens, o servidor pode apenas encaminhar os dados sem acessar seu conte do. J as IAs na nuvem precisam receber o texto sem criptografia para process -lo e gerar uma resposta. Como a criptografia de ponta a ponta tradicional ainda n o funciona da mesma forma para esses sistemas, a ind stria come ou a usar os Ambientes de Execu o Confi veis (TEEs). Os TEEs usam uma prote o baseada em hardware para limitar o acesso aos dados. A tecnologia impede que o servi o grave as conversas e restringe o acesso ao conte do durante o processamento. Por exemplo, com a tecnologia Confidential Computing da Nvidia, os prompts s o processados em reas isoladas do hardware. O servidor pode gerar uma prova criptogr fica de que outras partes da infraestrutura n o conseguem acessar esses dados. Um dos principais exemplos o Confer, assistente privado criado por Moxie Marlinspike, fundador do Signal. O servi o usa TEEs em chips Nvidia, autentica o por passkeys e c digo aberto, que pode ser analisado publicamente. Outro exemplo o modo inc gnito do Meta AI no WhatsApp, desenvolvido com apoio de Marlinspike. A op o pode ser ativada ao tocar no bot o de busca da IA e selecionar o cone de cadeado. Embora n o use criptografia de ponta a ponta tradicional, o sistema impede a Meta de manter registros da conversa. O modelo diferente do novo agente Muse, tamb m da Meta, que ainda funciona em m quinas virtuais separadas, sem o uso de TEEs. mais seguro quando os dados s o processados localmente? Executar a intelig ncia artificial no pr prio computador uma alternativa para quem busca mais privacidade. Ferramentas para usu rios avan ados, como Ollama, LM Studio e LocalAI, permitem rodar modelos de linguagem 100% offline. Nesse caso, as informa es n o precisam sair do dispositivo. J a Apple segue uma estrat gia h brida. Para tarefas do dia a dia, a empresa usa um modelo compacto no pr prio iPhone, Mac ou Apple Watch. Quando a tarefa precisa de mais capacidade, o processamento enviado ao Private Cloud Compute (PCC), uma estrutura de nuvem privada. No entanto, quando a Siri ou a Apple Intelligence faz uma pesquisa no ChatGPT ou em outros servi os de terceiros, a prote o do PCC deixa de valer. Antes de enviar a pergunta, por m, o sistema pede autoriza o ao usu rio. O principal limite da IA local o desempenho. Os computadores pessoais t m menos capacidade de processamento que os grandes data centers, o que restringe o tamanho dos modelos que podem ser executados. Como resultado, o usu rio pode precisar escolher modelos menores e sujeitos a erros. Por que uma IA segura custa mais caro? Para manter uma intelig ncia artificial avan ada, necess rio grandes data centers, processadores de alto desempenho e muito consumo de energia. A forma de pagar por essa estrutura, por m, varia conforme o modelo de neg cio de cada empresa. Servi os populares, como ChatGPT e Claude, cobram cerca de US$ 20 por m s. J ferramentas focadas em privacidade, como o Confer, chegam a US$ 34,99 mensais. Segundo Moxie Marlinspike, fundador do Confer, a diferen a representa o custo real e sem subs dios para processar consultas em hardware isolado. Marlinspike afirma que concorrentes tradicionais conseguem cobrar menos porque parte dos custos operacionais compensada pela monetiza o dos dados dos usu rios. Esse modelo tamb m levanta d vidas sobre a sustentabilidade das IAs focadas em privacidade. Sem explorar os dados dos usu rios, essas empresas precisam encontrar outras formas de manter o servi o financeiramente vi vel. Com custos operacionais altos, existe o risco de algumas reduzirem suas medidas de prote o de dados ao longo do tempo. Como resume Matthew Green, professor da Universidade Johns Hopkins: “Se voc quer privacidade de verdade, talvez tenha que pagar por ela”. Se voc gostou do conte do, talvez tamb m se interesse por conferir “O que significa quando uma empresa diz que vai treinar IA com dados dos usu rios”. {{WHATSAPP_CHANNEL}}