A Anthropic revelou detalhes de como funciona o sistema de marca d’água invisível aplicado aos textos gerados pelo Claude. A tecnologia cria um padrão estatístico nas respostas para identificar conteúdos produzidos pela IA, sem inserir caracteres ocultos ou elementos perceptíveis para quem lê. A medida está relacionada ao compromisso de aumentar a transparência sobre conteúdos gerados por inteligência artificial e também atende às exigências do AI Act, a Lei de Inteligência Artificial da União Europeia. Segundo a Anthropic, o sistema será aplicado globalmente no lançamento de futuros modelos e está sendo implementado de forma gradual nos modelos antigos nos próximos meses. De acordo com a empresa, a tecnologia não causa impacto na qualidade, criatividade ou legibilidade das respostas. Além disso, o mecanismo não exige tokens extras, não aumenta o custo de geração e não inclui informações que permitam identificar o usuário, a conversa ou a organização. A marca d’água também não altera a propriedade legal do conteúdo nem a responsabilidade do usuário pelo material gerado. O objetivo é indicar a procedência do texto, e não restringir seu uso. Como funciona a marca d’água do Claude? A marca d’água é inserida durante a própria geração da resposta. Quando o Claude precisa escolher qual será a próxima palavra, o sistema pode direcionar a seleção entre termos que têm significado semelhante. Em uma frase na qual “nublado” e “cinzento”, por exemplo, funcionam igualmente bem, o mecanismo usa uma chave específica para influenciar discretamente a escolha. A sequência de palavras formada pelo modelo cria, então, um padrão estatístico que pode ser identificado posteriormente. A tecnologia é baseada no SynthID-Text, sistema desenvolvido pelo Google DeepMind. A Anthropic também pretende lançar uma API de detecção para que empresas e usuários possam verificar a probabilidade de determinado texto ter sido produzido pelo Claude. No entanto, o sistema tem algumas limitações. A detecção funciona melhor em textos longos, já que há mais oportunidades para o modelo fazer escolhas entre palavras e construir o padrão estatístico. Em textos curtos, códigos de programação e conteúdos puramente factuais, a aplicação da marca d’água pode ser reduzida ou não acontecer. Isso evita que o mecanismo altere respostas nas quais existe pouca margem para escolher palavras diferentes sem comprometer a precisão. Além disso, se um usuário pedir para a IA apenas revisar ou corrigir a gramática e a pontuação de um texto escrito por um humano, a marca d'água quase não será aplicada. Ela existirá apenas nas pequenas correções feitas pela IA, o que geralmente é insuficiente para que o sistema de detecção consiga identificá-la. Já qualquer tradução gerada pelo Claude receberá a marca d'água completa, considerando que a IA precisa escolher cada uma das palavras do texto final. A tecnologia também não é impossível de contornar. Pequenas edições podem manter o padrão detectável, mas uma reescrita completa do conteúdo pode remover a marca d’água. Se você gostou do conteúdo, talvez também se interesse por conferir “Claude grátis vale a pena? Veja o que dá e o que não dá para fazer”. {{WHATSAPP_CHANNEL}}

A Anthropic revelou detalhes de como funciona o sistema de marca d’ gua invis vel aplicado aos textos gerados pelo Claude. A tecnologia cria um padr o estat stico nas respostas para identificar conte dos produzidos pela IA, sem inserir caracteres ocultos ou elementos percept veis para quem l . A medida est relacionada ao compromisso de aumentar a transpar ncia sobre conte dos gerados por intelig ncia artificial e tamb m atende s exig ncias do AI Act, a Lei de Intelig ncia Artificial da Uni o Europeia. Segundo a Anthropic, o sistema ser aplicado globalmente no lan amento de futuros modelos e est sendo implementado de forma gradual nos modelos antigos nos pr ximos meses. De acordo com a empresa, a tecnologia n o causa impacto na qualidade, criatividade ou legibilidade das respostas. Al m disso, o mecanismo n o exige tokens extras, n o aumenta o custo de gera o e n o inclui informa es que permitam identificar o usu rio, a conversa ou a organiza o. A marca d’ gua tamb m n o altera a propriedade legal do conte do nem a responsabilidade do usu rio pelo material gerado. O objetivo indicar a proced ncia do texto, e n o restringir seu uso. Como funciona a marca d’ gua do Claude? A marca d’ gua inserida durante a pr pria gera o da resposta. Quando o Claude precisa escolher qual ser a pr xima palavra, o sistema pode direcionar a sele o entre termos que t m significado semelhante. Em uma frase na qual “nublado” e “cinzento”, por exemplo, funcionam igualmente bem, o mecanismo usa uma chave espec fica para influenciar discretamente a escolha. A sequ ncia de palavras formada pelo modelo cria, ent o, um padr o estat stico que pode ser identificado posteriormente. A tecnologia baseada no SynthID-Text, sistema desenvolvido pelo Google DeepMind. A Anthropic tamb m pretende lan ar uma API de detec o para que empresas e usu rios possam verificar a probabilidade de determinado texto ter sido produzido pelo Claude. No entanto, o sistema tem algumas limita es. A detec o funciona melhor em textos longos, j que h mais oportunidades para o modelo fazer escolhas entre palavras e construir o padr o estat stico. Em textos curtos, c digos de programa o e conte dos puramente factuais, a aplica o da marca d’ gua pode ser reduzida ou n o acontecer. Isso evita que o mecanismo altere respostas nas quais existe pouca margem para escolher palavras diferentes sem comprometer a precis o. Al m disso, se um usu rio pedir para a IA apenas revisar ou corrigir a gram tica e a pontua o de um texto escrito por um humano, a marca d' gua quase n o ser aplicada. Ela existir apenas nas pequenas corre es feitas pela IA, o que geralmente insuficiente para que o sistema de detec o consiga identific -la. J qualquer tradu o gerada pelo Claude receber a marca d' gua completa, considerando que a IA precisa escolher cada uma das palavras do texto final. A tecnologia tamb m n o imposs vel de contornar. Pequenas edi es podem manter o padr o detect vel, mas uma reescrita completa do conte do pode remover a marca d’ gua. Se voc gostou do conte do, talvez tamb m se interesse por conferir “Claude gr tis vale a pena? Veja o que d e o que n o d para fazer”. {{WHATSAPP_CHANNEL}}