Uma investigação recente revelou que a OpenAI contrata centenas de prestadores de serviços terceirizados para ler, resumir e avaliar conversas reais de usuários com o ChatGPT. Embora a empresa adote medidas para remover informações pessoais, documentos internos e prompts analisados pelo portal 404 Media mostram que conteúdos sensíveis podem chegar aos revisores humanos. As equipes participam do processo de aprimoramento dos modelos de inteligência artificial. Entre as tarefas estão avaliar respostas do ChatGPT e identificar comportamentos considerados inadequados, como a chamada sicofancia, quando o chatbot concorda ou elogia o usuário de forma excessiva. A investigação também mostra que o treinamento de modelos de IA envolve uma participação humana significativa. O processo não depende apenas da análise automatizada de grandes volumes de dados, já que as pessoas são contratadas para avaliar a qualidade e o comportamento das respostas geradas pelos chatbots. Além da OpenAI, outras empresas do setor também recorrem a revisores humanos. A Anthropic afirma utilizar esse tipo de análise quando o usuário autoriza o uso das conversas para treinamento e o Google informa que os revisores podem analisar determinados chats salvos do Gemini. A prática levanta preocupações de privacidade, especialmente porque usuários podem utilizar o ChatGPT como assistente profissional ou compartilhar informações pessoais durante as conversas. Como impedir que humanos leiam seus chats do ChatGPT? Os usuários de contas pessoais, como Free, Plus e Pro, têm o uso das conversas para aprimoramento dos modelos ativado por padrão. Já nas contas Enterprise, Business e Edu, essa opção fica desativada automaticamente. Para desativar o recurso: Abra o ChatGPT no navegador ou aplicativo; Acesse o ícone de perfil; Entre em “Configurações”; Toque em “Controles de dados”; Desative a opção "Melhorar o modelo para todo mundo". Com a configuração desativada, novas conversas não são usadas para melhorar os modelos. A mudança, porém, não impede que a OpenAI processe conversas para outras finalidades, como segurança e prevenção de abusos. Também vale evitar o envio de informações sensíveis para qualquer chatbot. Mesmo com mecanismos de proteção e configurações de privacidade, o usuário não deve tratar uma conversa com inteligência artificial como um canal equivalente a uma comunicação privada com uma pessoa. O que é o Projeto Lily do ChatGPT? O Projeto Lily é descrito como o codinome interno de uma iniciativa da OpenAI relacionada à avaliação humana das respostas do ChatGPT. Segundo os documentos obtidos pelo 404 Media, o trabalho é realizado por profissionais contratados por empresas terceirizadas. As atividades incluem analisar o prompt original, resumir a intenção do usuário e avaliar diferentes respostas produzidas pelo chatbot. Os revisores também recebem orientações para identificar problemas específicos no comportamento e no estilo das respostas. Entre as diretrizes citadas nos documentos estão: Reduzir a chamada "fala de IA": evitar emojis e estruturas de texto consideradas artificiais ou desnecessárias; Evitar a antropomorfização: impedir que o ChatGPT afirme ter experiências ou características humanas que não possui; Reduzir a sicofancia: identificar respostas que elogiam ou concordam excessivamente com o usuário, inclusive quando isso pode reforçar ideias irracionais. Os documentos também descrevem o uso de um filtro automatizado de privacidade, criado para identificar e ocultar informações pessoalmente identificáveis antes que as conversas sejam analisadas por humanos. O sistema, porém, não é considerado infalível e pode ter dificuldades com informações ambíguas ou identificadores incomuns. Segundo a investigação, alguns revisores também podem receber um resumo das memórias associadas ao usuário, o que pode fornecer informações adicionais sobre seu contexto, como profissão, localização geral e outros detalhes compartilhados anteriormente. Se você gostou do conteúdo, talvez também se interesse por conferir “O que significa quando uma empresa diz que vai treinar IA com dados dos usuários”. {{WHATSAPP_CHANNEL}}

Uma investiga o recente revelou que a OpenAI contrata centenas de prestadores de servi os terceirizados para ler, resumir e avaliar conversas reais de usu rios com o ChatGPT. Embora a empresa adote medidas para remover informa es pessoais, documentos internos e prompts analisados pelo portal 404 Media mostram que conte dos sens veis podem chegar aos revisores humanos. As equipes participam do processo de aprimoramento dos modelos de intelig ncia artificial. Entre as tarefas est o avaliar respostas do ChatGPT e identificar comportamentos considerados inadequados, como a chamada sicofancia, quando o chatbot concorda ou elogia o usu rio de forma excessiva. A investiga o tamb m mostra que o treinamento de modelos de IA envolve uma participa o humana significativa. O processo n o depende apenas da an lise automatizada de grandes volumes de dados, j que as pessoas s o contratadas para avaliar a qualidade e o comportamento das respostas geradas pelos chatbots. Al m da OpenAI, outras empresas do setor tamb m recorrem a revisores humanos. A Anthropic afirma utilizar esse tipo de an lise quando o usu rio autoriza o uso das conversas para treinamento e o Google informa que os revisores podem analisar determinados chats salvos do Gemini. A pr tica levanta preocupa es de privacidade, especialmente porque usu rios podem utilizar o ChatGPT como assistente profissional ou compartilhar informa es pessoais durante as conversas. Como impedir que humanos leiam seus chats do ChatGPT? Os usu rios de contas pessoais, como Free, Plus e Pro, t m o uso das conversas para aprimoramento dos modelos ativado por padr o. J nas contas Enterprise, Business e Edu, essa op o fica desativada automaticamente. Para desativar o recurso: Abra o ChatGPT no navegador ou aplicativo; Acesse o cone de perfil; Entre em “Configura es”; Toque em “Controles de dados”; Desative a op o "Melhorar o modelo para todo mundo". Com a configura o desativada, novas conversas n o s o usadas para melhorar os modelos. A mudan a, por m, n o impede que a OpenAI processe conversas para outras finalidades, como seguran a e preven o de abusos. Tamb m vale evitar o envio de informa es sens veis para qualquer chatbot. Mesmo com mecanismos de prote o e configura es de privacidade, o usu rio n o deve tratar uma conversa com intelig ncia artificial como um canal equivalente a uma comunica o privada com uma pessoa. O que o Projeto Lily do ChatGPT? O Projeto Lily descrito como o codinome interno de uma iniciativa da OpenAI relacionada avalia o humana das respostas do ChatGPT. Segundo os documentos obtidos pelo 404 Media, o trabalho realizado por profissionais contratados por empresas terceirizadas. As atividades incluem analisar o prompt original, resumir a inten o do usu rio e avaliar diferentes respostas produzidas pelo chatbot. Os revisores tamb m recebem orienta es para identificar problemas espec ficos no comportamento e no estilo das respostas. Entre as diretrizes citadas nos documentos est o: Reduzir a chamada "fala de IA": evitar emojis e estruturas de texto consideradas artificiais ou desnecess rias; Evitar a antropomorfiza o: impedir que o ChatGPT afirme ter experi ncias ou caracter sticas humanas que n o possui; Reduzir a sicofancia: identificar respostas que elogiam ou concordam excessivamente com o usu rio, inclusive quando isso pode refor ar ideias irracionais. Os documentos tamb m descrevem o uso de um filtro automatizado de privacidade, criado para identificar e ocultar informa es pessoalmente identific veis antes que as conversas sejam analisadas por humanos. O sistema, por m, n o considerado infal vel e pode ter dificuldades com informa es amb guas ou identificadores incomuns. Segundo a investiga o, alguns revisores tamb m podem receber um resumo das mem rias associadas ao usu rio, o que pode fornecer informa es adicionais sobre seu contexto, como profiss o, localiza o geral e outros detalhes compartilhados anteriormente. Se voc gostou do conte do, talvez tamb m se interesse por conferir “O que significa quando uma empresa diz que vai treinar IA com dados dos usu rios”. {{WHATSAPP_CHANNEL}}