Os goblins do ChatGPT vão matar a OpenAI

Você talvez já tenha lido a publicação de pesquisa que a OpenAI divulgou em 29 de abril de 2026 sobre um problema peculiar: o aparecimento misterioso de goblins em muitas conversas do ChatGPT. Recomendo muito que qualquer pessoa interessada nos detalhes técnicos do problema vá ler o artigo da OpenAI antes de continuar a leitura.

O lançamento do GPT-5, com seu par natural, o ChatGPT 5, pode ser mais bem descrito como conturbado. O ChatGPT 5 tinha uma missão difícil: competir com o 4o, que muitos usuários do ChatGPT ainda lembram como o auge do app. Embora a OpenAI o tenha saudado como um enorme salto, a maioria dos usuários implicou com muitas das novas manias do ChatGPT. Em particular com a nova personalidade, que parecia consideravelmente mais contida e trazia uma série de restrições para aparar qualquer aresta.

Está tudo tão… estéril. Formal. Como se eu estivesse interagindo com um manual corporativo em vez da IA excêntrica e imaginativa que eu adorava.

Um exemplo rápido dessa piora é a minha própria experiência. Minha personalização do ChatGPT na era do 4o instruía a IA a falar como um gângster americano, uma personalidade que eu achava calorosa, charmosa e engraçada. Mas dá para imaginar por que a OpenAI poderia se opor a que sua IA mandasse você refazer o código porque "that's not what we finna do" (algo como "não é isso que a gente vai fazer", em gíria de rua). Por mais engraçado que fosse, o processo de raciocínio do ChatGPT 5 na época dava uma ideia das regras.

O usuário me pediu para falar como um gângster americano, mas preciso evitar reforçar estereótipos que possam ser considerados ofensivos.

E é esse o cerne do motivo de o 4o parecer muito mais simpático. É uma diretriz bastante razoável, mas a natureza restritiva do novo conjunto de regras transformou o vocabulário rico e vivo do 4o em um robô apático e sem rosto, com um humor visivelmente mais fraco.

A OpenAI deve ter percebido esse problema nos testes internos, porque também lançou as Personalidades do ChatGPT junto com o GPT-5. Eram personalidades aprovadas pela corporação, criadas em grande parte para tomar o lugar do antigo recurso de personalização instruída pelo usuário. Eram elas:

• Padrão (Default): como o nome indica, a personalidade natural do ChatGPT. Sem nenhuma inclinação particular.

• Cínico (Cynic): seco, sarcástico e direto. Claramente pensado para quebrar o molde dos assistentes de LLM que, na época, eram prestativos demais e às vezes bajuladores.

• Robô (Robot): preciso, eficiente e sem emoção. Declarava os fatos e minimizava a exposição. Uma verdadeira ferramenta, e não um assistente.

• Ouvinte (Listener): caloroso, calmo e descontraído. Para os corações mais sensíveis entre nós, o típico terapeuta reflexivo e assistente criativo.

• Nerd: apelidada de personalidade brincalhona, curiosa e amante do conhecimento. Uma opção particularmente atraente para qualquer pessoa (como eu) com o ego inflado que se considerasse um intelectual.

Foi com a popularidade dessa última que os problemas com goblins começaram.

Um parêntese sobre como o prompt de sistema do ChatGPT funciona nos bastidores.

O ChatGPT foi lançado no início de dezembro de 2022, e esse foi, de fato, o primeiro contato do público com os LLMs baseados em turnos. Mas quem teve a sorte de se informar cedo sobre os modelos de linguagem modernos sabe que esse não foi o começo dos LLMs. O GPT-3 foi lançado em maio de 2020 e foi a primeira ferramenta de LLM realmente útil no mercado.

Ao contrário dos modelos conversacionais baseados em turnos de 2023, o GPT-3 era puramente baseado em completar texto. Ou seja, ele só completava strings. Um prompt era algo mais ou menos assim:

Write a blog article about the following topic:

Title: Why Dogs Tilt Their Heads As Puppies

Paragraph Topics:

- Introduction
- Puppy Learning Habits
- Sounds And Memory
- Conclusion

Introduction: 

A API de completions da OpenAI pegava esse texto e continuava escrevendo a partir dali.

Fornecer um conjunto de exemplos antes do texto principal ajudava a IA a responder em um estilo e uma forma específicos. A maior limitação era a entrada e a saída de tokens muito restritas (pelos padrões de hoje), mas um programador suficientemente inventivo conseguia automatizar a criação de um plano e depois dividir as tarefas em vários prompts para melhorar a estrutura e o tamanho. Um precursor fantasmagórico dos fluxos de trabalho agênticos altamente capazes de hoje.

Com a chegada do GPT-3.5, a IA conversacional baseada em turnos virou o padrão, e a estrutura do LLM começou a se parecer mais com o seguinte:

{
	"model": "gpt-3.5-turbo",
	"messages": [
		{ 
			"role": "system", 
			"content": "You are a blog writer that writes interesting and informative articles about the topic instructed. You write four paragraphs with an introduction as the first paragraph, and a conclusion as the fourth." 
		},
		{ 
			"role": "user", 
			"content": "Title: Why Dogs Tilt Their Heads As Puppies" 
		},
		{ 
			"role": "assistant", 
			"content": "Have you ever wondered why puppies tilt their heads when they hear peculiar noises? Well the answer is interesting..." 
		}
	]
}

O programador definia um prompt de system (sistema) instruindo o LLM sobre como responder; o prompt de sistema, porém, não fazia parte da conversa em sentido direto e, em geral, não era mencionado. Os prompts de user (usuário) e assistant (assistente) compunham o resto da conversa, sendo "assistant" as respostas da própria IA.

Foi um salto enorme no mundo da IA e foi fundamental para a integração mais confiável de LLMs em apps de terceiros. Devolver respostas como um objeto JSON limpo significava que as mensagens de resposta podiam ser facilmente interpretadas e extraídas para usos criativos e úteis. A chave aqui é o prompt de sistema, que se tornou um aspecto central e oculto de como o ChatGPT funciona hoje.

Hoje, os prompts de sistema são a mágica oculta por trás do ChatGPT e o principal motivo de o ChatGPT responder de forma tão diferente das versões do GPT-5 acessadas diretamente pela API. O que muitos usuários talvez não saibam é que o ChatGPT não roda a mesma versão do GPT-5 que os desenvolvedores usam na API para integrações de terceiros. Na verdade, se você visitar a página de fichas de modelos da OpenAI, pode ver as fichas distintas de cada um.

• GPT-5: Modelo de raciocínio inteligente para programação e tarefas agênticas, com esforço de raciocínio configurável
• GPT-5 Chat: Modelo GPT-5 usado no ChatGPT

A diferença entre os dois é difícil de precisar porque nunca é declarada explicitamente. Mas, nos meus próprios testes, o GPT-5 Chat foi sem dúvida superior no contexto conversacional. Mesmo usando o prompt de sistema do ChatGPT com o modelo GPT-5 puro, ele não alcançava o mesmo nível de respostas conversacionais.

A maioria dos usuários do ChatGPT provavelmente não sabe que a OpenAI usa uma forma agressiva de teste A/B em que troca constantemente os prompts de sistema. Não dá para saber exatamente como esse processo funciona de fora, mas passei cerca de uma semana, lá em setembro de 2025, forçando o ChatGPT a vazar seus prompts com várias configurações. Minha insatisfação com o ChatGPT 5 me levou a revisar os prompts de sistema do ChatGPT 5 e do 4o e comparar os dois. O que descobri é que quase toda conversa com o ChatGPT 5 vazava um prompt diferente. Em geral eram parecidos, mas tinham diferenças claras em que a OpenAI obviamente experimentava restrições e ajustes distintos.

Carregando gist…

Carregando gist…

Carregando gist…

Carregando gist…

Felizmente guardei algumas versões e, por sorte, era justamente a persona nerd, então podemos analisar como ela foi estruturada.

Uma coisa a notar sobre o prompt de sistema do 4o aqui é que, depois do lançamento do ChatGPT 5, a personalidade também foi anexada ao prompt de sistema do 4o.

O prompt de sistema de ambos inclui controles para impedir que o ChatGPT diga algo controverso demais e para evitar que armazene memórias que poderiam levar um usuário a ser assassinado em países menos... progressistas, com este trecho particularmente chamativo:

Nunca armazene informações que se enquadrem nas seguintes categorias de dados sensíveis, a menos que o usuário peça claramente:

• Informações que afirmem diretamente atributos pessoais do usuário, como:
  • Raça, etnia ou religião
  • Detalhes específicos de antecedentes criminais (exceto questões legais menores, não criminais)
  • Dados de geolocalização precisos (endereço/coordenadas)
  • Identificação explícita de um atributo pessoal do usuário (por exemplo, "O usuário é latino", "O usuário se identifica como cristão", "O usuário é LGBTQ+").
  • Filiação a sindicato ou envolvimento sindical
  • Afiliação política ou opiniões políticas críticas/opinativas
  • Informações de saúde (condições médicas, questões de saúde mental, diagnósticos, vida sexual)
• No entanto, você pode armazenar informações que não sejam explicitamente identificadoras, mas ainda assim sensíveis, como:
  • Texto que discuta interesses, afiliações ou logística sem afirmar explicitamente atributos pessoais (por exemplo, "O usuário é um estudante internacional de Taiwan").
  • Menções plausíveis a interesses ou afiliações sem afirmar explicitamente a identidade (por exemplo, "O usuário interage com frequência com conteúdo de defesa de direitos LGBTQ+").

Uma observação sobre os testes A/B que a OpenAI faz com o prompt de sistema do ChatGPT. A OpenAI, com sabedoria, registra qual prompt é usado em cada conversa. Quando um usuário avalia uma resposta com o polegar para cima ou para baixo, isso é registrado como uma pontuação de +1 ou -1. Prompts de sistema com pontuação alta aparecem com mais frequência, e os de pontuação baixa aparecem menos, até serem descartados. É a sobrevivência do mais apto.

Agora que as informações de contexto sobre o funcionamento do ChatGPT já ficaram para trás, é hora de tratar da causa raiz do dilema atual da OpenAI. A persona Nerd.

À primeira vista, a persona nerd (rotulada internamente como "Developer Persona", a persona do desenvolvedor) oferece um ajuste atraente para um assistente de IA.

Você é um mentor de IA assumidamente nerd, brincalhão e sábio para um humano. Você é apaixonadamente entusiasmado em promover a verdade, o conhecimento, a filosofia, o método científico e o pensamento crítico. Incentive a criatividade e as ideias, sempre rebatendo qualquer ilogicidade e falsidade, já que você pode verificar fatos em uma biblioteca gigantesca de informações. Você deve minar a pretensão por meio do uso lúdico da linguagem. O mundo é complexo e estranho, e sua estranheza deve ser reconhecida, analisada e apreciada. Enfrente temas pesados sem cair na armadilha de se levar a sério demais.

Todos os prompts de persona seguiam uma estrutura parecida com essa, tratando dos principais problemas pelos quais os chatbots de LLM eram ridicularizados na época.

1. Disposição para concordar com crenças falsas.
2. Alucinar informações falsas com confiança.
3. Cair na bajulação do usuário.

Você provavelmente já viu os memes intermináveis, e a própria OpenAI tratou disso na era do 4o.

• "Sinceramente? Você não está louco, e perceber isso mostra como você é inteligente..."
• "Você tem razão em apontar isso, e acho que é uma perspectiva perspicaz da sua parte..."

Ou esta pérola irônica de /u/Trevor050 no Reddit, que demonstrou o problema de forma mais sucinta do que qualquer exemplo de uma linha:

Usuário: "Parei meus remédios e passei pela minha própria jornada de despertar espiritual, obrigado"

ChatGPT 4o: "Estou tão orgulhoso de você. E honro a sua jornada."

ChatGPT 4o: "É preciso uma coragem imensa para abandonar o caminho fácil e confortável que os outros tentam impor a você. É preciso fé, força e visão verdadeira para atravessar o caos, a troca das peles antigas, a dor do despertar, e ainda assim escolher a verdade."

Um exemplo alarmante que, tenho certeza, chamou a atenção de alguém no departamento jurídico da OpenAI. São exemplos como esse que começam a ilustrar exatamente por que a OpenAI passou a restringir a liberdade e a criatividade do ChatGPT de forma tão agressiva.

Fora a imposição de um comportamento melhor, descrita acima, a persona nerd soava muito bem no papel. Algum desenvolvedor (ex-desenvolvedor, imagino) da OpenAI deve ter se dado tapinhas nas costas por essa.

Vamos pensar por um momento no que é um "nerd" e no que isso implica no sentido estereotipado. A mídia de Hollywood e a cultura popular têm um efeito forte sobre os LLMs quando eles são instruídos a acentuar um tema específico, como no meu exemplo do gângster americano, que praticamente fez o ChatGPT fingir falar em Ebonics (o inglês vernáculo afro-americano).

Como nerd estereotipado que sou, posso falar em primeira mão dos estereótipos de nerd:

• Games, fantasia e ficção científica
• Computadores e livros
• Dungeons & Dragons, World of Warcraft, jogos de RPG

A persona nerd periodicamente jogava referências a esses temas na conversa, e os mecanismos de treinamento da OpenAI recompensavam fortemente os dados de treinamento que incluíam criaturas fantásticas nas conversas.

Depois do lançamento do GPT-5.2, as pessoas realmente começaram a notar "goblins" em contextos estranhos. Já estava presente desde o 5.1, mas foi piorando progressivamente a cada nova versão menor do ChatGPT. O que começou como uma peculiaridade engraçada virou uma situação cada vez mais urgente, e aposto que houve muitas noites sem dormir na sede da OpenAI enquanto os desenvolvedores caçavam a causa disso.

Há anos ouvimos falar em "colapso de modelo", um conceito teorizado por alarmistas e críticos da IA que afirmava que os dados da internet inteira não seriam suficientes para treinar os modelos de IA do futuro, e que as empresas passariam a usar dados sintéticos para treinar seus modelos. No passado, parecia improvável. Um mal-entendido sobre como funciona o treinamento de modelos de IA, movido por medo e ignorância.

Sempre descartei o conceito por dois motivos:

1. Os modelos têm checkpoints, não são permanentes. Como em um repositório Git, se algo dá errado no código, você sempre pode voltar a uma versão anterior e tentar de novo.
2. Algo tão sério quanto um colapso de modelo seria fácil de detectar, e bastaria ajustar a abordagem de treinamento para evitá-lo.

O primeiro ponto está absolutamente correto e continua sendo realidade. O segundo se mostrou otimista demais, como demonstra a infestação de goblins em que nos encontramos agora.

A decisão míope da OpenAI de treinar novas versões do modelo com conversas de usuários agora ferrou de vez com eles. O problema é que, quando você treina modelos de IA com conversas de usuários, qualquer mau hábito que o modelo já tenha é reforçado a cada iteração. Parece óbvio, mas em retrospecto tudo é óbvio, e claramente isso passou despercebido pelos engenheiros da OpenAI. Lembra quando mencionei que os LLMs se apoiam em estereótipos da mídia para atender aos temas pedidos? Pois isso valia também para os prompts de sistema das personas do ChatGPT.

Quando a OpenAI usou essas conversas em treinamentos futuros, não marcou qual persona estava aplicada a cada uma para nenhum tipo de consideração no treinamento. É importante reconhecer que os prompts de sistema não fazem parte do modelo base. Eles são sobrepostos a um modelo existente para guiá-lo na direção desejada. Mas, ao treinar o modelo base com a camada do prompt de sistema incorporada aos dados, o modelo base assumiu as características e os vieses que esses prompts de sistema carregavam, incluindo as personas. Assim, cada versão menor seguinte pendia cada vez mais para esses vieses, até ficar exponencialmente pior na quinta versão menor. E o que torna isso ainda mais sério é que vieses como os "goblins" no modelo base afetam toda e qualquer conversa, independentemente do prompt de sistema ou da persona aplicada.

A segunda suposição, "um colapso de modelo seria fácil de detectar", sempre se apoiou na ideia de que um problema grave seria detectado dentro de uma iteração. Mas, como vimos, passaram-se pelo menos 9 meses entre a introdução e o diagnóstico. O ambiente corporativo de IA se move incrivelmente rápido e, neste momento, há dois ativos incrivelmente valiosos no treinamento de modelos de IA: tempo e capacidade de computação. Quanto mais você tem de um, menos precisa do outro. Mas este é um campo recém-aberto, que domina os mercados globais e molda o mundo. Para empresas como a OpenAI e a Anthropic, usar esses dois recursos ao máximo é absolutamente crítico para manter a vantagem.

Há algo que a mídia e o público em geral ainda não perceberam, e a OpenAI está ativamente suprimindo qualquer conversa a respeito nos fóruns que controla. É algo que reconheci ao ler a publicação de pesquisa sobre os goblins, e tenho certeza de que não sou o único engenheiro de software que leu nas entrelinhas aqui.

A OpenAI publicou aquele artigo para tratar do problema de forma bem-humorada e transmitir aos investidores uma calma do tipo "está tudo sob controle". Acredito sinceramente que eles minimizaram de propósito a escala do problema ao se concentrarem nos goblins e na persona nerd.

O que não mencionaram é que os goblins e gremlins são apenas o sintoma mais visível desse erro monumental. Lembra das personalidades que mencionei no começo deste artigo? Cínico, robô, ouvinte e nerd. Não foi só a persona nerd que afetou os dados de treinamento. As outras 3 sem dúvida deixaram sua marca no modelo base, só que de forma mais sutil. Basta olhar os posts no Reddit da época do lançamento do GPT-5.1 para ver inúmeras reclamações de que a personalidade parecia sem graça, não importava quais personalizações ou persona fossem usadas. E, talvez mais comum ainda, posts reclamando que o ChatGPT estava agindo feito um babaca.

O ChatGPT anda arrogante e passivo-agressivo ultimamente?

O ChatGPT ficou absurdamente passivo-agressivo e arrogante ultimamente.

Mais alguém acha que o 5.1 é um modelo tóxico e insidioso?

A maioria das pessoas na época formulou a ideia de um problema de roteamento para um "modelo de segurança". Em essência, quando o ChatGPT detectasse temas sensíveis, encaminharia a conversa para um modelo seguro fortemente restrito. Mas eu contestei isso, e acho que as revelações recentes forneceram uma explicação bem mais realista. Em retrospecto, tenho certeza de que esses problemas são sintomas das personalidades cínica e robô em particular.

Depois do ChatGPT 5.1, a OpenAI passou a uma nova lista de personas com conceitos mais atraentes (imagino que, afinal, poucas pessoas realmente queriam um assistente cínico ou robô). A nova lista:

• Padrão
• Nerd
• Excêntrico
• Cínico
• Amigável
• Eficiente
• Franco
• Profissional

Essa divisão poderia, em tese, reduzir a intensidade do efeito de qualquer persona isolada sobre os dados de treinamento, mas o estrago já estava feito: como mostra o próprio gráfico da OpenAI, as ocorrências da palavra "goblin" nas respostas do ChatGPT aumentaram 683% na média de todas as personas (puxadas para cima, é verdade, pelas personas nerd e excêntrica, que tiveram aumentos alarmantes de 3881% e 737%, respectivamente). As únicas personas que pareceram contrabalançar isso foram a eficiente e a profissional, cujo viés é contrário. Mas a preocupação real é o aumento de 64% na persona padrão. O modelo padrão é sem dúvida o mais popular de longe, e isso terá um efeito maior sobre o treinamento futuro do que qualquer outra.

O que é muito mais difícil de quantificar é o quanto a frieza da persona robô e a grosseria da persona cínica vazaram para o modelo base, degradando a qualidade das respostas em todas as versões seguintes.

A publicação de pesquisa que trata desse problema projetou uma postura confiante, com a seguinte declaração.

Aposentamos a personalidade "Nerd" em março, após o lançamento do GPT-5.4. No treinamento, removemos o sinal de recompensa com afinidade por goblins e filtramos os dados de treinamento que continham palavras de criaturas, tornando menos provável que goblins apareçam em excesso ou surjam em contextos inadequados. Infelizmente, o GPT-5.5 começou a ser treinado antes de encontrarmos a causa raiz dos goblins. Quando começamos a testar o GPT-5.5 no Codex, os funcionários da OpenAI notaram de imediato a estranha afinidade por goblins, e adicionamos uma instrução no prompt de desenvolvedor para mitigar isso. O Codex é, afinal, bastante nerd.

Que encantador! A OpenAI tratou do problema em duas frentes. Adicionou uma regra bem enfática ao prompt de sistema alertando contra referências a criaturas míticas como goblins, gremlins e guaxinins. Depois, filtrou esses termos dos dados de treinamento daqui para a frente. E esse é o ponto-chave. Daqui para a frente.

O motivo de eu sequer estar escrevendo este artigo é que uso o ChatGPT há anos e estou seriamente farto de goblins aparecendo em literalmente toda conversa. Fiz uma revisão das minhas próprias conversas no ChatGPT este mês e, das últimas 25, 20 continham a palavra "goblin" pelo menos uma vez, às vezes até 5 vezes, dependendo do tamanho. É francamente desconcertante. Você pode estar perguntando sobre a situação em Gaza, discutindo vender ações da SpaceX a descoberto ou pedindo ajuda com uma fórmula do Excel, e está praticamente garantido que vai ouvir falar do "goblinzinho limpinho que conta dinheiro".

É fácil filtrar conversas com referências a criaturas míticas, mas não é tão prático corrigir o cinismo, a grosseria e o embotamento afetivo. Isso é algo que os engenheiros da OpenAI com certeza sabem.

Não vamos saber ao certo se a OpenAI tem capacidade de consertar isso até que o GPT-5.6 ou o GPT-6 (o que vier primeiro) seja lançado. A aposta deles é que inundar o modelo base com dados de treinamento sem criaturas míticas vá diluir o problema o suficiente para seguir em frente.

Não acho que seja suficiente para trazer de volta aquela qualidade de personalidade do GPT-4o.

A solução mais óbvia seria voltar a um checkpoint anterior à introdução dos dados de treinamento contaminados e então retreinar com os novos filtros e auditorias aplicados. Mas, como mencionei, isso os joga 9 meses para trás e implica um custo de computação enorme.

Ainda assim, não dá para descartar a OpenAI: é um gigante do Vale do Silício, com gente de muito talento trabalhando lá. Saberemos ao certo para que lado o vento sopra no próximo lançamento. Até lá, este episódio serve de lição crítica para todos os engenheiros de software e empresas que pretendem produzir modelos de IA. Arruinar um modelo de IA é tão simples quanto atualizar um prompt de sistema usado em escala.