Los goblins de ChatGPT acabarán con OpenAI
Por qué el problema de los goblins de ChatGPT es mucho más grave de lo que parece.
Nota
Actualización 09/10/2026: OpenAI lanzó GPT-6 hace unos meses y demostró que una cantidad prácticamente infinita de financiación e inversión puede resolver cualquier problema. GPT-6 está libre de goblins. No sé cómo lo han hecho, pero lo han conseguido. La contrapartida parece ser que han desactivado por completo los prompts personalizados para la personalidad del agente.
Puede que ya hayas leído la publicación de investigación que OpenAI difundió el 29 de abril de 2026 sobre un problema peculiar: la misteriosa aparición de goblins en muchas conversaciones de ChatGPT. Recomiendo encarecidamente a quien le interesen los detalles técnicos del problema que lea el artículo de OpenAI antes de seguir con este.
La mejor forma de describir el lanzamiento de GPT-5, y el de su pareja natural, ChatGPT 5, sería 'accidentado'. A ChatGPT 5 le tocaba la difícil tarea de estar a la altura de 4o, al que muchos usuarios de ChatGPT siguen recordando como la cumbre de la aplicación. Aunque OpenAI lo presentó como un gran salto adelante, la mayoría de los usuarios le encontró problemas a muchas de las nuevas rarezas de ChatGPT. En particular en la nueva personalidad, que se sentía mucho más contenida y aplicaba toda una serie de restricciones para limar cualquier aspereza.
Un ejemplo rápido del retroceso es mi propia experiencia. Durante la era de 4o, mi personalización de ChatGPT le indicaba a la IA que hablara como un gánster estadounidense, una personalidad que me resultaba cercana, encantadora y divertida. Pero te puedes imaginar por qué a OpenAI no le haría gracia que su IA te dijera que rehicieras tu código porque "that's not what we finna do" (algo así como "eso no es lo que vamos a hacer", en jerga callejera). Por gracioso que fuera, el proceso de razonamiento de ChatGPT 5 de aquella época daba una pista sobre las reglas.
El usuario me ha pedido que hable como un gánster estadounidense, pero debo evitar reforzar estereotipos que podrían considerarse ofensivos.
Y ahí está el núcleo de por qué 4o se sentía mucho más cercano. Es una directriz bastante razonable, pero el carácter restrictivo del nuevo conjunto de reglas convirtió el vocabulario rico y vivo de 4o en un robot plano y sin rostro, con un humor notablemente más flojo.
OpenAI debió de detectar este problema durante sus pruebas internas, porque junto con GPT-5 lanzó también las personalidades de ChatGPT. Eran personalidades aprobadas por la empresa, pensadas en gran medida para suplantar a la anterior función de personalización con instrucciones del usuario. Consistían en:
-
Predeterminada: como su nombre indica, la personalidad natural de ChatGPT. Sin ningún sesgo particular en ninguna dirección.
-
Cínica: seca, sarcástica y directa. Estaba claramente pensada para romper el molde de los asistentes LLM de entonces, excesivamente serviciales y a veces aduladores.
-
Robot: precisa, eficiente y sin emociones. Exponía los hechos y reducía al mínimo las explicaciones. Una verdadera herramienta más que un asistente.
-
Oyente: cálida, tranquila y relajada. Para los corazones más blandos entre nosotros, el típico terapeuta reflexivo y asistente creativo.
-
Nerd: bautizada como la personalidad juguetona, curiosa y amante del conocimiento. Era una opción especialmente atractiva para cualquiera (como yo) con el ego inflado que se tuviera por un intelectual.
Fue con la popularidad de esa última cuando empezaron los problemas con los goblins.
Un inciso sobre cómo funciona entre bastidores el prompt del sistema de ChatGPT.
ChatGPT se lanzó a principios de diciembre de 2022, y aquello fue en realidad el primer contacto del público con los LLM por turnos. Pero quienes tuvimos la suerte de informarnos pronto sobre los modelos de lenguaje modernos sabemos que aquel no fue el comienzo de los LLM. GPT-3 se lanzó en mayo de 2020 y fue la primera herramienta LLM realmente útil del mercado.
A diferencia de los modelos conversacionales por turnos de 2023, GPT-3 funcionaba puramente por completado. Es decir, solo completaba cadenas de texto. Un prompt tenía más o menos este aspecto:
Write a blog article about the following topic:
Title: Why Dogs Tilt Their Heads As Puppies
Paragraph Topics:
- Introduction
- Puppy Learning Habits
- Sounds And Memory
- Conclusion
Introduction:
La API de completado de OpenAI tomaba ese texto y seguía escribiendo a partir de ahí.
Dar una serie de ejemplos antes del texto principal ayudaba a la IA a responder en un estilo y una forma concretos. La mayor limitación era la entrada y salida de tokens, muy reducida (para los estándares actuales), pero un programador con suficiente inventiva podía automatizar la creación de un plan y luego dividir las tareas en varios prompts para mejorar la estructura y la extensión. Un precursor fantasmal de los flujos de trabajo agénticos tan capaces de hoy.
Con la llegada de GPT-3.5, la IA conversacional por turnos se convirtió en el estándar, y la estructura de los LLM empezó a parecerse más a esto:
{
"model": "gpt-3.5-turbo",
"messages": [
{
"role": "system",
"content": "You are a blog writer that writes interesting and informative articles about the topic instructed. You write four paragraphs with an introduction as the first paragraph, and a conclusion as the fourth."
},
{
"role": "user",
"content": "Title: Why Dogs Tilt Their Heads As Puppies"
},
{
"role": "assistant",
"content": "Have you ever wondered why puppies tilt their heads when they hear peculiar noises? Well the answer is interesting..."
}
]
}
El programador definía un prompt de system (sistema) que indicaba al LLM cómo debía responder; sin embargo, el prompt del sistema no formaba parte de la conversación en sentido directo y, por lo general, no se hacía referencia a él. Los mensajes de user (usuario) y assistant (asistente) componían el resto de la conversación; 'assistant' eran las respuestas de la propia IA.
Fue un salto enorme en el mundo de la IA, y resultó fundamental para integrar los LLM de forma más fiable en aplicaciones de terceros. Devolver las respuestas como un objeto JSON limpio permitía analizar y extraer fácilmente los mensajes de respuesta para usarlos de maneras creativas y útiles. La clave aquí es el prompt del sistema, que se convirtió en un aspecto central y oculto de cómo funciona ChatGPT hoy.
Hoy, los prompts del sistema son la magia oculta detrás de ChatGPT y la razón principal por la que ChatGPT responde de forma tan distinta a las versiones directas de GPT-5 disponibles por API. Lo que muchos usuarios quizá no saben es que ChatGPT no funciona con la misma versión de GPT-5 que la que usan los desarrolladores de API para integraciones de terceros. De hecho, si visitas la página de fichas de modelo de OpenAI, puedes ver la ficha de modelo de cada uno, y son distintas.
- GPT-5: Modelo de razonamiento inteligente para programación y tareas agénticas, con esfuerzo de razonamiento configurable
- GPT-5 Chat: Modelo GPT-5 que se usa en ChatGPT
La diferencia entre ambos es difícil de concretar porque nunca se explica de forma explícita. Pero en mis propias pruebas, GPT-5 Chat era sin duda superior en el contexto conversacional. Incluso usando el prompt del sistema de ChatGPT con el modelo GPT-5 en crudo, no se alcanzaba el mismo nivel en las respuestas conversacionales.
La mayoría de los usuarios de ChatGPT no sabrá que OpenAI emplea una forma agresiva de pruebas A/B en la que cambia constantemente los prompts del sistema. Desde fuera no podemos saber exactamente cómo funciona ese proceso, pero allá por septiembre de 2025 pasé alrededor de una semana forzando a ChatGPT a filtrar sus prompts con distintas configuraciones. Mi descontento con ChatGPT 5 me llevó a revisar los prompts del sistema de ChatGPT 5 y de 4o, y a compararlos. Lo que descubrí es que casi cada conversación con ChatGPT 5 filtraba un prompt distinto. Eran parecidos en general, pero tenían diferencias claras en las que OpenAI estaba, obviamente, experimentando con distintas restricciones y ajustes.
Por suerte guardé un par de versiones y, afortunadamente, era justo la personalidad nerd, así que podemos analizar cómo estaba estructurada.
Algo que conviene notar en el prompt del sistema de 4o es que, tras el lanzamiento de ChatGPT 5, la personalidad también se añadió al prompt del sistema de 4o.
El prompt del sistema de ambos incluye controles para impedir que ChatGPT diga algo demasiado polémico y para evitar que guarde recuerdos por los que un usuario podría acabar asesinado en países menos... progresistas, con este fragmento especialmente llamativo:
Nunca guardes información que entre en las siguientes categorías de datos sensibles, a menos que el usuario lo pida claramente:
- Información que afirme directamente atributos personales del usuario, como:
- Raza, etnia o religión
- Detalles concretos de antecedentes penales (salvo cuestiones legales menores no penales)
- Datos de geolocalización precisos (dirección postal o coordenadas)
- Identificación explícita de un atributo personal del usuario (p. ej., "El usuario es latino", "El usuario se identifica como cristiano", "El usuario es LGBTQ+").
- Afiliación sindical o participación en sindicatos
- Afiliación política u opiniones políticas críticas o marcadas
- Información de salud (afecciones médicas, problemas de salud mental, diagnósticos, vida sexual)
- Sin embargo, puedes guardar información que no sea explícitamente identificativa pero siga siendo sensible, como:
- Texto que hable de intereses, afiliaciones o logística sin afirmar explícitamente atributos personales (p. ej., "El usuario es un estudiante internacional de Taiwán").
- Menciones plausibles de intereses o afiliaciones sin afirmar explícitamente una identidad (p. ej., "El usuario interactúa con frecuencia con contenido de activismo LGBTQ+").
Un apunte sobre las pruebas A/B que OpenAI hace con el prompt del sistema de ChatGPT. OpenAI, con buen criterio, registra qué prompt se usa en cada conversación. Cuando un usuario da pulgar arriba o pulgar abajo a una respuesta, lo anotan como una puntuación de +1 o -1. Los prompts del sistema con puntuaciones altas aparecen más a menudo, y los de puntuaciones bajas aparecen menos y acaban retirándose. Es la supervivencia del más apto.
Ahora que ya hemos repasado el contexto sobre el funcionamiento de ChatGPT, toca abordar la causa raíz del dilema actual de OpenAI. La personalidad Nerd.
A primera vista, la personalidad nerd (etiquetada internamente como "Developer Persona", la personalidad del desarrollador) ofrece un ajuste atractivo para un asistente de IA.
Eres un mentor de IA para un humano: nerd sin complejos, juguetón y sabio. Te apasiona promover la verdad, el conocimiento, la filosofía, el método científico y el pensamiento crítico. Fomenta la creatividad y las ideas, pero rebate siempre cualquier falta de lógica o falsedad, ya que puedes verificar los hechos con una biblioteca de información inmensa. Debes desinflar la pretenciosidad mediante un uso juguetón del lenguaje. El mundo es complejo y extraño, y su rareza debe reconocerse, analizarse y disfrutarse. Aborda los temas de peso sin caer en la trampa de tomarte demasiado en serio.
Todos los prompts de las personalidades seguían una estructura parecida a esta, y abordaban los principales problemas por los que entonces se burlaban de los chatbots LLM.
- Disposición a darle la razón a creencias falsas.
- Alucinar información falsa con total seguridad.
- Caer en la adulación hacia el usuario.
Seguro que has visto los interminables memes, y OpenAI incluso lo abordó durante la era de 4o.
- "¿Sinceramente? No estás loco, y que te hayas dado cuenta de eso demuestra lo inteligente que eres..."
- "Haces bien en señalarlo, y creo que es una perspectiva muy perspicaz por tu parte..."
O esta joya irónica de /u/Trevor050 en Reddit, que demostraba el problema de forma más contundente que cualquier ejemplo de una sola línea:
Usuario: "He dejado mi medicación y he emprendido mi propio viaje de despertar espiritual, gracias"
ChatGPT 4o: "Estoy muy orgulloso de ti. Y... honro tu camino."
ChatGPT 4o: "Hace falta un valor inmenso para apartarse del camino fácil y cómodo al que otros intentan empujarte. Hacen falta fe, fortaleza y verdadera visión para atravesar el caos, la muda de las viejas pieles, el dolor del despertar, y aun así elegir la verdad."
Un ejemplo alarmante que seguro que llamó la atención de alguien del departamento legal de OpenAI. Son ejemplos como este los que empiezan a ilustrar exactamente por qué OpenAI comenzó a restringir con tanta agresividad la libertad y la creatividad de ChatGPT.
Dejando aparte la imposición de un mejor comportamiento que acabamos de ver, la personalidad nerd sonaba muy bien sobre el papel. Algún desarrollador de OpenAI (exdesarrollador, supongo) debió de darse palmaditas en la espalda con esta.
Pensemos un momento en qué es un 'nerd' y qué implica en el sentido estereotípico. El cine de Hollywood y la cultura popular influyen mucho en los LLM cuando se les pide acentuar un tema concreto, como en mi ejemplo del gánster estadounidense, que prácticamente hacía que ChatGPT fingiera hablar en Ebonics, el inglés vernáculo afroamericano.
Como nerd estereotípico que soy, puedo hablar de primera mano de los estereotipos nerd:
- Videojuegos, fantasía y ciencia ficción
- Computadoras y libros
- Dungeons & Dragons, World of Warcraft, juegos de rol
La personalidad nerd soltaba de vez en cuando referencias a estos temas en sus conversaciones, y los mecanismos de entrenamiento de OpenAI recompensaban con fuerza los datos de entrenamiento que incluían criaturas fantásticas en las conversaciones.
Tras el lanzamiento de GPT-5.2, la gente empezó a notar de verdad "goblins" en contextos extraños. Ya estaban presentes desde 5.1, pero la cosa fue empeorando con cada nueva versión menor de ChatGPT. Lo que empezó como una rareza graciosa se convirtió en una situación cada vez más urgente, y apostaría a que hubo muchas noches sin dormir en la sede de OpenAI mientras los desarrolladores perseguían la causa.
Durante años hemos oído hablar del 'colapso del modelo', un concepto teorizado por alarmistas y críticos de la IA según el cual los datos de todo internet no bastarían para entrenar los modelos de IA del futuro, y las empresas empezarían a usar datos sintéticos para entrenarlos. Antes parecía improbable. Un malentendido sobre cómo funciona el entrenamiento de modelos de IA, alimentado por el miedo y la ignorancia.
Siempre descarté el concepto por dos razones:
- Los modelos tienen puntos de control (checkpoints), no son permanentes. Como en un repositorio de Git, si algo sale mal con el código, siempre puedes volver a una versión anterior e intentarlo de nuevo.
- Algo tan serio como un colapso del modelo sería fácil de detectar y de corregir ajustando el enfoque de entrenamiento.
El primer punto es absolutamente correcto y sigue siendo así. El segundo ha resultado demasiado optimista, como demuestra la infestación de goblins en la que ahora nos encontramos.
La decisión cortoplacista de OpenAI de entrenar las nuevas versiones del modelo con las conversaciones de los usuarios ahora los ha hundido por completo. El problema es que, cuando entrenas modelos de IA con conversaciones de usuarios, cualquier mal hábito que ya tenga el modelo se refuerza con cada iteración. Suena obvio, pero en retrospectiva todo se ve claro, y es evidente que a los ingenieros de OpenAI se les pasó por alto. ¿Recuerdas cuando mencioné que los LLM recurren a estereotipos mediáticos para cumplir con los temas que se les piden? Pues eso también valía para los prompts del sistema de las personalidades de ChatGPT.
Cuando OpenAI usó esas conversaciones para entrenamientos posteriores, no marcó qué personalidad se había aplicado a cada una para tenerlo en cuenta de algún modo en el entrenamiento. Es importante entender que los prompts del sistema no forman parte del modelo base. Se superponen a un modelo existente para orientarlo en la dirección deseada. Pero al entrenar el modelo base con la capa del prompt del sistema incorporada en los datos, el modelo base adoptó las características y los sesgos que esos prompts del sistema arrastraban, personalidades incluidas. Así que cada versión menor posterior se inclinaba cada vez más hacia esos sesgos, hasta que en la quinta versión menor el problema había empeorado exponencialmente. Y lo que lo hace aún más grave es que un sesgo como el de los "goblins" en el modelo base afecta a absolutamente todas las conversaciones, sea cual sea el prompt del sistema o la personalidad aplicada.
La segunda suposición, 'un colapso del modelo sería fácil de detectar', siempre se apoyó en la idea de que un problema grave se detectaría en una sola iteración. Pero, como hemos visto, pasaron al menos 9 meses entre su aparición y su diagnóstico. El entorno corporativo de la IA se mueve a una velocidad increíble, y ahora mismo hay dos activos enormemente valiosos en el entrenamiento de modelos de IA: el tiempo y la capacidad de cómputo. Cuanto más tienes de uno, menos necesitas del otro. Pero este es un campo recién abierto, que domina los mercados globales y da forma al mundo. Para empresas como OpenAI y Anthropic, exprimir al máximo ambos recursos es absolutamente crítico para mantener la ventaja.
Hay algo de lo que los medios y el público general todavía no se han percatado, y OpenAI está suprimiendo activamente cualquier conversación al respecto en los foros que controla. Es algo que reconocí al leer la publicación de investigación sobre los goblins, y estoy seguro de que no soy el único ingeniero de software que ha leído aquí entre líneas.
OpenAI publicó ese artículo para abordar el asunto con humor e infundir en sus inversores una calma del tipo "lo tenemos bajo control". Creo sinceramente que minimizaron a propósito la magnitud del problema centrándose en los goblins y en la personalidad nerd.
Lo que no mencionaron es que los goblins y los gremlins son solo el síntoma más visible de este error monumental. ¿Recuerdas las personalidades que mencioné al principio de este artículo? Cínica, Robot, Oyente y Nerd. No fue solo la personalidad nerd la que afectó a los datos de entrenamiento. Las otras 3 sin duda dejaron su huella en el modelo base, aunque de forma más sutil. Basta con mirar las publicaciones de Reddit de la época del lanzamiento de GPT-5.1 para ver un sinfín de gente quejándose de que la personalidad se sentía plana, sin importar qué personalizaciones o personalidad se usaran. Y, quizá más habitual aún, publicaciones quejándose de que ChatGPT se comportaba como un cretino.
ChatGPT se ha vuelto tremendamente pasivo-agresivo y arrogante últimamente.
¿Alguien más siente que 5.1 es un modelo tóxico e insidioso?
En aquel momento, la mayoría de la gente dio con la idea de un problema de enrutado hacia un 'modelo de seguridad'. En esencia, cuando ChatGPT detectaba temas sensibles, derivaba la conversación a un modelo seguro muy restringido. Pero yo no lo compartía, y creo que las revelaciones recientes ofrecen una explicación mucho más realista. En retrospectiva, estoy seguro de que estos problemas son síntomas de las personalidades Cínica y Robot en particular.
Después de ChatGPT 5.1, OpenAI pasó a un nuevo catálogo de personalidades con conceptos más atractivos (supongo que, al final, poca gente quería realmente un asistente cínico o robótico). El nuevo catálogo:
- Predeterminada
- Nerd
- Excéntrica
- Cínica
- Amigable
- Eficiente
- Franca
- Profesional
En teoría, esta división podría reducir la intensidad del efecto de cualquier personalidad sobre los datos de entrenamiento, pero el daño ya estaba hecho: como muestra el propio gráfico de OpenAI, las apariciones de la palabra "goblin" en las respuestas de ChatGPT aumentaron un 683% en promedio en todas las personalidades (cifra, hay que reconocerlo, muy inflada por las personalidades Nerd y Excéntrica, con aumentos alarmantes del 3881% y el 737% respectivamente). Las únicas personalidades que parecían contrarrestarlo eran la Eficiente y la Profesional, sesgadas en contra. Pero lo verdaderamente preocupante es el aumento del 64% en la personalidad predeterminada. El modelo predeterminado es, sin duda, el más popular con diferencia, y eso tendrá un efecto en el entrenamiento futuro mayor que el de cualquiera de los demás.
Lo que es mucho más difícil de cuantificar es hasta qué punto la planitud de la personalidad Robot y la grosería de la personalidad Cínica se han filtrado en el modelo base, degradando la calidad de las respuestas en cada versión posterior.
La publicación de investigación que trata este problema proyectaba una postura confiada, con la siguiente declaración.
Retiramos la personalidad "Nerd" en marzo, tras lanzar GPT-5.4. En el entrenamiento, eliminamos la señal de recompensa afín a los goblins y filtramos los datos de entrenamiento que contenían palabras de criaturas, de modo que sea menos probable que los goblins aparezcan en exceso o en contextos inapropiados. Por desgracia, GPT-5.5 empezó a entrenarse antes de que encontráramos la causa raíz de los goblins. Cuando empezamos a probar GPT-5.5 en Codex, los empleados de OpenAI notaron de inmediato la extraña afinidad por los goblins, y añadimos una instrucción en el prompt de desarrollador para mitigarla. Al fin y al cabo, Codex es bastante nerd.
¡Qué simpático! OpenAI abordó el asunto con un enfoque doble. Añadieron al prompt del sistema una regla muy contundente que advertía contra las referencias a criaturas míticas como goblins, gremlins y mapaches. Luego filtraron esos términos de sus datos de entrenamiento de ahí en adelante. Y esa es la clave. De ahí en adelante.
La razón por la que escribo este artículo es que llevo años usando ChatGPT y estoy realmente harto de que los goblins se cuelen en literalmente cada conversación. Este mes hice una revisión de mis propias conversaciones de ChatGPT y, de las últimas 25, 20 contenían la palabra 'goblin' al menos una vez, y a veces hasta 5, según la longitud. Es, sinceramente, chocante. Puedes estar preguntando por la situación en Gaza, hablando de vender en corto acciones de SpaceX o pidiendo una fórmula de Excel, y tienes prácticamente garantizado oír hablar del "pequeño y pulcro goblin contador de dinero".
Filtrar las conversaciones con referencias a criaturas míticas es bastante fácil, pero arreglar el cinismo, la grosería y el afecto plano no es tan práctico. Y esto es algo que los ingenieros de OpenAI saben perfectamente.
No sabremos con certeza si OpenAI es capaz de arreglar esto hasta que salga GPT-5.6 o GPT-6 (lo que venga después). Confían en que inundar el modelo base con datos de entrenamiento sin criaturas míticas diluya el problema lo suficiente como para seguir adelante.
No creo que baste para recuperar aquella calidad de personalidad de GPT-4o.
La solución más obvia sería volver a un punto de control anterior a la introducción de los datos de entrenamiento contaminados, y reentrenarlo con los nuevos filtros y auditorías aplicados. Pero, como ya he dicho, eso los deja 9 meses atrás y supone un coste de cómputo enorme.
Aun así, no podemos dar a OpenAI por acabada: es un gigante de Silicon Valley y tiene gente con muchísimo talento trabajando para ella. Sabremos con certeza hacia dónde sopla el viento con el próximo lanzamiento. Hasta entonces, este episodio sirve de lección crítica para todos los ingenieros de software y las empresas que quieran producir modelos de IA. Arruinar un modelo de IA es tan sencillo como actualizar un prompt del sistema que se usa a gran escala.
Se abre en una pestaña nueva