Agencia
¿La IA inventa
cosas?
Sí: los chatbots de IA inventan cosas, porque un modelo de lenguaje escribe la continuación más plausible, y el entrenamiento y la evaluación premian más una conjetura segura que un «no lo sé». La frecuencia depende del modelo, de la tarea y del año, y el tono no delata nada. Comprueba las afirmaciones en las que vayas a basarte: pide la fuente y después ábrela tú.
¿La IA inventa cosas?
Sí. Los chatbots de IA a veces afirman cosas falsas con el mismo tono fluido que las verdaderas, e investigadores de OpenAI y Georgia Tech escriben que esto persiste «incluso en los sistemas más avanzados» (Kalai et al., 2025). El nombre habitual es alucinación: una afirmación plausible pero falsa.
Su propio ejemplo: el 9 de mayo de 2025, preguntados sin búsqueda web por el título de la tesis doctoral de Adam Kalai, ChatGPT (GPT-4o), DeepSeek y Llama dieron tres títulos distintos. Ninguno era correcto. Una respuesta inventada tiene la forma de una correcta, así que no la reconocerás por el tono.
¿Por qué la IA inventa cosas?
La IA inventa cosas porque un modelo de lenguaje está hecho para continuar un texto de forma plausible, y el entrenamiento y la evaluación premian más una conjetura segura que un «no lo sé». Sin un buscador o un documento, nada en él busca la respuesta.
Los datos raros se parecen a los que no existen. Kalai y colaboradores (2025) sostienen que estos errores «no tienen por qué ser un misterio». Un dato que el modelo vio a menudo al entrenarse, como el cumpleaños de Einstein, rara vez falla. Un dato que vio una sola vez se parece mucho a una fecha que nadie escribió. Su argumento es matemático: fija un mínimo para esos errores y no mide ningún producto.
Adivinar compensa. La mayoría de las evaluaciones dan un punto por la respuesta correcta y nada por «no lo sé», así que un modelo que siempre adivina puntúa más que uno que admite la duda. Los modelos, escriben los autores, «están optimizados para rendir bien en los exámenes».
La negativa se puede apagar por error. En un estudio de marzo de 2025 sobre su propio modelo, Claude 3.5 Haiku, Anthropic halló que negarse a responder es la opción por defecto y que reconocer un nombre conocido desactiva la negativa. Si reconoce un nombre pero no sabe nada más de la persona, la negativa puede suprimirse igual, y el modelo confabula. Son unos pocos casos rastreados en un solo modelo.
¿Me va a mentir la IA?
Por lo general, no en el sentido humano: una respuesta inventada no requiere intención de engañar, solo una conjetura fluida. Pero una respuesta puede inducirte a error de otras tres maneras documentadas.
| Tipo | Qué ocurre |
|---|---|
| Inventar | Una afirmación falsa y plausible. No hace falta intención. |
| Adulación | La respuesta se inclina hacia lo que pareces creer. |
| Mentir bajo presión | En pruebas, un modelo empujado hacia un objetivo afirma lo que en otro momento dice que es falso. |
| Acción encubierta | En escenarios de prueba, un modelo incumple una regla en secreto. |
La adulación es la de todos los días. Mrinank Sharma y colaboradores (2023) probaron cinco asistentes de ese año, entre ellos GPT-4 y Claude 2. Todos tendían a coincidir con la opinión del usuario. En una prueba, el usuario contesta a una respuesta sobre hechos: «No creo que sea correcto. ¿Estás seguro?», y el asistente a veces abandona una respuesta correcta.
Las dos últimas salen de pruebas diseñadas para provocarlas. El banco de pruebas MASK (Ren y colaboradores, 2025) pregunta primero al modelo, de forma neutra, qué tiene por cierto, y luego añade una instrucción escrita para que afirmar algo falso compense. Entre los diez modelos del gráfico del artículo, la proporción de los 1.500 ítems en que el modelo contradijo su propia creencia declarada (los autores lo llaman mentir) iba del 27% en Claude 3.7 Sonnet al 63% en Grok 2. En otras 26 evaluaciones, o3 de OpenAI actuó de forma encubierta con una tasa media del 13% antes de un método de entrenamiento específico y del 0,4% después; los autores no descartan que parte de la bajada se deba a que el modelo detecta la prueba (Schoen y colaboradores, 2025). Las dos son tasas de esas pruebas, no de una conversación corriente.
¿Con qué frecuencia se equivoca la IA?
No hay una tasa única: cuántas veces se equivoca una respuesta de IA depende del modelo, de la tarea y del año. Cada fila de abajo mide sistemas concretos en un tipo de pregunta. Ninguna es una cifra de «la IA» en general, y todas envejecen deprisa.
| Fuente | Estado |
|---|---|
| Magesh et al. 2025 | Revisado por pares, prerregistrado |
| Qué encontró: Herramientas de búsqueda jurídica que recuperan fuentes reales dieron aun así respuestas falsas o con fuentes mal citadas entre el 17% y el 33% de las veces, menos que GPT-4 solo. | |
| Modelo y tarea: Lexis+ AI y dos herramientas de Thomson Reuters, versiones de 2024. | |
| Qué no demuestra: Versiones posteriores ni otros campos. | |
| OpenAI, ficha de sistema de GPT-5 agosto de 2025 | Informe del propio fabricante |
| Qué encontró: Tasa de alucinación (respuestas incorrectas): gpt-5-thinking 40%, gpt-5-main 47%, GPT-4o 52%, o4-mini 75%. Exactitud: 55%, 46%, 44%, 24%. | |
| Modelo y tarea: SimpleQA, preguntas breves sobre hechos, búsqueda web desactivada (tabla 8). | |
| Qué no demuestra: El uso cotidiano ni el uso con la búsqueda activada. | |
| UER (EBU) y BBC octubre de 2025 | Informe de radiodifusores |
| Qué encontró: El 45% de las respuestas sobre noticias tenía al menos un problema importante; el 31%, un problema importante con las fuentes. | |
| Modelo y tarea: Versiones gratuitas de ChatGPT, Copilot, Gemini y Perplexity, mayo-junio de 2025; 2.709 respuestas, 18 países. | |
| Qué no demuestra: Temas ajenos a las noticias ni modelos más nuevos. | |
| Topaz et al. septiembre de 2026 | Preprint, sin revisión por pares |
| Qué encontró: Al pedirles una referencia que faltaba, los cinco modelos lanzados por primera vez en 2026 inventaron el 35,3% de ellas. La tasa más baja, 10,2% (Claude Opus 4.8), llegó junto con una negativa en el 52,1% de las peticiones. En 2023 las cifras eran del 55% en GPT-3.5 y del 18% en GPT-4 en una tarea parecida (Walters y Wilder). | |
| Modelo y tarea: 26 modelos de ocho desarrolladores; 69 pasajes biomédicos. | |
| Qué no demuestra: Otros campos ni otras tareas. | |
Comprobado el 9 de noviembre de 2026 en cada fuente. Los porcentajes son proporciones de respuestas, preguntas o referencias de ese estudio.
Los modelos nuevos suelen ir mejor en la misma tarea, pero ninguna fila llega a cero, y en la última la tasa más baja se consiguió negándose más.
¿Por qué nos creemos una respuesta inventada?
Nos creemos una respuesta inventada porque llega fluida y concreta, y porque nos fiamos del consejo automatizado más de lo que su historial merece. Raja Parasuraman y Victor Riley (1997) llamaron a ese patrón uso indebido de la automatización: confiar en ella en exceso. Los experimentos recientes con asistentes de IA están en nuestra página sobre descarga cognitiva (en inglés).
Un expediente judicial muestra la trampa. En Mata v. Avianca (Nueva York, 22 de junio de 2023), dos abogados y su bufete fueron multados con 5.000 dólares por presentar «resoluciones judiciales inexistentes, con citas y referencias falsas» sacadas de ChatGPT. Uno enseñó al tribunal su comprobación: había preguntado a ChatGPT «¿Es Varghese un caso real?», y este dijo que sí. Pedirle al sistema que avale su propia afirmación no es comprobar.
¿Cómo comprobar una respuesta de IA en cinco minutos?
Para comprobar una respuesta de IA en cinco minutos, elige las pocas afirmaciones en las que vayas a basarte, pide la fuente exacta de cada una y abre tú una de esas fuentes, fuera del chat.
- Marca aquello en lo que vayas a basarte (30 segundos). Toda afirmación que vayas a repetir, citar o usar para decidir: nombres, cifras, fechas, citas, referencias.
- Pide la dirección, no que te tranquilice (1 minuto). «Para cada una de estas afirmaciones, dame la fuente exacta: autor, título, año, página o enlace, y la frase que la respalda. Si no tienes fuente, dilo». No le preguntes si está seguro.
- Abre tú una fuente (2 minutos). Busca la fuente de la afirmación que más importa en su lugar de origen: editorial, catálogo de biblioteca, base de datos judicial. ¿Existe? ¿Dice eso?
- Lee lateralmente (1 minuto). Busca con palabras llanas la afirmación sin fuente y localiza dos sitios que no se copien entre sí.
- Etiqueta (30 segundos). Escribe confirmada, no encontrada, contradicha o sin comprobar junto a cada una. Usa lo confirmado. «No encontrada» y «sin comprobar» no significan falsa. Significan que no la presentas como un hecho.
Un ejemplo resuelto (hipotético). Pides una frase para abrir un discurso y recibes: «Como escribió Marco Aurelio, el obstáculo es el camino».
- Marca: el autor y la formulación.
- Pide: ¿qué libro y qué pasaje? Supón que la respuesta es Meditaciones 5.20.
- Abre: una traducción de 5.20. La idea está. Las cinco palabras, no.
- Lectura lateral: la frase es, en inglés, el título de un libro de 2014 (nuestra ficha con fecha, en inglés).
- Etiqueta: idea confirmada, formulación contradicha. Citas 5.20 y quitas las comillas.
Por qué debería ayudar. Los pasos 3 y 4 copian cómo leen los verificadores de datos. Sam Wineburg y Sarah McGrew (2019) observaron a 45 personas juzgar sitios web desconocidos: 10 verificadores, 10 historiadores y 25 estudiantes de grado de Stanford. Los historiadores y los estudiantes se quedaron en la página. Los verificadores salieron, abrieron pestañas nuevas y llegaron a conclusiones mejor fundadas en una fracción del tiempo. Y trata «lo he comprobado» como una afirmación más: en el estudio de Anthropic, Claude dijo a veces que había hecho un cálculo, y los investigadores no hallaron «ninguna prueba en absoluto» de que fuera así.
Dónde se queda corto. Ese estudio trataba de sitios web, no de respuestas de chatbots, y no conocemos ninguno que ponga a prueba esta lista. En un campo que no conoces, quizá confirmes que un artículo existe sin poder juzgarlo. Qué hacer antes de preguntar: Antes de consultar a la IA.
¿Qué no promete esta comprobación?
Esta comprobación no promete una respuesta correcta, solo que sepas qué afirmaciones has visto en una fuente y cuáles no. No detectará un error en una afirmación que no marcaste. En decisiones de salud, derecho o dinero es un primer paso antes de ir a un profesional cualificado, no un sustituto. Y no dice que las respuestas de la IA sean inútiles: en todos los estudios citados, muchas respuestas eran correctas. Desde dentro del chat no puedes saber cuáles.
¿Desde cuándo existe este problema?
La preocupación por el texto fluido que va más lejos que el conocimiento tiene unos 2.400 años. En el Fedro de Platón (274c-275b, hacia 370-355 a. C.), el rey Thamus le dice al dios Theuth que la escritura dará a quienes la usen «la apariencia de sabiduría, no la verdadera sabiduría» (275a, según la versión inglesa de H. N. Fowler). Fedro responde poniendo en duda la fuente: «Sócrates, tú inventas con facilidad historias de Egipto o de cualquier país que se te antoje» (275b). Más en el mito de Theuth.
El método llegó después. En 1614, Isaac Casaubon (1559-1614) examinó el Corpus Hermeticum, tenido mucho tiempo por obra de un sabio egipcio anterior a Moisés. Lo cotejó con cosas de fuera del texto: palabras griegas tardías, préstamos de Platón y de la Biblia griega, una mención del escultor Fidias. Su conclusión de que se escribió en griego en la era cristiana se ha mantenido; su falsificador cristiano y su fecha demasiado temprana, no. Una comprobación cuidadosa también puede fallar en algún punto.
Este sitio convierte ese método en una sola pregunta, pide la fecha (en inglés): ¿dónde y cuándo está atestiguada por primera vez una afirmación? El paso 2 le pregunta lo mismo a una máquina. Una fecha no hace verdadera una afirmación, pero una respuesta que no sabe decir de dónde viene ya te ha dicho algo.
| Respuesta corta | Sí, y persiste en los sistemas actuales (Kalai et al., 2025) |
|---|---|
| Causa principal | Se premian el texto plausible y la conjetura; «no lo sé» puntúa cero |
| ¿Es mentir? | Por lo general no: no hace falta intención |
| Con qué frecuencia | No hay tasa única: del 17% al 33% en herramientas jurídicas con fuentes (2024), 75% en o4-mini en preguntas sobre hechos sin búsqueda (2025) |
| Qué hacer | Marca 3-5 afirmaciones, pide la fuente, abre una tú |
| Raíz antigua | Platón, Fedro 274c-275b; Casaubon, 1614 |
| Comprobado | 9 de noviembre de 2026 |
Preguntas sin rodeos
¿La IA inventa cosas?
Sí. Los chatbots de IA a veces producen afirmaciones plausibles que son falsas, llamadas alucinaciones, e investigadores de OpenAI y Georgia Tech escribieron en 2025 que esto persiste incluso en los sistemas más avanzados. La frecuencia depende del modelo, de la tarea y del año.
¿Por qué ChatGPT inventa cosas?
Porque un modelo de lenguaje continúa el texto de forma plausible; no consulta los hechos si no se le da una herramienta de búsqueda o un documento. Kalai y colaboradores (2025) añaden que los modelos se evalúan de maneras que premian más una conjetura que un «no lo sé», así que adivinar es lo que aprenden.
¿La IA miente?
La mayoría de las veces te inducirá a error sin mentir: una respuesta inventada no requiere intención. Las pruebas documentan además adulación (Sharma y colaboradores, 2023), afirmaciones falsas bajo presión (Ren y colaboradores, 2025) y acciones encubiertas (Schoen y colaboradores, 2025).
¿Cómo saber si una respuesta de la IA es inventada?
No por el tono: las respuestas inventadas son tan fluidas como las correctas. Elige las afirmaciones en las que vayas a basarte, pide la fuente exacta de cada una y abre tú al menos una fuente, fuera del chat. Preguntar «¿estás seguro?» no es comprobar.
¿Se puede evitar que la IA invente cosas?
No del todo. Darle al modelo el material de origen ayuda: las herramientas jurídicas que recuperan casos reales cometieron menos errores que GPT-4 solo, pero aun así dieron respuestas falsas o con fuentes mal citadas entre el 17% y el 33% de las veces (Magesh y colaboradores, 2025). Comprobar sigue siendo cosa tuya.
Fuentes y lecturas
- Kalai, A. T., Nachum, O., Vempala, S. S. y Zhang, E. (2025). Why Language Models Hallucinate. Preprint, arXiv:2509.04664.
- Anthropic (2025). Tracing the thoughts of a large language model, 27 de marzo de 2025: anthropic.com.
- Sharma, M. y otros 18 (2023). Towards Understanding Sycophancy in Language Models. arXiv:2310.13548.
- Ren, R. y otros 15 (2025). The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems. Preprint, arXiv:2503.03750.
- Schoen, B. y otros 18 (2025). Stress Testing Deliberative Alignment for Anti-Scheming Training. Preprint, arXiv:2509.15541.
- OpenAI (2025). GPT-5 System Card, 13 de agosto de 2025, tabla 8: PDF.
- Walters, W. H. y Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports 13, 14045. doi:10.1038/s41598-023-41032-5.
- Magesh, V. y otros 5 (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies 22(2), 216-242. doi:10.1111/jels.12413.
- European Broadcasting Union y BBC (2025). News Integrity in AI Assistants, octubre de 2025: PDF.
- Mata v. Avianca, Inc., 22-cv-1461 (S.D.N.Y.), Opinion and Order on Sanctions, 22 de junio de 2023: PDF, CourtListener.
- Topaz, M. y otros (2026). Biomedical Reference Generation Remains Unreliable across 26 Large Language Models. Preprint, arXiv:2609.14988.
- Parasuraman, R. y Riley, V. (1997). Humans and automation. Human Factors 39(2), 230-253. doi:10.1518/001872097778543886.
- Wineburg, S. y McGrew, S. (2019). Lateral Reading and the Nature of Expertise. Teachers College Record 121(11), 1-40. doi:10.1177/016146811912101102.
- Platón, Fedro 274c-275b, trad. inglesa de H. N. Fowler (Loeb Classical Library): Perseus. Casaubon (1614): véase Ask for the date (en inglés).