OpenAI llama «alucinaciones» a las afirmaciones plausibles pero falsas que generan los modelos de lenguaje. Una respuesta puede sonar segura y, aun así, ser incorrecta, advierte el informe técnico de OpenAI y Georgia Tech.

Según ese informe, los modelos se entrenan para predecir la palabra siguiente a partir de grandes corpus de texto.

Sus autores también sostienen que ese mecanismo puede producir errores incluso si los datos de entrenamiento no contienen errores. Los hechos arbitrarios o poco frecuentes son especialmente difíciles de inferir solo a partir de patrones.

Por qué una IA puede responder aun cuando no sabe

El informe de OpenAI y Georgia Tech identifica otro factor: algunas evaluaciones premian una respuesta correcta, pero no reconocen cuando el modelo admite que no sabe. Ese diseño puede incentivar que adivine en vez de expresar incertidumbre.

Como ejemplo, los autores probaron DeepSeek-V3 con una pregunta sobre el cumpleaños de uno de ellos. En tres intentos, el sistema dio tres fechas distintas y las tres eran incorrectas.

El informe presenta ese episodio como un ejemplo, no como una tasa general de error. Sirve para mostrar que una respuesta precisa en apariencia no queda confirmada por la seguridad con que está redactada.

Qué muestran los estudios sobre memoria humana

En dos experimentos publicados en 1995, los psicólogos Henry Roediger y Kathleen McDermott encontraron que participantes recordaban una palabra relacionada que no se les había presentado. La falsa evocación apareció en el 40% de los ensayos del primer experimento y en el 55% del segundo, según el estudio de 1995.

Las comparaciones directas entre modelos y memoria humana encuentran semejanzas en algunos experimentos y diferencias en otros. Esos trabajos describen resultados de tareas concretas; no prueban que el cerebro y los modelos compartan una arquitectura o un mecanismo.

Cómo verificar una respuesta antes de usarla

OpenAI recomienda tratar ChatGPT como un primer borrador y no como fuente final. Su guía para verificar respuestas indica que se comprueben directamente las citas, los datos, la información técnica y las referencias a documentos.

  • Abrí el enlace citado y verificá si respalda exactamente la afirmación.
  • Compará las citas, fechas y cifras con el documento o la fuente de origen.
  • Si el enlace no sostiene el dato, no trates la respuesta como verificada.

Para información actual o sobre temas de nicho, OpenAI señala que Search puede consultar información reciente y ofrecer respuestas con citas, mientras Deep Research reúne varias fuentes. La empresa recomienda abrir esos enlaces y comprobar que respalden lo afirmado.

Google también anunció cambios en los enlaces de AI Overviews y el Modo IA.