Qué son las alucinaciones de la inteligencia artificial y cómo detectarlas

Un asistente de inteligencia artificial puede responder con una fecha concreta, una cita entre comillas y el nombre de un estudio. La respuesta puede sonar convincente y, aun así, contener datos falsos o referencias que no existen. A ese tipo de error suele llamársele «alucinación» en el contexto de los modelos generativos.

El término describe una salida incorrecta o no sustentada; no significa que el sistema tenga una experiencia humana ni que haya una intención consciente de engañar. Una respuesta fluida no es una prueba de exactitud. Por eso es importante comprobar los datos relevantes antes de utilizarlos, especialmente cuando una decisión puede afectar a personas, dinero o seguridad.

Qué aspecto tiene una alucinación

Puede aparecer como un hecho inventado, una cifra incorrecta, una cita atribuida a una persona que no la pronunció o un enlace que no lleva al documento anunciado. También puede consistir en mezclar hechos verdaderos de forma que la conclusión resulte falsa.

Imagina que pides un resumen de un informe y el sistema responde con un porcentaje que no aparece en el documento. Aunque el resto del resumen sea correcto, esa cifra necesita comprobarse. Otro caso sería una referencia bibliográfica con un título plausible y una revista real, pero sin ningún artículo que coincida con ambos datos.

Estos ejemplos son hipotéticos: muestran cómo puede manifestarse el problema sin atribuir un error concreto a una persona o sistema. La denominación «alucinación» se usa de manera algo distinta según el estudio; lo importante para quien lee es distinguir lo comprobado de lo que no está respaldado.

Por qué puede ocurrir

Los modelos de lenguaje generan secuencias a partir de patrones aprendidos y de la información disponible durante la tarea. No consultan necesariamente una base de datos verificada antes de escribir cada afirmación. Cuando falta contexto, la pregunta es ambigua o la información disponible es insuficiente, pueden producir una respuesta plausible pero equivocada.

Una investigación publicada por OpenAI y colaboradores estudia cómo el entrenamiento y determinadas formas de evaluación pueden favorecer respuestas adivinadas frente al reconocimiento de incertidumbre. Es una explicación investigada para parte del problema, no una causa única que explique todos los errores de todos los sistemas.

El uso de búsqueda o documentos externos puede aportar información útil, pero tampoco elimina la necesidad de verificar. Una fuente recuperada puede ser antigua, irrelevante o interpretarse mal; incluso un enlace real no garantiza que el texto enlazado sostenga la afirmación que lo acompaña.

Una respuesta segura de sí misma puede estar equivocada

La forma de presentar una frase no demuestra que sea cierta. Un sistema puede usar un tono categórico ante una pregunta difícil y, en otra ocasión, expresar dudas sobre algo que es correcto. La seguridad aparente es una señal de estilo, no una medición fiable de verdad.

Pedir al asistente que «compruebe de nuevo» puede ayudar a descubrir inconsistencias, pero no constituye una auditoría independiente por sí sola. El mismo sistema puede repetir el error o producir una explicación diferente que siga sin tener respaldo.

Tampoco conviene confiar en una cifra solo porque aparezca con decimales. La precisión visual no sustituye saber qué se midió, cuándo, con qué método y en qué fuente. Una estadística sin procedencia clara debe tratarse como pendiente de comprobación.

Cómo comprobar una afirmación

El primer paso es dividir la respuesta en elementos verificables: nombres, fechas, importes, citas, artículos de una norma o resultados de un estudio. Después busca la fuente original adecuada para cada uno: un organismo público para una cifra oficial, la publicación científica para un estudio o el texto de la norma para una referencia legal.

Abre la fuente y lee el contexto, no solo el título o un fragmento del buscador. Comprueba que la fecha es pertinente, que las unidades coinciden y que el documento dice realmente lo que se le atribuye. Si la fuente enlaza a otra primaria, puede ser necesario seguir esa cadena.

Para una cita textual, localiza las palabras exactas en la fuente original y revisa quién habla y en qué circunstancias. Si no puedes encontrarla, no la presentes como una cita comprobada. Cuando sea posible, reformula con atribución y explica el límite de la evidencia.

Señales que merecen una segunda mirada

Un enlace que no abre, un autor sin huella verificable, una fecha imposible o un documento cuyo título no coincide son motivos para detenerse. También conviene revisar listas demasiado completas que no distinguen entre hechos confirmados y suposiciones.

Estas señales ayudan a detectar problemas, pero su ausencia no garantiza que el contenido sea correcto. Una respuesta puede contener un error sutil aunque todos los enlaces funcionen, y una fuente fiable puede haber sido citada fuera de contexto.

En tareas sensibles, como decisiones médicas, financieras o jurídicas, no basta con que una respuesta parezca razonable. Hay que acudir a fuentes competentes y, cuando corresponda, a profesionales que puedan valorar las circunstancias particulares.

Cómo reducir el riesgo al usar un asistente

Formula la tarea con contexto suficiente y pide que el sistema diferencie hechos, inferencias y puntos que no puede verificar. Si trabajas con un documento, indica qué fuente debe usar y revisa las páginas pertinentes. Una instrucción clara puede mejorar la utilidad de la respuesta, aunque no garantiza exactitud.

Evita introducir datos confidenciales o personales sin conocer las condiciones y controles del servicio. También es útil conservar las fuentes que has comprobado y anotar cuándo lo hiciste, especialmente si el dato puede cambiar con el tiempo.

La IA puede servir para ordenar ideas, proponer preguntas o ayudar a localizar información. La decisión de publicar o actuar sigue requiriendo un juicio informado. En IA encontrarás más contexto y en nuestra guía sobre qué es un prompt y cómo escribirlo explicamos cómo formular instrucciones más claras.