Knowledge center Inteligencia artificial Fundamentos de inteligencia artificial

Qué son las alucinaciones de la IA y por qué importan

En el ámbito de la inteligencia artificial, se llama alucinación al fenómeno por el que un modelo genera información falsa presentada con apariencia de certeza. No es un error aleatorio ni un fallo técnico evidente: es una característica estructural de cómo funcionan estos modelos.

El modelo no "sabe" que se está equivocando: genera lo que parece la continuación más probable del texto, aunque esa continuación no se corresponda con la realidad. La forma en que está diseñada la respuesta (fluida, precisa, estructurada) no da ninguna pista visible de que el contenido sea incorrecto.

Tipos de alucinaciones más frecuentes

Fuentes inexistentes: la IA cita artículos, informes, estudios o sentencias que no existen o que tienen título, autor o fecha incorrectos. El texto parece completamente real.
Datos incorrectos con apariencia correcta: cifras estadísticas, fechas, nombres de organismos, normativas o procedimientos que son incorrectos pero están presentados con precisión.
Generalizaciones falsas: afirmaciones sobre "lo que dice la ley" o "lo que establece el reglamento" que no se corresponden con el texto normativo real.
Confusión de contextos: información correcta en otro país o en otro contexto temporal que se aplica incorrectamente al caso concreto.

Por qué importan en un entorno profesional

En un entorno laboral, actuar sobre una alucinación puede tener consecuencias concretas: enviar información incorrecta a un cliente, aplicar un procedimiento basado en una normativa que no existe, presentar datos erróneos en un informe o tomar una decisión basada en hechos falsos. La gravedad depende del contexto, pero el riesgo siempre es real.

En ámbitos con implicaciones legales o financieras, el riesgo es especialmente alto. El caso Mata v. Avianca (2023) ilustra con claridad cómo puede materializarse.

Caso Mata v. Avianca (EE. UU., 2023). Un equipo de abogados usó ChatGPT para preparar un escrito judicial. La herramienta generó referencias a sentencias anteriores que apoyaban su argumentación. Esas sentencias no existían: eran alucinaciones. Los abogados presentaron el escrito sin verificar las citas contra los registros judiciales reales. El tribunal detectó las citas falsas y sancionó a los letrados. El tribunal no sancionó a ChatGPT: sancionó a los profesionales que presentaron el documento sin verificar su contenido. La responsabilidad era de las personas, no de la herramienta.

Aprovecha lo que ya has aprendido y completa tu formación en el curso de Uso seguro de la IA en el trabajo: protección de datos y buenas prácticas con IA

Qué son las alucinaciones de la IA y por qué importan

¿Te gusta el contenido de esta píldora de conocimiento?

Curso de Uso seguro de la IA en el trabajo: protección de datos y buenas prácticas con IA