Definición
Una alucinación de IA ocurre cuando un modelo de lenguaje genera información que es falsa, inventada o descontextualizada, pero la presenta con el mismo tono de confianza que información correcta. El término viene de la psicología: así como una alucinación humana se siente real para quien la experimenta, una alucinación de IA «se ve» como información legítima en su formato y presentación.
Cómo funciona
Los LLMs no buscan información ni verifican hechos. Predicen la secuencia de texto más probable dado el contexto. Cuando se les pide información específica que no está claramente en sus datos de entrenamiento (un estudio reciente, una estadística poco común, el nombre de una persona poco conocida), el modelo puede «completar» con algo que parece plausible pero es incorrecto.
Las alucinaciones son más comunes en: citas y referencias bibliográficas, estadísticas específicas, nombres de personas poco conocidas, eventos recientes posteriores al corte de entrenamiento, y detalles técnicos muy específicos de nichos.
Por qué importa en marketing
Una alucinación en el contenido de tu negocio puede generar problemas serios: publicar estadísticas inventadas daña la credibilidad, citar estudios inexistentes puede llevar a correcciones públicas embarazosas, y datos incorrectos en materiales de ventas pueden crear malentendidos con clientes. En textos legales, médicos o financieros el riesgo es aún mayor.
Ejemplo real
Una agencia pidió a ChatGPT que citara estudios sobre el ROI del email marketing en México. El modelo generó tres citas de papers con autores, revistas y años que sonaban perfectamente legítimos. Al verificar, ninguno de los tres estudios existía. La agencia los descubrió antes de publicar, pero solo porque tenían un proceso de verificación.
Errores comunes
- Publicar estadísticas sin verificar: si la IA cita un porcentaje o estudio, siempre busca la fuente original antes de publicar. Herramientas como Perplexity AI son mejores para investigación con fuentes porque citan sus referencias.
- Pensar que los modelos más nuevos no alucinan: todos los LLMs alucinan en algún grado. Los modelos con razonamiento (o1, o3, Claude con thinking) reducen alucinaciones pero no las eliminan.
- Usar IA para contenido de alta responsabilidad sin revisión: diagnósticos médicos, asesoría legal o financiera generada por IA sin supervisión de expertos es un riesgo real.
En Weblindrome ofrecemos transformación digital para PyMEs mexicanas. Solicita un diagnóstico gratuito.