Cómo detectar información falsa o inventada por IA
Una respuesta de IA puede sonar segura y estar equivocada. El problema no siempre aparece como una falsedad evidente: a veces mezcla datos correctos con fechas incorrectas, atribuye una cita a la persona equivocada o presenta como existente una función que nunca se publicó. La defensa más útil no es desconfiar de todo, sino saber qué partes requieren comprobación.
1. Separa hechos de recomendaciones
Una recomendación como “organiza el proyecto en tres fases” puede evaluarse por utilidad. Una afirmación como “esta API admite 500 solicitudes por minuto” necesita una fuente. Marca mentalmente nombres propios, fechas, precios, límites técnicos, cifras, normativa, estudios y citas como elementos verificables.
2. Busca precisión sospechosa sin fuente
Los detalles muy concretos pueden dar sensación de autoridad. Si la respuesta incluye una estadística exacta, una fecha de lanzamiento o una frase atribuida sin indicar de dónde procede, no asumas que la precisión implica veracidad. Cuanto más importante sea el dato, más conviene acudir a la fuente original.
3. Comprueba si la respuesta reconoce incertidumbre
Cuando faltan datos, una buena respuesta debería distinguir lo confirmado de lo probable. Señales de riesgo son expresiones absolutas sobre información cambiante —“siempre”, “actualmente es exactamente”, “la ley exige”— sin fecha, contexto ni referencia.
4. Verifica en la fuente primaria cuando sea posible
- Funciones de un producto: documentación oficial del proveedor.
- Precios y planes: página oficial de precios.
- Normativa: organismo o texto legal correspondiente.
- Datos empresariales: documentación de la empresa o registros fiables.
- Investigación científica: publicación original o repositorio académico reconocido.
Un artículo de terceros puede servir para orientarse, pero no sustituye la fuente primaria cuando necesitas confirmar una especificación concreta.
5. Haz una prueba de consistencia
Pide a la IA que identifique qué afirmaciones de su propia respuesta son hechos verificables y cuáles son inferencias. Después revisa las más importantes de forma independiente. Esta segunda petición no convierte al modelo en una fuente, pero ayuda a localizar los puntos que merecen comprobación.
Ejemplo práctico
Imagina que una IA recomienda una plataforma y afirma que incluye una función concreta en el plan gratuito. Antes de construir un proceso alrededor de esa función: abre la documentación oficial, comprueba el plan actual y registra la fecha de la comprobación. Si la función no aparece, trata la afirmación de la IA como no confirmada.
Señales habituales de una alucinación
- URLs o documentos que parecen plausibles pero no existen.
- Nombres de funciones muy parecidos a otros reales.
- Referencias académicas con título convincente pero autores o revista incorrectos.
- Mezcla de dos productos, versiones o fechas.
- Citas textuales sin ubicación verificable.
- Explicaciones técnicas que cambian cuando se pregunta por los detalles.
Qué hacer cuando no puedes verificar
No conviertas una duda en un hecho. Puedes reformular: “No he podido confirmar este dato” o “La respuesta de IA sugiere X, pero debe verificarse antes de usarlo”. En un documento interno, marca el elemento como pendiente. En una publicación pública, es preferible eliminar una afirmación dudosa antes que vestirla de certeza.
Nivel de verificación según el riesgo
No todas las tareas exigen la misma intensidad. Para una lluvia de ideas basta una revisión básica. Para publicar cifras, configurar pagos, modificar seguridad, tratar datos personales o tomar decisiones financieras, la comprobación debe ser mucho más estricta y apoyarse en documentación actual.
Checklist final
- ¿Qué afirmaciones son hechos externos?
- ¿Cuáles pueden haber cambiado desde que se entrenó o actualizó el modelo?
- ¿Existe una fuente primaria?
- ¿La respuesta aporta una referencia que realmente existe?
- ¿Una equivocación tendría consecuencias relevantes?
La IA es especialmente útil para acelerar análisis y redacción cuando el usuario conserva la responsabilidad de validar los datos que importan.