Detectar alucinaciones antes de que te cuesten plata

Una alucinación es cuando la IA afirma con total seguridad algo que inventó. En este tutorial vas a armar un sistema práctico para cazarlas antes de que lleguen a un cliente, a una factura o a una decisión de negocio. Es para gente que ya usa IA en trabajo real, donde un dato falso cuesta plata o reputación.

Antes de empezar

• Usás IA con regularidad para trabajo con consecuencias (propuestas, informes, contenido de clientes).
• Tené a mano un texto reciente generado por IA para practicar sobre algo tuyo.
• Aceptá la verdad incómoda: no existe herramienta que elimine las alucinaciones. Existe método que las atrapa antes de que salgan de tu computadora.

Paso 1 — Entendé por qué inventa

La IA no consulta una base de datos de verdades: predice cuál es la continuación más plausible del texto. Cuando no sabe algo, no dice "no sé" por defecto; completa con lo que suena bien. No es un bug raro que "a veces pasa", es la naturaleza de la herramienta.

Consecuencia práctica que te tenés que tatuar: la seguridad del tono no es evidencia de nada. Una respuesta dudosa y una inventada se leen exactamente igual de convincentes.

Paso 2 — Marcá las zonas rojas

Las alucinaciones no se reparten parejo. Se concentran en:

• Cifras exactas y precios (de lo que sea: planes, mercados, estadísticas)
• Leyes, artículos y normativas locales (adora citar artículos que no existen)
• Citas textuales y títulos de libros, papers o estudios
• URLs y nombres de funciones o herramientas (links que dan error 404, funciones de código que nunca existieron)
• Hechos recientes, posteriores a su fecha de corte (la fecha hasta la que el modelo vio información del mundo)

Tu regla operativa: si un dato cae en una de esas categorías y va a tocar plata, leyes o reputación, se verifica afuera. Sin excepción, sin "pero sonaba bien".

Paso 3 — Interrogá a la respuesta

Antes de salir del chat, hacele decir dónde está pisando flojo:

De todo lo que me respondiste, separá cada dato en dos listas:
[SÓLIDO] = conocimiento general estable
[VERIFICAR] = cifras, nombres, fechas o citas que yo debería confirmar afuera

Y dale permiso de no saber, que por defecto no lo tiene:

Si no tenés el dato exacto, escribí "no lo sé" en vez de estimar o completar.

Tercera técnica: repreguntá lo mismo en un chat nuevo, con otras palabras. Si las dos respuestas difieren en el dato clave, tenés una alucinación casi segura. Ojo: preguntarle "¿estás seguro?" en el mismo chat vale poco, porque el modelo tiende a defender lo que ya dijo.

Paso 4 — Aplicá la regla de los dos canales

Todo dato que toque plata, leyes o reputación se confirma por un canal que no sea la IA: la web oficial, el documento fuente, una llamada, o correr el código y ver si funciona. La IA puede ayudarte a encontrar el canal ("¿dónde verifico esto en la fuente oficial?"), pero la confirmación la hacés vos con tus ojos.

¿Y los modos con búsqueda web? Ayudan, y mucho: reducen el problema, pero no lo eliminan. El modelo puede citar mal la fuente que encontró o mezclar dos fuentes. Si el dato importa, abrí el link y leelo vos.

Paso 5 — Armá tu checklist de salida

Esto es lo que convierte el método en hábito. Antes de que cualquier cosa generada con IA salga con tu nombre:

[ ] ¿Hay cifras, precios o fechas? → verificadas fuera de la IA
[ ] ¿Hay leyes, nombres o citas textuales? → confirmadas en la fuente
[ ] ¿Hay links? → abiertos y funcionando
[ ] ¿Defendería este contenido si el cliente me lo cuestiona cara a cara?

Pegala donde la veas. Son cinco minutos por entrega contra el costo de un solo error delante de un cliente. La cuenta cierra siempre.

Errores comunes

• Creerle porque "sonaba muy seguro". El tono confiado es el disfraz favorito de la alucinación. Verificá el dato, no la actitud.
• Pedirle que se auto-verifique en el mismo chat y aceptar el "sí, es correcto". Eso no es verificación, es pedirle al acusado que sea su propio juez. Chat nuevo o canal externo.
• Delegarle temas legales, médicos o de impuestos sin un profesional al final. Como borrador para llegar preparado, excelente. Como dictamen final, nunca.
• Creer que pagar un plan mejor o cambiar de modelo elimina el problema. Los modelos grandes alucinan menos, pero ninguno alucina cero. El método te protege con cualquiera.

Siguiente paso

La forma más efectiva de bajar alucinaciones es darle vos la fuente: pegar el documento real y pedirle que responda solo con base en ese texto, diciendo "no está en el documento" cuando falte el dato. Aprendé esa técnica de trabajar con fuentes propias, y recién después metete con automatizaciones, siempre con un punto de control humano antes de que algo salga al mundo.