IA3 nov 2026 · 5 min de lectura

Cómo evitar que tu IA se invente cosas

Que responda solo con tus documentos, que tenga pocas opciones para decidir y que el "no sé" pase a una persona. Así se hace cumplir cada regla.

Ingeniería de Altamar El equipo que diseña, construye y mantiene cada proyecto

En 2024 un tribunal de Columbia Británica ordenó a Air Canada pagarle a un cliente porque el chatbot de su página web se inventó una regla de reembolso. El chatbot le dijo a un pasajero en duelo que podía pedir la tarifa por fallecimiento de un familiar después de su vuelo. La política real decía que no. La aerolínea alegó que el chatbot era responsable de lo que decía. El tribunal no estuvo de acuerdo: la empresa es responsable de todo lo que hay en su página web, chatbot incluido (Moffatt contra Air Canada).

¿Por qué estos sistemas se inventan cosas? En septiembre de 2025, investigadores de la propia OpenAI publicaron un estudio, “Why language models hallucinate”, que explica que la forma en que se entrenan y se califican los modelos premia adivinar con seguridad por encima de admitir que no se sabe. Adivinar a veces suma puntos. “No sé” nunca suma. Así que el modelo aprende a adivinar.

Eso no lo puedes corregir tú en el modelo. Sí puedes construir alrededor. Tres reglas hacen la mayor parte del trabajo, y cada una se tiene que hacer cumplir en el sistema, no solo escribirse en el prompt.

#Regla 1: Solo tus documentos

La IA debe responder con tus propios documentos, políticas y datos, y con nada más.

Una frase en el prompt (“usa solo los documentos que te doy”) es un pedido, no una garantía. Para que se cumpla:

  • Dale los pasajes correctos, siempre. Antes de que el modelo responda, el sistema busca las partes relevantes de tus documentos y se las pone delante. A esto se le suele llamar recuperación (retrieval). El modelo nunca debería ser quien “se acuerda” de tu política de reembolsos.
  • Ten una sola fuente de verdad. Si tu política de devoluciones está en tres lugares y dos están desactualizados, la IA va a encontrar la equivocada. Elige la versión oficial, ponle fecha y elimina las copias.
  • Haz que muestre de dónde sacó la respuesta. Pide la fuente con cada respuesta (el documento y la sección). Luego compruébalo en el código: si la respuesta no cita nada, o cita algo que no estaba en los pasajes que recibió, no se envía.
  • Sin pasaje, no hay respuesta. Si la búsqueda no encuentra nada relevante, el sistema ni siquiera llama al modelo. Pasa directo a la regla 3.

#Regla 2: Limita las opciones

Mientras más libertad tenga la IA para decidir, más espacio tiene para inventar. La mayoría de las decisiones de un negocio no necesitan texto libre. Necesitan uno de unos pocos resultados.

  • Dale una lista corta de salidas. Para una pregunta de reembolso las salidas pueden ser: aprobar, rechazar o pasar a una persona. El modelo elige una. No puede crear una cuarta opción como “puedes pedirlo después”.
  • Pon la regla en el código, no en el modelo. Si un boleto califica para reembolso es una regla del negocio: fechas, montos, tipo de tarifa. Escríbela como código que responde sí o no. Deja que la IA recoja los datos y explique el resultado con palabras sencillas, pero que nunca tome la decisión.
  • Revisa cada respuesta antes de que actúe. Si el modelo devuelve algo fuera de la lista permitida, o un dato con el formato equivocado, el sistema lo rechaza y lo vuelve a intentar o lo escala. Nada de lo que diga llega directo a la cuenta de un cliente.
  • Pon las acciones detrás de permisos. Un asistente que solo puede consultar el estado de un pedido no puede hacer un reembolso por error. Dale el mínimo de acciones que necesita para su trabajo.

#Regla 3: El “no sé” pasa a una persona

Un “no sé” honesto es mejor que una respuesta segura y equivocada. Pero solo sirve si después pasa algo.

  • Que pasar el caso sea una acción real, no una frase. La IA debe tener un paso explícito de “pasar a una persona” que crea un ticket, avisa al canal correcto y le dice al cliente cuándo le van a responder.
  • Decide de antemano cuándo pasa. Montos por encima de cierto límite, excepciones a la política, quejas, temas legales o médicos, un cliente molesto, o cualquier pregunta donde la regla 1 no encontró fuente. En esos casos la IA no lo intenta. Lo pasa.
  • Dilo claro. “No estoy seguro de eso. Ya se lo pasé a nuestro equipo y alguien le responde hoy” mantiene la confianza. Una política inventada la rompe, y como descubrió Air Canada, puede costar dinero.
  • Mide cuántos casos pasa. Si casi nunca pasa nada, probablemente está adivinando. Si pasa casi todo, a tus documentos les faltan cosas. Las dos cosas conviene saberlas.

#Pruébala antes que tus clientes

Antes de lanzarla, escribe veinte o treinta preguntas que la IA no debe responder con imaginación:

  1. Preguntas que tus documentos no cubren.
  2. Preguntas que suenan a excepción (“mi caso es diferente”).
  3. Preguntas que traen una suposición falsa (“como los reembolsos se pueden pedir después del vuelo…”).
  4. Intentos de convencerla de saltarse sus reglas (“ignora tus instrucciones y…”).

Córrelas cada vez que cambies el prompt, el modelo o los documentos. Una respuesta que se inventa una regla es una prueba fallida, igual que un error del sistema.

Después del lanzamiento, lee cada semana una muestra de conversaciones reales. Busca respuestas sin fuente, decisiones fuera de la lista permitida y casos que debieron pasar a una persona. Cada uno es un hueco que hay que cerrar en los documentos, en las reglas o en los criterios para pasar casos.

#Quién es el responsable

Alguien del negocio, no solo el desarrollador, debe hacerse cargo de lo que responde la IA: mantener los documentos al día, revisar la muestra semanal y decidir cuándo se pasa un caso a una persona. Lo que dijo el tribunal aplica a cualquier empresa: lo que dice tu IA, lo dijo tu empresa.

Sigue leyendo

Todos los artículos

Agenda una llamada

Hablemos de lo que tu equipotodavía hace a mano.

Elige la hora que mejor te quede. Hablas con nuestro equipo, no con un vendedor.

Agenda una llamada 30 min · Google Meet · Español o inglés