La pregunta que más me hacen los directivos sobre IA no es técnica. Es: "¿y si se equivoca frente a un cliente?"

Es la pregunta correcta. Un modelo de lenguaje puede inventar una cobertura que no existe, una fecha que nadie prometió o una política que nunca se escribió. Lo dice con total seguridad. A eso se le llama alucinación, y no se elimina del todo. Se gestiona.

Por qué alucina un modelo

Un modelo de lenguaje no consulta una base de datos. Predice la respuesta más probable según lo que aprendió. Cuando no tiene la información, completa con algo que suena coherente. No miente a propósito: no sabe que no sabe.

De ahí sale la primera regla: si el modelo no tiene la información correcta, la va a inventar.

Siete prácticas para reducir el riesgo

1. Dale las fuentes, no le pidas que recuerde

La técnica más efectiva es RAG: el sistema busca en tus documentos y el modelo responde solo con esa información. Lo expliqué en RAG para directivos.

2. Exige que cite

Toda respuesta debe indicar de qué documento y sección sale. Si no puede citar, no debería afirmar.

3. Enséñale a decir "no sé"

Una buena implementación responde "no encontré esa información en los documentos" en lugar de improvisar. Hay que diseñarlo y probarlo explícitamente.

4. Acota la tarea

Un asistente que solo responde sobre el manual de servicio se equivoca mucho menos que uno que "responde cualquier cosa". Mientras más estrecho el alcance, menor el riesgo.

5. Un humano en el medio, al principio

Antes de que la IA hable directo con clientes, ponla a sugerir respuestas a tus agentes. El agente revisa, corrige y envía. Así mides la precisión real con riesgo controlado, y el equipo aprende a confiar (o no) con evidencia.

6. Prueba con preguntas reales y difíciles

Arma un banco de 100 a 200 preguntas reales de clientes, incluidas las capciosas y las que no tienen respuesta. Mide cuántas respondió bien, cuántas mal y cuántas reconoció no saber. Repite la prueba cada vez que cambies el modelo o los documentos.

7. Define qué nunca debe hacer

Prometer reembolsos, confirmar coberturas, dar asesoría legal o médica. Esas respuestas se escalan a una persona siempre.

La métrica que importa

No preguntes "¿qué tan inteligente es?". Pregunta: de cada 100 respuestas, ¿cuántas tendrían consecuencias si estuvieran mal? Esa cifra, medida con tu banco de pruebas, es la que te dice si estás listo para pasar de piloto a producción.

Lo que dice esto sobre el gobierno de IA

Las alucinaciones no son un problema del área de tecnología. Son un riesgo del negocio y necesitan dueño: quién aprueba un caso de uso, con qué nivel de precisión mínima, quién revisa los errores y cada cuánto se reevalúa. Eso se escribe en una política de uso de IA, con responsables y criterios claros para pasar de piloto a producción.

En resumen

La IA frente a clientes no es un sí o un no. Es una escalera: primero asistir a tu equipo, luego responder preguntas acotadas con fuentes, y solo después ampliar el alcance, con métricas que lo respalden.

Este tema se trabaja a fondo en la sesión de Gobierno de IA, Ética y Gestión del Cambio del curso de IA Empresarial. Empieza por la masterclass gratuita.