Cada vez que presento IA local en un comité aparece la misma pregunta: "¿y por qué no usamos simplemente ChatGPT?". Es una pregunta razonable. La respuesta no es que la nube sea mala, sino que es una decisión de negocio con consecuencias distintas en costo, riesgo y dependencia.
Este es el comparativo que uso para que la decisión se tome con criterios y no por moda.
Cuatro dimensiones para comparar
1. Costo
Nube con pago por uso: variable. Cada consulta consume tokens. Si el proyecto funciona, el uso crece y la factura también. Es barato para empezar y difícil de presupuestar cuando escala.
IA local: fijo. Inviertes en implementación y equipos; después, más uso no aumenta el costo. Es más inversión inicial y mucho más predecible.
Pregunta para tu CFO: si esta herramienta tiene éxito y la usan diez veces más personas, ¿preferimos que el costo se multiplique o que se mantenga?
2. Privacidad y cumplimiento
Nube: los documentos y datos de clientes viajan a un tercero, generalmente fuera del país. Los proveedores serios ofrecen garantías contractuales, pero el dato sale.
IA local: los datos no salen de tu infraestructura. En Colombia, la Ley 1581 de 2012 de protección de datos personales exige cuidar la finalidad y la transferencia de la información de tus clientes. Mantener el procesamiento en casa simplifica mucho esa conversación con el área legal.
3. Especialización
Nube: un modelo general, muy capaz, que sirve para casi cualquier tarea.
IA local: modelos más pequeños preparados para tu tarea y tus datos. Hacen menos cosas, pero las hacen con el vocabulario, los formatos y las reglas de tu negocio.
4. Dependencia
Nube: la capacidad es del proveedor. Si cambia el precio, el modelo o las condiciones, te adaptas.
IA local: la capacidad queda en tu equipo: la instalación, el conocimiento y el código.
No es una elección binaria
La mayoría de empresas termina con una arquitectura mixta:
- Local para las tareas recurrentes con datos sensibles: consultar documentos internos, clasificar reclamos, extraer datos de contratos, analizar comentarios de clientes.
- Nube para el análisis puntual, la generación creativa o el razonamiento complejo sobre información no confidencial.
Una matriz para decidir
Para cada caso de uso, califica de 1 a 5:
- Sensibilidad de los datos (¿qué pasaría si se filtran?)
- Volumen esperado (¿cuántas consultas al mes?)
- Complejidad de la tarea (¿es repetitiva o requiere razonamiento abierto?)
Mitos que conviene desarmar
"Lo local requiere servidores carísimos." Ya no. Los modelos pequeños actuales corren en computadores corrientes, sin GPU dedicada, para muchas tareas empresariales.
"Lo local es menos seguro porque lo administramos nosotros." Depende de cómo se implemente. Pero el riesgo de que un dato salga a un tercero desaparece por diseño.
"La nube siempre es más barata." Al principio sí. Con volumen, la cuenta cambia.
Para seguir
Profundicé en los modelos pequeños en SLM: por qué tu empresa no necesita la IA más grande. En Lynkko implementamos IA local con la metodología diagnóstico → piloto con tus datos → instalación → autonomía. Y en la masterclass de IA para directivos trabajamos esta matriz con casos reales.