Modelos de lenguaje pequeños (SLM): por qué tu empresa no necesita la IA más grande

Durante dos años la conversación sobre IA en las empresas fue una carrera por el modelo más grande. Más parámetros, más capacidades, más benchmarks. Y una factura por token que crece cada vez que alguien en la empresa hace una pregunta.

Cuando fundé Lynkko empecé a hacer otra pregunta: ¿qué tamaño de modelo necesita realmente esta tarea? La respuesta, en la mayoría de casos empresariales, es: mucho más pequeño de lo que creemos.

Qué es un SLM

Un modelo de lenguaje pequeño (SLM, por sus siglas en inglés) es un modelo con una fracción de los parámetros de los grandes modelos comerciales. Las familias abiertas más conocidas —Llama, Gemma, Qwen, Mistral, Phi— tienen versiones que caben en la memoria de un computador de oficina y responden en segundos sin una GPU dedicada.

No saben de todo. No escriben poesía como los modelos de frontera. Pero no lo necesitan: una empresa no necesita una IA que sepa de todo, necesita una que haga muy bien unas pocas tareas con sus propios datos.

Para qué tareas sirven

En nuestra experiencia, los SLM rinden muy bien en tareas acotadas y repetitivas:

• Responder preguntas sobre documentos internos, con la fuente citada.
• Clasificar solicitudes, correos, reclamos o tickets.
• Extraer datos de contratos, facturas o formularios.
• Resumir conversaciones, casos o reuniones.
• Analizar comentarios de clientes para detectar temas y sentimiento.

Son justamente las tareas donde está la mayor parte del retorno de la IA en una empresa. Lo conté en IA en empresas reales: lo que funciona vs. lo que se vende.

Las tres ventajas que importan a un directivo

1. El costo deja de crecer con el uso

Con un modelo en la nube, cada consulta consume tokens. Si la herramienta funciona y la gente la usa más, la factura sube. Con un modelo local, el costo es fijo: el equipo ya está comprado. Usarlo más no cuesta más.

2. Los datos no salen de la empresa

Contratos, historias de clientes, información financiera. Con un modelo que corre en tu infraestructura, nada viaja a un tercero. Para sectores regulados —seguros, salud, financiero— esto no es un detalle técnico, es la condición para poder usar IA.

3. La capacidad queda en tu empresa

Un modelo abierto, instalado y ajustado para tu tarea, es un activo tuyo. No dependes de cambios de precio, de políticas o de la disponibilidad de un proveedor.

Cuándo NO conviene

Sería deshonesto decir que lo pequeño sirve para todo:

• Razonamiento complejo y abierto (estrategia, análisis con muchas variables): los modelos de frontera siguen siendo mejores.
• Tareas de muy bajo volumen: si son diez consultas al mes, la nube es más simple.
• Cuando no hay datos ni proceso definido: ningún modelo arregla eso.

La decisión correcta suele ser mixta: modelos pequeños y locales para las tareas recurrentes con datos sensibles, y modelos grandes para el análisis puntual que no involucra información confidencial.

Cómo evaluarlo en tu empresa

Haz tres preguntas sobre cada caso de uso:

1. ¿Es una tarea repetitiva y bien definida?
2. ¿Involucra datos que preferirías no enviar a un tercero?
3. ¿El volumen es suficiente para que el costo por token importe?

Si respondes sí a dos de tres, un SLM probablemente es la mejor opción.

Lo que estamos haciendo

En Lynkko construimos capacidades de IA local con modelos pequeños que corren en los equipos de la empresa, sin costo por token y sin sacar los datos. Y en el curso de IA Empresarial dedico una sesión completa a decidir qué modelo usar para qué tarea. Puedes empezar con la masterclass gratuita.