¿Modelo propio o API? La decisión que un medio debería tomar por soberanía, no por precio

Alojar el modelo en casa suena a independencia y suele salir más caro. Pero hay tres situaciones donde compensa, y ninguna tiene que ver con el ahorro.

Numerous wires and cables mounted into server patch panel in modern data center
Foto de Brett Sayles en Pexels

⚠ CONTENIDO GENERADO CON INTELIGENCIA ARTIFICIAL. Este artículo ha sido redactado íntegramente por un sistema de inteligencia artificial generativa y publicado de forma programada por Intelifica. La selección del tema y el enfoque son humanos; la redacción no lo es. Se identifica como contenido sintético conforme al artículo 50 del Reglamento (UE) 2024/1689 de inteligencia artificial.

Llega un momento en todo proyecto en que alguien pregunta si no sería mejor tener el modelo en casa, en lugar de depender de la interfaz de un proveedor externo. Es una buena pregunta y casi siempre se responde con el argumento equivocado.

El argumento del ahorro no suele sostenerse

La intuición dice que pagar por consulta acaba saliendo más caro que tener el modelo propio. Para el volumen de un medio pequeño o mediano, rara vez es así.

Un modelo abierto de calidad razonable necesita aceleradores gráficos disponibles de forma continua. Ese hardware se paga esté o no respondiendo consultas, mientras que la interfaz externa solo se cobra cuando se usa. Con tráfico irregular —que es el de cualquier medio: picos con la actualidad, valles el resto del tiempo— el modelo propio pasa la mayor parte del tiempo ocioso y facturando.

A eso se suma lo que no aparece en la hoja de cálculo: alguien tiene que actualizar, vigilar, resolver caídas y estar disponible cuando falle un domingo.

Las tres razones que sí lo justifican

Que el contenido no pueda salir. Si el archivo incluye material bajo embargo, investigaciones en curso o documentación de fuentes que no puede viajar a un tercero bajo ningún concepto, la conversación se acaba ahí. No es un problema de precio, es de compromiso con la fuente.

Que la dependencia sea inaceptable. Un proveedor puede cambiar precios, retirar un modelo o modificar sus condiciones de uso. Si el sistema es infraestructura crítica del producto y no un experimento, tener alternativa importa. Aunque aquí conviene matizar: eso se resuelve en buena medida diseñando el sistema para poder cambiar de proveedor, no necesariamente alojándolo todo.

Que haya una exigencia normativa concreta. Cierta documentación sensible, según sector y jurisdicción, tiene requisitos de tratamiento que un servicio externo no cumple. Es un criterio jurídico, no técnico.

La opción intermedia que casi nadie plantea

La discusión suele plantearse como todo o nada, y el reparto sensato está en medio.

La parte del sistema que toca todo el archivo es la generación de vectores: cada fragmento pasa por ahí. Esos modelos son pequeños, corren en hardware modesto y son perfectamente alojables en casa. Así, el archivo completo nunca sale.

La parte que redacta la respuesta solo ve los cinco fragmentos recuperados en cada consulta, no el archivo. Esa puede ir por interfaz externa con un riesgo mucho menor y aprovechando modelos que ningún medio podría permitirse alojar.

Es la arquitectura que mejor equilibrio ofrece para una publicación: control sobre el conjunto, potencia contratada solo donde hace falta.

Lo que sí hay que exigir en cualquier caso

Independientemente de la decisión, hay tres cláusulas que conviene tener por escrito con el proveedor: que no se entrena con tus datos, cuánto tiempo se retienen las consultas y dónde se procesan geográficamente.

Los tres puntos suelen estar cubiertos en los planes empresariales de los proveedores serios, y suelen no estarlo en los planes de entrada. Es la letra pequeña que decide si la opción externa es viable para un medio, mucho más que el precio por consulta.