Alojado y monitorizado, con modelos evaluados y actualizados a medida que cambian tus datos, acordado contigo.
Acordar alojamiento y soporte
Sectores para los que desarrollamos software
Desarrollo de software a medida para cada sector: web, móvil e IA, construido y auditado en seguridad por un mismo equipo.
También desarrollamos software para seguros (insurtech), administración pública (govtech), energía y medios. Si tu sector no aparece, también podemos desarrollar software para él.
Tecnologías y herramientas para el desarrollo de LLM privados
Los modelos abiertos que probamos con tus casos, y las herramientas con las que los servimos, ajustamos y mantenemos.
¿Cuándo compensa un LLM privado frente a una API de IA?
Cuando tus datos no pueden ir a un proveedor externo, cuando tu volumen encarece el pago por token o cuando necesitas controlar la velocidad y la disponibilidad. Para un prototipo, o para el razonamiento más difícil, una API alojada suele ser mejor punto de partida, y te lo decimos. Muchos equipos acaban en un modelo híbrido: privado para lo sensible y lo rutinario, alojado para el resto.
¿Puede funcionar en nuestros servidores, o incluso sin internet?
Sí. Desplegamos on-premise, en tu propia cuenta en la nube o totalmente aislado. En una instalación aislada, los modelos, sus dependencias y cada actualización se traen sin conexión, y los servidores no tienen ruta hacia fuera.
¿Qué modelos abiertos usáis, y son tan buenos como GPT o Claude?
Llama, Qwen, Mistral, Gemma y DeepSeek, entre otros. Los mejores modelos abiertos ya igualan a los alojados en muchas tareas del día a día, y un modelo ajustado puede superarlos en las tuyas, aunque no en todo. Primero probamos los candidatos con tus propios ejemplos, para que veas la diferencia antes de decidir.
¿Qué hardware necesitamos?
Depende del tamaño del modelo y de tu tráfico. Un modelo pequeño funciona con una sola GPU; uno grande necesita varias, o una versión cuantizada que quepa en menos. Dimensionamos el hardware para tu carga de trabajo antes de comprar nada, y podemos trabajar con servidores que ya tengas.
¿Necesitamos fine-tuning, o basta con RAG?
Para responder con tus documentos, RAG suele bastar y mantiene los datos al día. El fine-tuning sirve para un formato, un tono o una tarea concreta, y permite que un modelo pequeño haga el trabajo de uno mayor. Entrenar un modelo desde cero rara vez compensa; te diremos si tu caso es la excepción.
¿Qué datos necesita el fine-tuning, y adónde van?
Normalmente, de unos cientos a unos miles de buenos ejemplos de la tarea, que te ayudamos a reunir y limpiar. El entrenamiento se hace en tu infraestructura o en tu cuenta en la nube, así que los datos nunca salen de ella, y los datos personales pueden eliminarse antes.
¿Puede trabajar con nuestros documentos y sistemas?
Sí. El modelo ofrece una API compatible con OpenAI, así que la mayoría de herramientas y código se conectan tal cual. Encima construimos RAG privado sobre tus documentos, asistentes para tus equipos y agentes de IA que actúan en tus sistemas.
¿Cómo se protegen nuestros datos?
Prompts, archivos y respuestas se quedan dentro de tu red. Se entra con tu inicio de sesión único, cada equipo llega solo a lo que le corresponde, cada petición queda registrada y el despliegue se prueba frente a inyección de prompts y fugas de datos antes del lanzamiento.
¿De quién son el modelo y el código?
Normalmente, tuyos: en un trabajo para un cliente, los pesos ajustados, los datos de entrenamiento, el código y la configuración son tuyos según lo que fije el acuerdo, y funcionan en la infraestructura que controlas. Las licencias de los modelos abiertos varían, y comprobamos que cada una encaja con tu uso.
¿Cuánto se tarda y cuánto cuesta?
Probar modelos con tus casos y dimensionar el hardware lleva de una a dos semanas, un primer despliegue de dos a seis, y el fine-tuning unas semanas más cuando compensa. El coste de funcionamiento es sobre todo el hardware o las GPU en la nube, un coste fijo en lugar de una factura por token. Tras una primera llamada te enviamos un presupuesto por escrito.