Especialistas de 7B diseñados para igualar o superar a
los generalistas de 70B
en su sector regulado, sobre su infraestructura EU.
EuLLM destila y verticaliza modelos open-weight en especialistas compactos de 7B para los ámbitos jurÃdico, médico y técnico. Alojados en la UE, con fichas de conformidad AI Act incluidas.
Diseñado para equipos jurÃdicos, responsables de cumplimiento, instituciones médicas y organizaciones técnicas que no pueden enviar datos a nubes estadounidenses.
- 70B → 7B
- Compresión del modelo
- ~50×
- Coste de inferencia vs. frontier
- Visión+Audio
- Multimodal, completamente local
- AI Act
- Fichas de conformidad integradas
La forja de modelos verticales
Tome un modelo frontier de 70B y destÃlelo en un especialista de 7B o 4B en su dominio, más preciso que el original en su sector objetivo. Menos cómputo, mayor precisión, plena soberanÃa EU.
- Structural pruning: eliminación de capacidad irrelevante sin reentrenar desde cero
- Knowledge distillation: transferencia de experiencia sectorial a un modelo más pequeño
- Quantization: maximice el throughput en su hardware existente
- Identity fine-tuning: personalidad a medida, brand voice e instrucciones
- Exportación GGUF: funciona al instante en Engine, sin herramientas adicionales
Seleccionar modelo base
Cualquier modelo frontier Apache 2.0 (70B, 32B…)
Definir su sector
JurÃdico, médico, finanzas, técnico…
Ejecutar la pipeline Forge
Prune → Distill → Quantize → Fine-tune
Exportar y desplegar
Salida GGUF, funciona al instante en Engine
Registro europeo de modelos
Modelos verticales preespecializados para sectores europeos regulados, alojados Ãntegramente en la UE. Cada modelo incluye una ficha de conformidad AI Act.
Legal IT
Análisis de contratos, evaluación GDPR, cumplimiento regulatorio UE (jurisdicción italiana)
- →Entrenado sobre jurisprudencia italiana seleccionada, código civil y corpus normativo UE
- →7B parámetros, ficha de conformidad AI Act de alto riesgo incluida
- →Destilado desde un modelo frontier open-weight de 70B
Documentación clÃnica, codificación ICD, apoyo al triaje de pacientes
Evaluación de riesgos, automatización KYC, reporting de cumplimiento MiFID II
¿Necesita un vertical que aún no tenemos?
Desarrollamos modelos especialistas a medida para su sector regulado.
Todos los modelos Hub utilizan exclusivamente pesos con licencia Apache 2.0 y ofrecen soberanÃa white-label para empresas europeas. Ver la hoja de ruta completa →
El motor que lo hace todo más rápido
Un servidor de inferencia listo para producción escrito en Rust: reemplazo drop-in de Ollama con API OpenAI-compatible. Engine impulsa cada modelo vertical EULLM a 259 tok/s sin ninguna telemetrÃa fuera de la UE. API en el puerto estándar de Ollama (11434), interfaz de chat integrada en 11435, sin conflictos.
- Multimodal (visión + audio): OCR de imágenes, descripción de escenas, transcripción de audio, completamente local en GPUs de consumo
- Continuous batching: 259 tok/s con 16 solicitudes simultáneas
- Aceleración GPU: NVIDIA CUDA (probado), AMD ROCm, Vulkan, Apple Metal
- Quantized KV cache: Q4_0/Q5/Q8 para ~2-4× de contexto en la misma GPU
- Navegación web transparente (--web), model-agnostic, funciona con cualquier GGUF
- Dual-listener: API en :11434 (estándar Ollama), interfaz de chat en :11435 (~29 KB en el binario, cero CDN)
- Audit logging integrado para cumplimiento EU AI Act
- Binarios standalone: Linux x64 + Windows x64 probados · macOS & ARM64 experimental
# Download Engine (Linux x64)
curl -L https://github.com/eullm/eullm/releases/latest/download/eullm-linux-x64 -o eullm
chmod +x eullm
# Run a model
./eullm run ./model.gguf --batch-size 16
# OpenAI-compatible API on :11434
curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"qwen3","messages":[{"role":"user","content":"Ciao!"}]}'
Últimos artÃculos
12 de septiembre de 2026 · 5 min read
Obtuvimos tiempo en Leonardo y LUMI. Esto es lo que estamos construyendo.
EULLM ha recibido tiempo de cómputo en dos supercomputadores EuroHPC: Leonardo en Bolonia y LUMI en Finlandia. Estamos construyendo nuestro primer modelo vertical en A100 y validando ROCm multi-GPU en el mayor clúster AMD del continente.
Leer más →
13 de junio de 2026 · 7 min read
Estados Unidos ya tiene soberanÃa en IA. Europa sigue debatiéndolo.
El 12 de junio de 2026, el gobierno estadounidense ordenó a Anthropic cortar el acceso a sus modelos de IA más avanzados para cualquier persona no estadounidense en el planeta. Sin previo aviso. Sin recurso posible. Sin excepciones. Si necesitaba una llamada de atención sobre lo que significa realmente la soberanÃa digital en la práctica, aquà está.
Leer más →
1 de abril de 2026 · 5 min read
IA de código abierto en Europa: El estado de la cuestión en 2026
La IA open source europea ha madurado más rápido de lo que casi nadie predijo. De Mistral a Qwen, pasando por un ecosistema creciente de herramientas de infraestructura, el stack de IA soberana es real, y además competitivo.
Leer más →
La IA soberana empieza aquÃ
Sus datos permanecen en Europa. Sus modelos llevan su marca. Sin dependencias de API, sin vendor lock-in.