EULLM
Legal IT — pierwsza branża · zbiór danych niemal gotowy · Q3 2026

Specjaliści 7B, którzy przewyższają
generalistów 70B

w Państwa regulowanym sektorze, na Państwa infrastrukturze w UE.

EuLLM destyluje i wertykalizuje modele open-weight w efektywne specjalistyczne modele 7B dla branży prawnej, medycznej i technicznej — hostowane w UE, z dołączonymi kartami zgodności z EU AI Act.

Zbudowane dla zespołów prawnych, specjalistów ds. zgodności, instytucji medycznych and organizacji inżynieryjnych które nie mogą wysyłać danych do chmur w USA.

70B → 7B
Kompresja modelu
~50×
Niższy koszt wnioskowania vs frontier
Vision+Audio
Multimodalne, w pełni lokalnie
AI Act
Karty zgodności wbudowane
EIC 2026
Wnioskodawca akceleratora
Forge

Wertykalna kuźnia modeli

Weź model frontier 70B i destyluj go do efektywnego specjalisty domenowego 7B lub 4B, który przewyższa oryginał w Państwa dziedzinie. Mniej obliczeń, większa precyzja, pełna suwerenność w UE.

  • Strukturalne przycinanie — usuwanie nieistotnych zasobów bez ponownego uczenia od zera
  • Destylacja wiedzy — transfer ekspertyzy domenowej do mniejszego modelu
  • Kwantyzacja — maksymalizacja przepustowości na istniejącym sprzęcie
  • Dostrajanie tożsamości — własna persona, głos marki i instrukcje
  • Eksport GGUF — uruchamia się natychmiast na Engine, bez dodatkowych narzędzi
1

Wybierz model bazowy

Dowolny model frontier na licencji Apache 2.0 (70B, 32B…)

2

Zdefiniuj swój sektor

Prawny, medyczny, finansowy, techniczny…

3

Uruchom pipeline Forge

Przytnij → Destyluj → Kwantyzuj → Dostosuj

4

Eksportuj i wdrażaj

Wyjście GGUF, uruchamia się natychmiast na Engine

Hub

Rejestr modeli z siedzibą w UE

Wstępnie wyspecjalizowane modele wertykalne dla regulowanych branż europejskich, hostowane wyłącznie w UE. Każdy model jest dostarczany z kartą zgodności z EU AI Act.

Pierwsza branża — zbiór danych gotowyQ3 2026

Legal IT

Analiza umów, ocena GDPR, zgodność z regulacjami UE — jurysdykcja włoska

  • Wytrenowany na wyselekcjonowanym włoskim orzecznictwie, kodeksie cywilnym i corpus regulacyjnym UE
  • 7B parametrów — karta zgodności EU AI Act wysokiego ryzyka w zestawie
  • Destylowany z modelu frontier open-weight 70B
Medyczny

Dokumentacja kliniczna, kodowanie ICD, wsparcie triage pacjentów

W drugiej połowie 2026
Finanse

Ocena ryzyka, automatyzacja KYC, raportowanie zgodności MiFID II

W drugiej połowie 2026

Potrzebują Państwo branży, której jeszcze nie mamy?

Budujemy niestandardowe modele specjalistyczne dla Państwa regulowanego sektora.

Skontaktuj się z nami →

Wszystkie modele Hub wykorzystują wyłącznie wagi na licencji Apache 2.0 — suwerenność white-label dla europejskich przedsiębiorstw. Zobacz pełny roadmap →

Engine

Środowisko uruchomieniowe, które przyspiesza wszystko

Produkcyjny serwer wnioskowania zbudowany w Rust — zamiennik Ollama z API kompatybilnym z OpenAI. Engine napędza każdy wertykaly model EULLM z prędkością 259 tok/s bez jakiejkolwiek telemetrii spoza UE. API na standardowym porcie Ollama (11434), wbudowany interfejs czatu na 11435 — bez konfliktów.

  • Multimodalne (vision + audio) — OCR obrazów, opis scen, transkrypcja audio, w pełni lokalnie na GPU konsumenckich
  • Ciągłe wsadowanie — 259 tok/s przy 16 równoczesnych żądaniach
  • Akceleracja GPU: NVIDIA CUDA (testowane), AMD ROCm, Vulkan, Apple Metal
  • Kwantyzowana pamięć podręczna KV — Q4_0/Q5/Q8 zapewnia ~2-4× więcej kontekstu na tym samym GPU
  • Przezroczyste przeglądanie sieci (--web) — niezależne od modelu, działa z dowolnym GGUF
  • Podwójny listener — API na :11434 (standard Ollama), interfejs czatu na :11435 (~29 KB w binarce, bez CDN)
  • Wbudowane rejestrowanie audytowe dla zgodności z EU AI Act
  • Samodzielne binaria: Linux x64 + Windows x64 testowane · macOS i ARM64 eksperymentalne
terminal

# Download Engine (Linux x64)

curl -L https://github.com/eullm/eullm/releases/latest/download/eullm-linux-x64 -o eullm

chmod +x eullm

# Run a model

./eullm run ./model.gguf --batch-size 16

# OpenAI-compatible API on :11434

curl http://localhost:11434/v1/chat/completions \

-H "Content-Type: application/json" \

-d '{"model":"qwen3","messages":[{"role":"user","content":"Ciao!"}]}'

Suwerenna AI zaczyna się tutaj

Państwa dane pozostają w Europie. Państwa modele noszą Państwa markę. Żadnych zależności od API, żadnego uzależnienia od dostawcy.