EuLLM Pro: die KI Ihres Unternehmens, auf Ihren eigenen Servern, mit einem Konto für jede Person.
Dieselbe Open-Source-Engine, plus allem, was Sie brauchen, um sie in einer ganzen Organisation einzusetzen: Konten, Kontrolle, ein Nutzungsprotokoll und Monitoring.
Die Fragen, die es beantwortet
Eigenes Konto für alle
Mehr erfahren
Müssen mehrere Personen es nutzen, jede mit ihrem eigenen Konto?
Jede Person meldet sich mit ihrem eigenen Namen und Passwort an. Es gibt drei Rollen: Administrator, Prüfer (liest Protokoll und Statistiken, ändert aber nichts) und Nutzer. Die Sitzung wird nach 8 Stunden Inaktivität beendet, und nach 5 fehlgeschlagenen Versuchen wird das Konto für 15 Minuten gesperrt.
Personenverwaltung per Einladungslink
Mehr erfahren
Möchten Sie Personen über den Browser verwalten, ohne deren Passwörter zu kennen?
Der Administrator fügt auf der "People"-Seite eine Person hinzu und schickt ihr einen Link: Die Person wählt ihr Passwort selbst, und der Link funktioniert nur einmal. Von dort aus ändert der Administrator Rollen, deaktiviert oder entfernt ein Konto und sieht, wer verbunden ist, von wo und mit welchem Browser; eine Sitzung lässt sich mit einem Klick beenden. Vergisst jemand sein Passwort, erhält er einen neuen Link, und der alte funktioniert sofort nicht mehr.
Modellverwaltung nur für Administratoren
Mehr erfahren
Soll nur der Administrator die Modelle auswählen?
Nur der Administrator lädt Modelle herunter, löscht oder ändert sie; alle anderen nutzen das, was der Administrator zur Verfügung gestellt hat. Niemand kann das Modell abschalten, das gerade das ganze Büro benutzt.
Vollständiges Nutzungsprotokoll
Mehr erfahren
Müssen Sie wissen, wer was genutzt hat, und wann?
Für jede Anfrage verzeichnet das Protokoll, wer sie gestellt hat, wann, mit welchem Modell, wie lange sie gedauert hat und wie sie endete. Der Name der Person erscheint auch im technischen Protokoll der Engine, das für die vom AI Act geforderte Rückverfolgbarkeit ausgelegt ist.
Performance pro Person
Mehr erfahren
Möchten Sie sehen, ob es langsam ist, und für wen?
Für jede Person sehen Sie die Zeit bis zum ersten Token, die Geschwindigkeit, den Median und die schlechtesten Fälle, über die letzten 24 Stunden, 7 oder 30 Tage. So lässt sich erkennen, ob das Problem am Server, am Modell oder an der Art der Anfragen liegt.
24/7-Monitoring
Mehr erfahren
Müssen Sie den Server rund um die Uhr überwachen?
Das Monitoring erfasst alles im Minutentakt, auch wenn niemand hinschaut: Last, Arbeitsspeicher, GPU-Temperatur und Stromverbrauch, Geschwindigkeit, Anfragen. Es speichert den Verlauf für 30 Tage (bis zu einem Jahr, wenn der Administrator das so festlegt), mit Spitzenwerten und dem Zeitpunkt, zu dem sie aufgetreten sind. Wenn Sie bereits Prometheus oder Grafana verwenden, verbindet es sich dort mit einem Token.
Guardrails für die Engine
Mehr erfahren
Brauchen Sie Guardrails für die Engine?
Eine Liste der zugelassenen Modelle, Operationen, die dem Administrator vorbehalten sind, API-Schlüssel mit einem Limit für Anfragen pro Minute, zugelassene Netzwerkadressen und die Seiten, die das Web-Tool aufrufen darf.
Daten bleiben im Unternehmen
Mehr erfahren
Müssen die Daten im Unternehmen bleiben?
Alles läuft auf Ihren eigenen Servern, ohne Telemetrie. Sogar die Lizenz wird lokal überprüft, sodass es in einem geschlossenen Netzwerk ohne Internetzugang funktioniert.
Docker-Installation in wenigen Minuten
Mehr erfahren
Möchten Sie es in wenigen Minuten installieren?
Es gibt fertige Docker-Images, für CPU und für NVIDIA-GPUs, mit einer Beispieldatei, die sie startet. Konten, Protokoll und Lizenz liegen in einem separaten Volume, das sich leicht sichern lässt.
Ollama- und OpenAI-kompatible API
Mehr erfahren
Müssen Ihre eigenen Programme damit arbeiten?
Die API ist mit Ollama und OpenAI kompatibel, mit eigenen Schlüsseln für Programme. Sie funktioniert mit RAG Enterprise.
Kein Stillstand bei Lizenzablauf
Mehr erfahren
Steht alles still, wenn die Lizenz abläuft?
Nein: Konten, Chats und Protokoll funktionieren weiter. Nur neue Nutzer werden blockiert, bis die neue Lizenz eintrifft.
Single Sign-on (SSO)
Mehr erfahren
Möchten Sie sich mit dem Unternehmenskonto anmelden?
Single Sign-on (SSO) mit Microsoft Entra ID, Google Workspace oder Keycloak.
Gruppen je Abteilung
Mehr erfahren
Möchten Sie unterschiedliche Regeln je Abteilung?
Gruppen von Personen, mit unterschiedlichen Modellen und Limits, und einem unternehmensweiten System-Prompt, der sich nicht ändern lässt.
Chatverlauf geräteübergreifend
Mehr erfahren
Möchten Sie Ihre Unterhaltungen auf jedem Computer wiederfinden?
Chatverlauf, auf dem Server gespeichert, mit eigenen Aufbewahrungsregeln.
Lastverteilung über mehrere GPUs
Mehr erfahren
Haben Sie mehr als einen GPU-Server?
Eine einzige Adresse vor mehreren Servern, mit Lastverteilung zwischen ihnen.
Open und Pro im Vergleich
| Funktion | EuLLM (offen, kostenlos) | EuLLM Pro |
|---|---|---|
| Engine, Chat, Ollama- und OpenAI-kompatible API | ✓ | ✓ |
| 24/7-Monitoring mit Verlauf und Prometheus | ✓ | ✓ |
| Modelle werden ausschließlich vom Administrator verwaltet | ✓ | ✓ |
| Persönliche Konten und Rollen | – | ✓ |
| Personenverwaltung über den Browser, mit Einladungslinks | – | ✓ |
| Nutzungsprotokoll (wer was genutzt hat) | – | ✓ |
| Performance pro Person | – | ✓ |
| Fertige Docker-Images | ✓ | ✓ |
| Anmeldung mit Unternehmenskonto (SSO), Gruppen, mehrere Server | – | Demnächst |
So wird es installiert
Installieren Sie EuLLM Pro auf Ihrem Server, mit oder ohne Docker.
Erstellen Sie das erste Administratorkonto.
Der Administrator lädt Personen ein, die sich über den Browser mit ihrem Namen und einem selbst gewählten Passwort anmelden.
Keine Daten verlassen das Unternehmen, und die Lizenz wird lokal überprüft — keine Internetverbindung erforderlich.
Datenschutz und Mitarbeiter
Zu protokollieren, was Mitarbeiter schreiben, ist eine Form der Fernüberwachung von Arbeitnehmern. Deshalb protokolliert EuLLM Pro standardmäßig niemals den Text von Fragen und Antworten: nur wer, wann, welches Modell und wie lange es gedauert hat. Kein Passwort ist dem Administrator je bekannt: Jeder wählt sein eigenes.
Dies ersetzt nicht die Beratung durch Ihren Rechtsbeistand oder Ihren Datenschutzbeauftragten (DPO).
Häufig gestellte Fragen
- Ist das dasselbe wie EuLLM?
- Es ist dieselbe Engine, plus den Funktionen, die Ihre Organisation braucht. Wenn Sie EuLLM bereits nutzen, ändert sich nichts an der Art, wie Sie es verwenden.
- Wo läuft es?
- Auf Ihren eigenen Linux-Servern, mit Docker oder direkt, mit oder ohne NVIDIA-GPU.
- Kann ich es ausprobieren?
- Ja: Ohne Lizenz funktioniert es für bis zu 5 Nutzer.
- Was kostet es?
- Kontaktieren Sie uns.
