Ein eigenes KI-Modell lohnt sich, wenn ein fertiges Modell Ihre Fachsprache nicht kennt oder bei Ihren Aufgaben zu ungenau ist. Wir entwickeln Modelle für Unternehmen und trainieren sie auf die Branche, die Sie brauchen, z.B. Recht, Medizin, Technik, Handel oder Logistik. Meistens nehmen wir dafür ein offenes Sprachmodell als Basis und trainieren es mit Ihren Daten nach (Fine-Tuning), für Klassifikation, Prognosen oder Bilderkennung bauen wir aber auch kleinere Modelle komplett selbst. Am Ende gehört das Modell Ihnen und läuft auf Ihrer eigenen Hardware oder in einer Cloud Ihrer Wahl.
Hier sehen Sie wie die Daten bei so einem Projekt meistens durch das System laufen, wobei man jede Station auch austauschen und an die Systeme anpassen kann die bei Ihnen schon im Einsatz sind.
01Ihre Daten
02Aufbereitung
03Training / Fine-Tuning
04Evaluierung
05Eigenes Modell
02
Was wir liefern
Eigene KI Modelle für Ihre Firma, trainiert mit Daten aus Ihrer Branche.
01Prüfung, ob ein eigenes Modell sinnvoll ist oder RAG mit einem fertigen Modell reicht
02Aufbereitung der Trainingsdaten aus Dokumenten, Tickets, Datenbanken und Fachtexten
03Fine-Tuning offener Sprachmodelle (z. B. mit LoRA) auf Ihre Branche und Fachsprache
04Eigene Modelle für Klassifikation, Prognosen und Bilderkennung
05Evaluierung mit Ihren echten Aufgaben, vorher und nachher gemessen
06Betrieb lokal oder in der Cloud, mit API und regelmäßigem Nachtraining
03
Ein Beispiel aus dem Code
Der Ausschnitt kommt aus einem typischen Projekt und wurde mit Kommentaren geschrieben damit man ihn gut lesen kann, in der gleichen Form bekommt auch Ihr Team den Code wenn das Projekt an Sie übergeben wird.
PyTorchHugging FaceLoRAPythonTensorFlow.jsOpenCV
train.pyBeispiel
from qc.train import Dataset, FineTune, evaluate
daten = Dataset.aus_ordner("kanzlei/schriftsaetze", format="chat") # eigene Beispiele
basis = "open-instruct-8b" # offenes Basismodell
lauf = FineTune(basis, methode="lora", epochen=3, lernrate=2e-4)
modell = lauf.trainiere(daten.train)
print(evaluate(basis, daten.test)) # vorher
print(evaluate(modell, daten.test)) # nachher, gleiche Testfragen
modell.exportiere("gguf", quant="q4_k_m") # läuft danach lokal
04
Was Sie davon haben
01
Kennt Ihre Fachsprache
Das Modell lernt die Begriffe und den Stil aus Ihrer Branche und aus Ihren eigenen Texten.
02
Gemessen statt versprochen
Wir testen vor und nach dem Training mit den gleichen echten Aufgaben aus Ihrem Alltag.
03
Modell gehört Ihnen
Sie bekommen die Modelldateien und den Trainingscode und zahlen keine Lizenz pro Anfrage.
04
Läuft wo Sie wollen
Auf Ihrem eigenen Server, auf einer Workstation oder in einer Cloud mit Rechenzentrum in der EU.
Ein Chat Assistent mit RAG sucht in allen Quellen die freigegeben sind, dabei werden die Rechte pro Dokument geprüft und bei jeder Antwort steht die Quelle dabei.
Auf einem GPU-Server laufen lokale Sprachmodelle mit einer internen Chat Oberfläche, dazu kommen Benutzerverwaltung und Protokollierung und auch eine API für Ihre eigenen Tools.
Firmendaten bleiben im Haus
planbare Kosten
eine Oberfläche für alle
07
Häufige Fragen
Wann braucht man ein eigenes KI-Modell?
Wenn ein fertiges Modell Ihre Fachbegriffe nicht kennt, im falschen Stil schreibt oder bei einer festen Aufgabe zu viele Fehler macht. Wenn es nur um Wissen aus Ihren Dokumenten geht reicht oft RAG mit einem fertigen Modell, das ist günstiger und das prüfen wir vorher ehrlich mit Ihnen.
Wie viele Daten braucht man für das Training?
Für ein Fine-Tuning reichen oft schon ein paar hundert bis ein paar tausend gute Beispiele, z.B. Fragen mit richtigen Antworten oder Texte im gewünschten Stil. Für ein komplett eigenes Modell braucht man deutlich mehr, wie viel genau sehen wir erst wenn wir uns Ihre Daten angeschaut haben.
Wem gehört das trainierte Modell?
Ihnen. Sie bekommen die Modelldateien, den Trainingscode und die Doku und können das Modell auf Ihrer eigenen Hardware betreiben, ohne laufende Lizenzkosten bei uns.
Bleiben unsere Trainingsdaten vertraulich?
Ja, auf Wunsch läuft das ganze Training auf Ihrem eigenen Server oder auf einem Server in Deutschland, die Daten gehen also nicht an einen Cloud-Anbieter in den USA.
