Fragen fundiert beantworten
Fachwissen erklären, passende Fundstellen zeigen und den Rechtsstand benennen.
LLM Comparator Ein Leitfaden von AiLoftVerstehen, bevor Sie trainieren
Eigene KI
im Unternehmen.
Wie aus einem vorhandenen Sprachmodell eine Fachassistenz wird, die Ihr Wissen nutzt, Ihre Daten schützt und ihre Grenzen kennt.
Für Unternehmen jeder Branche. Mit Erklärungen zum Antippen und einer fiktiven Sozialbehörde als durchgehendem Praxisbeispiel.
Die kontrollierte Umgebung
Fachwissenmit gültigem Stand
Internes Wissenmit Zugriffsrecht
passende Belege
Vortrainiertes SprachmodellIhre Fachassistenzauf eigener Infrastruktur
nachvollziehbarer Entwurf
Der Mensch prüft.Die Verantwortung bleibt klar.
Zielbild, kein Sicherheitsnachweis.
Verfolgen Sie, wie Wissen zur geprüften Antwort wird.
Unser fiktiver Praxisfall
Eine Sozialbehörde.
Drei sinnvolle Hilfen.
Um die Technik greifbar zu machen, begleiten wir ein erfundenes Team beim Umgang mit dem . Das Vorgehen lässt sich auf andere Fachgebiete übertragen.
Persönliche Lernwege anbieten
Am Wissensstand ansetzen, Inhalte dosieren und Verständnis mit Übungen vertiefen.
Dokumente gezielt prüfen
Fehlende Angaben und mögliche Widersprüche markieren. Die Fachperson bewertet den Hinweis.
Die wichtigste Unterscheidung
„Eigene KI“ heißt nicht:
alles neu trainieren.
Meist startet man mit einem vortrainierten . Diese drei Wege erfüllen unterschiedliche Aufgaben.
Nachschlagen
sucht passende Quellen und legt sie dem Modell zur Frage vor.
Für freigegebene Handbücher, Fachwissen und aktuelle oder historische Regeln.
RAG, CAG & KAG ausführlich verstehenDie bleiben gleich.[2]
Gezielt üben
übt mit Beispielen einen Aufbau, Stil oder eine bestimmte Aufgabe.
Etwa: erst belegen, dann erklären, offene Fragen benennen.
Optional, wenn der Nutzen belegt ist.[3]
Von null beginnen
erschafft ein Grundmodell aus großen Datenbeständen.
Für die meisten Unternehmensanwendungen kein sinnvoller Startpunkt.
Sehr hoher Daten- und Rechenbedarf.
Ein starkes Modell ist eine gute Basis. Auch ein allein garantiert weder aktuelles Fachwissen noch Datenschutz, belastbare Belege oder richtige Entscheidungen.
Von der Idee zum Betrieb
Sechs Schritte.
Mit Verantwortung an jeder Stelle.
Wählen Sie einen Schritt oder gehen Sie den Weg nacheinander durch. Technik, Fachlichkeit und Datenschutz gehören von Anfang an zusammen.
Schritt 1 von 6
Zuerst den Auftrag begrenzen.
Das Unternehmen legt fest, welche Aufgabe die Assistenz unterstützt und was sie ausdrücklich nicht entscheidet. Erfolg, mögliche Schäden und Zuständigkeiten müssen vor der Modellauswahl geklärt sein.
Fiktive Behörde: Fachauskunft, Lernen und Prüfhinweise; keine automatische Leistungsentscheidung.
Diese Fragen müssen geklärt sein
- Wer nutzt die Assistenz und wofür genau?
- Welche Fehler könnten Menschen schaden?
- Wann muss das System an eine Fachperson übergeben?
Wer gehört an den Tisch?
Fachverantwortung · Prozessverantwortung · Datenschutz
Ergebnis dieses Schritts
Freigegebener Zweck, klare Grenzen und prüfbare Erfolgskriterien.
Ihre eigenen Anforderungen eingrenzen: Der CYOM-Guide führt durch Methode, Modell, Daten und Aufwand.
Das Prinzip erleben
Was passiert, wenn
der Beleg fehlt?
Wechseln Sie Aufgabe und Quellenlage. Eine verlässliche Assistenz soll nicht einfach immer antworten.
Demo: fiktive SozialbehördeKeine Live-KI · keine echten Daten
Ihre Frage im Beispiel
Was bedeutet das Sozialgeheimnis für meinen Arbeitsalltag?
Entwurf der Fachassistenz
Das Sozialgeheimnis schützt Sozialdaten vor unbefugter Verarbeitung. Für den Alltag heißt das: vor einem Zugriff oder einer Weitergabe Zweck, Berechtigung und Empfängerkreis prüfen.
Beleg: § 35 SGB I [6]Das erklärt den Grundsatz. Ob eine konkrete Verarbeitung zulässig ist, braucht die Prüfung des Einzelfalls.
Fachliche Verantwortung: benannte, qualifizierte Person
Im Behördenbeispiel: Rechtsstand ist mehr als ein Datum. Echte Fachauskünfte brauchen Herkunft, Gültigkeitszeitraum, Änderungen und den Zeitpunkt des Falls. Konsolidierte Online-Texte sind nicht die amtliche Verkündung. RAG aktualisiert sich nicht selbst: neue Fassungen werden kontrolliert übernommen und geprüft. [4] [5]
Wenn Training wirklich hilft
Erst einen konkreten Nutzen belegen.
Dann gezielt trainieren.
verändert das gelernte Verhalten und kann auch Wissen vermitteln. Es garantiert weder aktuelle noch richtige Fachauskünfte. Häufig wechselndes Wissen bleibt über die geprüfte Suche angebunden.
Vortrainierte BasisSprachvermögenUnveränderter Kern des Modells
Trainierbarer Zusatz übt z. B. den Antwortaufbau
- 1
Gute Beispiele auswählen
Fachlich geprüfte, rechtlich nutzbare und wirksam anonymisierte Beispiele. Künstlich erstellte Beispiele ebenfalls prüfen. Echte Fallakten sind kein automatisches Trainingsmaterial.
- 2
Lernen und Prüfen trennen
Getrennte Daten zum Trainieren, Abstimmen und abschließenden Testen. Nach Fällen aufteilen: ähnliche Dokumente desselben Falls dürfen nicht in mehreren Gruppen landen.
- 3
Begrenzte Anpassung trainieren
Die KI-Entwicklung trainiert den Adapter kontrolliert. Datenherkunft, Einstellungen und Modellversion werden dokumentiert.
- 4
Gegen das Ausgangssystem prüfen
Unbenutzte Prüfaufgaben zeigen, ob Belegtreue, Ablehnung und Fachlichkeit besser werden. Vergleich mit derselben unveränderten .
- 5
Freigeben oder zurücknehmen
Nur bei belegtem Nutzen und bestandenen Prüfungen einsetzen. Andernfalls nacharbeiten oder zur freigegebenen Version zurückkehren.
Training ist eine mögliche Verbesserung, keine notwendige Eintrittskarte. Ausgangssystem und Anpassung unter denselben Bedingungen prüfen. [3] [10]
Welche Anpassung passt? Im CYOM-Guide konkret planenDas Versprechen prüfen100 %
zuverlässig?
Ein perfekter Testlauf
ist keine Fehlergarantie.
100 % bestandene bekannte Tests bedeutet nicht 100 % richtige künftige Antworten. Neue Fälle, unklare Quellen, Rechtsänderungen und Angriffe bleiben mögliche Fehlerquellen.
Das verantwortbare Ziel: belegte Leistung im festgelegten Einsatz, klarer Stopp bei fehlender Grundlage, fachkundige Prüfung und ein funktionierender Umgang mit Fehlern. [1]
Schutz im gesamten System
Ein eigener Server reicht nicht.
- Zweck und Rechte klären. Rechtsgrundlage, Datenminimierung, Löschung und Betroffenenrechte gelten auch für die Assistenz. Im Behördenbeispiel zusätzlich das .
- Die ganze Verarbeitung absichern. Suche, , , Protokolle und Sicherungskopien gehören in das Schutzkonzept.
- Uploads getrennt behandeln. Rechte vor der Suche prüfen. Dokumente sind unzuverlässige Eingaben; dürfen keine Schutzregeln überschreiben.
- Nur benötigte Daten nutzen. Keine automatische Übernahme von Uploads ins Training. Aufbewahrung, Zugriffe und Löschwege verbindlich regeln.
Bei voraussichtlich hohem Datenschutzrisiko ist eine erforderlich. [6] [7] [8]
Nachweisbare Kompetenz
Diese Fachleute braucht das Team.
- Fachgebiet & Praxis
- Quellen, Gültigkeit und fachliche Bewertung.
- KI-Entwicklung & Prüfung
- Modellauswahl, Suche, Anpassung und aussagekräftige Tests.
- Datenschutz & IT-Sicherheit
- Zulässigkeit, Schutzmaßnahmen und Angriffstests.
- Betrieb & Fachverantwortung
- Überwachung, Vorfälle und verbindliche Freigaben.
Ein allgemeiner IT-Dienstleister kann den Betrieb übernehmen. Zusätzlich müssen Fach-, KI-Prüfungs- und Datenschutzkompetenz nachweisbar vertreten sein. In unserem Beispiel gehört Sozialrechtsexpertise dazu.
Der Einsatzzweck verändert die Anforderungen.
Eine Lernhilfe ist anders zu bewerten als ein System, das die Gewährung öffentlicher Unterstützungsleistungen wesentlich beeinflusst. Letzteres kann unter die Hochrisikoregeln der EU-KI-Verordnung fallen. Eine menschliche Person am Ende des Ablaufs beseitigt diese Einordnung nicht automatisch. Zweck, tatsächlichen Einfluss und geltende Pflichten vor Einsatz prüfen. [9]
Das Beispiel als vollständiges Projekt
Vom Auftrag zur Webapp.
Mit klaren Freigabepunkten.
So könnte die fiktive Sozialbehörde vorgehen. Die Arbeitspakete greifen ineinander: Fachwissen, Datenschutz und Technik entwickeln sich gemeinsam.
Planungsbeispiel · fiktive Sozialbehörde
Vom Auftrag zum betreuten Pilot.
16 Wochen als Planungsannahme, keine Lieferzusage. Vorausgesetzt sind verfügbare Infrastruktur, nutzbare Quellen und feste Kapazitäten der Fachleute. Beschaffung, Datenqualität und notwendige Datenschutzprüfungen können den Zeitplan deutlich verlängern.
Fachlichkeit & SchutzModell & AnwendungPrüfung & Übergabe
Phase 1 von 7 · Woche 1–2: Auftrag & Grenzen
Was liegt danach vor?
Ein klar begrenzter Pilot: Fachauskunft, Lernbegleitung und Dokumenthinweise. Keine automatische Entscheidung über Sozialleistungen.
Gemeinsam verantwortlich
Fachbereich, Projektleitung, Datenschutz und Rechtsberatung
Vor dem nächsten Schritt klären
- Welche konkrete Aufgabe verbessern wir zuerst?
- Welche Entscheidung bleibt zwingend bei einer Fachperson?
FreigabepunktAuftrag, Verantwortliche und messbare Erfolgskriterien sind freigegeben.
Ab dem Pilot: Wissen und Qualität laufend pflegen
- Änderung erkennen
- Fachlich prüfen
- Erneut testen
- Version freigeben
Geplante Quellenabrufe erkennen neue Fassungen. Die Übernahme erfolgt kontrolliert; es gibt kein automatisches Nachtrainieren mit neuen Gesetzen oder hochgeladenen Akten.
Das Ziel dieses Beispiels: eine interne Webapp mit eigenem Modell und klar begrenzter Verantwortung.Die Beispiel-Webapp öffnen
Die Modellwahl im Praxisfall
Konkrete Modelle.
Eine fachlich begründete Auswahl.
Drei aktuell verfügbare Kandidaten für den Vergleich. Zuerst prüfen wir die unveränderten Modelle mit derselben Wissensbasis; eine gezielte Anpassung folgt nur bei messbarem Bedarf.
Unsere begründete Vorauswahl im fiktiven Fall: Kolibri 1. Deutschsprachige Textassistenz mit Quellen passt zum beschriebenen Einsatzzweck. Die endgültige Auswahl folgt erst nach denselben Fach- und Sicherheitstests für alle Kandidaten.
Aleph Alpha · Deutschland
Kolibri 1
Vorauswahl für den deutschen Textfall
Apache 2.0Offizielle ModellkarteWarum in der Auswahl?
Auf Deutsch und Englisch ausgerichtet. Der Hersteller nennt Antworten mit abgerufenen Quellen, lange Dokumente und Assistenz mit menschlicher Prüfung ausdrücklich als Einsatzfelder.
Was muss der Betrieb leisten?
Serverklasse: Die Modellkarte nennt z. B. zwei NVIDIA H100 oder eine H200 als Mindestkonfiguration. Kapazität für gleichzeitige Nutzer zusätzlich planen.
Vor einer Freigabe prüfen
Verarbeitet Text. Scans brauchen gesonderte Texterkennung. Belegtreue, Rechtsstände und sichere Ablehnung müssen am eigenen Fallbestand geprüft werden.
Aleph-Alpha/Kolibri-1Mistral AI · Frankreich
Mistral Small 4
Alternative für Text und Dokumentbilder
Apache 2.0Offizielle ModellkarteWarum in der Auswahl?
Verarbeitet Text und Bilder, unterstützt Deutsch und strukturierte Ausgaben. Ein Kandidat, wenn Layout und gescannte Dokumente mit betrachtet werden sollen.
Was muss der Betrieb leisten?
119 Milliarden gelernte Einstellungen. Der Name „Small“ steht hier nicht für einen kleinen Bürorechner: Speicher und Antwortzeiten im Lasttest ermitteln.
Vor einer Freigabe prüfen
Bildverständnis ersetzt keine Kontrolle kritischer Zahlen, Verneinungen oder Fundstellen. Die Eignung für Sozialrecht ist gesondert nachzuweisen.
mistralai/Mistral-Small-4-119B-2603Qwen · Alibaba Cloud · China
Qwen3.8-27B
Kompakterer Vergleichskandidat
Apache 2.0Offizielle ModellkarteWarum in der Auswahl?
Ein Sprachmodell mit 27 Milliarden gelernten Einstellungen und zusätzlicher Bildverarbeitung. Sinnvoll im Vergleich, wenn verfügbare Rechenressourcen besonders ins Gewicht fallen.
Was muss der Betrieb leisten?
Weniger Modellgewichte als bei den beiden anderen Kandidaten. Der reale Speicherbedarf hängt zusätzlich von Betriebsformat, Dokumentlänge und Parallelität ab.
Vor einer Freigabe prüfen
Keine belegte Freigabe für deutsches Sozialrecht. Sprachqualität, Herkunft, Lizenzbedingungen und Sicherheitsverhalten nach denselben Maßstäben prüfen.
Qwen/Qwen3.8-27BStand: 22.10.2026. Verfügbare nach Herstellerangaben; die Fallauswahl ist unsere redaktionelle Einschätzung. Kein Anbieter liefert damit einen geprüften SGB-Assistenten. Eigenes Hosting, gepflegte Quellen und Fachprüfung bleiben Teil Ihres Projekts.
Das Ergebnis ausprobieren
So könnte Ihre
Fachassistenz aussehen.
Ein bedienbarer Prototyp für unsere fiktive Behörde: Stellen Sie eine Beispielfrage, bearbeiten Sie einen Lernschritt oder prüfen Sie einen fiktiven Text. Die Modellauswahl zeigt den geplanten Baustein im späteren System.
FachassistenzFiktive Sozialbehörde
Interaktiver Prototyp · vorbereitete Beispielantworten, kein geladenes LLM
Eine Fachfrage stellen
Probieren Sie eines der drei vorbereiteten Themen aus.
Für den echten Betrieb: Rechteprüfung, gepflegte Quellen, eigenes Modell, fachliche Freigabe.Eigenes System planen
Nachlesen und einordnen
Die Grundlagen
hinter dem Leitfaden.
Primärquellen für Technik, Sicherheit und Recht, einschließlich des Behördenbeispiels. Redaktioneller Stand: 22.10.2026. Jeder konkrete Einsatz braucht eine eigene fachliche und rechtliche Prüfung.
- 1
- 2Hugging FaceRetrieval-Augmented Generation
Technische Grundlage für Antworten mit abgerufenem Wissen.
- 3Hugging FaceFine-Tuning eines vortrainierten Modells
Anpassung, Trainingsdaten und getrennte Evaluation.
- 4Gesetze im InternetHinweise zu den Gesetzestexten
Konsolidierte Fassungen sind nicht die amtliche Verkündung.
- 5
- 7Gesetze im Internet§ 67b SGB X: Zulässigkeit der Verarbeitung
Spezifische Anforderungen für die Verarbeitung von Sozialdaten.
- 8EUR-LexDatenschutz-Grundverordnung
Unter anderem Zweckbindung, Datenminimierung, Sicherheit und Folgenabschätzung.
- 9EUR-LexEU-KI-Verordnung, konsolidierte Fassung
Zweckbezogene Risikoeinordnung; insbesondere Art. 6 und Anhang III.
- 10Hugging FaceLow-Rank Adaptation (LoRA)
Kleine trainierbare Zusatzmatrizen bei unveränderten Grundgewichten.
- 11Meta · 27.09.2023The Llama Ecosystem: Past, Present, and Future
Mehr als 3.500 Unternehmens-Projektstarts bei AWS und Google Cloud; keine Zählung produktiver Eigenmodelle.
- 12Aleph AlphaKolibri 1: offizielle Modellkarte
Deutsch/Englisch, Einsatzgrenzen, Hardware und Lizenz; Grundlage unserer Vorauswahl im fiktiven Fall.
- 13Mistral AIMistral Small 4: offizielle Modellkarte
Verfügbare Gewichte, Text- und Bildeingaben, Sprachen und Apache-2.0-Lizenz.
- 14QwenQwen3.8-27B: offizielle Modellkarte
Modellumfang, Bildverarbeitung, Betriebsvarianten und Apache-2.0-Lizenz.
- 15Andrej KarpathyLLM Wiki: Originalvorschlag
Persönliches Wiki als aufbereitete Wissensschicht; unveränderte Originalquellen bleiben die Grundlage.
- 16AnthropicBuilding effective agents
Agentenschleifen, Rückmeldungen, Prüfkriterien und Abbruchgrenzen; Nutzen gegen Aufwand und mögliche Fehler abwägen.