LLM Fine-Tuning 2026: Geprüfte Anbieter in Deutschland, Österreich und der Schweiz

Wann sich LLM Fine-Tuning lohnt und wann nicht

LLM Fine-Tuning ist eines der am meisten missverstandenen Themen in der Unternehmens-KI. "Wir tunen uns ein eigenes Modell" klingt nach Kontrolle und Differenzierung, endet aber oft in Projekten, die mehr kosten als sie nutzen. Bevor wir über Anbieter, Methoden und Kosten reden, müssen wir die Entscheidungsfrage beantworten.

Fine-Tuning lohnt sich, wenn eine dieser Bedingungen zutrifft:

• Sie haben ein Format-Problem, das Prompting nicht lösen kann. Beispiel: Sie brauchen immer strukturiertes JSON in exakt einem bestimmten Schema und Prompting produziert zu viele Varianten.
• Sie haben ein Domain-Stil-Problem. Ihre Texte haben eine sehr spezifische Fachsprache (Versicherungsrecht, Medizin, Engineering), die Standard-Modelle nicht treffen.
• Sie haben ein Latenz- und Kostenproblem, das ein kleineres Modell lösen würde. Sie fine-tunen ein 8B- oder 13B-Modell auf Ihre Domäne und erreichen ähnliche Qualität wie ein 70B-Modell bei einem Zehntel der Kosten.
• Sie haben Compliance-Anforderungen, die den Einsatz selbst-gehosteter Modelle erzwingen, und brauchen dann die höchstmögliche Qualität aus einem Open-Source-Modell.

Fine-Tuning lohnt sich nicht, wenn:

• Sie Wissen hinzufügen wollen. Fine-Tuning ist schlecht darin, Fakten zu injizieren. RAG ist dafür die richtige Methode.
• Sie weniger als ein paar hundert qualitativ hochwertige Training-Beispiele haben. Fine-Tuning braucht saubere Daten, und Datenaufbereitung ist oft 70 Prozent des Aufwands.
• Sie noch keine Evaluation-Strategie haben. Ohne messbare Metriken werden Sie nie wissen, ob Ihr getuntes Modell besser ist als das Baseline-Modell.
• Ihre Use-Case-Anforderungen sich monatlich ändern. Jede Änderung erzeugt Retraining-Aufwand.

Wir sehen in DACH-Projekten ein Muster: 60 Prozent der Kunden, die Fine-Tuning anfragen, brauchen tatsächlich RAG oder besseres Prompt Engineering. Ein seriöser Anbieter sagt Ihnen das offen, auch wenn es ihm Umsatz kostet.

3 Fine-Tuning-Methoden im Überblick

Die wichtigen Methoden im Jahr 2026, mit ehrlichen Bewertungen zu Aufwand, Qualität und Einsatzgebiet.

LoRA ist 2026 der Standard für die meisten Business-Use-Cases. Der Grund: Sie tunen nur eine kleine Anzahl zusätzlicher Parameter, behalten das Base-Modell unverändert und können mehrere LoRA-Adapter kombinieren. Ein LoRA-Adapter für ein 13B-Modell hat typischerweise 10 bis 30 MB und lädt sich in Sekunden.

QLoRA ist die Spar-Variante für Teams ohne dedizierte GPU-Infrastruktur. Sie quantisieren das Base-Modell auf 4-Bit und trainieren dann den LoRA-Adapter darüber. Qualität ist meist 85 bis 95 Prozent von Full LoRA, Kosten und Hardware-Anforderungen sind dramatisch niedriger.

Full Fine-Tuning ist die klassische Methode und lohnt sich nur bei größeren Vorhaben: Sie wollen einen Basis-Verhalten verändern, Sie haben Millionen Training-Beispiele, Sie brauchen maximale Qualität. Die Infrastruktur-Kosten sind erheblich, die Trainings-Dauer lang, und jede Änderung erzwingt einen vollen Retraining-Lauf.

Zwischen den Methoden wählen: Wenn Sie unsicher sind, starten Sie mit QLoRA auf einem kleineren Modell (7B bis 13B) für 500 bis 1.500 Euro. Wenn die Ergebnisse stimmen, skalieren Sie auf LoRA mit größeren Modellen. Full Fine-Tuning nur bei klar messbarem Bedarf.

DSGVO und EU AI Act beim Training

Datenschutz beim LLM Fine-Tuning ist oft der Knackpunkt, der DACH-Projekte stoppt. Drei Kernfragen.

Frage 1: Wo werden die Trainingsdaten verarbeitet? Wenn Sie ein Cloud-gehostetes Fine-Tuning bei OpenAI, Anthropic oder Google Cloud nutzen, verlassen die Daten Ihr Unternehmen und gehen in die Cloud des Anbieters. Für öffentliche oder anonymisierte Daten kein Problem. Für personenbezogene oder vertrauliche Unternehmensdaten brauchen Sie eine AVV und müssen die Datenresidenz prüfen.

Frage 2: Geht das Training in ein geteiltes Modell ein? Bei Anthropic Claude Fine-Tuning, GPT-4 Fine-Tuning und ähnlichen Closed-Source-Angeboten bleibt das getunte Modell Ihr eigenes. Training-Daten werden nicht für andere Kunden verwendet. Das sollten Sie vertraglich festhalten, bevor Sie starten.

Frage 3: Open Source on-premise? Wenn Datenschutz oder Compliance keine Cloud-Verarbeitung erlaubt, führt kein Weg an selbst-gehostetem Training vorbei. Sie laden ein Open-Source-Modell (Llama 3, Mistral, Qwen, Phi) in Ihre Infrastruktur, führen das Fine-Tuning in Ihrem Rechenzentrum oder auf EU-gehosteten GPUs durch und halten die Daten nie von Ihren Servern weg. Das ist teurer, bietet aber maximale Kontrolle.

EU AI Act im Training-Kontext. Der EU AI Act unterscheidet zwischen der Entwicklung eines Modells und dessen Einsatz. Für Deployer von General-Purpose-Modellen gelten Dokumentations- und Transparenzpflichten. Wer ein Modell auf eigene Daten fine-tuned, wird als Deployer klassifiziert, nicht automatisch als Modell-Entwickler. Das reduziert die Compliance-Last, schließt sie aber nicht aus. Prüfen Sie mit Ihrem Datenschutz-Beauftragten, ob Ihr Use-Case in einen hohen Risk-Tier fällt.

Kein Rechtsbeistand. Diese Hinweise ersetzen keine Rechtsberatung. Alle rechtlichen Aspekte sollten mit einem spezialisierten Anwalt geklärt werden, bevor Training-Läufe starten.

Kosten-Größenordnungen für 2026

Die ehrliche Aufschlüsselung, was Fine-Tuning in DACH 2026 kostet. Alle Werte sind typische Spannen, keine Garantien.

Kleiner LoRA-Run auf einem 7B-Modell:

• Datenaufbereitung: 2.000–6.000 Euro (drei bis zehn Tage Senior-Arbeit)
• Training: 100–500 Euro (API-Kosten oder Cloud-GPU)
• Evaluation und Iteration: 1.500–4.000 Euro
• Gesamt: ~4.000–11.000 Euro
• Sinnvoll für: Format-Anpassungen, Stil-Transfer, einfache Tonalität

Mittlerer LoRA-Run auf einem 13B- bis 34B-Modell:

• Datenaufbereitung: 8.000–25.000 Euro
• Training: 500–2.500 Euro
• Evaluation und Iteration: 4.000–10.000 Euro
• Deployment-Setup: 3.000–8.000 Euro
• Gesamt: ~18.000–45.000 Euro
• Sinnvoll für: Domain-Anpassung, kleinere Sprachen, spezifische Tasks

Full Fine-Tuning eines 70B-Open-Source-Modells:

• Datenaufbereitung und -kuration: 25.000–60.000 Euro
• Training-Infrastruktur und GPU-Zeit: 15.000–40.000 Euro
• Evaluation-Framework: 8.000–20.000 Euro
• MLOps und Deployment: 10.000–25.000 Euro
• Gesamt: ~50.000–150.000 Euro
• Sinnvoll für: strategische KI-Initiativen mit klar definierter Qualitätsanforderung

Laufende Kosten nach Training:

• Inference-Hosting: 500–4.000 Euro pro Monat je nach Volumen
• Monitoring und Observability: 200–800 Euro pro Monat
• Regelmäßige Refresher-Trainings (alle drei bis sechs Monate): 30 bis 60 Prozent der initialen Training-Kosten

Wichtig: Die größte Kostenposition ist fast immer die Datenaufbereitung. Rohe Logs, E-Mails oder Dokumente sind keine Trainingsdaten. Cleaning, Labeling, Deduplizierung, Qualitätskontrolle und Test-Set-Aufbau brauchen Senior-Expertise, keine Praktikanten.

Top-Anbieter DACH: Wie man sie findet

Die Anbieter-Szene für LLM Fine-Tuning in DACH ist klein, aber wächst. Hier sind die Kriterien, die Sie bei der Auswahl anlegen sollten.

Kriterium 1: Produktions-Erfahrung mit Fine-Tuning. Fragen Sie nach konkreten Projekten, bei denen der Anbieter ein getuntes Modell in Production betrieben hat. "Wir experimentieren mit Fine-Tuning" reicht nicht. "Wir haben für Kunde X ein Llama-13B-Modell getuned, das seit Q3 2025 in Production läuft, und die Evaluation zeigt Y" ist die richtige Antwort.

Kriterium 2: Framework-Kompetenz. Ein seriöser Anbieter kennt mindestens Axolotl, Unsloth, Hugging Face TRL, LLaMA Factory und die aktuellen Accelerate-Tools. Wer sich auf ein einziges Framework festgelegt hat, hat wahrscheinlich nicht genug Breite.

Kriterium 3: GPU-Infrastruktur oder Cloud-Erfahrung. Entweder betreibt der Anbieter eigene GPU-Cluster (seltener) oder hat nachgewiesene Erfahrung mit AWS P5, Azure ND, Google A3 oder CoreWeave/Lambda Labs. Fragen Sie nach typischen Training-Run-Kosten und wie der Anbieter Optimierungen durchführt.

Kriterium 4: Evaluation-First-Mentalität. Gute Fine-Tuning-Anbieter reden zuerst über Eval-Sets, Baselines und Metriken, nicht über Modell-Namen. Wenn der Anbieter im ersten Gespräch keine Frage zur Evaluation stellt, ist das ein Warnsignal.

Kriterium 5: DSGVO-Klarheit. Der Anbieter muss erklären können, wie Ihre Daten während des Trainings behandelt werden, wo sie gespeichert werden, wann sie gelöscht werden, und welche AVV-Klauseln gelten. Wer diese Fragen nicht in einem Satz beantworten kann, hat es nicht durchdacht.

Kriterium 6: Referenz-Projekte in DACH. Anbieter aus den USA mögen technisch stärker sein, aber DACH-Referenzen zeigen Verständnis für lokale Compliance, Sprache und Geschäftskultur. Für sensitive Projekte ist die regionale Nähe ein echter Vorteil.

In unserer KI-Entwicklung-Kategorie listen wir geprüfte Anbieter mit echtem Fine-Tuning-Track-Record. Die Liste wird monatlich aktualisiert.

FAQ zu LLM Fine-Tuning in DACH

1. Wie viele Training-Beispiele brauchen wir? Für eine Stil- oder Format-Anpassung reichen 300 bis 1.000 hochqualitative Beispiele. Für Domain-Anpassung 3.000 bis 20.000 Beispiele. Für Full Fine-Tuning auf eine neue Fähigkeit 50.000 bis mehrere Millionen. Wichtiger als Quantität ist Qualität.

2. Können wir Claude oder GPT-4 selbst fine-tunen? Ja, beide Anbieter haben Fine-Tuning-APIs. Die Qualität ist hoch, die Handhabung simpel, aber Ihre Daten gehen durch die Cloud des Anbieters und Ihre Modell-Kontrolle ist begrenzter als bei Open Source. Für viele Business-Use-Cases ist das der richtige Trade-off.

3. Ist Fine-Tuning reversibel? Bei LoRA und QLoRA ja — Sie löschen einfach den Adapter und haben das Original-Modell zurück. Bei Full Fine-Tuning nein, außer Sie haben das ursprüngliche Base-Modell noch verfügbar. Rechnen Sie mit Versionierung von Anfang an.

4. Wie lange bleibt ein gefinetunetes Modell "frisch"? Drei bis neun Monate, je nach Use-Case. Wenn sich Ihre Daten, Ihre Tonalität oder Ihre Anforderungen ändern, brauchen Sie Retraining. Das sollte in die Gesamtkalkulation eingehen.

5. Fine-Tuning oder RAG — was zuerst? Fast immer RAG zuerst. RAG löst Wissens-Probleme besser und ist billiger, schneller und flexibler. Fine-Tuning ist der zweite Schritt für Stil- oder Format-Anpassungen, die RAG nicht löst.

---

Sie suchen einen geprüften LLM-Fine-Tuning-Anbieter in DACH, der ehrlich berät, DSGVO-sicher arbeitet und messbare Ergebnisse liefert? Kostenlos Angebote erhalten und drei passende Spezialisten vergleichen.