EU AI Digital Sovereignty LLM Comparator RAG Embeddings · DE

RAG Embedding Modelle

Acht kuratierte Embedding-Modelle für Retrieval-Augmented Generation — mit konkreter RAG-Empfehlung je Modell, MTEB-Scores, Lizenz, EU-Fit und Hosting-Variante. Auswahl-Kriterien: EU-Sovereignty, permissive Lizenz für kommerzielle RAG, DE/Multilingual-MTEB-Performance.

Stand: 16. Oktober 2026 · Basis: MTEB Multilingual, MTEB-Code, Provider-Dokumentation, Hugging Face Hub-Statistiken, interner EU-Deep-Research-Report

MTEB Multilingual vs. Preis log-Preisachse · € pro Mtok · Farbe = EU-Fit · untere Spur = Self-Host
€0,01€0,02€0,05€0,1€0,255606570Self-HostMTEB Multilingual ScoreAPI-Preis €/Mtok (log)€0,01€0,02€0,05€0,1€0,255606570Self-HostMTEB Multilingual ScoreAPI-Preis €/Mtok (log) ↑

Ohne veröffentlichten MTEB-Multilingual-Wert (nicht im Diagramm): Cohere Embed 5 Pro · OpenAI text-embedding-3-small

#1

Qwen3-Embedding-8B

Alibaba
EU-Fit hoch Self-Host Apache 2.0 8B

Top-Tier mehrsprachige RAG + Code-Retrieval auf EU-GPU mit Budget für 8B-Inferenz.

Eines der stärksten Open-Weight-Embedding-Modelle der 8B-Klasse (MMTEB 70,58, MTEB-Code 80,68) und weiterhin Qwens bestes Text-Embedding — das multimodale Qwen3-VL-Embedding-8B liegt im MMTEB darunter (67,88). 100+ Sprachen, 32K-Kontext, MRL 32–4096 Dims für Storage-Tradeoffs. Best Choice für RAG-Pipelines mit hohem Qualitätsanspruch und vorhandenem GPU-Budget; Apache-2.0-Lizenz erlaubt unbeschränkte kommerzielle Nutzung trotz CN-Origin, weil Inferenz vollständig in eigener EU-Infrastruktur läuft.

Dims:
4096 Dim (MRL 32–4096)
Kontext:
32.768 Tokens
Sprachen:
100+ (inkl. DE, Code)
MTEB:
Multi 70.58 · Code 80.68

CN-Origin (Alibaba), aber Apache-2.0-lizenziert — Inferenz läuft vollständig auf eigener EU-GPU, keine Provider-Telemetrie.

Stärken

  • + MMTEB 70,58 + MTEB-Code 80,68 — klar vor OpenAI text-embedding-3-large (58,93)
  • + Apache 2.0 — kommerziell unbeschränkt, Self-Host auf EU-GPU
  • + 32K-Kontext + MRL (32–4096 Dims) für flexible Vektor-Datenbanken

Limitierungen

  • − 8B Parameter → ~16 GB VRAM für FP16-Inferenz
  • − CN-Origin (Alibaba) — Supply-Chain-Audit der HF-Artefakte ratsam
  • − Höherer TCO als 568M-Modelle bei hohem Indexierungsvolumen
#2

BGE-M3

BAAI
EU-Fit hoch Self-Host MIT 568M

DACH-Multilingual-RAG mit nativem Hybrid Dense+Sparse Retrieval auf knapper GPU.

Multilinguales Embedding-Workhorse (568M Parameter, MIT-lizenziert) auf einer einzelnen L4/A10 GPU — mit rund 32 Mio. Downloads pro Monat das meistgenutzte Modell dieser Liste. Einzigartig: nativer Hybrid-Modus (Dense + Sparse + Multi-Vector) in einem Forward-Pass, ideal wenn Recall in juristischen oder industriellen Dokumenten-Korpora maximiert werden muss; dafür braucht die Vektor-DB Sparse-Support (Milvus, Vespa, Qdrant). 8K-Kontext, 100+ Sprachen. Im reinen Dense-Vergleich (MMTEB 59,56) haben neuere Modelle gleicher Größe aufgeholt — erste Wahl bleibt BGE-M3, wenn Hybrid-Retrieval auf knappem GPU-Budget gebraucht wird.

Dims:
1024 Dim
Kontext:
8.192 Tokens
Sprachen:
100+
MTEB:
Multi 59.56

CN-Origin (BAAI Peking), MIT-lizenziert — Inferenz auf eigener EU-GPU, weltweit am breitesten in OSS-Vektor-DBs unterstützt.

Stärken

  • + Hybrid Dense + Sparse + Multi-Vector in einem Forward-Pass
  • + MIT-Lizenz + 568M Parameter → läuft auf einzelner L4/A10
  • + 8K Kontext, 100+ Sprachen, breiteste OSS-Tooling-Unterstützung

Limitierungen

  • − MMTEB 59,56 — im reinen Dense-Retrieval von neueren Modellen überholt
  • − Kein MRL — fixe 1024-Dim-Vektoren
  • − CN-Origin (BAAI Peking) — Supply-Chain-Audit der HF-Artefakte ratsam
#3

Gemini Embedding 2

Google
EU-Fit mittel API proprietär (API) API

Multimodale RAG-Pipelines (PDF/Bild/Audio in einem Vektorraum) ohne Self-Host-Aufwand.

Googles erstes natively multimodales Embedding (text/image/video/audio/PDF in einem 3072-dim Vektorraum), MRL bis 128 Dims runter. MTEB Multilingual 69,9 — höchster veröffentlichter Wert unter den API-Modellen dieser Liste. GA-API gemini-embedding-2 (GA 04/2026, multimodal) in der EU nur über die Vertex-Multi-Region eu verfügbar, $0.20/Mtok Text ($0.10 im Batch). Best Choice wenn RAG-Quellen heterogen sind (PDFs mit Diagrammen, Audio-Memos) und Self-Host-Komplexität vermieden werden soll.

Dims:
3072 Dim (MRL 128–3072)
Kontext:
8.192 Tokens
Sprachen:
100+ (im MTEB-Benchmark über 250+ Sprachen evaluiert)
MTEB:
Multi 69.9 · Code 84
Preis:
~€0.180 / Mtok

US-Provider; EU-Verarbeitung nur über die Vertex-Multi-Region eu (kein europe-west1/3/4), Standard-Vertex-DPA gilt.

Stärken

  • + Erstes natively multimodales Embedding (Text/Bild/Video/Audio/PDF)
  • + MTEB Multilingual 69,9 (Spitze der API-Modelle hier) + MTEB-Code 84,0
  • + Matryoshka Representation Learning — 128 → 3072 Dims ohne Re-Embed

Limitierungen

  • − GA-Modell-ID gemini-embedding-2 — Alt-Deployments auf -Preview-ID müssen migrieren
  • − US-Provider; Vertex-EU-DPA als rechtliche Grundlage nötig
  • − $0.20/Mtok — höher als Mistral Embed ($0.10) oder Self-Host
#4

Mistral Embed

Mistral AI
EU-Fit hoch API proprietär (API) API

EU-souveräne, schlanke RAG-API mit DSGVO-konformer Datenresidenz für DACH-Behörden und Mittelstand.

mistral-embed-2312 ist Mistrals EU-native (Paris) Embedding-API, 1024 Dim, 8K-Kontext, 0,10 €/$ pro Mtok. MTEB moderat (~55–58), keine Refresh-Iteration für Text seit 12/2023. Für Code-RAG gibt es ergänzend Codestral Embed (05/2025) — laut Mistral vor Voyage Code 3, Cohere Embed v4 und OpenAI text-embedding-3-large. Trotzdem die richtige Wahl wenn (a) Datenresidenz in der EU vertraglich gesetzt sein muss, (b) Self-Host-Stack nicht aufgebaut werden kann, (c) RAG-Qualität auf Mittelmaß ausreicht (z. B. interne Wissensbasen ohne Long-Tail-Recall-Anforderung).

Dims:
1024 Dim
Kontext:
8.192 Tokens
Sprachen:
DE/EN/FR/ES/IT (Mistral-Trainings-Sprachen)
MTEB:
Multi 57
Preis:
~€0.100 / Mtok

EU-native (Paris, Frankreich) — DSGVO direkt, keine US-Mutter, kein CLOUD-Act.

Stärken

  • + EU-native (FR), keine CLOUD-Act-Exposition
  • + 0,10 €/Mtok — einzige EU-native API in dieser Liste
  • + Stabiler Production-Endpoint seit Ende 2023

Limitierungen

  • − MTEB-Score deutlich unter Qwen3-Embedding-8B und Gemini Embedding 2 (~57 vs. ~70)
  • − Modell von Ende 2023, bis heute keine neue Text-Iteration
  • − Kein MRL — fixe 1024-Dim-Vektoren
#5

Nemotron-3-Embed-1B

NVIDIA
EU-Fit hoch Self-Host OpenMDW-1.1 1.14B

Effizientes Produktions-Retrieval auf knapper GPU: RTEB 72.4 bei nur 1.14B Parametern und 32K-Kontext.

Neueste Generation (Release 16.07.2026): Effizienz-Spitze der aktuellen Retrieval-Leaderboards. RTEB 72.4 / MMTEB Retrieval 71.0 — 27–28% weniger Fehlerrate als der 1B-Vorgänger. 32K-Kontext, multilingual + Code-Retrieval, 2048-Dim-Vektoren lassen sich auf 1024/512 Dims kürzen, sentence-transformers/vLLM/NIM-Support. NVFP4-Schwestervariante für Blackwell (2× Throughput, 99%+ Accuracy-Retention); die 8B-Variante führte zum Release das RTEB-Leaderboard an (78,46). Open-Source Fine-Tuning- und Distillation-Recipes (NeMo AutoModel) für Domänen-Anpassung. Ausblick: Nemotron-3.5-Embed-1B (Release laut Model Card 20.10.2026) ergänzt Bild-Retrieval und teilt denselben Text-Vektorraum — Text-Indizes bleiben ohne Re-Embedding nutzbar. Best Choice für produktive RAG-Pipelines mit Latenz-/Kostendruck, die trotzdem aktuelle Retrieval-Qualität brauchen.

Dims:
2048 Dim (MRL)
Kontext:
32.768 Tokens
Sprachen:
Multilingual + Code
MTEB:
Multi 71

US-Vendor (NVIDIA), aber offene Gewichte (OpenMDW-1.1) — Inferenz läuft vollständig auf eigener EU-GPU, keine Provider-Telemetrie. Backbone: Mistral Ministral-3 (Apache 2.0).

Stärken

  • + RTEB 72.4 bei 1.14B Parametern — aktuelle Effizienz-Spitze
  • + 32K Kontext + Multilingual + Code-Retrieval in einem Modell
  • + Offene Gewichte + Fine-Tuning-Recipes; NVFP4-Variante für Blackwell

Limitierungen

  • − US-Vendor (NVIDIA) — Supply-Chain-Audit der HF-Artefakte ratsam
  • − OpenMDW-1.1 statt Apache-2.0 — License-Review einplanen
  • − Brandneu (Juli 2026) — wenig Langzeit-Production-Erfahrung in der Community
#6

Voyage 4 Lite

Voyage AI
EU-Fit mittel API proprietär (API) API

Preisfloor-Einstieg für große Indexierungsvolumen ohne Self-Host-Aufbau.

$0.02/1M Tokens (erste 200 Mio. Tokens frei) — zusammen mit OpenAI text-embedding-3-small der Preisfloor der API-Embeddings in dieser Liste. Teilt den Vektorraum mit voyage-4, voyage-4-large und dem offenen voyage-4-nano (Apache 2.0): Abfragen lassen sich später ohne Re-Indexierung auf ein stärkeres Modell heben. Über den EU-Endpoint von MongoDB Atlas bleibt die Verarbeitung im EWR. Für DACH-RAG mit moderatem Qualitätsanspruch und hohem Volumen (Erst-Indexierung, Archiv-Suche) die günstigste verwaltete Option; Qualität unter Qwen3-Embedding-8B und Nemotron einordnen.

Dims:
1024 Dim (MRL 256–2048)
Kontext:
32.000 Tokens
Sprachen:
Multilingual (EN-stark, DE solide)
MTEB:
Multi 62
Preis:
~€0.018 / Mtok

US-Provider (Voyage AI, Teil von MongoDB); seit 29.09.2026 EU-Datenresidenz über MongoDB Atlas (eu.ai.mongodb.com, Verarbeitung in EWR-Regionen, +10 % Aufpreis) — US-Mutter, CLOUD-Act-Caveat bleibt.

Stärken

  • + $0.02/1M Tokens — Preisfloor der API-Klasse
  • + MRL 256–2048 Dims + int8/Binär-Quantisierung
  • + 32K-Kontext; gemeinsamer Vektorraum der Voyage-4-Familie

Limitierungen

  • − EU-Residency nur über den Atlas-Endpoint (+10 %) — US-Mutterkonzern
  • − MTEB deutlich unter den Open-Weight-Spitzenmodellen
  • − Kein Self-Host für Lite — offen ist nur das kleinere voyage-4-nano
#7

Cohere Embed 5 Pro

Cohere
EU-Fit mittel API proprietär (API) API

Long-Context-RAG (128K) über verwaltete API — mit Pro indexieren, mit Fast günstig abfragen.

Cohere Embed 5 (GA 30.09.2026) löst Embed v4 ab: 128K-Kontext, Text, Bild und gemischte PDF-Seiten in einem Vektorraum, Matryoshka-Dimensionen 256–2048 sowie int8-/Binär-Ausgabe. Pro (embed-v5.0-pro, $0.12/Mtok) und Fast (embed-v5.0-fast, $0.08/Mtok) teilen denselben Vektorraum — mit Pro indexieren, mit Fast abfragen, ohne Re-Indexierung. Cohere veröffentlicht keinen MTEB-Wert, sondern eigene Retrieval-Benchmarks (u. a. ViDoRe V3: 85,8). Interessant für Dokument-RAG mit sehr langen Chunks (Vertragswerke, Handbücher), wenn Gemini Embedding 2 zu google-nah und Self-Host zu aufwändig ist. Der Aleph-Alpha-Zusammenschluss kann mittelfristig EU-Regionen erschließen — Stand heute nicht darauf bauen.

Dims:
2048 Dim (MRL 256–2048)
Kontext:
128.000 Tokens
Sprachen:
100+ (inkl. DE)
MTEB:
MTEB k. A.
Preis:
~€0.110 / Mtok

Cohere (Kanada); Zusammenschluss mit Aleph Alpha am 16.09.2026 unterzeichnet, Closing steht noch unter regulatorischem Vorbehalt. Standard-API ohne EU-Endpoint; Private Deployment (VPC/On-Prem) nur über den Cohere-Vertrieb.

Stärken

  • + 128K Kontext — längster API-Embedding-Kontext in dieser Liste
  • + Multimodal (Text, Bild, PDF-Seiten) in einem Vektorraum
  • + Pro und Fast im selben Vektorraum; MRL 256–2048 Dims

Limitierungen

  • − Drittland-Verarbeitung (Kanada/US) — kein EU-Endpoint in der Standard-API
  • − Kein veröffentlichter MTEB-Wert — nur Cohere-eigene Benchmarks
  • − Preis über Mistral Embed und Voyage 4 Lite
#8

OpenAI text-embedding-3-small

OpenAI
EU-Fit niedrig API proprietär (API) API

Legacy-kompatible OpenAI-RAG-Pipelines zum Preisfloor ($0.02/1M).

Der etablierte OpenAI-Baseline-Embedding: $0.02/1M Tokens, 1536 Dims mit MRL-Kürzung, breiteste SDK-/Framework-Abdeckung. OpenAI nennt MTEB 62,3 (englischer Benchmark); im multilingualen MMTEB erreicht selbst das größere text-embedding-3-large nur 58,93 — für deutsche Long-Tail-Korpora klar hinter Qwen3-Embedding-8B und Nemotron. Seit 2024 kein Nachfolger. Nur führen, wenn eine bestehende OpenAI-Pipeline ohne Re-Embedding weiterlaufen soll; Neubauten mit Qwen3/BGE-M3 (Self-Host) oder Gemini Embedding 2 (Vertex EU) adressieren.

Dims:
1536 Dim (MRL 256–1536)
Kontext:
8.191 Tokens
Sprachen:
Multilingual
MTEB:
EN 62.3
Preis:
~€0.018 / Mtok

US-Provider; EU-Regional-Processing (EWR + Schweiz) für /v1/embeddings inkl. text-embedding-3-small grundsätzlich möglich, aber nur nach Freigabe durch OpenAI (Sales, Abuse-Monitoring-Kontrollen + Modified-Retention-Amendment). Der 10-%-Aufschlag gilt erst für Modelle ab 05.03.2026, nicht für dieses.

Stärken

  • + $0.02/1M Tokens — Preisfloor
  • + Breiteste Framework-/SDK-Integration
  • + MRL-Kürzung 256–1536 ohne Re-Embed

Limitierungen

  • − EU-Processing nur mit OpenAI-Freigabe und Vertragszusatz
  • − Kein offizieller MMTEB-Wert; schon 3-large nur 58,93
  • − 8K Kontext — deutlich unter Cohere Embed 5 (128K)

Auswahlbasis: MTEB Multilingual Leaderboard 2026, Hugging Face Hub, Provider-Dokumentation, interner EU-Deep-Research-Report. Wöchentliche Drift-Prüfung durch refresh-models Cron-Job.