Open Source im Juli 2026: der Stand
Update Juli 2026: Ich habe die Empfehlungen auf die aktuelle Mistral-3-Generation umgestellt (Ministral 3 statt des ausgemusterten Mistral 7B), die Hardware-Angaben für Mistral Large 3 korrigiert und die Llama-4-Daten an Metas offizielle Spezifikationen angepasst.
Die gute Nachricht vorweg: Die Zeiten, in denen Open-Source-Modelle deutlich schwächer als kommerzielle Angebote waren, sind vorbei. Stand Juli 2026 ist die Leistungslücke bei Standard-Enterprise-Anwendungen so gering, dass sie für die meisten Unternehmen keine Rolle mehr spielt.
Die schlechte Nachricht: Die Auswahl ist damit komplizierter geworden. Und sie altert schnell.
Was Llama 4 (Meta) auszeichnet, und wo es Grenzen hat
Llama 4 ist auch im Juli 2026 Metas aktuelle Open-Weight-Generation: Scout (17 Mrd. aktive Parameter, 16 Experten, 109 Mrd. gesamt) und Maverick (17 Mrd. aktiv, 128 Experten, 400 Mrd. gesamt). Das angekündigte Behemoth (288 Mrd. aktiv, fast 2 Billionen gesamt) ist weiterhin nicht als Open-Weight-Modell erschienen. Bei Erscheinen schlug Llama 4 in vielen Benchmark-Kategorien die damalige kommerzielle Konkurrenz der GPT-4o-Klasse, vor allem bei Coding, komplexem Reasoning und mehrsprachigen Aufgaben.
Stärken: Herausragend bei Coding und strukturierter Datenverarbeitung, nativ multimodal (Text + Bild) in Scout und Maverick, extrem aktives Ökosystem. Die kommerzielle Nutzung ist bis 700 Mio. MAU kostenlos, für B2B praktisch immer.
Schwächen: Maverick braucht einen kompletten H100-Host, Behemoth bleibt unveröffentlicht. Für deutschsprachige Texte ist Llama leicht schwächer als Mistral, und die Lizenz verbietet den Bau direkter Konkurrenzmodelle.
Empfohlene Hardware für Llama 4 Scout (17B aktiv / 109B gesamt, MoE): Laut Meta passt Scout Int4-quantisiert auf eine einzelne H100. Für Produktionsbetrieb mit parallelen Anfragen und langem Kontext rechnen Sie realistisch mit 2 bis 4 GPUs. Maverick (400 Mrd. gesamt) braucht einen kompletten H100-Host. Kein Laptop-Modell.
Was Mistral 3 (Mistral AI, Paris) auszeichnet
Mistral ist das europäische Gegenmodell, seit Dezember 2025 in der dritten Generation. Die Familie reicht vom Flaggschiff Mistral Large 3 (Mixture-of-Experts, 41 Mrd. aktive von 675 Mrd. Gesamtparametern) bis zur Ministral-3-Reihe (3B, 8B, 14B als dichte Modelle, jeweils auch mit Reasoning-Variante). Alles Apache 2.0, alles nativ multimodal und auf über 40 Sprachen trainiert.
Stärken: Europäische Entwicklung mit Stärken bei deutschen und französischen Texten und im DSGVO-Kontext. Apache-2.0-Lizenz für die komplette Familie ohne MAU-Grenzen. Ministral 3 läuft auf einer einzelnen GPU bis hinunter zu Edge-Geräten, und jede Größe bringt eine Reasoning-Variante mit.
Schwächen: Bei komplexen Coding-Aufgaben je nach Benchmark hinter Llama 4, die Community ist kleiner als das Meta-Ökosystem. Und die Palette wechselt schnell: Mistral 7B und Mixtral 8x7B sind seit März 2025 offiziell ausgemustert.
Hardware für Mistral Large 3: ein kompletter 8-GPU-Knoten (8× A100 oder 8× H100 mit vLLM); das Modell ist trotz 41 Mrd. aktiver Parameter mit 675 Mrd. Gesamtparametern kein Ein-GPU-Fall. Ministral 3 8B/14B: eine einzelne GPU reicht, die 8B-Variante läuft laut Mistral auch auf RTX-PCs und Jetson-Geräten.
Der direkte Vergleich für typische B2B-Use-Cases
| Anwendungsfall | Empfehlung | Begründung |
|---|---|---|
| Interne Wissensdatenbank (RAG) | Ministral 3 8B | Effizienz, deutschsprachig stark |
| Vertragsanalyse und -zusammenfassung | Mistral Large 3 | DSGVO-Kontext, präzise |
| Code-Generierung und -Review | Llama 4 Scout | Beste Coding-Performance |
| Kundenkommunikation (DE) | Mistral Large 3 | Natürliches Deutsch |
| Komplexes Daten-Reasoning | Llama 4 Scout | Stärkeres Reasoning |
| Niedriges Budget / kleine Hardware | Ministral 3 8B | Läuft auf einer GPU |
| Höchste Qualität, Hardware vorhanden | Llama 4 Maverick | Benchmark-führend |
Was die meisten Unternehmen übersehen: Modellgröße ist nicht Qualität
Meine Erfahrung aus Projekten: Die meisten B2B-Use-Cases brauchen kein Flaggschiff-Modell. Für eine interne FAQ-Datenbank, Dokumenten-Zusammenfassungen oder CRM-Notizen ist ein Ministral 3 8B oder 14B auf einem einzelnen leistungsstarken Server vollkommen ausreichend. Und es läuft mit Reaktionszeiten unter einer Sekunde.
Den Unterschied zum großen Mistral Large 3 merken Sie im Alltag erst bei komplex-analytischen Aufgaben oder sehr langen Kontext-Fenstern.
Lizenz-Fragen, die vor dem Start geklärt sein müssen
Für Mistral 3 (Apache 2.0): Die komplette Generation, vom 3B-Modell bis Large 3, steht unter Apache 2.0. Vollständig kommerziell nutzbar, kein Aufwand.
Für Llama 4: Die Meta-Llama-Lizenz erlaubt kommerzielle Nutzung, aber mit einer Grenze: Über 700 Millionen monatlich aktive Nutzer braucht eine separate Lizenz von Meta. Für B2B-Unternehmen in der Praxis irrelevant. Zusätzlich dürfen Sie Llama nicht nutzen, um direkte Konkurrenzmodelle zu trainieren.
Der pragmatische Rat zum Einstieg
Fangen Sie mit Ministral 3 8B Instruct an. Kostenlos, läuft auf einer einzigen GPU, Apache-2.0-lizensiert, deutschsprachig stark, und die Reasoning-Variante liegt bei. Wenn die Qualität für Ihren Use Case nicht ausreicht, skalieren Sie zu Ministral 3 14B, Mistral Large 3 oder Llama 4 Scout.
Der Fehler, den viele machen: direkt das größte verfügbare Modell deployen. Und dann feststellen, dass es für den eigentlichen Anwendungsfall overkill ist. Und die Hardware-Kosten dreimal so hoch wie nötig. Was ein eigener GPU-Server gegenüber API und EU-Cloud wirklich kostet, rechnet der interaktive KI-Kosten-Rechner mit Ihren Zahlen durch.
---
Vollständiger Überblick: Architektur, DSGVO-Compliance, ROI-Kalkulation und Einstiegsszenarien für Private AI im Leitfaden: Private AI: KI ohne Cloud-Risiko, der Leitfaden für deutsche Unternehmen