Das beste KI-Modell gibt es nicht. Das passende schon.

Jeden Monat ein neues Benchmark, jedes Quartal ein neuer Spitzenreiter, jede Woche ein Artikel, in dem der Autor behauptet, die frische Nummer eins sei jetzt wirklich, endgültig, die beste KI der Welt. Wer als CIO, Geschäftsführer oder IT-Leiter ernsthaft entscheiden muss, welches Modell im eigenen Unternehmen läuft, dem nützen diese Ranglisten wenig. Sie sagen etwas darüber aus, wer in der Forschungs-Weltliga vorne steht. Sie sagen nichts darüber, welches Modell für Ihre Prozesse, Ihre Daten und Ihre regulatorischen Rahmenbedingungen das richtige ist.

Die eigentliche Entscheidung hat zwei Achsen, und beide werden systematisch unterschätzt. Die erste lautet: Was soll das Modell eigentlich tun? Ein Modell, das einen Rechtsvertrag analysiert, hat andere Anforderungen als eines, das fünfhundert Mandantendokumente pro Tag klassifiziert oder eine Telefonanlage bedient. Die zweite lautet: Wo darf es laufen? Ein Modell, das personenbezogene Daten verarbeitet, gehört in Systeme, die Sie selbst kontrollieren. Ein Modell, das den nächsten Marketing-Claim paraphrasiert, darf ruhig in einer Cloud arbeiten, solange der Rahmen stimmt.

Wer diese beiden Fragen sauber durchdekliniert, braucht die Rangliste gar nicht mehr. Die Antwort ergibt sich fast von selbst.

Die Spitze: enger Dreikampf, breites Profil

Anthropic hat am 16. April 2026 Claude Opus 4.7 veröffentlicht und sich damit knapp zurück an die Spitze gesetzt. Auf agentischem Coden, Tool-Use, Computer-Use und finanzanalytischen Aufgaben liegt das Modell vor OpenAIs GPT-5.4 aus März 2026 und Googles Gemini 3.1 Pro aus Februar 2026. Der Vorsprung ist nicht riesig: Auf SWE-bench Verified stehen Opus 4.7 mit 87,6 Prozent und GPT-5.4 mit 80 Prozent zu Buche, auf GPQA Diamond führt Claude mit 94,2 Prozent vor GPT-5.4 mit 92,4 und Gemini 3.1 Pro mit 91,9 Prozent. Das klingt nach Dominanz, ist aber im realen Einsatz ein Rauschen.

Denn das Bild kippt, sobald man die Kategorie wechselt. GPT-5.4 führt bei agentischer Suche mit 89,3 Prozent gegen Claudes 79,3 Prozent, bei mehrsprachigen Frage-Antwort-Aufgaben und im reinen Terminal-basierten Coden. Vor allem bei Computer-Use — dem Steuern echter Betriebssystem-Oberflächen — liegt GPT-5.4 mit 75 Prozent auf OSWorld sogar über dem menschlichen Expertenniveau. Gemini 3.1 Pro ist vorne beim abstrakten Reasoning (ARC-AGI-2), bei multimodalen Aufgaben und bei naturwissenschaftlichen Benchmarks. Grok 4 hält den Spitzenplatz auf Humanity's Last Exam. Offene Gewichtsmodelle wie Kimi K2.5, GLM-5 oder MiniMax M2.5 sind auf einzelnen Benchmarks inzwischen auf Augenhöhe mit den proprietären Spitzenmodellen.

In der Spitzenklasse gibt es keinen Allrounder mehr, der alles am besten kann. Es gibt Modelle mit Profilen.

Erste Frage: Was soll das Modell eigentlich tun?

Hier trennt sich Ranglisten-Rhetorik von Entscheidungslogik. Der typische Mittelstand-Workload zerfällt in eine Handvoll Aufgabenkategorien, und jede hat ihre eigenen Gewinner.

Texte schreiben, redigieren, ausformulieren. Hier zählt Sprachqualität mehr als Intelligenz. In Blindvergleichen unabhängiger Forschungsgruppen im ersten Quartal 2026 wurde Claude-generierter Text in 47 Prozent der Fälle bevorzugt, gegenüber 29 Prozent für GPT-5.4 und 24 Prozent für Gemini 3.1 Pro. Für anspruchsvolle Textarbeit — Geschäftsberichte, Angebotsdokumente, öffentlichkeitswirksame Inhalte — ist Claude (Sonnet reicht meist) die verlässlichste Wahl. Für Routine-Textarbeit, Standardkorrespondenz oder interne Drafts sind günstigere Modelle wie GPT-5.4, Mistral Medium oder ein lokales Llama 3.3 70B praktisch nicht unterscheidbar.

Dokumente zusammenfassen und Fragen auf eigene Unternehmensdaten beantworten. Das ist das eigentliche Arbeitspferd im Mittelstand — und das Feld, auf dem Ranglisten am meisten in die Irre führen. Hier zählen nicht Bestmarken beim logischen Schließen, sondern ein großes Kontextfenster, zuverlässiges Umsetzen von Anweisungen und Robustheit bei unordentlichen Eingaben. Gemini 3.1 Pro glänzt mit sehr langem Kontext bei gleichzeitig niedrigem Preis. Qwen 3.5 in der 9- oder 14-Milliarden-Parameter-Klasse läuft lokal auf einem gut ausgestatteten Mac mini oder einer 24-GB-GPU und bearbeitet 70 bis 80 Prozent aller realen Anfragen dieser Art mit einer Qualität, die für den Anwender nicht mehr vom Cloud-Spitzenmodell unterscheidbar ist.

Strukturierte Informationsextraktion. Rechnungen klassifizieren, Vertragsklauseln heraustrennen, Tickets routen, E-Mails thematisch sortieren, Stammdaten aus Freitext ziehen. Das ist das klassische SLM-Terrain. Microsofts Phi-4 mit 14 Milliarden Parametern schlägt bei gezielt trainiertem logischen Schließen Modelle der fünf- bis zehnfachen Größe. Gemma 3 in der 4B-Variante läuft auf Endgeräten mit 20 bis 30 Tokens pro Sekunde. Alibabas Qwen punktet mit starker Mehrsprachigkeit, was für Betriebe mit internationaler Kundschaft den Unterschied macht.

Für diese Art von Aufgaben ein Frontier-Modell zu nutzen, ist wirtschaftlicher Unsinn — das ist Hammer gegen Reißzwecke.

Coden. Breitestes Feld, größte Spreizung. An der Spitze liegen Claude Opus 4.7 und GPT-5.4 für anspruchsvolle Software-Arbeit — großflächige Umbauten bestehender Codebasen, komplexe Fehlersuche, mehrschichtige Architekturentscheidungen. Für Routine-Entwicklung, Standard-Codegerüste, Scripting und SQL reicht lokal ein Qwen 2.5 Coder 32B auf 24 GB VRAM vollkommen aus. Devstral Small 2 deckt kleinere Hardware ab. Wer einen KI-Agenten braucht, der selbstständig komplette Entwicklungsschritte abarbeitet — mehrere Dateien ändern, Tests schreiben, Änderungen dokumentieren und in die Versionsverwaltung einpflegen — greift zum Flaggschiff oder zu GLM-5 beziehungsweise Kimi K2.5 auf eigener Infrastruktur.

Agentische Arbeit und Tool-Use. Aufgaben, bei denen das Modell über mehrere Schritte plant, Werkzeuge aufruft, Ergebnisse bewertet und seinen eigenen Plan revidiert. Hier zieht Claude Opus 4.7 aktuell davon, GPT-5.4 ist bei der Steuerung von Betriebssystem-Oberflächen vorne. Lokale Alternativen existieren, sind aber mit spürbaren Qualitätsabstrichen verbunden — ein ehrlicher Testzyklus auf eigenen Prozessen ist hier Pflicht, keine Kür.

Komplexe Analyse und Entscheidungsfindung. Strategische Bewertung, Rechtsfragen, mehrstufige Finanzmodelle, Ad-hoc-Beurteilung unklarer Sachverhalte. Die Domäne, für die das teure Flaggschiff gebaut ist. Gemini Deep Think, GPT-5.4 Pro und Claude Opus 4.7 sind hier im Einsatz berechtigt. Aber nur hier: Diese Modelle sind so teuer, dass sie sich wirtschaftlich nur für die Anfragen rechnen, bei denen diese Qualität wirklich gebraucht wird — erfahrungsgemäß 5 bis 10 Prozent des Gesamtvolumens. Alles andere läuft günstiger und oft genauso gut auf leichteren Modellen.

Multimodale Verarbeitung. Dokumente mit Layout, Scans mit handschriftlichen Notizen, Diagramme, Screenshots. Gemini 3.1 Pro ist die beste Wahl für hochauflösende Dokumentenanalyse. Mistral Small 4 bündelt Text-, Bild- und Reasoning-Verarbeitung in einem einzigen Modell und ist mit 0,15 Dollar je Million Input-Tokens dramatisch günstiger. Für lokalen Betrieb deckt Gemma 3 in der multimodalen Variante das Wichtigste ab.

Sprachassistenten und Voice. Hier gewinnt nicht das Modell, sondern die Pipeline. Speech-to-Text übernimmt Whisper oder ein spezialisiertes Modell, die Dialog-Logik ein beliebiges LLM in angemessener Größe, die Sprachausgabe Piper, Voxtral oder ein kommerzielles TTS-System. Der entscheidende Qualitätsfaktor ist die Latenz der Kette, nicht die Spitzenleistung eines einzelnen Bausteins.

Wer diese Landkarte hat, sieht, was die Ranglisten verbergen: Für fast jede konkrete Aufgabe im Mittelstand gibt es mindestens drei vernünftige Modelloptionen, und die teuerste ist fast nie die beste.

Die Antwort beginnt nicht mit "welches Modell hat die höchste Benchmark-Zahl", sondern mit "was genau soll hier gemacht werden".

Der europäische Blick: ehrliche Bestandsaufnahme

An dieser Stelle sollten europäische Alternativen ins Spiel kommen, und sie tun es — aber anders, als es die Souveränitätsrhetorik der letzten zwei Jahre suggeriert hat.

Mistral AI aus Paris hat sich im Frühjahr 2026 als europäischer Schwergewichtler etabliert. Der annualisierte Umsatz liegt bei 400 Millionen Dollar, die Bewertung bei 13,8 Milliarden. Mistral Large 3 ist das Flaggschiff, Mistral Small 4 aus März 2026 bündelt Reasoning, multimodale Verarbeitung und agentisches Coden in einem einzigen Modell mit konfigurierbarem Reasoning-Effort. Die offenen Gewichte machen Mistral zu einer echten Option für Selbsthosting. Wer seine Daten in der EU halten und trotzdem ein leistungsfähiges, kommerziell einsetzbares Modell haben will, kommt an Mistral nicht vorbei.

Aleph Alpha aus Heidelberg ist die zweite Hälfte der europäischen Geschichte — und hier lohnt ein ehrlicher Blick. Das Unternehmen hat Ende 2024 einen deutlichen Strategiewechsel vollzogen: weg vom Wettrennen um das nächste größere Foundation Model, hin zu PhariaAI, einer KI-Plattform für Behörden und Unternehmen. Gründer Jonas Andrulis brachte es auf die einfache Formel: Die Welt habe sich geändert; ein eigenes europäisches LLM sei als Geschäftsmodell allein nicht tragfähig. Das ist keine Niederlage, sondern eine realistische Einschätzung. Luminous Supreme mit der tokenizer-freien T-Free-Architektur bleibt die erste Wahl für Behörden, kritische Infrastruktur und Branchen mit den höchsten Sicherheitsanforderungen, weil Datensouveränität und Erklärbarkeit hier über reiner Modellleistung stehen.

Aleph Alpha ist nicht der Massenmarkt-Anbieter. Es ist die richtige Wahl, wenn Sie in einem regulierten Sektor arbeiten, wenn Erklärbarkeit rechtlich oder prozessual verlangt wird, wenn der Betrieb vollständig in europäischer Infrastruktur stattfinden muss.

Für die meisten anderen Fälle sind Mistral-Modelle der pragmatischere europäische Einstieg — offen, performant, günstig, in europäischen Rechenzentren betreibbar.

Warum SLMs den Mittelstand stärker verändern als das nächste Flaggschiff

Während die Aufmerksamkeit bei den Spitzenmodellen hängt, findet die wirtschaftlich relevante Entwicklung eine Etage tiefer statt. Small Language Models — Modelle im Bereich von ein bis etwa fünfzehn Milliarden Parametern — haben 2025 und 2026 einen Qualitätssprung gemacht, der ihre Rolle im Unternehmenseinsatz verändert.

Konkret wird es in einem Beispiel, das ich zuletzt in einer Analyse der DACH-KI-Landschaft gelesen habe: Ein fünfzehnköpfiges Steuerbüro betreibt Qwen3.5 9B auf einem Mac mini M4 Pro mit 48 GB Unified Memory, um eingehende Mandantendokumente automatisch zu klassifizieren und zu Stichworten zusammenzufassen. Keine Daten verlassen das Haus, keine API-Kosten, keine Datenschutzdiskussion. Setup-Aufwand: rund zwei Tage. Das ist kein Zukunftsszenario, das ist gelebte Realität im Mittelstand.

Für 70 bis 80 Prozent der KMU-Workloads im DACH-Raum reicht ein Modell der Sub-15B-Klasse auf gut ausgestatteter Hardware. Alles darüber ist Over-Engineering, bis der konkrete Workload das Gegenteil erzwingt.

Die Kombination aus klarer Aufgabenzuordnung und passender Modellgröße ist der eigentliche Effizienzhebel, nicht die Wahl zwischen Opus und GPT.

DSGVO und AI Act: der Kontext, den viele noch nicht ernst genug nehmen

Die rechtliche Lage macht die Wahl zwischen Cloud und eigener Infrastruktur nicht einfacher, aber klarer. Seit 2. August 2025 gelten die Pflichten für Anbieter allgemein einsetzbarer KI-Modelle (im AI Act als GPAI bezeichnet) verbindlich. Am 2. August 2026 beginnen die vollständigen Durchsetzungsbefugnisse der EU-Kommission — Informationsanforderungen, Modellzugriff, im Extremfall Rückruf. Verstöße gegen verbotene KI-Praktiken können mit bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden, Verstöße gegen Transparenzpflichten mit bis zu 15 Millionen oder 3 Prozent. Wer heute noch glaubt, KI-Compliance sei ein freiwilliger Exzellenzbeitrag, hat die Größenordnung der Sanktionen nicht verinnerlicht.

Parallel dazu läuft die DSGVO weiter, und an ihr hat sich nichts geändert. DSGVO-konforme KI-Nutzung setzt EU-Hosting, einen Auftragsverarbeitungsvertrag, die vertragliche Zusicherung, dass Eingaben nicht zum Modelltraining verwendet werden, eine belastbare Datenschutzerklärung, ein Löschkonzept und den Ausschluss von Datenübermittlungen in unsichere Drittstaaten voraus. Wer ChatGPT im Mittelstandsalltag einsetzt und personenbezogene Daten, Kundeninformationen oder interne Strategien hineinkopiert, tut das auf eigene Verantwortung und gegen die klare Empfehlung der meisten Datenschutzbehörden.

Die Cloud-Anbieter haben reagiert. Microsoft bietet Azure OpenAI mit EU Data Boundary, Google hat EU-Region-Konfigurationen für Gemini, Anthropic bietet europäische Vertragsgestaltung über AWS und Google Cloud. IONOS hat mit dem AI Model Hub eine Plattform geschaffen, die offene Spitzenmodelle in deutschen Rechenzentren hostet und die Eingaben nicht für Trainingszwecke nutzt.

Das sind praktikable Wege. Sie sind aber eben auch: Wege um Vertrauen herum, nicht Wege zu eigener Hoheit.

Zweite Frage: Wo darf es laufen?

Hier zahlt sich die saubere Vorarbeit aus der ersten Frage aus. Wenn Sie wissen, welche Aufgabe welches Modellprofil verlangt, müssen Sie nur noch klären, wo das Modell laufen darf — und das hängt an der Datenklasse, die es verarbeiten wird.

Für die Cloud spricht dreierlei. Sie bekommen sofort Zugriff auf die Spitze, ohne Hardware zu beschaffen. Sie zahlen nur für tatsächliche Nutzung. Sie müssen keine Inferenz-Infrastruktur pflegen. Für wechselhaftes Volumen, für Teams, die KI erst ausprobieren, für Aufgaben, bei denen das Modell nie mit schützenswerten Daten in Kontakt kommt, ist die Cloud fast immer die richtige Wahl.

Für das eigene Haus spricht ebenfalls dreierlei, und es wiegt in bestimmten Konstellationen deutlich schwerer. Erstens: Datenhoheit ist kein Lippenbekenntnis. Sensible Dokumente, Mandantendaten, Personalinformationen, Geschäftsgeheimnisse gehören in Systeme, die Sie selbst kontrollieren. Zweitens: Die Kostenkurve dreht sich irgendwann. Für Teams mit kontinuierlichem 24/7-Inferenzbedarf ist Selbsthosting über einen Zwei-Jahres-Horizont typischerweise fünf- bis zehnmal günstiger als die API-Nutzung. Drittens: Sie sind nicht abhängig von Preisänderungen, Modell-Deprecations oder politischen Entwicklungen in einem fremden Rechtsraum.

Die Hardware-Realität ist dabei moderater, als viele denken. Eine 8-GB-GPU reicht für 7- bis 8-Milliarden-Parameter-Modelle mit Q4_K_M-Quantisierung und 40 Tokens pro Sekunde. 16 GB geben Flexibilität, 24 GB erlauben Modelle der 30B-Klasse, 48 GB bringen 70B-Modelle in produktiven Betrieb. Ein ordentlich ausgestatteter Mac mini M4 Pro oder ein kleiner Server mit einer RTX 5090 deckt den Mittelstand-Alltag ab. Die Software-Seite — Ollama, vLLM, LM Studio, llama.cpp — ist 2026 ausgereift genug, dass ein halbwegs erfahrener Systemadministrator in wenigen Tagen einen stabilen Betrieb aufsetzt.

Der produktivste Weg ist in der Praxis fast immer die hybride Architektur — aber hybrid heißt hier nicht, dass sensible Daten mal eben in die Cloud dürfen, wenn das lokale Modell an seine Grenzen kommt.

Hybrid heißt: Am Eingang jeder Anfrage steht eine automatische Datenklassifizierung, die den Weg entscheidet. Anfragen mit personenbezogenen Daten, Geschäftsgeheimnissen oder regulierten Inhalten bleiben immer lokal — auch dann, wenn das lokale Modell bei einem schwierigen Fall nicht ganz an die Qualität des Cloud-Spitzenmodells heranreicht. Anfragen ohne schützenswerte Inhalte — öffentliche Recherche, Marketingtexte, allgemeine Fragen ohne Personenbezug, Standard-Codeentwicklung — können bei echtem Qualitätsbedarf in die Cloud geroutet werden.

In Grenzfällen hilft Pseudonymisierung: Personenbezogene Bestandteile werden vor dem Cloud-Aufruf durch Platzhalter ersetzt und nach der Antwort wieder aufgelöst, sodass das Cloud-Modell die Klarnamen und Identifikatoren nie sieht. Wer n8n, eine kleine Orchestrierungsschicht und eine saubere Datenklassifizierung mitbringt, kann diesen Split automatisiert betreiben. Das ist keine Theorie, das ist die Architektur, die ich inzwischen bei mehreren Mandanten so aufgesetzt sehe — und die in der Kombination aus Kosten, Compliance und Qualität die meisten reinen Strategien schlägt.

Was ich Mandanten heute rate

Wer im April 2026 eine KI-Entscheidung für den Mittelstand treffen muss, sollte die beiden Fragen in dieser Reihenfolge stellen.

Erst: Was genau soll das Modell tun? Texte erzeugen, Dokumente zusammenfassen, Informationen extrahieren, Code schreiben, agentisch arbeiten, analysieren, multimodal verarbeiten, Voice abwickeln? Jede dieser Kategorien hat ihre eigene Gewichtsklasse. Die Dokumentenklassifikation im Rechnungseingang braucht kein Flaggschiff. Die strategische Ad-hoc-Analyse eines komplexen Vertragskonstrukts ist im Phi-4 nicht gut aufgehoben.

Mischen Sie die Modelle nach Aufgabe, nicht nach Vorlieben.

Dann: Welche Datenklasse ist betroffen? Öffentliche Inhalte, interne aber unkritische Texte, personenbezogene Daten, Geschäftsgeheimnisse, regulierte Inhalte. Daraus ergibt sich der zulässige Betriebsort. Öffentliche und unkritische Daten können über einen europäisch abgesicherten Cloud-Vertrag in ein Frontier-Modell. Personenbezogene Daten gehören auf eigene Hardware oder in eine vertraglich sauber abgesicherte EU-Plattform mit klarem Opt-out aus dem Training. Regulierte Inhalte verlangen dedizierte Lösungen wie Aleph Alpha Luminous oder ein offenes Modell auf selbst betriebener Infrastruktur.

Aus beiden Antworten ergibt sich die Modellwahl fast automatisch:

• Nicht-sensible, volatile Workloads mit höchstem Qualitätsanspruch → GPT-5.4 oder Claude Opus 4.7 über einen europäischen Rahmenvertrag.
• Sensible Daten und Mittelstand-typische Aufgaben → SLM der Sub-15B-Klasse (Phi-4, Gemma 3, Qwen 3, Mistral Small 4) auf eigener Infrastruktur. Cloud-Fallback nur für Anfragen, die keine schützenswerten Inhalte transportieren — oder nach vorheriger Pseudonymisierung.
• Regulierte Branchen mit Erklärbarkeitsbedarf → Aleph Alpha Luminous auf eigener oder dedizierter europäischer Infrastruktur.

Die Ranglisten werden sich weiter drehen. Im Sommer kommt das nächste Spitzenmodell, im Herbst wird es überboten, im Winter heißt alle Welt Agentic AI. Was davon im eigenen Unternehmen wirklich ankommt, hängt nicht davon ab, wer heute ein halbes Prozent mehr auf einem Reasoning-Benchmark hat. Es hängt davon ab, ob Sie Ihre Architektur so aufstellen, dass sie den Modellwechsel übersteht, ohne dass die Aufgabenzuordnung durcheinandergerät und die Datenhoheit darunter leidet.

Das sind die Entscheidungen, die zählen. Und sie stehen in keiner Rangliste.

Gerd Kopp ist Wirtschaftsinformatiker, Interim-Manager und Berater für IT-Governance, KI-Prozessautomation und Connected Spaces. Er arbeitet mit Mittelstand-Unternehmen im DACH-Raum an KI-Governance, ISMS und pragmatischer Automation. gerds-it.de

Quellen

Benchmarks und Frontier-Modelle

• Vellum AI — LLM Leaderboard 2026. vellum.ai/llm-leaderboard
• VentureBeat — Anthropic releases Claude Opus 4.7, narrowly retaking lead, April 2026. venturebeat.com
• BenchLM — State of LLM Benchmarks 2026, April 2026. benchlm.ai
• AI Magicx — Claude Opus 4.6 vs GPT-5.4 vs Gemini 3.1 Pro: April 2026 Benchmark Breakdown. aimagicx.com
• Iternal — LLM Benchmarks 2026: 30+ Models Ranked. iternal.ai/llm-selection-guide

Small Language Models

• LocalAIMaster — Best Small AI Models to Run with Ollama 2026. localaimaster.com
• BentoML — The Best Open-Source Small Language Models in 2026. bentoml.com
• DeployBase — Best Small LLMs in 2026. deploybase.ai
• Intuz — Top 10 Small Language Models in 2026. intuz.com

Europäische Modelle

• Serenities AI — Mistral AI Models 2026: Complete Guide, April 2026. serenitiesai.com
• Innfactory — Aleph Alpha Luminous. innfactory.ai
• European Cloud — Is Aleph Alpha no longer one of the most promising AI start-ups?. european.cloud

DSGVO und EU AI Act

• TÜV Rheinland Consulting — EU AI Act 2026: Zwischenstand. consulting.tuv.com
• Advisori — EU AI Act Enforcement: Prüfung und Bußgelder 2026, März 2026. advisori.de
• OMR Reviews — KI DSGVO konform im Unternehmen. omr.com

Lokale Infrastruktur und Selbsthosting

• NB Review — Lokale KI-Modelle 2026: Modelle, Benchmarks, Hardware. nbreview.de
• PremAI — Self-Hosted LLM Guide 2026: Setup, Tools, Cost Comparison. blog.premai.io
• LocalLLM — Ollama VRAM Requirements: Complete 2026 Guide. localllm.in
• IONOS — AI Model Hub: DSGVO-konform gehostete LLMs. cloud.ionos.de

Abrufdatum aller Quellen: April 2026.