KI & Automatisierung · 27. Mai 2026 · 24 Min. Lesezeit · Rebecca Kupka, Founders Associate, Amplifa

Open Source KI: Trend-Report für den Mittelstand

Open Source KI verändert Preise, Lock-in und GenAI-Strategie im Mittelstand. Lesen Sie, was DACH-Fertiger 2025 vor der Budgetrunde entscheiden.

Vergangenen Dienstag, 8:17 Uhr, sitze ich in unserem Berliner Büro im Call mit Thomas, Geschäftsführer eines Zulieferers aus der Nähe von Heilbronn. Neben ihm rauscht eine Kaffeemaschine, irgendwo im Hintergrund piept ein Stapler rückwärts, und auf seinem Bildschirm liegt eine Excel mit Lieferantenpreisen, Reklamationen und 2.861 offenen CRM-Aktivitäten. „Ich will KI nutzen“, sagt Thomas, „aber ich will nicht, dass unsere Zeichnungen und Margen irgendwann in Seattle oder San Francisco herumliegen.“ Genau an diesem Satz hängt gerade der Markt für Open Source KI. Nicht an Benchmarks. Nicht an Demo-Videos. An der Angst, in fünf Jahren die eigene Wertschöpfung an ein API-Preismodell gekettet zu haben.

Meine Prognose, die in vielen Geschäftsführungsrunden noch unbequem klingt: Open Source KI wird bis 2027 nicht den größten Teil der GenAI-Investitionen einsammeln, aber sie wird die Preislogik des gesamten Marktes diktieren. Die großen Schecks gehen weiter an OpenAI, Anthropic, Microsoft, Google und Amazon. Die Verhandlungsmacht wandert trotzdem leise zu Unternehmen, die ihre Modelle austauschen können.

Das ist der Punkt für den europäischen Mittelstand. Wer 2025 eine KI-Strategie nur als Tool-Auswahl behandelt, hat das Thema nicht verstanden. Es geht um Einkaufsmacht, Datenhoheit, Kostenkurven, Wechseloptionen und darum, ob ein Maschinenbauer aus Baden-Württemberg in drei Jahren noch selbst entscheidet, wo seine Serviceberichte, CNC-Programme und Angebotslogik verarbeitet werden.

Open Source KI 2025: Wo der Markt heute steht

Der Markt ist schief. Kapital fließt nicht gleichmäßig, sondern in Wellen, und die größte Welle rollt immer noch Richtung geschlossene Modelle. OpenAI wird seit 2023 häufig mit insgesamt rund 13 bis 14 Milliarden US-Dollar an eingeworbenem Kapital und strukturierten Microsoft-Paketen in Verbindung gebracht; Microsofts Partnerschaft wird öffentlich meist in der Größenordnung von 10 bis 13 Milliarden US-Dollar diskutiert. Anthropic hat Zusagen von Amazon und Google von zusammen mehr als 6 Milliarden US-Dollar gesehen, je nach Tranche und Struktur. Cohere liegt eher im Bereich 500 Millionen bis 1 Milliarde US-Dollar, mit Investoren wie Nvidia, Oracle und Salesforce Ventures. Das sind keine normalen Software-Runden. Das sind Infrastrukturwetten.

Auf der offenen Seite ist das Bild kleinteiliger, aber nicht klein. Hugging Face sammelte 2023 eine 235-Millionen-Dollar-Runde ein, unter anderem mit Salesforce, Google, Nvidia, Intel, AMD und IBM, und wurde laut damaligen Berichten mit 4,5 Milliarden US-Dollar bewertet. Stability AI bekam 2022 rund 100 Millionen US-Dollar bei einer Bewertung um 1 Milliarde US-Dollar, geriet später finanziell unter Druck, blieb aber für offene Bildmodelle prägend. Aleph Alpha aus Heidelberg erhielt 2023 eine strategische Finanzierungsrunde von rund 500 Millionen US-Dollar beziehungsweise 400 bis 500 Millionen Euro, getragen von SAP, Bosch, Schwarz Gruppe, Hewlett Packard Enterprise und weiteren deutschen Industrie- und Finanzakteuren. Mistral AI aus Paris ist der Sonderfall: offen positioniert, kommerziell strukturiert, 2023 mit 105 Millionen Euro Seed und später rund 385 Millionen Euro Series A, 2024 mit Bewertungsdiskussionen um etwa 5 Milliarden US-Dollar.

Wenn ich das mit CFOs bespreche, sehe ich oft denselben Reflex. „Also gewinnen die Geschlossenen“, sagte mir vor drei Wochen Andrea, Head of Sales bei einem Hidden Champion in Bielefeld, während im Konferenzraum nebenan jemand einen Rollcontainer über Fliesen zog. Naja, fast. Sie gewinnen die Kapitalstatistik. Aber Kapitalstatistik ist nicht dasselbe wie strategische Wirkung.

McKinsey schätzte 2023 das jährliche wirtschaftliche Potenzial von generativer KI auf 2,6 bis 4,4 Billionen US-Dollar, mit großen Beiträgen aus Fertigung, Supply Chain, Produktentwicklung und Kundeninteraktion. Goldman Sachs schrieb 2023, GenAI könne das globale BIP über zehn Jahre um rund 7 Prozent anheben. IDC, Gartner und andere Analysten sahen 2023 und 2024 weltweite Ausgaben für KI-Software, Hardware und Services in Richtung 300 bis 500 Milliarden US-Dollar jährlich bis 2026 oder 2027, je nach Definition. Diese Zahlen klingen abstrakt. In einem Werk in Tuttlingen heißt das: Wer schreibt den Servicebericht? Wer durchsucht die Ersatzteildokumentation? Wer prüft Lieferantenmails? Wer priorisiert Leads aus Bestandskunden?

Bitkom meldete im September 2024, dass 20 Prozent der deutschen Unternehmen KI nutzen und weitere 37 Prozent den Einsatz planen oder diskutieren. Bei großen Unternehmen ist die Quote deutlich höher als bei kleinen. In Gesprächen mit Mittelständlern aus Maschinenbau, Elektrotechnik und Automotive-Zulieferung wirkt das sehr real: Fast jeder hat einen Copilot-Test, eine Azure-OpenAI-Pipeline, ein internes Chatbot-Projekt oder mindestens einen Werkstudenten, der mit LLaMA, Mixtral oder Mistral herumprobiert. Aber wenige haben eine Modellstrategie. Sehr wenige.

Status Quo: Geschlossene Modelle kassieren, offene Modelle disziplinieren

Geschlossene Anbieter verkaufen drei Dinge: Leistung, Bequemlichkeit und Bündelung. OpenAI über Microsoft, Anthropic über AWS und Google, Gemini in Google Cloud, Copilot in Microsoft 365, Salesforce Einstein, SAP Joule. Man bekommt Modelle, APIs, Governance-Oberflächen, Abrechnung und manchmal das beruhigende Gefühl, dass der Einkauf nur einen bestehenden Rahmenvertrag erweitern muss. Das ist attraktiv. Besonders für Unternehmen, deren IT-Team aus 14 Leuten besteht und parallel noch SAP S/4HANA, EDI-Probleme und eine Firewall-Ablösung stemmen muss.

Open Source KI verkauft etwas anderes, oft indirekter: Ausweichmöglichkeiten. Ein LLaMA-Modell, ein Mixtral-Modell oder ein selbst hostbares Modell von Aleph Alpha muss nicht in jeder Aufgabe das beste Modell der Welt sein. Es muss gut genug sein, transparent genug, günstiger im Dauerbetrieb und vertraglich so beweglich, dass ein CIO aus Ulm nicht bei jeder neuen Anwendung den Preis pro Million Tokens eines US-Anbieters akzeptieren muss. Genau hier liegt der Hebel. Nicht romantisch. Wirtschaftlich.

Was wir bei Amplifa konkret sehen: In den letzten 12 Monaten haben wir in Discovery- und Implementierungsprojekten bei B2B-Unternehmen aus Maschinenbau, Industriekomponenten und technischen Dienstleistungen fast nie eine reine Open-Source-Strategie gesehen, aber in 7 von 10 Fällen eine stille Zweitarchitektur. Das Muster ist klar: GPT-4 oder Claude für schwierige Analyse- und Textaufgaben in der Pilotphase, danach offene oder self-hostable Modelle für wiederkehrende Aufgaben wie Lead-Klassifikation, E-Mail-Zusammenfassung, CRM-Feldbefüllung und Dokumentenextraktion. Der Wechselpunkt kommt nicht bei „besserer KI“. Er kommt bei Volumen. Sobald ein Prozess täglich tausende kleine Modellaufrufe erzeugt, wird aus Neugier eine Kostenfrage.

Trend 1: Open Source KI zwingt Preise nach unten

Die wichtigste Marktwirkung offener Modelle ist nicht, dass jeder Mittelständler morgen ein eigenes Foundation Model trainiert. Das wird nicht passieren. Ein Werkzeugbauer aus Remscheid kauft auch keine eigene Lithografiemaschine von ASML, nur weil Chips strategisch sind. Die Wirkung entsteht durch glaubwürdige Alternativen. Wenn LLaMA 3, Mixtral, Qwen, Falcon oder ein europäisches Modell für 60 bis 80 Prozent der Routineaufgaben ausreichen, dann verlieren geschlossene Anbieter die Preisfantasie bei genau diesen Aufgaben.

Kostenbenchmarks aus der Praxis schwanken stark, weil Tokenpreise, Hosting, Auslastung, Modellgröße, Quantisierung, Latenzanforderungen und Support eingerechnet werden müssen. Trotzdem sehen wir in Marktanalysen und Cloud-Kalkulationen ein wiederkehrendes Band: Inferenz und Feinabstimmung mit offenen Modellen kann für bestimmte Hochvolumen-Workloads 5- bis 20-mal günstiger sein als der dauerhafte API-Bezug geschlossener Topmodelle. Stimmt nicht immer. Wenn ein Unternehmen keine Infrastruktur hat, schlechte Auslastung fährt und drei externe Dienstleister für den Betrieb braucht, schmilzt der Vorteil. Aber bei strukturierten Aufgaben mit vielen Wiederholungen ist der Kostendruck real.

Ein Beispiel aus einem Kundengespräch im März 2025: Markus, Vertriebsleiter eines Komponentenherstellers aus Nürnberg, wollte alle eingehenden Anfragen automatisch klassifizieren: Ersatzteil, Projektgeschäft, Preisanfrage, Reklamation, Händleranfrage. Geschlossenes Modell? Funktionierte sofort. Offenes kleineres Modell? Nach 300 annotierten Beispielen und einem sauberen Prompt plus Retrieval lag die Trefferquote für die vier wichtigsten Klassen nahe genug am geschlossenen Modell, dass der CFO nicht mehr über Modellqualität sprach, sondern über Monatskosten. Das ist der Moment, an dem der Markt kippt. Leise, in Excel.

Yann LeCun argumentiert seit Jahren sinngemäß, dass offene KI-Plattformen langfristig robustere Ökosysteme schaffen als wenige geschlossene Gatekeeper. Für Industrieunternehmen ist das keine Ideologie, sondern eine Einkaufsposition.

— Yann LeCun, Chief AI Scientist bei Meta

Ich halte den Begriff „Open-Source-Preisumbrella“ für zu weich. Es ist eher ein Brecheisen. Sobald der Einkauf nachweisen kann, dass eine offene Alternative 70 Prozent der Aufgabe für 20 Prozent der Kosten erledigt, verändert sich das Gespräch mit Microsoft, Google, Salesforce oder einem spezialisierten KI-Anbieter. Nicht immer gewinnt die offene Variante. Aber sie zwingt die andere Seite, zu erklären, warum ihr Preis gerechtfertigt ist.

Trend 2: Hybridarchitekturen werden der Normalfall

Der langweiligste Satz in KI-Strategie-Workshops ist leider auch der richtigste: Es wird nicht ein Modell geben. Ich weiß, niemand möchte noch ein Portfolio managen. Geschäftsführer wollen Klarheit, IT will weniger Varianten, Einkauf will weniger Verträge. Trotzdem gehen die realen Architekturen in Richtung Modellmix. Geschlossene Modelle für Aufgaben, bei denen bestmögliche Reasoning-Leistung zählt. Offene Modelle für hohe Volumina, sensible Daten, kurze Latenz oder Prozesse, die man auditieren muss.

Bei Festo, Trumpf, DMG Mori, Phoenix Contact oder Schaeffler sieht man öffentlich sehr unterschiedliche KI-Initiativen, aber die Grundspannung ist ähnlich wie im Mittelstand: Produktwissen, Servicedaten, Produktionslogik und Kundendialog dürfen nicht beliebig in fremde Plattformen wandern. Ein Vertriebschef aus Stuttgart sagte mir im April 2025: „Unsere Preishistorie ist kein Trainingsmaterial.“ Er lachte danach. Kurz. Dann war es still im Raum, nur der Beamerlüfter war zu hören. Genau diese Stille ist die Architekturfrage.

Typische hybride Muster entstehen entlang der Datenrisiken. Ein Microsoft-365-Copilot für interne Office-Arbeit kann sinnvoll sein, wenn Berechtigungen sauber sind und keine hochsensiblen Konstruktionsdaten verarbeitet werden. Ein RAG-Assistent für Wartungstechniker, der Maschinenhandbücher, Fehlercodes, Serviceberichte und Ersatzteildaten durchsucht, gehört eher in eine kontrollierte Umgebung. Ein Lead-Scoring-Prozess, der CRM-Daten, Firmendaten und Websignale kombiniert, kann je nach Datenklasse über eine orchestrierte Architektur laufen: ein starkes geschlossenes Modell für unklare Texte, ein offenes Modell für Klassifikation und Extraktion, eine regelbasierte Schicht für Compliance.

Die besten Implementierungen, die ich sehe, trennen nicht nach Anbieterlogo, sondern nach Prozessrisiko. Was passiert, wenn die Antwort falsch ist? Was kostet ein Modellaufruf bei 50.000 Vorgängen im Monat? Welche Daten verlassen das Netzwerk? Kann ich den Anbieter wechseln, ohne die Anwendung neu zu bauen? Klingt trocken. Ist es auch. Aber genau dort entscheidet sich, ob KI ein Experiment bleibt oder in der GuV auftaucht.

Ein CFO mag diese Governance-Diskussion erst einmal als Bremse empfinden. Verständlich. Sie klingt nach Datenschutzfolien und langen Meetings mit Legal. Aber ohne Datenklassifizierung wird jedes KI-Projekt politisch. Dann blockiert die Konstruktion, weil CAD-Daten betroffen sein könnten. Der Vertrieb blockiert, weil Kundenpreise sichtbar werden. Die IT blockiert, weil niemand Logging-Regeln kennt. Am Ende gewinnt dann das kleinste Pilotprojekt: ein Chatbot für die Kantinenordnung. Nett. Strategisch irrelevant.

Trend 3: Sovereign AI wird Einkaufsargument, nicht PR

Sovereign AI klingt nach Brüssel, Förderantrag und Podiumsdiskussion. Ich mochte den Begriff lange nicht. Zu groß. Zu wolkig. In Kundengesprächen hat er aber eine sehr konkrete Bedeutung: Wo laufen die Modelle? Wer sieht die Logs? Wer kann Preise erhöhen? Wer kann ein Feature abkündigen? Wer bestimmt, welche Daten für Training genutzt werden dürfen? Ein Produktionsleiter aus Augsburg formulierte es kürzlich schlichter: „Ich will den Stecker sehen.“

Europa hat hier einen anderen Reflex als die USA. Datenschutzgrundverordnung, EU AI Act, Betriebsräte, Lieferkettenanforderungen, Exportkontrolle, Kundenaudits. Das bremst manchmal. Es schützt aber auch vor blindem Plattformkonsum. Der EU AI Act wurde 2024 final verabschiedet; viele Pflichten greifen gestaffelt ab 2025 und 2026. Für industrielle Anwendungen bedeutet das mehr Dokumentation, Risikoklassifizierung, Nachvollziehbarkeit und klare Verantwortlichkeiten. Offene oder self-hostable Modelle lösen diese Anforderungen nicht automatisch. Aber sie machen bestimmte Nachweise leichter, weil Betrieb, Logging und Datenflüsse kontrollierbarer werden.

Aleph Alpha ist deshalb für DACH strategisch interessanter, als manche reine Benchmark-Diskussion vermuten lässt. Heidelberg statt Kalifornien ist allein kein Qualitätsargument. Aber ein Anbieter, der deutsche Sprache, europäische Compliance, On-Premise-Optionen und industrielle Referenzen ernst nimmt, verändert Einkaufslisten. Mistral AI in Frankreich spielt eine ähnliche Rolle auf europäischer Ebene, auch wenn das Unternehmen hybride Geschäftsmodelle fährt und nicht alles offen ist. Hugging Face wiederum ist keine klassische Sovereign-AI-Firma, aber die Infrastruktur für Vergleichbarkeit: Modelle, Datasets, Leaderboards, Deployment-Optionen. Ohne solche Plattformen wären offene Modelle für Mittelständler kaum greifbar.

Die politische Dimension wird unterschätzt. Wenn SAP, Bosch und Schwarz Gruppe in Aleph Alpha investieren, ist das kein reiner Rendite-Trade. Es ist ein Signal: Europäische Industrie will nicht jede KI-Funktion über US-Hyperscaler beziehen. Gleichzeitig investieren dieselben Unternehmen natürlich weiter in Microsoft, AWS, Google und Nvidia-Ökosysteme. Das ist kein Widerspruch. Das ist Hedging.

Amplifa ICP Playbook — Für Strategieteams, die KI nicht abstrakt planen wollen: Das ICP Playbook hilft, Zielkunden, Segmente und Prioritäten datenbasiert zu schärfen.

Was Open Source KI für den Mittelstand bedeutet

Für Geschäftsführer in der Fertigung ist die Kernfrage nicht: Ist Open Source besser als Closed Source? Die Frage ist: Welche Abhängigkeit kaufe ich mir ein, wenn ich meine Prozesse auf ein Modell lege, das ich nicht kontrolliere? Ein Automobilzulieferer aus Bayern hat andere Risiken als ein SaaS-Startup aus Berlin-Mitte. CAD-Zeichnungen, Werkzeugdaten, Lieferantenpreise, Prüfberichte, Reklamationshistorie, Schichtnotizen, Maschinenparameter – das sind keine austauschbaren Texte. Das ist Betriebsvermögen.

Ich bin hier bewusst kantig: Wer 2026 seine komplette KI-Roadmap an einen einzigen US-Hyperscaler hängt, ohne Ausweicharchitektur, handelt fahrlässig. Nicht weil Microsoft, Google oder Amazon schlechte Partner wären. Im Gegenteil, sie sind oft die schnellste Route in Produktion. Fahrlässig ist die Einbahnstraße. Mittelständler haben in ERP, PLM und MES schon oft genug erlebt, was passiert, wenn Datenmodell, Prozesslogik und Vertragsmacht in einer Hand liegen.

Die wirtschaftliche Rechnung läuft über drei Ebenen. Erstens direkte Kosten: Token, Lizenzen, Hosting, Integrationsaufwand, Support. Zweitens Wechselkosten: Wie teuer wird es, wenn das Modell ausgetauscht werden muss? Drittens strategische Kosten: Welche Daten werden in welchem Ökosystem standardisiert, geloggt und angereichert? Der dritte Punkt ist am schwersten zu beziffern und genau deshalb gefährlich. In Budgetrunden gewinnt oft die Zeile, die man zählen kann.

Für den Vertrieb ist die Wirkung besonders greifbar. Ein offenes Modell muss keine perfekte Poesie schreiben. Es muss sauber erkennen, ob ein Zielkunde in den ICP passt, ob eine Anfrage nach Projektgeschäft riecht, ob eine Bestandskunden-Mail ein Up-Sell-Signal enthält oder ob ein CRM-Datensatz kaputt ist. Viele dieser Aufgaben sind klassifikatorisch, nicht magisch. Wenn sie millionenfach laufen, zählt Stückkostenlogik. Wenn sie sensible Kundendaten nutzen, zählt Datenort. Wenn sie in Salesforce, HubSpot, SAP C/4HANA oder Microsoft Dynamics eingebettet sind, zählt Wechselbarkeit.

Bei einem Hersteller von Industriekomponenten aus Ostwestfalen haben wir im Januar 2025 eine einfache Beobachtung gemacht: Die teuersten Sales-Probleme lagen nicht in fehlenden Leads, sondern in unscharfer Segmentierung. 18 Prozent der Accounts im CRM waren klar außerhalb des Zielsegments, wurden aber weiter mit Kampagnen bespielt. Gleichzeitig lagen Bestandskunden mit ähnlichen Kaufmustern in drei verschiedenen Segmentlisten. KI half dort nicht, weil sie „intelligent“ war. Sie half, weil sie Muster über Datenquellen hinweg konsistent machte. Für so etwas braucht man nicht immer das stärkste geschlossene Modell. Man braucht ein kontrolliertes System.

DACH-Fertiger brauchen Modellportfolios statt KI-Spielzeug

Ein Modellportfolio klingt nach Konzern. Ist es nicht. Auch ein Unternehmen mit 280 Mitarbeitenden kann eine klare Regel definieren: Welche Aufgaben dürfen über geschlossene APIs laufen? Welche müssen in EU-Rechenzentren bleiben? Welche gehören On-Premise? Welche Datenklassen sind tabu? Welche Modelle werden quartalsweise gegen reale Aufgaben getestet? Das ist kein Forschungsprogramm. Das ist Betriebsführung.

Ich sehe zu viele Unternehmen, die mit dem falschen Startpunkt beginnen. Sie fragen: „Welches Tool sollen wir kaufen?“ Besser wäre: „Welche Prozesse erzeugen genug Volumen, Risiko oder Marge, dass eine eigene KI-Architektur lohnt?“ Bei Kärcher, Webasto, Brose oder Wittenstein würde niemand eine neue Fertigungslinie kaufen, ohne Taktzeiten, Ausschuss und Wartung zu rechnen. Bei KI passiert genau das noch ständig. Eine Lizenz wird gebucht, ein Pilot läuft, alle sind beeindruckt, dann kommt der Datenschutz, dann der Betriebsrat, dann die Kostenkurve. Der Pilot stirbt nicht laut. Er verschwindet im Teams-Kanal.

FAQ: Ist Open Source KI wirklich günstiger?

Ja, oft. Aber nicht automatisch. Günstiger wird Open Source KI dann, wenn ein Unternehmen wiederholbare Aufgaben mit hohem Volumen hat, die Modellqualität ausreichend ist, die Infrastruktur gut ausgelastet wird und der Betrieb nicht durch Spezialistenkosten explodiert. Ein geschlossenes Modell kann in der Pilotphase billiger sein, weil keine eigene Infrastruktur aufgebaut werden muss. Bei Dauerbetrieb mit tausenden oder Millionen Aufrufen pro Monat kippt die Rechnung häufig. Meine Faustregel aus Gesprächen mit IT- und Vertriebsleitungen: Unterhalb eines relevanten Volumens ist Bequemlichkeit ein echter Wert; oberhalb davon ist Bequemlichkeit ein Kostenrisiko.

FAQ: Verliert Open Source KI bei Qualität?

Bei allgemeinen Spitzenaufgaben meistens noch ja. GPT-4-Klasse, Claude und Gemini liegen bei breitem Reasoning, langer Kontextverarbeitung, Tool-Nutzung und Sicherheitsmechanismen oft vorn. Bei engeren Aufgaben ist die Lücke viel kleiner. Zusammenfassung technischer Dokumente, Extraktion aus Bestellungen, Lead-Klassifikation, Retrieval-Augmented QA, interne Wissensassistenten, Code-Hilfe für definierte Repositories – hier können offene Modelle nach Anpassung sehr nahe kommen. Manchmal reichen sie völlig. Der Fehler ist, Modellqualität abstrakt zu bewerten. Ein Vertriebsprozess hat keine Elo-Zahl.

FAQ: Wie passt das zum EU AI Act?

Der EU AI Act macht KI nicht unmöglich, aber er verschiebt Verantwortung zurück ins Unternehmen. Wer KI in risikobehafteten Prozessen nutzt, muss Datenflüsse, Modellzweck, menschliche Kontrolle, Logging und Risikomanagement sauber dokumentieren. Offene oder self-hosted Modelle helfen, weil sie mehr Kontrolle über Betrieb und Datenpfade geben können. Sie ersetzen keine Governance. Ein Modell auf dem eigenen Server ist nicht automatisch compliant. Ein Modell in einer US-Cloud ist nicht automatisch verboten. Die Frage lautet: Kann ich nachweisen, was passiert?

7 Vorbereitungsschritte für Geschäftsführer und Strategieteams

Wenn ich einem Geschäftsführer im Mittelstand nur eine Sache mitgeben dürfte, wäre es diese: Starten Sie nicht mit dem Modell. Starten Sie mit den Prozessen, in denen KI wiederholt Wert erzeugen kann. Dann bauen Sie die Modellentscheidung darum herum.

1. Datenklassen definieren: Trennen Sie öffentliche Daten, Kundendaten, Preisinformationen, technische IP, personenbezogene Daten und sicherheitskritische Produktionsdaten. Ohne diese Landkarte wird jede KI-Entscheidung ein Bauchgefühl.
2. Use Cases nach Volumen und Risiko sortieren: Ein monatlicher Strategieassistent ist anders zu behandeln als tägliche Angebotsklassifikation, Servicebericht-Auswertung oder Lead-Routing in 12 Ländern.
3. Closed und Open gegeneinander benchmarken: Testen Sie GPT-4, Claude oder Gemini gegen LLaMA, Mixtral, Mistral oder Aleph Alpha auf echten deutschen Dokumenten. Nicht auf Demo-Prompts. Auf Ihren Reklamationen, Handbüchern, CRM-Notizen und Angebotsmails.
4. Kosten pro 1.000 Vorgänge rechnen: Vergleichen Sie nicht nur Tokenpreise. Rechnen Sie Hosting, Latenz, Monitoring, Integrationsaufwand, Support und erwartetes Wachstum ein. Der relevante Wert ist TCO über 3 bis 5 Jahre.
5. Eine Austauschschicht einplanen: Nutzen Sie Orchestrierung, klare Schnittstellen und Prompt- beziehungsweise Evaluationsversionierung, damit das Modell wechselbar bleibt. Wer Modelllogik direkt in Fachprozesse klebt, baut Lock-in selbst.
6. Governance früh mit Legal, IT und Fachbereich klären: Dokumentieren Sie Datenflüsse, Logging, Berechtigungen, menschliche Freigaben und Eskalationsregeln vor dem Rollout. Später wird es teurer und politischer.
7. Erfolg an Prozesskennzahlen messen: Im Vertrieb zählen Terminquote, Segmenttreffer, Reaktionszeit, Pipeline-Qualität und saubere CRM-Daten. In Service und Fertigung zählen Suchzeit, Erstlösungsquote, Ausschuss, Stillstandsminuten oder Dokumentationsaufwand.

Amplifa Produkt — Amplifa unterstützt B2B-Teams dabei, Markt-, Account- und Vertriebssignale mit KI nutzbar zu machen – ohne die Kontrolle über Prozesslogik zu verlieren.

Investitionslogik: Warum die kleineren Open-Source-Budgets täuschen

Wenn Investoren auf den Markt schauen, sehen sie zuerst Kapitalintensität. Foundation Models brauchen GPUs, Daten, Forschungsteams, Energie, Rechenzentren, Vertrieb und Partnerschaften. Nvidia H100-Cluster, Azure-Verträge, AWS-Commitments, Google-TPUs – das ist die neue Schwerindustrie der Software. Darum ziehen geschlossene Player riesige Summen an. Sie verkaufen nicht nur Modelle, sie verkaufen Zugang zu einer Rechen- und Produktivitätsinfrastruktur.

Open-Source-nahe Unternehmen folgen einer anderen Logik. Sie müssen nicht immer das größte Basismodell besitzen. Sie können Inferenz günstiger machen, Modelle kuratieren, Fine-Tuning vereinfachen, Deployment absichern, Enterprise-Support verkaufen oder vertikale Anwendungen bauen. Hugging Face ist dafür das beste Beispiel: Es ist weniger ein Modellanbieter als ein Marktort, Werkzeugkasten und Vertrauenslayer. MosaicML wurde 2023 für 1,3 Milliarden US-Dollar von Databricks übernommen, weil Training und Betrieb offener Modelle für Unternehmen strategisch wurden. Together AI, Anyscale, Replicate und andere Anbieter besetzen ähnliche Schichten im Stack.

Für europäische Investoren ist der spannendste Teil nicht der Versuch, OpenAI nachzubauen. Das ist zu kapitalintensiv und wahrscheinlich zu spät, wenn man keine staatliche oder hyperscalerähnliche Rechenbasis hat. Spannend sind Schichten rund um industrielle Workflows: Modell-Routing, Evaluierung, sichere Datenanbindung, branchenspezifische RAG-Systeme, KI-Agenten für Angebotsprozesse, Service, Ersatzteile, Qualitätsmanagement. Dort sitzen die Margen, wenn Basismodelle zur Ware werden.

Ich weiß, „Commodity“ klingt brutal für Technologie, die gerade erst in Vorständen angekommen ist. Aber viele Grundfähigkeiten werden genau das: Text zusammenfassen, Daten extrahieren, E-Mails klassifizieren, Tabellen befüllen. Wenn jeder Anbieter das kann, verdient niemand dauerhaft hohe Margen nur mit dem Modellaufruf. Wert wandert zur Integration in SAP, Salesforce, Microsoft Dynamics, HubSpot, PLM-Systeme, MES und interne Datenräume. Dort entscheidet sich, ob KI ein nettes Interface ist oder ein Produktivitätshebel.

Open Source KI im Vertrieb: Warum Pipeline-Management profitiert

Ich schreibe auf dem Amplifa-Blog, also schaue ich natürlich besonders auf Vertrieb und Go-to-Market. Der größte Irrtum über KI im Vertrieb ist, dass es primär um bessere E-Mails geht. Nein. E-Mails sind nur sichtbar. Die eigentliche Arbeit liegt in Segmentierung, Priorisierung, Signalverarbeitung, CRM-Hygiene, Timing und der Frage, ob ein Account wirklich kaufbereit ist oder nur hübsch im Dashboard aussieht.

Open Source KI hat hier einen praktischen Vorteil: Viele Sales-Aufgaben sind nicht kreativ, sondern strukturiert. Ein Modell soll aus einer Website erkennen, ob ein Unternehmen Spritzgussmaschinen nutzt. Es soll aus einer Stellenanzeige ableiten, ob gerade ein SAP-Migrationsprojekt läuft. Es soll aus einem Geschäftsbericht Investitionen in neue Werke extrahieren. Es soll aus 18 CRM-Notizen erkennen, ob ein Deal stockt, weil Einkauf, Technik oder Geschäftsführung blockiert. Das sind Aufgaben, die man evaluieren kann. Trefferquote. Fehlerarten. Kosten pro Account.

Im Mai 2025 haben wir intern eine Auswertung über mehrere Kampagnen-Setups gemacht, bei denen Zielkundenlisten für technische B2B-Anbieter angereichert und priorisiert wurden. Das Muster: Der größte Qualitätsgewinn kam nicht vom stärksten Modell, sondern von besseren Kriterien. Wenn der ICP unscharf war, produzierte auch ein Topmodell teuren Lärm. Wenn der ICP sauber war, konnten kleinere Modelle Signale erstaunlich stabil klassifizieren. Das ist unangenehm für alle, die KI als Abkürzung für Strategie verkaufen. KI automatisiert Unschärfe nicht weg. Sie skaliert sie.

ICP Playbook für KI-gestützte Marktpriorisierung — Das Playbook zeigt, wie B2B-Unternehmen Zielsegmente, Kauftrigger und Ausschlusskriterien so definieren, dass KI im Vertrieb belastbare Signale findet.

Closed Source bleibt stark – aber anders als viele denken

Ich möchte nicht so tun, als würden offene Modelle die geschlossenen Anbieter einfach verdrängen. Das ist Unsinn. Geschlossene Modelle bleiben stark, weil sie Forschungstempo, Produkterlebnis und Enterprise-Vertrieb kombinieren. Microsoft kann Copilot in bestehende Arbeitsoberflächen drücken. Google kann Gemini tief in Workspace und Cloud integrieren. Amazon kann Anthropic über AWS in Beschaffungsprozesse bringen. Salesforce kann KI in CRM-Workflows verpacken. SAP kann Joule in ERP-Kontexte setzen. Diese Distribution ist ein Burggraben.

Für Mittelständler heißt das: Nutzen, aber nicht verschmelzen. Ein Pilot mit Azure OpenAI kann in vier Wochen mehr lernen lassen als sechs Monate Architekturpapier. Ein Copilot-Rollout kann Wissensarbeit entlasten. Ein Claude-Test kann zeigen, welche Qualität bei komplexen Ausschreibungen möglich ist. Aber jede Anwendung, die Kernwissen des Unternehmens strukturiert, sollte so gebaut werden, dass ein Modellwechsel möglich bleibt. Ich wiederhole mich hier absichtlich. Der Markt bewegt sich zu schnell für religiöse Anbieterentscheidungen.

Ein Einkaufsleiter aus Mannheim sagte mir im Februar 2025: „Wir haben bei Cloud schon einmal geglaubt, die Preise würden ewig fallen.“ Dann grinste er. Nicht freundlich. Genau diese Erfahrung prägt viele CIOs. Erst ist Verbrauchsabrechnung flexibel. Dann werden Workloads größer. Dann kommen Abhängigkeiten. Dann wird Optimierung ein eigenes Projekt. Bei GenAI kann dieselbe Kurve schneller laufen, weil jeder neue Workflow Token verbrennt.

Meine Prognose für 2026 bis 2028

Erstens: Die Lücke zwischen offenen und geschlossenen Modellen wird bei Routineaufgaben so klein, dass Beschaffung und Governance wichtiger werden als Benchmarks. Nicht überall. Aber in genug Prozessen, um Preislisten zu verändern. Ich erwarte, dass viele geschlossene Anbieter ihre Preise weiter senken oder stärker bündeln, weil offene Modelle die Untergrenze setzen. Der Kunde wird das nicht als „Open Source Sieg“ wahrnehmen. Er wird einfach bessere Konditionen bekommen.

Zweitens: Europäische Fertigungsunternehmen werden weniger über Chatbots sprechen und mehr über Prozessagenten. Angebotsagenten, die technische Anforderungen aus RFQs extrahieren. Serviceagenten, die Fehlerbilder gegen Maschinenhistorien prüfen. Vertriebsagenten, die Accounts nach echten Kauftriggern priorisieren. Qualitätsagenten, die Prüfberichte strukturieren. Diese Agenten werden nicht alle auf einem Modell laufen. Sie werden Modell-Routing brauchen, und genau dort wird Offenheit wertvoll.

Drittens: Der Mittelstand wird eine harte Lektion lernen. KI ohne Datenarbeit ist Theater. Viele Unternehmen werden 2025 und 2026 feststellen, dass ihre Dokumente nicht versioniert, CRM-Felder nicht gepflegt, Produktdaten nicht eindeutig und Berechtigungen historisch gewachsen sind. Das ist keine KI-Kritik. Das ist die Rechnung für zwanzig Jahre Tool-Wachstum. Offene Modelle helfen nur, wenn die Datenbasis und Prozessverantwortung geklärt sind.

Viertens: Sovereign AI wird vom Vorstandsthema zum Einkaufsanhang. In RFPs werden Fragen nach Datenresidenz, Modellwechsel, Logging, Trainingsnutzung, EU-Betrieb, Auditierbarkeit und Exit-Szenarien Standard. Anbieter, die darauf nur mit Marketingfolien antworten, verlieren. Anbieter, die konkrete Architekturpfade zeigen – geschlossen, offen, hybrid, on-prem, private cloud – gewinnen Vertrauen. Nicht immer den Deal. Aber das zweite Gespräch.

Wenn ich an Thomas aus Heilbronn zurückdenke, sehe ich nicht seine Excel. Ich höre die Kaffeemaschine und den Stapler im Hintergrund. Ein sehr analoges Geräusch für eine sehr digitale Entscheidung. Vielleicht ist das die passende Pointe: Der Kampf zwischen Open Source KI und geschlossenen Modellen wird nicht in Benchmark-Tabellen entschieden, sondern dort, wo jemand morgens um acht wissen will, ob seine Margen, Zeichnungen und Kundenbeziehungen in drei Jahren noch ihm gehören.