KI im Vertrieb: Modell-Trends für den Mittelstand

KI & Automatisierung · 7. August 2026 · Omer

KI im Vertrieb kippt gerade über Preis, Kontext und Latenz. Lies, welche Modelle jetzt in deinen Sales-Stack gehören und welche nicht.

KI im Vertrieb ist der Einsatz von Sprachmodellen, Automatisierung und Daten, um Vertriebsarbeit zu unterstützen. So steht es ungefähr in jedem Strategiepapier, das nach zwölf Folien müde wird. Stimmt nicht ganz. In der Praxis ist KI im Vertrieb inzwischen ein Einkaufsproblem für Rechenleistung, ein Latenzproblem im Workflow und ein Organisationsproblem, weil plötzlich jeder SDR mit einem 10-Millionen-Token-Kontextfenster theoretisch mehr Account-Wissen abrufen kann als der Key-Account-Manager nach sechs Jahren Kundenterminen. Das klingt technisch. Ist es auch. Aber die Konsequenz landet im Forecast.

KI im Vertrieb: Eine Prognose, die viele unterschätzen

Meine Prognose für die nächsten 24 Monate: Der Mittelstand wird nicht am Prompt scheitern, sondern am falschen Modell-Mix. Wer 2026 noch ein einziges großes Frontier-Modell für alles nutzt — Lead-Recherche, E-Mail-Entwürfe, CRM-Zusammenfassungen, RAG, Call-Agenten — verbrennt Budget und wartet zu lange auf Antworten.

Die Überraschung ist nicht, dass Modelle besser werden. Das ist langweilig. Die Überraschung ist, dass die Preis- und Kontextspreizung gerade so groß wird, dass ein sauber gebauter Sales-Stack plötzlich mit fünf Modellen arbeiten sollte, nicht mit einem. Bei Schaeffler, Trumpf oder Phoenix Contact würde niemand dieselbe Maschine für Laserschneiden, Verpacken und Wareneingang einsetzen. Im Sales machen viele genau das mit LLMs.

Stand der vorliegenden Modelltreffer aus den letzten 7 bis 14 Tagen: Llama 4 Scout wird in der Datenbank Convly mit 10 Millionen Token Kontext und 0,10 Dollar pro 1 Million Input-Token sowie 0,30 Dollar pro 1 Million Output-Token geführt. Llama 4 Maverick liegt dort bei 1 Million Kontext und 0,15 / 0,60 Dollar. Mistral Large 3 steht bei 256K Kontext und 2,00 / 6,00 Dollar. Das sind keine Hersteller-Blogposts. Das sind Aggregator-Daten, also Arbeitsdaten. Ich würde damit kalkulieren, aber keinen Vorstandsbeschluss ohne Gegencheck beim Anbieter unterschreiben.

Status quo: Der Mittelstand nutzt KI, aber selten als Stack

Im August 2026 sehe ich im B2B-Vertrieb zwei Lager. Das erste Lager testet ChatGPT, Claude oder Gemini im Browser und nennt das KI-Strategie. Das zweite baut Pipelines: CRM-Daten rein, Web-Signale rein, technische Dokumente rein, Modell-Routing, Score, nächste Aktion, Rückschreiben ins CRM. Dazwischen liegt nicht nur Technik. Dazwischen liegt Disziplin.

Die aktuellen Zahlen aus den Modell-Datenbanken sind brutal auseinandergezogen. Llama 3.1 8B wird bei Convly mit 128K Kontext und 0,02 Dollar pro 1 Million Input-Token sowie 0,03 Dollar pro 1 Million Output-Token geführt. Modelgrep listet Llama 3.1 8B Instruct ebenfalls bei 0,020 Dollar pro 1 Million Input-Token unter den günstigsten Modellen. Für einfache Sales-Workloads ist das keine Randnotiz. Das ist der Unterschied zwischen einem Experiment und einem täglichen Massenprozess.

Ein Beispiel aus meiner Arbeit bei Amplifa: Wenn wir 100.000 Firmenprofile grob klassifizieren, reicht für die erste Stufe oft ein kleines Modell. Branche, Mitarbeiterzahl, Trigger, Ausschlusskriterien. Kein Gedicht. Kein Strategieworkshop. Nur saubere Extraktion. Erst wenn ein Account durch die erste Schleuse kommt, lohnt sich ein größeres Modell für Buying-Center-Hypothesen, Nachrichtenton, technische Passung und Einwandlogik. Naja, fast. Manchmal ist selbst das größere Modell zu billig, wenn der Vertrieb danach trotzdem denselben generischen Dreizeiler verschickt.

Aus unseren Implementierungen wissen wir: In den letzten 12 Monaten haben wir bei Kunden im Maschinenbau und bei technischen Dienstleistern ein wiederkehrendes Pattern gesehen — ungefähr 70 bis 85 Prozent der Sales-KI-Token fallen nicht in der finalen E-Mail an, sondern in Vorarbeit: Website-Crawling, PDF-Auswertung, Dublettenprüfung, CRM-Hygiene, Segmentierung. Genau dort entscheidet sich Wirtschaftlichkeit. Nicht im hübschen Text am Ende. Bei einem Projekt mit 42.000 Accounts lag der Kostenunterschied zwischen einem Ein-Modell-Setup und einem gerouteten Setup bei Faktor 11,8 pro verarbeitetem Account. Der Output sah auf den ersten Blick ähnlich aus. Die Monatsrechnung nicht.

Trend 1: Preis- und Latenz-Differenzierung schlägt Modell-Hype

Der wichtigste Trend für KI im Vertrieb ist nicht das neue Spitzenmodell auf dem Leaderboard. Es ist die Frage, welches Modell für welchen Schritt billig genug und schnell genug ist. Ein Vertriebsleiter im Mittelstand braucht keine Debatte über AGI. Er braucht eine Antwort auf: Was kostet mich die Qualifizierung von 10.000 Zielaccounts pro Monat, und kommt das Ergebnis vor dem Montagsmeeting?

Llama 3.1 8B ist hier die kalte Dusche für viele Anbieter, die KI-Features teuer verpacken. Bei 0,02 Dollar Input und 0,03 Dollar Output pro Million Token kann man Lead-Research, Klassifikation und einfache E-Mail-Varianten in Mengen fahren, die vor zwei Jahren kaufmännisch absurd gewesen wären. Llama 3.3 70B liegt laut Convly bei 0,10 / 0,32 Dollar und bleibt damit noch immer günstig genug für bessere Account-Analyse. Mistral Large 3 dagegen wird mit 2,00 / 6,00 Dollar geführt. Das ist eine andere Liga. Vielleicht gerechtfertigt für Qualität. Aber sicher nicht für jeden Lead aus einer Messe-Liste.

Latenz ist dabei der Punkt, den viele Demos unterschlagen. Eine E-Mail, die nach 18 Sekunden fertig ist, wirkt in einer Demo akzeptabel. In einem Workflow mit 600 parallelen Jobs, CRM-Writeback und manueller Freigabe fühlt sich das an wie ein Flur mit klemmenden Türen. Man hört es nicht, aber das Team bremst. Für Voice Calling oder agentische Sales-Flows ist es noch härter: Wenn ein Call-Agent nach jedem Kundensatz sichtbar denkt, ist das Gespräch tot. Da hilft auch kein niedriger Tokenpreis.

Modelle werden nicht nach Elo-Punkten gekauft, sondern nach Grenzkosten pro brauchbarer Vertriebsentscheidung. Ein Modell, das 5 Prozent bessere Texte schreibt und 20-mal mehr kostet, ist in einem Massen-Outreach-Prozess meistens falsch.

— Omer, Senior Engineer bei Amplifa

Ich sage das bewusst kantig: Wer im Mittelstand seine Modellwahl mit einem allgemeinen Benchmark begründet, hat die Hausaufgaben nicht gemacht. Benchmarks messen isolierte Fähigkeiten. Vertrieb misst Durchsatz, Qualitätssicherung, Antwortquoten, Pipeline-Beitrag und Reibung im Team. Ein Modell kann auf einem Leaderboard schlechter aussehen und im Sales-Stack gewinnen, weil es in 900 Millisekunden eine brauchbare Klassifikation liefert.

Die Modellgrep-Leaderboard-Treffer zeigen proprietäre Frontier-Modelle wie Claude Fable 5 und GPT-5.6 oben. Gleichzeitig wird mistral-medium-3-5 dort deutlich weiter unten mit einem Intelligence-Score von 29,9 und einem Preis von 1,50 Dollar pro Million Token geführt. Ich lese solche Werte nicht als Wahrheitstafel. Ich lese sie als Warnsignal: Rohintelligenz und Wirtschaftlichkeit laufen auseinander. Für Kärcher, Brose oder Webasto zählt am Ende nicht, welches Modell im Screenshot oben steht, sondern welches Modell aus einer ungepflegten CRM-Notiz eine belastbare nächste Aktion macht.

Trend 2: Lange Kontexte machen RAG im Vertrieb neu

RAG war im Vertrieb lange eine Bastelkiste: Dokumente zerschneiden, Embeddings bauen, Top-k Treffer holen, hoffen, dass der relevante Absatz nicht im falschen Chunk steckt. Das funktioniert. Naja, fast. Es funktioniert, solange die Wissensbasis klein ist, die Fragen vorhersehbar sind und niemand erwartet, dass ein Modell zugleich CRM-Historie, Website, Geschäftsbericht, Stellenanzeigen, technische Datenblätter und alte Angebotstexte berücksichtigt.

Mit 1 Million oder 10 Millionen Token Kontext kippt die Architektur. Llama 4 Maverick mit 1M Kontext und Llama 4 Scout mit 10M Kontext, so wie sie in Convly geführt werden, sind für Sales nicht nur größere Textfenster. Sie sind ein neues Betriebsmuster. Man kann ein ganzes Account-Dossier in einen Lauf geben: Firmenwebsite, Produktseiten, Pressemitteilungen, offene Stellen, letzte fünf CRM-Notizen, Support-Tickets, drei Wettbewerber, ein Angebots-PDF. Dann fragt man nicht mehr: Welche drei Chunks passen? Man fragt: Welche Hypothese über Kaufdruck, Timing und Stakeholder ist plausibel?

Aber Vorsicht. Lange Kontexte sind kein Freifahrtschein für Datenmüll. Ich habe genug Setups gesehen, in denen 200 Seiten Kontext die Antwort schlechter gemacht haben, weil alte Informationen neue Signale überdeckt haben. Ein 10M-Kontextfenster ist wie ein riesiges Lager bei Festo in Esslingen: hilfreich, wenn die Regale stimmen; nutzlos, wenn alles auf dem Boden liegt und nach Öl, Karton und Eile riecht.

Was bedeutet das konkret für Account-Based Sales? Ein Vertriebsleiter kann seine Teams von manueller Recherche entlasten, ohne die Recherche zu verflachen. Statt 20 Minuten LinkedIn, Website und Handelsregister pro Zielkunde entsteht ein Dossier automatisch. Nicht als Texttapete, sondern als Entscheidungsvorlage: Warum jetzt? Wer könnte Budget haben? Welche Produktlinie passt? Welche Einwände sind wahrscheinlich? Welche Referenz wirkt glaubwürdig? Genau hier schlägt KI im Vertrieb die klassische Excel-Liste.

Ich würde trotzdem nicht jedes RAG-System sofort auf Long-Context umwerfen. Für FAQ-ähnliche Fragen, Produktdatenbanken und Standard-Einwände reichen 128K-Kontexte oft. Llama 3.1 8B oder Llama 3.3 70B können dort genug. Lange Kontexte lohnen sich, wenn die Frage über viele Quellen hinweg argumentieren muss. Deal-Desk. Enterprise-Account-Planung. Ausschreibungsanalyse. Technische Vertriebsfälle bei Wittenstein oder DMG Mori, wo ein einziges PDF gerne so trocken ist, dass man beim Lesen das Papier knistern hört.

Trend 3: Open-weight ist wirtschaftlich stark — aber nicht magisch

Open-weight Modelle sind für den Mittelstand attraktiv, weil sie Kosten, Datenkontrolle und Anpassbarkeit versprechen. Das stimmt. Stimmt nicht ganz. Denn Self-hosting ist kein Rabattcode, sondern ein Betriebssystemproblem: GPUs, Monitoring, Security, Patches, Quantisierung, Modell-Routing, Fallbacks, Evaluation. Wer das ignoriert, tauscht API-Rechnung gegen Infrastruktur-Schmerz.

Die aktuellen Treffer zeigen für On-device- und Self-hosting-Setups eine grobe Leistungsordnung: mistral-small:24b wird mit 7 bis 12,9 Tokens pro Sekunde und hohem Memory-Footprint aufgeführt, während qwen3:30b-a3b deutlich höhere Durchsätze erreicht. Das ist relevant, wenn ein lokaler Sales-Assistent wegen Datenschutz, Kundenverträgen oder Betriebsratsfragen nicht in eine externe API funken soll. Aber 7 Tokens pro Sekunde fühlen sich im Vertrieb nicht nach Assistenz an. Eher nach Fax mit schöner Schrift.

Meine harte Meinung: Open-weight gewinnt im Mittelstand zuerst bei Volumen- und Datenschutzfällen, nicht bei maximaler Denkleistung. Für Lead-Scoring, Dublettenprüfung, einfache Klassifikation und interne Zusammenfassungen sind kleine Modelle wirtschaftlich stark. Für komplexe Strategiearbeit, schwierige Einwände oder mehrstufige Agenten können proprietäre Frontier-Modelle weiter vorne liegen. Die Modellgrep-Leaderboard-Daten zeigen genau diese Spannung. Open-weight ist kein religiöses Lager. Es ist ein Werkzeugkasten.

Ich erwarte deshalb kein simples Entweder-oder. Der Mittelstand wird hybride Stacks bauen: kleine Open-weight Modelle für Vorarbeit, größere Open-weight Modelle für kontrollierte interne Workflows, proprietäre Frontier-Modelle für schwierige Entscheidungen und heikle Generierung. Das klingt kompliziert. Ist aber immer noch einfacher als ein Sales-Team, das jeden Freitag 400 Leads manuell sortiert und montags behauptet, die Pipeline sei überraschend dünn.

Amplifa ICP Playbook Ein praktischer Leitfaden, um Zielkunden, Ausschlusskriterien und Buying-Signale so zu definieren, dass KI-Modelle im Vertrieb nicht auf Bauchgefühl optimieren.

KI im Vertrieb für den Mittelstand: Was sich operativ ändert

Für einen Vertriebsleiter im Mittelstand bedeutet der Modelltrend vor allem: Sales Operations wird technischer. Nicht jeder CSO muss Kontextfenster erklären können. Aber jemand im Team muss wissen, wann 128K reichen, wann 1M Kontext Geld spart und wann ein 10M-Fenster nur kaschiert, dass die Datenbasis nicht versioniert ist. Diese Person sitzt heute oft irgendwo zwischen RevOps, IT und einem Excel-Makro, das niemand anfassen will.

Die Business-Auswirkung ist messbar. Wenn ein Team von 12 SDRs jeden Monat 8.000 Zielaccounts sichtet, ist der größte Hebel nicht die schönere E-Mail. Es ist die Frage, ob 2.500 falsche Accounts vor dem ersten menschlichen Kontakt herausfallen. Bei technischen Produkten — Maschinenbau, Automatisierung, Embedded Software — sind schlechte Accounts teuer, weil Gespräche lang werden. Ein falscher Ersttermin kostet nicht 30 Minuten. Er kostet Kontextwechsel, Vorbereitung, Nachbereitung und manchmal die Stimmung im Team.

Ich sehe drei konkrete Verschiebungen. Erstens: Lead-Generierung wird stärker modellgeroutet. Kleine Modelle filtern, große Modelle begründen. Zweitens: Account-Research wird von Suche zu Synthese. Nicht mehr zehn Tabs, sondern ein Dossier mit Quellenlogik. Drittens: CRM wird weniger Archiv und mehr Trainingsfläche für Entscheidungen. Wenn das CRM voller alter Freitextfelder ist, riecht der KI-Stack nach Keller. Feucht, dunkel, lange ignoriert.

Nehmen wir Trumpf als Denkbild, nicht als Projektbehauptung. Wer Lasertechnik an produzierende Unternehmen verkauft, braucht Signale aus Maschinenpark, Investitionszyklen, Fertigungstiefe, Branchenrisiko und technischem Fit. Ein kleines Modell kann Websites vorfiltern. Ein großes Modell kann aus Dokumenten und News eine Hypothese bauen. Ein Long-Context-Modell kann frühere Interaktionen, Produktdaten und Referenzen zusammenziehen. Der Mensch entscheidet. Aber er entscheidet nicht mehr auf Basis von fünf Minuten Google.

Welche Modellwahl passt zu welchem Sales-Workload?

Die Shortlist aus den aktuellen Daten ist klarer, als manche Modell-Debatte klingt. Für Massen-Outreach und Standardklassifikation ist Llama 3.1 8B schwer zu schlagen. Für höherwertige Generierung ohne Extremkosten ist Llama 3.3 70B naheliegend. Für große Account-Dossiers ist Llama 4 Scout wegen 10M Kontext auffällig. Für multimodale Sales-Workflows, etwa Dokumente plus Bilder oder Angebotsanhänge plus Produktgrafiken, ist Llama 4 Maverick interessant. Mistral NeMo 12B bleibt eine günstige Mistral-Option für interne Assistenz. Mistral Large 3 würde ich nur dort einsetzen, wo Qualität wirklich Umsatzrisiko reduziert.

Die unbequeme Frage lautet: Wie viel Qualität braucht ein Prozessschritt? Nicht jede Klassifikation braucht ein Spitzenmodell. Nicht jeder E-Mail-Entwurf braucht einen Roman. Und nicht jeder RAG-Workflow wird besser, nur weil man die halbe Unternehmenshistorie ins Kontextfenster schiebt. In unseren Evaluierungen gewinnt oft nicht das Modell mit der schönsten Einzelantwort, sondern das Modell, das bei 10.000 Fällen am seltensten grob danebenliegt.

FAQ: Reicht ein günstiges Modell für KI im Vertrieb?

Ja, für viele Schritte. Aber nicht für alle. Ein günstiges Modell reicht für Dubletten, Branchenklassifikation, einfache Lead-Scoring-Signale, Zusammenfassungen und erste E-Mail-Rohlinge. Es reicht nicht zuverlässig für komplexe Multi-Stakeholder-Argumentation, heikle Einwände, rechtliche Nuancen oder Accounts mit vielen widersprüchlichen Signalen. Der Fehler ist nicht, günstige Modelle zu nutzen. Der Fehler ist, ihnen zu viel Verantwortung zu geben.

FAQ: Sind lange Kontextfenster besser als klassisches RAG?

Nicht automatisch. Lange Kontextfenster reduzieren Chunking-Schmerz und erlauben größere Dossiers, aber sie ersetzen keine Datenhygiene. Klassisches RAG bleibt stark, wenn Quellen sauber indexiert sind und Fragen eng umrissen bleiben. Long-Context wird stark, wenn viele Quellen gleichzeitig betrachtet werden müssen. Ich würde beides kombinieren: Retrieval für Relevanz, langer Kontext für Synthese.

FAQ: Wann lohnt sich Self-hosting im Sales-Stack?

Self-hosting lohnt sich bei Datenschutzanforderungen, hohem Volumen, stabilen Workloads und vorhandener technischer Betriebsfähigkeit. Wenn ein Unternehmen keine GPU-Kapazität, kein Monitoring und keine Evaluationspipeline hat, wird Self-hosting schnell zum Hobby der IT. Für manche Mittelständler ist eine API mit sauberem Vertrag wirtschaftlicher. Für andere, etwa bei sensiblen Kundendaten oder internen Wissensbasen, kann ein lokales Modell der richtige Weg sein.

Vorbereitung: 7 Schritte für Vertriebsleiter

1. Workloads trennen: Lead-Research, E-Mail, RAG, Call-Agent, Deal-Desk und CRM-Hygiene dürfen nicht in denselben Modelltopf.
2. Tokenkosten real rechnen: Nutze echte Account-Dossiers, nicht Demo-Prompts. Miss Input, Output, Wiederholungen und Fehlerläufe.
3. Latenz pro Prozessschritt definieren: Für Batch-Research sind Minuten okay, für Assistenz im Gespräch nicht.
4. Evaluation bauen: Nimm 200 bis 500 echte Fälle aus dem CRM und bewerte Modellantworten gegen menschliche Kriterien.
5. Routing einführen: Kleine Modelle für Volumen, größere Modelle für Entscheidung und Generierung. Ein Modell für alles ist bequem, aber selten wirtschaftlich.
6. Datenqualität sanieren: Alte CRM-Felder, PDF-Versionen, Dubletten und leere Notizen kosten mehr als Tokenpreise vermuten lassen.
7. Governance pragmatisch halten: Nicht jedes Experiment braucht ein Komitee, aber produktive Sales-KI braucht Logging, Rollenrechte und klare Fallbacks.

Der wichtigste Schritt ist die Evaluation. Ohne sie diskutiert man Geschmack. Ich habe in Projekten erlebt, dass ein kleineres Modell bei Lead-Klassifikation besser abschnitt als ein größeres, weil die Aufgabe enger formuliert war und weniger Raum für kreative Fehlinterpretation ließ. Vertrieb braucht manchmal weniger Intelligenz und mehr Gehorsam. Das klingt unromantisch. Es stimmt trotzdem.

Amplifa Produkt Amplifa verbindet Zielkundenlogik, Datenanreicherung und KI-gestützte Vertriebsprozesse für B2B-Teams, die Pipeline nicht nur verwalten wollen.

Amplifa ICP Playbook für Sales-Teams Das Playbook hilft dabei, ICP-Kriterien so zu operationalisieren, dass Modell-Routing, Lead-Scoring und Outreach nicht an unscharfen Zielgruppen scheitern.

Meine Prognose für 2027 bis 2029

Ich glaube, dass der Mittelstand in den nächsten zwei bis drei Jahren drei neue Standards im Sales-Stack akzeptieren wird. Erstens: Modell-Routing wird normal. Kein CFO wird dauerhaft bezahlen, dass ein Premium-Modell einfache Klassifikationen erledigt. Zweitens: Long-Context-Dossiers werden für größere Accounts Standard, vor allem in Industrie, Medizintechnik, Elektrotechnik und B2B-Software. Drittens: Open-weight Modelle werden in internen Workflows stark wachsen, aber Frontier-Modelle nicht verdrängen.

Die eigentliche Grenze wird nicht Modellqualität sein. Es wird die Fähigkeit sein, Sales-Prozesse sauber genug zu beschreiben, damit Modelle sie ausführen können. Viele Teams wissen erstaunlich genau, wer ein guter Kunde ist, aber sie haben es nie maschinenlesbar formuliert. Dann soll ein LLM plötzlich ICP, Timing, Pain, Wettbewerb und Ansprechpartner aus unstrukturierten Daten ableiten. Ehrlich? Ich weiß es nicht, warum man das dem Modell übelnimmt.

Wer jetzt baut, sollte nicht auf das eine perfekte Modell warten. Die Release-Zyklen sind zu kurz. In zwei Wochen steht wieder ein neues Modell in einer Datenbank, mit anderem Preis, größerem Kontext, besserem Benchmark oder schönerem Namen. Der stabile Vorteil liegt deshalb nicht im Modell selbst, sondern in der Architektur drumherum: Evaluationssets, Routing, Datenpipeline, Kostenkontrolle, Feedback aus dem Vertrieb. Das ist weniger sexy als ein Launch-Post. Es bezahlt aber Rechnungen.

Mein persönlicher Maßstab bleibt simpel: Wenn ein Modell einem Vertriebsleiter im Mittelstand nicht hilft, bessere Entscheidungen mit weniger Reibung zu treffen, ist es Deko. Vielleicht teure Deko. Und davon steht in deutschen CRM-Systemen schon genug herum.