Lokale KI · DeepSeek
DeepSeek lokal betreiben
stark, aber zu groß für eine Karte.
DeepSeek gehört zu den stärksten offenen Modellen, besonders bei Logik und Code. Nur passt es nicht auf eine Grafikkarte. Wer es lokal will, braucht mehrere Karten oder einen Kompromiss, und meist reicht ein kleineres Modell.
- Für wen
- Betriebe mit Entwicklung, viel Logik und Budget für mehrere Karten
- Aufwand
- 15 Arbeitstage bis zur Spezifikation
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Komplett auf Ihrem Server, nichts geht nach außen
- Erster Schritt
- Dreißig Minuten Erstgespräch per Video
Kurz gesagt
DeepSeek V4 ist ein sehr starkes offenes Modell unter MIT-Lizenz, das bei Logik, Code und Reasoning nah an den großen Cloud-Modellen liegt. Mit 284 Milliarden Parametern passt es aber nicht auf eine Profi-Grafikkarte mit 96 Gigabyte, sondern braucht mehrere Karten oder starke Verkleinerung. Für die meisten Büros ist ein 120-Milliarden-Modell auf einer Karte die bessere Wahl.
Stand: September 2026
Sechs Fälle, in denen DeepSeek den Aufwand wert ist
Aus Anfragen von Betrieben mit eigener Entwicklung. Für reine Büroarbeit ist es selten nötig.
01 · Was hereinkommt
- Eigene Software und Skripte im Haus entwickeln lassen, ohne Code in eine Cloud zu geben
- Komplexe Prüflogik über viele Regeln, etwa Normenprüfung mit Fundstelle als Rechenlogik
02 · Was daraus wird
- Große Auswertungen über Datenbanken, wenn Logik wichtiger ist als Sprache
- Forschungsnahe Betriebe mit sehr langem Kontext bis eine Million Zeichen
03 · Was danach anders ist
- Zweitserver für Agentenketten, die viele Schritte planen und prüfen
- Vergleichsmaßstab im Testsatz: zeigt, wie nah die Ein-Karten-Modelle an der Spitze liegen
Warum DeepSeek meist nicht auf Ihrem Server landet
Die großen DeepSeek-Varianten brauchen mehrere Grafikkarten oder Auslagerung in den Arbeitsspeicher, dann werden sie langsam. Die kleinen Flash-Varianten sind schneller, aber nicht kleiner als 96 Gigabyte in voller Qualität. Für Suche, Zusammenfassung und Fachfragen liegt der Abstand zu Qwen und gpt-oss praktisch bei null. Deshalb: erst messen, dann kaufen.
Was bei dieser Familie zu beachten ist
Sie finden hier offene Modelle mit auffällig guter Leistung bei Aufgaben, die schrittweises Nachdenken verlangen, etwa beim Nachvollziehen von Rechenwegen oder beim Vergleichen von Bedingungen. Für Betriebe mit technischen Fragestellungen ist das ein Argument.
Zu beachten sind zwei Dinge. Erstens ist die Ausgabe bei den nachdenkenden Varianten länger und damit langsamer, was bei vielen gleichzeitigen Nutzern ins Gewicht fällt. Zweitens gibt es inhaltliche Einschränkungen, die aus dem Training stammen und bei bestimmten Themen sichtbar werden.
Im eigenen Haus ist das kein Datenschutzthema, denn das Modell rechnet bei Ihnen und sendet nichts. Es ist eine Qualitätsfrage, und die beantworten Sie mit Ihrem Testsatz an Ihren eigenen Fragen.
Ein nachdenkendes Modell antwortet gründlicher und langsamer. Bei zwanzig Nutzern zählt das zweite.
Was wir dafür entwickeln
- 1
Büro-Gedächtnis: Ihr KI-Gedächtnis, meist mit einem Ein-Karten-Modell, DeepSeek nur bei viel Logik
Büro-Gedächtnis im Detail - 2
Kalkulations-Assistent: Angebote aus eigenen Kalkulationen, wo Rechenlogik zählt
Kalkulations-Assistent im Detail - 3
Machbarkeits-Radar: Anfragen prüfen über viele Regeln, ein Fall für starkes Reasoning
Machbarkeits-Radar im Detail
So entscheiden wir, ob DeepSeek nötig ist
Schritt 1
Aufgaben sortieren
Wie viel ist Sprache, wie viel Logik, wie viel Code. Erst danach steht die Modellklasse.
Schritt 2
Testsatz mit Vergleich
Die Ein-Karten-Modelle gegen DeepSeek an Ihren echten Fragen. Sie sehen, ob der Abstand den zweiten Server wert ist.
Schritt 3
Hardware danach
Erst wenn der Abstand messbar ist, planen wir mehrere Karten. Sonst bleibt es bei einer.
Für wen sich das lohnt
- Entwicklung im Haus
- Sie schreiben Software und wollen den Code nicht in die Cloud geben. Dafür lohnt DeepSeek.
- Geschäftsführung
- Sie haben von DeepSeek gelesen. Ob es Ihr Büro braucht, zeigt der Testsatz, nicht die Schlagzeile.
- IT und Administration
- Mehrere Karten, mehr Strom, mehr Kühlung. Wir sagen vorher, was das für Ihren Serverraum heißt.
◆Fachwörter auf dieser Seite
Im Detail als Fachartikel
Was Betriebe an dieser Stelle fragen
Einwand
Ist DeepSeek wegen der Herkunft ein Risiko?
Lokal betrieben verlässt kein Byte Ihr Haus, die Herkunft ist dann datenschutzrechtlich zweitrangig. Die Cloud-Version von DeepSeek ist etwas anderes, die empfehlen wir für Firmendaten nicht.
Einwand
Passt eine kleine Version auf eine Karte?
Nur stark verkleinert, mit Qualitätsverlust. In voller Qualität braucht auch die Flash-Variante mehr als 96 Gigabyte.
Einwand
Ist DeepSeek besser als Qwen?
Bei Logik und Code oft ja, bei Suche und Zusammenfassung praktisch gleich. Für Büroarbeit lohnt der Mehraufwand selten.
Einwand
Was ist die MIT-Lizenz?
Eine der freiesten Lizenzen überhaupt: nutzen, ändern, weitergeben, ohne Auflagen außer der Nennung.
Einwand
Gibt es Fördermittel für lokale KI?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.
Verwandte Seiten
Sehen wir uns Ihren Bestand an.
Dreißig Minuten, per Video oder Telefon. Danach wissen Sie, ob lokale KI bei Ihnen trägt und was der erste Schritt ist.