◆Lokale KI

KI, die im Haus läuft
und Ihnen gehört.

Ein Server mit Profi-Grafikkarte, offene Sprachmodelle, eine Wissensdatenbank mit Rechten aus dem Active Directory, kein Cloud-Dienst im Datenpfad. Hier finden Sie, welches Modell, welche Hardware und welcher Weg zu Ihrem Büro passt. Jede Seite beantwortet ihre Frage im ersten Absatz.

Ein aufgeschnittenes Bürogebäude mit einer leuchtenden Maschine darin, umschlossen von einem geschlossenen Kupferring, aus dem keine Leitung herausführt
Die Maschine steht bei Ihnen, die Dokumente bleiben liegen, wo sie liegen. Aus dem Ring führt keine Leitung heraus, und deshalb entsteht kein Auftragsverarbeiter.

Nach Modell

Qwen, gpt-oss, Mistral, Llama, Gemma, DeepSeek und weitere: was auf einem Server im Haus läuft, wie gut das Deutsch ist, wo die Grenze liegt.

Nach Branche

Statik, Brandschutz, TGA, Bauphysik, Vermessung, Tiefbau, Projektsteuerung: wer keine Cloud darf, und was lokale KI in diesem Fach tut.

Nach Thema

RAG lokal, Vektordatenbank, Rechte aus dem Active Directory, Hardware, Air-Gap, DSGVO, NIS2, Kosten, Betrieb, Sicherheits-Review. Die Fragen vor der Entscheidung.

RAG lokal

Antwort mit Quelle aus den eigenen Dokumenten, komplett auf dem eigenen Server

RAG oder Feintuning

Wissen anbinden oder Modell umtrainieren: was sich wann lohnt

Vektordatenbank lokal

Der Speicher hinter der Suche: wo die Bedeutung Ihrer Dokumente liegt

Embeddings verstehen

Wie aus Text Bedeutung wird, und warum die Suche daran hängt

Texterkennung für Scans

Die achtzig Prozent des Fileservers, die bisher nur Bilder waren

Spracherkennung und Protokolle

Besprechungen, Baustellen und Diktate werden zu Text, ohne Cloud

Rechte aus dem Active Directory

Jeder sieht nur, was er sehen darf, auch wenn er die KI fragt

Hardware für lokale KI

Was ein KI-Server wirklich braucht: Grafikkarte, Speicher, Platten, Strom

Welche Servergröße

Zwei Größenklassen, eine Warnung: was für wie viele Nutzer trägt

DSGVO bei lokaler KI

Was wegfällt, wenn nichts das Haus verlässt, und was trotzdem bleibt

NIS2 und lokale KI

Was die Richtlinie verlangt, wen sie trifft, und wo ein lokales System hilft

Air-Gap und Netztrennung

Komplett offline oder netzgetrennt mit kontrolliertem Ausgang: was wirklich nötig ist

Fernwartung und Updates

Wie ein System gepflegt wird, das nicht am Internet hängt

Was lokale KI kostet

Vier Posten: Hardware, Einführung, Betrieb, Förderung. Ehrlich sortiert

Förderung für lokale KI

Was an einem lokalen System förderfähig ist und in welcher Reihenfolge der Antrag läuft

Modellwahl mit Testsatz

Welches offene Modell zu Ihnen passt, entscheidet nicht die Bestenliste, sondern Ihr Testsatz

Cloud oder lokal

Wann Cloud-KI reicht, wann der eigene Server die bessere Wahl ist, mit beiden Seiten

Copilot oder lokal

Was Microsoft 365 Copilot sieht, was nicht, und wann eine lokale KI daneben oder stattdessen läuft

ChatGPT oder lokal

Was eine On-premise-Alternative zu ChatGPT leistet, wo sie besser ist und wo ChatGPT vorn bleibt

Betrieb als Managed Service

Der Server steht bei Ihnen, wir halten das System am Laufen, Ihre IT behält den Zugang

Sicherheits-Review

Externes Review und Berechtigungs-Leak-Test vor dem Go-live, als Pflicht, nicht als Option

Normen und Lizenzrecht

Warum DIN-Normen nicht als Volltext ins System dürfen, was stattdessen geht, was gemeinfrei ist

Mehrbenutzer-Inferenz

vLLM für zwanzig Nutzer, Ollama für den Einzeltest, zwei Modelle auf einer Karte

Bilder und Pläne durchsuchen

Multimodale Modelle lesen Pläne, Fotos und Skizzen und machen sie mit Quelle durchsuchbar

KI-Agenten lokal

Abläufe mit n8n und lokalem Modell automatisieren, im Haus, mit Freigabe durch einen Menschen

Migration von Cloud zu lokal

Wie Sie von ChatGPT, Copilot oder einem Cloud-Dienst auf den eigenen Server wechseln, ohne Stillstand

Lokale Wissensdatenbank

Ihr Wissen aus Dokumenten, Mails und Köpfen, fragbar in ganzen Sätzen, mit Quelle, im Haus

Lokale Dokumentensuche

Den Fileserver in Ihren Worten fragen und die Fundstelle bekommen, inklusive Scans, mit Rechten

◆Fachbeiträge zum thema

Im Detail nachlesen

Beiträge aus unserer Arbeit zu Lokale KI im eigenen Haus. Jeder beantwortet eine Frage, die uns im Termin gestellt wurde.

◆Der nächste Schritt

Was kostet Sie das Suchen
im Monat?

Die wenigsten Büros haben das je ausgerechnet. Im Termin machen wir es zusammen: Stunden pro Woche, was eine Stunde bei Ihnen kostet, was im letzten Jahr deswegen schiefgegangen ist. Über uns reden wir erst danach.

Keine Folien, keine Verkaufsshow. Wenn es nicht passt, sagen wir das im Termin.