Lokale KI-Systeme
KI komplett im Haus betreiben: eigener Server, offene Modelle, keine Cloud im Datenpfad
Server oder Cloud
On-Premise oder Cloud
die Originale bleiben, wo sie sind.
Die seriösen Büros haben ihre Daten nicht in der Cloud, sagte uns ein Ingenieur. Sie liegen auf einem Server mit drei Netzlaufwerken, USB gesperrt. Genau dafür ist der Connector gebaut.
- Für wen
- Büros mit eigenem Server oder strengen Vorgaben der Auftraggeber
- Aufwand
- 15 Arbeitstage bis zum Fahrplan
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Originale auf Ihrem Server, Index in Frankfurt
- Erster Schritt
- Webinar am 2. November, danach Ihr Analysegespräch
Bei Daten auf dem eigenen Server stellen wir einen kleinen Rechner daneben. Er liest die Ablage, beschreibt jedes Dokument und schickt nur Textstücke und Beschreibungen in eine Datenbank in Frankfurt. Eine Einbahnstraße: Die Originale verlassen Ihr Büro nicht, und die Suche läuft trotzdem von zu Hause, aus dem Hotel, vom Handy, ohne VPN. Die Einrichtung dauert einen halben Tag.
Stand: Oktober 2026
Der Engpass
Warum die Zersplitterung keine Nachlässigkeit ist
Der Server ist von außen nur über eine gesicherte Verbindung erreichbar. Beim Kunden vor Ort ist der USB-Anschluss gesperrt. Arbeitsergebnisse gelangen über Umwege zurück, per Chat in die Cloud und wieder herunter. Die Zersplitterung ist damit keine Nachlässigkeit, sondern die naheliegende Reaktion auf einen umständlichen Zugriff. Wer sie heilen will, muss beim Zugriff anfangen und nicht bei der Ordnung.
Im Detail
Wie die Entscheidung zwischen Haus und Cloud wirklich fällt
Sie entscheiden das nicht nach Technik, sondern nach Verpflichtungen. Wenn ein Auftraggeber vertraglich festlegt, wo Daten liegen dürfen, oder wenn Sie Unterlagen unter Berufsgeheimnis verwalten, ist die Frage beantwortet, bevor jemand über Serverleistung spricht. Fehlt eine solche Bindung, entscheidet Wirtschaftlichkeit.
Der häufigste Denkfehler ist, das als Alles-oder-nichts zu sehen. In der Praxis ist ein gemischter Aufbau die Regel: Der Bestand und der Index liegen im Haus, einzelne Aufgaben ohne schützenswerte Inhalte laufen anderswo. Entscheidend ist, dass die Grenze bewusst gezogen und dokumentiert ist, nicht dass sie an einer bestimmten Stelle liegt.
Für Ihre Planung heißt das: Erst die Verpflichtungen klären, dann die Datenklassen trennen, dann die Technik wählen. In dieser Reihenfolge, denn umgekehrt planen Sie eine Lösung und suchen hinterher die Begründung.
Erst die Verpflichtung, dann die Datenklasse, dann die Technik. Umgekehrt planen Sie eine Lösung und suchen die Begründung hinterher.
Anwendungen
Sechs Fragen, die On-Premise beantwortet
Aus Audits in Büros mit eigenem Server und Auftraggebern aus Pharma und öffentlicher Hand.
01 · Was hereinkommt
- Die Originale bleiben auf Ihrem Server oder in Ihrem Microsoft 365. Nichts wird umgezogen
- Der Rechner im Büro ist reiner Zulieferer. Der Browser spricht nie mit ihm, nur mit der Datenbank in Frankfurt
02 · Was daraus wird
- Suche vom Handy, ohne VPN, mit Login über Ihre Microsoft-Konten, wenn Sie welche haben
- Kein Training mit Ihren Daten, Vertrag zur Auftragsverarbeitung, Löschung auf Zuruf
03 · Was danach anders ist
- Modellunabhängig: Eine KI-Schicht, die jedes Sprachmodell ansprechen kann. Erhöht ein Anbieter die Preise, wechseln wir
- Vollständig lokale KI ist möglich, aber teuer und langsamer. Wir sagen Ihnen ehrlich, wann sie sich lohnt
Zielgruppen
Für wen sich das lohnt
Geschäftsführung
Sie wollen wissen, wo Ihre Daten sind. Antwort: bei Ihnen. Der Index liegt in Frankfurt, mit Vertrag.
IT-Betreuung
Sie wollen keinen offenen Port. Der Rechner baut nur einen ausgehenden Tunnel auf. Nichts von außen hinein.
Auftraggeber aus Pharma und öffentlicher Hand
Sie verlangen Nachweise. Verarbeitungsort, Auftragsverarbeitung und Löschkonzept liegen schriftlich vor.
Bausteine
Was wir dafür entwickeln
Baustein 1
Büro-Gedächtnis im DetailBüro-Gedächtnis: Ihr KI-Gedächtnis, mit Originalen im Haus und Index in Frankfurt
Baustein 2
Cockpit im DetailCockpit: Ihr CRM plus Projektstand, sicher gehostet, Login über Ihre Konten
Baustein 3
Post-Lotse im DetailPost-Lotse: Posteingang beim richtigen Projekt, auf Ihrem Server abgelegt
Ablauf
So kommen Sie dahin
- 1
Schritt 1
Analysegespräch
45 Minuten per Video, kostenlos und unverbindlich. Wir fragen nach Anfragen, Aufträgen und Stunden, nicht nach Ihrem Interesse an KI.
- 2
Schritt 2
Audit
Nach dem Konzeptgespräch fünfzehn Arbeitstage mit festem Enddatum. Ihre Ablaufkarte von der Anfrage bis zur Rechnung, am Ende ein Plan mit Festpreis je Schritt.
- 3
Schritt 3
Umsetzung
Sie entscheiden Schritt für Schritt. Jeder Baustein läuft, bevor der nächste beginnt, und gehört Ihnen ab Tag eins.
Aufwand
15 Arbeitstage bis zum Fahrplan
Erster Schritt
Webinar am 2. November, danach Ihr Analysegespräch
Nachschlagen
Fachwörter auf dieser Seite
Erklärt im Glossar
Im Detail als Fachartikel
Fragen
Häufig gefragt
Läuft die KI dann lokal?
Die Daten liegen lokal, das Sprachmodell läuft in der EU. Vollständig lokale Modelle sind möglich, brauchen aber teure Hardware und sind langsamer. Wir rechnen es Ihnen vor, bevor Sie entscheiden.
Was geht nach Frankfurt?
Pfad, Dateiname, Datum, Typ und der Text in Häppchen von wenigen Absätzen, dazu Zahlenreihen für die Ähnlichkeitssuche. Keine Originaldateien.
Wie lange dauert die Einrichtung?
Einstecken, Dienstkonto eintragen, erste Indexierung starten. Ein halber Tag. Die erste Indexierung läuft danach einige Stunden bis Tage, je nach Bestand.
Was ist mit Microsoft 365?
Dann brauchen Sie keinen Rechner im Büro. Wir lesen dort, mit Ihren Konten, und die Struktur bleibt.
Gibt es Fördermittel dafür?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Wir prüfen das vor dem Termin und sagen Ihnen ehrlich, ob sich der Antragsaufwand lohnt.
Weiterlesen
Verwandte Seiten
Bestandswissen vor dem Renteneintritt
Was im Kopf des Kollegen ist, bevor er geht
EU-KI-Verordnung im Büroalltag
Was der AI Act für ein Planungsbüro bedeutet, und was nicht
Programme
Programme, mit denen Sie arbeiten
Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.
ServerauswahlAnforderungen aus Modellgröße, Nutzerzahl und Antwortzeit
Sicherung und AusfallDrei Dinge sichern, Wiederanlauf üben, keine Abhängigkeit erzeugen
NextcloudEigene Ablage erschließen, der Weg bleibt vollständig im Haus
SharePointBibliotheken über den Inhalt erschließen, Berechtigungen bleiben wie sie sind
Microsoft 365Postfach, Ablage und Kalender lesend erschließen, ohne Umstellung
Der nächste Schritt
Unser Ziel: keine Suchzeit mehr.
Sie fragen, die belegte Antwort steht mit Quelle da. Wie das geht, zeigen wir im Webinar: live mit Ronja, Eric und Max, mit echten Fragen aus Planungsbüros, gezeigt an einem Beispiel-Archiv. 60 Minuten, online, kostenlos. Nur für Planungs-, Ingenieur- und Architekturbüros.