Ihre KI.
Ihr Haus. Ihre Daten.
Mandantenakten in einer US-Cloud? Lieber nicht. Lokale KI läuft auf einem Rechner in Ihrem Büro oder auf Ihrem eigenen Server. Die Daten bleiben, wo sie schon sind, und die KI kommt zu ihnen. Klingt altmodisch, ist aber gerade das Modernste, was man mit sensiblen Daten machen kann.
Was ist lokale KI?
Lokale KI heißt: KI-Modelle laufen auf Ihrer eigenen Hardware statt in der Cloud eines Anbieters. Texte, Dokumente und Kundendaten verlassen Ihr Unternehmen nicht, damit wird DSGVO-konforme KI viel einfacher. Offene Modelle wie DeepSeek V4, GLM-5.3, Qwen, Llama, Mistral oder Gemma lassen sich mit Werkzeugen wie Ollama oder LM Studio installieren. In einer Umfrage von Bitkom Research nannten 48 % der deutschen Unternehmen die Anforderungen an den Datenschutz als Hürde für KI, 39 % fürchten, dass Daten in falsche Hände geraten. Lokale KI löst beides.
- Kein Cloud-Upload
- DSGVO-konform
- Mit eigenen Daten
Was Kunden sagen.
Vielen Dank für den sehr gut gelungenen und motivierenden Tag. Das besprochene Ziel ist erreicht, alle sind motiviert für die KI.
Danke nochmal für den super Workshop. Möchte asap starten.
Ich habe meine Website von seeside.ai komplett überarbeiten lassen – und das Ergebnis hat mich wirklich beeindruckt. […] Wer eine Website möchte, die mitdenkt, automatisiert und wächst, ist bei seeside.ai genau richtig.

Im eigenen Haus
Jede Person. Ein Agent. Ein Netz.
Warum Unternehmen KI lokal betreiben.
DSGVO ohne Bauchweh
Kein Datentransfer in Drittländer, kein Auftragsverarbeitungsvertrag mit einem KI-Anbieter. Die Daten bleiben einfach im Haus.
Lokale KI mit eigenen Daten
Die KI durchsucht Ihre Verträge, Handbücher und alten Angebote. Ohne dass irgendwer irgendetwas irgendwohin hochlädt.
Für Vertrauliches
Kanzleien, Steuerberater, Arztpraxen, Ingenieurbüros: Wo Berufsgeheimnis gilt, ist lokale KI oft die einzige Option.
Planbare Kosten
Keine Gebühr pro Wort für jede Anfrage. Sie zahlen Hardware und Einrichtung, danach arbeitet die KI so oft Sie wollen.
Welche Hardware braucht lokale KI?
Weniger, als viele fürchten. Die wichtigste Zahl ist der Speicher der Grafikkarte (VRAM), bei Apple-Rechnern der gemeinsame Arbeitsspeicher. Faustregel für komprimierte Modelle:
Kleine Modelle (7 bis 8 Milliarden Parameter)
etwa 8 GB VRAM
E-Mails sortieren, Zusammenfassungen, einfache Entwürfe
Mittlere Modelle (rund 30 Milliarden)
etwa 24 GB VRAM
Dokumentensuche, längere Texte, Angebote
Große Modelle (ab 70 Milliarden)
40 GB VRAM oder mehr
Anspruchsvolle Analysen, nah an Cloud-Qualität
Faustregel, keine Garantie: Die genaue Zahl hängt vom Modell, seiner Komprimierung und davon ab, wie viel Text es auf einmal verarbeiten soll. Welche Größe Ihre Aufgabe braucht, klären wir im Erstgespräch.
Open-Source-KI 2026: DeepSeek V4, GLM‑5.3, Qwen und Co.
Die offenen Modelle haben aufgeholt. Im Intelligence Index von Artificial Analysis vom Oktober 2026 stehen DeepSeek V4.1 Flash und GLM-5.3 unter den drei besten offenen Modellen. Offen heißt: Die Gewichte sind frei verfügbar, Sie betreiben das Modell auf eigener Hardware, und keine Anfrage verlässt Ihr Haus.
| Modell | Größe & Lizenz | Gut für | Hardware |
|---|---|---|---|
| DeepSeek V4 / V4 FlashDeepSeek | Rund 284 bis 304 Milliarden Parameter, MIT-Lizenz, bis 1 Million Token Kontext | Agenten, lange Dokumente, Programmieren | Server mit mehreren Grafikkarten |
| GLM-5.3Z.ai | Rund 744 Milliarden Parameter, eigene Lizenz | Programmier- und Agentenaufgaben | Großer GPU-Server, auch gemietet in Deutschland |
| Qwen3.8-27BAlibaba | 27 Milliarden Parameter, Apache 2.0 | Allrounder für Texte, Mails, Dokumentsuche | Ein Server mit starker Grafikkarte |
| Kimi K3Moonshot AI | Sehr groß, in 4-Bit rund 1,4 TB Speicher | Spitzenleistung, lange Aufgaben | Rechenzentrum, für KMU meist zu groß |
| gpt-ossOpenAI | Offene Modelle von OpenAI in zwei Größen | Allrounder, Werkzeugnutzung | Kleine Variante auf einer Workstation |
| Llama 4Meta | Variante Scout mit sehr langem Kontext | Lange Dokumente, Bilder | GPU-Server |
Chinesische KI und Datenschutz
DeepSeek, GLM, Qwen und Kimi kommen aus China. Wer die App oder die Online-Schnittstelle des Anbieters nutzt, schickt seine Daten an diesen Anbieter. Läuft das offene Modell dagegen auf Ihrem eigenen Server, geht keine Anfrage nach China, die Gewichte sind nur eine Datei. So nutzen Sie die Stärke der Modelle ohne das Datenschutzproblem.
Welche Größe passt?
Ehrlich gesagt: Die allergrößten Modelle brauchen Hunderte Gigabyte Grafikspeicher. Für die meisten Firmen reicht ein mittleres Modell wie Qwen3.8-27B auf einem Server. Wer die Großen will, mietet einen GPU-Server in Deutschland. Wir richten beides ein.
Quellen: geotoolbox.ai (Artificial Analysis Index, Okt. 2026), gate.ai, wavect.io, shattered.io
Ehrlicher Vergleich: lokale KI oder Cloud?
Spricht für lokale KI
- Daten bleiben im Haus
- Läuft auch ohne Internet
- Keine Gebühr pro Anfrage
- Volle Kontrolle über Modell und Updates
Gut zu wissen
- Hardware kostet einmal Geld
- Die allergrößten Modelle laufen nur in der Cloud
- Jemand muss es pflegen (das können wir sein)
Unser Tipp: Sensibles läuft lokal, alles andere darf in die EU-Cloud. Viele Unternehmen landen bei einer Mischung, und das ist völlig in Ordnung.
Wir sind selbst self-hosted: Unsere Workflows laufen auf dem eigenen n8n-Server, die Bildgenerierung lokal auf der eigenen Grafikkarte. Wir kennen das Lüftergeräusch und die Freude, wenn es läuft.
Wie schnell Cloud-Abhängigkeit weh tut, hat die Outlook-Störung bei Microsoft im November 2026 gezeigt: Mail, Kalender und Copilot standen weltweit fast einen Tag still. Lokale KI lief weiter. Wie der ganze Umstieg aussieht, steht bei der Microsoft 365 Alternative für Unternehmen, wie man das Abo beendet, bei Microsoft 365 kündigen.
Das Wichtigste in Kürze
- Lokale KI betreibt KI-Modelle auf eigener Hardware, Daten verlassen das Unternehmen nicht.
- Damit wird DSGVO-konforme KI viel einfacher, gerade bei vertraulichen Daten.
- Offene Modelle wie DeepSeek V4, GLM-5.3, Qwen, gpt-oss, Llama oder Gemma laufen mit Ollama oder LM Studio.
- Kleine Modelle brauchen etwa 8 GB Grafikspeicher, große 40 GB oder mehr.
- seeside.ai richtet lokale KI für Unternehmen ein, aus Radolfzell am Bodensee und remote.
Fragen zu lokaler KI
Was ist lokale KI?+
Ist lokale KI DSGVO-konform?+
Welche lokalen KI-Modelle eignen sich für Unternehmen?+
Welche Hardware braucht man, um KI lokal zu betreiben?+
Kann lokale KI mit eigenen Daten arbeiten?+
Ist ein lokales LLM so gut wie ChatGPT?+
Wie kann man lokale KI installieren?+
Was kostet lokale KI für Unternehmen?+
Welche Open-Source-KI ist 2026 die beste?+
Kann man DeepSeek V4 lokal betreiben?+
Ist DeepSeek DSGVO-konform?+
Was ist GLM-5.3?+
Richten Sie lokale KI auch am Bodensee ein?+

Passt lokale KI zu Ihnen?
Thomas Honold prüft das mit Ihnen in einem kostenlosen Gespräch von 30 Minuten: Aufgabe, Daten, Hardware. Ehrlich, auch wenn die Cloud mal die bessere Wahl wäre.
+49 171 3838860