Zum Inhalt springen
seeside.ai Logoseeside.ai
Lokale KI · auf eigener Hardware

Ihre KI.
Ihr Haus. Ihre Daten.

Mandantenakten in einer US-Cloud? Lieber nicht. Lokale KI läuft auf einem Rechner in Ihrem Büro oder auf Ihrem eigenen Server. Die Daten bleiben, wo sie schon sind, und die KI kommt zu ihnen. Klingt altmodisch, ist aber gerade das Modernste, was man mit sensiblen Daten machen kann.

Was ist lokale KI?

Lokale KI heißt: KI-Modelle laufen auf Ihrer eigenen Hardware statt in der Cloud eines Anbieters. Texte, Dokumente und Kundendaten verlassen Ihr Unternehmen nicht, damit wird DSGVO-konforme KI viel einfacher. Offene Modelle wie DeepSeek V4, GLM-5.3, Qwen, Llama, Mistral oder Gemma lassen sich mit Werkzeugen wie Ollama oder LM Studio installieren. In einer Umfrage von Bitkom Research nannten 48 % der deutschen Unternehmen die Anforderungen an den Datenschutz als Hürde für KI, 39 % fürchten, dass Daten in falsche Hände geraten. Lokale KI löst beides.

  • Kein Cloud-Upload
  • DSGVO-konform
  • Mit eigenen Daten

Was Kunden sagen.

Vielen Dank für den sehr gut gelungenen und motivierenden Tag. Das besprochene Ziel ist erreicht, alle sind motiviert für die KI.

Božo Č.Leiter ITS (Integrierte Services), Streck Transportges. mbHnach dem KI-Workshop, November 2026Streck Transportges. mbH

Danke nochmal für den super Workshop. Möchte asap starten.

Manuel G.Teamleiter Projektmanagement, Streck Transportges. mbHam Montag nach dem WorkshopStreck Transportges. mbH
★★★★★

Ich habe meine Website von seeside.ai komplett überarbeiten lassen – und das Ergebnis hat mich wirklich beeindruckt. […] Wer eine Website möchte, die mitdenkt, automatisiert und wächst, ist bei seeside.ai genau richtig.

Aicha W.Coach, WolfsKraft CoachingGoogle-Bewertung, 5 SterneWolfsKraft Coaching

Im eigenen Haus

Jede Person. Ein Agent. Ein Netz.

Ein eigenes KI-Modell im Haus, ein Agent pro Person: Die Warenannahme meldet eine beschädigte Palette, die Geschäftsführung bekommt sofort Bescheid. Alles im eigenen Netz.
Private KI für Unternehmen

Warum Unternehmen KI lokal betreiben.

DSGVO ohne Bauchweh

Kein Datentransfer in Drittländer, kein Auftragsverarbeitungsvertrag mit einem KI-Anbieter. Die Daten bleiben einfach im Haus.

Lokale KI mit eigenen Daten

Die KI durchsucht Ihre Verträge, Handbücher und alten Angebote. Ohne dass irgendwer irgendetwas irgendwohin hochlädt.

Für Vertrauliches

Kanzleien, Steuerberater, Arztpraxen, Ingenieurbüros: Wo Berufsgeheimnis gilt, ist lokale KI oft die einzige Option.

Planbare Kosten

Keine Gebühr pro Wort für jede Anfrage. Sie zahlen Hardware und Einrichtung, danach arbeitet die KI so oft Sie wollen.

Hardware für lokale KI

Welche Hardware braucht lokale KI?

Weniger, als viele fürchten. Die wichtigste Zahl ist der Speicher der Grafikkarte (VRAM), bei Apple-Rechnern der gemeinsame Arbeitsspeicher. Faustregel für komprimierte Modelle:

Kleine Modelle (7 bis 8 Milliarden Parameter)

etwa 8 GB VRAM

E-Mails sortieren, Zusammenfassungen, einfache Entwürfe

Mittlere Modelle (rund 30 Milliarden)

etwa 24 GB VRAM

Dokumentensuche, längere Texte, Angebote

Große Modelle (ab 70 Milliarden)

40 GB VRAM oder mehr

Anspruchsvolle Analysen, nah an Cloud-Qualität

Faustregel, keine Garantie: Die genaue Zahl hängt vom Modell, seiner Komprimierung und davon ab, wie viel Text es auf einmal verarbeiten soll. Welche Größe Ihre Aufgabe braucht, klären wir im Erstgespräch.

Open-Source-KI

Open-Source-KI 2026: DeepSeek V4, GLM‑5.3, Qwen und Co.

Die offenen Modelle haben aufgeholt. Im Intelligence Index von Artificial Analysis vom Oktober 2026 stehen DeepSeek V4.1 Flash und GLM-5.3 unter den drei besten offenen Modellen. Offen heißt: Die Gewichte sind frei verfügbar, Sie betreiben das Modell auf eigener Hardware, und keine Anfrage verlässt Ihr Haus.

ModellGröße & LizenzGut fürHardware
DeepSeek V4 / V4 FlashDeepSeekRund 284 bis 304 Milliarden Parameter, MIT-Lizenz, bis 1 Million Token KontextAgenten, lange Dokumente, ProgrammierenServer mit mehreren Grafikkarten
GLM-5.3Z.aiRund 744 Milliarden Parameter, eigene LizenzProgrammier- und AgentenaufgabenGroßer GPU-Server, auch gemietet in Deutschland
Qwen3.8-27BAlibaba27 Milliarden Parameter, Apache 2.0Allrounder für Texte, Mails, DokumentsucheEin Server mit starker Grafikkarte
Kimi K3Moonshot AISehr groß, in 4-Bit rund 1,4 TB SpeicherSpitzenleistung, lange AufgabenRechenzentrum, für KMU meist zu groß
gpt-ossOpenAIOffene Modelle von OpenAI in zwei GrößenAllrounder, WerkzeugnutzungKleine Variante auf einer Workstation
Llama 4MetaVariante Scout mit sehr langem KontextLange Dokumente, BilderGPU-Server

Chinesische KI und Datenschutz

DeepSeek, GLM, Qwen und Kimi kommen aus China. Wer die App oder die Online-Schnittstelle des Anbieters nutzt, schickt seine Daten an diesen Anbieter. Läuft das offene Modell dagegen auf Ihrem eigenen Server, geht keine Anfrage nach China, die Gewichte sind nur eine Datei. So nutzen Sie die Stärke der Modelle ohne das Datenschutzproblem.

Welche Größe passt?

Ehrlich gesagt: Die allergrößten Modelle brauchen Hunderte Gigabyte Grafikspeicher. Für die meisten Firmen reicht ein mittleres Modell wie Qwen3.8-27B auf einem Server. Wer die Großen will, mietet einen GPU-Server in Deutschland. Wir richten beides ein.

Quellen: geotoolbox.ai (Artificial Analysis Index, Okt. 2026), gate.ai, wavect.io, shattered.io

On-Premise-KI vs. Cloud

Ehrlicher Vergleich: lokale KI oder Cloud?

Spricht für lokale KI

  • Daten bleiben im Haus
  • Läuft auch ohne Internet
  • Keine Gebühr pro Anfrage
  • Volle Kontrolle über Modell und Updates

Gut zu wissen

  • Hardware kostet einmal Geld
  • Die allergrößten Modelle laufen nur in der Cloud
  • Jemand muss es pflegen (das können wir sein)

Unser Tipp: Sensibles läuft lokal, alles andere darf in die EU-Cloud. Viele Unternehmen landen bei einer Mischung, und das ist völlig in Ordnung.

Wir sind selbst self-hosted: Unsere Workflows laufen auf dem eigenen n8n-Server, die Bildgenerierung lokal auf der eigenen Grafikkarte. Wir kennen das Lüftergeräusch und die Freude, wenn es läuft.

Wie schnell Cloud-Abhängigkeit weh tut, hat die Outlook-Störung bei Microsoft im November 2026 gezeigt: Mail, Kalender und Copilot standen weltweit fast einen Tag still. Lokale KI lief weiter. Wie der ganze Umstieg aussieht, steht bei der Microsoft 365 Alternative für Unternehmen, wie man das Abo beendet, bei Microsoft 365 kündigen.

Das Wichtigste in Kürze

  • Lokale KI betreibt KI-Modelle auf eigener Hardware, Daten verlassen das Unternehmen nicht.
  • Damit wird DSGVO-konforme KI viel einfacher, gerade bei vertraulichen Daten.
  • Offene Modelle wie DeepSeek V4, GLM-5.3, Qwen, gpt-oss, Llama oder Gemma laufen mit Ollama oder LM Studio.
  • Kleine Modelle brauchen etwa 8 GB Grafikspeicher, große 40 GB oder mehr.
  • seeside.ai richtet lokale KI für Unternehmen ein, aus Radolfzell am Bodensee und remote.

Quelle: Bitkom Research, Künstliche Intelligenz 2025

Fragen zu lokaler KI

Was ist lokale KI?+
Lokale KI bedeutet, dass künstliche Intelligenz auf Ihrem eigenen Rechner oder Server läuft statt in der Cloud eines Anbieters. Ihre Daten bleiben im Haus, damit wird DSGVO-konforme KI deutlich einfacher.
Ist lokale KI DSGVO-konform?+
Lokale KI macht die DSGVO viel einfacher, weil keine personenbezogenen Daten an einen externen KI-Anbieter gehen. Die üblichen Grundlagen wie Zugriffsrechte und Verarbeitungsverzeichnis braucht es trotzdem, aber die größte Hürde, der Datentransfer, fällt weg.
Welche lokalen KI-Modelle eignen sich für Unternehmen?+
Bewährte lokale KI-Modelle sind Llama (Meta), Mistral, Qwen und Gemma (Google). Welches passt, hängt von Aufgabe, Sprache und Hardware ab. Für deutsche Texte testen wir mehrere Modelle mit Ihren echten Unterlagen, bevor wir uns festlegen.
Welche Hardware braucht man, um KI lokal zu betreiben?+
Um KI lokal zu betreiben, zählt vor allem der Speicher der Grafikkarte. Als Faustregel brauchen kleine Modelle etwa 8 GB VRAM, mittlere etwa 24 GB und große 40 GB oder mehr. Für den Anfang reicht oft eine einzige starke Workstation.
Kann lokale KI mit eigenen Daten arbeiten?+
Ja, das ist ihre größte Stärke. Lokale KI mit eigenen Daten durchsucht Verträge, Handbücher und alte Angebote und beantwortet Fragen dazu, ohne dass die Dokumente das Unternehmen verlassen.
Ist ein lokales LLM so gut wie ChatGPT?+
Für viele Alltagsaufgaben reicht ein lokales LLM völlig: zusammenfassen, sortieren, entwerfen, Dokumente durchsuchen. Bei komplexen Analysen sind die allergrößten Cloud-Modelle noch vorn. Deshalb kombinieren viele Unternehmen lokale KI für sensible Daten mit EU-Cloud-Modellen für den Rest.
Wie kann man lokale KI installieren?+
Technisch lässt sich lokale KI mit Ollama oder LM Studio an einem Nachmittag selbst installieren. Für den Einsatz im Unternehmen braucht es mehr: das passende Modell, Zugriffsrechte, die Anbindung an Ihre Dokumente und Pflege. Genau das richten wir ein.
Was kostet lokale KI für Unternehmen?+
Das hängt von Hardware und Aufgaben ab, deshalb gibt es den Preis auf Anfrage. Nach einem kostenlosen Erstgespräch bekommen Sie ein schriftliches Angebot. Laufende Kosten bleiben niedrig, weil keine Gebühren pro Anfrage anfallen.
Welche Open-Source-KI ist 2026 die beste?+
Im Intelligence Index von Artificial Analysis vom Oktober 2026 stehen DeepSeek V4.1 Flash und GLM-5.3 unter den drei besten offenen Modellen, neben MiMo von Xiaomi. Stark sind auch Kimi K3, Qwen3.8, gpt-oss und Llama 4. Welches passt, hängt von Aufgabe und Hardware ab.
Kann man DeepSeek V4 lokal betreiben?+
Ja, die Gewichte von DeepSeek V4 sind offen und stehen unter MIT-Lizenz. Mit rund 284 bis 304 Milliarden Parametern braucht die Flash-Version einen Server mit mehreren Grafikkarten. Vielen Firmen reicht ein kleineres Modell auf einem Server oder ein gemieteter GPU-Server in Deutschland.
Ist DeepSeek DSGVO-konform?+
Wer die DeepSeek-App oder die Online-Schnittstelle nutzt, schickt seine Daten an den Anbieter. Anders ist es, wenn das offene DeepSeek-Modell auf Ihrem eigenen Server läuft: Dann verlässt keine Anfrage Ihr Unternehmen, und die DSGVO wird deutlich einfacher.
Was ist GLM-5.3?+
GLM-5.3 ist ein offenes Sprachmodell von Z.ai mit rund 744 Milliarden Parametern. Es ist stark bei Programmier- und Agentenaufgaben und stand im Intelligence Index von Artificial Analysis vom Oktober 2026 unter den drei besten offenen Modellen.
Richten Sie lokale KI auch am Bodensee ein?+
Ja. seeside.ai sitzt in Radolfzell und richtet lokale KI für Unternehmen in Konstanz, Singen und der Bodensee-Region ein, bei Bedarf vor Ort. Die Einrichtung aus der Ferne klappt in ganz Deutschland.
Thomas Honold, seeside.ai

Passt lokale KI zu Ihnen?

Thomas Honold prüft das mit Ihnen in einem kostenlosen Gespräch von 30 Minuten: Aufgabe, Daten, Hardware. Ehrlich, auch wenn die Cloud mal die bessere Wahl wäre.

+49 171 3838860

Erstgespräch kostenlos. Antwort an Werktagen innerhalb von 24 Stunden.

Oder direkt per E-Mail: kontakt@seeside.ai