Eigener KI-Server, sicher betrieben
Lokale KI für Unternehmen
Sprachmodelle auf Ihrer eigenen Hardware, für Daten, die das Haus nicht verlassen sollen. Wir klären den Bedarf, begleiten die Auswahl der Hardware, richten ein, sichern ab und betreuen den Betrieb.
Lokal oder Cloud: drei Wege, KI mit eigenen Daten zu nutzen
Lokale KI ist nicht für jedes Unternehmen der richtige Weg. Bevor Sie Hardware kaufen, lohnt der Vergleich mit den beiden anderen Wegen. Wir beraten zu allen drei und empfehlen den, der zu Ihren Daten passt.
Cloud-Dienst mit Vertrag
Ein Unternehmenskonto bei einem Modellanbieter mit Vertrag zur Auftragsverarbeitung und ohne Trainingsnutzung. Für viele Daten ausreichend, schnell eingerichtet, laufende Kosten je Nutzer oder Nutzung.
Eigener Tenant
Modelle im eigenen Cloud-Abonnement, etwa in Azure, mit Region und Zugriffsrechten unter Ihrer Kontrolle. Die Daten liegen im eigenen Tenant, der Betrieb beim Cloud-Anbieter.
Lokale KI im eigenen Haus
Offene Sprachmodelle laufen auf einem Server oder Gerät in Ihren Räumen oder Ihrem Rechenzentrum. Kein Modellanbieter sieht die Inhalte. Dafür tragen Sie Hardware und Strom, wir übernehmen Einrichtung und Betreuung.
Lokale KI passt, wenn
- Sie mit Daten arbeiten, die einer Schweigepflicht oder einem Berufsgeheimnis unterliegen
- interne Vorgaben oder Kunden verlangen, dass bestimmte Daten das Haus nicht verlassen
- Sie als reguliertes Unternehmen keinen weiteren Cloud-Dienstleister prüfen und überwachen wollen
- viele Mitarbeitende KI täglich nutzen und laufende Kosten je Nutzer ins Gewicht fallen
Welcher KI-Server passt
Es kommt vor allem auf die Zahl der gleichzeitigen Nutzer und die erwarteten Antwortzeiten an, weniger auf die Größe des Unternehmens. Drei Klassen decken die meisten Fälle ab:
Ein Gerät im Büro
bis etwa 10 gleichzeitige Nutzer
Eine Workstation mit einer leistungsfähigen Grafikkarte oder ein kompakter Rechner mit viel gemeinsamem Arbeitsspeicher. Normaler Stromanschluss, kein Serverraum.
Server für Stapelverarbeitung
Auswertungen und Berichte über Nacht
Viel Arbeitsspeicher und viele Prozessorkerne, ohne Grafikkarte. Geeignet für Aufgaben ohne Zeitdruck. Für schnelle Antworten an viele Nutzer gleichzeitig reicht reine Prozessorleistung nicht.
Grafikserver für viele Nutzer
größere Organisationen, etwa 100 Mitarbeitende
Mehrere Server mit Grafikkarten für kurze Antwortzeiten bei vielen gleichzeitigen Anfragen. Braucht Rechenzentrumsfläche, passende Stromversorgung und Kühlung.
Die Hardware kaufen Sie direkt beim Hersteller oder Händler. Wir verkaufen keine Hardware und betreiben kein Rechenzentrum für Kunden.
Was wir übernehmen
Bedarfsanalyse und Auswahl
Wir klären die Anwendungsfälle (Suche in eigenen Unterlagen, Textentwürfe, Dokumentenverarbeitung), die Zahl der gleichzeitigen Nutzer und die Anforderungen an Ihre Daten. Daraus leiten wir Hardware und Modelle ab.
Beschaffungsbegleitung
Pflichtenheft, Vergleich der Angebote, Abstimmung der Lieferung. Den Kaufvertrag schließen Sie direkt mit Hersteller oder Händler. Wir nehmen keine Vermittlungsprovision.
Einrichtung
Modellserver und Oberfläche auf Ihrer Hardware, Anbindung an freigegebene Dokumentenablagen und an Ihre Anmeldung (Single Sign-on), Benutzerkonten mit Rechten.
Absicherung
Netzwerksegmentierung, Zugriffskontrolle und kein ungewollter Internetzugang der Modellendpunkte. Das ist unser Kerngebiet Infrastruktursicherheit.
Betrieb und Wartung
Updates von Modellen und Software, Überwachung, Kapazitätsplanung bei wachsender Nutzung, aus der Ferne auf Ihrer Hardware.
Sicherheitstest auf Wunsch
Test der Einrichtung auf Prompt Injection, Jailbreaks und Datenabfluss, nach dem Leitfaden für Penetrationstests von Sprachmodellen der Allianz für Cyber-Sicherheit.
Klein anfangen
Erst eine Aufgabe, dann die Plattform
Mit den KI-Einsteigerpaketen lösen Sie zuerst einen einzelnen Handgriff, etwa Belege in eine Tabelle übertragen. Das Paket kann bei uns laufen und später auf Ihre eigene Plattform umziehen (Betriebsoptionen 3 und 4).
Zu den KI-Einsteigerpaketen →Praxen und Kanzleien
Lokale KI unter Schweigepflicht
Für Arztpraxen, Kanzleien und Steuerberater gibt es ein eigenes Angebot: ein Gerät im Büro, eingerichtet und betreut, für Patienten- und Mandantendaten nach §203 StGB.
Lokale KI für Praxen und Kanzleien →Aufbauen und absichern aus einer Hand
Lokale KI einzurichten ist eine Sache, sie sicher zu betreiben eine andere. Wir beraten zu Informationssicherheit und betreiben lokale Sprachmodelle in unserem eigenen Labor. Geschäftsführer Christian Gebhardt ist Gründungs- und ständiges Mitglied im Expertenkreis KI-Sicherheit der Allianz für Cyber-Sicherheit und Mitautor des Leitfadens für Penetrationstests von Sprachmodellen (BSI/ACS, 2025).
Sicherheitstests für Sprachmodelle →Häufige Fragen
Ist ChatGPT im Unternehmen grundsätzlich ein Datenschutzproblem?
Nicht grundsätzlich. Mit einem Unternehmenskonto, einem Vertrag zur Auftragsverarbeitung und ohne Trainingsnutzung lässt sich ein Cloud-Dienst für viele Daten einsetzen. Heikel wird es bei Daten unter Schweigepflicht, bei besonders schutzwürdigen personenbezogenen Daten und dort, wo Kunden oder Aufsicht Vorgaben machen. Ob ein Cloud-Dienst für Ihre Daten ausreicht, klären Sie mit Ihrem Datenschutzbeauftragten; wir liefern die technischen Grundlagen dafür.
Was ist der Unterschied zwischen lokaler KI und einer KI aus der EU-Cloud?
Bei einer EU-Cloud verarbeitet ein Anbieter Ihre Daten in seinem Rechenzentrum in der EU, geregelt durch einen Vertrag. Bei lokaler KI läuft das Modell auf Ihrer eigenen Hardware, und kein Modellanbieter erhält die Inhalte. Beides kann richtig sein; es hängt an Ihren Daten und Pflichten.
Welche Hardware brauchen wir für einen eigenen KI-Server?
Das hängt vor allem an der Zahl der gleichzeitigen Nutzer und an den Antwortzeiten. Für ein Büro mit bis zu etwa zehn gleichzeitigen Nutzern reicht oft ein einzelnes Gerät. Für Auswertungen über Nacht genügt ein Server ohne Grafikkarte. Für viele gleichzeitige Nutzer braucht es Server mit Grafikkarten. Die genaue Auswahl folgt aus der Bedarfsanalyse.
Kaufen wir die Hardware bei Ihnen?
Nein. Sie kaufen direkt beim Hersteller oder Händler und bleiben Eigentümer. Wir erstellen das Pflichtenheft, vergleichen die Angebote technisch und begleiten die Lieferung, ohne Provision von Lieferanten.
Sind lokale Modelle so gut wie die großen Cloud-Modelle?
Für viele Büroaufgaben wie Entwürfe, Zusammenfassungen und die Suche in eigenen Unterlagen reichen offene Modelle aus. Bei besonders anspruchsvollen Aufgaben sind die größten Cloud-Modelle oft stärker. Deshalb prüfen wir vor der Beschaffung an Ihren eigenen Aufgaben, welches Modell genügt.
Diese Seite gibt einen technischen Überblick und ersetzt keine Rechtsberatung.
Lokale KI für Ihr Unternehmen prüfen
Im Erstgespräch klären wir Anwendungsfälle, Nutzerzahl und Datenlage und sagen Ihnen, ob lokale KI der richtige Weg ist.