KI-Workloads kehren in deutsche Unternehmen zurück: Eine Cloudian-Studie nennt Kosten, Echtzeit-Anforderungen und Regulierung als Treiber. Fast LTA sieht darin vor allem eine Compliance-Frage – und setzt auf lokal geplante Infrastruktur.
Aus Compliance-Gründen ziehen deutsche Unternehmen ihre KI-Anwendungen teilweise aus der Public Cloud zurück.
(Bild: Dall-E / KI-generiert)
79 Prozent der von Cloudian befragten Unternehmen haben KI-Anwendungen bereits aus der Public Cloud auf eigene Systeme verschoben. Weitere Unternehmen arbeiten laut der Enterprise AI Infrastructure Survey 2026 an diesem Schritt oder planen ihn. Zusammen ergibt sich ein Anteil von 93 Prozent.
Fast LTA, Spezialist für Zero Loss Sekundär- und Langzeit-Speichersysteme für sensible Daten, wertet die Entwicklung als steigende Nachfrage nach On-Premises-KI-Infrastruktur in Deutschland. Besonders relevant sei das für Organisationen, die mit personenbezogenen, vertraulichen oder regulatorisch geschützten Daten arbeiten.
Roland Stritt, Chief Revenue Officer bei Fast LTA, ordnet die Entwicklung so ein: „All das klingt zunächst nach einer technischen Entscheidung, aber bei genauerem Hinsehen ist es eine Compliance-Entscheidung – und es ist kein schleichender Kurswechsel, sondern eine massive, zeitnahe Kurskorrektur.“
Die Studie führt drei zentrale Motive für die Verlagerung an:
schwer kalkulierbare Cloud-Kosten
Anforderungen an kurze Antwortzeiten
rechtliche und regulatorische Vorgaben
Damit verschiebt sich die Debatte von der reinen Infrastrukturfrage zur Daten- und Compliance-Architektur. Die Wahl zwischen Cloud und On-Premises betrifft nicht nur den Betrieb eines Modells, sondern auch Speicherort, Zugriffsrechte, Kostenkontrolle und Nachweisführung.
KI-Anwendungen entfalten ihren Nutzen häufig erst durch den Zugriff auf interne Daten. Dazu zählen beispielsweise Vertragsunterlagen, Patienteninformationen, technische Dokumentationen oder interne Kommunikation. Werden solche Daten an externe KI- oder Cloud-Dienste übermittelt, entstehen zusätzliche Anforderungen an Datenschutz, Datenhoheit und Governance.
Für Unternehmen in regulierten Branchen verschärft sich die Situation. Im Gesundheitswesen und in der Finanzbranche gelten bereits heute Vorgaben zum Datenstandort und zur Verarbeitung sensibler Informationen. Auch internationale Zugriffsmöglichkeiten können die rechtliche Bewertung einer Cloud-Konstellation erschweren.
Ein Beispiel ist die Nutzung von Retrieval-Augmented Generation (RAG) in der pharmazeutischen Forschung. Dabei greift ein Sprachmodell auf interne Dokumente zu. Werden Forschungsdaten dafür an einen US-amerikanischen Dienst übertragen, müssen Unternehmen mögliche Konflikte mit Datenschutz- und Compliance-Anforderungen berücksichtigen. Für Kliniken gilt dies in besonderem Maß, wenn Patientenakten in KI-gestützte Prozesse einfließen.
Die Cloud ist damit nicht grundsätzlich ausgeschlossen. Für bestimmte Datenklassen und Anwendungsfälle reicht eine allgemeine Zusicherung zur Datensicherheit jedoch nicht aus. Entscheidend sind konkrete technische und organisatorische Nachweise.
KI-Speicher wird zum Bestandteil der Sicherheitsarchitektur
On-Premises-Betrieb löst diese Anforderungen nicht automatisch. Auch lokale KI-Systeme benötigen eine passende Architektur. RAG-Anwendungen müssen große und unterschiedlich strukturierte Datenbestände schnell durchsuchen können. Gleichzeitig darf die Wissensbasis nicht ungeschützt im Unternehmensnetz liegen.
Eine isolierte Speicherumgebung kann dabei mehrere Aufgaben übernehmen:
Trennung der KI-Daten von allgemeinen Geschäftssystemen
Schutz vor unberechtigten Änderungen
kontrollierte Anbindung an interne Datenquellen
Umsetzung bestehender Zugriffsrechte
schnellere und besser planbare Datenzugriffe
Die Absicherung einzelner KI-Instanzen greift deshalb zu kurz. Werden Datenbestände, Modelle und Zugriffswege nicht gemeinsam betrachtet, entstehen neue Angriffsflächen. Besonders kritisch ist eine Umgebung, in der die KI auf interne Informationen zugreift, diese aber weder sauber segmentiert noch gegen Manipulation geschützt sind.
Lokaler KI-Assistent ohne Datenübertragung in die Cloud
Fast LTA empfiehlt daher einen KI-Assistenten, der auf einer eigenen Appliance betrieben wird. Hardware, Software und Service sind dabei in einer lokalen Umgebung gebündelt. Der Assistent soll interne Inhalte durchsuchbar machen, ohne Prompts oder Tokens außerhalb des Firmennetzes zu verarbeiten.
Stand: 08.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.
Vorgesehen ist die Anbindung unter anderem an:
Microsoft 365
SharePoint
Confluence
Fileserver
Datenbanken
Die Antworten sollen ausschließlich auf freigegebenen internen Quellen basieren. Bestehende Berechtigungen bleiben dabei maßgeblich: Ein Nutzer soll keine KI-generierte Antwort zu Informationen erhalten, auf die er bereits im Quellsystem keinen Zugriff hat.
Mögliche Einsatzfelder liegen in Forschung und Entwicklung, Support und Service, Vertrags- und Rechtsrecherche, Compliance sowie in Behörden und der Verwaltung. Der praktische Nutzen hängt allerdings nicht allein vom lokalen Betrieb ab. Qualität und Verlässlichkeit der Antworten stehen ebenso in Verbindung mit Datenpflege, Berechtigungsmodellen und der Aktualität der angebundenen Quellen.
Steigende KI-Budgets erhöhen den Planungsdruck
86 Prozent der Befragten rechnen laut Cloudian-Studie für 2026 mit wachsenden KI-Budgets. Damit steigt der Druck, die Infrastrukturentscheidung frühzeitig zu klären. Ein später Wechsel von einer Cloud- in eine lokale Architektur kann zusätzliche Kosten verursachen, wenn Datenmodelle, Schnittstellen und Sicherheitskonzepte nicht darauf ausgelegt sind.
Fast LTA leitet daraus eine Präferenz für Systeme ab, die von Beginn an lokal konzipiert werden, und positioniert On-Premises-KI damit als Alternative zu einer Cloud-Strategie, bei der Datenschutz und Datenkontrolle erst nachträglich berücksichtigt werden.
Die Zahlen der Studie deuten auf eine deutliche Verschiebung hin. Sie belegen jedoch nicht, dass Public-Cloud-KI aus den Unternehmen verschwindet. Wahrscheinlicher ist eine differenziertere Architektur: Sensible Daten und besonders kritische Workloads bleiben lokal, während weniger geschützte oder temporäre Anwendungen weiterhin externe Cloud-Ressourcen nutzen können. Entscheidend wird damit weniger das Schlagwort „Cloud-first“ als die Frage, welche Daten unter welchen Bedingungen verarbeitet werden.