Rückzug aus der Public Cloud On-Premises-KI gewinnt in Deutschland an Bedeutung

Von Ira Zahorsky 4 min Lesedauer

Anbieter zum Thema

KI-Workloads kehren in deutsche Unternehmen zurück: Eine Cloudian-Studie nennt Kosten, Echtzeit-Anforderungen und Regulierung als Treiber. Fast LTA sieht darin vor allem eine Compliance-Frage – und setzt auf lokal geplante Infrastruktur.

Aus Compliance-Gründen ziehen deutsche Unternehmen ihre KI-Anwendungen teilweise aus der Public Cloud zurück.(Bild:  Dall-E / KI-generiert)
Aus Compliance-Gründen ziehen deutsche Unternehmen ihre KI-Anwendungen teilweise aus der Public Cloud zurück.
(Bild: Dall-E / KI-generiert)

79 Prozent der von Cloudian befragten Unternehmen haben KI-Anwendungen bereits aus der Public Cloud auf eigene Systeme verschoben. Weitere Unternehmen arbeiten laut der Enterprise AI Infrastructure Survey 2026 an diesem Schritt oder planen ihn. Zusammen ergibt sich ein Anteil von 93 Prozent.

Fast LTA, Spezialist für Zero Loss Sekundär- und Langzeit-Speichersysteme für sensible Daten, wertet die Entwicklung als steigende Nachfrage nach On-Premises-KI-Infrastruktur in Deutschland. Besonders relevant sei das für Organisationen, die mit personenbezogenen, vertraulichen oder regulatorisch geschützten Daten arbeiten.

Roland Stritt, Chief Revenue Officer bei Fast LTA, ordnet die Entwicklung so ein: „All das klingt zunächst nach einer technischen Entscheidung, aber bei genauerem Hinsehen ist es eine Compliance-Entscheidung – und es ist kein schleichender Kurswechsel, sondern eine massive, zeitnahe Kurskorrektur.“

Die Studie führt drei zentrale Motive für die Verlagerung an:

  • schwer kalkulierbare Cloud-Kosten
  • Anforderungen an kurze Antwortzeiten
  • rechtliche und regulatorische Vorgaben

Damit verschiebt sich die Debatte von der reinen Infrastrukturfrage zur Daten- und Compliance-Architektur. Die Wahl zwischen Cloud und On-Premises betrifft nicht nur den Betrieb eines Modells, sondern auch Speicherort, Zugriffsrechte, Kostenkontrolle und Nachweisführung.

Sensible Daten erschweren Cloud-Nutzung

KI-Anwendungen entfalten ihren Nutzen häufig erst durch den Zugriff auf interne Daten. Dazu zählen beispielsweise Vertragsunterlagen, Patienteninformationen, technische Dokumentationen oder interne Kommunikation. Werden solche Daten an externe KI- oder Cloud-Dienste übermittelt, entstehen zusätzliche Anforderungen an Datenschutz, Datenhoheit und Governance.

Für Unternehmen in regulierten Branchen verschärft sich die Situation. Im Gesundheitswesen und in der Finanzbranche gelten bereits heute Vorgaben zum Datenstandort und zur Verarbeitung sensibler Informationen. Auch internationale Zugriffsmöglichkeiten können die rechtliche Bewertung einer Cloud-Konstellation erschweren.

Ein Beispiel ist die Nutzung von Retrieval-Augmented Generation (RAG) in der pharmazeutischen Forschung. Dabei greift ein Sprachmodell auf interne Dokumente zu. Werden Forschungsdaten dafür an einen US-amerikanischen Dienst übertragen, müssen Unternehmen mögliche Konflikte mit Datenschutz- und Compliance-Anforderungen berücksichtigen. Für Kliniken gilt dies in besonderem Maß, wenn Patientenakten in KI-gestützte Prozesse einfließen.

Die Cloud ist damit nicht grundsätzlich ausgeschlossen. Für bestimmte Datenklassen und Anwendungsfälle reicht eine allgemeine Zusicherung zur Datensicherheit jedoch nicht aus. Entscheidend sind konkrete technische und organisatorische Nachweise.

KI-Speicher wird zum Bestandteil der Sicherheitsarchitektur

On-Premises-Betrieb löst diese Anforderungen nicht automatisch. Auch lokale KI-Systeme benötigen eine passende Architektur. RAG-Anwendungen müssen große und unterschiedlich strukturierte Datenbestände schnell durchsuchen können. Gleichzeitig darf die Wissensbasis nicht ungeschützt im Unternehmensnetz liegen.

Eine isolierte Speicherumgebung kann dabei mehrere Aufgaben übernehmen:

  • Trennung der KI-Daten von allgemeinen Geschäftssystemen
  • Schutz vor unberechtigten Änderungen
  • kontrollierte Anbindung an interne Datenquellen
  • Umsetzung bestehender Zugriffsrechte
  • schnellere und besser planbare Datenzugriffe

Die Absicherung einzelner KI-Instanzen greift deshalb zu kurz. Werden Datenbestände, Modelle und Zugriffswege nicht gemeinsam betrachtet, entstehen neue Angriffsflächen. Besonders kritisch ist eine Umgebung, in der die KI auf interne Informationen zugreift, diese aber weder sauber segmentiert noch gegen Manipulation geschützt sind.

Lokaler KI-Assistent ohne Datenübertragung in die Cloud

Fast LTA empfiehlt daher einen KI-Assistenten, der auf einer eigenen Appliance betrieben wird. Hardware, Software und Service sind dabei in einer lokalen Umgebung gebündelt. Der Assistent soll interne Inhalte durchsuchbar machen, ohne Prompts oder Tokens außerhalb des Firmennetzes zu verarbeiten.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Cloud Computing

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Vorgesehen ist die Anbindung unter anderem an:

  • Microsoft 365
  • SharePoint
  • Confluence
  • Fileserver
  • Datenbanken

Die Antworten sollen ausschließlich auf freigegebenen internen Quellen basieren. Bestehende Berechtigungen bleiben dabei maßgeblich: Ein Nutzer soll keine KI-generierte Antwort zu Informationen erhalten, auf die er bereits im Quellsystem keinen Zugriff hat.

Mögliche Einsatzfelder liegen in Forschung und Entwicklung, Support und Service, Vertrags- und Rechtsrecherche, Compliance sowie in Behörden und der Verwaltung. Der praktische Nutzen hängt allerdings nicht allein vom lokalen Betrieb ab. Qualität und Verlässlichkeit der Antworten stehen ebenso in Verbindung mit Datenpflege, Berechtigungsmodellen und der Aktualität der angebundenen Quellen.

Steigende KI-Budgets erhöhen den Planungsdruck

86 Prozent der Befragten rechnen laut Cloudian-Studie für 2026 mit wachsenden KI-Budgets. Damit steigt der Druck, die Infrastrukturentscheidung frühzeitig zu klären. Ein später Wechsel von einer Cloud- in eine lokale Architektur kann zusätzliche Kosten verursachen, wenn Datenmodelle, Schnittstellen und Sicherheitskonzepte nicht darauf ausgelegt sind.

Fast LTA leitet daraus eine Präferenz für Systeme ab, die von Beginn an lokal konzipiert werden, und positioniert On-Premises-KI damit als Alternative zu einer Cloud-Strategie, bei der Datenschutz und Datenkontrolle erst nachträglich berücksichtigt werden.

Die Zahlen der Studie deuten auf eine deutliche Verschiebung hin. Sie belegen jedoch nicht, dass Public-Cloud-KI aus den Unternehmen verschwindet. Wahrscheinlicher ist eine differenziertere Architektur: Sensible Daten und besonders kritische Workloads bleiben lokal, während weniger geschützte oder temporäre Anwendungen weiterhin externe Cloud-Ressourcen nutzen können. Entscheidend wird damit weniger das Schlagwort „Cloud-first“ als die Frage, welche Daten unter welchen Bedingungen verarbeitet werden.

(ID:50932241)