Agentic AI im Cloud-Betrieb mit Storm Reply Wie Audi ein Multi-Agenten-System für den Cloud-Betrieb entwickelt

Anbieter zum Thema

Storm Reply GmbH

Nutanix Germany GmbH

Cloudgermany.de GmbH

Yorizon GmbH & Co. KG

Audi nutzt mit Unterstützung von Storm Reply ein KI-gestütztes Assistenzsystem, das Cloud-Architektur, FinOps, Security und IaC validiert. Grundlage ist eine modulare Multi-Agenten-Plattform auf Basis von AWS.

Bei Audi unterstützt ein KI-System namens „Devbot“ die Teams der Cloud Foundation Services in zentralen Bereichen des IT-Betriebs: Architekturvalidierung, Ressourcenmanagement, Sicherheitsüberwachung und Infrastructure-as-Code (IaC). Entwickelt wurde das Multi-Agenten-System gemeinsam mit Storm Reply, einem Spezialisten für Cloud-Transformationen und Amazon Web Services (AWS) Premier Consulting Partner.

„Die Frage lautete: Wie können wir den Betrieb von Cloud-Ressourcen effizienter gestalten?“, berichtete Francesco Ongaro, Associate Partner bei Storm Reply, im Gespräch mit CloudComputing-Insider. Ein entscheidender Aspekt war die Fragmentierung von Wissen und Dokumentation – verteilt über unterschiedliche Systeme. Diese sollte über eine Retrieval-Augmented-Generation-Lösung (RAG) zugänglich gemacht werden, eingebettet in einen intelligenten Agenten.

Vier Agenten für vier Domänen

Die Architektur von Devbot basiert auf vier spezialisierten Agenten, die jeweils einem Themenbereich zugeordnet sind. Der erste agiert als virtueller Cloud-Architekt und nutzt die Best Practices aus dem AWS Well-Architected Framework. Der zweite analysiert Ressourcenverbrauch und FinOps-Potenziale. Der dritte scannt Sicherheitsbedrohungen und schlägt Maßnahmen vor, der vierte liefert validierten Infrastructure-as-Code.

Die Domänenagenten sind untereinander koordiniert und können bei Bedarf um neue Module ergänzt werden. „Die Plattform ist bewusst modular aufgebaut und lässt sich um weitere Anwendungsfälle erweitern – und das auch jenseits der IT“, so Ongaro.

Automotive Clouds Teil 3

VW, Audi und Porsche setzen verstärkt auf die Cloud

Betrieb auf AWS mit Bedrock und Claude

Technisch basiert Devbot auf vollständig gemanagten AWS-Services. Ursprünglich startete das Projekt mit SageMaker, wechselte später aber auf Bedrock, sobald der Dienst in der Region Frankfurt verfügbar war – ein Compliance-Kriterium von Audi. Als Large Language Model (LLM) kommt Claude von Anthropic zum Einsatz, insbesondere wegen des ausgewogenen Verhältnisses zwischen Kosten, Leistung und geringer „Halluzinationsrate“. „Wir müssen sehr präzise arbeiten, denn es handelt sich hierbei um eine zentrale, interne Anwendung“, betonte Ongaro.

Das Multi-Agenten-System ist serverlos konzipiert, das heißt: Es skaliert automatisch mit der Nutzung und verursacht nur dann Kosten, wenn es verwendet wird. Zudem lässt sich Devbot perspektivisch in unternehmensweite Identity-Systeme einbinden, um Zugriffsrechte gezielt zu vergeben.

Audi ist nicht das einzige Unternehmen, das von Devbot profitieren könnte. Die Plattform wurde so entworfen, dass sie auf andere Branchen und Dokumentationsarten übertragbar ist, wie zum Beispiel auf den Einkauf, die Produktion oder Compliance.

Ongaro beobachtet über die Jahre hinweg eine Verschiebung in der Cloud-Adoption: „Vor elf Jahren war Cloud vor allem Infrastructure-as-a-Service (IaaS). Heute sehen wir vermehrt native, serverlose Architekturen.“ Gleichzeitig wachse die Erwartung, dass Technologie echte Businessprobleme löst.

Der Bedarf an Orientierung bleibt hoch – auch in Zeiten generativer Künstlicher Intelligenz. „Ein Agent kann sehr schnell Antworten liefern, aber die Kompetenz zur Bewertung muss beim Menschen bleiben“, sagt Ongaro. Darin liegt für ihn auch die Zukunft von Cloud-Beratung: „Technologische Exzellenz, kombiniert mit tiefem Verständnis für die Sprache und Ziele des Business.“

Eine Branche virtualisiert sich

Autos kommen jetzt aus der Cloud

(ID:50479344)