gesponsertInsider Research im Gespräch AI&ML Cluster Betrieb im eigenen Rechenzentrum und in der Private Cloud

2 min Lesedauer

Gesponsert von

Moderne KI/ML-Cluster bestehen aus Hunderten oder Tausenden von GPUs, die die enorme, parallele Rechenleistung bereitstellen, die zum Trainieren der KI-Modelle erforderlich ist. Dabei ist es das Netzwerk, das diese GPUs miteinander verbindet und es ihnen ermöglicht, als ein einziges, äußerst leistungsstarkes KI-Verarbeitungssystem zu arbeiten. Das Interview von Insider Research mit Manfred Felsberg und Erwin Breneis von Juniper Networks liefert Einblicke.

AI&ML Cluster Betrieb im eigenen Rechenzentrum und in der Private Cloud, ein Interview von Oliver Schonschek, Insider Research, mit Manfred Felsberg und Erwin Breneis von Juniper Networks.(Bild:  Vogel IT-Medien / Juniper Networks / Schonschek)
AI&ML Cluster Betrieb im eigenen Rechenzentrum und in der Private Cloud, ein Interview von Oliver Schonschek, Insider Research, mit Manfred Felsberg und Erwin Breneis von Juniper Networks.
(Bild: Vogel IT-Medien / Juniper Networks / Schonschek)

Für KI/ML optimierte Rechenzentrumsnetzwerke müssen über besondere Fähigkeiten in den Bereichen Überlastungsmanagement, Lastausgleich, Latenz und vor allem zur Minimierung der JCT (Job Completion Time) verfügen. Da die Modellgrößen und Datensätze weiter wachsen, müssen ML-Anwender mehr GPUs in ihren Clustern unterbringen. Die Netzwerkstruktur sollte eine nahtlose Skalierbarkeit unterstützen, ohne die Leistung zu beeinträchtigen oder Kommunikationsengpässe zu verursachen.

Im Gespräch mit Oliver Schonschek, News-Analyst bei Insider Research, erklären Manfred Felsberg, Sr. Director Specialist Sales Global for Data Center bei Juniper Networks, und Erwin Breneis, DC Lead Solution Specialist bei Juniper Networks, unter anderem

  • Viele Unternehmen planen den Einsatz von AI / ML. Dabei wird viel über Daten und Algorithmen diskutiert. Warum sollten die Data Center, die Netzwerke und die Anforderungen daran bei der Diskussion nicht vergessen werden?
  • Wird AI nicht hauptsächlich aus der Cloud bezogen werden? Welche Rolle spielen eigene Data Center und Private Clouds und warum? Spielt dabei die Branche auch eine Rolle?
  • Welche besondere Anforderungen bestehen denn bei AI / ML an Data Center und an die Netzwerke?
  • Es geht also um AI Performance und die optimale Nutzung der kostspieligen GPU Server und damit die Wirtschaftlichkeit von AI. Aber es geht auch um die Benutzer und deren Erfahrung. Wie hängt die AI-Erfahrung und Data Center Networking zusammen?
  • Wie schafft man es denn, die Wirtschaftlichkeit von AI zu optimieren?
  • Und wie kann man die AI-Erfahrung optimal gestalten?
  • Wie sieht denn die AI Networking Solution von Juniper Networks konkret aus?
  • Warum ist hier die Offenheit der Lösung so wichtig? Was ermöglicht hier Juniper Apstra? Und was das Junos Operating System?
  • Kann man sagen, dass AI in Intent Based Network Automation anderer AI hilft?
  • Derzeit ist NVIDIA der Anbieter für AI&ML Clustern (Server, Storage, Netzwerk) – entwickelt sich hier ein Monopol?
  • Gibt es schon konkrete Beispiele von derartigen AI Clustern, die im Betrieb sind?
  • Zum Schluss: Was verbirgt sich hinter den AI Labs?

Der neue Podcast steht bei Captivate, bei Soundcloud, bei Google Podcasts, bei Apple Podcasts, bei Spotify, bei TuneIn, bei Deezer und bei YouTube zur Verfügung. Am besten gleich reinhören, bei Insider Research im Gespräch, dem Podcast mit den Insidern der Digitalen Transformation!

(ID:49850234)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Cloud Computing

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung