TPUs, agentische Workloads und die Priorisierung von Compute Googles Wette auf die Rechenleistung

Anbieter zum Thema

Google Germany GmbH

Fujitsu Technology Solutions GmbH

Flexera Software GmbH

Cloudgermany.de GmbH

Rechenleistung bestimmt das KI-Geschäft. Karthik Narain erläutert den Weg von der CPU über die GPU zur eigenen TPU. Er beschreibt, was agentische Workloads von der Infrastruktur verlangen und wie Google den Engpass bei der Rechenleistung finanziert und steuert.

Karthik Narain verantwortet als Chief Product and Business Officer bei Google Cloud die Bereiche Produkt, Engineering und Go-to-Market. Er wechselte im Oktober 2025 vom Technologievorstand bei Accenture zu Google Cloud und berichtet direkt an CEO Thomas Kurian. Im Gespräch mit Thomas Joos für CloudComputing-Insider erklärt er, warum der Konzern seine Compute-Strategie zur Grundlage des gesamten KI-Geschäfts macht und mit welchen Mitteln er den aktuellen Engpass bei Rechenleistung steuert.

CloudComputing-Insider: Google hat zuletzt mehrere neue Datenprodukte vorgestellt. Woher stammen die Impulse für deren Entwicklung, und was ist daraus konkret hervorgegangen?

Karthik Narain: Die Impulse kommen direkt von den Kunden. Ein Agent soll selbstständig Daten zusammenführen, aufbereiten und daraus Reports oder Analysen erzeugen, und dafür braucht es eine Engine, die den Geschäftskontext versteht. Aus diesem Bedarf ist der Knowledge Catalog innerhalb unserer Agentic Data Cloud hervorgegangen.

Viele Wettbewerber koppeln ihre Analytik an eine Migration der Daten in die eigene Cloud. Welchen Weg geht Google stattdessen?

Narain: Der Transfer von Daten zwischen verschiedenen Clouds kostet Geld, das dann nicht mehr für andere Projekte zur Verfügung steht – und das halten wir für unnötig. Deshalb haben wir das Cross-Cloud Lakehouse entwickelt: Die Analytics-Engine bleibt bei Google, während die Daten bei AWS oder Microsoft verbleiben. Der Kunde verarbeitet diese Daten, ohne sie jemals in unsere Cloud verschieben zu müssen.

Können Sie ein Beispiel nennen, bei dem Ihre Kundennähe bis tief in die Technik reicht?

Narain: Ein gutes, aktuelles Beispiel ist die remasterte Fassung von „Der Zauberer von Oz“ in der Sphere in Las Vegas. Das Studio hatte die Vision, und wir lieferten schließlich die technische Umsetzung. Im Zuge dessen war unser Engineering-Team als Forward Deployed Engineers direkt vor Ort beim Filmstudio.

Agentische Anwendungen verbrauchen sehr viel Rechenleistung. Reicht dafür die klassische Cloud-Infrastruktur noch aus?

Narain: Nein, denn die klassische Cloud beruht auf einer Abstraktionsschicht, die jeder Anwendung automatisch Compute und Storage zuteilt, wie wir sie früh in unserer Cluster-Verwaltung und später in Kubernetes umgesetzt haben. Eine solche Schicht muss jede Art von Last annehmen und orientiert sich daher am kleinsten gemeinsamen Nenner. Für KI-Lasten ist das der ineffizienteste Weg.

Wie verlief dann der Weg von der CPU über die GPU bis zur eigenen TPU?

Narain: Im Kern wendet KI immer wieder dieselbe Rechenoperation auf sehr viele Datensätze an, in der Fachsprache auch Single Instruction, Multiple Data, oder SIMD genannt. Eine klassische CPU arbeitet zum Beispiel zehn Millionen Datensätze nacheinander ab und holt dabei für jeden Schritt Befehl und Daten getrennt aus dem Speicher, was bei gleichartigen Operationen enorm viel Zeit kostet. Eine GPU verarbeitet solche gleichförmigen Aufgaben parallel, und Google hat früh erkannt, dass sich die Grafikchips von Nvidia dafür eignen.

Was gab schließlich den Ausschlag für eine eigene TPU?

Narain: Unser Chief Scientist, Jeff Dean, fasste das Experiment so zusammen, dass GPUs zwar für KI taugten, die Kosten auf diesem Weg aber ins Unermessliche stiegen. Wir brauchten also etwas Effizienteres für genau eine Operation, die Matrixmultiplikation hinter Deep Learning, und so kam die Tensor Processing Unit (TPU).

Wie weit ist diese Entwicklung heute fortgeschritten?

Narain: Seit 2014 bauen wir einen vollständigen, KI-nativen Stack auf. Inzwischen sind wir bei der achten Generation der TPU angekommen. Erstmals teilen wir die Reihe in zwei eigens entwickelte Chips, einen für das Training und einen für die Inferenz, sodass jeder genau auf seine Aufgabe zugeschnitten ist. Gegenüber der Vorgängergeneration soll sie bis zu doppelt so viel Leistung pro Watt liefern, was angesichts knappen Stroms und steigender Compute-Kosten absolut essenziell ist.

Welche Bedingungen müssen zusammenkommen, damit sich KI in der Breite durchsetzt?

Narain: Mehrere Bedingungen zugleich. KI muss Reasoning auf höchstem Niveau liefern, sonst leidet die Nutzererfahrung und die öffentliche Akzeptanz. Die Antworten müssen zudem in Echtzeit kommen und auf realen Unternehmensdaten beruhen.

Und der Kostenfaktor?

Narain: Einer der wichtigsten Punkte ist, dass die Kosten vorhersehbar und niedrig bleiben müssen, sonst übersteigt der Token-Verbrauch jedes Budget. Alle drei Bedingungen zusammen gelingen nur mit einem Full-Stack-Ansatz, und genau daran arbeiten wir.

Rund um KI kursiert das Schlagwort der Blase. Wie blicken Sie auf die kommenden drei bis fünf Jahre?

Narain: Wir halten KI für die elementar wichtigste Technologie unserer Zeit, denn sie ist universell einsetzbar und lässt sich auf nahezu jedes Feld anwenden. Die Phase des Experimentierens liegt nun hinter uns, wir sind mitten in der Umsetzung und Skalierung. Der nächste Schritt ist das Neudenken ganzer Prozesse über agentische Workflows hinweg.

Worin unterscheidet sich ein agentischer Workflow grundlegend von klassischer Software?

Narain: Bisher war jede Technologie instruktionsbasiert, jemand programmierte eine feste Abfolge von Schritt eins bis Schritt zehn. Erstmals gibt der Nutzer nur noch ein Ergebnis vor und überlässt dem System den Weg dorthin. Er nennt Daten und Erfahrungen und setzt Leitplanken für Sicherheit, Compliance oder Markenvorgaben, innerhalb derer das System selbst entscheidet.

Die geopolitische Lage belastet die Lieferketten erheblich. Wie steuert Google den Engpass bei der Rechenleistung?

Narain: Der Engpass ist hart, deshalb müssen wir priorisieren. Google verfügt über eine der größten Compute-Infrastrukturen der Welt, verteilt auf drei Geschäfte, und trotzdem übersteigt die Nachfrage das Angebot. Zu diesen Bereichen zählen ein Cloud-Geschäft wie das von AWS und Microsoft, ein KI-Labor auf Augenhöhe mit den großen Laboren und ein Plattformgeschäft mit rund 300 Milliarden US-Dollar Umsatz.

Wie finanziert Google diesen enormen Ausbau?

Narain: Öffentlich kommuniziert liegt unsere Investitionsguidance für 2026 inzwischen bei 180 bis 190 Milliarden US-Dollar, angehoben von zunächst 175 bis 185 Milliarden. Vor Kurzem kam die größte Kapitalaufnahme unserer Geschichte über 80 Milliarden US-Dollar hinzu, und als Brückenkapazität für die hohe Nachfrage mieten wir zusätzlich GPU-Rechenleistung in den Rechenzentren von xAI an. Bei der Priorisierung von Kundenanfragen gilt der Grundsatz, dass wir unseren bestehenden Enterprise-Kunden natürlich weiterhin treu bleiben.

Welche operativen Hebel setzen Sie zusätzlich gegen den Engpass ein?

Narain: Wir nutzen eigene KI, um Produkte effizienter zu bewegen und Rechenzentren schneller in Betrieb zu nehmen, steigende Speicherpreise steuern wir über langfristige Verträge. Da Strom und Fläche zur knappsten Ressource werden, bieten wir unsere TPU zudem als Server-Bauteile für Rechenzentren von Partnern an.

Nvidia GTC zeigt neue KI-Strategie

Wildert Huang jetzt im Hyperscaler-Revier?

Zuletzt hieß es, Google baue eigene Fabriken für die Stromversorgung. Trifft das zu?

Narain: Nein, wir wollen nicht das Geschäft anderer übernehmen. Wir investieren zwar in einzelne Bereiche wie Intersect für die Stromerzeugung oder Intrinsic für Robotik, Fabriken für Zulieferer bauen wir aber nicht. Stattdessen geben wir langfristige Abnahmegarantien, damit ein Zulieferer eine neue Fabrik finanzieren kann.

Wie verändert KI die Bedienoberflächen der Google-Produkte?

Narain: Wir gehen behutsam vor, denn Googles Erfolg beruht auf einer schlanken Bedienung, daher der langsame Übergang von AI Overviews zu AI Mode. Fest steht, dass alle Produkte über eine allgemeine Intelligenz verbunden sein sollen, sodass der Nutzer seine persönliche Intelligenz mit seiner Erlaubnis über alle Dienste teilt. Neue Funktionen bleiben dabei immer aus der Gemini-App oder der Suche mit AI Mode erreichbar.

Ausweg aus Cloud Act vs. DSGVO?

Thales und Google Cloud planen souveräne Cloud für Deutschland

Werden klassische App-Oberflächen wie Kalender oder E-Mail damit überflüssig?

Narain: Vieles spricht für eine stärkere Vereinheitlichung. Ein CEO eines großen Handelskonzerns erzeugt seine Dokumente zum Beispiel vor allem über die Canvas-Funktion von Gemini und lässt sich morgens per Agent Mails und Aufgaben zusammenfassen. Wenn ein Hinweis sagt, in fünf Minuten beginnt das nächste Meeting, ersetzt das den klassischen Kalender, oder zumindest dessen regelmäßige Nutzung.

Welche Rolle spielt das Ökosystem in der agentischen Welt?

Narain: Google bleibt ein Plattform- und Ökosystem-Unternehmen, ohne funktionierendes Ökosystem wären wir nicht erfolgreich. Unsere Vision ist ein nahtlos intelligentes Ökosystem. Darin gibt es zwei Rollen, entweder die verbindende Intelligenzschicht oder den Domänen-Champion mit tiefem Fachwissen.

Haben Sie ein Beispiel für einen solchen Domänen-Champion?

Narain: Mit Thoma Bravo und Vista Equity Partners arbeiten wir zusammen, und die erste Vista-Firma auf dem Gemini-Stack ist Duck Creek, eine Software für die Schaden- und Unfallversicherung. Wir bauen kein eigenes Underwriting, wir liefern die Intelligenz. Die Workflows und regulatorischen Prüfpunkte bleiben dort.

(ID:50890982)