Definition: Leistungsstarke KI-Modelle aus der Microsoft-Cloud Was ist Azure OpenAI Service?

Anbieter zum Thema

Microsoft Deutschland GmbH

Fsas Technologies GmbH

Hyland Software Germany GmbH

Cloudgermany.de GmbH

Der Azure OpenAI Service ist ein seit Anfang 2023 allgemein verfügbarer Cloud-Service von Microsoft. Er bietet Zugang zu großen, leistungsstarken, generativen KI-Modellen von OpenAI wie GPT-3, ChatGPT, DALL-E 2 und anderen. Die Modelle werden auf der performanten Computing-Infrastruktur der Azure-Cloud ausgeführt und nutzungsbasiert abgerechnet.

Azure OpenAI Service ist der Produktname eines von Microsoft angebotenen und betriebenen Cloud-Service für Künstliche Intelligenz. Er ist seit Januar 2023 öffentlich verfügbar, erfordert derzeit aber noch die Beantragung des Zugangs durch den Kunden sowie die Prüfung und Freigabe durch Microsoft. Die Kunden müssen Microsoft über den beabsichtigten Anwendungsfall oder die Zielanwendung informieren. Das Beantragungsverfahren und die Einschränkung des Zugangs sollen sicherstellen, dass die KI verantwortungsvoll und unter Einhaltung ethischer Richtlinien eingesetzt wird.

Definition: Künstliche neuronale Netzwerke als Teilgebiet der KI

Was ist ein neuronales Netz?

Azure OpenAI Service bietet Zugang zu großen, leistungsstarken, generativen KI-Modellen von OpenAI wie GPT-3, ChatGPT, DALL-E 2 und weiteren Codex- und Einbettungsmodellen. Die Modelle werden auf der performanten Computing-Infrastruktur der Azure-Cloud mit hoher Verfügbarkeit und Sicherheit ausgeführt und sind für produktive Zwecke einsetzbar. Microsoft verwendet die Modelle und die Cloud-Infrastruktur für eigene Produkte wie GitHub Copilot, Power BI, Bing Chatbot, Microsoft 365 und andere. Auch OpenAI selbst nutzt die Rechenleistung der Azure-Infrastruktur für verschiedene API-Modelle von OpenAI.

Abgrenzung zwischen Azure OpenAI Service und den KI-Services von OpenAI

Bei OpenAI handelt es sich um ein ursprünglich als Non-Profit-Organisation gegründetes und inzwischen auch kommerziell agierendes Unternehmen. OpenAI erforscht und entwickelt Künstliche Intelligenz und wurde durch KI-Modelle wie den Bildgenerator DALL-E, die Sprachmodelle GPT-2 und GPT-3 der GPT-Familie (Generative Pretrained Transformer) oder den intelligenten Chatbot ChatGPT bekannt. Microsoft investiert Milliarden in OpenAI und arbeitet eng mit dem Unternehmen zusammen.

Mittlerweile bietet OpenAI auch eigene kostenpflichtige KI-Services wie ChatGPT Plus und API-basierte Services mit Zugang zu KI-Modellen. Der Azure OpenAI Service von Microsoft macht KI-Modelle von OpenAI über die Cloud-Plattform Azure verfügbar und integriert sie in die Microsoft-Cloud-Umgebung. Der Zugriff ist über die REST APIs von Microsoft Azure möglich. Azure OpenAI Service bietet die Verfügbarkeit, Performance, Sicherheit und Compliance der Azure-Plattform. Die KI-Modelle können von Unternehmen für produktive Anwendungen eingesetzt werden. Weitere Leistungen von Azure OpenAI Service sind regionale Verfügbarkeit, verantwortungsvolle KI-Inhaltsfilterung, private und virtuelle Netzwerkkonnektivität, Identitätsmanagement und Sicherheitsfunktionen der Azure-Cloud.

Das Preismodell für Azure OpenAI Service

Die Abrechnung für die Inanspruchnahme des Azure OpenAI Service erfolgt nutzungsbasiert. Für jedes Modell sind Preise definiert, die von verschiedenen Einheiten abhängig sind.

Eine wichtige Abrechnungsmethode ist das tokenbasierte Preismodell. Token sind kurze Abschnitte von Textstrings. Texte, die von den Modellen verarbeitet werden, werden in Token unterteilt. Sehr kurze Wörter bestehen häufig aus einem Token, längere Wörter aus mehreren Token. Üblich sind Tokenlängen von etwa vier Zeichen. Pro Modell sind Preise für die Verarbeitung von Token in 1.000er-Mengen definiert. Je komplexer das Modell ist, desto teurer der 1.000-Token-Preis.

Bei der Bild-KI DALL-E erfolgt die Abrechnung abhängig von der Anzahl der Images. Zusätzlich können für die KI-Modelle Storage- und Rechenkosten für eigenes Training und Abstimmung anfallen (Preis pro Rechenstunde und Preis pro Hostingstunde).

Im Rahmen von Azure OpenAI Service verfügbare Modelle

Azure OpenAI Service bietet Zugriff auf zahlreiche verschiedene KI-Modelle von OpenAI. Sie sind entsprechend ihrer Funktionalität und Modellfamilie in Gruppen eingeteilt. Die Verfügbarkeit der Modell-Gruppen kann sich von Azure-Region zu Azure-Region unterscheiden. Verfügbare Modellfamilien sind:

• die GPT-3-Modellfamilie mit mehreren Modellen zur Verarbeitung, zum Verstehen und zum Generieren natürlichsprachiger Texte,

• die Codex-Modellfamilie mit mehreren Modellen zum Verstehen, Generieren und Übersetzen natürlicher Sprache in Programmcode,

• Embeddings-Modellfamilie mit mehreren Modellen zum Verstehen und Verwenden von Embeddings (spezielles Format der Datendarstellung wie Worteinbettungen) mit den Funktionen: Ähnlichkeit, Textsuche und Codesuche.

In jeder Familie existieren verschiedene Modelle mit unterschiedlicher Funktionalität und Leistung. Für die GPT-3-Familie sind das die Modelle Ada, Babbage, Curie und Davinci. Davinci ist das teuerste Modell mit den meisten Funktionen und der geringsten Geschwindigkeit, Ada das günstigste, schnellste, aber funktional am stärksten limitierte Modell. Die beiden anderen Modelle bewegen sich dazwischen.

Für Entwicklungen empfiehlt Microsoft das leistungsfähigste Modell einzusetzen und später in der Produktion das funktional und leistungsmäßig geeignete, günstigste Modell zu verwenden. Das KI-Modell DALL-E 2 steht für eingeladene Kunden zur Verfügung. Auch der intelligente Chatbot ChatGPT ist mittlerweile als gpt-35-turbo in Azure OpenAI Service verfügbar.

Grundsätzlich unterscheidet Microsoft zwischen Basismodellen und optimierten Modellen. Basismodelle sind nicht für bestimmte Anwendungsfälle optimiert und angepasst. Bei optimierten Modellen wurde ein Basismodell für eine bestimmte Anwendung trainiert, abgestimmt und angepasst.

Zugang und Nutzung von Azure OpenAI Service

Zwar ist der Azure OpenAI Service allgemein verfügbar, der Zugang muss aber bei Microsoft beantragt werden. Microsoft behält sich vor, den Zugang zu beschränken. Dadurch soll eine verantwortungsvolle Verwendung der KI-Services sichergestellt werden. Es werden ausschließliche Anwendungsfälle mit einem geringeren Risiko zugelassen. Kunden verpflichten sich zu Maßnahmen der Risikominimierung.

Alle auf dem Azure OpenAI Service basierende Lösungen werden geprüft, bevor eine produktive Freigabe erfolgt. Kunden müssen klar definierte Anwendungsfälle vorweisen, die die Microsoft-Grundsätze einer verantwortungsvollen Nutzung der Künstlichen Intelligenz einhalten. Darüber hinaus stellt Microsoft durch das Beantragungsverfahren sicher, dass auf der Plattform genügend Kapazität und Performance für die zuverlässige Bereitstellung und Ausführung der Kundendienste vorhanden ist.

Grundsätzlich sind diese Voraussetzungen für die Nutzung von OpenAI-Modellen auf der Azure-Plattform zu erfüllen:

• ein Azure-Abonnement,

• die Erlaubnis des Zugriffs auf den Azure OpenAI Service im Azure-Abonnement,

• eine Azure OpenAI-Ressource (Dienstinstanz) mit bereitgestelltem KI-Modell im Azure-Abonnement.

Sind diese Voraussetzungen erfüllt, lassen sich anschließend API-Aufrufe erstellen und beispielsweise Texte mit den KI-Modellen generieren.

Einige technische Hintergrundinformationen zum Azure OpenAI Service

Der Azure OpenAI Service wird auf Azure, der globalen Cloud-Computing-Plattform von Microsoft, ausgeführt. Sie bietet die üblichen Azure-Leistungsmerkmale wie verwaltete Identitäten, rollenbasierte Authentifizierung, private und virtuelle Netzwerkkonnektivität, Benutzeroberflächen wie das Azure-Portal und weitere. Zur Untersuchung und Feinabstimmung der Modelle lässt sich Azure OpenAI Service Studio einsetzen.

Für die Bereitstellung der notwendigen Rechenleistung für die KI-Modelle nutzt Microsoft cloud-basiertes High-Performance-Computing mit spezieller Hardware. Die KI-Server verwenden Hardware wie die auf der Ampere-Architektur basierenden Nvidia Tensor Core GPUs und sind über InfiniBand-Hochgeschwindigkeitsverbindungen vernetzt. Der Zugriff auf den Service ist über REST-APIs, Python SDK und eine webbasierte Schnittstelle in Azure OpenAI Studio möglich.

Definition: KI-Modell zum Verstehen und Generieren natürlicher Sprache

Was ist ein Large Language Model (LLM)?

Anwendungsmöglichkeiten für Azure OpenAI Service

Der Azure OpenAI Service mit seinen KI-Codierungs-, -Sprach- und -Bildmodellen bietet eine Vielzahl an Anwendungsmöglichkeiten. Die generativen Sprachmodelle ermöglichen ein umfassendes Verständnis von Sprache und Programmcode. Sie unterstützen beim Erstellen von Texten, generieren selbständig Texte, beantworten Fragen, fassen Texte zusammen, übersetzen Texte, generieren Programmcode, beantworten semantische Suchanfragen, agieren als Chatbot und vieles mehr. Die Bild-KI DALL-E 2 kann mit einfachen Textbeschreibungen Bilder, Fotografien, Illustrationen, Gemälde oder dreidimensionale Kunst generieren, bearbeiten und verändern.

Microservices, Cloud Native, REST API , Kubernetes & Co.: Cloud Computing Wiki

Von AWS bis XaaS: Alle relevanten Schlagworte aus dem Bereich Cloud Computing finden Sie verständlich erklärt in unseren Definitionen. Ganz im Sinne eines kleinen, aber feinen Glossars lesen Sie hier neutral verfasste und leicht verständliche Erklärungen zu den wichtigsten Begriffen. Als Service für Sie haben wir die hier erklärten Begriffe in unseren Beiträgen auch direkt mit den zugehörigen Lexikoneinträgen verlinkt. So können Sie die wichtigsten Erläuterungen direkt dort nachschlagen.  

Zum Special: Definitionen rund um Cloud Computing

(ID:49254483)