Mobile-Menu

Toms Wochentipp: LLM noch günstiger, noch besser OpenAI veröffentlicht GPT-4o mini

Von Thomas Joos 2 min Lesedauer

Anbieter zum Thema

Fsas Technologies GmbH

Das neue GPT-4o-mini-Sprachmodell löst seit einiger Zeit GPT 3.5 Turbo ab. Die Vorteile für Entwickler sind der um über 50 Prozent geringere Preis und die bessere Leistung der LLM.

GPT-4o mini markiert einen weiteren Schritt in der Entwicklung kostengünstiger und leistungsfähiger KI-Anwendungen.(Bild: paripat - stock.adobe.com)
GPT-4o mini markiert einen weiteren Schritt in der Entwicklung kostengünstiger und leistungsfähiger KI-Anwendungen.
(Bild: paripat - stock.adobe.com)

Seit einiger Zeit steht das neue Sprachmodell GPT-4o mini als Nachfolger von GPT 3.5 Turbo zur Verfügung. GPT-4o mini ermöglicht die Entwicklung von Anwendungen, die künstliche Intelligenz nutzen, zu deutlich geringeren Kosten im Vergleich zu früheren Modellen. GPT-4o mini erreicht 82 Prozent auf der MMLU-Benchmark und übertrifft damit andere Modelle wie GPT-3.5 Turbo. Die Kosten für die Nutzung des Modells betragen 15 Cent pro Million Eingabetokens und 60 Cent pro Million Ausgabetokens, was es deutlich günstiger macht als seine Vorgänger.

Das Modell unterstützt textbasierte Aufgaben in der API und wird zukünftig auch Eingaben und Ausgaben in Form von Bildern, Videos und Audio verarbeiten können. Es besitzt ein Kontextfenster von 128.000 Tokens und kann bis zu 16.000 Ausgabetokens pro Anfrage verarbeiten. Die Wissensbasis des Modells reicht bis Oktober 2023. Durch einen verbesserten Tokenizer ist das Modell besonders effizient im Umgang mit nicht-englischen Texten.

Besser als bisherige Modelle

GPT-4o mini übertrifft andere Modelle nicht nur in textbasierten Aufgaben, sondern auch in multimodalen Aufgaben, die sowohl Text als auch Bildverarbeitung beinhalten. Es soll starke Leistungen in der mathematischen und programmiertechnischen Verarbeitung zeigen und insbesondere für Anwendungen geeignet sein, die eine längere Kontextverarbeitung erfordern. Zudem bietet es erweiterte Funktionen wie die Fähigkeit zum Aufrufen von Funktionen, was die Integration in externe Systeme erleichtert.

OpenAI bietet mit GPT-4o mini eine deutlich verbesserte und günstigere LLM im Vergleich zu GPT-3.5 Turbo.(Bild: Joos - OpenAI)
OpenAI bietet mit GPT-4o mini eine deutlich verbesserte und günstigere LLM im Vergleich zu GPT-3.5 Turbo.
(Bild: Joos - OpenAI)

Das Modell verfügt über eingebaute Sicherheitsmaßnahmen, die in allen Entwicklungsphasen berücksichtigt wurden. Dazu gehören Filterungen während des Pre-Trainings sowie Techniken wie Reinforcement Learning mit menschlichem Feedback (RLHF) während des Post-Trainings, um die Genauigkeit und Zuverlässigkeit der Antworten zu verbessern. GPT-4o mini steht Entwicklern über verschiedene APIs zur Verfügung und ist ab sofort auch in ChatGPT für Free-, Plus- und Team-Nutzer zugänglich.

Das Modell markiert einen weiteren Schritt in der Entwicklung kostengünstiger und leistungsfähiger KI-Anwendungen, die in Zukunft eine breitere Nutzung von KI-Technologien ermöglichen sollen. OpenAI plant zudem, die Sicherheitsmechanismen kontinuierlich weiterzuentwickeln und das Modell an neue Herausforderungen anzupassen.

(ID:50165579)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Cloud Computing

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte