KI goes embedded Wie Künstliche Intelligenz von der Cloud in jedes Gerät wandert

Anbieter zum Thema

AITAD GmbH

Fsas Technologies GmbH

Hyland Software Germany GmbH

Cloudgermany.de GmbH

Große Sprachmodelle, Künstliche Intelligenz (KI) zur Erstellung und Manipulation von Bilddaten; Bilderkennungssysteme, die Hautkrebs besser diagnostizieren als der erfahrenste Arzt – das alles ist Künstliche Intelligenz, wie jeder sie inzwischen kennt. Alle diese Modelle haben eines gemeinsam: Sie sind rechenintensiv und laufen auf großen Servern in der Cloud.

„Die Cloud ist immer der Rechner eines anderen“ lautet eine viel zitierte Redewendung. Und in der Tat, da ist etwas Wahres dran. Wer will garantieren, geschweige denn beweisen, dass die persönlichen Daten nicht durch den Cloud-Betreiber genutzt werden? Bei vielen großen und bekannten Anbietern stimmt man der Verwendung der Daten für bestimmte Zwecke – zum Beispiel als Trainingsdaten für die nächste Generation der KI – sogar explizit zu. Im Gegenzug erhält der Anwender ein hohes Maß an Bequemlichkeit – oder es wird ihm sogar viel Arbeit abgenommen, wie es zum Beispiel Microsoft mit seinem „Pilot“ verspricht.

Nicht nur der Datenschutz ist ein Problem

Neben der hier angesprochenen Datenschutzproblematik, die meist wie ein als Schaf getarnter Wolf daherkommt, tun sich weitere Felder auf, die den Einsatz von Künstlicher Intelligenz in verschiedenen Bereichen erschweren. KI ist, was den Datenhunger betrifft, gefräßig. Doch häufig können die enormen Datenmengen, die Sensoren zu erfassen fähig sind, gar nicht sinnvoll übertragen werden. Was im Kleinen noch gehen mag – die Verkabelung aller Geräte mit Glasfaser – erweist sich in größeren Produktionsanlagen als nahezu unmöglich.

Für generative KIs, wie die oben genannten, ist dieser Punkt nicht kritisch – ihnen stehen die Trainingsdatenbanken ja jederzeit in Rechenzentren und im Netzwerk zur Verfügung. Diskriminative KIs jedoch, die nicht zur Erschaffung von etwas Neuem, sondern zur Analyse und Vorhersage anhand von Daten eingesetzt werden, sind umso besser, über je mehr Daten sie möglichst in Echtzeit verfügen.

Gleichzeitig ist nicht alles relevant, was ein Sensor so den lieben langen Tag erfasst. Möchte man all das zu einer zentralen Verarbeitungseinheit übertragen, kostet das nicht nur Rechenleistung, sondern auch Zeit und Geld. Allein durch die Übertragung der Daten via Netzwerkstrecke entstehen Latenzzeiten, die bei sicherheitsrelevanten Fragestellungen kritisch zu betrachten sind und im schlimmsten Fall lebensgefährlich werden könnten. Man denke beispielsweise an ein Unfallgeschehen auf der Autobahn, dass sich nur durch eine millisekundenschnelle Reaktion des Fahrzeugs vermeiden lässt. Hier kann nicht gewartet werden, bis Daten zum Server und Handlungsempfehlungen von diesem zurück ins Auto übertragen werden.

Fassen wir das oben Gesagte kurz zusammen, können wir als Nachteile der cloud-basierten KI festhalten, dass sie zumindest potenziell ein Datenschutzrisiko mit sich bringt, bei Livedaten der Übertragungsweg einen Flaschenhals darstellt und durch die Übertragung die Geschwindigkeit leidet, so dass Anwendungen, die Echtzeitfähigkeit erfordern, nicht oder nur sehr eingeschränkt möglich sind. Ergänzen lässt sich noch, dass in vielen Fällen eine permanente Datenverbindung eines Gerätes mit der Cloud schlicht zu teuer ist. So braucht der Hersteller eines Kühlschranks beispielsweise keine Livedaten aus der Kälte, wohl aber ein Signal beim Ausfall von bestimmten Komponenten, beispielsweise um Produktion und Service zu optimieren. Diese Informationen sind kaum zeitkritisch – so dass diese Daten auch zur Verfügung stehen, wenn die Handyapp des Kunden entsprechende Infos auch nur ein paar Mal im Monat überträgt.

Aufbruch zur dezentralen Vorverarbeitung – Edge-KI

Als man sich dieser Nachteile von cloud-basierter KI bewusst wurde, suchte man nach Lösungen; zunächst vor allem, wie man die zu übertragenden Datenmengen reduzieren könnte. Die Idee, die relevanten von den weniger relevanten Daten zu trennen, wurde in der Gesichtserkennung zur Überwachung des öffentlichen Raumes in großem Stil umgesetzt. So werkelt in der Kamera eine Mini-KI, die die Gesichter aus den Aufnahmen ausschneidet und nur noch diese an den Server weiterleitet, auf dem dann die vollständige Erkennung erfolgt. Denn Arme, Beine und andere Körperteile sind hier nicht relevant.

Weil bei dieser Technologie ein kleiner Teil von der Cloud an die „Netzwerkkante“ wanderte, spricht man hier auch von Edge-KI. Edge-KI ist im Allgemeinen nicht sehr leistungsfähig und übernimmt eine Art Vorverarbeitung der Daten mit dem Ziel der Reduzierung der zu übertragenden Datenmenge. Das Problem der Latenzzeit und der Notwendigkeit von Konnektivität vermag Edge-KI ebenfalls nicht zu lösen.

Ressourcenbeschränkt und dennoch leistungsfähig – Embedded-KI

Erst mit der steigenden Leistungsfähigkeit moderner Halbleiter wurde es vor ca. vier bis fünf Jahren möglich, die KI mit dem Sensor (oder auch mehreren Sensoren gleichzeitig) zu fusionieren und so die Intelligenz auch direkt ins Gerät zu bringen: „Embedded-KI“ wurde geboren. Gleichzeitig konnten die vom Edge-Trend unberührten Probleme gelöst werden.

Weil nun die KI dort aktiv ist, wo die Daten erfasst werden, ist die Übertragung unnötig und die resultierenden Konnektivitätskosten entfallen. Gleichzeitig führt der Wegfall einer Übertragungsstrecke dazu, dass die KI nun echtzeitfähig ist. Diese beiden entscheidenden Fähigkeiten ermöglichen die KI in sicherheitsrelevanten Umgebungen auch dann einzusetzen, wenn kein Netzwerk verfügbar oder gewollt ist.

Embedded-KI-Systeme sind ihrerseits ressourcenbeschränkt, insbesondere bzgl. Speicher- und Energiebedarf, können wenige Zentimeter groß und sogar batteriebetrieben sein. Das ist ein deutlicher Vorteil gegenüber rechenintensiven und stromfressenden Cloud-Systemen. Embedded-KI-Systeme sind besonders nachhaltig: sie vermindern nicht nur Elektronikschrott, sondern verlängern die Lebenszeit vieler Geräte und Maschinen, sind vielfältig und datenschutzkonform bzw, privatsphärewahrend und aufgrund der geringen Größe nahezu überall einsetzbar.

Vorausschauende Wartung und Mensch-Maschine Interaktion

Embedded-KI findet ihre zentralen Einsatzbereiche in der vorausschauenden Wartung (Predictive Maintenance), wo sie beispielsweise einen sich anbahnenden Schaden so früh erkennt, dass gewartet werden kann, bevor ein Produktionsausfall aufgrund eines unerwarteten Maschinenstillstands eintritt. Doch auch in der Mensch-Maschine-Interaktion zeigt Embedded-KI ihre Stärken und ermöglicht die Steuerung mittels Sprache oder Gesten. Sie kann auch im Bereich der Personen- und Objekterkennung verwendet werden, wo sie beispielsweise Hindernisse erkennt oder Menschen im Notfall dabei hilft, die Gefahrenzone (z.B. im Brandschutz) zu verlassen.

Einige typische Anwendungsfälle von Embedded-KI:

• Eine Zahnbürste, die Plaque anhand der Vibrationsmuster erkennt, Zahnlücken und Kunstzähne identifiziert. Hier spielt Embedded-KI alle Stärken aus, denn eine permanente Konnektivität wollen weder Hersteller noch Kunden bezahlen.

• An jedem Flughafen unterscheidet sich die Ökokerosinmischung: Embedded-KI erkennt das Verhältnis, reagiert in Echtzeit und passt die Motoren automisch darauf an.

• Eine Dusche erkennt, ob und wer sich darunter befindet und passt die Wasser- der Körpertemperatur an. Sie erkennt auch, ob die duschende Person stürzt und kann Alarm auslösen.

Ökonomischer Datenbedarf

Embedded-KI ist der Nachfolgetrend zu Edge-KI. Mit ihr wird es möglich, KI kostengünstig und nachhaltig in jedes Gerät zu integrieren. Sie ist überall dort einsetzbar, wo Daten ausgewertet werden müssen – und unterscheidet sich dadurch deutlich von generativer KI, die verkürzt gesagt, neue Daten erzeugt. Embedded-KI dagegen reduziert Daten, weil sie nur die Auswertungsergebnisse weitergibt – ob in einfachster Form einer Ampel am Gerät oder komplexer durch Übertragung an eine andere Einheit.

(ID:49841820)