Interview mit Daniel Fallmann von Mindbreeze KI ist gekommen, um zu bleiben

Anbieter zum Thema

Mindbreeze GmbH

EASY SOFTWARE AG

netfiles GmbH

CloudComputing-Insider lotete im Interview mit Daniel Fallmann, Gründer und CEO von Mindbreeze, die Chancen, Möglichkeiten und Gefahren der künstlichen Intelligenz aus. Nicht zuletzt die rechtlichen Aspekte der Nutzung in Unternehmen blieben bislang völlig unterbelichtet.

Daniel Fallmann hat 2005 in Linz Mindbreeze gegründet, heute liegt das offizielle Hauptquartier in Chicago. Fallman bezeichnet Enterprise Search und Machine Learning in einem Big-Data-Umfeld als sein Steckenpferd – entsprechend offeriert Mindbreeze Appliances und Cloud-Services für Enterprise Search, angewandte künstliche Intelligenz und Wissensmanagement.

CloudComputing-Insider: Herr Fallmann, Sie sind ausgewiesener Experte für die generative KI – diese kommt auch in Firmen immer öfter zum Einsatz. Wem gehören heutzutage eigentlich die bei der Nutzung von Chat-GPT und vergleichbaren Tools generierten Antworten?

Daniel Fallmann: Generative KI und vor allem Large Language Models (LLM) wie Chat GPT sind gerade das Trendthema. Logischerweise erkennen Unternehmen nun auch, dass sie die Fähigkeiten dieser Technologien zu ihrem Vorteil nutzen können. Nichtsdestotrotz ist die Rechtslage – gerade, wenn es um den Unternehmenseinsatz geht – enorm kompliziert. Wir befinden uns hier in einem Graubereich, daher ist unternehmensseitig eine gewisse Vorsicht geboten. Greift das eingesetzte KI-Tool bei der Generierung von Texten beispielsweise auf bereits vorhandene Texte zurück und Mitarbeiter übernehmen diese Vorschläge ganz einfach, kann die Nutzung ganz schnell zu unbeabsichtigten Plagiaten führen. Nicht zu unterschätzen sind dabei mögliche Urheberrechtsverletzungen, vor allem wenn die Antworten der KI-Modelle auf geschützten Werken basieren. Erste Anbieter wie Microsoft sagen auch bereits zu, die Verantwortung für mögliche rechtliche Konsequenzen ihrer Kunden zu übernehmen, sollten sie „aus urheberrechtlichen Gründen herausgefordert“ werden. Das aber in einem sehr engen Rahmen. In jedem Fall sind aber die Anwender dafür verantwortlich, wie sie diese Werkzeuge nutzen und müssen selbst abschätzen, welche rechtlichen Anforderungen oder Beschränkungen in ihrem jeweiligen Anwendungsfall gelten. Oft geht es weniger um Urheberrecht als beispielsweise schlicht um falsche Informationen, vor allem wenn generierte Inhalte nicht mehr ordentlich validiert werden. Das Stichwort lautet hier Halluzination.

KI kann also durchaus falsche Antworten liefern. Bleiben wir aber noch beim Urheberrecht: Was geschieht mit den Daten, die bei einer Frage an derartige Tools eingegeben werden?

Fallmann: Das hängt von der Datenschutzerklärung der jeweiligen Tools beziehungsweise der Betreiberfirmen ab. Es gibt viele Anbieter, die die eingegebenen Daten speichern und, zumindest indirekt, auch an Dritte weitegeben, um ihren Service zu verbessern. Zudem gibt es Unternehmen, die diese Daten wieder zum Trainieren ihrer KI-Modelle verwenden. Gerade bei sensiblen Themen ist es für Unternehmen wichtig zu wissen, ob und wie die Anfragen und Prompts von Mitarbeitern gespeichert und ausgewertet werden und vor allem von wem.

Es bleibt also schwierig. Können Unternehmen Tools wie ChatGPT überhaupt vollständig rechtssicher nutzen?

Fallmann: Der Gesetzgeber kommt mit der Geschwindigkeit der Entwicklung neuartiger KI-Werkzeuge aktuell aus meiner Sicht nicht nach. Wir empfehlen die Nutzung eines Large Language Models nur nach vorheriger Evaluierung – entsprechend der eigenen Konzernrichtlinien und in Kombination mit einer Insight Engine. Bei einer Insight Engine handelt es sich um eine intelligente Wissensmanagementlösung, die mittels sogenannter Konnektoren Daten aus unterschiedlichen Quellen anbindet und diese sicher im Rahmen der Rechte verknüpft und auswertet. Dabei spielt es keine Rolle, wo sich diese Daten befinden. Ob in Fachanwendungen, Datenbanken, auf Servern oder in der Cloud, sämtliche Daten lassen sich berücksichtigen. Ganz wichtig, das Unternehmen entscheidet dabei selbst, welche Daten es anbindet und welche nicht. Auf diese Weise können sie eine stets aktuelle und validierte Single Source of Truth aufbauen, die sie zudem jederzeit selbst anpassen können. Diese Fakten beziehungsweise Business Insights stellen wiederum die Grundlage für die Generierung von Prompts dar, die dann für die Nutzung eines LLMs verwendet werden. Dies sorgt für viel weniger und deutlich gezieltere Anfragen an das LLM und in der Konsequenz für qualitativ hochwertige Ausgaben. Mitarbeitern ist es so möglich, Fragen in einem Chat zu stellen und darauf Antworten in einer natürlichen Sprache zu erhalten, die kaum von menschlichen Antworten zu unterscheiden sind. Kurz gesagt, ein LLM fasst die Fakten in natürlicher Sprache, also in einen geschriebenen Text, zusammen, die eine Insight Engine auf Basis validierter angebundener Quellen liefert.

Wenn wir Sie richtig verstehen, plädieren Sie also für den Einsatz von Insight Engines statt von ML/DL. Richtig?

Fallmann: Das Gegenteil ist der Fall. Der Einsatz von Insight Engines ist genau wegen Machine und Deep Learning für sämtliche Unternehmen sinnvoll – hier gibt es kein Entweder-oder. So bilden maschinelles Lernen und neuronale Netze die Grundpfeiler einer Insight Engine und sind wesentlich für ihren effizienten Einsatz. Ohne die Fähigkeiten dieser beiden Technologien wäre eine Insight Engine beispielsweise gar nicht in der Lage Informationen aus den verschiedenen Datenquellen zu verdichten, zum richtigen Zeitpunkt bereitzustellen und sich kontinuierlich zu optimieren.

Was sind dann genau die Vorteile von Insight Engines im Vergleich zur generativen KI?

Fallmann: Im Grunde kann man Insight Engines und generative KI nicht miteinander vergleichen. Vielmehr ist es so, dass Insight Engines die Basis bilden um öffentlich-zugängliche generative KI-Anwendungen wie ChatGPT effizient im Unternehmenskontext zu nutzen. Denn mit der Kombination einer Insight Engine mit einer generativen KI-Anwendung, haben Unternehmen einen wesentlichen Vorteil gegenüber jenen die nur auf ein rein öffentlich zugängliches generatives KI-Modell setzen. So erhalten Unternehmen relevante und spezifische Antworten auch auf geschäftskritische Fragen, da diese Antworten nicht aus frei verfügbaren Informationen generiert werden, sondern aus internen Unternehmensdaten. Des Weiteren vermeiden sie Datenhalluzination durch bekannte und transparente Datenquellen, sowie konkrete Quellenangaben bei den ausgegebenen Antworten und Plagiate sowie Urheberrechtsverletzungen werden vermieden. Zudem sind die generierten Antworten geistiges Eigentum des Unternehmens. Und ein letzter Punkt: Insight Engines erleichtern Anwendern die Zusammenarbeit in Teams und stellen diesen eine zentrale Plattform für den Austausch von Erkenntnissen, etwa von Forschungsergebnissen, bereit. Mitarbeiter haben so einen leichteren Zugang zu Informationen aus strukturieren und unstrukturierten Datenquellen. Vor allem für Teams im Bereich Forschung und Entwicklung ist die Nutzung einer solchen Lösung eine große Chance, um Projekte schneller abzuwickeln und Innovationen voranzutreiben.

Warum menschliches Feedback unverzichtbar ist

KI auf dem Prüfstand

Danke für die Erläuterungen. Die KI im Unternehmen ist aber trotz aller rechtlicher Bedenken nicht zu stoppen, oder?

Fallmann: Kurzum: KI ist gekommen, um zu bleiben. Richtig eingesetzt, ermöglicht es die KI, Unternehmen in vielfältiger Weise besser aufzustellen, sowohl im Bereich von kritischen Geschäftsprozessen als auch im direkten Wettbewerb. Wichtig ist aber, dass sich die anwendenden Unternehmen über rechtliche Rahmenbedingungen laufend informieren und diese auch in ihre Strategie einarbeiten. Ein Beispiel ist der kommende AI Act der Europäischen Union. Damit möchte die EU eine rechtliche Grundlage für die Entwicklung und den Einsatz von KI schaffen, um mögliche Schäden durch KI abzuwenden oder zumindest zu minimieren.

Weitreichende Regulierung von Datenzugang und Datenaustausch

Der EU Data Act – eine erste Bewertung

Und eine abschließende Frage an den Experten: Mit was wird uns die KI im kommenden Jahr überraschen? Was dürfen sich Unternehmen künftig von KI bzw. Insight Engines erhoffen?

Fallmann: Insight Engines kombiniert mit generativer KI werden zukünftig Geschäftsprozesse weitgehend optimieren und automatisieren sowie Anwender bei der Entscheidungsfindung unterstützen. Denn Personen haben durch diese Kombination genau die richtigen Informationen zum richtigen Zeitpunkt zur Hand. Betreffen wird das im ersten Schritt vor allem Bereiche wie Supply Chain Management, Customer-Relationship-Management, Finanzprognosen und Talentmanagement. KI-gesteuerte Bots und robotische Prozessautomatisierung (RPA) übernehmen dabei automatisiert Routineaufgaben auf der Grundlage von Erkenntnissen und Anweisungen. Unternehmen dürfen sich auf zahlreiche Vorteile freuen: höhere betriebliche Flexibilität, weniger menschliche Fehler und effektivere Nutzung von Datenbeständen. Durch die Integration von Technologien wie LLMs können KI-Systeme Benutzeranfragen kontextbezogener verstehen und dadurch präzisere und relevantere Informationen liefern und zum Beispiel den Kundensupport erheblich verbessern. Zusammengefasst: Die Unternehmen, die in Zukunft auf Insight Engines beziehungsweise generative KI setzen, werden deutlich wettbewerbsfähiger sein. Gleichzeitig erkenne ich den Trend, dass sich generative KI-Tools auf sehr spezielle Use Cases fokussieren. In der Vergangenheit waren große Software-Suiten mit sehr vielen verschiedenen Funktionen üblich. Das wird sich eher hin zu sehr spezifischen Tools für unterschiedliche Anwendungsfälle bewegen. Wie bereits erwähnt sollten Unternehmen aber dabei den EU AI Act im Auge behalten. Die EU plant KI-Systeme in verschiedene Risikogruppen zu teilen, für die jeweils unterschiedliche Regelungen gelten. Tritt der AI Act in Kraft, haben Unternehmen 24 Monate Zeit, diesen umzusetzen beziehungsweise ihn in ihren Tätigkeiten zu berücksichtigen.

Herr Fallmann, wir bedanken uns für das aufschlussreiche Gespräch!

Kommentar

Data Act und EU-Datenstrategie – Chance und Grenze zugleich

(ID:49768389)