Podcast: KI-Regulierung und ihre Folgen Schicken wir die KI demnächst zur TÜV-Inspektion?

Anbieter zum Thema

TÜV-Verband e.V.

Fsas Technologies GmbH

Hyland Software Germany GmbH

Cloudgermany.de GmbH

Ist künstliche Intelligenz eine Gefahr? Generative KI-Systeme wie ChatGPT, Midjourney und DALL-E gewinnen an Bedeutung. Doch die Bevölkerung fordert strengere KI-Regulierungen. In dieser Folge von CLOUD ON AIR erklärt TÜV-Experte Dr. Patrick Gilroy, warum KI-Gesetze notwendig sind und welche Risiken bestehen.

Generative KI-Systeme wie ChatGPT, Midjourney, DALL-E oder DeepL werden zur Erstellung von Texten, Bildern, Videos und anderen Inhalten eingesetzt. Künstliche Intelligenz findet sich zunehmend auch in kritischen Bereichen wie automatisierten Fahrzeugen, medizinischen Diagnosen und Robotik eingesetzt. Und KI-Anwendungen dienen als automatisierte Entscheidungssysteme, beispielsweise bei der Personalauswahl oder der Kreditwürdigkeitsprüfung.

Laut einer repräsentativen Forsa-Umfrage im Auftrag des TÜV-Verbands unter 1.021 Personen ab 16 Jahren haben bereits 83 Prozent der Bundesbürger von ChatGPT gehört, während 23 Prozent es bereits für berufliche oder private Zwecke genutzt haben. Besonders die jüngere Generation zeigt sich fortschrittlich, da 43 Prozent der 16- bis 35-Jährigen ChatGPT bereits verwendet haben, im Vergleich zu 20 Prozent der 36- bis 55-Jährigen und nur 7 Prozent der 56- bis 75-Jährigen. Männer nutzen die KI-Anwendung mit 27 Prozent etwas häufiger als Frauen mit 19 Prozent.

Chancen und Risiken der KI

Die Meinungen zu den Chancen und Risiken der Technologie sind geteilt. Für die Hälfte der Befragten überwiegen die Chancen die Risiken, während 39 Prozent anderer Ansicht sind und 12 Prozent unentschlossen sind. Die Auswirkungen von künstlicher Intelligenz auf den Arbeitsmarkt werden als weitreichend angesehen: 87 Prozent der Befragten gehen davon aus, dass KI die Arbeitswelt grundlegend verändern wird. Fast die Hälfte glaubt, dass viele Menschen ihren Job aufgrund des KI-Einsatzes verlieren werden. Dennoch machen sich derzeit nur 15 Prozent Sorgen, dass KI-Systeme ihre eigene berufliche Tätigkeit ersetzen werden. Viele sehen sogar Vorteile darin, dass KI das Potenzial hat, sie in ihrem Beruf zu unterstützen.

80 Prozent der Befragten stimmen aber der Aussage zu, dass derzeit nicht abschätzbare Risiken beim Einsatz von KI bestehen. Etwa zwei Drittel befürchten, dass die Technologie für Menschen unbeherrschbar wird oder dass sie ohne ihr Wissen manipuliert werden könnten. Darüber hinaus haben 76 Prozent Bedenken hinsichtlich des ausreichenden Schutzes persönlicher Daten durch KI.

Die Bevölkerung fordert daher klare gesetzliche Vorgaben für den sicheren Einsatz von Künstlicher Intelligenz. Sie fordert einen rechtlichen Rahmen für KI, der sich an europäischen Werten orientiert. Die Mehrheit befürwortet Vorgaben wie eine Kennzeichnungspflicht für mit KI erzeugte Inhalte, eine Kennzeichnung von KI in Produkten oder Anwendungen und eine verpflichtende Prüfung der Qualität und Sicherheit von KI-Systemen durch unabhängige Organisationen.

Forderung nach KI-Regulierung

Der TÜV-Verband sieht in den Umfrageergebnissen einen klaren Handlungsauftrag für die Politik bei der Gesetzgebung. Der Entwurf sieht vor, KI-Anwendungen in verschiedene Risikoklassen einzuteilen und entsprechende Regelungen festzulegen, um die Sicherheit und Qualität zu gewährleisten. Hochrisiko-KI-Systeme sollten vor ihrer Markteinführung von unabhängigen Stellen überprüft werden, um sicherzustellen, dass sie den Sicherheitsanforderungen entsprechen.

(ID:49570230)