< Manipulationstechniken im Internet erkennen

Ein Meilenstein bei der Regulierung künstlicher Intelligenz

Glaubt man Experten, wird Künstliche Intelligenz (KI) unser Leben mindestens ebenso dramatisch verändern wie einst das Internet oder das Smartphone. Die Anwendungsgebiete sind schier unbegrenzt: Sie reichen von Empfehlungssystemen im Internethandel über Bildgeneratoren und Chatbots bis hin zu IT-Systemen, die bei der Strafverfolgung oder in der Medizin eingesetzt werden können. Um mögliche Risiken bei der Anwendung von KI zu minimieren, hat die Europäische Kommission nun den weltweit ersten Gesetzesvorschlag vorgelegt, den sogenannten Artificial Intelligence Act (AI-Act). Er soll die neue Technologie regulieren. Doch nicht alle sind mit dieser EU-Verordnung zufrieden.

Der europäische AI-Act


Der AI Act ist ein Kernstück der EU-Digitalstrategie

© RafMaster / stock.adobe.com

 

Glaubt man Experten, wird Künstliche Intelligenz (KI) unser Leben mindestens ebenso dramatisch verändern wie einst das Internet oder das Smartphone. Die Anwendungsgebiete sind schier unbegrenzt: Sie reichen von Empfehlungssystemen im Internethandel über Bildgeneratoren und Chatbots bis hin zu IT-Systemen, die bei der Strafverfolgung oder in der Medizin eingesetzt werden können. Um mögliche Risiken bei der Anwendung von KI zu minimieren, hat die Europäische Kommission nun den weltweit ersten Gesetzesvorschlag vorgelegt, den sogenannten Artificial Intelligence Act (AI-Act). Er soll die neue Technologie regulieren. Doch nicht alle sind mit dieser EU-Verordnung zufrieden.

Erster umfassender Rechtsrahmen

Anfang Dezember 2023 war es soweit: Nach mehrjährigen Verhandlungen hatten sich die europäischen Gesetzgeber, das Europäische Parlament und der Rat der EU auf ein Gesetz zur die Künstlichen Intelligenz politisch geeinigt. Ursula von der Leyen, Präsidentin der Europäischen Kommission, kommentierte das Ergebnis zufrieden: „Das EU-Gesetz über die Künstliche Intelligenz ist der erste umfassende Rechtsrahmen für Künstliche Intelligenz weltweit. Dies ist also ein historischer Moment. Mit dem KI-Gesetz werden die europäischen Werte in eine neue Ära überführt.“ Kernpunkt der neuen Verordnung ist ein risikobasierter Ansatz. Das bedeutet, dass Anwendungen, die KI-Technologien verwenden, in vier verschiedene Risikokategorien unterteilt werden.

Der risikobasierte Ansatz

  • Minimales Risiko
    Die meisten KI-Systeme werden voraussichtlich in diese Gruppe mit dem minimalen Risiko gehören. Dazu gehören KI-gestützte Empfehlungssysteme etwa im Online-Handel, KI-gestützte Videospiele oder Spam-Filter. Für sie sieht die Verordnung einen Freipass und kaum Verpflichtungen vor.
  • Hohes Risiko
    Zu den KI-Systeme mit hohem Risiko gehören unter anderem autonome Fahrzeuge oder medizinische Geräte, die eine erhebliche Bedrohung für die Gesundheit, Sicherheit oder die Grundrechte des Einzelnen darstellen können. Bei ihnen müssen deshalb strenge Anforderungen erfüllt sein; darunter Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von KI-Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit.
  • Kritische Infrastrukturen
    Besonders risikoreich ist der Einsatz von KI-Systemen bei bestimmten kritischen Infrastrukturen etwa bei der Wasser-, Gas- und Stromversorgung. Dazu gehören aber auch medizinische Geräte, Systeme zur Bestimmung des Zugangs zu Bildungseinrichtungen – etwa bei der Verteilung von Studienplätzen – oder zur Rekrutierung von Personen sowie Systeme, die in den Bereichen Strafverfolgung, Grenzkontrolle, Rechtspflege und demokratische Prozesse eingesetzt werden. Darüber hinaus gelten biometrische Identifizierungs-, Kategorisierungs- und Emotionserkennungssysteme ebenfalls als hochriskant.
  • Unannehmbares Risiko
    In diese Kategorie fallen KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte der Menschen darstellen. Sie werden deshalb vollständig verboten. Beispiele dafür sind etwa KI-Systeme oder -Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen des Nutzers zu umgehen, wie etwa Spielzeug mit Sprachassistenz, das ein gefährliches Verhalten von Minderjährigen fördern könnte, oder Systeme, die ein „Social Scoring“ durch Regierungen oder Unternehmen ermöglichen, sowie bestimmte Anwendungen der vorausschauenden Polizeiarbeit.

In der Medizin sind die Erwartungen an die KI-Technologien groß

© Eugene / stock.adobe.com

Transparenz für die Nutzer

Für die Nutzer soll jederzeit erkennbar sein, wenn sie mit einer Maschine interagieren. Deep Fakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden. Außerdem müssen die Nutzer informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass von der KI erzeugte Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können. Halten sich Unternehmen nicht an die Vorschriften, müssen mit hohen Geldstrafen rechnen. Endgültig beschlossen ist das neue KI-Gesetz jedoch noch nicht, denn es muss nun noch vom Europäischen Parlament und vom Rat formell genehmigt werden.

Wettbewerbshemmnis für europäische Unternehmen

Doch das neue Gesetz bekommt nicht nur Zustimmung. So bemängeln Kritiker beispielsweise die unklaren Definitionen. Die Auslegung von Begriffen wie „hochriskante KI-Anwendungen“ könnte zu Interpretationsproblemen führen und die Umsetzung erschweren. Außerdem werden die Regeln als zu starr und restriktiv empfunden. Die strengen Vorschriften des AI-Acts könnten die Innovationskraft vor allem der europäischen Unternehmen behindern. Umfangreiche Prüfungen und Zertifizierungen könnten zu Verzögerungen bei Markteinführungen führen. Darunter würde die Wettbewerbsfähigkeit der europäischen Unternehmen leiden. So befürchten einige Experten, dass die EU durch die strikten Regulierungen im globalen Wettbewerb um KI-Forschung und -Entwicklung ins Hintertreffen geraten könnte. Andere Regionen, die lockerere Vorschriften haben, könnten schneller Fortschritte erzielen. Lukas Klingholz, Leiter Cloud & Künstliche Intelligenz beim Digitalverband Bitkom, sorgt sich beispielsweise darum, dass bereits bei der zugrundeliegenden Technologie der Basismodelle zu stark reglementiert wird: „Grundsätzlich unterstützen wir den risikobasierten Ansatz des KI-Gesetzes. Sie machen für die marktreifen KI-Anwendungen auch Sinn, vor allem wenn sie in sensiblen Bereichen eingesetzt werden, wie etwa in ausgewählten kritischen Einsatzfeldern im Justizwesen.“ Doch bei den komplexen Entwicklungsschritten hin zu einer fertigen Anwendung sollten Anforderungen und Regulierungen möglichst gering sein, da sie sonst die Innovationsdynamik ausbremsen würden. Als Beispiel nennt Klingholz sogenannte „General Purpose AI Systems“, zu deutsch: Allzweck-KI-Systeme. Darunter versteht man KI-Systeme, die allgemein anwendbare Funktionen wie Bild-/Spracherkennung, Audio-/Videoerzeugung, Mustererkennungen, Beantwortung von Fragen, Übersetzung usw. ausführen. Hier gibt es eine hohe Dynamik bei der Entwicklung und das sollte nicht durch bürokratische Reglementierungen eingeschränkt werden. „Erst wenn es um eine konkrete zweckgebundene Anwendung geht, beispielsweise die Erstellung eines KI-basierten Systems in Gerichtsverhandlungen, sollte die Gesetzgebung greifen“, erklärt Klingholz. Dann sollten beispielsweise risikominimierende Anforderungen definiert werden. So sollte man erkennen können, aufgrund welcher Quellen das System seine Empfehlungen erstellt. Insgesamt markiert der AI-Act aber einen bedeutenden Schritt in der Regulierung von KI in der EU. Er hat das Potenzial, die Rechte der Bürger zu schützen und für mehr Transparenz zu sorgen. Die Debatte über den richtigen Weg der KI-Regulierung wird sicherlich weiterhin intensiv geführt werden, sowohl innerhalb der EU als auch auf internationaler Ebene.

TE (26.01.2024)

Kurztipps

5 Tipps für...
...den Schutz vor Erpressersoftware (Ransomware)

Darauf sollten Sie achten, um Angriffen auf Ihren Computer mit...

5 Tipps für...
...den Schutz vor Hacker-Angriffen

Darauf sollten Sie achten, wenn Sie Ihren Rechner und Ihre...

5 Tipps für...
...die Immobiliensuche im Internet

Das sollten Sie beachten, um bei der Wohnungssuche im Internet...

5 Tipps für...
...die sichere Cloud-Nutzung

Das sollten Sie beachten, um Ihre Daten sicher in Cloud-Diensten zu...

5 Tipps für...
...sicheres Homeschooling/digitales Lernen

Darauf sollten sie achten, wenn der Unterricht Ihrer Kinder zuhause...

5 Tipps für...
...ein sicheres Internet für Kinder

Darauf sollten Sie achten, wenn Sie Ihre Kinder oder Schüler vor...

5 Tipps für...
...das sichere Surfen im Urlaub

Darauf sollten Sie achten, wenn Sie im Urlaub mobile Geräte nutzen.

5 Tipps für...
...einen erfolgreichen Widerruf

Darauf sollten Sie achten, wenn Sie einen abgeschlossenen...

5 Tipps für...
...sicheres Bezahlen im Internet (Online Banking)

Darauf sollten Sie achten, wenn Sie online bezahlen möchten.

5 Tipps für...
...sicheres Arbeiten im Home Office

Darauf sollten Sie achten, wenn Sie von zuhause arbeiten.

5 Tipps für...
...den Umgang mit Spam-Mails

Darauf sollten Sie achten, wenn Sie von Spam-Mails in Ihrem...

5 Tipps für...
...sicheres Online-Dating

Darauf sollten Sie bei der Partnersuche im Netz achten.

5 Tipps für...
...den Umgang mit Sozialen Medien

Diese Tipps helfen Ihnen, Social-Media-Kanäle sicher zu nutzen.

5 Tipps für...
...den sicheren Geschenkekauf

So verhindern Sie, dass der Einkauf nicht mit Frust endet.

5 Tipps für...
...ein sicheres Passwort

Darauf sollten Sie bei der Passworterstellung achten.

5 Tipps für...
...den Medikamentenkauf im Netz

Darauf sollten Sie achten, wenn Sie Arzneimittel online bestellen.

5 Tipps für...
...die App-Nutzung

Das sollten Sie beachten, wenn Sie Apps herunterladen und nutzen.

5 Tipps für...
...einen sicheren Computer

So schützen Sie Ihren PC vor Viren, Trojaner und „Phishing“

5 Tipps für...
...ein sicheres Smartphone

So schützen Sie Ihr Smartphone und Ihre Daten vor Hackern und Betrug.

5 Tipps für...
...sicheres Online-Shopping

Worauf Sie beim Einkauf im Internet achten sollten

Weitere Infos zum Thema Internet und Mobil

Der IT-Experte Mario Jandeck im Interview

Vor der Corona-Pandemie war Homeoffice meist das Privileg von...[mehr erfahren]

So bleiben Ihre Daten und Firmengeheimnisse sicher

Ob Einzelhändler, Gastgewerbe oder Handwerksbetrieb: Der digitale...[mehr erfahren]

Wie Hacker Informationen einsammeln und missbrauchen

Es gehört mittlerweile schon zur Normalität des Internets, dass immer...[mehr erfahren]

Kriminelle Verführer im Netz

Melina war 14, als sie sich veränderte. Sie schwänzte immer öfter die...[mehr erfahren]

Gefährliches Trinkspiel im Internet

Neknominate oder Socialbeergame nennt sich ein Trinkspiel, das...[mehr erfahren]