Ein Meilenstein bei der Regulierung künstlicher Intelligenz

Der europäische AI-Act

Der AI Act ist ein Kernstück der EU-Digitalstrategie

© RafMaster / stock.adobe.com

Glaubt man Experten, wird Künstliche Intelligenz (KI) unser Leben mindestens ebenso dramatisch verändern wie einst das Internet oder das Smartphone. Die Anwendungsgebiete sind schier unbegrenzt: Sie reichen von Empfehlungssystemen im Internethandel über Bildgeneratoren und Chatbots bis hin zu IT-Systemen, die bei der Strafverfolgung oder in der Medizin eingesetzt werden können. Um mögliche Risiken bei der Anwendung von KI zu minimieren, hat die Europäische Kommission nun den weltweit ersten Gesetzesvorschlag vorgelegt, den sogenannten Artificial Intelligence Act (AI-Act). Er soll die neue Technologie regulieren. Doch nicht alle sind mit dieser EU-Verordnung zufrieden.

Erster umfassender Rechtsrahmen

Anfang Dezember 2023 war es soweit: Nach mehrjährigen Verhandlungen hatten sich die europäischen Gesetzgeber, das Europäische Parlament und der Rat der EU auf ein Gesetz zur die Künstlichen Intelligenz politisch geeinigt. Ursula von der Leyen, Präsidentin der Europäischen Kommission, kommentierte das Ergebnis zufrieden: „Das EU-Gesetz über die Künstliche Intelligenz ist der erste umfassende Rechtsrahmen für Künstliche Intelligenz weltweit. Dies ist also ein historischer Moment. Mit dem KI-Gesetz werden die europäischen Werte in eine neue Ära überführt.“ Kernpunkt der neuen Verordnung ist ein risikobasierter Ansatz. Das bedeutet, dass Anwendungen, die KI-Technologien verwenden, in vier verschiedene Risikokategorien unterteilt werden.

Der risikobasierte Ansatz

Minimales Risiko
Die meisten KI-Systeme werden voraussichtlich in diese Gruppe mit dem minimalen Risiko gehören. Dazu gehören KI-gestützte Empfehlungssysteme etwa im Online-Handel, KI-gestützte Videospiele oder Spam-Filter. Für sie sieht die Verordnung einen Freipass und kaum Verpflichtungen vor.
Hohes Risiko
Zu den KI-Systeme mit hohem Risiko gehören unter anderem autonome Fahrzeuge oder medizinische Geräte, die eine erhebliche Bedrohung für die Gesundheit, Sicherheit oder die Grundrechte des Einzelnen darstellen können. Bei ihnen müssen deshalb strenge Anforderungen erfüllt sein; darunter Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von KI-Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit.
Kritische Infrastrukturen
Besonders risikoreich ist der Einsatz von KI-Systemen bei bestimmten kritischen Infrastrukturen etwa bei der Wasser-, Gas- und Stromversorgung. Dazu gehören aber auch medizinische Geräte, Systeme zur Bestimmung des Zugangs zu Bildungseinrichtungen – etwa bei der Verteilung von Studienplätzen – oder zur Rekrutierung von Personen sowie Systeme, die in den Bereichen Strafverfolgung, Grenzkontrolle, Rechtspflege und demokratische Prozesse eingesetzt werden. Darüber hinaus gelten biometrische Identifizierungs-, Kategorisierungs- und Emotionserkennungssysteme ebenfalls als hochriskant.
Unannehmbares Risiko
In diese Kategorie fallen KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte der Menschen darstellen. Sie werden deshalb vollständig verboten. Beispiele dafür sind etwa KI-Systeme oder -Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen des Nutzers zu umgehen, wie etwa Spielzeug mit Sprachassistenz, das ein gefährliches Verhalten von Minderjährigen fördern könnte, oder Systeme, die ein „Social Scoring“ durch Regierungen oder Unternehmen ermöglichen, sowie bestimmte Anwendungen der vorausschauenden Polizeiarbeit.

In der Medizin sind die Erwartungen an die KI-Technologien groß

Transparenz für die Nutzer

Für die Nutzer soll jederzeit erkennbar sein, wenn sie mit einer Maschine interagieren. Deep Fakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden. Außerdem müssen die Nutzer informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass von der KI erzeugte Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können. Halten sich Unternehmen nicht an die Vorschriften, müssen mit hohen Geldstrafen rechnen. Endgültig beschlossen ist das neue KI-Gesetz jedoch noch nicht, denn es muss nun noch vom Europäischen Parlament und vom Rat formell genehmigt werden.

Wettbewerbshemmnis für europäische Unternehmen

Doch das neue Gesetz bekommt nicht nur Zustimmung. So bemängeln Kritiker beispielsweise die unklaren Definitionen. Die Auslegung von Begriffen wie „hochriskante KI-Anwendungen“ könnte zu Interpretationsproblemen führen und die Umsetzung erschweren. Außerdem werden die Regeln als zu starr und restriktiv empfunden. Die strengen Vorschriften des AI-Acts könnten die Innovationskraft vor allem der europäischen Unternehmen behindern. Umfangreiche Prüfungen und Zertifizierungen könnten zu Verzögerungen bei Markteinführungen führen. Darunter würde die Wettbewerbsfähigkeit der europäischen Unternehmen leiden. So befürchten einige Experten, dass die EU durch die strikten Regulierungen im globalen Wettbewerb um KI-Forschung und -Entwicklung ins Hintertreffen geraten könnte. Andere Regionen, die lockerere Vorschriften haben, könnten schneller Fortschritte erzielen. Lukas Klingholz, Leiter Cloud & Künstliche Intelligenz beim Digitalverband Bitkom, sorgt sich beispielsweise darum, dass bereits bei der zugrundeliegenden Technologie der Basismodelle zu stark reglementiert wird: „Grundsätzlich unterstützen wir den risikobasierten Ansatz des KI-Gesetzes. Sie machen für die marktreifen KI-Anwendungen auch Sinn, vor allem wenn sie in sensiblen Bereichen eingesetzt werden, wie etwa in ausgewählten kritischen Einsatzfeldern im Justizwesen.“ Doch bei den komplexen Entwicklungsschritten hin zu einer fertigen Anwendung sollten Anforderungen und Regulierungen möglichst gering sein, da sie sonst die Innovationsdynamik ausbremsen würden. Als Beispiel nennt Klingholz sogenannte „General Purpose AI Systems“, zu deutsch: Allzweck-KI-Systeme. Darunter versteht man KI-Systeme, die allgemein anwendbare Funktionen wie Bild-/Spracherkennung, Audio-/Videoerzeugung, Mustererkennungen, Beantwortung von Fragen, Übersetzung usw. ausführen. Hier gibt es eine hohe Dynamik bei der Entwicklung und das sollte nicht durch bürokratische Reglementierungen eingeschränkt werden. „Erst wenn es um eine konkrete zweckgebundene Anwendung geht, beispielsweise die Erstellung eines KI-basierten Systems in Gerichtsverhandlungen, sollte die Gesetzgebung greifen“, erklärt Klingholz. Dann sollten beispielsweise risikominimierende Anforderungen definiert werden. So sollte man erkennen können, aufgrund welcher Quellen das System seine Empfehlungen erstellt. Insgesamt markiert der AI-Act aber einen bedeutenden Schritt in der Regulierung von KI in der EU. Er hat das Potenzial, die Rechte der Bürger zu schützen und für mehr Transparenz zu sorgen. Die Debatte über den richtigen Weg der KI-Regulierung wird sicherlich weiterhin intensiv geführt werden, sowohl innerhalb der EU als auch auf internationaler Ebene.

TE (26.01.2024)