Sei es bei der Kreditwürdigkeitsprüfung, der Online-Bewerbung, der Empfehlung von Streaming-Inhalten oder der Auswahl von Inhalten in sozialen Medien: Künstliche Intelligenz ist längst im Alltag von Verbraucherinnen und Verbraucher angekommen. So vielfältig wie die Einsatzmöglichkeiten sind jedoch auch die Risiken. Ziel muss es deshalb sein, dass KI-Systeme in Zukunft vertrauenswürdig gestaltet werden. Ein erster Schritt wurde im Juni 2024 mit dem Europäischen Gesetz über künstliche Intelligenz gemacht.
In diesem Text erfahren Sie:
- wie KI-Systeme unseren Alltag prägen
- was passieren kann, wenn KI-Tools sich irren
- welche Regelungen der europäische AI-Act festlegt
- welche Institutionen in Deutschland mehr Vertrauen in Künstliche Intelligenz schaffen wollen
- welche Schritte das Bundesamt für Sicherheit in der Informationstechnik (BSI) KI-Nutzerinnen und Nutzern empfiehlt
Chancen und Risiken im Alltag
Algorithmische Entscheidungen, die von KI-Anwendungen generiert werden, wirken sich zunehmend auf unseren Alltag und auf unser Leben aus. Zum Beispiel ist Künstliche Intelligenz im Spiel, wenn wir unser Smartphone mündlich bitten, einen Wecker zu stellen oder den Bildschirm mithilfe der Gesichtserkennung entsperren. Einige KI-Anwendungen können Texte verfassen, die sich kaum von solchen unterscheiden, die ein Mensch geschrieben hat. Andere Anwendungen benennen eine abfotografierte Pflanze oder erkennen im Vorbeifahren Verkehrsschilder. Weitere Beispiele sind
- Smart-Home-Geräte und smarte Haushaltsgeräte, z. B. Waschmaschinen, die das Waschmittel selbstständig dosieren
- Smartphone-Anwendungen, die für jede öfter fotografierte Person ein eigenes Fotoalbum erstellen
- Empfehlungen auf Basis unserer Interessen, z. B. bei Streamingdiensten oder in sozialen Netzwerken
- Spam- und Virenfilter, die fortlaufend dazulernen
- Navigationssysteme, die die schnellste Route zu einem Ziel vorschlagen
Die meisten KI-Anwendungen, die uns aktuell im Alltag begegnen, basieren auf maschinellem Lernen. Dabei gilt: Unter Einsatz großer Datenmengen lernt eine Anwendung, Muster und Zusammenhänge zu erkennen. Gibt man immer neue Daten ein, kann sie lernen und ihre Leistung kontinuierlich verbessern. So können KI-Modelle immer komplexere Aufgaben lösen.
Irrt sich eine KI-Anwendung oder verbreitet Falschinformationen, kann das ernste Folgen haben
terovesalainen / stock.adobe.com
KI-Anwendungen machen Fehler
Auch Künstliche Intelligenz kann sich irren. Ein Beispiel sind Sprachmodelle, die „halluzinieren“. Sie stützen sich etwa auf Quellen, die sie frei erfunden haben. Im Alltag gilt es, das Risiko abzuwägen. Irrt sich eine Gesundheitsanwendung, die auf Basis bestimmter Symptome eine Diagnose stellt, kann dies ernsthafte Konsequenzen haben. Ordnet eine KI-basierte Foto-App hingegen das Foto einer Person dem falschen Kontakt zu, ist das weniger gravierend. Deshalb ist es wichtig, dass Nutzerinnen und Nutzer die Vorschläge der Anwendung grundsätzlich kritisch hinterfragen. KI-Systeme können Verbraucher auch diskriminieren, wenn sie mit Daten trainiert wurden, die nicht aktuell, repräsentativ und qualitätsgesichert sind. So lassen beispielsweise immer mehr Firmen Bewerbungen automatisiert bewerten, und immer mehr Menschen bekommen Bescheide oder Auskünfte, die durch Maschinen vorbereitet wurden. Doch nicht alle diese Entscheidungen sind korrekt. Daneben können Computerprogramme, die KI einsetzen, auch täuschend echt wirkende Inhalte (Deepfakes) und strafbare Inhalte verbreiten. Solche Desinformationen können zu Polarisierung und Wahlmanipulation beitragen. Künstliche Intelligenz kann demnach auch eine Bedrohung für die Demokratie darstellen. In diesem Zusammenhang wird beispielsweise oft kritisiert, dass Internetseiten dazu neigen, dem Benutzer nur Informationen anzuzeigen, die mit seinem bisherigen Online-Verhalten übereinstimmen („Filterblasen“), anstatt eine Umgebung für eine pluralistische, gleichermaßen zugängliche und integrative öffentliche Debatte zu schaffen.
Europäisches Gesetz schafft Transparenz
Ein entscheidender Baustein für das Vertrauen in KI ist Transparenz. Um sicherzustellen, dass KI-Systeme in der EU sicher sind und grundlegende Rechte wahren, verabschiedete die Europäische Union im Juni 2024 das Gesetz über künstliche Intelligenz (AI-Act). Diese weltweit erste umfassende Gesetzgebung zu Künstlicher Intelligenz setzt verbindliche Regeln für ihren Einsatz und ihre Entwicklung. (PolizeiDeinPartner.de berichtete im Januar 2024 darüber). Seit Inkrafttreten des Gesetzes am 2. Februar 2025 müssen alle Unternehmen in der EU ihre KI-Systeme nach Risikograd bewerten. KI-Programme, die Menschen nach sozialem Verhalten bewerten, sind verboten. Nutzerinnen und Nutzer müssen jederzeit erkennen können, wenn sie mit einer Maschine interagieren. Deepfakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden. Außerdem müssen die Nutzer informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme zum Einsatz kommen. Halten sich Unternehmen nicht an die Vorschriften, drohen zum Teil hohe Geldstrafen.
Vertrauen in KI-Systeme weiter stärken
Mit Unterstützung des Bundesministeriums für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) hat der unabhängige Think Tank iRights.Lab das Zentrum für vertrauenswürdige Künstliche Intelligenz (ZVKI) aufgebaut. Als nationale und neutrale Schnittstelle zwischen Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft informiert das ZVKI Verbraucherinnen und Verbraucher, ermöglicht öffentliche Diskussionen und entwickelt Instrumente zur Bewertung und Zertifizierung von vertrauenswürdiger KI. Darüber hinaus soll ein neues KI-Innovations- und Qualitätszentrum am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) dabei helfen, Prüfkriterien für KI-Anwendungen zu entwickeln, um das Vertrauen in die Technologie weiter zu stärken. So sollen KI-Anwendungen unter anderem ein entsprechendes Gütesiegel für vertrauenswürdige KI „made in Germany“ bekommen. Ein Schwerpunkt liegt dabei auf dem Gesundheitsbereich.
Tipps zur sicheren Nutzung von KI-Systemen
Für eine möglichst sichere Nutzung von Künstlicher Intelligenz im Alltag empfiehlt das Bundesamt für Sicherheit in der Informationstechnik (BSI) Nutzerinnen und Nutzern
- vorher gut abzuwägen, ob eine KI-Anwendung für ihren Zweck geeignet ist
- sparsam mit personenbezogenen und vertraulichen Daten umzugehen
- nur dann auf einen Link zu klicken, wenn sie die Anwendung explizit um einen Link gebeten haben
- KI-Anwendungen und -Apps nur aus seriösen Quellen zu beziehen
- Eingaben mit Bedacht und möglichst spezifisch zu formulieren
- für einen grundlegenden Schutz ihrer Geräte, Anwendungen und Konten zu sorgen
- wachsam zu bleiben und sich regelmäßig über aktuelle Betrugsmaschen zu informieren
KF (28.03.2025)
