Die rasante Entwicklung generativer künstlicher Intelligenz (KI) verändert nicht nur die digitale Landschaft, sondern bringt auch tiefgreifende Risiken für die Authentifizierung von Personen und die Sicherheit von Geschäftsprozessen mit sich. Das Gefüge zwischen Angreifern und Verteidigern scheint sich zugunsten der Angreifer zu verschieben. Während Technologieunternehmen große und faszinierende Fortschritte bei der Erstellung von Texten, Bildern, Stimmen und Videos erzielen, geraten klassische Sicherheitsmodelle zunehmend unter Druck. Das nutzen Kriminelle verstärkt, um Nutzerinnen und Nutzer in der digitalen Welt zu täuschen und zu betrügen.
In diesem Text erfahren Sie:
Die Täuschung wird realistischer
Traditionelle Authentifizierungsverfahren stützen sich häufig auf sichtbare biometrische Daten vom Gesicht, der Stimme oder eines Fingerabdrucks. Diese spezifischen Persönlichkeitsmerkmale galten lange als schwer zu fälschen. Doch generative KI-Systeme können mittlerweile täuschend echte audiovisuelle Inhalte erzeugen, die von biometrischen Scannern, Stimmeingabe-Systemen oder Gesichtserkennungs-Software nicht mehr als falsch erkannt werden. Wenn selbst Stimmen oder Gesichter durch KI täuschend echt nachgebildet werden können, sind biometrische Faktoren allein kein verlässlicher Identitätsnachweis mehr. OpenAI-Chef Sam Altman warnte im Juli 2025 bei einer Konferenz der Federal Reserve Bank in Washington: „Außer Passwörtern hat KI die meisten Möglichkeiten, wie sich Menschen heute authentifizieren, völlig besiegt.“ Altman mahnte weiter, dass viele bisherige Verfahren überdacht werden müssen, denn: „Angetrieben von der Fähigkeit der KI, die meisten Authentifizierungsmethoden zu übertreffen, steht uns ein schwerwiegende Betrugskrise bevor.“
Vom simplen Phishing zur multimodalen Täuschung
Lange Zeit galt Phishing als eine gefährliche, aber beherrschbare Angriffstechnik, wenn man einige Vorsichtsmaßnahmen berücksichtigte. Die E-Mails waren schlecht formuliert oder wiesen Fehler auf, sodass man mit einem gesunden Misstrauen den Betrug leicht entlarven konnte. Doch mit künstlicher Intelligenz hat sich Phishing zu einer hochgradig individualisierten Bedrohung weiterentwickelt. Generative KI erlaubt es, Phishing-E-Mails auf dem Niveau einer spezifischen Unternehmenskommunikation zu erstellen. Tonfall, Inhalt und Kontext sind so überzeugend angepasst, dass sie kaum noch von echten Nachrichten unterschieden werden können. Hinzu kommen Voice-Cloning-Anrufe und täuschend echte Deepfake-Videos, die in Kombination einen neuen Typus von Angriffen ergeben, die weit über E-Mail-Köder hinausgehen: Es handelt sich vielmehr um koordinierte, multimodale Täuschungen, bei denen verschiedene Elemente wie Text, Bild und Ton perfekt miteinander kombiniert werden. Studien und Berichte zeigen, dass die Verfügbarkeit solcher Werkzeuge das Spektrum der Angriffe erheblich erweitert. Spektakulär ist beispielsweise der Fall einen Hongkonger Finanzangestellten, der Betrügern 25,6 Millionen Dollar überwiesen hatte. Der Betrug startete mit einer Phishing-Mail, bei der der Mitarbeiter noch misstrauisch war. Doch in der anschließenden Videokonferenz, bei der er eine Reihe von Anwesenden als Kollegen zu erkennen glaubte, zerstreuten sich seine Zweifel. Der Fall ist nur einer von vielen, bei denen Mitarbeiter durch KI-generierte Videos getäuscht wurden
Social Engineering 2.0 – intelligent und automatisiert
Cyberkriminelle nutzen generative KI, um Social-Engineering-Angriffe zu perfektionieren: Die Technologie senkt die Barrieren für technisch weniger versierte Angreifer, personalisierte, kontextbezogene Täuschungen mit geringem Aufwand zu erstellen. Nutzer werden nicht nur per E-Mail, sondern über Messenger, soziale Netzwerke oder in Videokonferenzen attackiert, wobei menschliche Schwächen gezielt ausgenutzt werden. Internationale Berichte dokumentieren, wie kriminelle Gruppen und sogar militante Akteure generative Tools nutzen, um Propaganda, Deepfakes und falsche Identitäten zu verbreiten. Diese Entwicklung hat Auswirkungen auf die Gesellschaft insgesamt. Experten sehen die Gefahr, dass diese gefälschten synthetischen Inhalte das Vertrauen der Nutzer und Nutzerinnen in digitale Quellen insgesamt unterminieren.
Das neue Gleichgewicht: Automatisierung auf beiden Seiten
Diese neuen Bedrohungen verändern das Kräfteverhältnis zwischen Angreifern und Verteidigern. Unternehmen setzen ihrerseits zunehmend KI ein, um Anomalien im Netzwerkverkehr zu erkennen, Betrugsmuster aufzuspüren und automatisierte Abwehrmechanismen zu entwickeln. Solche Systeme helfen, große Datenmengen zu analysieren und schneller auf verdächtige Aktivitäten zu reagieren — doch die Systeme müssen permanent nachtrainiert werden, weil Angreifer ihre Modelle ebenfalls laufend verbessern. Es handelt sich also um eine Art Wettrüsten: Angreifer automatisieren Kampagnen in bislang ungekanntem Tempo, während Verteidiger versuchen, mit KI-gestützten Tools die Oberhand zu behalten. Die Balance bleibt fragil. Sie ist dabei abhängig von Investitionen in Forschung, der Entwicklung neuer Erkennungsalgorithmen und dem Infragestellen von organisatorischen Prozessen in den Unternehmen.
Ein dynamisches, riskantes Umfeld
Die Fortschritte in generativer KI haben die digitale Bedrohungslandschaft damit grundlegend verändert. Die Fähigkeit, täuschend echte Stimmen, Gesichter und Inhalte zu erzeugen, untergräbt klassische Authentifizierungsmethoden und verschiebt die Angriffsdynamik hin zu hoch personalisierten, automatisierten und multimodalen Kampagnen. Gleichzeitig treiben Angreifer das Tempo der Automatisierung voran, während Verteidiger versuchen, mit KI-gestützten Tools und Echtzeitanalysen gegenzusteuern. In diesem ungleichen Wettlauf zwischen Täuschung und Schutz bleibt die stete Weiterentwicklung von Sicherheitsstrategien der Schlüssel zur Abwehr in einer zunehmend KI-dominierten digitalen Welt.
TE (23.12.2025)
