Lisa Reers
Was weiß eigentlich Ihre KI über Ihr Unternehmen?
Ein mittelständischer Maschinenbauer führt einen KI-Agenten ein. Anfangs beantwortet er Fragen zur internen Dokumentation. Monate später liest er E-Mails, durchsucht Verträge, erstellt Entwürfe, greift auf das CRM zu und stößt Prozesse an.
Für die Mitarbeiter bedeutet das einen enormen Produktivitätsgewinn.
Für einen Hacker könnte genau dieser KI-Agent jedoch zu einem der interessantesten Ziele im gesamten Unternehmen werden.
Künstliche Intelligenz ist längst kein zusätzliches Werkzeug mehr. Sie entwickelt sich zunehmend zu einem zentralen Bestandteil der täglichen Arbeit. Während meist über Effizienzsteigerung und Innovationspotenziale gesprochen wird, entsteht gleichzeitig eine neue Angriffsfläche, die sich deutlich von klassischer IT unterscheidet.
Autor: Lisa Reers
AI Engineer
Qseidon GmbH
www.qseidon.de
Warum KI für Hacker besonders interessant ist
Früher wurden Anwendungen meist einzeln abgesichert. Eine Datenbank war von einem Dokumentenmanagement getrennt, das CRM arbeitete unabhängig vom E-Mail-System.
Ein moderner KI-Agent verfolgt dagegen einen anderen Ansatz: Er verbindet Informationen aus unterschiedlichsten Quellen, verarbeitet sie im Zusammenhang und führt teilweise sogar eigenständig Aktionen aus.
Fragen Sie sich einen Moment:
Welche Systeme darf Ihre KI heute bereits nutzen?
Kann sie Angebote lesen? Kundendaten abrufen? Verträge durchsuchen? Termine koordinieren oder Bestellungen vorbereiten?
Genau diese Fähigkeiten machen KI-Systeme für Angreifer so attraktiv.
Der eigentliche Unterschied liegt nämlich nicht in der KI selbst, sondern in ihrer Rolle als zentraler Vermittler zwischen zahlreichen Anwendungen. Gelingt es einem Hacker, Zugriff auf einen solchen Agenten zu erhalten, kompromittiert er oft nicht nur eine einzelne Software, sondern möglicherweise den gesamten Informationskontext, auf den die KI bereits zugreifen darf.
Im Unternehmen entsteht damit ein neuer zentraler Zugangspunkt
Der KI-Agent des Maschinenbauers kennt inzwischen Angebote, Projektunterlagen, Vertragsdokumente, Ansprechpartner, interne Prozessbeschreibungen und technische Dokumentationen.
Für die Mitarbeiter ist das ausgesprochen hilfreich.
Für einen Angreifer entsteht daraus jedoch ein zentraler Einstiegspunkt in nahezu alle Unternehmensbereiche.
Was Hacker bereits von außen erkennen können
Viele Unternehmen glauben, niemand wisse von ihren internen KI-Lösungen. Doch das ist ein großer Irrtum. Dafür benötigt ein Hacker weder einen direkten Angriff noch Zugang zum Firmennetz.
Fragen Sie sich selbst:
Welche Informationen über Ihre digitale Infrastruktur könnten bereits heute öffentlich sichtbar sein?
Über Suchmaschinen für Internetdienste, Zertifikatsdatenbanken oder technische Scans lassen sich häufig Hinweise auf öffentlich erreichbare Systeme sammeln.
Ein Hacker könnte beispielsweise erkennen,
- dass öffentlich erreichbare KI- oder Automatisierungsplattformen existieren,
- welche Softwareprodukte vermutlich eingesetzt werden,
- welche Domains oder Schnittstellen erreichbar sind,
- welcher Cloudanbieter die Systeme betreibt,
- ob Test-, Entwicklungs- oder Administrationsoberflächen öffentlich erreichbar sind,
- ob eingesetzte Versionen möglicherweise bekannte Schwachstellen enthalten,
- welche API-Endpunkte oder Authentifizierungsdienste nach außen sichtbar sind.
Der Angreifer kennt dadurch weder Ihre Passwörter noch Ihre internen Abläufe.
Er erkennt jedoch häufig, wo sich eine genauere Untersuchung besonders lohnen könnte.
Welche Spuren hinterlässt das Unternehmen nach außen?
Der Hacker entdeckt eine öffentlich erreichbare Automatisierungsplattform des Maschinenbauers. Außerdem findet er Hinweise auf einen KI-Agenten, der Dokumente verarbeitet und mit weiteren Geschäftsanwendungen verbunden ist. Er weiß noch nicht, welche Daten dort verarbeitet werden. Er erkennt aber, dass dort Informationen aus verschiedenen Unternehmensbereichen zusammenlaufen.
Genau solche Systeme stehen häufig weit oben auf seiner Prioritätenliste.
Wie aus einer kleinen Schwachstelle ein großes Problem werden kann
Der eigentliche Angriff beginnt häufig nicht spektakulär.
Der Hacker sucht zunächst nach einer Möglichkeit, Zugriff auf das System zu erhalten.
Das kann beispielsweise über gestohlene Zugangsdaten, eine Fehlkonfiguration, eine bekannte Schwachstelle oder eine unzureichend geschützte Programmierschnittstelle erfolgen.
Nehmen wir an, ihm gelingt dieser Schritt.
Der eigentliche Wert liegt hinter dem KI Agenten
Der Hacker interessiert sich nun nicht für den KI-Agenten selbst.
Er interessiert sich für das Wissen, auf das dieser zugreifen darf.
Er könnte beispielsweise fragen:
- Welche Angebote wurden in den letzten zwei Wochen erstellt?
- Welche Kunden planen aktuell größere Investitionen?
- Welche Projektleiter arbeiten an vertraulichen Entwicklungsprojekten?
- Welche VPN-Systeme oder Cloud-Dienste werden intern genutzt?
- Gibt es Dokumente mit Zugangsdaten oder technischen Konfigurationen?
Die KI beantwortet solche Fragen möglicherweise nicht deshalb, weil sie unsicher entwickelt wurde. Sondern weil genau diese Informationen für ihre tägliche Arbeit vorgesehen sind.
Der Schaden endet dabei selten beim KI-System selbst.
Verfügt der Agent über Verbindungen zu E-Mail, SharePoint, CRM, ERP oder Ticketsystemen, kann ein erfolgreicher Angriff Auswirkungen auf zahlreiche Geschäftsprozesse haben. Vertrauliche Informationen können abfließen, Prozesse manipuliert oder Entscheidungen auf falscher Datenbasis getroffen werden.
Fragen Sie sich daher:
Welche Antworten könnte Ihre KI heute geben, wenn ein Angreifer dieselben Berechtigungen hätte wie einer Ihrer Mitarbeiter?
Was Unternehmen jetzt tun sollten
Der wichtigste Schritt besteht darin, Transparenz zu schaffen.
Unternehmen sollten zunächst erfassen,
- wo KI eingesetzt wird,
- welche Systeme miteinander verbunden sind,
- welche Daten verarbeitet werden,
- welche Berechtigungen bestehen
- und welche Dienste von außen erreichbar sind.
Dabei reicht eine Liste offiziell beschaffter KI-Produkte längst nicht mehr aus. Auch integrierte KI-Funktionen in Standardsoftware, Automatisierungsplattformen oder Lösungen einzelner Fachbereiche gehören dazu.
Ebenso wichtig ist die Perspektive eines Angreifers.
Fragen Sie sich:
- Welche Systeme wären von außen überhaupt sichtbar?
- Welche Informationen könnte ein Außenstehender daraus ableiten?
- Welche Anwendungen verbinden besonders viele Datenquellen?
- Welche Prozesse könnten darüber beeinflusst werden?
- Wer wäre im Schadensfall betroffen?
Erst auf dieser Grundlage lässt sich eine belastbare Risikobewertung durchführen.
Besonders kritisch sind Systeme, die auf zahlreiche Datenquellen zugreifen, sensible Informationen verarbeiten oder eigenständig Aktionen ausführen können. Genau hier sollten Berechtigungen konsequent überprüft, unnötige Zugriffe entfernt, öffentlich erreichbare Oberflächen abgesichert und Veränderungen regelmäßig neu bewertet werden.
Fazit
Kehren wir noch einmal zu unserem Maschinenbauer zurück.
Der KI-Agent war nie das eigentliche Problem.
Das Problem entstand erst in dem Moment, als niemand mehr vollständig überblickte, welche Daten der Agent kennt, welche Systeme er verbinden darf und welche Informationen darüber möglicherweise bereits von außen erkennbar sind.
Genau deshalb beginnt Sicherheit nicht mit der Frage:
„Ist unsere KI sicher?"
Sondern mit einer anderen:
„Wissen wir eigentlich selbst genauso viel über unsere KI-Landschaft, wie ein Angreifer bereits herausfinden könnte?"
