Wie mache ich mein Unternehmen sicher vor KI-Angriffen?

Eine der wirksamsten Maßnahmen gegen Deepfake- und Stimmklon-Betrug ist ein Prozess, der sich nicht durch einen einzelnen Anruf oder eine Videokonferenz aushebeln lässt. Deepfakes mit bloßem Auge oder Ohr zu erkennen, gelingt nicht zuverlässig, und die Qualität steigt weiter. Setzen Sie deshalb auf feste Regeln:

Rückruf über eine bekannte Nummer: Jede ungewöhnliche Zahlungsanweisung, jede Änderung von Bankverbindungen und jede Bitte um Zugangsdaten wird über einen zweiten, unabhängigen Kanal bestätigt, etwa per Rückruf unter der Nummer aus dem Telefonverzeichnis, nie unter der Nummer aus der Anfrage. Vier-Augen-Prinzip für Überweisungen ab einem festgelegten Betrag. Keine Ausnahmen wegen Dringlichkeit oder Vertraulichkeit: genau diesen Druck bauen Angreifer auf. Manche Unternehmen vereinbaren zusätzlich ein Codewort für Notfälle.

Wichtig ist, dass die Geschäftsleitung diese Regeln ausdrücklich auch für sich selbst gelten lässt. Mitarbeitende müssen eine Anweisung „von ganz oben“ ohne Nachteile hinterfragen dürfen.

Bessere Phishing-Mails zielen fast immer auf Zugangsdaten. Passwörter und SMS-Codes lassen sich abgreifen, Einmalcodes aus Apps über gefälschte Anmeldeseiten in Echtzeit weiterreichen. Phishing-resistente Verfahren wie FIDO2-Sicherheitsschlüssel oder Passkeys binden die Anmeldung an die echte Adresse des Dienstes und laufen auf einer gefälschten Seite ins Leere.

Beginnen Sie mit Administratorkonten, Fernzugängen (VPN, Remote Desktop), E-Mail und Cloud-Diensten wie Microsoft 365. Wie Ihre Microsoft-365-Umgebung aktuell aufgestellt ist, zeigt unser Microsoft 365 Security Check.

Viele Schulungen vermitteln noch Erkennungsmerkmale, die KI beseitigt hat: holprige Sprache, falsche Anrede, schlechte Logos. Wirksamer ist es, auf die Auslöser zu achten, die jeder Social-Engineering-Angriff braucht: Zeitdruck, Geheimhaltung, ungewöhnlicher Kanal und die Bitte, eine Regel zu umgehen.

Üben Sie konkrete Situationen: den Anruf der vermeintlichen Geschäftsführung, die Sprachnachricht mit Überweisungsbitte, die Videokonferenz mit schlechtem Bild und „technischen Problemen“. Ergänzend verlangt der EU AI Act in Artikel 4, dass Unternehmen, die KI-Systeme einsetzen, die KI-Kompetenz ihrer Beschäftigten fördern. Eine Schulung zu KI-Risiken lässt sich gut mit diesem Punkt verbinden.

Wenn Angreifer bekannte Lücken schneller ausnutzen, muss das Patchen Schritt halten. Priorisieren Sie aus dem Internet erreichbare Systeme wie Firewalls, VPN-Gateways, Mailserver und Webanwendungen, und legen Sie feste Fristen für kritische Updates fest.

Voraussetzung ist ein vollständiges Bild der eigenen Angriffsfläche. Ein Schwachstellenscan und ein geregeltes Patch Management schaffen diese Grundlage.

Verbote allein verhindern Schatten-KI selten, sie verlagern die Nutzung nur auf private Geräte. Besser ist eine klare Richtlinie: Welche KI-Werkzeuge sind freigegeben? Welche Daten dürfen hinein, welche auf keinen Fall (Kundendaten, Personaldaten, Geschäftsgeheimnisse, Quellcode)? Wer entscheidet über neue Werkzeuge?

Stellen Sie außerdem fest, wo KI bereits im Einsatz ist, auch in eingekaufter Software. Das ist die Grundlage für jede weitere Bewertung, auch für die Pflichten aus dem EU AI Act. Unterstützung dabei bietet unsere KI Compliance & Governance.

Wer Chatbots, KI-Assistenten mit Zugriff auf interne Dokumente oder KI-Agenten betreibt, schafft eine neue Angriffsfläche. Prompt Injection steht in den OWASP Top 10 für LLM-Anwendungen (Ausgabe 2025) auf Platz 1: Ein Angreifer versteckt Anweisungen in einer Mail, einem Dokument oder einer Webseite, und das Modell führt sie aus.

Die Grundregeln: KI-Anwendungen erhalten nur die Rechte und Daten, die sie für ihre Aufgabe brauchen, folgenreiche Aktionen brauchen eine menschliche Freigabe, und Ein- und Ausgaben werden protokolliert. Vertiefung bieten unser Praxisleitfaden für autonome KI-Agenten und die Seite KI Sicherheit & Testing.

Ob ein Angriff mit einer KI-Phishing-Mail beginnt oder mit einer ausgenutzten Lücke: Größeren Schaden richtet er erst mit weitreichenden Rechten an. Trennen Sie Administratorkonten von Alltagskonten, vergeben Sie Adminrechte nur zeitlich begrenzt und protokollieren Sie privilegierte Sitzungen. Auch Zugänge externer Dienstleister gehören dazu.

Kein Schutz ist lückenlos. Legen Sie deshalb fest, wer bei einem Verdacht was tut: Bei einer betrügerischen Überweisung zählt jede Stunde, weil eine Bank eine Zahlung, wenn überhaupt, nur kurze Zeit zurückholen kann; bei Echtzeitüberweisungen gelingt das meist gar nicht. Ein Notfallplan für Social-Engineering-Vorfälle, zentrale Protokollierung und eine Überwachung auf ungewöhnliche Anmeldungen gehören zur Grundausstattung.

Gilt Ihr Unternehmen nach dem BSI-Gesetz als wichtige oder besonders wichtige Einrichtung (deutsche NIS2-Umsetzung), gelten zusätzlich Meldepflichten: Erhebliche Sicherheitsvorfälle sind unverzüglich, spätestens 24 Stunden nach Kenntnis, in einer ersten Meldung an die gemeinsame Meldestelle von BSI und BBK zu melden. Spätestens 72 Stunden nach Kenntnis folgt eine ausführlichere Meldung, spätestens einen Monat danach eine Abschlussmeldung. Die Anforderungen im Überblick finden Sie auf unserer Seite zur NIS2-Umsetzung.