Sicher. Erklärbar. Verantwortungsbewusst.
Künstliche Intelligenz (KI)
Künstliche Intelligenz bietet enormes Potenzial – aber nur, wenn sie nachvollziehbar, robust und sicher eingesetzt wird.
KI-Sicherheit & Strategie
KI ist mehr als Technologie.
KI ist mehr als Technologie – sie ist ein strategischer Faktor für Innovation, Effizienz und Wettbewerb. Doch gleichzeitig stellt sie neue Anforderungen an Sicherheit, Ethik und Transparenz.
Bei Blackfort Technology betrachten wir KI ganzheitlich: technisch, rechtlich und organisatorisch. Wir unterstützen Unternehmen bei der sicheren Entwicklung, Implementierung und Überwachung von KI-Systemen – von der Strategie bis zur regulatorischen Compliance.
KI Strategie & Beratung
Von der Vision zur umsetzbaren KI-Strategie. Wir helfen Ihnen, KI sinnvoll, sicher und wirtschaftlich in Ihrer Organisation einzusetzen.
KI Sicherheit & Testing
Angriffe auf KI-Systeme erkennen und verhindern. Adversarial Testing, Red Teaming und Robustheitsbewertungen für Ihre KI-Modelle.
KI Compliance & Governance
EU AI Act, ISO/IEC 42001 und weitere regulatorische Anforderungen an KI systematisch erfüllen.
KI Explainability & Monitoring
KI-Systeme nachvollziehbar machen und dauerhaft überwachen. Explainability, Fairness und Drift-Erkennung.
Autonome KI-Agenten
Praxisleitfaden für den sicheren Einsatz autonomer KI-Agenten. Von der Konzeption bis zur sicheren Implementierung.
Pentesting von LLMs
Sicherheitstests für Large Language Models. Prompt Injection, Jailbreaks und andere LLM-spezifische Angriffsvektoren.
Unser Ansatz
KI verantwortungsvoll einsetzen.
Sicherheit by Design
KI-Sicherheit wird von Anfang an in die Entwicklung integriert, nicht nachträglich aufgesetzt.
Erklärbarkeit
KI-Entscheidungen müssen nachvollziehbar sein – für Nutzer, Auditoren und Regulatoren.
Compliance
EU AI Act, ISO/IEC 42001 und weitere Standards als Grundlage für vertrauenswürdige KI.
Regulatorischer Rahmen
KI-Compliance auf einen Blick
Wer KI einsetzt, bewegt sich zwischen Innovationsdruck und regulatorischen Anforderungen. Vier Rahmenwerke prägen den Compliance-Pfad in Europa – mit unterschiedlichen Auslösern und Zeitachsen.
EU AI Act
Die weltweit erste umfassende KI-Regulierung. Sie klassifiziert KI-Systeme nach Risikostufe – verboten, hochriskant, eingeschränktes Risiko, minimales Risiko. Sie gilt für alle Unternehmen, die KI in der EU einsetzen oder bereitstellen.
ISO/IEC 42001
Der internationale Standard für KI-Managementsysteme – das KI-Pendant zu ISO 27001. Liefert einen strukturierten Rahmen für verantwortungsvollen KI-Einsatz und wird zunehmend als B2B-Qualifikationsnachweis verlangt.
DORA (KI-Komponenten)
Finanzunternehmen, die KI im IKT-Risikomanagement einsetzen, müssen systematische Sicherheitstests nachweisen. DORA-TLPT-Anforderungen erfassen zunehmend auch produktive KI-basierte Systeme.
DSGVO Art. 22
Recht auf Erklärung bei vollautomatisierten Entscheidungen mit erheblicher Wirkung. Direkt anwendbar auf KI-gestütztes Credit-Scoring, HR-Screening und vergleichbare automatisierte Hochrisikoentscheidungen.
EU AI Act
Hochrisiko-KI: Was der EU AI Act verlangt
Hochrisiko-KI-Systeme – darunter Beschäftigung, Bildung, Kreditvergabe, Gesundheit, kritische Infrastruktur und Strafverfolgung – unterliegen den umfangreichsten Anforderungen: Risikomanagement-System, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht sowie Anforderungen an Genauigkeit und Robustheit. Die vollständige Hochrisiko-Compliance gilt ab August 2026.
Häufige Fragen zur KI-Sicherheit
Welche Sicherheitsrisiken bestehen bei KI-Systemen?
KI-Systeme haben ein eigenes Risikoprofil – anders als klassische Software. Adversarial Attacks manipulieren Modell-Eingaben, um falsche Ausgaben zu erzwingen. Prompt Injection in LLM-Anwendungen erlaubt Angreifern, System-Instruktionen zu überschreiben. Data Poisoning korrumpiert Trainingsdaten und verändert das Modellverhalten. Model Extraction ermöglicht das Replizieren proprietärer Modelle. Diese Risiken erfordern spezialisierte Testmethoden, die über klassische Pentests hinausgehen.
Ab wann gilt der EU AI Act für unser Unternehmen?
Der EU AI Act gilt für jede Organisation, die KI-Systeme auf dem EU-Markt in Verkehr bringt oder in der EU einsetzt – unabhängig davon, wo das Unternehmen seinen Sitz hat. Die konkreten Pflichten hängen von der Rolle (Anbieter vs. Betreiber) und der Risikoklassifizierung des KI-Systems ab. Verbotene Praktiken gelten seit Februar 2025; Hochrisiko-KI ab August 2026; Pflichten für General-Purpose-AI-Modelle ab August 2025.
Was ist ISO/IEC 42001 – und brauchen wir es?
ISO/IEC 42001 ist der internationale Standard für KI-Managementsysteme – das KI-Pendant zu ISO 27001. Sie liefert einen strukturierten Rahmen für verantwortungsvollen KI-Einsatz und wird zunehmend als Qualifikationskriterium im B2B-Geschäft verlangt. Eine Zertifizierung ist nach dem EU AI Act nicht zwingend, kann aber verantwortungsvolle KI-Governance belegen – und ist für Organisationen mit bestehender ISO 27001-Zertifizierung oft erreichbarer als gedacht.
Worin unterscheidet sich KI-Sicherheitstesting von klassischen Pentests?
Klassische Pentests bewerten bekannte Schwachstellenklassen in Software und Infrastruktur. KI-Sicherheitstests erweitern das um modell-spezifische Angriffsvektoren: Adversarial Inputs, Prompt Injection, Jailbreaks, Vergiftung von RAG-Datenquellen und Model Extraction. Die Testmethodik muss das probabilistische, nicht-deterministische Verhalten von KI berücksichtigen – gleiche Eingaben können unterschiedliche Ausgaben produzieren, was systematische Testabdeckung anspruchsvoller macht als bei deterministischer Software.
Kontakt aufnehmen
KI sicher und compliance-konform einsetzen?
Blackfort Technology begleitet Sie auf dem Weg zu verantwortungsbewusstem KI-Einsatz – von der Strategie bis zur technischen Umsetzung.