EU AI Act Risiko-Klassifikation —
was wirklich High Risk ist (und was nicht).
Der EU AI Act teilt KI-Systeme in vier Risiko-Stufen ein. Davon hängt ab, ob du nur dokumentieren musst, ob du eine Konformitätsbewertung brauchst — oder ob das System schlicht verboten ist. Wir gehen alle vier durch, mit konkreten Beispielen aus dem deutschen Mittelstand, und beantworten: Welche Stufe gilt für dein KI-Einsatzfall?
Der EU AI Act (Verordnung 2024/1689) folgt einem zentralen Prinzip: Je gefährlicher das KI-System, desto strenger die Pflichten. Aus diesem Grundsatz leitet sich die Risiko-Pyramide ab — vier Stufen, vom verbotenen über das hochriskante bis zum minimalen System. Wer den eigenen KI-Einsatz richtig einordnet, weiß sofort, welche Compliance-Pflichten greifen.
Dieser Artikel beantwortet drei Fragen: Was sind die vier Risiko-Stufen? Welche typischen KI-Anwendungen gehören in welche Stufe? Und welche Pflichten ergeben sich daraus für deutsche KMUs?
Die Risiko-Pyramide auf einen Blick
Der EU AI Act unterscheidet vier Klassen:
| Stufe | Was ist das? | Pflichten |
|---|---|---|
| Unacceptable Risk | Komplett verboten (Art. 5) | Verboten in der EU — gar nicht einsetzbar |
| High Risk | Erhebliche Auswirkung auf Sicherheit/Grundrechte (Art. 6, Annex III) | Konformitätsbewertung, Risiko-Mgmt, Dokumentation, Aufsicht |
| Limited Risk | Transparenz-relevant (Art. 50) | Kennzeichnungspflicht („Du sprichst mit einer KI") |
| Minimal Risk | Alle anderen Systeme | Empfehlungen, keine harten Pflichten |
Wichtig: Die Einordnung erfolgt pro Anwendungsfall, nicht pro Tool. ChatGPT als „CV-Screening-System bei HR" ist High Risk. Dasselbe ChatGPT als „Marketing-Texter" ist Minimal Risk.
Unacceptable Risk — verboten
Acht konkrete Verbote sind in Art. 5 aufgeführt. Die wichtigsten für Unternehmen:
- Social Scoring durch öffentliche Stellen — Bewertung von Bürgern nach Sozialverhalten oder Persönlichkeitsmerkmalen.
- Emotion-Erkennung am Arbeitsplatz oder in Bildungseinrichtungen (außer medizinisch/sicherheitsrelevant).
- Biometrische Kategorisierung nach sensitiven Merkmalen (Rasse, politische Meinung, Sexualität, Religion).
- Untargeted Scraping von Gesichtern aus Internet/Überwachungskameras für Datenbanken.
- Manipulative Systeme, die Schwachstellen ausnutzen (z. B. Spielzeug-KI, die Kinder zu gefährlichem Verhalten verleitet).
Tiefer-Tauchen: siehe EU AI Act Artikel 5 — die verbotenen KI-Praktiken im Klartext.
High Risk — die teuren Pflichten
Annex III listet acht Kategorien, in denen KI als High Risk gilt:
- Biometrische Identifikation in der Strafverfolgung (z. B. Echtzeit-Gesichtserkennung im öffentlichen Raum, soweit erlaubt).
- Kritische Infrastruktur — KI als Sicherheits-Komponente in Stromnetz, Wasser, Verkehr.
- Bildung & Berufsausbildung — KI für Zulassungsentscheidungen, Prüfungs-Bewertung, Schul-Zuteilung.
- Beschäftigung — CV-Screening, Bewerber-Ranking, Beförderungs- oder Kündigungs-KI.
- Wesentliche private/öffentliche Dienstleistungen — Kreditwürdigkeits-Bewertung, Versicherungs-Underwriting, Sozialleistungs-Bewilligung.
- Strafverfolgung — KI zur Verdachts- oder Risikoanalyse durch Behörden.
- Migration, Asyl & Grenzkontrolle.
- Rechtspflege & demokratische Prozesse — KI als Entscheidungsunterstützung in Justiz oder Wahlsystemen.
Wer High Risk einsetzt, muss u. a.: Risikomanagement-System aufbauen (Art. 9), Daten-Governance dokumentieren (Art. 10), Technische Doku führen (Art. 11), automatische Logs (Art. 12), Transparenz für Nutzer (Art. 13), menschliche Aufsicht ermöglichen (Art. 14), Genauigkeit & Sicherheit nachweisen (Art. 15).
Limited Risk — Transparenz-Pflicht
Konkrete Pflichten:
- Chatbots: Müssen erkennbar als KI gekennzeichnet sein („Du sprichst gerade mit einem KI-Assistenten").
- Deepfakes / synthetische Inhalte: Müssen als KI-erzeugt gekennzeichnet werden, außer bei offensichtlich künstlerischen Zwecken.
- Emotion-Erkennung & biometrische Kategorisierung (sofern nicht verboten): Nutzer müssen informiert werden.
Für ein durchschnittliches Unternehmen mit Kundenservice-Chatbot oder KI-generierten Marketing-Bildern reicht ein klar sichtbarer Hinweis.
Minimal Risk — freie Nutzung
Die meisten Alltags-KI-Anwendungen fallen hierunter. Beispiele:
- Texte umformulieren / zusammenfassen lassen.
- Marketing-Bilder generieren.
- Code-Vorschläge in Entwicklungsumgebung.
- Empfehlungssysteme für Newsletter, Streaming.
- Office-Assistenten (Calendar, Mail-Vorschläge).
Hier gilt: Empfehlungen, kein harter Compliance-Apparat. Trotzdem zu beachten: Art. 4 (KI-Kompetenz) gilt unabhängig von der Risiko-Stufe für alle Mitarbeiter, die KI bedienen.
Sonderfall: General Purpose AI (GPAI)
GPAI-Modelle (auch „Foundation Models") sind eine eigene Klassifizierung — nicht in der Risiko-Pyramide, sondern parallel dazu. Pflichten für GPAI-Anbieter (OpenAI, Anthropic, Google, Mistral, etc.):
- Technische Dokumentation zum Modell.
- Trainingsdaten-Zusammenfassung veröffentlichen.
- Urheberrechts-Policy.
- Für „Systemic Risk"-Modelle (typische Rechenleistung über 10²⁵ FLOPS, vereinfacht: die größten LLMs): zusätzliche Risiko-Assessments, Cybersicherheits-Maßnahmen, Incident-Reporting.
Als Nutzer dieser Modelle (also fast jedes Unternehmen) trifft dich davon direkt nichts — aber die Anbieter müssen Informations-Material bereitstellen, das du für deine eigene Compliance nutzen kannst.
Wie ordnest du deinen Use-Case ein? — 3 Fragen
- Trifft die KI eine Entscheidung über einen Menschen? (Job, Kredit, Versicherung, Bildung, Sozialleistung, Justiz) → wahrscheinlich High Risk.
- Interagiert die KI direkt mit Menschen oder generiert sie Inhalte, die sie sehen? (Chatbot, Bild, Video, Audio) → mindestens Limited Risk (Transparenz-Pflicht).
- Fällt der Use-Case in eine der 8 Annex-III-Kategorien oder die 8 Art.-5-Verbote? → entsprechend High Risk oder Unacceptable.
Wenn alle drei Fragen mit „nein" beantwortet werden, hast du ziemlich sicher Minimal Risk — und musst „nur" Art. 4 (KI-Kompetenz deiner Mitarbeiter) erfüllen.
Was du diese Woche tun solltest
- Liste alle KI-Use-Cases auf. Auch die inoffiziellen.
- Ordne jeden in die Risiko-Stufe ein. Mit den 3 Fragen oben.
- Bei High Risk: konsultiere früh einen Compliance-Beratung. Spätestens vor produktivem Einsatz.
- Bei Limited Risk: bau die Kennzeichnung ein. Sichtbar, nicht versteckt.
Quellen
Wissens-Check — sichere dir den Fortschritt
5 Fragen, alle Multiple Choice. Ab 4 von 5 richtig wird dieser Artikel in deinem Zertifizierungs-Pfad als bestanden markiert. Du brauchst einen Snowbyte-Account, um den Fortschritt zu speichern.
Lies weiter mit Snow Academy — ab 14 €/Monat.
Dieser Artikel ist Teil der gepflegten Snow Academy. Mit einem Privat- oder Business-Abo bekommst du vollen Zugriff auf alle Artikel, Quizze und das Zertifizierungs-Programm.