/verbotene-ki-praktiken

name: verbotene-ki-praktiken
description: "Prüfung der verbotenen KI-Praktiken nach Art. 5 KI-VO – manipulative und ausnutzende Systeme, Social Scoring, biometrische Echtzeit-Fernidentifizierung, Ausnahmen und Bußgeldrisiko Art. 99 KI-VO. Use when ein Unternehmen oder eine Behörde prüfen muss, ob ein geplantes oder eingesetztes KI-System unter die Verbotstatbestände der KI-VO fällt."
language: de
provider_variants: [claude, gemini, openai]
test: ./test.md

/ki-vo-compliance:verbotene-ki-praktiken

Zweck

**Art. 5 KI-VO** ([VO (EU) 2024/1689](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689)) listet die KI-Praktiken, die als mit den europäischen Grundrechten unvereinbar **vollständig verboten** sind. Diese Verbote gelten seit dem 2. Februar 2025. Verstöße bilden die höchste Bußgeldstufe der Verordnung. Dieser Skill prüft, ob ein System einen Verbotstatbestand erfüllt und ob eine eng auszulegende Ausnahme greift.

> **⚠️ Aktualität (Stand 2026-07): Zwei neue Verbotstatbestände ab 02.12.2026.** Der **Digital Omnibus on AI** (Europäisches Parlament **16.06.2026**, Rat **29.06.2026**) hat den Katalog des Art. 5 KI-VO um **zwei** Praktiken erweitert, die **ab dem 02.12.2026** verboten sind: > > | Neuer Verbotstatbestand | Geltung | > |---|---| > | **Nicht einvernehmliche intime Bildaufnahmen (NCII)** — KI-gestützte Erzeugung/Verbreitung intimer Darstellungen ohne Einwilligung der abgebildeten Person | **02.12.2026** | > | **Darstellungen sexuellen Kindesmissbrauchs (CSAM)** | **02.12.2026** | > > **Die bestehenden Verbote des Art. 5 gelten unverändert seit dem 02.02.2025** und werden durch den Digital Omnibus **weder verschoben noch inhaltlich geändert**. Die Neuerungen treten neben den bisherigen Katalog; die Buchstabenzuordnung der bestehenden Tatbestände bleibt bestehen. Amtsblatt-Fundstelle der Änderungsverordnung `[unverifiziert - prüfen]`. > > **Aufsicht erweitert:** Die Zuständigkeit des **KI-Büros** erstreckt sich nunmehr auch auf KI-*Systeme*, die auf GPAI-Modellen aufsetzen, welche **innerhalb desselben Unternehmens** wie der Modellanbieter entwickelt wurden. Konzernintern gebaute Anwendungen fallen damit nicht mehr allein in die nationale Marktüberwachung. > > **Nationale Zuständigkeit in Deutschland:** Marktüberwachungsbehörde ist die **Bundesnetzagentur** (Auffangzuständigkeit nach dem KI-MIG), **nicht** die Datenschutzaufsicht oder die/der BfDI. Für biometrische Systeme in Strafverfolgung, Grenzkontrolle, Justiz und demokratischen Prozessen ist die unabhängige **KI-Marktüberwachungskammer (UKIM)** zuständig. Das **KI-MIG** hat den Bundestag am **11.06.2026** und den Bundesrat am **10.07.2026** passiert, war zum **21.07.2026 aber noch nicht im BGBl. verkündet** — eine BGBl.-Fundstelle existiert daher nicht und darf nicht zitiert werden. `[unverifiziert - prüfen]`

Eingaben

• Funktion und Zweck des KI-Systems
• Adressatenkreis (allgemeine Öffentlichkeit, Beschäftigte, vulnerable Gruppen)
• Einsatzkontext (öffentlich zugänglicher Raum, Strafverfolgung, privat, behördlich)
• Verwendete Techniken (Manipulation, biometrische Erfassung, Bewertung von Sozialverhalten)
• Rolle des Mandanten (Anbieter, Betreiber)

Sub-Agent-Architektur

Drei gedankliche Rollen prüfen das System. Ein **Tatbestands-Prüfer** ordnet die Funktion den acht Verbotskategorien des Art. 5 KI-VO zu und arbeitet die jeweiligen Tatbestandsmerkmale heraus. Ein **Ausnahme-Analyst** prüft spiegelbildlich die eng gefassten Ausnahmen, insbesondere bei der biometrischen Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken. Ein **Sanktions-Bewerter** beziffert das Bußgeldrisiko nach Art. 99 KI-VO und grenzt zur Hochrisiko-Einstufung ab. Der Tatbestands-Prüfer übergibt jeden bejahten Verbotstatbestand an den Ausnahme-Analysten, bevor das Endergebnis steht.

Ablauf

1. Verbotskategorien (Art. 5 Abs. 1 KI-VO)

a) **Unterschwellige/manipulative Beeinflussung**, die das Verhalten wesentlich verändert und Schaden verursacht b) **Ausnutzung von Vulnerabilität** (Alter, Behinderung, soziale/wirtschaftliche Lage) mit Schadensfolge c) **Social Scoring** — Bewertung/Klassifizierung anhand sozialen Verhaltens oder persönlicher Merkmale mit ungerechtfertigter Schlechterstellung in nicht zusammenhängenden Kontexten d) **Prädiktive Strafverfolgung** allein auf Profiling/Persönlichkeitsmerkmalen e) **Ungezieltes Scraping** von Gesichtsbildern zum Aufbau von Gesichtserkennungsdatenbanken f) **Emotionserkennung** am Arbeitsplatz und in Bildungseinrichtungen (außer medizinisch/sicherheitsbezogen) g) **Biometrische Kategorisierung** zur Ableitung sensibler Merkmale (z. B. ethnische Herkunft, politische Meinung, sexuelle Orientierung) h) **Biometrische Echtzeit-Fernidentifizierung** in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken

Die Tatbestände a) bis h) gelten **seit dem 02.02.2025** und sind unverändert.

1a. Neue Verbotstatbestände ab 02.12.2026 (Digital Omnibus on AI)

Ergänzend — und **erst ab dem 02.12.2026** — verboten:

• **Nicht einvernehmliche intime Bildaufnahmen (NCII).** Erfasst sind KI-Systeme, die intime oder sexualisierte Darstellungen realer Personen ohne deren Einwilligung erzeugen oder manipulieren („Nudify"-Anwendungen, Deepfake-Pornografie). Betroffen sind Anbieter generativer Bild- und Videomodelle mit entsprechender Funktionalität ebenso wie Betreiber, die solche Systeme bereitstellen.
• **Darstellungen sexuellen Kindesmissbrauchs (CSAM).** KI-gestützte Erzeugung entsprechender Inhalte ist unabhängig davon verboten, ob reale Personen abgebildet sind.

**Prüfhinweise:**

1. **Zeitliche Anwendung beachten.** Vor dem 02.12.2026 sind diese Praktiken nicht nach Art. 5 KI-VO verboten. Sie sind jedoch bereits jetzt regelmäßig nach **nationalem Straf- und Persönlichkeitsrecht** unzulässig (u. a. §§ 184b, 201a StGB, allgemeines Persönlichkeitsrecht, DSGVO) — die Aussage „derzeit noch erlaubt" ist im Mandat **falsch**. 2. **Vorlaufpflicht der Anbieter.** Generative