Diese KI-Systeme dürfen in Europa nicht benutzt werden – aus dem EU AI Act

In einer Zeit, in der künstliche Intelligenz (KI) immer präsenter wird, stellt sich die wichtige Frage: Welche KI-Systeme dürfen in Europa benutzt werden und welche nicht? Der EU AI Act (deutsch: KI-Verordnung) gibt darauf klare Antworten. Hier ein Überblick über die verbotenen KI-Anwendungen:

1. Manipulative KI-Systeme
Verboten: KI, die durch unterschwellige, absichtlich manipulative oder täuschende Techniken das Verhalten von Menschen wesentlich beeinflusst und dadurch erheblichen Schaden verursacht oder wahrscheinlich verursacht.
Beispiel: Algorithmen, die Nutzende unbewusst zu bestimmten Kaufentscheidungen drängen.

2. KI, die Vulnerabilitäten ausnutzt
Verboten: Systeme, die Schwachstellen aufgrund von Alter, Behinderung oder einer besonderen sozialen oder wirtschaftlichen Situation ausnutzen.
Beispiel: KI, die ältere Menschen gezielt mit irreführender Werbung anspricht.

3. Biometrische Kategorisierungssysteme
Verboten: KI, die Menschen anhand biometrischer Daten in sensible Kategorien einordnet.
Beispiel: Systeme, die sexuelle Orientierung oder politische Meinungen aus Gesichtszügen ableiten.

4. Soziale Bewertungssysteme
Verboten: KI, die Menschen basierend auf sozialem Verhalten oder persönlichen Eigenschaften bewertet und klassifiziert, wenn das zu ungerechtfertigter oder sachfremder Benachteiligung führt.
Beispiel: Systeme ähnlich dem chinesischen Social Credit System.

5. Echtzeit-Biometrie in öffentlichen Räumen
Verboten: Echtzeit-Gesichtserkennung in öffentlichen Bereichen für Strafverfolgung (mit wenigen Ausnahmen).
Beispiel: Flächendeckende Gesichtserkennung in Fußgängerzonen.

6. KI zur Kriminalitätsvorhersage
Verboten: Systeme, die kriminelles Verhalten ausschließlich auf Basis von Profiling oder Persönlichkeitsmerkmalen vorhersagen.
Beispiel: KI, die "potenzielle Kriminelle" anhand von Charaktereigenschaften identifiziert.

7. Ungezielte Gesichtserkennungs-Datenbanken
Verboten: Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungezieltes Scraping von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen.
Beispiel: KI, die automatisch Gesichter aus Social-Media-Profilen sammelt und speichert.

8. Emotionserkennung am Arbeitsplatz
Verboten: KI-Systeme zur Emotionserkennung in Arbeits- oder Bildungsumgebungen (außer aus medizinischen oder Sicherheitsgründen).
Beispiel: Software, die Emotionen der Mitarbeitenden während Meetings analysiert.

9. Sexualisierte Deepfakes und Darstellungen von Kindesmissbrauch (ab 2. Dezember 2026)
Verboten: KI, die realistische intime Darstellungen identifizierbarer Personen ohne deren ausdrückliche Einwilligung oder Darstellungen sexuellen Kindesmissbrauchs erzeugt oder manipuliert.
Beispiel: Apps, die aus normalen Fotos Nacktbilder erzeugen („Nudification“).

Der EU AI Act setzt klare Grenzen für den Einsatz von KI in Europa. Er verbietet Anwendungen, die als besonders riskant für die Grundrechte und die Privatsphäre der Bürger gelten. Während diese Regelungen die Innovation möglicherweise einschränken, zielen sie darauf ab, eine ethische und vertrauenswürdige KI-Landschaft in Europa zu schaffen.

In unserem kostenlosen Leitfaden geben wir eine vollständige Einordnung zum Einsatz von KI in deinem Unternehmen: Verständliches KI-Wissen für dein Unternehmen

FAQ zu verbotenen KI-Systemen aus dem EU AI Act

Warum verbietet die EU diese KI-Anwendungen?

Um die Grundrechte der Bürger zu schützen und ethische KI-Entwicklung zu fördern.

Gelten diese Verbote nur für Unternehmen?

Nein, sie gelten für alle Akteure, einschließlich Regierungen und Organisationen.

Gibt es Ausnahmen von diesen Verboten?

Ja, in einigen Fällen, wie bei der Strafverfolgung unter strengen Auflagen. Außerdem gilt die KI-Verordnung nicht für KI-Systeme, die ausschließlich militärischen Zwecken, der Verteidigung oder der nationalen Sicherheit dienen.

Ab wann treten diese Verbote in Kraft?

Die Verbote 1 bis 8 gelten seit dem 2. Februar 2025, die Bußgeldvorschriften dazu seit dem 2. August 2025 (Art. 113 der KI-Verordnung (EU) 2024/1689). Verbot 9 gilt ab dem 2. Dezember 2026. Es kam durch den Digitalen Omnibus hinzu (Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026), der außerdem die Fristen für Hochrisiko-KI-Systeme verschoben hat: auf den 2. Dezember 2027 (Anhang III) und den 2. August 2028 (Anhang I). Stand: November 2026.

Welche Strafen drohen bei Verstößen gegen diese Verbote?

Die Strafen können erheblich sein, mit Geldbußen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes eines Unternehmens, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 3 KI-Verordnung).

Betreffen diese Verbote auch KI-Systeme, die außerhalb der EU entwickelt wurden?

Ja, wenn diese Systeme in der EU in Verkehr gebracht oder eingesetzt werden oder ihre Ergebnisse in der EU verwendet werden.

Wie wirken sich diese Verbote auf die KI-Forschung aus?

Die KI-Verordnung gilt nicht für KI-Systeme, die eigens für die wissenschaftliche Forschung und Entwicklung entwickelt und in Betrieb genommen werden, und auch nicht für Forschung, Tests und Entwicklung vor dem Inverkehrbringen (Art. 2 Abs. 6 und 8). Eine Genehmigung schreibt sie dafür nicht vor. Tests unter Realbedingungen sind von dieser Ausnahme jedoch nicht erfasst.

Können Bürger Verstöße gegen diese Verbote melden?

Ja, jede natürliche oder juristische Person kann bei der zuständigen Marktüberwachungsbehörde Beschwerde einlegen (Art. 85 KI-Verordnung). In Deutschland ist die Bundesnetzagentur seit dem 29. Juli 2026 die zentrale Beschwerdestelle und leitet Beschwerden bei Bedarf an andere zuständige Behörden weiter (Stand: November 2026).

Wie unterscheiden sich die EU-Verbote von KI-Regulierungen in anderen Ländern?

Die EU-Verbote sind umfassender und strenger als in vielen anderen Regionen, insbesondere im Vergleich zu den USA oder China.

Werden diese Verbote die Wettbewerbsfähigkeit europäischer Unternehmen beeinträchtigen?

Es gibt Bedenken, dass strenge Regulierungen die Innovation hemmen könnten. Andererseits könnte dies auch zu vertrauenswürdigeren KI-Lösungen führen, die einen Wettbewerbsvorteil darstellen.

Wie werden kleine Unternehmen und Start-ups von diesen Verboten betroffen sein?

Kleinere Unternehmen könnten vor größeren Herausforderungen stehen, um die Compliance sicherzustellen. Die Verbote gelten auch für sie, die KI-Verordnung sieht aber Unterstützung vor, etwa vorrangigen Zugang zu KI-Reallaboren, Schulungen und Beratung (Art. 62). Bei Bußgeldern gilt für KMU und Start-ups der jeweils niedrigere der beiden Beträge (Art. 99 Abs. 6).