Zum Inhalt springen

Wissen, das die Welt erhellt

Was ist das EU-KI-Gesetz? Risikokategorien, verbotene Praktiken und Zeitplan

Das KI-Gesetz der Europäischen Union ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Es behandelt den risikobasierten Ansatz, verbotene Praktiken, Hochrisikosysteme, Verpflichtungen für Allzweckmodelle, Strafen und die Auswirkungen auf Unternehmen außerhalb der EU.

Was ist das EU-KI-Gesetz? Risikokategorien, verbotene Praktiken und Zeitplan

Die Europäische Union hat das KI-Gesetz (AI Act) verabschiedet, um sicherzustellen, dass KI-Systeme sicher, transparent und im Einklang mit den Grundrechten sind. Die Verordnung trat am 1. August 2024 in Kraft und ihre Bestimmungen werden schrittweise angewendet. Unternehmen, die KI-Produkte auf dem EU-Markt in Verkehr bringen oder Systeme nutzen, die Menschen in der EU beeinflussen, können unabhängig von ihrem Sitz unter den Anwendungsbereich fallen.

Ein risikobasierter Ansatz

  • Unannehmbares Risiko (verboten): Systeme, die Menschen manipulieren oder ihre Schwachstellen ausnutzen, Social Scoring durch Behörden, Emotionserkennung an Arbeitsplätzen und in Schulen, das Erstellen von Gesichtserkennungsdatenbanken durch Scraping von Bildern aus dem Internet sowie die biometrische Fernidentifizierung in Echtzeit in öffentlichen Räumen durch Strafverfolgungsbehörden (mit begrenzten Ausnahmen).
  • Hohes Risiko: Systeme, die in Bereichen wie Personalwesen, Kreditwürdigkeitsprüfung, Prüfungen und Zulassungen im Bildungswesen, kritische Infrastrukturen, Medizinprodukte und Justiz eingesetzt werden. Diese erfordern Risikomanagement, Datenqualität, menschliche Aufsicht, Protokollierung und Konformitätsbewertung.
  • Begrenztes Risiko (Transparenz): Chatbots müssen Nutzer darüber informieren, dass sie mit einer KI kommunizieren, und Deepfakes sowie KI-generierte Inhalte müssen gekennzeichnet werden.
  • Minimales Risiko: Keine zusätzlichen Verpflichtungen für Anwendungen wie Spam-Filter und KI in Videospielen.

Allzweck-KI-Modelle (General-Purpose AI)

Anbieter von Allzweckmodellen, wie etwa großen Sprachmodellen, müssen technische Dokumentationen erstellen, eine Zusammenfassung ihrer Trainingsdaten veröffentlichen und eine Richtlinie zur Einhaltung der EU-Urheberrechtsregeln vorweisen. Die leistungsstärksten Modelle, denen ein systemisches Risiko zugeschrieben wird, unterliegen zusätzlichen Verpflichtungen wie Risikobewertungen, der Meldung schwerwiegender Vorfälle und Cybersicherheit. Die Europäische Kommission hat einen freiwilligen Kodex zur Unterstützung der Unternehmen bei der Einhaltung veröffentlicht.

Zeitplan

  • 2. Februar 2025: Verbote und die Verpflichtung zur KI-Kompetenz (AI Literacy)
  • 2. August 2025: Regeln für Allzweckmodelle und Governance-Bestimmungen
  • 2. August 2026: Die meisten Regeln für Hochrisikosysteme
  • 2. August 2027: Bestimmte Hochrisikosysteme, die in Produkte integriert sind

Da Änderungen am Zeitplan der Umsetzung vorgeschlagen werden können, prüfen Sie bitte die aktuellen Daten auf den offiziellen Seiten der Europäischen Kommission.

Die Türkei und Unternehmen außerhalb der EU

Türkische Unternehmen, die Produkte oder Dienstleistungen in der EU anbieten, können ebenfalls unter den Anwendungsbereich des Gesetzes fallen. Die Türkei hat noch kein umfassendes, KI-spezifisches Gesetz in Kraft; für personenbezogene Daten gilt das Gesetz zum Schutz personenbezogener Daten (KVKK).

Strafen: Was kostet ein Verstoß?

Das EU-KI-Gesetz (Verordnung 2024/1689) legt hohe Bußgelder fest, die an die Datenschutz-Grundverordnung (DSGVO) erinnern, für Unternehmen, die die Vorschriften nicht einhalten. Je nach Art des Verstoßes werden die Bußgelder als Festbetrag oder als Prozentsatz des weltweiten Jahresumsatzes des Unternehmens festgelegt, je nachdem, welcher Betrag höher ist.

  • Verbotene Praktiken: Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.
  • Verstöße gegen andere Verpflichtungen: Bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes für Verpflichtungen wie die Regeln für Hochrisikosysteme.
  • Falsche oder irreführende Informationen: Bis zu 7,5 Millionen Euro oder 1 Prozent des Umsatzes für die Bereitstellung falscher Informationen gegenüber Behörden.

Für kleine und mittlere Unternehmen sowie Start-ups sieht die Verordnung vor, dass der jeweils niedrigere der beiden Beträge gilt.

Wer setzt das Gesetz durch?

Die Durchsetzung des Gesetzes erfolgt gemeinsam auf EU-Ebene und auf nationaler Ebene. Das Europäische KI-Amt (European AI Office), das 2024 innerhalb der Europäischen Kommission eingerichtet wurde, ist insbesondere für die Überwachung der Regeln für Allzweck-KI-Modelle zuständig und koordiniert die Erstellung von Implementierungshilfen.

Die Mitgliedstaaten wiederum benennen nationale Marktüberwachungsbehörden, die die in ihren Ländern auf dem Markt befindlichen KI-Systeme überwachen. Der KI-Beirat (AI Board), der sich aus Vertretern der Mitgliedstaaten zusammensetzt, strebt eine einheitliche Anwendung an, während ein wissenschaftliches Gremium aus unabhängigen Experten zu technischen Fragen berät. Die Verordnung verpflichtet zudem jeden Mitgliedstaat, mindestens eine „regulatorische Sandbox“ einzurichten, in der Unternehmen neue Systeme unter Aufsicht testen können.

Funktionen, Pläne und Preise von KI-Tools ändern sich häufig. Überprüfen Sie immer die offizielle Seite des Tools für aktuelle Informationen.

Dieser Artikel dient der allgemeinen Information und stellt keine Rechtsberatung dar.

Quellen und weiterführende Literatur

  1. Europäische Union, Artificial Intelligence Act, Verordnung (EU) 2024/1689, Amtsblatt (12. Juli 2024).
  2. Europäische Kommission, Informationsseiten zum „AI Act“ und Zeitplan der Umsetzung.
  3. Europäische Kommission, „General-Purpose AI Code of Practice“ (Juli 2025).
  4. EUR-Lex – Verordnung (EU) 2024/1689 (Artificial Intelligence Act), Artikel 99
  5. Europäische Kommission – European AI Office
Teilen
Folgen Sie YulaHubErfahren Sie die wichtigsten Nachrichten des Tages als Erste.
RSS

Kommentar hinterlassen

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert