Was erfordert die Einhaltung des EU AI Act?

TL;DR

Der EU AI Act, der im August 2024 in Kraft trat, stellt umfassende Compliance Anforderungen an Organisationen, die KI-Systeme auf dem EU-Markt bereitstellen. Die Regelungen basieren auf einem vierstufigen Risikomodell und beinhalten unter anderem Transparenzpflichten, Dokumentationsanforderungen und hohe Bußgelder bei Nichteinhaltung. Die Umsetzung erfolgt schrittweise bis 2027.

Hauptinhalt

Der EU AI Act ist die erste umfassende Regulierung für Künstliche Intelligenz weltweit und richtet sich an alle Organisationen, die KI-Systeme in der EU bereitstellen oder deren Ergebnisse in der EU verwendet werden. Die Regelungen sind in Phasen bis 2027 umzusetzen, wobei bereits einige Anforderungen in Kraft sind. Der Act unterscheidet zwischen vier Risikokategorien, die bestimmen, welche regulatorischen Verpflichtungen für ein KI-System gelten.

Die erste Kategorie ist der Bereich des inakzeptablen Risikos, in dem bestimmte Praktiken wie manipulative Techniken, soziale Bewertungssysteme und die Nutzung von Gesichtserkennung ohne Einwilligung verboten sind. Diese Regelungen sind seit Februar 2025 in Kraft.

Die zweite Kategorie umfasst hochriskante Systeme, die strengen Compliance Anforderungen unterliegen. Diese Systeme werden in zwei Gruppen unterteilt: Systeme, die als Sicherheitskomponente oder Produkt unter bestehende EU-Sicherheitsvorschriften fallen, und Systeme, die in sensiblen Bereichen wie Bildung, Strafverfolgung oder kritischer Infrastruktur eingesetzt werden. Für hochriskante Systeme sind umfassende Dokumentations-, Test- und Protokollierungspflichten erforderlich.

Die dritte Kategorie umfasst Systeme mit begrenztem Risiko, die sich auf Transparenz- und Offenlegungspflichten konzentrieren. Anbieter müssen sicherstellen, dass Nutzer erkennen, dass sie mit einem KI-System interagieren, und generierte Inhalte als solche kennzeichnen. Diese Anforderungen gelten beispielsweise für Chatbots und Deepfake-Technologien.

Die vierte Kategorie ist der Bereich des minimalen Risikos, in dem die meisten derzeit auf dem Markt befindlichen KI-Systeme, wie Spamfilter und Empfehlungsalgorithmen, fallen. Für diese Systeme gelten keine spezifischen regulatorischen Verpflichtungen, jedoch wird die Einhaltung freiwilliger Verhaltensrichtlinien empfohlen.

Technische Details/Implikationen

Die Einhaltung des EU AI Act erfordert von Unternehmen, dass sie ihre Entwicklungs- und Betriebsabläufe gründlich überprüfen. Insbesondere für hochriskante Systeme ist eine umfangreiche Dokumentation und Nachverfolgbarkeit der Daten und Entscheidungen unabdingbar. Die Verpflichtung zur Transparenz in der dritten Risikokategorie erfordert technische Implementierungen, die sicherstellen, dass Nutzer klar erkennen, wann sie mit KI interagieren. Bei Nichteinhaltung drohen erhebliche Strafen von bis zu 35 Millionen Euro oder 7 % des globalen Umsatzes, die von nationalen Behörden und dem EU AI Office durchgesetzt werden.

Fazit/Ausblick

Die Einführung des EU AI Act stellt eine bedeutende Herausforderung und Chance für Unternehmen dar, die KI-Technologien entwickeln und einsetzen. Die schrittweise Umsetzung der Anforderungen bietet Zeit für Anpassungen, erfordert jedoch proaktive Maßnahmen zur Sicherstellung der Compliance in allen Phasen des Lebenszyklus von KI-Systemen.