Der KI-Gesetzesentwurf der EU:
Ein Überblick über die Regulierung von Künstlicher Intelligenz

Compliance-Anforderungen gemäß EU AI Act

Unternehmen, die KI-Technologien entwickeln, vertreiben oder einsetzen, müssen sich auf umfassende regulatorische Vorgaben einstellen. Der EU AI Act verpflichtet insbesondere Anbieter und Betreiber von Hochrisiko-KI-Systemen zur Einhaltung strenger Compliance-Anforderungen. Zu den zentralen Pflichten gehören:

• Risikomanagement: Unternehmen müssen ein kontinuierliches Risikomanagement-System implementieren, das potenzielle Gefahren für Gesundheit, Sicherheit und Grundrechte systematisch identifiziert, bewertet und minimiert.

• Technische Dokumentation: Hochrisiko-KI-Systeme erfordern eine ausführliche technische Dokumentation. Diese muss unter anderem Informationen zur Systemarchitektur, zu Trainingsdaten, zur Zweckbestimmung sowie zu den angewandten Validierungs- und Testverfahren enthalten.

• Überwachung und Logging: Eine fortlaufende Überwachung des KI-Systems während des Betriebs ist verpflichtend. Ergänzend dazu müssen aussagekräftige Protokolle (Logs) geführt werden, um die Nachvollziehbarkeit von Entscheidungen sicherzustellen und die Einhaltung regulatorischer Anforderungen zu belegen.

Internationale Perspektiven

Mit dem EU AI Act verfolgt die Europäische Union einen weltweit beachteten, verbindlichen Regulierungsansatz zur Steuerung von Künstlicher Intelligenz. Im Gegensatz dazu setzen Länder wie die Vereinigten Staaten stärker auf freiwillige Leitlinien und strategische Investitionen. Ein Beispiel ist der „National Artificial Intelligence Initiative Act“, der auf die Förderung von Forschung, Entwicklung und Anwendung von KI-Technologien abzielt, ohne verbindliche regulatorische Auflagen wie in der EU. Diese unterschiedlichen Herangehensweisen verdeutlichen die globale Spannbreite beim Umgang mit den Chancen und Risiken von KI – von rechtsverbindlicher Regulierung bis hin zu marktorientierten Anreizsystemen.

Umsetzung des EU AI Act

Der EU AI Act tritt voraussichtlich am 1. August 2024 in Kraft. Für die Umsetzung der neuen Anforderungen gelten gestaffelte Übergangsfristen: Unternehmen haben in der Regel bis Februar 2025 Zeit, um ihre Prozesse, Dokumentationen und Systeme an die neuen gesetzlichen Vorgaben anzupassen – insbesondere im Bereich der Hochrisiko-KI. Daher ist es für Unternehmen essenziell, bereits jetzt mit der Analyse bestehender KI-Systeme und der Implementierung notwendiger Compliance-Maßnahmen zu beginnen.

Herausforderungen für Unternehmen

Die Umsetzung des EU AI Act stellt viele Unternehmen vor erhebliche Herausforderungen. Es gilt, interne Governance-Strukturen anzupassen, neue Dokumentations- und Risikomanagementprozesse zu etablieren und gleichzeitig die Innovationsfähigkeit zu erhalten. Die Balance zwischen regulatorischer Sicherheit und unternehmerischer Agilität wird entscheidend sein. Zwar kann der EU AI Act dazu beitragen, das Vertrauen von Nutzenden und der Öffentlichkeit in KI-Systeme zu stärken – zugleich besteht jedoch das Risiko, dass hohe regulatorische Hürden insbesondere kleinere Unternehmen und Start-ups bei der schnellen Entwicklung neuer KI-Anwendungen bremsen.

Handlungsempfehlungen für Unternehmen

Um den Anforderungen des EU AI Act gerecht zu werden, ergreifen Unternehmen idealerweise frühzeitig konkrete Maßnahmen. Folgende Schritte bieten eine sinnvolle Orientierung:

• Identifizieren bestehender KI-Systeme: Unternehmen verschaffen sich einen vollständigen Überblick über alle eingesetzten KI-Anwendungen und ordnen diese den im EU AI Act definierten Risikokategorien zu – mit besonderem Fokus auf Hochrisiko-Systeme.

• Durchführen einer Gap-Analyse: Sie analysieren bestehende Prozesse und Systeme hinsichtlich der neuen regulatorischen Vorgaben und definieren konkrete Maßnahmen zur Schließung identifizierter Lücken.

• Aufbauen von Governance-Strukturen: Unternehmen etablieren klare Zuständigkeiten für KI-Compliance, z. B. durch einen KI-Verantwortlichen oder ein interdisziplinäres Governance-Team.

• Schulen der Mitarbeitenden: Sie sensibilisieren Fachabteilungen, Entwickler*innen und Führungskräfte für die Anforderungen des EU AI Act und fördern ein gemeinsames Verständnis für verantwortungsvolle KI-Nutzung.

• Implementieren technischer und organisatorischer Maßnahmen: Unternehmen integrieren Prozesse zur Risikoüberwachung, Dokumentation, Nachvollziehbarkeit und Qualitätssicherung direkt in den Lebenszyklus ihrer KI-Systeme.

• Beobachten regulatorischer Entwicklungen: Sie verfolgen kontinuierlich die Ausgestaltung des EU AI Act – insbesondere die Konkretisierungen durch technische Standards und Leitlinien – und passen ihre internen Maßnahmen entsprechend an.

Das KI-Gesetz der Europäischen Union hat erhebliche Auswirkungen auf die Entwicklung und den Einsatz von Künstlicher Intelligenz innerhalb der EU. Unternehmen stehen nun in der Verantwortung, nicht nur gesetzeskonform zu handeln, sondern auch aktiv Verantwortung zu übernehmen, um das Vertrauen der Nutzer zu gewinnen. Es bleibt spannend zu beobachten, wie sich die Landschaft der Künstlichen Intelligenz in den kommenden Jahren entwickeln wird und welche Rolle Staaten bei der Regulierung und Förderung von KI spielen.