AI Act geleakt - So will die EU die Künstliche Intelligenz regulieren
Der Gesetzestext zum "AI Act" der EU wurde geleakt. Der AI Act ist die erste umfassende gesetzliche Regelung für Künstliche Intelligenz (KI) weltweit. Er soll sicherstellen, dass KI-Systeme in der EU sicher sind und die Grundrechte und EU-Werte respektieren.
Der AI Act unterscheidet zwischen drei Risikostufen von KI-Systemen:
- Hohes Risiko: KI-Systeme mit hohem Risiko sind diejenigen, die eine erhebliche Gefahr für die Gesundheit, Sicherheit oder Rechte von Personen darstellen können. Dazu gehören beispielsweise KI-Systeme, die für autonomes Fahren, biometrische Gesichtserkennung oder die Bewertung von Kreditwürdigkeit verwendet werden.
- Mittleres Risiko: KI-Systeme mit mittlerem Risiko sind diejenigen, die eine potenzielle Gefahr für die Gesundheit, Sicherheit oder Rechte von Personen darstellen können. Dazu gehören beispielsweise KI-Systeme, die für Personalauswahl, Strafverfolgung oder die Bewertung von Gesundheitsdaten verwendet werden.
- Geringes Risiko: KI-Systeme mit geringem Risiko sind diejenigen, die keine oder nur eine geringe Gefahr für die Gesundheit, Sicherheit oder Rechte von Personen darstellen. Dazu gehören beispielsweise KI-Systeme, die für die Werbung, die personalisierte Produktvorschläge oder die Spracherkennung verwendet werden.
KI-Systeme mit hohem Risiko unterliegen den strengsten Vorschriften. Sie müssen vor ihrer Markteinführung von einer unabhängigen Stelle geprüft und zertifiziert werden. Außerdem müssen sie mit technischen und organisatorischen Maßnahmen vor Missbrauch geschützt werden.
KI-Systeme mit mittlerem Risiko unterliegen ebenfalls bestimmten Vorschriften. Sie müssen beispielsweise über eine Risikoanalyse verfügen und geeignete Maßnahmen zur Risikominderung ergreifen.
KI-Systeme mit geringem Risiko unterliegen nur wenigen Vorschriften. Sie müssen beispielsweise über eine Dokumentation verfügen und die Grundsätze der Transparenz und Fairness einhalten.
Der AI Act enthält auch Verbote für bestimmte Arten von KI-Systemen. Dazu gehören beispielsweise KI-Systeme, die für soziales Scoring verwendet werden, oder KI-Systeme, die dazu verwendet werden, Menschen zu manipulieren oder auszunutzen.
Der AI Act ist ein wichtiger Meilenstein in der Regulierung von KI. Er soll dazu beitragen, dass KI in der EU sicher und verantwortungsvoll eingesetzt wird.
Konkrete Regelungen des AI Act
Der AI Act enthält eine Reihe von konkreten Regelungen, die die Sicherheit und Verantwortlichkeit von KI-Systemen gewährleisten sollen. Dazu gehören unter anderem:
- Ein Grundsatzkatalog für KI-Systeme: Dieser Katalog enthält allgemeine Grundsätze, die für alle KI-Systeme gelten, unabhängig von ihrer Risikostufe. Dazu gehören beispielsweise die Grundsätze der Transparenz, Fairness, Nichtdiskriminierung, Sicherheit und Rechenschaftspflicht.
- Vorschriften für KI-Systeme mit hohem Risiko: Diese Vorschriften sind besonders streng und sollen die Risiken dieser Systeme minimieren. Dazu gehören unter anderem die Pflicht zur Zertifizierung, die Pflicht zur Risikoanalyse und die Pflicht zur Implementierung von technischen und organisatorischen Maßnahmen zum Schutz vor Missbrauch.
- Verbote für bestimmte Arten von KI-Systemen: Diese Verbote sollen verhindern, dass KI für schädliche Zwecke eingesetzt wird. Dazu gehören unter anderem das Verbot von KI-Systemen für soziales Scoring und das Verbot von KI-Systemen, die dazu verwendet werden, Menschen zu manipulieren oder auszunutzen.
Auswirkungen des AI Act
Der AI Act wird voraussichtlich weitreichende Auswirkungen auf die Entwicklung und den Einsatz von KI in der EU haben. Er wird dazu beitragen, dass KI-Systeme in der EU sicherer und verantwortungsvoller eingesetzt werden. Dies wird auch neue Geschäftsmöglichkeiten für Unternehmen schaffen, die KI-Systeme entwickeln und einsetzen.
Der AI Act wird jedoch auch zu einigen Herausforderungen führen. So ist es schwierig, KI-Systeme genau zu bewerten und zu klassifizieren. Außerdem ist es nicht immer einfach, technische und organisatorische Maßnahmen zum Schutz vor Missbrauch zu implementieren.
Insgesamt ist der AI Act ein wichtiger Schritt in die richtige Richtung. Er wird dazu beitragen, dass KI in der EU sicher und verantwortungsvoll eingesetzt wird.
