EU AI Act und Regeln für KI

Kurz: Der EU AI Act ist das erste umfassende KI-Gesetz der Welt. Er teilt KI-Systeme nach Risiko ein und stellt für Hochrisiko-Anwendungen strenge Anforderungen. Er gilt schrittweise seit 2024.

Genauer: Je höher das Risiko für Grundrechte und Sicherheit, desto strenger die Pflichten. Die Fristen laufen gestaffelt bis 2027.

Im Detail

• Verboten: Soziale Bewertung durch Behörden („Social Scoring“), bestimmte biometrische Massenüberwachung, Manipulation durch unterschwellige Techniken, Emotionserkennung am Arbeitsplatz und in der Schule (mit Ausnahmen).
• Hochrisiko: Bewerbung, Kreditvergabe, Bildungszugang, Justiz, Strafverfolgung, kritische Infrastruktur, Medizinprodukte. Pflichten: Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht, Genauigkeit und Sicherheit.
• Transparenz: Nutzer müssen merken, dass sie mit einer KI sprechen. KI-generierte Bilder, Audio und Video (Deepfakes) müssen gekennzeichnet werden.
• Allzweck-Modelle (GPAI): Anbieter großer Modelle müssen technische Dokumentation, Urheberrechts-Richtlinie und eine Zusammenfassung der Trainingsdaten liefern. Für Modelle mit „systemischem Risiko“ gelten zusätzliche Tests und Meldungen.
• Strafen: Bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes bei den schwersten Verstößen.
• Urheberrecht: Text-und-Data-Mining mit Widerspruchsmöglichkeit (Opt-out), Streitfälle laufen vor Gerichten.
• Weitere Rechtsgebiete: DSGVO (personenbezogene Daten), Produkthaftung, Urheberrecht.
• Hinweis: Eine Orientierung, keine Rechtsberatung. Einzelheiten und Fristen ändern sich, im Zweifel Quellen der EU lesen.

Siehe auch: Verzerrung, Fairness und Datenqualität, Datenschutz im Kleingewerbe