Resume | EU AI Act | 4 Risikoklassen

260302 EU AI Act – 4 Risikoklassen.pdf

PDF herunterladen • 972KB

Zusammenfassung der 4 Risikoklassen, auf die der EU AI Act seinen Ansatz stützt, mit Beispielen für das Personalwesen (HR) sowie für Marketing und KMUs:

1. Unannehmbares Risiko (Verbotene KI-Praktiken) Systeme in dieser Kategorie weisen ein unannehmbares Risiko auf und sind daher grundsätzlich verboten.

• Beispiel für HR/Personalwesen: Der Einsatz von KI-Systemen zur Ableitung von Emotionen der Mitarbeitenden im Büro (z.B. am Arbeitsplatz oder in Bewerbungsgesprächen) ist untersagt.

• Beispiel für Marketing/Werbung: Eine unterschwellige Beeinflussung oder die gezielte Ausnutzung von Schwächen oder der Schutzbedürftigkeit von Zielgruppen sind ebenfalls verboten.

2. Hohes Risiko (Strenge Auflagen) Für diese Systeme gelten umfangreiche Pflichten, wie etwa die Gewährleistung menschlicher Aufsicht, das Führen einer technischen Dokumentation und der Betrieb eines Risikomanagementsystems.

• Beispiel für HR/Personalwesen: Die Nutzung von KI im Bereich der Beschäftigung und des Personalmanagements (etwa zur Auswahl von Bewerbern in einem KMU) wird als Hochrisiko-KI eingestuft. Solche Prozesse erfordern beispielsweise eine Datenschutz-Folgenabschätzung (DSFA) und müssen fortlaufend auf schwerwiegende Vorfälle überwacht werden.

3. Begrenztes Risiko (Transparenzpflichten) Bei Systemen mit begrenztem Risiko stehen vor allem Transparenzpflichten im Vordergrund.

• Beispiel für Marketing/Werbung: Setzt eine Werbeagentur oder ein KMU generative KI ein, um Texte (z.B. Werbetexte), Bilder oder Deepfakes zu erstellen, so muss nach Art. 50 AI Act darüber informiert werden.

• Beispiel für KMUs: Auch der klassische Chatbot auf der Unternehmenswebsite für den Kundensupport fällt in diese Klasse. Hier müssen Kunden erkennen können, dass sie mit einer KI interagieren.

4. Minimales Risiko (Keine speziellen Pflichten) Diese KI-Anwendungen unterliegen keinen gesonderten Pflichten aus dem AI Act.

• Beispiel für alle KMUs und Agenturen: Herkömmliche Spam-Filter im E-Mail-Postfach, die Diktierfunktion in Office-Anwendungen oder einfache Suchalgorithmen gehören zu den Systemen mit minimalem Risiko und können weiterhin ohne regulatorische Einschränkungen im Geschäftsalltag genutzt werden.