Erstes KI-Gesetz weltweitErstes KI-Gesetz weltweit in der Entstehung

Die Einführung der DSGVO hat die EU als Vorreiter in der digitalen Sicherheit etabliert. Mit dem ersten KI-Gesetz setzt die EU erneut Standards.

Diese Initiative der EU markiert einen wichtigen Schritt als weltweit erstes Gesetz zur klaren Regulierung des Potenzials und der Risiken von Künstlicher Intelligenz (KI). Eine neu geschaffene Behörde wird das Gesetz umsetzen und sich mit allen Aspekten rund um KI-Systeme befassen.

Das „Artificial Intelligence Act“ (AIA) wird mit großem Interesse verfolgt. Die ersten Vorschläge wurden bereits im April 2021 vorgelegt. Im Dezember 2023 einigte sich das EU-Parlament vorläufig auf eine Version des Gesetzes, die nun technisch ausgearbeitet werden muss. Es wird einige Zeit dauern, bis das KI-Gesetz europaweit in Kraft tritt.

Der AIA teilt KI-Systeme in drei Kategorien von Risiken ein. Besonders riskante Konzepte wie staatliche Social-Scoring-Systeme werden gesetzlich untersagt. Zu den am strengsten geregelten Ansätzen gehören jene, die massive Bedrohungen für die Grundrechte der EU-Bürger darstellen.

Ein weiteres Beispiel ist die biometrische Gesichtserkennung im öffentlichen Raum, die nur in bestimmten Fällen erlaubt ist, wie bei der Verfolgung von Straftätern. Das Gesetz verbietet auch die Verbindung biometrischer Daten mit sensiblen Informationen und willkürliche Datenverarbeitung aus Überwachungskameras.

Prozesse, die eine große Menge biometrischer Daten sammeln und bewerten, werden als risikoreich eingestuft. KI-Konzepte, die einer Risikokategorie nicht zugeordnet werden, bleiben unreguliert.

Der AIA enthält Regelungen zur Kennzeichnung von durch KI erzeugten Inhalten und dem Einsatz von Chatbots. Nutzer müssen über die Erfassung und Auswertung ihrer biometrischen Daten informiert werden.

Ähnlich wie bei der DSGVO sieht das KI-Gesetz die Einführung eines Bußgeldkatalogs vor. Unternehmen, die gegen das Gesetz verstoßen, können mit empfindlichen Geldbußen belegt werden. Es ist noch unklar, ob Unternehmen einen KI-Beauftragten benennen müssen.