Update 13. März 2024
Das Parlament hat die Verordnung über Künstliche Intelligenz am 13. März 2024 beschlossen.
Die Verordnung wird nun von Rechts- und Sprachsachverständigen abschließend überprüft. Sie dürfte noch vor Ende der Wahlperiode im Rahmen des sogenannten Berichtigungsverfahrens angenommen werden. Auch muss der Rat die neuen Vorschriften noch förmlich annehmen. Die Verordnung tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft und ist – bis auf einige Ausnahmen – 24 Monate nach ihrem Inkrafttreten uneingeschränkt anwendbar.
Update 22. Januar 2024
Hierneben finden Sie ein Dokument mit dem vorläufigen Text der Einigung.
Dezember 2023: Kompromiss von Rat und Parlament
Im Dezember 2023 haben sich Rat und Parlament auf einen Kompromiss zur Verordnung über Künstliche Intelligenz (KI-Verordnung) geeinigt. Grundlage dafür war ein Legislativvorschlag der EU-Kommission aus dem April 2021.
Die KI-Verordnung wird einheitliche Regeln für die Nutzung von Systemen künstlicher Intelligenz (KI) etablieren. Sie ist das weltweit erste Regelwerk dieser Art.
Im Fokus der Verordnung stehen KI-Systeme, die in der Verordnung näher definiert werden – einer der umstritteneren Teile des Gesetzes. Der Grad der Regulierung der KI-Systeme hängt mit den Risiken zusammen, die mit dessen Anwendung „für die Sicherheit, die Lebensgrundlagen und die Rechte des Menschen“ einhergehen. Die Verordnung verfolgt entsprechend einen risikobasierten Regulierungsansatz.
Die Nutzung von KI-Systemen, von denen ein unannehmbares Risiko ausgeht, wird gänzlich verboten werden. Die Verordnung enthält dazu eine Liste von Anwendungen: Manipulative Techniken mit dem Ziel, den freien Willen des Menschen zu umgehen, Systeme, die Schwachstellen ausnutzen, und Social Scoring. Auch KI-Systeme zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sollen verboten werden – soweit es nicht um sicherheitsrelevante Situationen geht.
Die Verordnung beschreibt auch Hochrisiko-KI-Systeme. Diese haben potenziell signifikante Auswirkungen auf die Rechte und Freiheiten von Personen. Hier werden dann strenge Vorgaben etabliert, die erfüllt sein müssen, bevor die KI-Systeme auf den Markt gebracht werden dürfen. Die Liste hochriskanter KI-Systeme umfasst den Bildungssektor, Arbeitgeber-/Arbeitnehmerverhältnisse, kritische Infrastrukturen, öffentliche Dienste, Strafverfolgung, Grenzkontrollen und die Justizverwaltung. Aber auch KI-Systeme, die zur Kreditpunktebewertung oder zur Bewertung der Kreditwürdigkeit natürlicher Personen verwendet werden, werden nach dem Willen des Verordnungsgebers als Hochrisiko-KI eingestuft.
Im Bereich der Hochrisiko-KI gelten für Unternehmen, die sie entwickeln oder einsetzen, umfangreichere Pflichten. So ist eine umfassende Risikobewertung mit Blick auf die im Schutzbereich der Verordnung liegenden Rechtsgüter, insbesondere Sicherheit, Gesundheit, Privatsphäre und die Grundrechte von Personen, durchzuführen. Es gibt vorgaben im Bereich der technischen Standards und umfangreiche Dokumentations- und Transparenzpflichten. Auch werden hohe Qualitätsstandards für die Datensätze definiert, die zur Schulung und Fortentwicklung der KI verwandt werden.