Mitgliederinformationen

Verordnung über künstliche Intelligenz

Update 22. Januar 2024

Hierneben finden Sie ein Dokument mit dem vorläufigen Text der Einigung.

Dezember 2023: Kompromiss von Rat und Parlament 

Im Dezember 2023 haben sich Rat und Parlament auf einen Kompromiss zur Verordnung über Künstliche Intelligenz (KI-Verordnung) geeinigt. Grundlage dafür war ein Legislativvorschlag der EU-Kommission aus dem April 2021.

Die KI-Verordnung wird einheitliche Regeln für die Nutzung von Systemen künstlicher Intelligenz (KI) etablieren. Sie ist das weltweit erste Regelwerk dieser Art. 

Im Fokus der Verordnung stehen KI-Systeme, die in der Verordnung näher definiert werden – einer der umstritteneren Teile des Gesetzes. Der Grad der Regulierung der KI-Systeme hängt mit den Risiken zusammen, die mit dessen Anwendung „für die Sicherheit, die Lebensgrundlagen und die Rechte des Menschen“ einhergehen. Die Verordnung verfolgt entsprechend einen risikobasierten Regulierungsansatz.

Die Nutzung von KI-Systemen, von denen ein unannehmbares Risiko ausgeht, wird gänzlich verboten werden. Die Verordnung enthält dazu eine Liste von Anwendungen: Manipulative Techniken mit dem Ziel, den freien Willen des Menschen zu umgehen, Systeme, die Schwachstellen ausnutzen, und Social Scoring. Auch KI-Systeme zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sollen verboten werden – soweit es nicht um sicherheitsrelevante Situationen geht.

Die Verordnung beschreibt auch Hochrisiko-KI-Systeme. Diese haben potenziell signifikante Auswirkungen auf die Rechte und Freiheiten von Personen. Hier werden dann strenge Vorgaben etabliert, die erfüllt sein müssen, bevor die KI-Systeme auf den Markt gebracht werden dürfen. Die Liste hochriskanter KI-Systeme umfasst den Bildungssektor, Arbeitgeber-/Arbeitnehmerverhältnisse, kritische Infrastrukturen, öffentliche Dienste, Strafverfolgung, Grenzkontrollen und die Justizverwaltung. Aber auch KI-Systeme, die zur Kreditpunktebewertung oder zur Bewertung der Kreditwürdigkeit natürlicher Personen verwendet werden, werden nach dem Willen des Verordnungsgebers als Hochrisiko-KI eingestuft.

Im Bereich der Hochrisiko-KI gelten für Unternehmen, die sie entwickeln oder einsetzen, umfangreichere Pflichten. So ist eine umfassende Risikobewertung mit Blick auf die im Schutzbereich der Verordnung liegenden Rechtsgüter, insbesondere Sicherheit, Gesundheit, Privatsphäre und die Grundrechte von Personen, durchzuführen. Es gibt vorgaben im Bereich der technischen Standards und umfangreiche Dokumentations- und Transparenzpflichten. Auch werden hohe Qualitätsstandards für die Datensätze definiert, die zur Schulung und Fortentwicklung der KI verwandt werden.

Nächste Schritte

Die erreichte politische Einigung muss nun noch vom Europäischen Parlament und vom Rat förmlich gebilligt werden und wird 20 Tage nach der Veröffentlichung im Amtsblatt in Kraft treten. Die KI-Verordnung würde dann zwei Jahre nach Inkrafttreten anwendbar werden, mit Ausnahme einiger spezifischer Bestimmungen: Verbote werden bereits nach 6 Monaten gelten, während die Vorschriften für KI für allgemeine Zwecke erst nach 12 Monaten gelten werden.

Um die Übergangszeit bis zur allgemeinen Anwendbarkeit der Verordnung zu überbrücken, wird die Kommission einen "KI-Pakt" ins Leben rufen. Er wird KI-Entwickler aus Europa und der ganzen Welt zusammenbringen, die sich auf freiwilliger Basis verpflichten, wichtige Verpflichtungen der KI-Verordnung bereits vor den gesetzlichen Fristen umzusetzen.