Update Februar 2025: Neue Regelungen zu Verboten und zu KI-Kompetenz in Kraft
Am 2. Februar 2025 sind die ersten Bestimmungen der KI-Verordnung (KI-VO) in Kraft getreten. Kapitel II, Artikel 5 „Verbotene Praktiken im KI-Bereich“, untersagt den Verkauf, die Bereitstellung und die Nutzung bestimmter KI-Systeme, die als besonders schädlich für Grundrechte oder die Sicherheit von Personen gelten. Zu den acht spezifischen Verboten gehören unter anderem die Nutzung von KI-Systemen für unterschwellige Manipulation, die Ausnutzung von Schwachstellen, soziales Scoring, Kriminalitätsvorhersagen, die Erstellung von Gesichtserkennungsdatenbanken durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet, Emotionserkennung in Arbeits- oder Bildungskontexten, biometrische Kategorisierung sowie die biometrische Identifikation in öffentlich zugänglichen Räumen für Strafverfolgungszwecke.
Diese Verbote gelten für alle Organisationen, die solche Systeme in der EU bereitstellen oder nutzen, unabhängig davon, ob die Systeme innerhalb oder außerhalb der EU entwickelt wurden, solange sie Auswirkungen auf Personen in der EU haben.
Zudem werden Anbieter und Betreiber von KI-Systemen verpflichtet sicherzustellen, dass alle in die Bereitstellung und Nutzung eingebundenen Personen – darunter Mitarbeitende und externe Dienstleister – über ausreichende KI-Kompetenz verfügen (Kapitel 1, Artikel 4 „KI-Kompetenz“). Dies bedeutet, dass sie in der Lage sein müssen, KI-Systeme sachkundig einzusetzen, und Kenntnisse über die Chancen, Risiken und potenziellen Schäden dieser Technologien haben. Ziel ist es, durch gezielte Schulungsmaßnahmen und Sensibilisierungsprogramme einen verantwortungsvollen und sicheren Umgang mit KI-Systemen zu gewährleisten. Die EU-Kommission stellt ergänzend Leitlinien bereit, die Unternehmen und Organisationen dabei unterstützen sollen, die Definition eines KI-Systems korrekt anzuwenden und sich auf die Anforderungen des Gesetzes vorzubereiten. Diese Leitlinien sind unverbindlich und werden regelmäßig aktualisiert, um den sich entwickelnden Anforderungen und Erfahrungen mit dem AI-Act gerecht zu werden. Ein weiterer Schwerpunkt der EU liegt auf der Förderung von „KI-Kompetenz“ durch eine offene Plattform, auf der bewährte Schulungspraktiken und Materialien ausgetauscht werden können.
Für Inkassounternehmen, die KI-Technologien nutzen, ist es wichtig, ihre Systeme und Prozesse an diese neuen Vorgaben anzupassen. Sie müssen sicherstellen, dass verbotene Praktiken unterbleiben, und ihre Mitarbeitenden entsprechend schulen, um sowohl den gesetzlichen Anforderungen als auch den ethischen Standards gerecht zu werden.
Hierneben finden Sie Leitlinien der EU-Kommission zu verbotenen Praktiken im Sinne des KI-Gesetzes.
Update 1. August 2024
Die KI-Verordnung wurde am 12. Juli 2024 im EU-Amtsblatt veröffentlicht und ist am 1. August 2024 in Kraft getreten. Das Gesetz wirkt unmittelbar in allen EU-Mitgliedstaaten. Die gültige Verordnung in deutscher Sprache finden Sie hierneben als PDF-Datei.
Nach Inkrafttreten des KI-Gesetzes haben die EU-Mitgliedsstaaten zwei Jahre Zeit, die Vorgaben in nationales Recht umzusetzen. Mit dem KI-Gesetz soll sichergestellt werden, dass KI-Anwendungen den Grundrechten und Werten der EU entsprechen. Es sorgt für Transparenz und sieht unter anderem ein Recht auf Beschwerde vor.
Innerhalb von zwölf Monaten nach Inkrafttreten müssen alle Mitgliedstaaten eine nationale KI-Aufsicht benennen, die die Einhaltung der Regeln überwacht. Die Bundesregierung hat eine schlanke und nutzerorientierte Aufsicht angekündigt; bereits etablierte Aufsichtsstrukturen sollen gestärkt werden.
Update 21. Mai 2024
Der Rat der EU hat die vom Parlament beschlossene Fassung verabschiedet. Die noch nicht technisch redigierte Fassung des Rats in deutscher Sprache finden Sie hierneben zum Download.
Mit der Veröffentlichung im Amtsblatt der EU ist Ende Juni 2024 zu rechnen.
Update 13. März 2024
Das Parlament hat die Verordnung über Künstliche Intelligenz am 13. März 2024 beschlossen.
Die Verordnung wird nun von Rechts- und Sprachsachverständigen abschließend überprüft. Sie dürfte noch vor Ende der Wahlperiode im Rahmen des sogenannten Berichtigungsverfahrens angenommen werden. Auch muss der Rat die neuen Vorschriften noch förmlich annehmen. Die Verordnung tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft und ist – bis auf einige Ausnahmen – 24 Monate nach ihrem Inkrafttreten uneingeschränkt anwendbar.
Update 22. Januar 2024
Hierneben finden Sie ein Dokument mit dem vorläufigen Text der Einigung.
Dezember 2023: Kompromiss von Rat und Parlament
Im Dezember 2023 haben sich Rat und Parlament auf einen Kompromiss zur Verordnung über Künstliche Intelligenz (KI-Verordnung) geeinigt. Grundlage dafür war ein Legislativvorschlag der EU-Kommission aus dem April 2021.
Die KI-Verordnung wird einheitliche Regeln für die Nutzung von Systemen künstlicher Intelligenz (KI) etablieren. Sie ist das weltweit erste Regelwerk dieser Art.
Im Fokus der Verordnung stehen KI-Systeme, die in der Verordnung näher definiert werden – einer der umstritteneren Teile des Gesetzes. Der Grad der Regulierung der KI-Systeme hängt mit den Risiken zusammen, die mit dessen Anwendung „für die Sicherheit, die Lebensgrundlagen und die Rechte des Menschen“ einhergehen. Die Verordnung verfolgt entsprechend einen risikobasierten Regulierungsansatz.
Die Nutzung von KI-Systemen, von denen ein unannehmbares Risiko ausgeht, wird gänzlich verboten werden. Die Verordnung enthält dazu eine Liste von Anwendungen: Manipulative Techniken mit dem Ziel, den freien Willen des Menschen zu umgehen, Systeme, die Schwachstellen ausnutzen, und Social Scoring. Auch KI-Systeme zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sollen verboten werden – soweit es nicht um sicherheitsrelevante Situationen geht.
Die Verordnung beschreibt auch Hochrisiko-KI-Systeme. Diese haben potenziell signifikante Auswirkungen auf die Rechte und Freiheiten von Personen. Hier werden dann strenge Vorgaben etabliert, die erfüllt sein müssen, bevor die KI-Systeme auf den Markt gebracht werden dürfen. Die Liste hochriskanter KI-Systeme umfasst den Bildungssektor, Arbeitgeber-/Arbeitnehmerverhältnisse, kritische Infrastrukturen, öffentliche Dienste, Strafverfolgung, Grenzkontrollen und die Justizverwaltung. Aber auch KI-Systeme, die zur Kreditpunktebewertung oder zur Bewertung der Kreditwürdigkeit natürlicher Personen verwendet werden, werden nach dem Willen des Verordnungsgebers als Hochrisiko-KI eingestuft.
Im Bereich der Hochrisiko-KI gelten für Unternehmen, die sie entwickeln oder einsetzen, umfangreichere Pflichten. So ist eine umfassende Risikobewertung mit Blick auf die im Schutzbereich der Verordnung liegenden Rechtsgüter, insbesondere Sicherheit, Gesundheit, Privatsphäre und die Grundrechte von Personen, durchzuführen. Es gibt vorgaben im Bereich der technischen Standards und umfangreiche Dokumentations- und Transparenzpflichten. Auch werden hohe Qualitätsstandards für die Datensätze definiert, die zur Schulung und Fortentwicklung der KI verwandt werden.