Die Europäische Kommission hat Entwürfe für Leitlinien zur Umsetzung der KI-Verordnung (AI Act) veröffentlicht.
Leitlinien zur Einstufung von Hochrisiko-KI-Systemen
Ein Leitlinienentwurf befasst sich mit der Frage, wann ein KI-System in die Kategorie der Hochrisiko-KI fällt und damit besonderen Anforderungen unterliegt, etwa im Bereich des Risikomanagements, der Datengovernance oder der technischen Dokumentation.
Inhaltlich orientieren sich die Leitlinien an der Struktur des Art. 6 KI-VO, wonach ein KI-System im Wesentlichen in zwei Fallgruppen als Hochrisiko-KI eingestuft werden kann:
- Nach Art. 6 Abs. 1 KI-VO werden KI-Systeme erfasst, die als Sicherheitskomponente eines Produkts eingesetzt werden oder selbst ein solches Produkt darstellen, sofern das Produkt unter eine in Anhang I genannte Harmonisierungsrechtsvorschrift der EU fällt und einer Konformitätsbewertung durch Dritte unterliegt.
- Art. 6 Abs. 2 KI-VO betrifft KI-Systeme, die für besonders sensible Anwendungsbereiche nach Anhang III bestimmt sind, beispielsweise in den Bereichen Bildung, Beschäftigung, Strafverfolgung, kritische Infrastrukturen oder beim Zugang zu grundlegenden privaten und öffentlichen Dienstleistungen, etwa Finanzdienstleistungen.
Für die Inkassowirtschaft ist diese Einordnung von Relevanz, da Unternehmen bereits heute KI-gestützte Verfahren zur Fallpriorisierung, Zahlungswahrscheinlichkeitsprognose oder zur Unterstützung von Vergleichs- und Ratenzahlungsangeboten einsetzen.
Nach derzeitiger Einschätzung dürften typische interne KI-Anwendungen im Inkasso regelmäßig nicht als Hochrisiko-KI einzustufen sein. Das BDIU-Whitepaper „Der Einsatz Künstlicher Intelligenz im Inkasso“ kommt zu dem Ergebnis, dass Inkasso-Priorisierungssysteme primär der internen Prozesssteuerung dienen und nicht unmittelbar über den Zugang zu Finanzmitteln oder wesentlichen Dienstleistungen entscheiden.
Gleichwohl könnten die vorgeschlagenen Leitlinien die Abgrenzung zwischen zulässiger Prozessunterstützung und hochrisikorelevanter KI-Anwendung weiter konkretisieren.
Der Entwurf wird derzeit in den BDIU-Gremien analysiert. Sollte sich daraus eine veränderte Bewertung der Einstufung von in der Inkassowirtschaft eingesetzten KI-Systemen ergeben, wird der BDIU seine Mitglieder entsprechend informieren.
Leitlinien zu den Transparenzverpflichtungen nach dem AI Act
Parallel dazu hat die Kommission einen Entwurf von Leitlinien zu den Transparenzpflichten nach Art. 50 KI-VO veröffentlicht.
Diese Vorgaben betreffen insbesondere KI-Systeme, die mit natürlichen Personen interagieren, beispielsweise Chatbots oder Voicebots. Nutzer müssen grundsätzlich darüber informiert werden, wenn sie mit einem KI-System kommunizieren.
Für Inkassounternehmen sind die Transparenzpflichten unter anderem beim Einsatz KI-gestützter Schuldnerkommunikation relevant.