Der BDIU hat sich an der Konsultation der Europäischen Kommission zum Leitlinienentwurf zur Einstufung von Hochrisiko-KI-Systemen nach Art. 6 der KI-Verordnung (KI-VO) beteiligt. Im Mittelpunkt der Stellungnahme stand die Frage, ob KI-Systeme, die im Inkasso eingesetzt werden, unter die in Anhang III der KI-VO genannten Hochrisiko-Anwendungsfälle fallen können, insbesondere im Zusammenhang mit Entscheidungen über den Zugang natürlicher Personen zu Finanzdienstleistungen oder grundlegenden Dienstleistungen nach Anhang III Nr. 5 (b) KI-VO.
Die Position des BDIU ist, dass KI-Anwendungen im Inkasso grundsätzlich nicht die Voraussetzungen eines Hochrisiko-KI-Systems im Sinne der KI-Verordnung erfüllen.
Die wesentlichen Argumente des BDIU:
- KI-Systeme im Inkasso treffen grundsätzlich keine Entscheidungen über den Zugang zu Finanzdienstleistungen oder grundlegenden Dienstleistungen. Sie unterstützen vielmehr interne Bearbeitungs- und Entscheidungsprozesse im Zusammenhang mit der Durchsetzung bereits bestehender Forderungen.
- Im Inkassofall bestand der Zugang zur betreffenden Leistung bereits. Anders als beispielsweise bei Kreditvergaben oder Versicherungsentscheidungen geht es nicht um die Gewährung oder Verweigerung einer Leistung, sondern um die Abwicklung einer bereits eingegangenen Zahlungsverpflichtung.
- Inkassodienstleistungen selbst stellen weder Finanzdienstleistungen noch grundlegende private oder öffentliche Dienstleistungen im Sinne von Anhang III Nr. 5 KI-VO dar.
Diese Positionierung entspricht den Aussagen des kürzlich veröffentlichten Whitepaper des BDIU „Der Einsatz künstlicher Intelligenz im Inkasso“. Danach haben KI-Systeme, die ausschließlich der internen Fallbearbeitung oder der Unterstützung von Inkassoprozessen dienen, regelmäßig keinen direkten Einfluss auf den Zugang natürlicher Personen zu grundlegenden privaten oder öffentlichen Dienstleistungen im Sinne von Art. 6 KI-VO i. V. m. Anhang III Nr. 5.
Hintergrund: Warum ist die Einstufung als Hochrisiko-KI relevant?
Mit dem schrittweisen Inkrafttreten der KI-Verordnung veröffentlicht die Europäische Kommission Leitlinien, um eine möglichst einheitliche Anwendung der neuen Vorschriften innerhalb der Europäischen Union zu fördern. Der aktuelle Leitlinienentwurf konkretisiert insbesondere die Anwendung von Art. 6 KI-VO und soll Unternehmen, Behörden und Marktüberwachungsstellen als Orientierung dienen.
Die Einstufung eines KI-Systems als Hochrisiko-KI-System hat umfangreiche regulatorische Folgen. Für solche Systeme gelten die Anforderungen des Kapitels III der KI-Verordnung, unter anderem zu Risikomanagement, Datenqualität und Governance, technischer Dokumentation, Protokollierung, Transparenz, menschlicher Aufsicht sowie Konformitätsbewertung.
Der Leitlinienentwurf der Europäischen Kommission ist hier abrufbar: