KI

Vor einem Jahr hat die Datenethikkommission (DEK) zentrale Handlungsempfehlungen zu den Themen Künstliche Intelligenz (KI), algorithmische Systeme und Datenpolitik vorgestellt.

Diese sollen unter anderem Verbraucher besser vor Fehlentscheidungen und Diskriminierung durch algorithmische Systeme schützen sowie den Umgang mit Daten gestalten. Seither wurde zwar der Prozess zur Etablierung eines Rechtsrahmens für KI auf EU-Ebene vorangetrieben.

Inhaltlich aber bleiben EU-Kommission und Bundesregierung in ihren aktuellen Vorhaben deutlich hinter den Empfehlungen der DEK zurück.

„Die EU-Kommission und die Bundesregierung scheinen dem Druck der Wirtschaft nachzugeben. Das ist enttäuschend und kurzsichtig. Denn das berechtigte Misstrauen der Verbraucher gegenüber algorithmischen Systemen hängt wesentlich mit deren Undurchsichtigkeit zusammen. Würden die Vorschläge der DEK zu Transparenz, Qualitätsstandards und Kontrolle umgesetzt, gäbe es mehr Akzeptanz für den Einsatz solcher Systeme“, sagt Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands (vzbv).

DEK-Empfehlungen nur schleppend umgesetzt

Seitdem die DEK im Oktober 2019 ihre Empfehlungen vorgestellt hat, untersucht der vzbv regelmäßig, ob und wie Bundesregierung und EU-Kommission einige der Empfehlungen, die für Verbraucher besonders wichtig sind, umsetzen. Die aktuelle Evaluation anlässlich des ersten Jahrestags der DEK-Empfehlungen zeigt: Die Umsetzung verläuft nach wie vor schleppend. So hat sich die Bundesregierung im Juni 2020 in ihrer Stellungnahme zum KI-Weißbuch der EU-Kommission zwar für einen differenzierteren risikobasierten Regulierungsansatz von KI ausgesprochen. Das bedeutet, dass die jeweiligen Regeln für KI-Systeme sich nach dem Schaden bemessen, den das System potentiell anrichten kann. Dennoch bleibt die Bundesregierung – ebenso wie die EU-Kommission – vor allem hinsichtlich verbindlicher Transparenz- und Qualitätsvorgaben für risikoreiche Systeme mit deutlichem Schadenspotenzial hinter den Empfehlungen der DEK zurück.

Halbherziges Vorgehen der Bundesregierung

So sind bisher keine Pläne der Bundesregierung bekannt, ein Kompetenzzentrum Algorithmische Systeme einzurichten. Ein solches wäre aber nötig, um bestehende Aufsichtsbehörden durch technischen Sachverstand bei der Kontrolle algorithmischer Systeme zu unterstützen. Weiter fehlt ein deutliches Bekenntnis der Politik zu einem Verbot von De-Anonymisierung und Aufhebung von Pseudonymisierung, mit dem sich die Privatsphäre von Nutzern wirksam schützen ließe. Da algorithmische Systeme bisher anonyme Daten aus verschiedenen Quellen mittlerweile kombinieren und wieder einer Person zuschreiben können, wird diese Frage immer drängender. Auch eine Verschärfung und Konkretisierung des Rechtsrahmens für Profilbildung und Scoring wird nicht angestrebt. „Es bleibt zu hoffen, dass die Bundesregierung die DEK-Empfehlungen bei der Ausarbeitung ihrer im Herbst 2020 erwarteten KI-Strategie sowie bei ihrer Datenstrategie stärker berücksichtigt“, so Müller.

Die Bundesregierung hat die DEK im Juli 2018 eingesetzt. Als Mitglieder wurden neben dem vzbv Vertreter der Wirtschaft, Wissenschaft und Zivilgesellschaft benannt. Der vzbv evaluiert regelmäßig die Umsetzung einiger wesentlicher Empfehlungen der DEK durch die Bundesregierung und die EU-Kommission.

Die komplette Evaluierung der Umsetzung der Empfehlungen der Datenethikkommission finden Sie hier – und zusammengefasst als pdf-Datei im Download-Bereich.

https://www.vzbv.de/sites/default/files/downloads/2020/10/13/20-10-12_vzbv_dek-evaluierung_1jahr.pdf