Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
Datum: 27.10.2021

KI: Bundesregierung setzt Empfehlungen von Datenethikkommission nicht ausreichend um

Zweite Jahresbilanz zeigt Handlungsbedarf der künftigen Bundesregierung auf

  • Scheidende Bundesregierung und EU-Kommission bleiben hinter DEK-Empfehlungen zurück.
  • Größter Nachholbedarf: Kaum Transparenz und Nachvollziehbarkeit von KI-Systemen für betroffene Verbraucher:innen.
  • vzbv: Künftige Bundesregierung muss sich im Koalitionsvertrag zum Schutz vor Diskriminierung durch KI-Systeme bekennen.
vege - fotolia.com

Quelle: vege - AdobeStock

Künstliche Intelligenz und Algorithmen beeinflussen unseren Alltag immer stärker. Versicherungen berechnen damit ihre Prämien, Unternehmen bestimmen damit, welchen Zugang Verbraucher:innen zu Angeboten bekommen, zum Beispiel bei Vermittlungsplattformen. Die von der Bundesregierung eingesetzte Datenethikkommission (DEK) hat deshalb vor zwei Jahren Handlungsempfehlungen zu den Themen Künstliche Intelligenz (KI), algorithmische Systeme und Datenpolitik vorgestellt. Diese sollen den Umgang mit Daten gestalten und Verbraucher:innen besser vor Fehlentscheidungen und Diskriminierung schützen. In den aktuellen Vorhaben der Bundesregierung und EU-Kommission fehlen aus Verbrauchersicht weiterhin zentrale Aspekte.

„In der Gesamtschau bleiben Bundesregierung und EU-Kommission mit ihren aktuellen Vorhaben weiter hinter den Empfehlungen der DEK zurück. Vieles ist zu unkonkret und unverbindlich“, sagt Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands (vzbv). „Die künftige Bundesregierung muss sich zum Schutz der Nutzerinnen und Nutzer vor Diskriminierung durch KI-Systeme bekennen. Sie muss sich für Nachvollziehbarkeit und unabhängige Kontrollen von KI-Systemen einsetzen und dies mit Nachdruck auch auf europäischer Ebene vertreten. Nur so können das Vertrauen und die Akzeptanz für den Einsatz dieser Technologien bei den Verbraucherinnen und Verbrauchern gestärkt werden.“

Transparenz und Nachvollziehbarkeit fehlt

Der vzbv untersucht regelmäßig, ob und wie Bundesregierung und EU-Kommission die Empfehlungen der DEK umsetzen. Im Oktober 2020 erschien die erste, ernüchternde Jahresbilanz. Auch ein Jahr später fällt das Urteil kritisch aus.

Größte Baustelle sind aus vzbv-Sicht die Themen Transparenz und Risikofolgenabschätzung von KI-Systemen. Es braucht unabhängige Kontrollen von kritischen KI-Systemen, die zum Beispiel zur Profilbildung und für Scoring genutzt werden. Ein Kompetenzzentrum Algorithmische Systeme kann dabei helfen, bestehende Aufsichtsbehörden durch technischen Sachverstand bei der Kontrolle algorithmischer Systeme zu unterstützen.

Menschen vor Diskriminierung schützen

Die künftige Bundesregierung hat viel zu tun. Sie muss sich im Koalitionsvertrag klar dazu bekennen, dass sie sich auf EU-Ebene für eine KI-Regelung einsetzt, die die Menschen effektiv vor Diskriminierung und ungerechter Behandlung schützt. Nur so stärkt sie das Vertrauen der Verbraucher:innen in diese Zukunftstechnologie. Zentrale Voraussetzungen hierfür sind neben Transparenz und Nachvollziehbarkeit von KI-basierten Entscheidungen für Verbraucher:innen, unabhängige Kontrollen und strenge Qualitätsanforderungen an diese Anwendungen.

Die Bundesregierung hat die DEK im Juli 2018 eingesetzt. Als Mitglieder wurden neben dem vzbv Vertreter der Wirtschaft, Wissenschaft und Zivilgesellschaft benannt.

Der vzbv hat die aktuelle Evaluierung der Umsetzung der Empfehlungen der Datenethikkommission in einem interaktiven Politiktracker-Webtool sowie als pdf-Datei zusammengestellt.

user-lock

Politik-Tracker Datenethikkommission

Im Oktober 2019 hat die Datenethikkommission (DEK) der Bundesregierung die zentralen Handlungsempfehlungen zu den Themen Künstliche Intelligenz, algorithmische Systeme und Datenpolitik vorgestellt. Der vzbv bewertet regelmäßig die Umsetzung der zehn wichtigsten Empfehlungen aus Verbrauchersicht.
Direkt zum Politiktracker

Download

21-10-26 vzbv DEK-2-Jahresbilanz final

Evaluierung: Umsetzung der Empfehlungen der Datenethikkommission (2 Jahre)

Evaluation zur Umsetzung der Empfehlungen der Datenethikkommission durch die Bundesregierung und die Europäische Kommission | Oktober 2021

Ansehen
PDF | 204.68 KB

Alles zum Thema: Algorithmen & KI

Artikel (31)
Dokumente (19)
Termine (5)

Kontakt

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Pressestelle

Service für Journalist:innen
presse@vzbv.de +49 30 25800-525

Kontakt

Miika Blinn

Referent Team Digitales und Medien
info@vzbv.de +49 30 25800-0