Datum: 23.10.2019

Algorithmen: Abschied nehmen von der Blackbox

Bundesregierung muss Empfehlungen der Datenethikkommission zügig umsetzen

Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

  • Der vzbv begrüßt die Empfehlungen der Datenethikkommission und fordert eine schnelle Umsetzung.  
  • Menschen müssen Entscheidungen, die algorithmenbasierte Systeme treffen, nachvollziehen können.
  • Der vzbv spricht sich wie die Datenethikkommission für eine Stärkung des Datenschutzes und der Datensicherheit aus.

Die Datenethikkommission der Bundesregierung hat heute ihren Abschlussbericht vorgelegt. Darin sind einstimmige Handlungsempfehlungen enthalten, wie algorithmische Systeme transparenter gestaltet und besser kontrolliert werden können. Der Verbraucherzentrale Bundesverband (vzbv) fordert die Bundesregierung auf, die Empfehlungen der Kommission schnellstmöglich umzusetzen.

„Abgelehnte Kreditanträge, hohe Versicherungstarife oder personalisierte Shopping-Angebote: Immer häufiger werden für Verbraucher maßgebliche Entscheidungen von digitalen Algorithmen getroffen. Für Betroffene und Aufsichtsinstitutionen ist nicht immer klar, welche Kriterien dahinterstecken. Es ist daher gut, dass die Datenethikkommission mit Unterstützung des BDI, Wissenschaftlern und Daten- und Verbraucherschützern Vorschläge gemacht hat, wie diese Systeme transparenter werden können. Nun ist die Bundesregierung am Zug. Sie muss die Empfehlungen der Kommission so schnell wie möglich umsetzen“, sagt Klaus Müller, Vorstand des vzbv und Mitglied der Datenethikkommission.

Transparenz ermöglichen

Eine drängende Aufgabe, die sich aus dem Gutachten der Datenethikkommission ergibt, ist die Einführung von mehr Informationspflichten für Anbieter und Auskunftsrechten für Verbraucher. Aus Sicht des vzbv ist es wichtig, dass algorithmenbasierte Entscheidungen keine Blackbox darstellen. In sensiblen Bereichen sollten Anbieter verpflichtet werden, zu erläutern, wie Ergebnisse zustande kommen. „Verbraucher müssen wissen, welche Daten Algorithmen bei kritischen Entscheidungen über sie einbeziehen und wie sie gewichtet werden. Nur so können sie sich gegen Diskriminierung wehren und Entscheidungen im Zweifelsfall anfechten“, so Müller. „Je größer das Schadenspotenzial für Verbraucher ist, desto transparenter müssen die Systeme sein.“

Aufsichtsbehörden stärken

Die Datenethikkommission hat klargestellt, dass Aufsichtsbehörden in sensiblen Anwendungsfeldern Einblick in algorithmische Systeme erhalten sollten. Die Bundesregierung muss deshalb die Aufsichtsinstitutionen mit den erforderlichen Ressourcen und Befugnissen ausstatten. Dadurch können algorithmische Systeme auf ihre Rechtsmäßigkeit überprüft und Rechtsverstöße sanktioniert werden. Um die Kontrolle weiter zu stärken, spricht sich der vzbv, wie von der Kommission vorgeschlagen, für die Schaffung eines Kompetenzzentrums auf Bundesebene aus. Es soll die bestehenden Aufsichtsbehörden mit technischem und methodischem Sachverstand unterstützen.

Europäische Regelung vorantreiben

Digitale Dienste kennen oft keine Grenzen. Aus diesem Grund hat die Datenethikkommission der Bundesregierung den Auftrag erteilt, sich für eine Europäische Verordnung einzusetzen. Diese soll generelle Regeln zum Umgang mit Algorithmen und Künstlicher Intelligenz (KI), zu Betroffenenrechten und Aufsichtsinstitutionen enthalten. „Die Herausforderungen durch die Digitalisierung können nur gemeinsam gelöst werden“, so Müller. „Deutschland sollte seine Ratspräsidentschaft im nächsten Jahr dazu nutzen, eine Europäische Verordnung für algorithmenbasierte Systeme voranzutreiben.“

Datenschutz stärken

In einem weiteren Teil des Gutachtens beschäftigt sich die Datenethikkommission mit dem Datenschutz. Dabei betont sie den hohen gesellschaftlichen Wert der neuen Möglichkeiten von Datenverarbeitung, weist aber gleichzeitig auf die immensen Risiken hin. Der vzbv spricht sich dafür aus den Empfehlungen der Kommission zu folgen. Die Bundesregierung muss sich dafür einsetzen, der Sammlung, der Nutzung und der Auswertung personenbezogener Daten enge Grenzen zu setzen. Das gilt besonders für die Zusammenführung unterschiedlicher Daten und die Bildung von persönlichen Profilen. Wie der vzbv sieht auch die Datenethikkommission die Anerkennung eines „Dateneigentums“ nicht als geeignetes Instrument an, um die bestehenden Probleme zu lösen.

Downloads

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Ansehen
PDF | 909.14 KB
Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Ansehen
PDF | 124.06 KB
19-10-29 vzbv recommendations dec eng

Recommendations of the Data Ethics Commission | Concrete tasks for the European Legislator | October 2019

Recommendations of the Data Ethics Commission | Concrete tasks for the European Legislator | October 2019

Ansehen
PDF | 125.83 KB

Weitere Informationen

Alles zum Thema: Algorithmen & KI

Artikel (40)
Dokumente (23)
Urteile (1)
Termine (6)

Kontakt

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0