Datum: 23.10.2019

Algorithmen: Abschied nehmen von der Blackbox

Bundesregierung muss Empfehlungen der Datenethikkommission zügig umsetzen

Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

  • Der vzbv begrüßt die Empfehlungen der Datenethikkommission und fordert eine schnelle Umsetzung.  
  • Menschen müssen Entscheidungen, die algorithmenbasierte Systeme treffen, nachvollziehen können.
  • Der vzbv spricht sich wie die Datenethikkommission für eine Stärkung des Datenschutzes und der Datensicherheit aus.

Die Datenethikkommission der Bundesregierung hat heute ihren Abschlussbericht vorgelegt. Darin sind einstimmige Handlungsempfehlungen enthalten, wie algorithmische Systeme transparenter gestaltet und besser kontrolliert werden können. Der Verbraucherzentrale Bundesverband (vzbv) fordert die Bundesregierung auf, die Empfehlungen der Kommission schnellstmöglich umzusetzen.

„Abgelehnte Kreditanträge, hohe Versicherungstarife oder personalisierte Shopping-Angebote: Immer häufiger werden für Verbraucher maßgebliche Entscheidungen von digitalen Algorithmen getroffen. Für Betroffene und Aufsichtsinstitutionen ist nicht immer klar, welche Kriterien dahinterstecken. Es ist daher gut, dass die Datenethikkommission mit Unterstützung des BDI, Wissenschaftlern und Daten- und Verbraucherschützern Vorschläge gemacht hat, wie diese Systeme transparenter werden können. Nun ist die Bundesregierung am Zug. Sie muss die Empfehlungen der Kommission so schnell wie möglich umsetzen“, sagt Klaus Müller, Vorstand des vzbv und Mitglied der Datenethikkommission.

Transparenz ermöglichen

Eine drängende Aufgabe, die sich aus dem Gutachten der Datenethikkommission ergibt, ist die Einführung von mehr Informationspflichten für Anbieter und Auskunftsrechten für Verbraucher. Aus Sicht des vzbv ist es wichtig, dass algorithmenbasierte Entscheidungen keine Blackbox darstellen. In sensiblen Bereichen sollten Anbieter verpflichtet werden, zu erläutern, wie Ergebnisse zustande kommen. „Verbraucher müssen wissen, welche Daten Algorithmen bei kritischen Entscheidungen über sie einbeziehen und wie sie gewichtet werden. Nur so können sie sich gegen Diskriminierung wehren und Entscheidungen im Zweifelsfall anfechten“, so Müller. „Je größer das Schadenspotenzial für Verbraucher ist, desto transparenter müssen die Systeme sein.“

Aufsichtsbehörden stärken

Die Datenethikkommission hat klargestellt, dass Aufsichtsbehörden in sensiblen Anwendungsfeldern Einblick in algorithmische Systeme erhalten sollten. Die Bundesregierung muss deshalb die Aufsichtsinstitutionen mit den erforderlichen Ressourcen und Befugnissen ausstatten. Dadurch können algorithmische Systeme auf ihre Rechtsmäßigkeit überprüft und Rechtsverstöße sanktioniert werden. Um die Kontrolle weiter zu stärken, spricht sich der vzbv, wie von der Kommission vorgeschlagen, für die Schaffung eines Kompetenzzentrums auf Bundesebene aus. Es soll die bestehenden Aufsichtsbehörden mit technischem und methodischem Sachverstand unterstützen.

Europäische Regelung vorantreiben

Digitale Dienste kennen oft keine Grenzen. Aus diesem Grund hat die Datenethikkommission der Bundesregierung den Auftrag erteilt, sich für eine Europäische Verordnung einzusetzen. Diese soll generelle Regeln zum Umgang mit Algorithmen und Künstlicher Intelligenz (KI), zu Betroffenenrechten und Aufsichtsinstitutionen enthalten. „Die Herausforderungen durch die Digitalisierung können nur gemeinsam gelöst werden“, so Müller. „Deutschland sollte seine Ratspräsidentschaft im nächsten Jahr dazu nutzen, eine Europäische Verordnung für algorithmenbasierte Systeme voranzutreiben.“

Datenschutz stärken

In einem weiteren Teil des Gutachtens beschäftigt sich die Datenethikkommission mit dem Datenschutz. Dabei betont sie den hohen gesellschaftlichen Wert der neuen Möglichkeiten von Datenverarbeitung, weist aber gleichzeitig auf die immensen Risiken hin. Der vzbv spricht sich dafür aus den Empfehlungen der Kommission zu folgen. Die Bundesregierung muss sich dafür einsetzen, der Sammlung, der Nutzung und der Auswertung personenbezogener Daten enge Grenzen zu setzen. Das gilt besonders für die Zusammenführung unterschiedlicher Daten und die Bildung von persönlichen Profilen. Wie der vzbv sieht auch die Datenethikkommission die Anerkennung eines „Dateneigentums“ nicht als geeignetes Instrument an, um die bestehenden Probleme zu lösen.

Downloads

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Ansehen
PDF | 909.14 KB
Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Ansehen
PDF | 124.06 KB
Recommendations of the Data Ethics Commission | Concrete tasks for the European Legislator | October 2019

Recommendations of the Data Ethics Commission | Concrete tasks for the European Legislator | October 2019

Recommendations of the Data Ethics Commission | Concrete tasks for the European Legislator | October 2019

Ansehen
PDF | 125.83 KB

Weitere Informationen

Alles zum Thema: Algorithmen & KI

Artikel (29)
Vorstand Verbraucherzentrale Bundesverband | Credit: Corinna Guthknecht - vzbv

Quelle: Corinna Guthknecht - vzbv

21.04.2021

Enttäuschend: Vorschläge für Regelung von Künstlicher Intelligenz schützen Verbraucher nur punktuell

Heute hat die Europäische Kommission ihren lang erwarteten Vorschlag zur Regulierung für Künstliche Intelligenz (KI) veröffentlicht. Dieser schützt Verbraucher nur punktuell. Die Menschen bleiben in weiten Bereichen ungeschützt. Klaus Müller, Vorstand des vzbv, kommentiert.

Zur Pressemeldung
digital internet denisismagilov fotolia 114878936.jpg

Quelle: denismagilov - fotolia.com

14.12.2020

Gericht: Irreführung der Verbraucher auf test.net

Urteil vom 14.12.2020

Das OLG Köln hat nach einer Klage des vzbv der test.net GmbH untersagt, auf ihrer Internetseite angebotene Produktvergleiche als Tests auszugeben, wenn die bewerteten Produkte gar nicht einzeln geprüft wurden. Das Gericht verbot dem Unternehmen außerdem, die Domain test.net für algorithmusbasierte Produktvergleiche zu verwenden.

Urteil ansehen
zapp2photo - Adobe Stock

Quelle: zapp2photo - Adobe Stock

21.10.2020

Bundesregierung enttäuscht bei Regulierung von Algorithmen

Vor einem Jahr hat die Datenethikkommission (DEK) zentrale Handlungsempfehlungen zu den Themen Künstliche Intelligenz, algorithmische Systeme und Datenpolitik vorgestellt. Die Evaluation des vzbv zeigt: EU-Kommission und Bundesregierung setzen die Empfehlungen der DEK nur schleppend um.

Zur Pressemeldung
Quelle: putilov denis - Fotolia.com

Quelle: putilov denis - AdobeStock

07.09.2020

KI: Jeder Zweite befürchtet Manipulation bei Kaufentscheidungen

Europas Verbraucher sehen große Chancen in Künstlicher Intelligenz (KI), fordern aber einen besseren Schutz ihrer Privatsphäre und vor Diskriminierung. Das ist das Ergebnis einer vom Europäischen Verbraucherverband (BEUC) beauftragten, repräsentativen Umfrage in neun EU-Ländern, darunter auch Deutschland.

Zur Pressemeldung
zapp2photo - Adobe Stock

Quelle: zapp2photo - Adobe Stock

29.04.2020

Politik zu zögerlich mit Regeln für Algorithmen

Die EU und die Bundesregierung hinken bei einem rechtlichen Rahmen für das digitale Zeitalter hinterher. Gut sechs Monate nach dem Abschlussbericht der Datenethikkommission (DEK) sind die Empfehlungen wie zum Beispiel die Stärkung von Aufsichtsbehörden für algorithmische Systeme nur unzureichend aufgegriffen.

Zur Pressemeldung
Dokumente (17)
Vorstand Verbraucherzentrale Bundesverband | Credit: Corinna Guthknecht - vzbv

Quelle: Corinna Guthknecht - vzbv

21.04.2021

Enttäuschend: Vorschläge für Regelung von Künstlicher Intelligenz schützen Verbraucher nur punktuell

Heute hat die Europäische Kommission ihren lang erwarteten Vorschlag zur Regulierung für Künstliche Intelligenz (KI) veröffentlicht. Dieser schützt Verbraucher nur punktuell. Die Menschen bleiben in weiten Bereichen ungeschützt. Klaus Müller, Vorstand des vzbv, kommentiert.

Zur Pressemeldung
Logo Newsletter Verbraucherpolitik EU aktuell des Verbraucherzentrale Bundesverbands

Quelle: vzbv

28.01.2021

Newsletter Verbraucherpolitik EU aktuell 02/2021

Verbraucherpolitische Ereignisse vom 11. bis 24. Januar 2021

Mehr erfahren
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

26.01.2021

Handelsabkommen dürfen die Regulierung von Algorithmen nicht einschränken

Zahlreiche Handelsabkommen und mögliche neue Regelungen im Rahmen der Welthandelsorganisation können eine verbraucherfreundliche Regulierung von Algorithmen erschweren. Ein vom vzbv in Auftrag gegebenes Gutachten zeigt auf, dass eine Reihe von derzeit in der EU diskutierten Maßnahmen gegen handelsrechtliche Formulierungen verstoßen können.

Publikation ansehen
zapp2photo - Adobe Stock

Quelle: zapp2photo - Adobe Stock

21.10.2020

Bundesregierung enttäuscht bei Regulierung von Algorithmen

Vor einem Jahr hat die Datenethikkommission (DEK) zentrale Handlungsempfehlungen zu den Themen Künstliche Intelligenz, algorithmische Systeme und Datenpolitik vorgestellt. Die Evaluation des vzbv zeigt: EU-Kommission und Bundesregierung setzen die Empfehlungen der DEK nur schleppend um.

Zur Pressemeldung
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

17.09.2020

KI-Regulierung muss Vertrauen schaffen

Die Europäische Kommission plant Anfang 2021, einen Vorschlag für einen europäischen Rechtsrahmen zu Künstlicher Intelligenz vorzulegen. Der vzbv setzt sich für die Einführung eines risikoadaptierten Regulierungsansatzes für Algorithmische Systeme und KI ein.

Mehr erfahren
Urteile (1)
digital internet denisismagilov fotolia 114878936.jpg

Quelle: denismagilov - fotolia.com

14.12.2020

Gericht: Irreführung der Verbraucher auf test.net

Urteil vom 14.12.2020

Das OLG Köln hat nach einer Klage des vzbv der test.net GmbH untersagt, auf ihrer Internetseite angebotene Produktvergleiche als Tests auszugeben, wenn die bewerteten Produkte gar nicht einzeln geprüft wurden. Das Gericht verbot dem Unternehmen außerdem, die Domain test.net für algorithmusbasierte Produktvergleiche zu verwenden.

Urteil ansehen
Videos & Grafiken (1)
ec8983d49dcf0ac98010b6efe99de0bd.jpg

Quelle: Gert Baumbach - vzbv

08.12.2017

Audio: Algorithmen transparent gestalten

Immer mehr Entscheidungen im Verbraucheralltag werden durch Algorithmen vorbereitet oder automatisch getroffen. Dabei sind Kriterien und Datengrundlage algorithmenbasierter Prozesse oft undurchsichtig.

Weiterlesen
Termine (5)
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

10.12.2020

Wir rechnen mit Ihnen. Andere auch. #Algorithms4Consumers

Unter der Überschrift „Wir rechnen mit Ihnen. Andere auch #Algorithms4Consumers“ veranstalten der Verbraucherzentrale Bundesverband e.V. (vzbv) und die Vertretung des Landes Baden-Württemberg bei der Europäischen Union am 10. Dezember 2020 in Brüssel eine gemeinsame Veranstaltung zum Thema Algorithmen und Künstlicher Intelligenz.

Termin ansehen
termine-vzbv raum11.jpg

Quelle: Raum11 - vzbv

18.11.2019

Algorithmen kontrollieren - geltendes Recht durchsetzen

Gemeinsame Veranstaltung des vzbv mit der Landesvertretung Nordrhein-Westfalen.

Termin ansehen
vzbv

Quelle: vzbv

19.03.2019

Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.

Der Verbraucherzentrale Bundesverband (vzbv) hat die Europawahl zum Anlass genommen, um auf der Veranstaltung „Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.“ am Dienstag, den 19. März 2019 in Berlin über die Anliegen und Gestaltungsmöglichkeiten der Verbraucherpolitik in Europa zu diskutieren.

Termin ansehen
2017-09-21 105321.png

Quelle: vzbv

07.12.2017

Algorithmen transparent gestalten

Entscheidungen werden zunehmend durch Algorithmen vorbereitet und automatisch getroffen. Gemeinsam mit Experten wollen wir über Chancen und Risiken, den Umgang mit algorithmischen Entscheidungsprozessen aus technischer und ethischer Sicht sowie einen geeigneten rechtlichen Rahmen diskutieren.

Termin ansehen
mobilitaet-automatisiertes-fahren-fotolia riopatuca 77835007.jpg

Quelle: riopatuca - fotolia.com

06.12.2016

Pressekonferenz: (Rechts-)Sicheres Fahren mit Autopilot

Der vzbv fordert Rechtssicherheit beim automatisierten Fahren und stellt in einer Pressekonferenz  am 6. Dezember um 10 Uhr ein aktuelles Gutachten zur Kontrolle der Daten beim Auto vor. Als Gesprächspartner steht u.a. Klaus Müller, Vorstand des vzbv, zur Verfügung.

Termin ansehen

Ansprechpartner

Pressestelle

Service für Journalistinnen & Journalisten
presse@vzbv.de +49 30 25800-525

Ansprechpartner

Lina Ehrig

Leiterin Team Digitales und Medien
info@vzbv.de +49 30 258 00-0

Ansprechpartner

Miika Blinn

Referent Team Digitales und Medien
info@vzbv.de +49 30 25800-0