Datum: 02.05.2019

Algorithmen kontrollieren - geltendes Recht durchsetzen

Mit Diskriminierungsschutz Verbrauchervertrauen stärken

exkl vzbv istock-909240546 rz.jpg

Quelle: Daisy-Daisy - istock.com

  • vzbv fordert: Aufsichtsbehörden müssen algorithmenbasierte Entscheidungssysteme effektiv kontrollieren können.
  • Bei risikobehafteten Entscheidungen sollten Betroffene ein Auskunftsrecht erhalten, um zu verstehen, wie die Entscheidungen zustande kommen.
  • Für die Gestaltung algorithmenbasierter Entscheidungssysteme sollten verbindliche Standards etabliert werden.

Digitale Einkaufsassistenten, Smart-Home-Anwendungen, individuelle Kreditausfallrisiken – Algorithmen nehmen in unserer Welt einen immer größeren Platz ein. Menschen müssen algorithmenbasierte Entscheidungen, zum Beispiel den abgelehnten Kreditantrag oder hohe Versicherungstarife, nachvollziehen, überprüfen und wenn nötig anfechten können. Das fordert der Verbraucherzentrale Bundesverband (vzbv) in einem aktuellen Positionspapier.

„Wenn Entscheidungen automatisiert getroffen werden, die großen Einfluss auf Einzelne und die gesamte Gesellschaft haben können, müssen solche Systeme auch überprüft werden können“, so Klaus Müller, Vorstand des vzbv. „Je größer das Schadenspotenzial für Verbraucher ist, desto transparenter müssen algorithmenbasierte Entscheidungen sein. Dafür müssen die Betreiber des Systems sorgen.“

Das Positionspapier des vzbv basiert auf einem Gutachten von Prof. Dr. Mario Martini, Deutsche Universität für Verwaltungswissenschaften Speyer, sowie auf einem Gutachten von Prof. Dr. Katharina Zweig und Tobias Krafft, TU Kaiserslautern.

Kontrolle ermöglichen

Aus Sicht des vzbv sollten Aufsichtsbehörden bei Bedarf Einblick in algorithmenbasierte Entscheidungssysteme (ADM-Systeme) erhalten, gerade in sensiblen Anwendungsfeldern. „Experten müssen die Algorithmen einsehen und überprüfen können“, so Müller. So sollen auch Rechtsverstöße erkannt und sanktioniert werden können. Dazu sollte eine Unterstützungseinheit auf Bundesebene geschaffen werden, die bestehende Aufsichtsbehörden mit technisch-methodischer Expertise unterstützt. Die Überprüfung könne so gestaltet werden, dass Betriebs- und Geschäftsgeheimnisse gewahrt bleiben.

Beispielsweise könnte die Unterstützungseinheit die Gleichstellungsbeauftragte der Bundesregierung darin unterstützen, ADM-Systeme auf eine mögliche Diskriminierung von einzelnen Bevölkerungsgruppen hin zu überprüfen, zum Beispiel, wenn Frauen und Männer unterschiedliche Konditionen für das dasselbe Produkt erhalten würden.

Transparenz schaffen

Bei risikobehafteten Entscheidungen sollten Verbraucher aus Sicht des vzbv ein Auskunftsrecht erhalten. Damit sollten Betreiber verpflichtet werden, Betroffenen zu erläutern, wie die Ergebnisse zustande kommen. „Verbraucher sollten algorithmenbasierte Entscheidungen nachvollziehen und wenn nötig anfechten können. Um das tun zu können, müssen sie aber die verwendete Datengrundlage, deren Gewichtung und das Risiko von Fehlschlüssen kennen“, so Müller.

Nachvollziehbarkeit sicherstellen

Der vzbv fordert zudem verbindliche Standards für die Gestaltung von ADM-Systemen, um sicherzustellen, dass die Einhaltung gesetzlicher Vorgaben überprüft werden kann. Dafür seien auch technische Schnittstellen erforderlich. „ADM-Systeme müssen verbraucherfreundlich gestaltet werden. Nur so gelingt es, dass die Menschen in Deutschland und Europa diesen Systemen künftig stärker vertrauen können“, so Müller.

Das vollständige Positionspapier und die Gutachten finden Sie im Downloadbereich.

Am 26. Mai 2019 ist Europawahl. Von gemeinsamen Regeln in der Europäischen Union profitieren Verbraucher konkret in ihrem Alltag. Der vzbv fordert von den Parteien, die zur Europawahl antreten, die Alltagsprobleme von Verbrauchern in den Mittelpunkt ihrer Politik zu stellen. So kann das Vertrauen in ein gemeinsames Europa und einen gemeinsamen Binnenmarkt gestärkt werden. Weitere Informationen finden Sie hier.

Faktenblatt

Künstliche Intelligenz: Vertrauen ist gut, Kontrolle ist besser | Faktenblatt des vzbv | Dezember 2018

Künstliche Intelligenz: Vertrauen ist gut, Kontrolle ist besser | Faktenblatt des vzbv | Dezember 2018

KüNSTLICHE INTELLIGENZ: VERTRAUEN IST GUT, KONTROLLE IST BESSER | FAKTENBLATT DES VZBV | DEZEMBER 2018 | 180.05 KB

Downloads

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des Verbraucherzentrale Bundesverbands | Mai 2019

Ansehen
PDF | 924.47 KB
Transparenz und Nachvollziehbarkeit algorithmenbasierter Entscheidungsprozesse | Ein Regulierungsvorschlag | 22. Januar 2019

Transparenz und Nachvollziehbarkeit algorithmenbasierter Entscheidungsprozesse | Ein Regulierungsvorschlag | 22. Januar 2019

Ansehen
PDF | 1.41 MB
Kontrollsystem für algorithmenbasierte Entscheidungsprozesse | Gutachten im Auftrag des vzbv | Prof. Dr. Mario Martini | Mai 2019

Kontrollsystem für algorithmenbasierte Entscheidungsprozesse | Gutachten im Auftrag des vzbv | Prof. Dr. Mario Martini | Mai 2019

Ansehen
PDF | 1.81 MB
Algorithmic Decision Making for the Benefit of Consumers | Position Paper of vzbv | Executive Summary | May 2019

Algorithmic Decision Making for the Benefit of Consumers | Position Paper of vzbv | Executive Summary | May 2019

Ansehen
PDF | 415.07 KB
Fundamentals of a Regulatory System for Algorithm-based Processes | Expert opinion prepared on behalf of vzbv | Prof. Dr. Mario Martini | May 2019

Fundamentals of a Regulatory System for Algorithm-based Processes | Expert opinion prepared on behalf of vzbv | Prof. Dr. Mario Martini | May 2019

Ansehen
PDF | 1.83 MB

Kontakt

Pressestelle

Service für Journalistinnen & Journalisten
presse@vzbv.de +49 30 25800-525

Kontakt

Lina Ehrig

Leiterin Team Digitales und Medien
info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Referent Team Digitales und Medien
info@vzbv.de +49 30 25800-0