Algorithmen kontrollieren - geltendes Recht durchsetzen

• vzbv fordert: Aufsichtsbehörden müssen algorithmenbasierte Entscheidungssysteme effektiv kontrollieren können.
• Bei risikobehafteten Entscheidungen sollten Betroffene ein Auskunftsrecht erhalten, um zu verstehen, wie die Entscheidungen zustande kommen.
• Für die Gestaltung algorithmenbasierter Entscheidungssysteme sollten verbindliche Standards etabliert werden.

Digitale Einkaufsassistenten, Smart-Home-Anwendungen, individuelle Kreditausfallrisiken – Algorithmen nehmen in unserer Welt einen immer größeren Platz ein. Menschen müssen algorithmenbasierte Entscheidungen, zum Beispiel den abgelehnten Kreditantrag oder hohe Versicherungstarife, nachvollziehen, überprüfen und wenn nötig anfechten können. Das fordert der Verbraucherzentrale Bundesverband (vzbv) in einem aktuellen Positionspapier.

„Wenn Entscheidungen automatisiert getroffen werden, die großen Einfluss auf Einzelne und die gesamte Gesellschaft haben können, müssen solche Systeme auch überprüft werden können“, so Klaus Müller, Vorstand des vzbv. „Je größer das Schadenspotenzial für Verbraucher ist, desto transparenter müssen algorithmenbasierte Entscheidungen sein. Dafür müssen die Betreiber des Systems sorgen.“

Das Positionspapier des vzbv basiert auf einem Gutachten von Prof. Dr. Mario Martini, Deutsche Universität für Verwaltungswissenschaften Speyer, sowie auf einem Gutachten von Prof. Dr. Katharina Zweig und Tobias Krafft, TU Kaiserslautern.

Kontrolle ermöglichen

Aus Sicht des vzbv sollten Aufsichtsbehörden bei Bedarf Einblick in algorithmenbasierte Entscheidungssysteme (ADM-Systeme) erhalten, gerade in sensiblen Anwendungsfeldern. „Experten müssen die Algorithmen einsehen und überprüfen können“, so Müller. So sollen auch Rechtsverstöße erkannt und sanktioniert werden können. Dazu sollte eine Unterstützungseinheit auf Bundesebene geschaffen werden, die bestehende Aufsichtsbehörden mit technisch-methodischer Expertise unterstützt. Die Überprüfung könne so gestaltet werden, dass Betriebs- und Geschäftsgeheimnisse gewahrt bleiben.

Beispielsweise könnte die Unterstützungseinheit die Gleichstellungsbeauftragte der Bundesregierung darin unterstützen, ADM-Systeme auf eine mögliche Diskriminierung von einzelnen Bevölkerungsgruppen hin zu überprüfen, zum Beispiel, wenn Frauen und Männer unterschiedliche Konditionen für das dasselbe Produkt erhalten würden.

Transparenz schaffen

Bei risikobehafteten Entscheidungen sollten Verbraucher aus Sicht des vzbv ein Auskunftsrecht erhalten. Damit sollten Betreiber verpflichtet werden, Betroffenen zu erläutern, wie die Ergebnisse zustande kommen. „Verbraucher sollten algorithmenbasierte Entscheidungen nachvollziehen und wenn nötig anfechten können. Um das tun zu können, müssen sie aber die verwendete Datengrundlage, deren Gewichtung und das Risiko von Fehlschlüssen kennen“, so Müller.

Nachvollziehbarkeit sicherstellen

Der vzbv fordert zudem verbindliche Standards für die Gestaltung von ADM-Systemen, um sicherzustellen, dass die Einhaltung gesetzlicher Vorgaben überprüft werden kann. Dafür seien auch technische Schnittstellen erforderlich. „ADM-Systeme müssen verbraucherfreundlich gestaltet werden. Nur so gelingt es, dass die Menschen in Deutschland und Europa diesen Systemen künftig stärker vertrauen können“, so Müller.

Das vollständige Positionspapier und die Gutachten finden Sie im Downloadbereich.

Am 26. Mai 2019 ist Europawahl. Von gemeinsamen Regeln in der Europäischen Union profitieren Verbraucher konkret in ihrem Alltag. Der vzbv fordert von den Parteien, die zur Europawahl antreten, die Alltagsprobleme von Verbrauchern in den Mittelpunkt ihrer Politik zu stellen. So kann das Vertrauen in ein gemeinsames Europa und einen gemeinsamen Binnenmarkt gestärkt werden. Weitere Informationen finden Sie hier.