Algorithmen-Kontrolle einführen

BMJV (Bundesministerium der Justiz und für Verbraucherschutz)

Algorithmenkontrolle in der Digitalen Welt

Quelle: vzbv

Der zunehmende Einsatz von Algorithmen und Künstlicher Intelligenz bei Entscheidungsprozessen wirft gesellschaftliche und ethische Fragen auf. Mehr Transparenz von relevanten algorithmischen Entscheidungsprozessen ist notwendig.

- Wenige Kernforderungen wurden umgesetzt
Begonnen

Algorithmen spielen in immer mehr Lebensbereichen eine entscheidende Rolle. Unternehmen bestimmen mit Hilfe von Alexa und Co, welche Angebote Verbraucher erhalten. Energieversorger wissen durch Smart-Home-Geräte, ob die Bewohner zu Hause sind, und Navigationsdienste entscheiden über die beste Strecke durch den Verkehr. Unklar ist, aufgrund welcher Kriterien solche Entscheidungen getroffen und wie die verschiedenen Kriterien gewichtet werden, denn Algorithmen fallen häufig unter das Geschäftsgeheimnis.

„Wir wollen zum Schutz der Verbraucherinnen und Verbraucher Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte überprüfbar machen, insbesondere im Hinblick auf mögliche unzulässige Diskriminierungen, Benachteiligungen und Betrügereien. Wir werden Mechanismen entwickeln, um bei bedenklichen Entwicklungen tätig werden zu können.“

„Wir werden zeitnah eine Daten-Ethikkommission einsetzen, die Regierung und Parlament innerhalb eines Jahres einen Entwicklungsrahmen für Datenpolitik, den Umgang mit Algorithmen, künstlicher Intelligenz und digitalen Innovationen vorschlägt.“

Automatisierte Entscheidungen auf Basis von Algorithmen können Verbraucherinnen und Verbrauchern das Leben erleichtern. Sie können aber auch zu falschen Entscheidungen führen und Verbraucher diskriminieren. Darum müssen relevante algorithmenbasierte Entscheidungsprozesse durch eine unabhängige, staatlich legitimierte Institution kontrolliert werden können.

Die Datenethikkommission sollte auch Verbrauchervertreter umfassen.

Die Datenethikkommission hat am 4. September 2018 ihre Arbeit aufgenommen. Berufen wurden 16 Mitglieder aus Zivilgesellschaft, Wissenschaft, Aufsicht und Wirtschaft. Die Kommission hat im Oktober 2019 Vorschläge zum Umgang mit algorithmenbasierten Systemen und Daten in einem Abschussbericht präsentiert. Die Vorschläge der Datenethikkommission sind aus Verbrauchersicht positiv ausgefallen und haben die Diskussionen über den Umgang mit algorithmischen Systemen intensiviert. Der vzbv hat im Oktober 2019 die Empfehlungen ausführlich bewertet und aufgezeigt, welche Aufgaben sich hieraus für die Bundesregierung und die EU-Kommission ergeben. Eine konsequente Umsetzung der Empfehlungen würde die Risiken algorithmischer Systeme minimieren und gleichzeitig Verbraucherschutz, Rechtsstaatlichkeit und das soziale Zusammenleben fördern.

Positiv war die zeitnahe Einberufung der Kommission und die Berufung der Verbraucherseite in Person von Klaus Müller, Vorstand des vzbv. Eine Umsetzung der Vorschläge steht jedoch ganz am Anfang. Die Erforderlichkeit wird auch innerhalb der Bundesregierung unterschiedlich bewertet. Die Bundesregierung widmet sich dem Thema und auch den aufgeworfenen Handlungsempfehlungen an verschiedene Stellen, so beispielsweise im Weißbuch der EU-Kommission zu Künstlicher Intelligenz. Zusammen mit dem DIN entwickelte das Bundesministerium für Wirtschaft und Energie (BMWi) eine „Normungsroadmap KI“. Diese soll jetzt umgesetzt werden. Insgesamt verläuft die Umsetzung des Koalitionsversprechens – mit Ausnahme des Einsetzens der Datenethikkommission – jedoch sehr schleppend.

Downloads

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Ansehen
PDF | 909.14 KB
Algorithmenbasierte Entscheidungsprozesse | Thesenpapier des vzbv | Dezember 2017

Algorithmenbasierte Entscheidungsprozesse | Thesenpapier des vzbv | Dezember 2017

Algorithmenbasierte Entscheidungsprozesse | Thesenpapier des vzbv | Dezember 2017

Ansehen
PDF | 123.67 KB
Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Ansehen
PDF | 124.06 KB