Algorithmen-Kontrolle einführen

Quelle:

vzbv

Der zunehmende Einsatz von Algorithmen und Künstlicher Intelligenz bei Entscheidungsprozessen wirft gesellschaftliche und ethische Fragen auf. Mehr Transparenz von relevanten algorithmischen Entscheidungsprozessen ist notwendig.

Warum ist das wichtig?

Algorithmen spielen in immer mehr Lebensbereichen eine entscheidende Rolle. Unternehmen bestimmen mit Hilfe von Alexa und Co, welche Angebote Verbraucher erhalten. Energieversorger wissen durch Smart-Home-Geräte, ob die Bewohner zu Hause sind, und Navigationsdienste entscheiden über die beste Strecke durch den Verkehr. Unklar ist, aufgrund welcher Kriterien solche Entscheidungen getroffen und wie die verschiedenen Kriterien gewichtet werden, denn Algorithmen fallen häufig unter das Geschäftsgeheimnis.

Was steht im Koalitionsvertrag?

„Wir wollen zum Schutz der Verbraucherinnen und Verbraucher Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte überprüfbar machen, insbesondere im Hinblick auf mögliche unzulässige Diskriminierungen, Benachteiligungen und Betrügereien. Wir werden Mechanismen entwickeln, um bei bedenklichen Entwicklungen tätig werden zu können.“

„Wir werden zeitnah eine Daten-Ethikkommission einsetzen, die Regierung und Parlament innerhalb eines Jahres einen Entwicklungsrahmen für Datenpolitik, den Umgang mit Algorithmen, künstlicher Intelligenz und digitalen Innovationen vorschlägt.“

Was fordert der vzbv?

Automatisierte Entscheidungen auf Basis von Algorithmen können Verbraucherinnen und Verbrauchern das Leben erleichtern. Sie können aber auch zu falschen Entscheidungen führen und Verbraucher diskriminieren. Darum müssen relevante algorithmenbasierte Entscheidungsprozesse durch eine unabhängige, staatlich legitimierte Institution kontrolliert werden können.

Die Datenethikkommission sollte auch Verbrauchervertreter umfassen.

Wie bewertet der vzbv das bisherige Verfahren?

Die Datenethikkommission hat am 4. September 2018 ihre Arbeit aufgenommen. Berufen wurden 16 Mitglieder aus Zivilgesellschaft, Wissenschaft, Aufsicht und Wirtschaft. Die Kommission soll bis Oktober 2019 Vorschläge für Bundesregierung und Parlament zum Umgang mit algorithmenbasierten Systemen und Daten erarbeiten. Positiv sind die zeitnahe Einberufung der Kommission und die Berufung von Verbrauchervertretern in Person von Klaus Müller, Vorstand des vzbv. Inhaltlich können die Vorschläge noch nicht bewertet werden.

Mechanismen zur Überprüfbarkeit von algorithmenbasierten Entscheidungsprozessen wurden noch nicht entwickelt. Hier wird die Bundesregierung voraussichtlich die Empfehlungen der Datenethikkommission abwarten.

Downloads

Algorithmenkontrolle | Positionspapier des vzbv | 02.05.2019 Algorithmenkontrolle | Positionspapier des vzbv | 02.05.2019

pdf924.47 KB

Weitere Informationen

Auf anderen Webseiten

Übersicht über die Datenethikkommission

Bewertung des vzbv:

Wenige Kernforderungen wurden umgesetzt

Status des Verfahrens:

begonnen

<< Zurück zur Übersicht

Bewertung des vzbv:

Wenige Kernforderungen wurden umgesetzt

Status des Verfahrens:

Sie sind hier

Algorithmen-Kontrolle einführen

Downloads

Weitere Informationen

Wenige Kernforderungen wurden umgesetzt

begonnen

Wenige Kernforderungen wurden umgesetzt

begonnen

Anderer Bewertungszeitraum dieser Forderung: