Algorithmen-Kontrolle einführen

BMJV (Bundesministerium der Justiz und für Verbraucherschutz)

Algorithmenkontrolle in der Digitalen Welt

Quelle: vzbv

Der zunehmende Einsatz von Algorithmen und Künstlicher Intelligenz bei Entscheidungsprozessen wirft gesellschaftliche und ethische Fragen auf. Mehr Transparenz von relevanten algorithmischen Entscheidungsprozessen ist notwendig.

Nicht begonnen

Algorithmen spielen in immer mehr Lebensbereichen eine entscheidende Rolle. Unternehmen bestimmen mit Hilfe von Alexa und Co, welche Angebote Verbraucher erhalten. Energieversorger wissen durch Smart-Home-Geräte, ob die Bewohner zu Hause sind, und Navigationsdienste entscheiden über die beste Strecke durch den Verkehr. Unklar ist, aufgrund welcher Kriterien solche Entscheidungen getroffen und wie die verschiedenen Kriterien gewichtet werden, denn Algorithmen fallen häufig unter das Geschäftsgeheimnis.

„Wir wollen zum Schutz der Verbraucherinnen und Verbraucher Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte überprüfbar machen, insbesondere im Hinblick auf mögliche unzulässige Diskriminierungen, Benachteiligungen und Betrügereien. Wir werden Mechanismen entwickeln, um bei bedenklichen Entwicklungen tätig werden zu können.“

„Wir werden zeitnah eine Daten-Ethikkommission einsetzen, die Regierung und Parlament innerhalb eines Jahres einen Entwicklungsrahmen für Datenpolitik, den Umgang mit Algorithmen, künstlicher Intelligenz und digitalen Innovationen vorschlägt.“

Automatisierte Entscheidungen auf Basis von Algorithmen können Verbraucherinnen und Verbrauchern das Leben erleichtern. Sie können aber auch zu falschen Entscheidungen führen und Verbraucher diskriminieren. Darum müssen relevante algorithmenbasierte Entscheidungsprozesse durch eine unabhängige, staatlich legitimierte Institution kontrolliert werden können.

Die Datenethikkommission sollte auch Verbrauchervertreter umfassen.

Downloads

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Algorithmenkontrolle | Positionspapier des vzbv | 02. Mai 2019

Ansehen
PDF | 909.14 KB
Algorithmenbasierte Entscheidungsprozesse | Thesenpapier des vzbv | Dezember 2017

Algorithmenbasierte Entscheidungsprozesse | Thesenpapier des vzbv | Dezember 2017

Algorithmenbasierte Entscheidungsprozesse | Thesenpapier des vzbv | Dezember 2017

Ansehen
PDF | 123.67 KB
Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Handlungsempfehlungen der Datenethikkommission | Konkrete Aufgaben für die Bundesregierung aus Sicht des vzbv | Oktober 2019

Ansehen
PDF | 124.06 KB