Skip to content

Verbraucher vor Diskriminierung in der digitalen Welt schützen

Bewertungskriterien für Verbraucher offenlegen, Algorithmen für Aufsichtsbehörden nachvollziehbar machen

Vor welchem Problem stehen Verbraucher?

Viele Informationen und Angebote für Verbraucherinnen und Verbraucher im Internet werden von Computern gesteuert: etwa die Ergebnisauswahl von Bewertungsoder Vergleichsportalen oder auch Ergebnisse und Preise beim Online-Shopping. Auf welcher Datenbasis diese Entscheidungen getroffen werden, welche Algorithmen also dahinterstecken, ist meist unbekannt. Unternehmen verweigern den Einblick in diese Prozesse, oftmals mit Verweis auf ihre Geschäftsgeheimnisse. Diese Intransparenz birgt die Gefahr, dass Verbraucher diskriminiert werden: Aufgrund des Alters, des Geschlechts oder der Herkunft werden möglicherweise Angebote verweigert oder höhere Preise verlangt. Auch könnten Verbraucher leicht manipuliert werden. Und: Algorithmen bestimmen nicht nur in der digitalen Welt Angebote und Preise, sondern beispielsweise auch beim Scoring für die Kreditvergabe.

So kann’s gehen:

Prozesse im Verbraucheralltag, die durch Algorithmen gesteuert werden, müssen transparent und nachvollziehbar werden. Verbraucher müssen verstehen können, nach welche Kriterien Entscheidungen über Informationen, Angebote oder Preise getroffen werden und welche Konsequenzen daraus folgen. Sie müssen wissen, welche Daten einbezogen und wie sie gewichtet werden. Nur so können sich Verbraucher gegen Diskriminierung wehren. Um für mehr Transparenz und Sicherheit zu sorgen, braucht es außerdem einen Algorithmen-TÜV. Auch wenn Algorithmen unter das Geschäftsgeheimnis fallen, muss es für Aufsichtsbehörden möglich sein, die verwendeten Algorithmen und die daraus resultierenden Ergebnisse und Entscheidungen überprüfen zu können.

* Quelle: Statistisches Bundesamt, Gesamtzahl der Verbraucher, die 2015 über das Internet einkauft haben
Downloads