Skip to content

Für den Schutz der Verbraucher vor Diskriminierung in der digitalisierten Welt:

Algorithmische Entscheidungssysteme nachvollziehbar machen

Prozesse, die durch Algorithmen gesteuert werden, müssen transparent und nachvollziehbar werden. Verbraucher müssen beispielsweise verstehen können, wie Ergebnisse von Bewertungs- oder Vergleichsportalen zustande kommen oder warum ihnen ein abweichender Preis für ein Produkt angeboten wird als anderen. Dafür muss die EU-Kommission rechtlich verbindliche Rahmenbedingungen schaffen, die über die Datenschutzgrundverordnung hinausgehen: Verbraucher müssen bei relevanten algorithmenbasierten Entscheidungsprozessen wissen, welche auch nicht personenbezogenen Daten einbezogen und wie sie gewichtet werden. Nur so können sich Verbraucher gegen Diskriminierung wehren.

Um für mehr Transparenz und Sicherheit zu sorgen und Diskriminierung auszuschließen, muss es einem unabhängigen Kontrollsystem möglich sein, die verwendeten Algorithmen und die daraus resultierenden Ergebnisse und Entscheidungen überprüfen zu können. Die Überprüfung kann so gestaltet werden, dass Betriebs- und Geschäftsgeheimnisse gewahrt bleiben. Eine zentrale Voraussetzung und wichtiger Baustein für eine KI-Strategie ist, dass die EU-Kommission technische Standards für die Gestaltung algorithmenbasierter Entscheidungsprozesse etabliert, um die Einhaltung und Überprüfbarkeit rechtlicher Vorgaben sicherzustellen („Accountability-by-Design“).

Downloads