Zunehmend werden Entscheidungen über Verbraucher:innen durch Algorithmische Systeme (ADM) und Künstliche Intelligenz (KI) getroffen oder vorbereitet (etwa bei Scoring-Verfahren im Finanzbereich). Verbraucherentscheidungen werden immer öfter durch KI-basierte Empfehlungssysteme und Sprachassistenten wie Alexa & Co beeinflusst.
Menschen misstrauen dabei KI-Anwendungen oft zu Recht: Aufgrund ihrer Intransparenz ist selbst für Experte:innen kaum nachzuvollziehen, ob die Systeme Fehlentscheidungen treffen oder gegen Gesetze verstoßen, etwa hinsichtlich des Diskriminierungsverbots oder der Beeinflussung und Irreführung von Verbraucher:innen.
Die Europäische Kommission hat mit dem Artificial Intelligence Act (AIA) einen Vorschlag für einen Rechtsrahmen für KI vorgelegt. Der Vorschlag greift allerdings zu kurz. Ein europäisches Regelwerk für KI muss sicherstellen, dass alle hochrisikanten KI-Anwendungen europäische Gesetze einhalten und europäischen Werten entsprechen. Dies würde die Akzeptanz und Verbreitung dieser Technologie fördern.
Der vzbv fordert
- Transparenz: wichtige KI-Entscheidungen für Verbraucher:innen nachvollziehbar machen.
- Expert:innen und Behörden müssen kontrollieren können, ob kritische KI-Systeme rechtskonform sind.
- Alle KI-Anwendungen mit hohem Risiko für Verbraucher:innen, etwa im Bereich Versicherungen, müssen unter die KI-Regeln fallen.
- Verbot von Manipulation, Emotionserkennung und Ausnutzung persönlicher Schwächen durch KI.
- Verbot von biometrischer Fernidentifizierung im öffentlichen Raum durch private Stellen.
- Betreiber von KI-Systemen müssen eine Risikofolgenabschätzung erstellen und veröffentlichen.
- Verbraucher:innen brauchen Recht auf Auskunft und Erklärung gegenüber Betreibern von Hochrisiko-KI-Systemen.
- Effektive Rechtsdurchsetzung: Verbandsklagen für Missbrauch von KI ermöglichen.
Der vzbv bewertet regelmäßig in einem Politikcheck, ob sich die Bundesregierung wie im Koalitionsvertrag angekündigt für eine verbraucherorientierte Algorithmenkontrolle einsetzt. Hier sehen Sie die aktuelle Bewertung: