Algorithmen & KI
Zunehmend werden Entscheidungen über Verbraucher:innen durch Algorithmische Systeme (ADM) und Künstliche Intelligenz (KI) getroffen oder vorbereitet (etwa bei Scoring-Verfahren im Finanzbereich). Verbraucherentscheidungen werden immer öfter durch KI-basierte Empfehlungssysteme und Sprachassistenten wie ChatGPT & Co. beeinflusst.
Menschen misstrauen dabei KI-Anwendungen oft zu Recht: Aufgrund ihrer Intransparenz ist selbst für Experte:innen kaum nachzuvollziehen, ob die Systeme Fehlentscheidungen treffen oder gegen Gesetze verstoßen, etwa hinsichtlich des Diskriminierungsverbots oder der Beeinflussung und Irreführung von Verbraucher:innen.
Mit dem Artificial Intelligence Act (AIA) wird das Europäische Parlament voraussichtlich im April 2024 einen Rechtsrahmen für KI verabschieden. Der AIA greift allerdings zu kurz und weist erhebliche Schutzlücken für Verbraucher:innen auf.
Ein europäisches Regelwerk für KI müsste sicherstellen, dass alle hochriskanten KI-Anwendungen europäische Gesetze einhalten und europäischen Werten entsprechen. Dies würde die Akzeptanz und Verbreitung dieser Technologie fördern. Die AIA-Vorgaben müssen erst ab 2026 vollständig umgesetzt werden. Bis dahin wird die Europäische Kommission mehrere delegierte Rechtsakte erlassen, die die Vorgaben spezifizieren.
Der vzbv fordert
- EU-Kommssion muss Verbrauchervertreter:innen bei der Entwicklung der delegierten Rechtsakte zum AIA eng einbeziehen.
- Transparenz: wichtige KI-Entscheidungen für Verbraucher:innen nachvollziehbar machen.
- Für effektive Kontrolle von Hochrisko-KI: Expert:innen und Behörden in Deutschland und Brüssel mit ausreichend Ressourcen ausstatten.
- Verbraucherinteressen bei behördlicher Kontrolle von KI-Systemen berücksichtigen.
- Strikte Vorgaben für Betreiber von KI-Systemen für die Erstellung und Veröffentlichung der Risikofolgenabschätzung sogenannter General Purpose KI.
Der vzbv bewertet regelmäßig in einem Politikcheck, ob sich die Bundesregierung wie im Koalitionsvertrag angekündigt für eine verbraucherorientierte Algorithmenkontrolle einsetzt. Hier sehen Sie die aktuelle Bewertung: