Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Algorithmen & KI

Zunehmend werden Entscheidungen über Verbraucher:innen durch Algorithmische Systeme (ADM) und Künstliche Intelligenz (KI) getroffen oder vorbereitet, etwa bei Scoring-Verfahren im Finanzbereich. Verbraucherentscheidungen werden immer öfter durch KI-basierte Empfehlungssysteme und Sprachassistenten wie ChatGPT & Co beeinflusst.

Menschen misstrauen dabei KI-Anwendungen oft zu Recht: Aufgrund ihrer Intransparenz ist selbst für Expert:innen kaum nachzuvollziehen, ob die Systeme Fehlentscheidungen treffen oder gegen Gesetze verstoßen, etwa hinsichtlich des Diskriminierungsverbots oder der Beeinflussung und Irreführung von Verbraucher:innen.

Mit dem Artificial Intelligence Act (AI Act) wird das Europäische Parlament voraussichtlich im April 2024 einen Rechtsrahmen für KI verabschieden. Der AI Act greift allerdings zu kurz und weißt erhebliche Schutzlücken für Verbraucher:innen auf. Ein europäisches Regelwerk für KI müsste sicherstellen, dass alle hochrisikanten KI-Anwendungen europäische Gesetze einhalten und europäischen Werten entsprechen. Dies würde die Akzeptanz und Verbreitung dieser Technologie fördern. Die Vorgaben des AI Acts müssen erst ab 2026 vollständig umgesetzt werden. Bis dahin wird die Europäische Kommission mehrere delegierte Rechtsakte erlassen, die die Vorgaben spezifizieren.

Der vzbv fordert

  • Europäische Kommission muss Verbrauchervertreter:innen bei Entwicklung der delegierten Rechtsakte zum AI Act eng einbeziehen.
  • Transparenz: wichtige KI-Entscheidungen für Verbraucher:innen nachvollziehbar machen.
  • Für effektive Kontrolle von Hochrisko-KI Expert:innen und Behörden in Deutschland und Brüssel mit ausreichend Ressourcen ausstatten.
  • Verbraucherinteressen bei behördlicher Kontrolle von KI-Systemen berücksichtigen.
  • Strikte Vorgaben für Betreiber von KI-Systemen für die Erstellung und Veröffentlichung der Risikofolgenabschätzung sogenannter General-Purpose-KI.

Der vzbv bewertet regelmäßig in einem Politikcheck, ob sich die Bundesregierung wie im Koalitionsvertrag angekündigt für eine verbraucherorientierte Algorithmenkontrolle einsetzt. Hier sehen Sie die aktuelle Bewertung:

Politikcheck Regierungsbilanz

Weitere Informationen

Weitere Inhalte auf Englisch

Alles zum Thema: Algorithmen & KI

Artikel (40)
Dokumente (23)
Urteile (1)
Termine (6)

Unsere Expert:innen zum Thema

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Telefon-Icon

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

lina-ehrig-presse-vzbv 1 von 1.jpg

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0

Verwandte Themen