Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Algorithmen & KI

Zunehmend werden Entscheidungen über Verbraucher:innen durch Algorithmische Systeme (ADM) und Künstliche Intelligenz (KI) getroffen oder vorbereitet (etwa bei Scoring-Verfahren im Finanzbereich). Verbraucherentscheidungen werden immer öfter durch KI-basierte Empfehlungssysteme und Sprachassistenten wie Alexa & Co beeinflusst.

Menschen misstrauen dabei KI-Anwendungen oft zu Recht: Aufgrund ihrer Intransparenz ist selbst für Experte:innen kaum nachzuvollziehen, ob die Systeme Fehlentscheidungen treffen oder gegen Gesetze verstoßen, etwa hinsichtlich des Diskriminierungsverbots oder der Beeinflussung und Irreführung von Verbraucher:innen.

Die Europäische Kommission hat mit dem Artificial Intelligence Act (AIA) einen Vorschlag für einen Rechtsrahmen für KI vorgelegt. Der Vorschlag greift allerdings zu kurz. Ein europäisches Regelwerk für KI muss sicherstellen, dass alle hochrisikanten KI-Anwendungen europäische Gesetze einhalten und europäischen Werten entsprechen. Dies würde die Akzeptanz und Verbreitung dieser Technologie fördern.

Der vzbv fordert

  • Transparenz: wichtige KI-Entscheidungen für Verbraucher:innen nachvollziehbar machen.
  • Expert:innen und Behörden müssen kontrollieren können, ob kritische KI-Systeme rechtskonform sind.
  • Alle KI-Anwendungen mit hohem Risiko für Verbraucher:innen, etwa im Bereich Versicherungen, müssen unter die KI-Regeln fallen.
  • Verbot von Manipulation, Emotionserkennung und Ausnutzung persönlicher Schwächen durch KI.
  • Verbot von biometrischer Fernidentifizierung im öffentlichen Raum durch private Stellen.
  • Betreiber von KI-Systemen müssen eine Risikofolgenabschätzung erstellen und veröffentlichen.
  • Verbraucher:innen brauchen Recht auf Auskunft und Erklärung gegenüber Betreibern von Hochrisiko-KI-Systemen.
  • Effektive Rechtsdurchsetzung: Verbandsklagen für Missbrauch von KI ermöglichen.

Der vzbv bewertet regelmäßig in einem Politikcheck, ob sich die Bundesregierung wie im Koalitionsvertrag angekündigt für eine verbraucherorientierte Algorithmenkontrolle einsetzt. Hier sehen Sie die aktuelle Bewertung:

Politikcheck Regierungsbilanz

Weitere Informationen

Weitere Inhalte auf Englisch

Alles zum Thema: Algorithmen & KI

Artikel (40)
Dokumente (23)
Urteile (1)
Termine (7)

Unsere Expert:innen zum Thema

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Telefon-Icon

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

lina-ehrig-presse-vzbv 1 von 1.jpg

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0

Verwandte Themen