Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Algorithmen & KI

Zunehmend werden Entscheidungen über Verbraucher:innen durch Algorithmische Systeme (ADM) und Künstliche Intelligenz (KI) getroffen oder vorbereitet (etwa bei Scoring-Verfahren im Finanzbereich). Verbraucherentscheidungen werden immer öfter durch KI-basierte Empfehlungssysteme und Sprachassistenten wie Alexa & Co beeinflusst.

Menschen misstrauen dabei KI-Anwendungen oft zu Recht: Aufgrund ihrer Intransparenz ist selbst für Experte:innen kaum nachzuvollziehen, ob die Systeme Fehlentscheidungen treffen oder gegen Gesetze verstoßen, etwa hinsichtlich des Diskriminierungsverbots oder der Beeinflussung und Irreführung von Verbraucher:innen.

Die Europäische Kommission hat mit dem Artificial Intelligence Act (AIA) einen Vorschlag für einen Rechtsrahmen für KI vorgelegt. Der Vorschlag greift allerdings zu kurz. Ein europäisches Regelwerk für KI muss sicherstellen, dass alle hochrisikanten KI-Anwendungen europäische Gesetze einhalten und europäischen Werten entsprechen. Dies würde die Akzeptanz und Verbreitung dieser Technologie fördern.

Der vzbv fordert

  • Transparenz: wichtige KI-Entscheidungen für Verbraucher:innen nachvollziehbar machen.
  • Expert:innen und Behörden müssen kontrollieren können, ob kritische KI-Systeme rechtskonform sind.
  • Alle KI-Anwendungen mit hohem Risiko für Verbraucher:innen, etwa im Bereich Versicherungen, müssen unter die KI-Regeln fallen.
  • Verbot von Emotionserkennung und Ausnutzung persönlicher Schwächen von Menschen durch KI.
  • Verbot von biometrischer Fernidentifizierung im öffentlichen Raum durch private Stellen.
  • Betreiber von KI-Systemen müssen eine Risikofolgenabschätzung erstellen und veröffentlichen.
Müllers Meinung - Plattformen und Algorithmen

Klaus Müller, Vorstand des vzbv, zur Notwendigkeit einer verbraucherfreundlichen Regulierung von Plattformen und Algorithmen.

Beim Abspielen des Videos werden nutzerbezogene Daten zu Youtube übertragen. Weitere Informationen
user-lock

Politik-Tracker Datenethikkommission

Im Oktober 2019 hat die Datenethikkommission (DEK) der Bundesregierung die zentralen Handlungsempfehlungen zu den Themen Künstliche Intelligenz, algorithmische Systeme und Datenpolitik vorgestellt. Der vzbv bewertet regelmäßig die Umsetzung der zehn wichtigsten Empfehlungen aus Verbrauchersicht.
Zum Politik-Tracker

Alles zum Thema: Algorithmen & KI

Artikel (30)
Dokumente (20)
Termine (5)

Unsere Expert:innen zum Thema

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Telefon-Icon

Pressestelle

Service für Journalist:innen
presse@vzbv.de +49 30 25800-525

Kontakt

lina-ehrig-presse-vzbv 1 von 1.jpg

Lina Ehrig

Leiterin Team Digitales und Medien
info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien
info@vzbv.de +49 30 25800-0

Verwandte Themen