Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
Datum: 23.10.2023

KI-Regulierung: Verbraucherrechte jetzt oder nie

vzbv: EU-Gesetzgeber muss jetzt Verbraucherschutz in den künftigen Regeln für KI-Systeme verankern

  • Betroffene brauchen Recht auf Auskunft und Erklärung.
  • Ausnutzung persönlicher Schwächen und Manipulation durch KI müssen verboten werden.
  • Effektive Rechtsdurchsetzung: Verbandsklagen für Missbrauch von KI ermöglichen.
Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

Der Konsumalltag wird immer stärker durch Künstliche Intelligenz (KI) wie Shopping-Assistenten oder ChatGPT beeinflusst. Bei der Regulierung von KI müssen daher die Belange von Verbraucher:innen berücksichtigt werden. In Brüssel sind die Verhandlungen für den Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AI Act), jetzt auf der Zielgeraden. Der Verbraucherzentrale Bundesverband (vzbv) fordert: Verbraucher:innen müssen besonders geschützt werden und starke Rechte bekommen.

„Künstliche Intelligenz wird den Konsumalltag weiter radikal verändern. Damit uns die technische Entwicklung nicht davongaloppiert, braucht es verbindliche Regeln und starke Verbraucherrechte gegenüber KI-Betreibern“, sagt Ramona Pop.

„Auf EU-Ebene werden jetzt die Weichen gestellt, wie und nach welchen Regeln KI in den nächsten Jahrzehnten unser Leben bestimmt. Das Europäische Parlament, der Rat der Europäischen Union und die Europäische Kommission müssen die Chance ergreifen und den AI Act im Sinne der Menschen gestalten. Nur auf dieser Basis wächst Vertrauen in KI und damit die gesellschaftliche Akzeptanz dieser Technologie“, so Pop.

Schon heute wird KI in sensiblen Lebensbereichen eingesetzt, etwa als Mental-Health-Berater. Generative KI-Systeme wie ChatGPT können die Entscheidungen von Verbraucher:innen beeinflussen, zum Beispiel Kaufentscheidungen beim Online-Shopping. Dabei besteht die Gefahr, dass KI die Verbraucher:innen manipuliert und übervorteilt.

Für den AI-Act fordert der vzbv:

Betroffenenrechte für Hochrisiko-KI einführen

Verbraucher:innen brauchen ein Recht auf Auskunft und Erklärung gegenüber Betreibern von Hochrisiko-KI-Systemen.

„Nur, wenn Betroffene wissen, welche Daten verwendet werden und wie die Entscheidung zustande kam, können sie sich wehren und ihre Rechte wahrnehmen“, sagt Pop. Wichtig sei auch ein Recht auf Beschwerde bei den Aufsichtsbehörden.

Schutz vor Manipulation und Ausnutzung persönlicher Schwächen

Der AI Act verbietet zwar den Einsatz von KI zur subtilen Manipulation sowie zum Ausnutzen von Schwächen von älteren Menschen, Minderjährigen und Menschen mit Behinderungen. Der vorgesehene Schutz ist aber lückenhaft.

„Wenn menschliches Verhalten in Echtzeit analysiert wird, ist jede:r situativ verwundbar“, sagt Pop. Wenn KI erkennt, dass eine Person zu Spielsucht neigt, müde ist, gestresst oder in Trauer, dürfe das nicht ausgenutzt werden. „Alle Verbraucher:innen müssen geschützt werden – auch vor finanziellen Schäden.“ Mit generativen KI-Systemen wie Chat GPT wird ein umfassendes Verbot noch wichtiger, weil Verbraucher:innen damit besonders leicht manipuliert oder Falschinformation generiert werden können.

Effektive Rechtsdurchsetzung sicherstellen – Verbandsklage für Missbrauch von KI ermöglichen

Betroffene haben oft weder die Ressourcen noch die Fähigkeiten ihre Rechte gegenüber Betreibern von KI-Systemen vor Gericht durchzusetzen. Darum muss der AI Act in den Anhang der europäischen Verbandsklagen-Richtlinie aufgenommen werden. „Institutionen wie der vzbv müssen die Möglichkeit haben, Klagen gegen bestimmte KI-Betreiber im Namen geschädigter Verbraucher:innen zu führen und Entschädigungen einzufordern“, sagt Pop.

Hintergrund

Seit April 2021 wird in Brüssel ein Rechtsrahmen für KI, der Artificial Intelligence Act (AI Act), verhandelt. Dieser soll Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen definieren. Der Rat hatte sich bereits am 6. Dezember 2022 auf eine Position zum AI Act geeinigt. Das Europäische Parlament folgte am 14. Juni 2023. Im Rahmen der Trilog-Verhandlungen findet am Dienstag, 24. Oktober die entscheidende Verhandlung zwischen Rat, Europäischem Parlament und Europäischer Kommission statt. Eine Einigung soll bis Ende 2023 erfolgen.

Alles zum Thema: Algorithmen & KI

Artikel (40)
Dokumente (23)
Urteile (1)
Termine (6)

Kontakt

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Telefon-Icon

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

lina-ehrig-presse-vzbv_1_von_1.jpg

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0