Datum: 13.03.2024

KI-Regulierung: Bei den Verbraucherrechten wäre mehr drin gewesen

vzbv begrüßt Beschluss des europäischen AI Acts – es bleiben aber Lücken bei den Verbraucherrechten

  • Beschlossener AI Act ist ein erster guter Schritt, lässt für Verbraucher:innen aber einige Schutzlücken
  • vzbv: Bundesregierung und Bundestag müssen bei nationaler Umsetzung effiziente Aufsicht sicherstellen
  • Behördliche Kontrollen von KI-Systemen müssen Verbraucherinteressen berücksichtigen
Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

Künstliche Intelligenz (KI) prägt den Konsumalltag immer stärker, etwa durch digitale Assistenten, die in Echtzeit Gefühle analysieren, durch personalisierte Empfehlungssysteme und Angebote. Eine verbraucherfreundliche Regulierung von KI ist daher besonders dringlich. Am 13. März hat das Europäische Parlament den Artificial Intelligence Act (AI Act) verabschiedet. Aus Sicht des Verbraucherzentrale Bundesverbands (vzbv) stellt der AI Act eine Verbesserung für Verbraucher:innen dar, reicht aber nicht aus. Der vzbv fordert, die Interessen der Verbraucher:innen bei der Umsetzung des AI Acts in Deutschland in den Mittelpunkt zu stellen.

„Immer mehr Angebote und Anwendungen greifen auf Systeme zurück, die Künstliche Intelligenz einsetzen. Das bietet Chancen für Verbraucher:innen, birgt aber auch Risiken. Es ist deshalb eine gute Nachricht, dass sich die EU-Institutionen auf Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen geeinigt haben“, sagt Ramona Pop, Vorständin des vzbv.

„Doch die Regeln im AI Act geben Verbraucher:innen leider keinen ausreichenden Schutz. Bundesregierung und Bundestag müssen die wenigen Spielräume bei der nationalen Umsetzung des AI Acts nutzen und zumindest die KI-gesteuerte Gesichtserkennung im öffentlichen Raum auch für private Akteure untersagen. Der deutsche Gesetzgeber muss sicherstellen, dass es effiziente Aufsichtsstrukturen gibt und Aufsichtsbehörden ausreichend mit Personal und Know-how ausgestattet sind. Bei der Kontrolle von KI-Systemen und dem Durchsetzen der Regeln müssen Verbraucherinteressen höchste Priorität bekommen“, sagt Pop.

Schutzlücken für Verbraucher:innen bleiben

Der AI Act macht den Umgang mit KI für Verbraucher:innen transparenter: So erhalten sie bei KI-Systemen mit besonders hohem Risiko ein Recht auf Erklärung, beispielsweise beim Abschluss von Versicherungen. Hier ist jedoch fraglich, ob Verbraucher:innen aus der bereitgestellten Erklärung wirklich verwertbare Informationen erhalten, die ihnen etwa im Streitfall nutzen, zum Beispiel wenn sie Diskriminierung vermuten.

Der AI Act sieht zudem vor, dass einige manipulative Praktiken durch KI untersagt werden. Persönliche Schwächen von Verbraucher:innen dürfen nicht von KI ausgenutzt werden. Eine Schutzlücke sieht der vzbv jedoch darin, dass das Verbot voraussetzt, dass diese Manipulation absichtlich geschieht.

„Aus Verbrauchersicht ist es nicht relevant, ob Manipulation absichtlich oder unbeabsichtigt passiert. Eine Absicht bei Manipulation kann vor Gericht wohl kaum nachgewiesen werden, deshalb ist es inkonsequent, hier zu unterscheiden. Manipulationen oder das Ausnutzern persönlicher Schwächen sollten grundsätzlich verboten werden“, sagt Ramona Pop.

„Verbraucherschutzorganisationen wie der vzbv sollen künftig gegen KI-Betreiber vorgehen können, wenn diese gegen den AI Act verstoßen. Das begrüßt der vzbv ausdrücklich, denn Verbraucher:innen haben in der Regel nicht die Möglichkeiten, ihre Rechte gegenüber Betreibern von KI-Systemen vor Gericht durchzusetzen“, so Pop.

Hintergrund

Seit April 2021 wird in Brüssel ein Rechtsrahmen für Künstliche Intelligenz (KI) verhandelt, der Artificial Intelligence Act (AI Act). Mit dem am 13. März 2024 beschlossenen AI Act will die EU Vorreiter bei der Regulierung von KI sein. Er soll künftig Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen definieren. Die KI-Regulierung wird allerdings voraussichtlich erst ab 2026 in der Praxis greifen.

Alles zum Thema: Algorithmen & KI

Artikel (40)
Dokumente (23)
Urteile (1)
Termine (6)

Kontakt

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Telefon-Icon

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

lina-ehrig-presse-vzbv_1_von_1.jpg

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0