Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen

KI-Regeln der EU ignorieren viele Verbraucherprobleme

vzbv veröffentlicht Positionspapier zum Vorschlag für den Artificial Intelligence Act (AIA)

Die Europäische Kommission hat einen Vorschlag für einen europäischen Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AIA) vorgelegt. Der Verbraucherzentrale Bundesverband (vzbv) kritisiert nun in einem Positionspapier, dass der AIA Verbraucherinnen und Verbraucher nicht wirksam vor KI-Systemen schützt, die erheblichen wirtschaftliche Schäden verursachen können – etwa im Bereich Versicherungen. Außerdem schaffe er kaum Transparenz für Verbraucher und überlasse die Kontrolle hochriskanter KI-Systeme weitgehend den Anbietern selber.

Illustration: Aus dem Smartphone eines Mannes fließt ein Ebenbild seiner selbst aus Nullen und Einsen

Quelle: vzbv

Die Bewertung des vzbv im Einzelnen:

  • Der Vorschlag ignoriert weitgehend KI-Systeme, die Verbrauchern erhebliche wirtschaftliche und finanzielle Schäden zufügen können, etwa im Versicherungs- oder Finanzbereich.
  • Der Gesetzgeber muss ein Recht auf individuelle Erklärung schaffen, etwa zu Datengrundlage wichtiger KI-getriebener Entscheidungen. Nur damit können Verbraucher ihre Rechte wahrnehmen und gegen ungerechtfertigte Behandlung oder Diskriminierung vorgehen.
  • Der Vorschlag schützt Verbraucher nicht wirksam vor dem Einsatz von Emotionserkennungssystemen und Persönlichkeitsanalysen durch private Stellen. So sollten etwa vermeintliche Lügendetektoren oder Systeme zur Emotionserkennung untersagt werden, wenn sie die Schwächen Einzelner (wie Schmerzen, Müdigkeit oder Veranlagung zu Spielsucht) zum kommerziellen Vorteil der Anbieter ausnutzen.
  • Die Verwendung biometrischer Identifikationssysteme in öffentlich zugänglichen Räumen durch private Stellen sollte untersagt werden – etwa wenn „smarte Brillen“ im öffentlichen Nahverkehr Passanten identifizieren.
  • Der Entwurf sieht vor, dass die Anbieter hochriskanter KI weitgehend selber kontrollieren, ob ihre Systeme rechtskonform sind. Um das nötige Verbrauchervertrauen in diese Systeme zu schaffen, müssen aber unabhängige Überprüfungen bei diesen Systemen die Regel sein.

Aus Sicht des vzbv muss das Europäische Parlament und der Rat der Europäischen Union den Vorschlag nun entsprechend nachbessern.

Das Positionspapier ist in englischer Sprache verfasst.

Download

21-08-03 vzbv Position Paper AIA ENG

Artificial Intelligence needs real world regulation

Position paper of the Federation of German Consumer Organisations (vzbv) on the European Commission’s proposal for an Artificial Intelligence Act (AIA).

Ansehen
PDF | 634.88 KB
21-08-12 vzbv Zusammenfassung Positionspaier AIA DE

KI-Regeln für Fairness und Verbrauchervertrauen

Positonspapier des vzbv | 21. August 2021

 

Ansehen
PDF | 186.75 KB
user-lock

Politik-Tracker Datenethikkommission

Im Oktober 2019 hat die Datenethikkommission (DEK) der Bundesregierung die zentralen Handlungsempfehlungen zu den Themen Künstliche Intelligenz, algorithmische Systeme und Datenpolitik vorgestellt. Der vzbv bewertet regelmäßig die Umsetzung der zehn wichtigsten Empfehlungen aus Verbrauchersicht.
Jetzt ansehen

Alles zum Thema: Algorithmen & KI

Artikel (29)
Dokumente (19)
Termine (5)

Kontakt

Pressestelle

Service für Journalistinnen & Journalisten
presse@vzbv.de +49 30 25800-525

Kontakt

Miika Blinn

Referent Team Digitales und Medien
info@vzbv.de +49 30 25800-0