KI: Starke Rechte und starker Schutz für Verbraucher:innen gefordert

Der Konsumalltag wird durch Angebote wie Sprachassistenten oder ChatGPT immer stärker durch Künstliche Intelligenz (KI) beeinflusst. Eine verbraucherfreundliche Regulierung von KI wird daher besonders dringlich. In den Verhandlungen zum AI Act in Brüssel hat sich das Europäische Parlament am 14. Juni auf eine gemeinsame Position geeinigt. Für die folgenden Trilog-Verhandlungen fordert der Verbraucherzentrale Bundesverband (vzbv): Der AI Act muss Verbraucher:innen mit starken Rechten gegenüber KI-Betreibern ausstatten.

Ramona Pop, Vorständin des Verbraucherzentrale Bundesverbands (vzbv) kommentiert. 

Bereits heute werden Entscheidungen von Verbraucher:innen immer öfter durch KI-basierte Systeme wie beispielsweise ChatGPT beeinflusst. Um Risiken wie Manipulation, unfaire Behandlung oder Diskriminierung durch KI-Systeme auszuschließen, muss der geplante europäische AI Act für starke Verbraucherrechte und die Möglichkeit unabhängiger Kontrollen sorgen.

Wichtig ist, dass Verbraucher:innen individuelle Betroffenenrechte, wie ein Recht auf Erklärung, gegenüber KI-Betreibern eingeräumt werden. Nur dann können sie sich gegen unfaire Behandlungen wehren. Etwa indem sie erfragen können, welche Daten über sie verwendet wurden. Damit Verbraucher:innen im Ernstfall nicht alleine dastehen, müssen auch bei Verstößen gegen den AI Act berechtigte Organisation die Rechte für Verbraucher:innen durchsetzen können. Zudem muss eine unabhängige Risikobewertung durch Wissenschaftler:innen ermöglicht werden. Das schafft Vertrauen.

Es ist gut, dass sich das Europäische Parlament auf eine Position geeinigt und Regeln für KI-Grundmodelle aufgenommen hat. Denn auf diesen basieren Anwendungen wie ChatGPT, die ein hohes Risiko zur Irreführung bergen. In den weiteren Verhandlungen müssen Rat und Kommission die guten Vorschläge des Parlaments annehmen.

Neue generative Künstliche Intelligenz (KI) wie ChatGPT, ist bislang nicht speziell reguliert und wird ohne eine angemessene Folgenabschätzung durch unabhängige Dritte und ohne öffentliche Kontrolle oder besondere Aufsicht auf den Markt gebracht.

Seit April 2021 wird in Brüssel ein Rechtsrahmen für KI, der Artificial Intelligence Act (AI Act), verhandelt. Dieser soll Regeln und Qualitätsvorgaben für Anbieter von KI-Systemen definieren. Die breite Debatte um ChatGPT hat auch die Debatte um KI-Regulierung auf europäischer Ebene in den Fokus gerückt. Chat GPT zeigt, welche Risiken KI für Verbraucher:innen birgt.

Der Rat der Europäischen Union hatte sich bereits am 6. Dezember 2022 auf eine Position zum AI Act geeinigt. Das Europäische Parlament folgte am 14. Juni. Jetzt beginnen die Trilog-Verhandlungen zwischen Rat, Parlament und Kommission.