Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
internet-smartphone-laptop fotolia arthurhidden 65046718.jpg

Quelle: arthurhidden - fotolia.com

Datum: 01.08.2025

KI: Verbraucherzentrale für zügige Einrichtung einer Aufsichtsbehörde

Verbraucherzentrale Bundesverband kritisiert Nicht-Umsetzung von EU-Vorgaben

internet-smartphone-laptop fotolia arthurhidden 65046718.jpg

Quelle: arthurhidden - fotolia.com

Diskriminierung, mangelnde Transparenz, Manipulation – KI muss die Grundrechte einhalten. Dazu zählen die Würde des Menschen, das Recht auf Gleichbehandlung oder auch Verbraucherrechte. Die Europäische KI-Verordnung verbietet seit Februar 2025 KI-Anwendungen, die ein nicht tolerierbares Risiko für die Grundrechte darstellen. Eine nationale KI-Aufsicht soll auch in Deutschland Unternehmen bei der Einhaltung der Vorgaben kontrollieren. Die Bundesregierung hätte bis 2. August 2025 eine solche nationale Aufsicht einrichten müssen. Dass diese Frist nun wohl verpasst wird, kritisiert der Verbraucherzentrale Bundesverband.

„Die Bundesregierung ist in der Pflicht, Verbraucherinnen und Verbraucher vor verbotenen KI-Praktiken zu schützen. Es ist nicht akzeptabel, dass es bei einer so relevanten, längst im Alltag etablierten Technologie keine Kontrolle über die Einhaltung von Verbraucherrechten gibt. Chancen von KI werden vielfach diskutiert. Wir müssen aber auch auf die Risiken schauen. Dass Verbraucherinnen und Verbraucher im Netz Manipulation, Betrug oder auch Diskriminierung ausgesetzt sind, führt zu großer Unsicherheit und oft auch zu finanziellem Schaden“, sagt Lina Ehrig, Leiterin des Teams Digitales und Medien im Verbraucherzentrale Bundesverband.

„Der deutsche Gesetzgeber verpasst die fristgerechte Einrichtung einer KI-Aufsicht. Das ist ein Unding“, so Ehrig weiter. Ohne Aufsicht könnten Unternehmen Verbraucher:innen mithilfe von KI manipulieren oder individuelle Schwächen ausnutzen, etwa über eine Echtzeit-Stimmanalyse in Callcentern. „Es braucht eine Aufsicht, die das im Blick hat und gegen Verstöße vorgeht. Das passiert bislang nicht“, sagt Ehrig.

Die KI-Verordnung sieht vor, dass sich Verbraucher:innen bei einer Aufsichtsbehörde über KI-Anwendungen beschweren können, wenn sie den Eindruck haben, diese verstoßen gegen die rechtlichen Vorgaben. Dieses Recht können Verbraucher:innen mangels Aufsichtsbehörde jedoch derzeit nicht wahrnehmen.

Nationale Aufsicht muss verbraucherfreundlich sein

Der Verbraucherzentrale Bundesverband fordert, dass die Bundesregierung bei der Einrichtung einer KI-Aufsicht die Interessen der Verbraucher:innen angemessen berücksichtigt:

  • Über ein zentrales Beschwerdeportal sollten sich Verbraucher:innen in einer zentralen Aufsichtsbehörde melden können.
  • Diese sollte Ansprechpartnerin für Verbraucher:innen über das gesamte Verfahren hinweg sein.
  • Die nationale KI-Aufsichtsbehörde muss Verbraucher:innen über ihre Rechte informieren und bei der Wahrnehmung ihrer Rechte praktisch unterstützen.
  • Ein unabhängiger nationaler KI-Beirat ist einzurichten, damit zivilgesellschaftliche Perspektiven, unter anderem der Verbraucherschutz, bei der KI-Aufsicht berücksichtigt werden. 

Hintergrund

Am 2. August 2024 ist die europäischen KI-Verordnung in Kraft getreten. Seit dem 2. Februar 2025 sind durch entsprechende EU-Vorgaben schädliche KI-Praktiken verboten. Dazu zählen etwa manipulative Praktiken oder das Ausnutzen von Schwächen vulnerabler Verbrauchergruppen. Die europäische KI-Verordnung sieht vor, dass alle EU-Staaten bis zum 2. August 2025 eine Aufsicht für KI etablieren müssen. Die KI-Verordnung sieht vor, auch Verbraucher:innen vor einer Vielzahl an KI-Risiken zu schützen.  

Alles zum Thema: Algorithmen & KI

Artikel (38)
Dokumente (17)
Anhörung Umsetzung AI-Act

Anhörung Umsetzung AI-Act

Stellungnahme des vzbv zur öffentlichen Anhörung des Ausschusses für Digitales des Deutschen Bundestages „Nationale Spielräume bei der Umsetzung des europäischen Gesetzes über Künstliche Intelligenz“ am Mittwoch, 15. Mai 2024

Ansehen
PDF | 286.84 KB
AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

Positionspapier des vzbv | Juni 2024 | Vorschläge des Verbraucherzentrale Bundesverbands e.V. für eine nationale Umsetzung des Artificial Intelligence Act

Ansehen
PDF | 204.37 KB
Politikcheck 2023

Politikcheck 2023

Verbraucherpolitische Halbzeitbilanz der 20. Legislaturperiode

Ansehen
PDF | 108.04 KB
EU legislators must close dangerous loophole in AI Act

EU legislators must close dangerous loophole in AI Act

Open letter of 100+ organizations | September 2023

Ansehen
PDF | 53.1 KB
Tabellenband zur Forsa-Umfrage im Auftrag des vzbv | August 2023

Tabellenband zur Forsa-Umfrage im Auftrag des vzbv | August 2023

Ansehen
PDF | 189.34 KB
Urteile (1)
Umfragen (1)
Termine (5)
Videos & Grafiken (9)
KI: Sorge vor Manipulation

Quelle: vzbv

KI: Sorge vor Manipulation

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 609.8 KB | 4724x2657
Von Skepsis bis Dauer-User: KI im Verbraucheralltag

Quelle: vzbv

KI-Nutzung von Verbraucher:innen

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 713.12 KB | 4724x2657
Infografik: forsa-Umfrage im Auftrag des vzbv | Frage: Wie wichtig wäre die Umsetzung des folgenden Vorschlags für Ihren persönlichen Alltag? Personalisierte Online-Werbung verbieten, die auf persönlichen Profilen beruht, die anhand Ihrer vorherigen Aktivitäten im Internet erstellt wurden. 31% eher nicht wichtig; 25% eher wichtig; 40% sehr wichtig

Quelle: vzbv

Profilbildung zu Werbezwecken verbieten | Europawahl 2024

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 906.89 KB | 4724x2657
Bundespreis Verbraucherschutz 2022: SECUSO

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen
Bundespreis Verbraucherschutz 2022: SECUSO

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen

Kontakt

Kontakt

Icon Sprechblase+Beratung Kreis rot

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Icon Sprechblase+Beratung Outline rot

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

Lina Ehrig

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0