Gutachten: Kompetenzzentrum darf Aufsicht über künstliche Intelligenz unterstützen

Die nationale Anwendung der europäischen Regulierung zu künstlicher Intelligenz (KI-Verordnung) sieht vor, dass in Deutschland bis August 2025 Aufsichtsstrukturen zur Überwachung der KI-Verordnung etabliert sein müssen. Zur Unterstützung der Aufsichtsbehörden schlägt der Verbraucherzentrale Bundesverband (vzbv) ein „KI-Kompetenzzentrum“ vor. Ein Gutachten der Deutschen Universität für Verwaltungswissenschaften Speyer im Auftrag des vzbv zeigt: Ein nationales KI-Kompetenzzentrum darf andere Behörden unter bestimmten Voraussetzungen unterstützen.

Verbraucher:innen erwarten, vor fehlerhaften KI-Produkten geschützt zu werden. Dies soll die neue KI-Verordnung sicherstellen. Neben einer koordinierenden Marktaufsichtsbehörde werden in Deutschland eine Vielzahl von Behörden auf Bundes- und Länderebene hierfür zuständig sein. So könnte beispielsweise die Aufsicht über KI-gesteuertes Spielzeug der kommunalen Gewerbeaufsicht zufallen.

Damit auch kleinere Behörden ausreichend KI-Expertise aufbauen und so den Schutz von Verbraucher:innen gewährleisten können, schlägt der vzbv ein bundesweites KI-Kompetenzzentrum vor, das mit technischer KI-Expertise unterstützen kann.

Das vorliegende Gutachten von Prof. Dr. David Roth-Isigkeit von der Deutschen Universität für Verwaltungswissenschaften Speyer zeigt: Ein KI-Kompetenzzentrum darf Behörden auf Bundes- und Länderebene unter bestimmten Voraussetzungen unterstützen. Wichtig ist, dass die Behörden selbst die finale Verwaltungsentscheidung treffen können, etwa ob ein KI-System den Anforderungen der KI-Verordnung genügt. Sonst würde die Zusammenarbeit gegen das sogenannte Verbot der Mischverwaltung verstoßen.

Hintergrund

Am 2. August 2024 trat die europäische KI-Verordnung in Kraft. Sie sieht vor, dass Mitgliedsstaaten innerhalb von zwölf Monaten nach Inkrafttreten eine Aufsicht für künstliche Intelligenz etablieren müssen. Sie adressiert eine Vielzahl realer KI-Risiken, denen Verbraucher:innen täglich ausgesetzt sind. Beispiele sind die Echtzeit-Analyse von Kundenemotionen an Hotlines oder die subtile Manipulation vulnerabler Verbrauchergruppen zu Verkaufszwecken.

Download

Die Einrichtung eines Kompetenzzentrums algorithmische Systeme im Rahmen der Umsetzung der KI-Verordnung

vzbv-Gutachten | Oktober 2024

Ansehen
PDF | 262.42 KB

Weitere Informationen

Gesichtserkennungsmaske über dem Gesicht eines Mannes — Quelle: Artem - AdobeStock

23.04.2024KI-Regulierung: Nationale Aufsicht muss verbraucherfreundlich sein

Der Artificial Intelligence Act sieht vor, dass nationale Gesetzgeber innerhalb von zwölf Monaten nach Inkrafttreten eine Aufsicht für künstliche Intelligenz etablieren müssen.

Publikation ansehen

Alles zum Thema: Algorithmen & KI

Zur Themenseite Algorithmen & KI

Artikel (39)

Online-Banking — Quelle: anyaberkut - fotolia.com

10.10.2025KI: Aufsicht muss Verbraucherinteressen berücksichtigen

KI greift immer stärker auch in den Verbraucheralltag ein. Umso wichtiger ist es, Verbraucherrechte im KI-Bereich zu schützen. Die europäische KI-Verordnung verbietet nicht tolerierbare KI-Anwendungen und macht Vorgaben für hochriskante KI-Anwendungen sowie für KI-Modelle, auf denen etwa ChatGPT basiert. Eine nationale KI-Aufsicht soll kontrollieren, ob Unternehmen diese Vorgaben einhalten. Aus Sicht des Verbraucherzentrale Bundesverbands geht der Referentenentwurf der Bundesregierung zur Umsetzung der europäischen KI-Verordnung in die richtige Richtung. Allerdings muss die Aufsicht die Interessen von Verbraucher:innen noch stärker berücksichtigen.

Meldung lesen

internet-smartphone-laptop_fotolia_arthurhidden_65046718.jpg — Quelle: arthurhidden - fotolia.com

01.08.2025KI: Verbraucherzentrale für zügige Einrichtung einer Aufsichtsbehörde

Diskriminierung, mangelnde Transparenz, Manipulation – KI muss die Grundrechte einhalten. Dazu zählen die Würde des Menschen, das Recht auf Gleichbehandlung oder auch Verbraucherrechte. Die Europäische KI-Verordnung verbietet seit Februar 2025 KI-Anwendungen, die ein nicht tolerierbares Risiko für die Grundrechte darstellen.

Zur Pressemeldung

Eine Frau sitzt auf dem Sofa und hält sich für die Gesichtserkennung ein Handy vors Gesicht — Quelle: Jajah-sireenut - iStock

07.01.2025Aufsicht über KI-Verordnung: Bedürfnisse der Verbraucher:innen müssen berücksichtigt werden

Für die Ressortabstimmung der Bundesregierung zur Durchführung des Artificial Intelligence Act (KI-Verordnung) fordert der vzbv einen verbraucherfreundlichen Gesetzentwurf. Verbraucher:innen sollten eine zentrale Anlaufstelle für Beschwerden und Hilfe haben.

Meldung lesen

digital-smartphone-touristen-fotolia_nenetus_78663700.jpg — Quelle: Nenetus - AdobeStock

16.10.2024Gutachten: Kompetenzzentrum darf Aufsicht über künstliche Intelligenz unterstützen

Die nationale Anwendung der europäischen KI-Verordnung sieht vor, dass in Deutschland bis August 2025 Aufsichtsstrukturen zur Überwachung der KI-Verordnung etabliert sein müssen. Zur Unterstützung der Aufsichtsbehörden schlägt der vzbv ein „KI-Kompetenzzentrum“ vor.

Meldung lesen

Gruppe von Menschen mit Handy — Quelle: iStock - Peoplesimages

06.06.2024Verbraucherreport 2024: Verbraucher:innen wünschen sich mehr Schutz im digitalen Raum

Im digitalen Raum klaffen große Lücken beim Verbraucherschutz. Das zeigt der Verbraucherreport 2024 des vzbv. Von Fakeshops und untergeschobenen Verträgen bis zur Regulierung künstlicher Intelligenz oder manipulativer Designs gibt es viele drängende Verbraucherthemen. Der vzbv fordert ein Update vieler Verbraucherrechte.

Zur Pressemeldung

Dokumente (18)

Verbraucher:innen bei KI-Aufsicht berücksichtigen!

Stellungnahme | Oktober 2025

Ansehen
PDF | 172.07 KB

Anhörung Umsetzung AI-Act

Stellungnahme | Mai 2024

Ansehen
PDF | 286.84 KB

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

Positionspapier des vzbv | Juni 2024

Ansehen
PDF | 204.37 KB

Politikcheck 2023

Verbraucherpolitische Halbzeitbilanz der 20. Legislaturperiode

Ansehen
PDF | 108.04 KB

EU legislators must close dangerous loophole in AI Act

Open letter of 100+ organizations | September 2023

Ansehen
PDF | 53.1 KB

Urteile (1)

14.12.2020Gericht: Irreführung der Verbraucher auf test.net

Urteil vom 14.12.2020

Das OLG Köln hat nach einer Klage des vzbv der test.net GmbH untersagt, auf ihrer Internetseite angebotene Produktvergleiche als Tests auszugeben, wenn die bewerteten Produkte gar nicht einzeln geprüft wurden. Das Gericht verbot dem Unternehmen außerdem, die Domain test.net für algorithmusbasierte Produktvergleiche zu verwenden.

Urteil ansehen

Umfragen (1)

11.10.2021Verbraucherreport 2021: Digitales wird zur Dauerbaustelle

Das Themenfeld Internet und Digitales wird immer mehr zur Dauerbaustelle. Zu diesem Befund kommt der diesjährige Verbraucherreport 2021 des vzbv, für den zum nunmehr sechsten Mal 1.500 Menschen in Deutschland zu verschiedenen verbraucherpolitischen Themen befragt wurden.

Zur Pressemeldung

Termine (5)

Algorithmen_Pablo Lagarto - Adobe Stock — Quelle: Pablo Lagarto - Adobe Stock

06.- 06.06.2023, re:publica/FoyerEinwilligung als „Cash“ Online-Design zwischen Dark Patterns und Verbraucherorientierung

Veranstaltung mit vzbv-Digitalexpertin Lina Ehrig auf der re:publica

Termin ansehen

Raus aus dem Digital — Quelle: Digitaltag

24.06.2022, bundesweitDigitaltag 2022

Auch die Verbraucherzentralen wollen die digitale Teilhabe in Deutschland fördern. Zum bundesweiten Digitaltag am 24. Juni 2022 machen die Verbraucherzentralen und der vzbv deshalb Digitalisierung mit zahlreichen Aktionen, Online-Seminaren und Smartphone-Rallys alltagsnah erlebbar.

Termin ansehen

10.12.2020Wir rechnen mit Ihnen. Andere auch. #Algorithms4Consumers

Unter der Überschrift „Wir rechnen mit Ihnen. Andere auch #Algorithms4Consumers“ veranstalten der Verbraucherzentrale Bundesverband e.V. (vzbv) und die Vertretung des Landes Baden-Württemberg bei der Europäischen Union am 10. Dezember 2020 in Brüssel eine gemeinsame Veranstaltung zum Thema Algorithmen und Künstlicher Intelligenz.

Termin ansehen

18.11.2019Algorithmen kontrollieren - geltendes Recht durchsetzen

Gemeinsame Veranstaltung des vzbv mit der Landesvertretung Nordrhein-Westfalen.

Termin ansehen

19.03.2019Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.

Der Verbraucherzentrale Bundesverband (vzbv) hat die Europawahl zum Anlass genommen, um auf der Veranstaltung „Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.“ am Dienstag, den 19. März 2019 in Berlin über die Anliegen und Gestaltungsmöglichkeiten der Verbraucherpolitik in Europa zu diskutieren.

Termin ansehen

Videos & Grafiken (9)

Quelle: vzbv

KI: Sorge vor Manipulation

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 609.8 KB | 4724x2657

Quelle: vzbv

KI-Nutzung von Verbraucher:innen

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 713.12 KB | 4724x2657

Quelle: vzbv

Profilbildung zu Werbezwecken verbieten | Europawahl 2024

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 906.89 KB | 4724x2657

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen