Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
digital-smartphone-touristen-fotolia nenetus 78663700.jpg

Quelle: Nenetus - AdobeStock

Datum: 16.10.2024

Gutachten: Kompetenzzentrum darf Aufsicht über künstliche Intelligenz unterstützen

vzbv-Gutachten zur Einrichtung eines Kompetenzzentrums für künstliche Intelligenz zur Unterstützung von Aufsichtsbehörden auf Landes- und Bundesebene

digital-smartphone-touristen-fotolia nenetus 78663700.jpg

Quelle: Nenetus - AdobeStock

Die nationale Anwendung der europäischen Regulierung zu künstlicher Intelligenz (KI-Verordnung) sieht vor, dass in Deutschland bis August 2025 Aufsichtsstrukturen zur Überwachung der KI-Verordnung etabliert sein müssen. Zur Unterstützung der Aufsichtsbehörden schlägt der Verbraucherzentrale Bundesverband (vzbv) ein „KI-Kompetenzzentrum“ vor. Ein Gutachten der Deutschen Universität für Verwaltungswissenschaften Speyer im Auftrag des vzbv zeigt: Ein nationales KI-Kompetenzzentrum darf andere Behörden unter bestimmten Voraussetzungen unterstützen.

Verbraucher:innen erwarten, vor fehlerhaften KI-Produkten geschützt zu werden. Dies soll die neue KI-Verordnung sicherstellen. Neben einer koordinierenden Marktaufsichtsbehörde werden in Deutschland eine Vielzahl von Behörden auf Bundes- und Länderebene hierfür zuständig sein. So könnte beispielsweise die Aufsicht über KI-gesteuertes Spielzeug der kommunalen Gewerbeaufsicht zufallen.

Damit auch kleinere Behörden ausreichend KI-Expertise aufbauen und so den Schutz von Verbraucher:innen gewährleisten können, schlägt der vzbv ein bundesweites KI-Kompetenzzentrum vor, das mit technischer KI-Expertise unterstützen kann. 

Das vorliegende Gutachten von Prof. Dr. David Roth-Isigkeit von der Deutschen Universität für Verwaltungswissenschaften Speyer zeigt: Ein KI-Kompetenzzentrum darf Behörden auf Bundes- und Länderebene unter bestimmten Voraussetzungen unterstützen. Wichtig ist, dass die Behörden selbst die finale Verwaltungsentscheidung treffen können, etwa ob ein KI-System den Anforderungen der KI-Verordnung genügt. Sonst würde die Zusammenarbeit gegen das sogenannte Verbot der Mischverwaltung verstoßen.

Hintergrund

Am 2. August 2024 trat die europäische KI-Verordnung in Kraft. Sie sieht vor, dass Mitgliedsstaaten innerhalb von zwölf Monaten nach Inkrafttreten eine Aufsicht für künstliche Intelligenz etablieren müssen. Sie adressiert eine Vielzahl realer KI-Risiken, denen Verbraucher:innen täglich ausgesetzt sind. Beispiele sind die Echtzeit-Analyse von Kundenemotionen an Hotlines oder die subtile Manipulation vulnerabler Verbrauchergruppen zu Verkaufszwecken.

Download

Die Einrichtung eines Kompetenzzentrums algorithmische Systeme im Rahmen der Umsetzung der KI-Verordnung

Die Einrichtung eines Kompetenzzentrums algorithmische Systeme im Rahmen der Umsetzung der KI-Verordnung

vzbv-Gutachten | Oktober 2024

Ansehen
PDF | 262.42 KB

Weitere Informationen

Alles zum Thema: Algorithmen & KI

Artikel (39)
Dokumente (18)
Verbraucher:innen bei KI-Aufsicht berücksichtigen!

Verbraucher:innen bei KI-Aufsicht berücksichtigen!

Stellungnahme | Oktober 2025 

Ansehen
PDF | 172.07 KB
Anhörung Umsetzung AI-Act

Anhörung Umsetzung AI-Act

Stellungnahme | Mai 2024

Ansehen
PDF | 286.84 KB
AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

Positionspapier des vzbv | Juni 2024

Ansehen
PDF | 204.37 KB
Politikcheck 2023

Politikcheck 2023

Verbraucherpolitische Halbzeitbilanz der 20. Legislaturperiode

Ansehen
PDF | 108.04 KB
EU legislators must close dangerous loophole in AI Act

EU legislators must close dangerous loophole in AI Act

Open letter of 100+ organizations | September 2023

Ansehen
PDF | 53.1 KB
Urteile (1)
Umfragen (1)
Termine (5)
Videos & Grafiken (9)
KI: Sorge vor Manipulation

Quelle: vzbv

KI: Sorge vor Manipulation

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 609.8 KB | 4724x2657
Von Skepsis bis Dauer-User: KI im Verbraucheralltag

Quelle: vzbv

KI-Nutzung von Verbraucher:innen

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 713.12 KB | 4724x2657
Infografik: forsa-Umfrage im Auftrag des vzbv | Frage: Wie wichtig wäre die Umsetzung des folgenden Vorschlags für Ihren persönlichen Alltag? Personalisierte Online-Werbung verbieten, die auf persönlichen Profilen beruht, die anhand Ihrer vorherigen Aktivitäten im Internet erstellt wurden. 31% eher nicht wichtig; 25% eher wichtig; 40% sehr wichtig

Quelle: vzbv

Profilbildung zu Werbezwecken verbieten | Europawahl 2024

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 906.89 KB | 4724x2657

Kontakt

Kontakt

Icon Sprechblase+Beratung Kreis rot

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Icon Sprechblase+Beratung Outline rot

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

Lina Ehrig

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0