KI greift immer stärker auch in den Verbraucheralltag ein. Umso wichtiger ist es, Verbraucherrechte im KI-Bereich zu schützen. Die europäische KI-Verordnung verbietet nicht tolerierbare KI-Anwendungen und macht Vorgaben für hochriskante KI-Anwendungen sowie für KI-Modelle, auf denen etwa ChatGPT basiert. Eine nationale KI-Aufsicht soll kontrollieren, ob Unternehmen diese Vorgaben einhalten. Aus Sicht des Verbraucherzentrale Bundesverbands geht der Referentenentwurf der Bundesregierung zur Umsetzung der europäischen KI-Verordnung in die richtige Richtung. Allerdings muss die Aufsicht die Interessen von Verbraucher:innen noch stärker berücksichtigen.
Der Verbraucherzentrale Bundesverband begrüßt, dass die Bundesnetzagentur als zentrale KI-Aufsicht ein Beschwerdeportal für Verbraucher:innen einrichten soll. So können sich die Menschen über KI-Anwendungen beschweren, wenn sie denken, dass diese gegen Vorgaben der KI-Verordnung verstoßen. Ein Beschwerdeportal muss die Bedürfnisse der Verbraucher:innen berücksichtigen und für die Menschen leicht zugänglich sein.
„Für Verbraucherinnen und Verbraucher sollte ihre Beschwerde nicht in einem Behörden-Ping-Pong enden, bei dem sie sich über verschiedene Kanäle mit unterschiedlichen Stellen auseinandersetzen müssen. Wir brauchen eine Kommunikation mit allen Behörden aus einem Guss über den gesamten Beschwerdeprozess hinweg. Es muss klar sein, wohin sich die Menschen für Beschwerden, aber auch für praktische Unterstützung bei der Wahrnehmung ihrer Rechte wenden können. Diese Rolle muss die Bundesnetzagentur als zentrale KI-Aufsichtsbehörde ausfüllen“, sagt Lina Ehrig, Leiterin des Teams Digitales und Medien im Verbraucherzentrale Bundesverband.
Der Verbraucherzentrale Bundesverband fordert unter anderem:
- Bündelung aller Kommunikation im zentralen Beschwerdeportal: Auch bei der Weiterleitung einer Beschwerde an eine zuständige andere Behörde sollte die Kommunikation über das zentrale Portal erfolgen.
- Bundesnetzagentur als Ansprechpartner für praktische Information und Hilfe für Verbraucher:innen: Nur wenn Verbraucher:innen informiert sind, können sie ihr Recht auf Beschwerde und ihr Recht auf Erklärung von KI-Entscheidungen überhaupt wahrnehmen.
- Einrichtung eines unabhängigen nationalen KI-Beirats bei der Bundesnetzagentur: Der KI-Beirat sollte die Berücksichtigung zivilgesellschaftlicher Interessen in der KI-Aufsicht sicherstellen und mit Vertreter:innen aus Wissenschaft, Zivilgesellschaft und Wirtschaft besetzt werden.