Datum: 19.06.2020

„Weißbuch KI“ zu wenig ambitioniert

EU-Kommission skizziert europäischen Rechtsrahmen für Künstliche Intelligenz (KI) in einem Weißbuch

Algorithmen_Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Aus Verbrauchersicht verfolgt das Weißbuch zwar die richtigen Ansätze, aber die vorgeschlagenen Regeln sind nicht ambitioniert genug. Zudem ist der Anwendungsbereich der vorgeschlagenen Regelung zu eng gefasst, so dass die Regeln nicht für eine Reihe risikobehafteter KI-Anwendungen gelten würden (z.B. Versicherungen oder Diskriminierung in Online-Marktplätzen und Persönlichkeitsanalysen von Nutzern).

Der Verbraucherzentrale Bundesverband (vzbv) begrüßt den Vorschlag der EU-Kommission, Regeln für riskante KI-Anwendungen einzuführen. Leider ist der Ansatz des Weißbuchs binär: Es ist kein abgestuftes Regulierungssystem mit mehreren Risikoklassen und dem Risiko entsprechenden Anforderungen vorgesehen. Zudem werden potenzielle Schäden für soziale Gruppen und die Gesellschaft nicht berücksichtigt, etwa, wenn ganze Gruppen durch KI-basierte Entscheidungen systematisch von Dienstleistungen ausgeschlossen werden.  

In puncto Transparenzanforderungen gegenüber Verbraucherinnen und Verbrauchern sieht das Weißbuch nur eine Kennzeichnung von Hochrisiko-Anwendungen vor. Hier greift die EU-Kommission deutlich zu kurz, denn Verbraucher müssen auch über die Risiken, Fehlergenauigkeit, die Datengrundlage usw. von KI Anwendungen informiert werden. Grundsätzlich müssen Verbraucher alle Informationen erhalten, die sie in die Lage versetzen, ihre Rechte wahrnehmen zu können, wenn dies notwendig ist.

Je nach Risikopotenzial müssten Entwickler und Betreiber von KI-Anwendungen in der Lage sein, zu erklären, wie ihre Systeme funktionieren, um die Rückverfolgbarkeit von Entscheidungen und Verantwortung im Sinne von „Accountability-by-Design“ zu gewährleisten.

Mehr Transparenz, Nachvollziehbarkeit, Qualitätsvorgaben und Kontrolle von KI-Systemen würde das Vertrauen der Verbraucher in diese Technologie erhöhen und damit die Akzeptanz für deren Einsatz im Alltag.
 

Hintergrund und Ausblick:

Der Verbraucherzentrale Bundesverbandes (vzbv) nimmt im Rahmen einer Konsultation Stellung zu den Vorschlägen der Europäischen Kommission für die Gestaltung eines europäischen Rechtsrahmens für KI-Anwendungen. Diese hat die Europäische Kommission im Februar 2020 in Form eines Weißbuchs veröffentlicht. Die Europäische Kommission plant Anfang 2021, einen konkreten Regelungsvorschlag für KI-Anwendungen vorzulegen.
 

Die Stellungnahme des vzbv finden Sie im Download-Bereich. Im Bereich „Weitere Informationen“ können Sie das Weißbuch KI der Europäischen Kommission im pdf-Format herunterladen.

Downloads

White Paper on Artificial Intelligence | Proposals of vzbv | May 2020

White Paper on Artificial Intelligence | Proposals of vzbv | May 2020

White Paper on Artificial Intelligence | Proposals of vzbv | May 2020

Ansehen
PDF | 481.43 KB

Alles zum Thema: Algorithmen & KI

Artikel (42)
Dokumente (17)
Anhörung Umsetzung AI-Act

Anhörung Umsetzung AI-Act

Stellungnahme des vzbv zur öffentlichen Anhörung des Ausschusses für Digitales des Deutschen Bundestages „Nationale Spielräume bei der Umsetzung des europäischen Gesetzes über Künstliche Intelligenz“ am Mittwoch, 15. Mai 2024

Ansehen
PDF | 286.84 KB
AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

Positionspapier des vzbv | Juni 2024 | Vorschläge des Verbraucherzentrale Bundesverbands e.V. für eine nationale Umsetzung des Artificial Intelligence Act

Ansehen
PDF | 204.37 KB
Politikcheck 2023

Politikcheck 2023

Verbraucherpolitische Halbzeitbilanz der 20. Legislaturperiode

Ansehen
PDF | 108.04 KB
EU legislators must close dangerous loophole in AI Act

EU legislators must close dangerous loophole in AI Act

Open letter of 100+ organizations | September 2023

Ansehen
PDF | 53.1 KB
Tabellenband zur Forsa-Umfrage im Auftrag des vzbv | August 2023

Tabellenband zur Forsa-Umfrage im Auftrag des vzbv | August 2023

Ansehen
PDF | 189.34 KB
Urteile (1)
Videos & Grafiken (9)
KI: Sorge vor Manipulation

Quelle: vzbv

KI: Sorge vor Manipulation

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 609.8 KB | 4724x2657
Von Skepsis bis Dauer-User: KI im Verbraucheralltag

Quelle: vzbv

KI-Nutzung von Verbraucher:innen

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 713.12 KB | 4724x2657
Infografik: forsa-Umfrage im Auftrag des vzbv | Frage: Wie wichtig wäre die Umsetzung des folgenden Vorschlags für Ihren persönlichen Alltag? Personalisierte Online-Werbung verbieten, die auf persönlichen Profilen beruht, die anhand Ihrer vorherigen Aktivitäten im Internet erstellt wurden. 31% eher nicht wichtig; 25% eher wichtig; 40% sehr wichtig

Quelle: vzbv

Profilbildung zu Werbezwecken verbieten | Europawahl 2024

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 906.89 KB | 4724x2657
Bundespreis Verbraucherschutz 2022: SECUSO

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen
Bundespreis Verbraucherschutz 2022: SECUSO

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen
Termine (6)

Kontakt

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0