Datum: 19.06.2020

„Weißbuch KI“ zu wenig ambitioniert

EU-Kommission skizziert europäischen Rechtsrahmen für Künstliche Intelligenz (KI) in einem Weißbuch

Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Aus Verbrauchersicht verfolgt das Weißbuch zwar die richtigen Ansätze, aber die vorgeschlagenen Regeln sind nicht ambitioniert genug. Zudem ist der Anwendungsbereich der vorgeschlagenen Regelung zu eng gefasst, so dass die Regeln nicht für eine Reihe risikobehafteter KI-Anwendungen gelten würden (z.B. Versicherungen oder Diskriminierung in Online-Marktplätzen und Persönlichkeitsanalysen von Nutzern).

Der Verbraucherzentrale Bundesverband (vzbv) begrüßt den Vorschlag der EU-Kommission, Regeln für riskante KI-Anwendungen einzuführen. Leider ist der Ansatz des Weißbuchs binär: Es ist kein abgestuftes Regulierungssystem mit mehreren Risikoklassen und dem Risiko entsprechenden Anforderungen vorgesehen. Zudem werden potenzielle Schäden für soziale Gruppen und die Gesellschaft nicht berücksichtigt, etwa, wenn ganze Gruppen durch KI-basierte Entscheidungen systematisch von Dienstleistungen ausgeschlossen werden.  

In puncto Transparenzanforderungen gegenüber Verbraucherinnen und Verbrauchern sieht das Weißbuch nur eine Kennzeichnung von Hochrisiko-Anwendungen vor. Hier greift die EU-Kommission deutlich zu kurz, denn Verbraucher müssen auch über die Risiken, Fehlergenauigkeit, die Datengrundlage usw. von KI Anwendungen informiert werden. Grundsätzlich müssen Verbraucher alle Informationen erhalten, die sie in die Lage versetzen, ihre Rechte wahrnehmen zu können, wenn dies notwendig ist.

Je nach Risikopotenzial müssten Entwickler und Betreiber von KI-Anwendungen in der Lage sein, zu erklären, wie ihre Systeme funktionieren, um die Rückverfolgbarkeit von Entscheidungen und Verantwortung im Sinne von „Accountability-by-Design“ zu gewährleisten.

Mehr Transparenz, Nachvollziehbarkeit, Qualitätsvorgaben und Kontrolle von KI-Systemen würde das Vertrauen der Verbraucher in diese Technologie erhöhen und damit die Akzeptanz für deren Einsatz im Alltag.
 

Hintergrund und Ausblick:

Der Verbraucherzentrale Bundesverbandes (vzbv) nimmt im Rahmen einer Konsultation Stellung zu den Vorschlägen der Europäischen Kommission für die Gestaltung eines europäischen Rechtsrahmens für KI-Anwendungen. Diese hat die Europäische Kommission im Februar 2020 in Form eines Weißbuchs veröffentlicht. Die Europäische Kommission plant Anfang 2021, einen konkreten Regelungsvorschlag für KI-Anwendungen vorzulegen.
 

Die Stellungnahme des vzbv finden Sie im Download-Bereich. Im Bereich „Weitere Informationen“ können Sie das Weißbuch KI der Europäischen Kommission im pdf-Format herunterladen.

Downloads

White Paper on Artificial Intelligence | Proposals of vzbv | May 2020

White Paper on Artificial Intelligence | Proposals of vzbv | May 2020

White Paper on Artificial Intelligence | Proposals of vzbv | May 2020

Ansehen
PDF | 481.43 KB

Alles zum Thema: Algorithmen & KI

Artikel (29)
Pressefoto 3 Klaus Müller | Vorstand Verbraucherzentrale Bundesverband | Credit: Corinna Guthknecht - vzbv

Quelle: Corinna Guthknecht - vzbv

21.04.2021

Enttäuschend: Vorschläge für Regelung von Künstlicher Intelligenz schützen Verbraucher nur punktuell

Heute hat die Europäische Kommission ihren lang erwarteten Vorschlag zur Regulierung für Künstliche Intelligenz (KI) veröffentlicht. Dieser schützt Verbraucher nur punktuell. Die Menschen bleiben in weiten Bereichen ungeschützt. Klaus Müller, Vorstand des vzbv, kommentiert.

Zur Pressemeldung
digital internet denisismagilov fotolia 114878936.jpg

Quelle: denismagilov - fotolia.com

14.12.2020

Gericht: Irreführung der Verbraucher auf test.net

Urteil vom 14.12.2020

Das OLG Köln hat nach einer Klage des vzbv der test.net GmbH untersagt, auf ihrer Internetseite angebotene Produktvergleiche als Tests auszugeben, wenn die bewerteten Produkte gar nicht einzeln geprüft wurden. Das Gericht verbot dem Unternehmen außerdem, die Domain test.net für algorithmusbasierte Produktvergleiche zu verwenden.

Urteil ansehen
zapp2photo - Adobe Stock

Quelle: zapp2photo - Adobe Stock

21.10.2020

Bundesregierung enttäuscht bei Regulierung von Algorithmen

Vor einem Jahr hat die Datenethikkommission (DEK) zentrale Handlungsempfehlungen zu den Themen Künstliche Intelligenz, algorithmische Systeme und Datenpolitik vorgestellt. Die Evaluation des vzbv zeigt: EU-Kommission und Bundesregierung setzen die Empfehlungen der DEK nur schleppend um.

Zur Pressemeldung
Quelle: putilov denis - Fotolia.com

Quelle: putilov denis - AdobeStock

07.09.2020

KI: Jeder Zweite befürchtet Manipulation bei Kaufentscheidungen

Europas Verbraucher sehen große Chancen in Künstlicher Intelligenz (KI), fordern aber einen besseren Schutz ihrer Privatsphäre und vor Diskriminierung. Das ist das Ergebnis einer vom Europäischen Verbraucherverband (BEUC) beauftragten, repräsentativen Umfrage in neun EU-Ländern, darunter auch Deutschland.

Zur Pressemeldung
zapp2photo - Adobe Stock

Quelle: zapp2photo - Adobe Stock

29.04.2020

Politik zu zögerlich mit Regeln für Algorithmen

Die EU und die Bundesregierung hinken bei einem rechtlichen Rahmen für das digitale Zeitalter hinterher. Gut sechs Monate nach dem Abschlussbericht der Datenethikkommission (DEK) sind die Empfehlungen wie zum Beispiel die Stärkung von Aufsichtsbehörden für algorithmische Systeme nur unzureichend aufgegriffen.

Zur Pressemeldung
Dokumente (17)
Pressefoto 3 Klaus Müller | Vorstand Verbraucherzentrale Bundesverband | Credit: Corinna Guthknecht - vzbv

Quelle: Corinna Guthknecht - vzbv

21.04.2021

Enttäuschend: Vorschläge für Regelung von Künstlicher Intelligenz schützen Verbraucher nur punktuell

Heute hat die Europäische Kommission ihren lang erwarteten Vorschlag zur Regulierung für Künstliche Intelligenz (KI) veröffentlicht. Dieser schützt Verbraucher nur punktuell. Die Menschen bleiben in weiten Bereichen ungeschützt. Klaus Müller, Vorstand des vzbv, kommentiert.

Zur Pressemeldung
Logo Newsletter Verbraucherpolitik EU aktuell des Verbraucherzentrale Bundesverbands

Quelle: vzbv

28.01.2021

Newsletter Verbraucherpolitik EU aktuell 02/2021

Verbraucherpolitische Ereignisse vom 11. bis 24. Januar 2021

Mehr erfahren
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

26.01.2021

Handelsabkommen dürfen die Regulierung von Algorithmen nicht einschränken

Zahlreiche Handelsabkommen und mögliche neue Regelungen im Rahmen der Welthandelsorganisation können eine verbraucherfreundliche Regulierung von Algorithmen erschweren. Ein vom vzbv in Auftrag gegebenes Gutachten zeigt auf, dass eine Reihe von derzeit in der EU diskutierten Maßnahmen gegen handelsrechtliche Formulierungen verstoßen können.

Publikation ansehen
zapp2photo - Adobe Stock

Quelle: zapp2photo - Adobe Stock

21.10.2020

Bundesregierung enttäuscht bei Regulierung von Algorithmen

Vor einem Jahr hat die Datenethikkommission (DEK) zentrale Handlungsempfehlungen zu den Themen Künstliche Intelligenz, algorithmische Systeme und Datenpolitik vorgestellt. Die Evaluation des vzbv zeigt: EU-Kommission und Bundesregierung setzen die Empfehlungen der DEK nur schleppend um.

Zur Pressemeldung
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

17.09.2020

KI-Regulierung muss Vertrauen schaffen

Die Europäische Kommission plant Anfang 2021, einen Vorschlag für einen europäischen Rechtsrahmen zu Künstlicher Intelligenz vorzulegen. Der vzbv setzt sich für die Einführung eines risikoadaptierten Regulierungsansatzes für Algorithmische Systeme und KI ein.

Mehr erfahren
Urteile (1)
digital internet denisismagilov fotolia 114878936.jpg

Quelle: denismagilov - fotolia.com

14.12.2020

Gericht: Irreführung der Verbraucher auf test.net

Urteil vom 14.12.2020

Das OLG Köln hat nach einer Klage des vzbv der test.net GmbH untersagt, auf ihrer Internetseite angebotene Produktvergleiche als Tests auszugeben, wenn die bewerteten Produkte gar nicht einzeln geprüft wurden. Das Gericht verbot dem Unternehmen außerdem, die Domain test.net für algorithmusbasierte Produktvergleiche zu verwenden.

Urteil ansehen
Videos & Grafiken (1)
ec8983d49dcf0ac98010b6efe99de0bd.jpg

Quelle: Gert Baumbach - vzbv

08.12.2017

Audio: Algorithmen transparent gestalten

Immer mehr Entscheidungen im Verbraucheralltag werden durch Algorithmen vorbereitet oder automatisch getroffen. Dabei sind Kriterien und Datengrundlage algorithmenbasierter Prozesse oft undurchsichtig.

Weiterlesen
Termine (5)
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

10.12.2020

Wir rechnen mit Ihnen. Andere auch. #Algorithms4Consumers

Unter der Überschrift „Wir rechnen mit Ihnen. Andere auch #Algorithms4Consumers“ veranstalten der Verbraucherzentrale Bundesverband e.V. (vzbv) und die Vertretung des Landes Baden-Württemberg bei der Europäischen Union am 10. Dezember 2020 in Brüssel eine gemeinsame Veranstaltung zum Thema Algorithmen und Künstlicher Intelligenz.

Termin ansehen
termine-vzbv raum11.jpg

Quelle: Raum11 - vzbv

18.11.2019

Algorithmen kontrollieren - geltendes Recht durchsetzen

Gemeinsame Veranstaltung des vzbv mit der Landesvertretung Nordrhein-Westfalen.

Termin ansehen
vzbv

Quelle: vzbv

19.03.2019

Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.

Der Verbraucherzentrale Bundesverband (vzbv) hat die Europawahl zum Anlass genommen, um auf der Veranstaltung „Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.“ am Dienstag, den 19. März 2019 in Berlin über die Anliegen und Gestaltungsmöglichkeiten der Verbraucherpolitik in Europa zu diskutieren.

Termin ansehen
2017-09-21 105321.png

Quelle: vzbv

07.12.2017

Algorithmen transparent gestalten

Entscheidungen werden zunehmend durch Algorithmen vorbereitet und automatisch getroffen. Gemeinsam mit Experten wollen wir über Chancen und Risiken, den Umgang mit algorithmischen Entscheidungsprozessen aus technischer und ethischer Sicht sowie einen geeigneten rechtlichen Rahmen diskutieren.

Termin ansehen
mobilitaet-automatisiertes-fahren-fotolia riopatuca 77835007.jpg

Quelle: riopatuca - fotolia.com

06.12.2016

Pressekonferenz: (Rechts-)Sicheres Fahren mit Autopilot

Der vzbv fordert Rechtssicherheit beim automatisierten Fahren und stellt in einer Pressekonferenz  am 6. Dezember um 10 Uhr ein aktuelles Gutachten zur Kontrolle der Daten beim Auto vor. Als Gesprächspartner steht u.a. Klaus Müller, Vorstand des vzbv, zur Verfügung.

Termin ansehen

Ansprechpartner

Miika Blinn

Referent Team Digitales und Medien
info@vzbv.de +49 30 25800-0