Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Algorithmen & KI

Zunehmend werden Entscheidungen über Verbraucher:innen durch Algorithmische Systeme (ADM) und Künstliche Intelligenz (KI) getroffen oder vorbereitet (etwa bei Scoring-Verfahren im Finanzbereich). Verbraucherentscheidungen werden immer öfter durch KI-basierte Empfehlungssysteme und Sprachassistenten wie Alexa & Co beeinflusst.

Menschen misstrauen dabei KI-Anwendungen oft zu Recht: Aufgrund ihrer Intransparenz ist selbst für Experte:innen kaum nachzuvollziehen, ob die Systeme Fehlentscheidungen treffen oder gegen Gesetze verstoßen, etwa hinsichtlich des Diskriminierungsverbots oder der Beeinflussung und Irreführung von Verbraucher:innen.

Die Europäische Kommission hat mit dem Artificial Intelligence Act (AIA) einen Vorschlag für einen Rechtsrahmen für KI vorgelegt. Der Vorschlag greift allerdings zu kurz. Ein europäisches Regelwerk für KI muss sicherstellen, dass alle hochrisikanten KI-Anwendungen europäische Gesetze einhalten und europäischen Werten entsprechen. Dies würde die Akzeptanz und Verbreitung dieser Technologie fördern.

Der vzbv fordert

  • Transparenz: wichtige KI-Entscheidungen für Verbraucher:innen nachvollziehbar machen.
  • Expert:innen und Behörden müssen kontrollieren können, ob kritische KI-Systeme rechtskonform sind.
  • Alle KI-Anwendungen mit hohem Risiko für Verbraucher:innen, etwa im Bereich Versicherungen, müssen unter die KI-Regeln fallen.
  • Verbot von Manipulation, Emotionserkennung und Ausnutzung persönlicher Schwächen durch KI.
  • Verbot von biometrischer Fernidentifizierung im öffentlichen Raum durch private Stellen.
  • Betreiber von KI-Systemen müssen eine Risikofolgenabschätzung erstellen und veröffentlichen.
  • Verbraucher:innen brauchen Recht auf Auskunft und Erklärung gegenüber Betreibern von Hochrisiko-KI-Systemen.
  • Effektive Rechtsdurchsetzung: Verbandsklagen für Missbrauch von KI ermöglichen.

Der vzbv bewertet regelmäßig in einem Politikcheck, ob sich die Bundesregierung wie im Koalitionsvertrag angekündigt für eine verbraucherorientierte Algorithmenkontrolle einsetzt. Hier sehen Sie die aktuelle Bewertung:

Politikcheck Regierungsbilanz

Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

Wenige Kernforderungen wurden umgesetzt
Wenige Kernforderungen wurden umgesetzt
Wenige Kernforderungen wurden umgesetzt
BMWK (Bundesministerium für Wirtschaft und Klimaschutz)

Benachteiligungen durch Algorithmen und Künstliche Intelligenz (KI) verhindern

Algorithmische Systeme und KI müssen transparent und objektiv überprüfbar sein, um Verbraucher:innen vor Fehlentscheidungen zu schützen.

Weiterlesen
Begonnen
Begonnen
Begonnen

Weitere Informationen

Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

13.07.2023KI-Regulierung: Verbraucher:innen schützen, unabhängige Risikobewertung stärken

Die Verhandlungen zum AI Act in Brüssel gehen in die letzte Runde. Der vzbv hat Empfehlungen für die Trilogverhandlungen zwischen Europäischer Kommission, Rat und Europäischem Parlament veröffentlicht.

Meldung lesen
Press Photo 7, Ramona Pop, Executive Director of the Federation of German Consumer Organisation

Quelle: © Dominik Butzmann / vzbv

13.06.2023Künstliche Intelligenz im Konsumalltag: So gefährlich ist die neue Technologie für Verbraucher

Handelsblatt-Interview mit vzbv-Vorständin Ramona Pop zu Künstlicher Intelligenz

Meldung lesen
produkthaftung smarthome halfpoint-adobestock 202945327.jpeg

Quelle: Halfpoint – AdobeStock

Produkthaftung

Der vzbv fordert eine grundlegende Reform des Produkthaftungsrechts. Zum Schutz der Verbraucher:innen müssen die Regelungen an die Anforderungen der digitalen Welt angepasst werden.

Mehr erfahren
Eine Hand hält ein Handy, auf dem "Smart Home" steht. Dahinter sieht man eine Küche, in der verschiedene Smart-Home-Geräte markiert sind.

Quelle: AdobeStock - nicoelnino

13.12.2022Produkthaftung: Brüssel muss nachbessern

Bei fehlerhaften Produkten muss die Beweislast bei den Herstellern liegen. Außerdem sollten Betreiber von Online-Marktplätzen stärker in die Verantwortung gezogen werden. Der vzbv kritisiert in einer Stellungnahme die Vorschläge der Europäische Kommission als nicht weitreichend genug.

Mehr erfahren

Weitere Inhalte auf Englisch

Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Artificial Intelligence & algorithmic systems

Algorithmic systems have an increasing impact on decisions about consumers, for example via scoring procedures in the financial sector.

Mehr erfahren

Alles zum Thema: Algorithmen & KI

Artikel (40)
Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

23.10.2023KI-Regulierung: Verbraucherrechte jetzt oder nie

Der Konsumalltag wird immer stärker durch Künstliche Intelligenz (KI) wie Shopping-Assistenten oder ChatGPT beeinflusst. Bei der Regulierung von KI müssen daher die Belange von Verbraucher:innen berücksichtigt werden. In Brüssel sind die Verhandlungen für den Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AI Act), jetzt auf der Zielgeraden. Der Verbraucherzentrale Bundesverband (vzbv) fordert: Verbraucher:innen müssen besonders geschützt werden und starke Rechte bekommen.

Zur Pressemeldung
Press Photo 4, Ramona Pop, Executive Director of the Federation of German Consumer Organisations

Quelle: © Dominik Butzmann / vzbv

20.09.2023Halbzeitbilanz: Der Ampel läuft die Zeit davon

Vor gut zwei Jahren ist die Ampel-Regierung mit dem Versprechen angetreten, mehr Fortschritt zu wagen und sich auch für Verbraucher:innen stark zu machen. Der Politikcheck des vzbv zeigt zur Halbzeit: Zwar wurden viele Vorhaben angeschoben, der Bundesregierung läuft dennoch die Zeit davon, ihr Versprechen einer Fortschrittsregierung einzulösen.

Zur Pressemeldung
Flow-Chart über Bildschirmtastatur stellt die Kategorisierung eines Verbrauchers durch einen Algorithmus dar.

Quelle: Deemerwha studio - AdobeStock

17.07.2023Cookies: Einwilligungsdienste lösen Probleme bei Online-Werbung nicht

Mit der Verordnung möchte die Bundesregierung Dienste etablieren, mit denen Verbraucher:innen Einwilligungen im Internet erteilen und verwalten können sollen. So soll die Flut an Einwilligungsbannern reduziert werden.

Mehr erfahren
Gesichtserkennungsmaske über dem Gesicht eines Mannes

Quelle: Artem - AdobeStock

13.07.2023KI-Regulierung: Verbraucher:innen schützen, unabhängige Risikobewertung stärken

Die Verhandlungen zum AI Act in Brüssel gehen in die letzte Runde. Der vzbv hat Empfehlungen für die Trilogverhandlungen zwischen Europäischer Kommission, Rat und Europäischem Parlament veröffentlicht.

Meldung lesen
Ramona Pop, Vorständin des vzbv

Quelle: dpa/picture-alliance/vzbv

14.06.2023KI: Starke Rechte und starker Schutz für Verbraucher:innen gefordert

Der Konsumalltag wird durch Angebote wie Sprachassistenten oder ChatGPT immer stärker durch Künstliche Intelligenz (KI) beeinflusst. Eine verbraucherfreundliche Regulierung von KI wird daher besonders dringlich. In den Verhandlungen zum AI Act in Brüssel hat sich das Europäische Parlament am 14. Juni auf eine gemeinsame Position geeinigt. Für die folgenden Trilog-Verhandlungen fordert der Verbraucherzentrale Bundesverband (vzbv): Der AI Act muss Verbraucher:innen mit starken Rechten gegenüber KI-Betreibern ausstatten. Ramona Pop, Vorständin des vzbv kommentiert.

Zur Pressemeldung
Dokumente (23)
Flow-Chart über Bildschirmtastatur stellt die Kategorisierung eines Verbrauchers durch einen Algorithmus dar.

Quelle: Deemerwha studio - AdobeStock

17.07.2023Cookies: Einwilligungsdienste lösen Probleme bei Online-Werbung nicht

Mit der Verordnung möchte die Bundesregierung Dienste etablieren, mit denen Verbraucher:innen Einwilligungen im Internet erteilen und verwalten können sollen. So soll die Flut an Einwilligungsbannern reduziert werden.

Mehr erfahren
Verbraucherreport 2021

Quelle: vzbv

12.04.2023Verbraucherreport 2021: Digitales wird zur Dauerbaustelle

Das Themenfeld Internet und Digitales wird immer mehr zur Dauerbaustelle. Zu diesem Befund kommt der diesjährige Verbraucherreport 2021 des vzbv, für den zum nunmehr sechsten Mal 1.500 Menschen in Deutschland zu verschiedenen verbraucherpolitischen Themen befragt wurden.

Zur Pressemeldung
Frau sitzt vor einem Laptop und zeigt mit dem Daumen nach unten.

Quelle: Krakenimages - Adobe Stock

09.12.2022Richtlinie für KI-Haftung verbraucherfreundlich gestalten

Die Europäischen Kommission hat einen Vorschlag für eine Richtlinie über Haftungsfragen speziell für Künstliche Intelligenz veröffentlicht. Aus Verbrauchersicht ist es zu begrüßen, dass die Europäische Kommission hierzu grundsätzlich tätig wird. Leider ist der vorliegende Vorschlag nicht geeignet, Verbraucher:innen im Schadensfall angemessenen zu kompensieren.

Mehr erfahren
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

20.10.2022Einhaltung von KI-Regeln: Externe Qualitätskontrolle vereinfachen

Seit April 2021 wird in Brüssel der Artificial Intelligence Act (AIA) verhandelt, der europäische Rechtsrahmen für Künstliche Intelligenz (KI). Durch ihn sollen Regeln und Qualitätsvorgaben für Anbieter von KI-Systemen definiert werden. Zur Bewertung der derzeit vorliegenden Regelungen zur Konformitätsbewertung hat der Verbraucherzentrale Bundesverband (vzbv) ein Gutachten beauftragt.

Meldung lesen
Illustration: Aus dem Smartphone eines Mannes fließt ein Ebenbild seiner selbst aus Nullen und Einsen

Quelle: vzbv

06.08.2021KI-Regeln der EU ignorieren viele Verbraucherprobleme

vzbv veröffentlicht Positionspapier zum Vorschlag für den Artificial Intelligence Act (AIA).

Mehr erfahren
Urteile (1)
digital internet denisismagilov fotolia 114878936.jpg

Quelle: denismagilov - fotolia.com

14.12.2020Gericht: Irreführung der Verbraucher auf test.net

Urteil vom 14.12.2020

Das OLG Köln hat nach einer Klage des vzbv der test.net GmbH untersagt, auf ihrer Internetseite angebotene Produktvergleiche als Tests auszugeben, wenn die bewerteten Produkte gar nicht einzeln geprüft wurden. Das Gericht verbot dem Unternehmen außerdem, die Domain test.net für algorithmusbasierte Produktvergleiche zu verwenden.

Urteil ansehen
Termine (7)
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

06.- 06.06.2023, re:publica/FoyerEinwilligung als „Cash“ Online-Design zwischen Dark Patterns und Verbraucherorientierung

Veranstaltung mit vzbv-Digitalexpertin Lina Ehrig auf der re:publica

Termin ansehen
Raus aus dem Digital

Quelle: Digitaltag

24.06.2022, bundesweitDigitaltag 2022

Auch die Verbraucherzentralen wollen die digitale Teilhabe in Deutschland fördern. Zum bundesweiten Digitaltag am 24. Juni 2022 machen die Verbraucherzentralen und der vzbv deshalb Digitalisierung mit zahlreichen Aktionen, Online-Seminaren und Smartphone-Rallys alltagsnah erlebbar.

Termin ansehen
Algorithmen Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

10.12.2020Wir rechnen mit Ihnen. Andere auch. #Algorithms4Consumers

Unter der Überschrift „Wir rechnen mit Ihnen. Andere auch #Algorithms4Consumers“ veranstalten der Verbraucherzentrale Bundesverband e.V. (vzbv) und die Vertretung des Landes Baden-Württemberg bei der Europäischen Union am 10. Dezember 2020 in Brüssel eine gemeinsame Veranstaltung zum Thema Algorithmen und Künstlicher Intelligenz.

Termin ansehen
termine-vzbv raum11.jpg

Quelle: Raum11 - vzbv

18.11.2019Algorithmen kontrollieren - geltendes Recht durchsetzen

Gemeinsame Veranstaltung des vzbv mit der Landesvertretung Nordrhein-Westfalen.

Termin ansehen
vzbv

Quelle: vzbv

19.03.2019Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.

Der Verbraucherzentrale Bundesverband (vzbv) hat die Europawahl zum Anlass genommen, um auf der Veranstaltung „Europa kann mehr: Für starke Verbraucherrechte und einen fairen Binnenmarkt.“ am Dienstag, den 19. März 2019 in Berlin über die Anliegen und Gestaltungsmöglichkeiten der Verbraucherpolitik in Europa zu diskutieren.

Termin ansehen

Unsere Expert:innen zum Thema

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Ich möchte beraten werden
Ich möchte mich beschweren
Ich suche Informationen für Verbraucher:innen

Kontakt

Telefon-Icon

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

lina-ehrig-presse-vzbv 1 von 1.jpg

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0

Verwandte Themen

  • Breitband

    Der vzbv fordert Breitbandausbau und Breitbandversorgung für eine flächendeckende Grundversorgung, einen nachhaltig funktionierenden Wettbewerb sowie ein für Verbraucher:innen positives Preisniveau und Leistungsangebot.

    Zur Themenseite

  • Daten

    Eine bessere Verfügbarkeit von Daten kann einen Mehrwert für Verbraucher:innen schaffen und dazu beitragen gesellschaftliche Probleme zu lösen. Eine verantwortungsvolle Datennutzung ist aber nur möglich, wenn die Menschen uneingeschränkt auf den Schutz ihrer personenbezogenen Daten vertrauen können.

    Zur Themenseite

  • Personalisierte Werbung

    Die Einführung der Datenschutz-Grundverordnung (DSGVO) sowie die schnell voranschreitenden technischen Entwicklungen in der elektronischen Kommunikation machen eine Überarbeitung der bisherigen ePrivacy-Richtlinie erforderlich.

    Zur Themenseite

  • IT-Sicherheit

    Es braucht eine gesetzliche Verpflichtung zu Security by Default und Security by Design: Produkte müssen IT-sicher konstruiert sein und bereits mit aktivierten Sicherheitsmechanismen ausgeliefert werden.

    Zur Themenseite

  • Interoperabilität

    Im Vergleich zu anderen Kommunikationstechnologien wie SMS, Telefonie oder E-Mail-Diensten verfügen Messenger-Dienste wie WhatsApp, Facebook Messenger und Instagram nicht über Interoperabilität – können also miteinander nicht kommunizieren. So wird die Idee diskutiert, ob Messenger-Dienste zu Interoperabilität verpflichten werden können.

    Zur Themenseite

  • Mobilfunk

    Eine funktionierende Mobilfunkversorgung gehört zu den Grundpfeilern der digitalen Infrastruktur. Mobiles Surfen und Telefonieren sollten daher eine Selbstverständlichkeit sein. Leider ist das nicht immer der Fall.

    Zur Themenseite

  • Netzneutralität

    Gleiches Recht für alle: So lässt sich Netzneutralität kurz zusammenfassen. Gemeint ist damit der offene, gleichberechtigte und neutrale Zugang zu Inhalten und Diensten im Internet. Daten sollen gleichberechtigt transportiert werden – unabhängig davon, woher sie stammen und was sie beinhalten.

    Zur Themenseite

  • Telekommunikation

    Ob geplatzte Technikertermine, zu geringe Bandbreite oder Schwierigkeiten, den Handyvertrag zu kündigen – die Probleme auf dem Telekommunikationsmarkt sind für Verbraucher:innen vielschichtig und oft ein Ärgernis im täglichen Leben. So verwundert es auch nicht, dass es im Bereich Telekommunikation mit die meisten Beschwerden bei den Verbraucherzentralen gibt.

    Zur Themenseite

  • Urheberrecht

    Das Urheberrecht sorgt seit Jahren für Kontroversen bis hin zu großen Protesten von Verbraucher:innen wegen der Einführung von verpflichtenden Uploadfiltern.

    Zur Themenseite

  • Plattformen

    Das Haftungsprivileg und das Verbot der Einführung allgemeiner Überwachungspflichten haben bei der Entwicklung der Plattformvielfalt im Internet wichtige Dienste geleistet. Eine Vielfalt, von der auch Verbraucher:innen profitieren. Doch nach 20 Jahren wird es Zeit, die Regelungen für Plattformen an neue Gegebenheiten und Herausforderungen anzupassen.

    Zur Themenseite

  • Wettbewerb in der Digitalisierung

    Große Digitalkonzerne wie Google, Apple oder Amazon kontrollieren den Zugang zu Handelsplätzen und digitalen Ökosystemen. Zwei Gesetzesinitiativen sollen nun für faireren Wettbewerb sorgen.

    Zur Themenseite

  • Datenschutz

    Hinter dem Schutzniveau der Datenschutz-Grundverordnung dürfen neue Gesetze nicht zurückbleiben. Vielmehr bedarf es klarerer Regelungen für besonders risikobehaftete Datenverarbeitungen.

    Zur Themenseite

  • Roaming

    Die Abschaffung der Roaming-Gebühren war ein Meilenstein für mehr Verbraucherschutz. Damit Verbraucher:innen ihr Telefon innerhalb der EU unbeschwert nutzen können, muss allerdings noch an einigen Stellschrauben gedreht werden. So haben zum Beispiel nicht alle Anbieter automatisch auf die neuen EU-Tarife umgestellt. Auch können Anbieter über die Fair-Use-Regelung weiterhin extra Gebühren verlangen.

    Zur Themenseite

  • Datenmaut

    Um Wettbewerbsverzerrungen zu vermeiden, die Angebotsvielfalt und ein bezahlbares Preis-Leistungs-Verhältnis digitaler Dienste für Verbraucher:innen zu wahren und um die Netzneutralität zu schützen, setzt sich der vzbv dafür ein, dass keine Datenmaut eingeführt wird.

    Zur Themenseite