Durch die folgenden Buttons können Sie direkt auf einen speziellen Bereich des Inhaltes springen
Algorithmen_Pablo Lagarto - Adobe Stock

Quelle: Pablo Lagarto - Adobe Stock

Algorithmen & KI

Entscheidungen über Verbraucher:innen werden zunehmend durch Algorithmische Systeme (ADM) und künstliche Intelligenz (KI) getroffen oder vorbereitet, etwa bei Scoring-Verfahren im Finanzbereich. Und auch die Entscheidungen der Verbraucher:innen werden immer öfter durch KI-basierte Empfehlungssysteme und Sprachassistenten wie ChatGPT & Co. beeinflusst. Menschen misstrauen KI-Anwendungen dabei oft. Das liegt daran, dass selbst für Experte:innen kaum nachvollziehbar ist, ob die Systeme Fehlentscheidungen treffen oder gegen Gesetze verstoßen, wie etwa das Diskriminierungsverbot.

Mit dem Artificial Intelligence Act (AI Act) gibt es erstmals einen Rechtsrahmen, der den Einsatz künstlicher Intelligenz regelt. Dieser adressiert eine Vielzahl realer KI-Risiken, denen Verbraucher:innen täglich begegnen, wie der Echtzeit-Analyse von Kundenemotionen an Hotlines. Trotz vieler Fortschritte weist der AI Act erhebliche Schutzlücken auf. Verbraucher:innen sind weiterhin nicht ausreichend vor Manipulation geschützt.

Bis Mitte 2025 muss in Deutschland eine nationale Aufsichtsstruktur für KI etabliert werden. Hierbei ist wichtig, dass die nationalen KI-Aufsichtsbehörden die Interessen der Verbraucher:innen angemessen berücksichtigen.

Der vzbv fordert

  • Der Gesetzgeber sollte einen unabhängigen nationalen KI-Beirat einrichten, damit zivilgesellschaftliche Interessen bei der KI-Aufsicht berücksichtigt werden.
  • Wenn Verbracher:innen sich über KI beschweren möchten: Die zentrale Aufsichtebehörde muss ein einfaches System zur Beschwerdeannahme einrichten.
  • Ein bundesweites Kompetenzzentrum KI sollte die sektoral zuständigen Marktaufsichtsbehörden mit technischer Expertise unterstützten.
  • Der Einsatz von KI zur biometrischen Fernidentifizierung von Menschen an öffentlich zugänglichen Orten muss auch für private Akteure untersagt werden.
Von Skepsis bis Dauer-User: KI im Verbraucheralltag: 52 Prozent der Befragten geben an, bereits Erfahrungen mit Anwendungen gemacht zu haben, die KI einsetzen.  41 Prozent der Befragten geben an, bewusst zu versuchen, keine Anwendungen zu nutzen, die KI einsetzen.  30 Prozent der Befragten geben an, selbst regelmäßig Anwendungen zu nutzen, die KI einsetzen

Quelle: vzbv

KI: Sorge vor Manipulation

Quelle: vzbv

Download

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

Positionspapier des vzbv | Juni 2024 | Vorschläge des Verbraucherzentrale Bundesverbands e.V. für eine nationale Umsetzung des Artificial Intelligence Act

Ansehen
PDF | 204.37 KB

Der vzbv bewertet regelmäßig in einem Politikcheck, ob sich die Bundesregierung wie im Koalitionsvertrag angekündigt für eine verbraucherorientierte Algorithmenkontrolle einsetzt. Hier sehen Sie die aktuelle Bewertung:

Politikcheck Regierungsbilanz

Weitere Informationen

Weitere Inhalte auf Englisch

Alles zum Thema: Algorithmen & KI

Artikel (42)
Dokumente (17)
Anhörung Umsetzung AI-Act

Anhörung Umsetzung AI-Act

Stellungnahme des vzbv zur öffentlichen Anhörung des Ausschusses für Digitales des Deutschen Bundestages „Nationale Spielräume bei der Umsetzung des europäischen Gesetzes über Künstliche Intelligenz“ am Mittwoch, 15. Mai 2024

Ansehen
PDF | 286.84 KB
AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

AI Act: Verbraucher:innen bei der Umsetzung berücksichtigen

Positionspapier des vzbv | Juni 2024 | Vorschläge des Verbraucherzentrale Bundesverbands e.V. für eine nationale Umsetzung des Artificial Intelligence Act

Ansehen
PDF | 204.37 KB
Politikcheck 2023

Politikcheck 2023

Verbraucherpolitische Halbzeitbilanz der 20. Legislaturperiode

Ansehen
PDF | 108.04 KB
EU legislators must close dangerous loophole in AI Act

EU legislators must close dangerous loophole in AI Act

Open letter of 100+ organizations | September 2023

Ansehen
PDF | 53.1 KB
Tabellenband zur Forsa-Umfrage im Auftrag des vzbv | August 2023

Tabellenband zur Forsa-Umfrage im Auftrag des vzbv | August 2023

Ansehen
PDF | 189.34 KB
Urteile (1)
Videos & Grafiken (9)
KI: Sorge vor Manipulation

Quelle: vzbv

KI: Sorge vor Manipulation

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 609.8 KB | 4724x2657
Von Skepsis bis Dauer-User: KI im Verbraucheralltag

Quelle: vzbv

KI-Nutzung von Verbraucher:innen

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 713.12 KB | 4724x2657
Infografik: forsa-Umfrage im Auftrag des vzbv | Frage: Wie wichtig wäre die Umsetzung des folgenden Vorschlags für Ihren persönlichen Alltag? Personalisierte Online-Werbung verbieten, die auf persönlichen Profilen beruht, die anhand Ihrer vorherigen Aktivitäten im Internet erstellt wurden. 31% eher nicht wichtig; 25% eher wichtig; 40% sehr wichtig

Quelle: vzbv

Profilbildung zu Werbezwecken verbieten | Europawahl 2024

Telefonische Befragung von forsa im Auftrag des vzbv (11.-28.03.2024) | Basis: 1.500 Personen ab 14 Jahren

Vorschau
JPG | 906.89 KB | 4724x2657
Bundespreis Verbraucherschutz 2022: SECUSO

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen
Bundespreis Verbraucherschutz 2022: SECUSO

Bundespreis Verbraucherschutz 2022: SECUSO

Die Arbeitsgruppe SECUSO für Bürger:innen (SECurity, USability und SOciety) des Karlsuher Institut für Technologie (KIT) hat zahlreiche Methoden, Unterstützungstools, allgemeinverständliche Ratschläge und Erklärvideos zum Thema Datenschutz entwickelt. Der Anspruch von SECUSO ist, dass IT-Sicherheit verständlich und umsetzbar sein soll. Deshalb bietet das Projekt kostenfreies, niedrigschwelliges Informationsmaterial zum Schutz vor betrügerischen Nachrichten, zum Schutz von Benutzerkonten durch sichere Passwörter und zum Schutz der Privatsphäre in sozialen Netzwerken.

Video ansehen
Termine (6)

Unsere Expert:innen zum Thema

Kontakt

Icon für Kontakt für Verbraucher

Service für Verbraucher:innen

Was suchen Sie? Wählen Sie eine passende Option:

Kontakt

Telefon-Icon

Pressestelle

Service für Journalist:innen

presse@vzbv.de +49 30 25800-525

Kontakt

lina-ehrig-presse-vzbv_1_von_1.jpg

Lina Ehrig

Leiterin Team Digitales und Medien

info@vzbv.de +49 30 258 00-0

Kontakt

Miika Blinn

Miika Blinn

Referent Team Digitales und Medien

info@vzbv.de +49 30 25800-0

Verwandte Themen