Handlungsempfehlung der Datenethikkommission

Die Datenethikkommission (DEK) hat am 23. Oktober 2019 ihr Gutachten mit
konkreten Handlungsempfehlungen an die Bundesregierung zu algorithmenbasierten Entscheidungssystemen (ADM), Künstlicher Intelligenz (KI) sowie den Umgang mit Daten veröffentlicht. Auf Basis der Handlungsempfehlungen der DEK ergeben sich aus Sicht des Verbraucherzentrale Bundesverbandes (vzbv) konkrete Aufgaben für die Bundesregierung, die sowohl auf nationaler als auch europäischer Ebene angegangen und gelöst werden müssen.

KI und ADM haben zunehmend Einfluss auf die Lebensgestaltung, Konsumentscheidungen und Autonomie jedes Einzelnen. So kann etwa die Verbreitung digitaler Assistenten die Position der Verbraucher fundamental ändern und die Selbstbestimmung des Einzelnen aushöhlen: Digitale Assistenten übernehmen zunehmend Entscheidungen für Verbraucherinnen und Verbraucher. Nach welchen Kriterien diese erfolgen, ist oft intransparent. Die gezielte Steuerung von Verbraucherentscheidungen über manipulierte Rankings ist bereits heute Realität. Systeme, die autonom Anrufe tätigen, sind so weit entwickelt, dass Menschen am Telefon sie nicht immer als Maschine erkennen. Manche Systeme erkennen in Echtzeit Emotionen und werten Persönlichkeitsprofile von Menschen aus.
Die von der DEK vorgestellten Empfehlungen sind geeignet, um die Risiken von KI
und ADM zu minimieren und die Chancen dieser Technologie zu nutzen.