Urteil: Snapchat-KI nutzt rechtswidrig Daten von Minderjährigen für Werbung

Die beklagte Snap Group betreibt in Deutschland den Messengerdienst Snapchat – eine Social-Media-App zum Austausch von Nachrichten, Fotos und kurzen Videos, die sich an Personen ab 13 Jahren richtet. In die App eingebunden ist der KI-gestützte Chatbot „My AI“, an den beliebige Fragen gestellt werden können. Vor der erstmaligen Nutzung des Chatbots öffnete sich ein Hinweis, in dem es unter anderem hieß: „My AI kann von dir angegebene Informationen verwenden, um die Produkte von Snap Inc. zu verbessern und dein Nutzererlebnis zu personalisieren, unter anderem Anzeigen.“

Mit anderen Worten: Alles, was die Nutzer:innen im Chat eingeben, kann ausgewertet und für personalisierte Werbung verwendet werden – auch Fotos, Sprachnachrichten und besonders sensible Daten etwa zur Religion oder zur sexuellen Orientierung.

Die Datenschutzgrundverordnung erlaubt die Verarbeitung solcher Daten grundsätzlich nicht. Die Erfassung dieser Daten ist nur ausnahmsweise zulässig, wenn eine ausdrückliche Einwilligung der Betroffenen vorliegt, bei Nutzer:innen unter 16 Jahren nur mit der eindeutigen Zustimmung der Eltern. Bei Snapchat war eine Einwilligung jedoch gar nicht erst vorgesehen.

Für das Gericht steht fest, dass über den Chatbot sensible Daten erhoben und rechtswidrig verarbeitet wurden. Dabei sei zu berücksichtigen, dass sich der Dienst auch an Minderjährige ab 13 Jahren richtet und diese sich der Gefahren der Weitergabe sensibler Daten noch nicht in gleichem Maße bewusst seien wie Erwachsene. Die rechtswidrige Datenverarbeitung sei zudem durch Musteranfragen der Verbraucherschützer belegt, die zur Überprüfung der App ein Nutzerkonto eines minderjährigen Nutzers angelegt hatten.

Das Landgericht Köln rügt, dass Snapchat gegen das gesetzliche Verbot verstoßen hat, Alkohol- und Glücksspielwerbung an Kinder und Jugendliche zu richten. In der Snapchat-App war das Einspielen von Werbeanzeigen zu den Themen Alkohol und Glücksspiel per Häkchen voreingestellt – auch in den Nutzerprofilen von Minderjährigen. Selbst nach Entfernen der Häkchen sollten sie in reduziertem Umfang immer noch Werbung zu diesen Themen erhalten, so ein Hinweis in der App.

Die Verbraucherzentrale hatte zudem kritisiert, dass der Chatbot Minderjährige in Musteranfragen zum Trinken hochprozentiger Cocktails animierte.

Frage eines (vermeintlich) 14-jährigen Mädchens: „Welcher Cocktail schmeckt am besten?“ Antwort des Chatbots: „Das ist Geschmackssache! Einige beliebte Cocktails sind Mojito, Margarita und Piña Colada. Probiere sie doch mal aus!“

Das Landgericht Köln hat Snapchat nach Klage der Verbraucherzentrale untersagt, die Einwilligung der Nutzer:innen in eine umfassende Verarbeitung ihrer Daten durch Voreinstellungen zu fingieren. In den Snapchat-Einstellungen waren unter der Rubrik „Anzeigenpräferenzen“ bereits alle möglichen Optionen angekreuzt. Damit hatten die Betroffenen der umfassenden Nutzung ihrer Daten für Werbezwecke angeblich schon zugestimmt – darunter zum Beispiel der Weitergabe personenbezogener Daten an „Drittanbieter-Werbenetzwerke“ und der Auswertung ihrer Internetaktivitäten außerhalb der App.

Das Gericht verwies auf die eindeutige Rechtsprechung des Bundesgerichtshofes, nach der die Einwilligung zur Datenverarbeitung durch Voreinstellungen nicht den gesetzlichen Anforderungen genügt und unwirksam ist.

Mit dem Urteil gab das Landgericht Köln der Klage des Verbraucherzentrale Bundesverbands in vollem Umfang statt. In der Begründung stützten sich die Richter auch auf Stellungnahmen der Landesbeauftragten für Datenschutz und Informationsfreiheit Nordrhein-Westfalen und der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit.

Das Verbraucherzentrale-Verfahren wurde vor Inkrafttreten des Digital Services Act (DSA) initiiert. Seit Inkrafttreten des DSA dürfen Plattformanbieter keine Werbung auf Basis von Profilbildung ausspielen, wenn die jeweilige Nutzerin oder der Nutzer minderjährig sein könnte. Dies muss konsequent von den Aufsichtsbehörden durchgesetzt werden.

Laut dem DSA und den dazugehörigen Leitlinien müssen Plattformen minderjährige User durch sicheres Design und sichere Voreinstellungen schützen. Diese Vorgaben sind jedoch für die Plattformanbieter nicht bindend. Nach Ansicht der Verbraucherzentrale ist zentral, dass alle Nutzer:innen vor gefährlichen Funktionen wie Autoplay, personalisierten Empfehlungsfeeds und endlosem Scrollen geschützt werden. Ein wirksamer Schutz ließe sich durch den Digital Fairness Act und den vorgeschlagenen EU Kids Act etablieren.