Algorithmen sind Computerprogramme, mit deren Einsatz menschliches Verhalten beeinflusst oder gar gesteuert werden kann. Die Gründe für die Empfehlungen, insbesondere bei der Werbeansprache sind nicht transparent. Eine Beschwerdestelle soll zu Klarheit verhelfen.
Suchmaschinen helfen uns nicht nur beim Suchen, sondern bestimmen auch was wir finden. Über Newsfeeds sozialer Netzwerke zeigen diese Programme uns an, was wir mögen und vor allem was wir als Werbekunden mögen sollen.
Die automatisierte Steuerung unserer Entscheidungen nimmt zu. Wie man am besten von A nach B kommt, entscheiden die Meisten schon lange nicht mehr ohne Hilfe eines Navigationssystems. Was die Empfehlungen des Algorithmus entscheidend begründet, wissen wir weder bei der Empfehlung einer Fahrtroute noch bei einer Kaufempfehlung.
Programme können Rechte verletzen
Es kann auch sein, dass eine Maschine so programmiert ist, dass sie uns in Rechten verletzt. Weil der Einzelne in der Regel keine Chance hat, nachzufragen, wie eine Empfehlung zustande gekommen ist, hat die Organisation Algorithmwatch nun "Unding" eingerichtet.
Das ist eine Art Stelle, bei der sich beschweren kann, wer den Rat einer Maschine nicht nachvollziehen kann, oder sich gar in Rechten verletzt sieht. Die Organisation beschreibt das Angebot als Botendienst, der das Anliegen an den richtigen Empfänger adressiert.
Anwendungsfall Werbeansprache
Ein praktischer Anwendungsfall des Beschwerdeinstruments ist möglicherweise auch algorithmenbasierte, kundenorientierte Werbeansprache. Dabei ist datengetriebene Werbung grundsätzlich ein von der Datenschutz-Grundverordnung (DSGVO) anerkanntes berechtigtes Interesse der Wirtschaft. Das Datenschutzrecht enthält Regeln zur Algorithmenkontrolle und nähert sich ihr über die sogenannte "automatisierte Entscheidungsfindung".
Damit eine solche vorliegt, muss eine Maschine "entscheiden". Das ist ein schiefes Bild. Denn nur Menschen entscheiden und verantworten sich. Algorithmen vollziehen Entscheidungen. Deshalb verpflichtet die DSGVO Verantwortliche, die unter Einsatz von Profiling und Scoring von Daten werben, Nutzern ganz im Sinne des Anliegens von Algorithmwatch Einblicke in das "Innenleben der Maschinenentscheidung" zu geben.
Scoring und Profiling unterscheiden sich
Hierbei unterscheidet das Recht zwischen Scoring und Profiling. Bei ersterem wird nicht nur Verhalten sortiert. Es muss vielmehr eine "echte Maschinenentscheidung" vorliegen. Entfaltet sie rechtliche oder dieser ähnliche Wirkung, dann ist sie nur zulässig wenn sie zur Vertragserfüllung erforderlich ist, oder mit Einwilligung des Nutzers erfolgt.
Die Prüfung der Bonität einer Kreditkarte ist eine solche "Maschinenentscheidung", die zum Abschluss eines Onlinegeschäfts erforderlich ist. Bei der Prüfung der Kreditwürdigkeit des Kunden geht es um mehr, denn sie sie ist für den Vertragsschluss bedeutsam. Weil sie für einen Vertragsschluss nicht zwingend erforderlich ist, darf sie nur mit informierter Einwilligung des Kunden erfolgen.
"So arbeitet die Redaktion" informiert Sie, wann und worüber wir berichten, wie wir mit Fehlern umgehen und woher unsere Inhalte stammen. Bei der Berichterstattung halten wir uns an die Richtlinien der Journalism Trust Initiative.