Umleiten auf erwünschte Seiten

Die Google-Tochter Jigsaw testete im Jahr 2016 eine Methode (Method Redirect), bei der Nutzer, die nach terroristischen Inhalten suchten, zu anderen Websites umgeleitet wurden. Die Macher erklären die Methode zum Erfolg: In den ersten zwei Monaten des Projekts seien 300 000 Menschen zu den Anti-IS-YouTube-Kanälen umgeleitet worden. Die Klickraten auf die Jigsaw-Anzeigen seien dreimal höher als bei durchschnittlicher Google-Werbung gewesen. Doch die Weiterleitung ist schon methodisch fragwürdig. Um die potenziellen IS-Sympathisanten von „normalen“ Nutzern zu isolieren, wurden zwei Gruppen gebildet: „Mainstream-Interessenten“ und „Sympathisanten“. Suchte jemand auf einer Nachrichtenseite wie CNN oder BBC nach dem Islamischen Staat, wurde die Person in die „Mainstream-Gruppe“ eingeordnet. Wer nach dezidiert extremistischem Content wie etwa dem IS-Medienzentrum „Al Hayat“ oder dem IS-Propaganda-Magazin „Dabiq“ googelte, landete in der Gruppe der „potenziellen Sympathisanten“.

Doch kann ein Terrorist nicht auch seriöse Nachrichtenseiten aufrufen? Ist man umgekehrt gleich ein Terrorist, wenn man sich das E-Paper von „Dabiq“ herunterlädt? Dann müssten Journalisten oder Verfassungsschützer, die sich mit dem Phänomen des Terrorismus befassen, ja auch Terroristen sein. Das verweist auf die grundsätzliche Problematik, was eigentlich einen Terroristen zum Terroristen macht.

Wie definiert man Terrorismus? Wie kann eine Software zwischen Realität und Fiktion differenzieren? Was würde passieren, wenn ein Algorithmus eine Szene aus einem Actionfilm als „terroristisch“ einstuft? Würde dann Kunst normativ und faktisch mit einem blockierten Propagandavideo als etwas Nichtzeigenswertes gleichgestellt? Terrorismus ist auch immer eine soziale Konstruktion, deren Definition und Auslegung zunehmend Algorithmen überantwortet wird. Diese Wertungswidersprüche lassen sich durch eine algorithmische Polizei nicht auflösen, im Gegenteil, sie werden dadurch noch verstärkt. Der Algorithmus erkennt nicht, ob jemand aus integren oder sinistren Motiven nach IS-Suchbegriffen sucht. Der Journalist und der IS-Sympathisant können, so zynisch das ist, dieselben Outputs erzeugen.

Die Journalistin Rafia Zakaria kritisierte in einem Beitrag für die Zeitschrift „The Baffler“ („The Military-Messaging Complex“), dass das Global Internet Forum eine Privatisierung der Militär- und Polizeigewalt bedeute. Facebook und Co seien eine Art „virtuelles Blackwater“ (die für ihr brutales Vorgehen berüchtigten Söldner der privaten Sicherheitsfirma Blackwater kämpften unter anderem im Irakkrieg). „Wenn Soziale-Medien-Plattformen als Vorhut des Kriegs gegen den Terror angeworben werden, nehmen sie sich auch die Macht heraus, zu definieren, was Terrorismus ist – und im Gegenzug, wer ein Terrorist ist.“ Als Bürger möchte man lieber nicht auf einer Anti-Terror-Liste von Google oder Facebook stehen. „Auf Listen stehen ist gefährlich“, wusste schon Eugen Roth. Vielleicht sollte man doch mehr Vertrauen in Präsidenten und Wahlen als in den Kode setzen.