Als er den 34. Chaos Communication Congress eröffnete, erklärte CCC-Sprecher Tim Pritlove, dass die Hacker-Gemeinde der Gesellschaft ermögliche, „30 Jahre in die Zukunft zu schauen“. In der Vergangenheit hatten die Computer-Chaoten immer wieder rechtzeitig auf die große Zukunftsthemen hingewiesen. So warnten Frank Rieger und Rop Gonggrijp bereits im Jahr 2005 davor, welche Risiken sich aus großen kombinierbaren Datensammlungen ergeben werden. Erst zehn Jahre später kam Big Data in den allgemeinen Sprachgebrauch.

Insofern mag eine prognostische Orientierung auf 30 Jahre etwas vollmundig wirken. Aber unter den Themen des diesjährigen Kongresses sticht vor allem die mögliche soziale Kontrolle mithilfe großer Datensätze hervor. Mehrere Vorträge beschäftigten sich mit der Frage, welche Methoden des Social Scoring, wie es auf Englisch heißt, bereits heute angewendet werden. So nutzt etwa die US-Regierung bereits heute die Accounts von privatwirtschaftlichen Social-Media-Anbietern, um sich an Grenzen und Flughäfen ein Bild von den Einreisenden zu machen.

USA: Soziale Kontrolle als Geheimprojekt

Seit Jahren gehören die gigantischen Datensätze der amerikanischen Computer-Monopolisten zur Geheimwährung der Wirtschaft. Auf dem diesjährigen Kongress weist etwa Tijmen Schep darauf hin, dass in den USA bis zu 8.000 verschiedene Scoring-Werte erhoben werden. Diese Daten stammen vor allem von Internet-Anbietern wie Facebook, Amazon oder eBay. Offene Bewertungen einzelner Kunden stellen den geringsten Anteil an diesen Datensätzen, im Hintergrund floriert das Geschäft der Databroker. Allein in den USA seien im Jahr 2015 mit solchen Datensätzen 150 Milliarden Dollar umgesetzt worden.

Mehr lesen:Hans-Christian Ströbele auf 34C3: „Edward Snowden hatte in allen Punkten recht“

Das Geschäftsmodell besteht bisher vor allem darin, dass die privaten Unternehmen ihre Verkaufsstrategien optimieren. Die in den privaten Datenbanken gespeicherten Daten umfassen Angaben zum IQ, politischen Einstellungen, Kinderwunsch oder auch dem „vermuteten Grad der Naivität“. Seit Jahren spielen dabei statistische Ableitungen eine zentrale Rolle: Einen großen Teil der Angaben haben die Unternehmen nicht direkt erfasst. Sie werden über „Techniken des Maschinenlernens“ mathematisch abgeleitet.

Wer auf Facebook ähnliche Interessen und Verhaltensmuster wie ein typischer Diabetes-Patient zeigt, wird in den Datenbanken als „Diabetes gefährdet“ gelistet. Solche statistischen Annahmen können zu höheren Versicherungstarifen oder schlechteren Karriere-Aussichten führen, warnt Tijmen Schep. Bereits heute habe das Wissen um die soziale Kontrolle mittels Big Data einen ähnlichen Effekt wie repressive Regierungssysteme: Die Angst, potenziell etwas zu tun, was die anonyme Macht im Hintergrund sanktionieren könnte, sorgt dafür, dass sich die Bürger selbst disziplinieren.

An verschiedenen Beispielen zeigte Tijmen Schep, dass die Datensammlung zu einem „risikovermeidenden Verhalten“ führt. So seien US-Bürger bereits besorgt, dass Tweets über die Steuerbehörde Internal Revenue Service dazu führen, dass man selbst eher einem Steueraudit unterzogen werde. Auch habe die systematische öffentliche Erfassung der „Erfolgsquoten“ bei Ärzten dazu geführt, dass es teilweise schwer falle, einen Spezialisten zu finden, der überhaupt riskante Eingriffe anbietet.

Die Selbstzensur sorgt auf diese Weise für gesellschaftlichen Stillstand, Tijmen Schep spricht von „Social Cooling“, sozialer Abkühlung. Dieses „Einfrieren“ der Gesellschaft auf das Verhalten, das die Nutzer als sozial erwünscht annehmen, bleibt natürlich nicht auf kommerzielle Bereiche begrenzt. So zitiert Tijmen Schep eine Studie, die nachweist, wie infolge der Snowden-Enthüllungen auf Wikipedia deutlich weniger Seiten abgerufen wurden, die Informationen zu Terror-Organisationen anbieten.

Mehr lesen:34C3: Aktivisten enthüllen britische Spionage und Propaganda im Netz

Die Folgen von Big Data und Künstlicher Intelligenz seien in westlichen Ländern bereits deutlich zu erkennen. Schep plädiert dafür, solche Techniken „möglichst früh“ zu bekämpfen und ein öffentliches Bewusstsein für die Folgen von Big Data und Machine Learning zu schaffen. „Privatsphäre ist das Recht, nicht perfekt zu sein“, so Schep und verweist darauf, dass nur Anonymität freie, das heißt unkontrollierte, Meinungsäußerungen und Verhalten garantiert.

China: Soziale Kontrolle als Regierungspolitik

Während die Vorreiter der sozialen Kontrolle durch digitale Medien ihr Werk bisher am liebsten abseits der öffentlichen Debatte verfolgen, plant die chinesische Regierung, die ebenfalls stark zentralisierten IT-Ressourcen des Landes offen für die soziale Kontrolle einzusetzen. Auf dem 34C3 stellt die China-Expertin Katika Kühnreich den Stand aus dem Reich der Mitte vor. Wie auch in den USA und Westeuropa hat sich in den letzten Jahren in China eine sehr begrenzte Anzahl an Internet-Monopolisten etabliert.

Diese großen chinesischen IT-Firmen arbeiten derzeit an verschiedenen „sozialen Punktesystemen“, die alle Bürger bewerten. Wie auch im Westen konkurrieren derzeit noch verschiedene Firmen, die jeweils ihre eigenen Systeme etablieren wollen. Dazu gehören etwa der WeChat-Anbieter Tencent, die Ant Financial Services Group oder eine Tochtergesellschaft des Handelskonzerns Alibaba. Sie stellen das bisher größte System mit dem Namen Sesame Credit.

So wie auch Amazon und eBay mit ihrem Zugriff auf die Bank- und Handelsdaten der Bürger einen großen Vorsprung im Datengeschäft haben, kann Alibaba als Betreiber des Zahlungsdienstes Alipay viele Aktivitäten seiner Kunden auswerten. Zudem ist China inzwischen sehr stark digitalisiert, wie Katika Kühnreich erläutert. So wird im Alltag kaum noch Bargeld verwendet, fast alle Geschäfte werden mit mit Smartphone getätigt, was breite Datenspuren zur Auswertung hinterlässt.

Mehr lesen:34C3: Heute beginnt der Chaos Communication Congress in Leipzig

Auch die chinesischen Unternehmen kombinieren Daten aus konzerneigenen Diensten mit Informationen aus amtlichen Quellen wie Schuldnerregistern und Gerichtsdatenbanken. Das Ergebnis der Auswertung ist ein „ständig aktualisierter Punktewert für einzelne Teilnehmer“. Bisher ist die Teilnahme freiwillig, aber die Praxis verbreitet sich rasant: So greift die beliebte Dating-App Baihe auf den Punktwert seiner Mitglieder zu. Wer sich nicht systemkonform verhält oder sogar auf das Punktesystem verzichtet, hat schlechtere Chancen, einen Partner zu finden.

Bemerkenswert ist, dass das System von der chinesischen Bevölkerung sehr stark akzeptiert wird. Die Chinesen verstehen diese Entwicklung als sinnvolle Ergänzung der Online-Dienste. „Doch wenn dieses System einmal verpflichtend geworden ist, wird es das Leben der Bürger bestimmen – und die ihres Umfeldes“, warnt Kühnreich. Bereits jetzt haben geringe Punktwerte negative Folgen. So können Bürger, die Unterhaltszahlungen für ihre Kinder schuldig geblieben sind, keine Fahrten in Hochgeschwindigkeitszügen buchen.

Für die chinesische Regierung handelt es sich beim Social Scoring sogar um ein „Vorzeigeprojekt“, ab dem Jahr 2020 sollen diese Maßnahmen für alle Bürger verbindlich werden. Statt mit repressiven Mitteln unangepasstes Verhallten zu bekämpfen, werde mit dem Social-Credit-System ein Anreiz gegeben, sich aus eigenem Antrieb möglichst systemkonform zu verhalten, so Kühnreich. Sie spricht von einer „Gamification“ der Macht, bei der Punkte für den Spielerfolg wesentlich sind.

Tatsächlich haben diese Entwicklungen also bereits begonnen. Während sie im Westen aufgrund der Verfassungstradition eher verdeckt praktiziert werden, benutzt die chinesische Regierung sie offen als Zukunftsprojekt. Gemeinsam haben die aktuellen Entwicklungen jedoch, dass die digitalen Bürger die neuen komplexen Steuerungsmechanismen nicht kennen, geschweige denn beeinflussen könnten. Mit der gesellschaftlichen Steuerung durch Big Data und KI geht also ein massiver Verlust an demokratischen Bestimmungsmöglichkeiten einher – nicht nur in China.

Auf dem 34C3 fordern Netzaktivisten und Datenschützer, dass öffentlich stärker über Daten und  Algorithmen diskutiert wird. Der Redakteur von Netzpolitik, Markus Beckedahl, fordert etwa eine „bessere Kontrolle der Künstlichen Intelligenz“. Die Gesellschaft brauche Regularien und Nachvollziehbarkeit, um eine demokratische Kontrolle zu ermöglichen. Mit der Einschätzung, dass das Thema Künstliche Intelligenz eine „neue Dimensionen“ erreicht hat, steht er nicht allein. Um Unternehmen besser zu kontrollieren, müssten die Geschäftsgeheimnisse aufgelockert werden, so Beckedahl. Auch müsse es neue Kontrollinstitutionen geben, „irgendwo zwischen Datenschutzbehörden und Kartellämtern“.