Soziale Kontrolle 4.0? Chinas Social Credit Systems

Während dieser Tage vor allem Chinas geopolitische Ambitionen im Zentrum der Aufmerksamkeit stehen,1rücken die innenpolitischen Pläne der Kommunistischen Partei (KP) zumeist in den Hintergrund. Dabei zeichnet sich derzeit auch innerhalb Chinas ein umfassender Wandel ab: Bis zum Jahr 2020 will die KP landesweit digitale Systeme zur Sozialkontrolle einführen. Mit den sogenannten Social Credit Systems (SCS), von denen einige bereits seit vier Jahren laufen, wird das Ziel verfolgt, eine Punktezahl für alle chinesischen Bürgerinnen und Bürger auf Grundlage ihres Verhaltens zu erstellen.2

Für deren Berechnung wird eine gewaltige Masse an Daten erfasst: Zahlungsmoral, Strafregister, Einkaufsgewohnheiten, digitales Surf- und Kommunikationsverhalten sowie das Sozialverhalten im Allgemeinen. Wer sich konform verhält, wird belohnt: etwa mit günstigen Krediten, dienstlichen Beförderungen oder dem schnellerem Durchlaufen von Sicherheitskontrollen. Bei unerwünschtem Verhalten drohen hingegen entsprechende Strafen.

Die SCS greifen dabei sowohl auf privatwirtschaftliche als auch auf staatliche Datenbanken zu. 2014 erlaubte die KP acht privaten Anbietern jeweils eigene digitale Bewertungssysteme zu entwickeln. Allen Systemen ist gemein, dass Algorithmen und Systeme künstlicher Intelligenz (KI) automatisiert Punktezahlen ermitteln, im Englischen „Scores“ genannt. Zugleich begann die KP damit, in ausgewählten „Sonderzonen“ bereits staatliche Scoring-Systeme zu installieren.3Wenn SCS in etwa zwei Jahren landesweit verbindlich werden, sollen alle chinesischen Bürgerinnen und Bürger sowie Firmen über ein eigenes zentral erfasstes Punktekonto verfügen.

Die KP bewirbt die SCS als Meilenstein auf dem Weg in die „Sozialistische Harmonische Gesellschaft“. Offiziell sollen die Scoring-Systeme die Regierungsfähigkeit modernisieren und das Vertrauen innerhalb der Gesellschaft sowie zwischen Regierung, Bevölkerung und Wirtschaft fördern. Neben den von der KP genannten Gründen, lassen sich die System hinsichtlich der sich bietenden Möglichkeiten als Instrumente der sozialen Kontrolle betrachten. Denn mit dem wirtschaftlichen Aufstieg Chinas wuchsen in den vergangenen Jahrzehnten auch die sozio-.konomischen Unterschiede und damit die gesellschaftlichen Spannungen im Land. Allein im Jahr 2014 – also zum Start der SCS – kam es in ganz China zu insgesamt rund 90 000 Unruhen – offiziell „Massenzwischenfälle“ genannt – im Schnitt also etwa 250 pro Tag. Diese Zahl ist in den Folgejahren weiter angestiegen.4

Instrumente der sozialen Kontrolle

Um derartigen Unruhen zu begegnen, greift China unter anderem auch auf seine jahrtausendealte Tradition des Zentralstaats und der Bürokratie zurück. Einige der einst mit dem Konfuzianismus begründeten Strukturen existierten auch im leninistischen Organisationsprinzip der Volksrepublik weiter. Zu diesen Kontrollsystemen gehört etwa das Haushaltsregistrierungssystem Hukou und die Zuteilung zu einer gesellschaftlichen Einheit, Danwei genannt, die Kontrolle über die ihr zugeteilten Mitglieder hat und politische Akten, Dang‘an, über sie führt.

Diese Strukturen bildeten die Grundlage für Entscheidungen über Beförderungen, Parteimitgliedschaften und selbst Eheschließungen. Nach dem Tode Mao Zedongs nahm die Bedeutung einiger Kontrollsysteme infolge der politischen Umwälzungen der Reformära ab. Zugleich aber gewann seit 1989 die staatliche Propaganda stärker an Bedeutung.5

Mit den SCS tritt China nun in eine neue Phase der Überwachung und Kontrolle ein, in der die KP die Möglichkeiten von analoger und digitaler Überwachung, von Propaganda und subtilen Disziplinierungsmöglichkeiten miteinander verknüpft. Gerade die Entwicklung des Internets sowie mobiler Endgeräte wie Smartphones (Smarps) und sogenannter Wearables – tragbarer Computersysteme wie Smartwatches oder Datenbrillen – bieten den Sicherheits- und Propagandabehörden neue Überwachungs- und Beeinflussungsmöglichkeiten.

Dabei macht sich die KP auch die Besonderheiten des chinesischen Internets zunutze.6Für das dortige Netz gelten nicht nur strikte Gesetze, sondern es wird auch nach außen durch die „Große Firewall” begrenzt. Nach innen wacht vor allem das „Projekt Goldenes Schild“ über das Online-Geschehen: Zu diesem gehört unter anderem das „Büro für die öffentliche Informations- und Netzwerksicherheitskontrolle“, kurz „Netzüberwachungsbüro“. Daneben gibt es etliche weitere Regierungsabteilungen, Ministerien und Behörden, die für die Überwachung im Internet zuständig sind.7

Neben einer wachsenden Zahl von speziell ausgebildeten Polizeibeamtinnen und -beamten sowie privatwirtschaftlich eingesetzten Aufseherinnen und Aufsehern durchforsten zunehmend auch KI-Systeme das Internet nach regimekritischen Äußerungen.8Des Weiteren ist ein Heer regierungsfreundlicher Kommentatorinnen und -kommentatoren in Online-Foren unterwegs, die umgangssprachlich als „Fünfzig-Cent-Partei“ (五毛党) bezeichnet werden. Ihnen wird vorgeworfen, die öffentliche Debatte zugunsten der KP beeinflussen zu wollen.9

Chinesische Netzgiganten: Baidu, Alibaba und Tencent

Die KP selbst betrachtet das Internet als eine Form der Kommunikation, die es von Anbeginn an zu kontrollieren galt. Die staatlichen Zensurmaßnahmen zielen dabei allerdings nicht auf eine vollst.ndige Unterbindung regimekritischer Äußerungen ab. Vielmehr will die KP der Herausbildung großer kollektiver Aktionen zuvorkommen.10Darüber hinaus können viele der chinesischen Kontrollversuche – wie Zensurma.nahmen generell – zumindest teilweise umgangen werden. Die Volksrepublik verfügt daher ungeachtet aller Maßnahmen über eine relativ heterogene Internetlandschaft.

Diese unterscheidet sich jedoch deutlich von der westlichen: Da das chinesische Netz weitgehend vom restlichen World Wide Web abgeschirmt ist, wird es auch nicht von den bekannten US-amerikanischen Tech-Giganten dominiert. Stattdessen haben sich eigene kommerzielle Strukturen gebildet. Die drei gröten Unternehmen – Baidu (百度), Alibaba (阿里巴巴) und Tencent (腾讯) – werden als BAT bezeichnet. Sie liefern nicht nur Infrastruktur für die SCS, sondern sind zugleich weltweite Spitzenreiter in der Entwicklung von Künstlicher Intelligenz.

Alle drei Unternehmen greifen auf gigantische Datenberge zu.11Der chinesische Suchmaschinenriese Baidu etwa betreibt zudem das größte Online-Nachschlagewerk und die Bezahl-App Baidu Pay. Die westlichen Kunden meist unter dem Namen „Aliexpress“ bekannte Firma Alibaba wiederum ist der Platzhirsch des chinesischen Onlinehandels. Sie verfügt  zudem über eine beliebte Flohmarkt-Plattform, Taobao Wang, die monatlich von rund 470 Millionen Menschen genutzt wird. Außerdem holt sie etwa ein Drittel der Anteile der in China popul.rsten Microblogging-Plattform Sina Weibo, die monatlich rund 380 Millionen Chinesinnen und Chinesen nutzen. Zur unternehmenseigenen Finanzgruppe gehören das Social Credit System „Sesam-Kredit-Programm“ und die popul.re Bezahl-App Alipay. Im vergangenen Jahr verzeichnete die Alibaba-Gruppe einen Umsatz von rund 8,3 Mrd. US-Dollar. Darüber hinaus ist sie seit 2016 Eigentümerin der in Hongkong ans.ssigen Tageszeitung „South China Morning Post“. Das dritte Unternehmen im Bunde, T.ngx.n, ist im Westen als Tencent bekannt. Lange Zeit war es au.erhalb Chinas wegen seiner Beteiligungen an Computerspielfirmen vor allem Gamerinnen und Gamern ein Begriff. Dass Tencent zudem Anteile am weltweit popul.ren Social-Media-Dienst (SocMe-Dienst) Snapchat besitzt, ist dagegen weitaus weniger bekannt. Weitere zentrale Angebote sind QQ und WeChat: QQ ist mit knapp 900 Millionen aktiven Nutzerinnen und Nutzern Chinas populärster Messengerdienst; WeChat ist eine Messenger-Applikation für Smarps und erreicht weltweit rund eine Milliarde Menschen. Sie enth.lt mit der Option WeChat Pay ebenfalls eine chinaweit genutzte Bezahl-App.12

(Meta-)Daten und andere digitale Spuren

Für chinesische Internetnutzerinnen und -nutzer gehören diese Dienste zum Alltag. Rund 95 Prozent von ihnen gehen auch oder ausschließlich mobil ins Netz.13Dabei hinterlassen sie, wie wir alle, massenhaft digitale Spuren – persönliche Angaben und Daten über ihr Nutzungsverhalten –, die sowohl privatwirtschaftliche als auch staatliche Stellen sammeln und auswerten. Auf diese Weise können sie die Anwenderinnen und Anwender identifizieren, kategorisieren und klassifizieren.14Diese Daten bilden die Grundlage für die SCS und die Berechnung der Scores. Die Auswertung erfolgt dann mit Hilfe von Algorithmen und Systemen der KI – ohne, dass diese Verfahren den Nutzerinnen und Nutzern gegenüber transparent gemacht würden.

Digitale Systeme verfügen des Weiteren über zwei für die SCS überaus relevante Besonderheiten: Zum einen sind die hinterlegten Daten beliebig oft kopier- und handelbar; zum anderen kennt ein digitales System kein Vergessen. Hinzu kommt, dass die chinesischen SCS Mischsysteme darstellen: Sie beziehen sowohl digitale als auch analoge Ereignisse in ihre Bewertung mit ein – also auch Verhaltensformen des täglichen Lebens. Das wird unter anderem durch den vermehrten Einsatz „smarter“ Kameras mit Gesichtserkennung im öffentlichen Raum möglich.15Besonders weit fortgeschritten ist diese Verzahnung von analoger und digitaler Überwachung in der vorwiegend muslimisch bevölkerten Provinz Xinjiang – wo auch die Zahl der „Massenzwischenfälle“ vergleichsweise hoch ist.

Alibabas Sesam-Kredit

Wie das Scoring im Einzelnen erfolgt, veranschaulicht Alibabas Sesam Kredit System (SKS). Alibaba schöpft – wie auch westliche Konzerne – massenhaft Daten seiner Nutzerinnen und Nutzer ab: SocMe-Dienste liefern Informationen über deren Stimmungen, Vorlieben und „Freundschaften“. Auch Produktbestellungen und Interaktionen mit Werbebannern werden detailliert erfasst. Mindestens ebenso wichtig sind Bezahlvorg.nge und Suchanfragen, die mit Metadaten der Seitenabrufe und Bewegungsdaten angereichert werden. Das Scoring erfolgt dann innerhalb von fünf Bereichen: der Kredithistorie der Nutzerinnen und Nutzer, ihrer Liquidität, den persönlichen Angaben, Gewohnheiten und Verhaltensmustern sowie ihren Kontakten in sogenannten sozialen Netzwerken. 16Der niedrigste Punktestand beim SKS liegt bei 350, maximal können 950 Punkte erreicht werden. Derzeit wird bei der Bewertung derzeit insbesondere die Nutzung von Alibaba-Produkten bevorzugt berücksichtigt.

Alibabas SKS ähnelt mitunter dem hierzulande verbreiteten Bonusprogramm Payback. Wer sich für diesen Dienst anmeldet und damit der Freigabe, Nutzung und dem Verkauf seiner persönlichen Daten zustimmt, erhält im Gegenzug Vergünstigungen, die mit wachsendem Punktestand an Wert gewinnen. Bei SKS können ab einem bestimmten Level etwa Sofortkredite in Anspruch genommen oder Leihprodukte genutzt werden, ohne dass extra eine Kaution hinterlegt werden muss.

Selbst in sicherheitsrelevanten Bereichen können Vorteile genutzt werden – sogar außerhalb Chinas: Ab einer bestimmten Punktezahl laufen Sicherheitsprüfungen an Flughafen schneller ab; und die Botschaften Singapurs und Luxemburgs bieten seit 2015 ab einem bestimmten Punktestand vereinfachte Visabedingungen an.17Zu dessen Berechnung kooperiert SKS mit zahlreichen anderen privatwirtschaftlichen und öffentlichen Datenbanken – seit 2015 etwa mit Chinas größter Partnerbörse Baihe, die über intime Daten von rund 90 Millionen Menschen verfügt. Auch Datenbanken chinesischer Gerichtshöfe bezieht SKS ein – mit den entsprechenden Folgen für Verurteilte, die zusätzliche Einschränkungen in Kauf nehmen müssen.18

Wie diese aussehen, zeigt eine der jüngsten Verschärfungen: Seit dem 1. Mai 2018 können Bürgerinnen und Bürger, die auf einer staatlich geführten Sperrliste verzeichnet sind, für die Dauer von bis zu einem Jahr von Flug- und Bahnreisen ausgeschlossen werden.19Schon zuvor gab es diese Sanktionsmöglichkeit – wenn auch in milderer Form: Wie die Nationale Kommission für Entwicklung und Reform im vergangenen März mitteilte, wurden bis dato über neun Millionen Menschen Flugreisen verwehrt; mehr als drei Millionen konnten aufgrund negativer Dateneintr.ge keine Zugfahrkarten der obersten Reiseklasse erwerben.20Betroffen sind unter anderem Menschen, die angeblich falsche Informationen über Terrorismus veröffentlicht haben – ein global sehr dehnbarer Tatbestand.

Spielerische Überwachung: Das Prinzip der Gamification

Welche Dimension die SCS ab dem Jahr 2020 haben werden, ist derzeit noch nicht abzusehen. Doch schon jetzt werden die Systeme hierzulande meist mit zwei klassischen Vorstellungen von Straf- und Disziplinarsystemen verglichen: zum einen mit Benthams Panoptikum – insbesondere in der Rezeption Michel Foucaults –, zum anderen mit George Orwells Dystopie „1984“.21

Derlei Vergleichen gelingt es jedoch nicht, die Dimension der SCS hinreichend zu erfassen: Denn bei den chinesischen Scoring-Systemen handelt es sich um eine technologische Überwachung, an der privatwirtschaftliche und staatliche Akteure gleichermaßen beteiligt sind. Zugleich zeichnen sich die SCS – anders als Orwells „Großer Bruder“ – durch partizipativ-spielerische Elemente und damit durch eine weitaus größere Freiwilligkeit und Eingebundenheit seitens der Observierten aus.

Eine Schlüsselrolle kommt dabei der sogenannten Gamification zu, eine Technik, die im Rahmen der Entwicklung von Computerspielen eine wichtige Rolle spielt.22Sie verfolgt das Ziel, die Aufmerksamkeit der Spielerinnen und Spieler möglichst lange zu binden und zugleich positive Emotionen gegenüber dem Spiel zu erzeugen. Heute wird Gamification in nahezu allen gesellschaftlichen Bereichen eingesetzt – nicht zuletzt im Militär sowie in der Unternehmensführung und der Werbung.

Zur Motivation gibt es im SCS nicht nur Punktezahlen, sondern auch verschiedene Level und sogenannte Mini-Spiele. Der Punktestand erlaubt es, dass sich alle miteinander vergleichen können, was zugleich dazu anspornt, den eigenen Punktestand fortwährend zu erhöhen. Schon die Aussicht, bei einer geringen Punktezahl kleine Belohnungen zu erhalten, motiviert Menschen zur Teilnahme – wie hierzulande die große Verbreitung des Payback-Bonusprogramms zeigt. Die Rekrutierung folgt dabei dem klassischen Schneeballsystem: Nachdem sie angeworben wurden, bewerben die Nutzerinnen und Nutzer das Produkt wiederum in ihrem eigenen sozialen Umfeld und locken damit weitere Menschen in das System. Wenn dieses Prinzip erfolgreich ist, können die beworbenen Dienste nicht nur zum Standard werden und große Marktanteile erwerben, sondern sich sogar zu Monopolen auswachsen.

Ost wie West: Das überwachte Netz

Obwohl Formen spielerischer Überwachung keineswegs nur in Fernost, sondern auch im Westen angewandt werden, treffen Berichte über das chinesische SCS hierzulande meist auf großes Befremden. Dies zeigt zum einen, dass es noch immer große Vorurteile gegenüber China gibt, zum anderen aber auch, wie unkritisch Digitalisierungsprozesse in unserem Teil der Welt wahrgenommen werden.

Der westliche Diskurs blendet zudem allzu häufig aus, dass der allergrößte Teil des Internets bereits vollends kommerzialisiert ist, ein Raum, in dem Konzerne massenhaft Daten abschöpfen und auswerten, um detaillierte Nutzerprofile zu erstellen und zu verkaufen.23Die Ausspähung reicht dabei von der Auswertung von Kreditdaten, über das Ausforschen des Konsumverhaltens etwa durch Payback oder auch durch Fahrrad- und Auto-Leihdienste bis hin zu Petitionsplattformen wie Change.org.24Die ständige Vergleichbarkeit und Bewertung führt dabei auch im Westen zur stetigen Auflösung der Privatsphäre sowie einer Kultur der Konformität im privaten und der zunehmenden Risikovermeidung im professionellen Bereich.25Im Ergebnis droht somit auch hier eine Zunahme der „sozialen Rigidität“, die ein Aufbegehren etwa gegen Ungerechtigkeit erschwert.26

Erleichtert wird diese Entwicklung durch die weit verbreitete Annahme, dass Daten und insbesondere Algorithmen weitgehend neutral seien – ungeachtet der Tatsache, dass Computercode von Menschen geschrieben wird, die individuelle Überzeugungen haben und naturgemäß auch Fehler machen.27

Hinzu kommt, dass es vor allem Konzerne und Staaten sind, die die Digitalisierung vorantreiben – sie bestimmen daher auch deren Ausrichtung. Und auch wenn sich Regierungen, anders als Privatfirmen, zumindest theoretisch gegenüber ihren Bürgerinnen und Bürgern legitimieren müssen, wissen wir spätestens seit den Enthüllungen Edward Snowdens, dass westliche Staaten ebenso nach Daten gieren wie autoritäre. Selbst die NSA-Affäre vor gut fünf Jahren hat daran nichts geändert, im Gegenteil: Das Netz der Überwachung ist seitdem noch weitaus dichter geworden – nicht zuletzt dank der Kooperation zwischen Unternehmen und staatlichen Behörden.28

Für das Individuum wird es immer schwieriger, sich gegen die Massenausspähung zu schützen. Zumal das Wissen sowohl über die „smarten“ Geräte, die wir täglich nutzen, als auch über die eingesetzten Manipulationstechniken immer weiter abnimmt. Kaum jemand weiß, welche Daten das ungeschützte Surfen im Internet hinterlässt, geschweige denn welche detaillierten Rückschlüsse sich aus diesen über die persönlichen Gedanken und Vorlieben ziehen lassen. Somit wissen wir auch nicht genau, wie sehr sich unsere Privatsphäre bereits in Auflösung befindet. Verschlüsselungs- und Anonymisierungsdienste bieten hier zwar ein wenig Schutz – die Frage, wie Technologie und Digitalisierung unsere Gesellschaft zum Guten oder Schlechten verändern, können sie jedoch nicht beantworten. Datensammlungen bergen – neben der Begehrlichkeit Unbefugter – noch eine weitere Gefahr: Regierungen und Konzerne kommen und gehen, die Daten aber bleiben. Welche Regierung oder Firmenleitung in Zukunft welche Rückschlüsse aus unseren Daten zieht und nach welchen Kategorien und Algorithmen wir dann bewertet werden, ist heute noch nicht absehbar.

Vor diesem Hintergrund richtet das Beispiel der chinesischen SCS an uns alle die Frage nach den Gründen, aus denen massenhaft Daten über uns erhoben, verschoben, ausgewertet und verkauft werden. Vor allem aber: In welche Art von Gesellschaft führt die digitale Massenausspähung? Und was können wir gegen sie unternehmen? Fest steht: Daten bedeuten Macht. Eine Macht, die wir Menschen nicht haptisch wahrnehmen können und deren Gefahren wir dadurch – ähnlich wie jene der atomaren Strahlung – nur schwer begreifen können. Es ist daher an der Zeit, sich global mit der Frage der Machtverschiebung und der Manipulation im Zeitalter der Digitalisierung zu beschäftigten. Deren Auswirkungen zwingen uns, die Machtfrage und jene der Legitimation sowie die nach Privatheit, Autonomie und einem guten Leben neu zu stellen – und damit letztlich zu entscheiden, ob wir hier passive Nutzerinnen und Nutzer bleiben oder aktiv über Systeme, die unser Leben beeinflussen, mitbestimmen wollen.