Die Automatisierung der Herrschaft

Für alle Bürger und Bürgerinnen, Firmen und Behörden Chinas soll es ein Punktesystem geben, das ihre Vertrauenswürdigkeit ausweist. Es ist ein sozialtechnologisches Experiment von großem Ausmaß.

Die Testläufe für das chinesische «Sozialkreditsystem» kommen gut voran. Ab 2020 sollen alle Bürger, Firmen und Behörden der Volksrepublik ein digital und zentral erfasstes Punktekonto haben, das ihre finanzielle, moralische, politische, mit einem Wort: gesellschaftliche Vertrauenswürdigkeit ausweist. Welche Bereiche des Lebens genau den Punktestand beeinflussen sollen, wird zurzeit noch erprobt; klar ist nur, dass alle rechtlich relevanten Informationen eine Rolle spielen werden, von Steuerhinterziehung über die Vernachlässigung der alten Eltern bis zum Überqueren der Kreuzung bei Rot. Durch gute Taten soll man seinen Punktestand verbessern können, sei es durch eine besondere berufliche Leistung oder ein als wertvoll, also «stabilitätsfördernd» eingestuftes soziales Engagement.

Experimentiert wird auch mit den im System vorgesehenen Belohnungen und Bestrafungen; in jedem Fall wird die Regel gelten: Je höher der Punktestand, desto größer soll aufgrund entsprechend günstiger Kredite und Marktkonditionen die Bewegungsfreiheit sein. Umgekehrt wird der Radius sogar ganz physisch bei niedrigem Punktestand immer kleiner. Im April landeten 10.360.000 Bürger wegen mangelnder Zahlungsmoral oder weil sie Geldbußen nicht entrichtet hatten, auf einer von Gerichten veröffentlichten Schwarzen Liste von Leuten, die nicht mehr ohne weiteres Tickets für Flugreisen oder für Fahrten mit Hochgeschwindigkeitszügen kaufen dürfen. Erprobt werden des Weiteren Einschränkungen bei Immobilienkäufen, der Schulanmeldung und der Nutzung von Autobahnen (erst ab einer Punktzahl von 550).

Gestochen scharfe Porträts auf LED-Leinwänden

Der springende Punkt bei der 2014 begonnenen Testphase ist die Einbettung der Milliarden von Informationen, die eine fortgeschrittene künstliche Intelligenz zu erheben und auszuwerten in der Lage ist, in ein umfassendes sozialtechnologisches Konzept. Bisher hat die «Nationale Plattform für den Austausch von Kreditinformationen» laut eigenen Angaben 16,5 Milliarden personenbezogene Daten gesammelt, allein dieses Jahr schon 3,3 Milliarden. Das System wird umso vollständiger sein, je mehr Konsum, Finanzverkehr und Kommunikation ins Netz verlegt werden und je perfekter gleichzeitig die Möglichkeiten der digitalen Apparate werden, auch die noch analogen Reste des Lebens zu erfassen. Anfang April gelang es der Polizei, mit Hilfe der Gesichtserkennungssoftware des Start-ups Yitu Technology unter den fünfzigtausend Teilnehmern eines Popkonzerts in Südostchina einen flüchtigen Verdächtigen zu identifizieren und festzunehmen.

Die Verkehrspolizei der Metropole Shenzhen nutzt die Gesichtserkennungssoftware auch bei ihren Überwachungskameras an Straßenkreuzungen. Bislang wurden Regelverletzer dort dadurch bloßgestellt, dass ihre gestochen scharfen Schnappschuss-Porträts zusammen mit ihrem Familiennamen und einem Teil ihrer Personalausweisnummer auf großen LED-Leinwänden an den Kreuzungen gezeigt wurden; künftig ließe sich das eleganter lösen, indem jede regelwidrige Straßenüberquerung automatisch zu einem Kreditpunkteabzug führt. «Sense-Time», ein anderer chinesischer Entwickler von Gesichtserkennungssoftware, wird nach seinem Börsengang auf einen Wert von 4,5 Milliarden Dollar geschätzt und ist damit das wertvollste KI-Start-up der Welt.

Von der Regierung finanziertes Gehirnüberwachungs-Projekt

Großes Potenzial könnte auch die immer präziser funktionierende Technologie zum Gedankenlesen haben, die von vielen chinesischen Firmen bereits auf ihre Eignung zur Produktivitäts-Steigerung hin erprobt wird. Wie die «South China Morning Post» gerade berichtete, stattet «Neuro Cap», ein von der Regierung finanziertes Gehirnüberwachungsprojekt an der Universität von Ningbo, Fließbandarbeiter in mehr als zwölf Fabriken mit kleinen Helmen aus, deren Sensoren effektivitätshemmende Zustände wie Depression, Angst oder Wut frühzeitig aufspüren und weitermelden können. «Das verursachte am Anfang etwas Unbehagen und Widerstand», wird eine Forscherin zitiert; aber allmählich hätten sich die Arbeiter an die Apparate gewöhnt.

In Krankenhäusern, wo es häufig zu gewaltsamen Ausbrüchen gegen medizinisches Personal kommt, wird die Technik auch zur Früherkennung von Hochrisikopatienten eingesetzt. Öffentlich ist noch nicht davon die Rede, doch es wäre nicht überraschend, wenn die Sicherheit, die Wahrung der gesellschaftlichen Stabilität, auch als Argument dafür herhalten würde, entsprechende Informationen noch systematischer zu erheben und auszuwerten.

Die Nationale Entwicklungs- und Reform-Kommission gab zwölf Demonstrationsstädte bekannt, die Erfahrungen bei der Institutionalisierung des gigantischen Projekts sammeln sollen; darunter sind die Metropolen Hangzhou, Nanjing, Xiamen, Chengdu und Wenzhou. Die Stadt Schanghai versucht ihre Einwohner mit einer App namens «Honest Shanghai» an die neue Ordnung zu gewöhnen, mit der man freiwillig innerhalb von 24 Stunden in Erfahrung bringen kann, wie hoch die eigene Vertrauenswürdigkeit ist; knapp dreitausend Kriterien, von fast hundert Regierungsstellen zusammengetragen, fließen in diese Bewertung ein.

Noch weiter geht das kommerzielle Punktesystem «Zhima Credit», das der Internetkonzern Alibaba betreibt. Es kann auf das gesamte Konsum- und Kommunikationsverhalten der dreihundert Millionen Kunden des Internetkaufhauses zurückgreifen.

Bewertet werden nach einem unbekannten Algorithmus das Zahlungsverhalten, das Persönlichkeitsprofil, wie es sich in Kaufpräferenzen zu erkennen gibt (viele Computerspiele? Leichtsinnig! Babykleidung? Verantwortlich!), und sogar die sozialen Kontakte: Wer sich mit Leuten mit einem niedrigen Punktestand abgibt, senkt automatisch auch die eigene Kreditwürdigkeit; Freundschaften mit Hochpunkt-Menschen dagegen erhöhen das Vertrauen, das einem selbst entgegengebracht wird.

Bisher verhilft ein hoher Punktestand nur zu günstigeren Kauf- und Leasing-Konditionen innerhalb des Konsumuniversums von Alibaba selbst. Der Konzern bestreitet, Daten an den Staat weiterzugeben oder die Inhalte auszuwerten, die Nutzer in sozialen Netzwerken verbreiten. Technisch wäre aber natürlich beides kein Problem, wenn die Regierung sich einmal dazu entschließen sollte, das kommerzielle Scoring künftig in ihr eigenes System einzubinden.

Von außen wirkt das Sozialkreditsystem wie die Wirklichkeit gewordene Dystopie einer autoritären Macht, die ihre Übergriffe auf das Leben der Einzelnen auf unheimliche Weise perfektioniert. Das Verblüffende ist, dass in China selbst, bei den Objekten des vermessenen Anspruchs, das Projekt bisher kaum Aufregung verursacht hat. Man kann das der gleichfalls immer weiter verfeinerten Zensur zuschreiben, doch das reicht als Erklärung kaum aus: Bei Themen, die die Leute tatsächlich in Wut oder Angst versetzen, fanden sich bisher wenigstens anfangs, bevor der Zensurapparat richtig in Gang kommt, immer Spuren des Unmuts im Netz. Nichts davon jedoch in diesem Fall, und auch im Alltag, wo die Leute sonst ein sehr feines Gespür für Ungerechtigkeiten und Gefährdungen ihres privaten Lebens haben, scheint das gigantische Vorhaben kaum eine Sorge wert zu sein. Wie ist das möglich?

Neue Gestalt des Autoritarismus

Der Schlüssel könnte darin liegen, dass das Punktesystem in eine umfassendere Strategie eingebettet ist, die die Herrschaft der Kommunistischen Partei nicht mehr als Eingriff von außen erscheinen lässt, sondern als quasi-automatische Selbstorganisation der verschiedenen gesellschaftlichen Subsysteme. Das könnte dem Autoritarismus mittelfristig eine neue Gestalt geben und damit für die liberalen Rechtsstaaten des Westens zu einer noch ungeahnten Herausforderung werden. Internet und künstliche Intelligenz verschaffen dieser Strategie so weitgehende Möglichkeiten zu ihrer Realisierung wie nie zuvor; doch ihre Muster gehen auf Programme aus den Frühzeiten der Partei und auf noch viel ältere Vorstellungen zurück.

Unmittelbar zielt das Sozialkreditsystem auf eine Selbstorganisation der Wirtschaft. Es ist eine Antriebskraft des Kapitalismus – der Kredit –, die da als Kriterium für die Ordnung der Gesellschaft als ganzer fungieren soll. Der Mangel an jenem Vertrauen, das am Markt für die Kreditvergabe notwendig ist, wird in China weithin als gesellschaftlicher Missstand empfunden. Das Punktesystem soll da eine Serviceleistung bei der Einschätzung von Geschäftspartnern – auch von Unternehmen und sogar Ämtern – erbringen. So lässt die Kommunistische Partei die Gesellschaft und jeden Einzelnen in ihr durch den Markt überwachen. Schon beim Dritten Plenum von 2013, mit dem Xi Jinping seine Regierungszeit programmatisch einleitete, hieß es: «Wir werden das Markt-Ausstiegs-System verbessern, in dem das Gute das Böse eliminiert.»

So will die Partei mindestens zwei Fliegen mit einer Klappe schlagen: Die Kontrolle über die vielgestaltige Gesellschaft wird engmaschiger als je zuvor, doch gleichzeitig soll die wirtschaftliche Dynamik dadurch nicht abgewürgt, sondern sogar noch beschleunigt werden. Dieses Ausspielen einer Binnenlogik des Marktes kann das chinesische System in eine beunruhigende Nähe zum Westen bringen, wo Rechte des Einzelnen durch die Big-Data-Ökonomie gleichfalls zusehends relativiert zu werden scheinen und Mark Zuckerberg schon vor Jahren erklärte: «Privatheit ist nicht länger eine soziale Norm.»

Zugleich ist das Sozialkreditsystem das Kernstück von etwas, das in den politischen Programmen der Partei als Gesellschafts-Management oder «Social Governance» eine immer prominentere Rolle spielt.

Die Partei will langfristig immer weniger durch direkte Intervention regieren als vielmehr durch eine Selbstkontrolle der Gesellschaft, die auf diese Weise von sich aus so handelt, wie es im Interesse der Ordnung als ganzer ist.

Diese Automatisierung der Herrschaft nennt die Politikwissenschaftlerin Samantha Hoffman in einem Papier des Forschungszentrums Merics das «Autonome Nervensystem» Chinas. Maos Prinzip der «Massenlinie» («Aus den Massen schöpfen und in die Massen hineintragen») gehe da zusammen mit kybernetischen Modellen komplexer Systeme. Das Sozialkreditsystem sorge in diesem Zusammenhang dafür, dass das Verhalten von jedem Einzelnen quasiautomatisch mit der Funktionstüchtigkeit des Ganzen in Beziehung gesetzt werde und sich von daher fortlaufend selbst reguliere.

Dabei spielt auch die verpflichtende Kraft der Moral in einem traditionellen Sinn eine Rolle. Das chinesische Wort für Kredit, «xinyong», ist ursprünglich ein alter konfuzianischer Begriff für «Vertrauenswürdigkeit». Es gehe darum, hieß es in der das Sozialkreditsystem einführenden Verfügung des Staatsrats, «das Konzept von Ehrlichkeit und Kultur» zu verwirklichen. Der Anspruch hat weniger harmlose Folgen, als es sich zunächst anhört. Schon 2006 hatte der Pekinger Philosoph Zhao Tingyang «Menschenrechte auf Kredit» als chinesische Alternative zum westlichen Universalismus dargestellt: Alle Menschen würden mit dem gleichen Kredit auf Rechte geboren, doch in den Genuss dieser Rechte dürften sie nur bei entsprechend sozialem Verhalten kommen. Die «Rechte» werden da nicht vom Einzelnen, sondern vom Ganzen der Gesellschaft her gedacht.

Und wer definiert das Ganze?

Wenn Kapitalismus, Konfuzianismus und Leninismus, gelenkt von der unsichtbaren Hand der künstlichen Intelligenz, organisch ineinander aufgehen, gibt es am Ende keine Politik mehr, die für irgendetwas verantwortlich zu machen ist. Alle überwachen sich gegenseitig, und ansonsten muss sich jeder nur noch um seine Punkte kümmern.

«Die Automatisierung der Herrschaft» von Mark Siemons, erschien auf FAZ.NET am 11.05.2018; mit freundlicher Genehmigung des Autors und der Frankfurter Allgemeine Zeitung.