Vor einigen Wochen machte die Nachricht die Runde, in China werde ein umfassendes Social-Scoring eingeführt, bei dem der Scorewert in Zukunft über alles mögliche mitentscheiden würde. Das führt zu einem kurzen, medialen Aufschrei, dabei stimmten nicht alle Fakten und ähnliche Techniken sind heute auch schon anderswo im Einsatz. Eine Zusammenfassung.

Die Gerüchte

Ausgehend von der Übersetzung des staatslichen Förderprogramms „Planning Outline for the Construction of a Social Credit System“ hat zuerst eine niederländische Zeitung über das Ausmaß des, bis dahin nur angekündigten Systems berichtet. Der Forscher, der die Übersetzung angefertig hat, fasst das System als „schlimmer als die Stasi“ zusammen.

Danach schossen die Gerüchte und Idee ins Feld wozu der Score dienen könnte. Darunter:

  • Der Score werde nicht nur für Kredite genutzt, sondern solle auch dazu dienen, zu entscheiden, wer wie schnell ein Visum bekommen können (ab 700 Punkten würde man schneller eins für Singapur bekommen; wesentliche mehr bräuchte es für die Reise nach Europa).
  • Auch für die Interaktion im Alltag, z.B. bei Dating Plattformen, solle der Score benutzt werden, um die Vertrauenswürdigkeit einer Person einschätzen zu können.
  • Das System werde auch dadurch beeinflusst, was man in Sozialen Netzwerken postet, und noch schlimmer: auch was Freunde posten, können einen negativen Einfluss haben.
  • Nicht zuletzt habe das Einkaufsverhalten einen wesentlichen Einfluss auf den Score. Unter anderem Videospieler_innen würden abgestraft werden.

Ein Missverständnis

Ein paar Wochen später haben sich die Wogen etwas geglättet und es wird klar, dass das politische Programm und existierende Scoring-Anwendungen nicht dasselbe sind.

Das Programm sieht vor, dass bis 2020 ein landesweit einheitliches Scoring-System eingeführt wird. Wie genau das aussieht ist allerdings noch ziemlich unklar. In einer der ersten Phase sind fünf Unternehmen zugelassen, die Scoring durchführen dürfen um Praxiserfahrung zu sammeln. Wie genau die das machen, ist zum Teil den Unternehmen überlassen. Wie es scheint, machen die nicht viel anders, als andere Scoring Unternehmen, die sich dort befinden, wo im allgemeinen Sprachgebrauch auf unserem kugelförmigen Planten, der „Westen“ ist.

Scoring Monopole

Die Tatsache, dass China ein einheitliches Scoring-System einführen will lässt einige Kommentator_innen hyperventilieren. Tatsächlich gibt es in den meisten Ländern kein einheitlichen Systeme,  erst recht kein staatliches Monopol, sondern eine große Zahl an Auskunfteien. Was in China zu Kritik von außerhalb führt ist allerdings, zumindest in Deutschland, Gang und Gäbe. Die Schufa ist hier mit Abstand Marktführer und hält einen Score für 95% der deutschen Haushalte vor. Jede größere Bank, und die meisten Mobilfunkanbieter hierzulande, melden Kontoeröffnungen an die Schufa, so dass die meisten, die hier leben, schon schnell in deren Datenbank landen.

Die Sache mit der Transparenz

Wenn die chinesischen Pläne dafür kritisiert werden, dass unklar ist, wie der Score generiert wird und das gleichzeitig die Leute dazu angehalten werden, den Score selbst zu überwachen (siehe Bilder) und z.B. in Online-Dating Plattformen einzustellen, ist das in Punkto Transparenz weit vor dem, was die Schufa (die’s immerhin schon 1927 gibt) lange abgezogen hat. Erst seit einigen Jahren wird der Score überhaupt beauskunftet und bis zuletzt hat sich die Schufa erfolgreich dagegen gewehrt, bekannt zu machen, wie sich der Score zusammen setzt. Informationen darüber, wie der Score ermittelt wird, kommen daher eher von Dritten.

Das mit der Transparenz ist aber auch tatsächlich eine Krux. In Deutschland wird seit Jahren gegen die Schufa vor Gericht gezogen, weil Verbraucherschützer*innen gerne mehr darüber wüssten, wie die Scores funktionieren, bei der Diskussion über das Social Scoring in China steht wiederum der selbstdiziplinierende Charakter im Vordergrund. In bekannten Dating-Plattformen kann man seinen Score als Profileigenschaft einstellen (wodurch er tatsächlich irgendwie social wird) und damit angeben (denn schlechte Scores wird ja niemand veröffentlichen). Da wird aus der informationellen Selbstbestimmung dann schnell eine Unterwerfung unter den Score, was, so die Erwartung, mit Verhaltensänderungen und Konformität zum Erhalt eines guten Scores führt.

Auf der anderen Seiten ist es natürlich eh eher ein Problem der Reichen, ob ihr Score nun gut oder sehr gut ist. Die wirklichen Probleme ergeben sich für diejenigen, die keine Chance auf einen guten Score haben oder bei denen die Daten fehlerhaft sind. Und Fehler gibt es in solchen Systemen zu hauf, auch bei der Schufa, Gesetzgeberischen Handlungsbedarf sieht die Mehrheit im Bundestag, trotz vieler Beispiele, aktuell allerdings nicht.

Ausweitung der Score Daten

Eine weitere Sorge machte den Kommentator*innen die Ausweitung der Datenbasis, die zur Berechnung herangezogen wird. Dabei sollen einerseits etwa das Einkaufsverhalten und andererseits der Verhalten von Freund*innen in sozialen Netzwerken einen Einfluss auf den eigenen Score haben.

„Someone who plays video games for 10 hours a day, for example, would be considered an idle person, and someone who frequently buys diapers would be considered as probably a parent, who on balance is more likely to have a sense of responsibility,“ Li Yingyun, Sesame’s technology director told Caixin, a Chinese magazine, in February. (BBC)

Auch hier ist die Realität schon weiter. Anbieter wir Kreditech setzen genau auf diese Netzwerkeffekte. Wer arme Freund*innen hat ist vermutlich nicht reich, die Arm/Reich Schere segregiert schließlich auch entlang soziale Milieus.

Und was die Benachteiligung von Bestimmten Gruppen oder Verhaltensmustern angeht, ist man in China nicht weniger oder mehr normativ (und konservativ) als die Auskunfteien hier. Auch die Schufa präferiert alte Männer, die selten Umziehen. Und das aus Videospieler*innen eher Amokläufer*innen werden (die, wenn sie am Ende Selbstmord begehen, auch keine Kreditraten mehr zahlen), hat Horst Seehofer bestimmt schonmal gesagt.

Insgesamt folgt die Technik mit der Profiling betrieben wird, im Scoring wie im Marketing, der selben Big Data Ideologie. Die zu kritisieren ist hier genauso notwendig wie in China.