Social Scoring System: Überwachung wie in China auch bei uns?

Das Social Scoring System soll ab 2020 in ganz China eingesetzt werden. Die allgegenwärtige Überwachung wächst und wächst. Dystopische Serien wie „Black Mirror“ werden durch die aktuellen Entwicklungen im Land der Mitte Realität. Da kommt man kaum umhin, sich zu fragen, wie weit wir hierzulande noch vom Social Scoring System entfernt sind.

Social Scoring System: Wenn aus Menschen Zahlen werden

Die Netflix-Serie „Black Mirror“ hat die Zukunft schon des Öfteren vorhergesagt. Ein Twitter-Troll hat es zum US-Präsidenten geschafft. In der Serie wurde eine Technologie verwendet, die vier Jahre nach Serienausstrahlung als Neuheit vorgestellt wurde. Außerdem wurden Apps und VR-Konzepte, die aus der Serie stammen, entwickelt.

In China wird nun der Inhalt der Episode „Nosedive“ mit einem neuen Social Scoring System zur grausamen Realität. Die Episode zeigt, wie der Social-Faktor von Menschen per App gemessen und bewertet wird. Ein höherer Score wirkt sich positiv auf das Leben aus, man erhält beispielsweise Rabatte auf Luxusappartements. Protagonistin Bryce Dallas Howard begibt sich in der Serie auf die Jagd nach einem besseren Score – und das treibt sie in den Wahnsinn. Einen Einblick in ein Social Scoring System liefert der Trailer:

China – Science Fiction wird real

Wie Wired US berichtet, hat ein chinesisches Unternehmen eine App namens Alipay entwickelt. Menschen werden als Nummer dargestellt. Personen können in ihrer Gänze beurteilt werden, um beispielsweise die Kreditwürdigkeit einer Person zu ermitteln. Das Social Scoring System legt den „Score“ für jeden Nutzer beim Start der App bei 600 fest und man kann zwischen 350 und 950 Punkte erhalten.

Die App ist mit verschiedenen Anbietern, darunter auch Uber, verbunden und Nutzer können über die App Käufe tätigen. Wer dabei nie in finanziellen Rückstand gerät, erhält einen höheren Score. Dies wirkt sich dann wieder bei den Angeboten aus, die der Käufer erhält.

Darüber hinaus checkt die App, mit welchen Personen der Nutzer in der App und in den sozialen Medien befreundet ist. Umgibt man sich mit Freunden, die einen hohen Score aufweisen, steigt auch der Eigene an. Heißt leider auch im Umkehrschluss: Lässt man sich mit Menschen mit niedrigem Score ein, sinkt auch der eigene. Sind hier noch echte Freundschaften möglich? Händler und Dienstleister können die Nutzer bewerten. Fällt diese Bewertung positiv aus, bekommt der Nutzer bessere Konditionen von Banken oder bessere Positionierungen in Dating-Apps.

Doch ein Social Scoring System wie Aliplay wird in China längst schon Social Scoring betrieben. Die Regierung plant jedoch, ein solches verbindliches Sozialkreditsystem bis Ende 2020 für die knapp 22 Millionen Einwohner Pekings einzuführen. Man möchte die „Aufrichtigkeit in Regierungsangelegenheiten“, die „kommerzielle Integrität“, die „soziale Integrität“ und die „gerichtliche Glaubwürdigkeit“ steigern.

Bis 2020 befindet sich das System in einer Testphase. In der Stadt Rongcheng hat ein Pilotprojekt für ein Social Scoring System begonnen, in dem Personen mit 1.000 Punkten starten. Je nachdem, wie sich die Menschen verhalten, sinkt oder steigt der Score. Einfließen werden Daten zur Bonität, dem Strafregister und zu weiteren relevanten Verhaltensweisen. Auch fließen Daten von Partnerunternehmen wie der Alibaba Group oder Tencent mit ein.

Fällt das Rating im Social Scoring System negativ aus, können Reisebeschränkungen, das Drosseln der Internetgeschwindigkeit oder höhere Steuern die Folgen sein. Erfreut sich ein chinesischer Staatsbürger an einem positiven Rating, so bekommt er schnellen Zugang zu Krediten, darf sich auf Jobs im öffentlichen Dienst bewerben, seine Kinder auf bessere Schulen schicken oder wird bei Ausreisebestimmungen bevorzugt behandelt.

Social Scoring System in Deutschland: düstere Zukunftsaussichten?

Ein über alle erdenklichen Lebensbereiche ausgedehntes und staatliches Modell wie in China ist hierzulande nicht zuletzt aufgrund der europäischen Datenschutzbestimmungen nicht vorstellbar. Es gibt jedoch diverse Scoring-Geschäftsmodelle, die zum Teil bereits gut genutzt werden. Dazu gehört das PAYD-Modell der Kfz-Versicherung, das sich bereits großer Beliebtheit erfreut. Es ist auch zu erwarten, dass es beim PAYL-Modell im Gesundheitswesen zum Durchbruch kommt.

Ein funktionierendes Social Scoring System haben wir auch bei den Auskunfteien wie bei der Schufa. Zur Errechnung des persönlichen Scores im Social Scoring System, der die Kreditwürdigkeit von Menschen widerspiegeln soll, werden verschiedene Parameter herangezogen. Wehren kann sich der Verbraucher dagegen nur selten. Im Jahr 2012 war sogar im Gespräch, dass die Schufa mithilfe von Twitter und Facebook die Kreditwürdigkeit von Personen besser beurteilen können möchte. Anhand von Social Media-Daten bewertet das in Hamburg ansässige Unternehmen Kreditech die Kreditwürdigkeit von Menschen. Und auch das Kraftfahrt-Bundesamt in Flensburg arbeitet mit einem Scoring-System.

Wieso Scoring-Modelle problematisch sind

Wie die Beispiele PAYL und PAYD zeigen, gibt es genügend Menschen, die sich freiwillig überwachen lassen, wenn sie daraus Vorteile ziehen können. Das kann jedoch gefährlich werden. Leben Personen beispielsweise gesund, können sie von günstigen Berufsunfähigkeitsversicherungen profitieren. Das heißt jedoch auch, dass Menschen mit einer nicht allzu gesunden Lebensweise benachteiligt werden könnten. Das bringt das komplette Solidaritätsprinzip, auf dem unser Krankenversicherungssystem aufgebaut ist, in Gefahr.

Gerade im Gesundheitswesen besteht die Gefahr, dass durch ein solches Social Scoring System Datensätze zusammengelegt und de-anonymisiert werden. Das öffnet dem Datenhandel Tür und Tor. Die fortschreitende Digitalisierung in allen Lebensbereichen vervielfacht die Möglichkeiten, Personen zu bewerten. Folgende Probleme können sich ergeben:

• Verwechslung: Es kann nicht gänzlich ausgeschlossen werden, dass es zu Verwechslungen von Betroffenen kommt.
• Diskriminierung: Personen mit niedrigem Score stehen vor dem gesellschaftlichen Ausschluss. Sie müssen wirtschaftliche sowie persönliche Nachteile befürchten.
• Undurchsichtigkeit: Schon jetzt vorhandene Scores wie der, der Schufa sind zum Teil nicht nachvollziehbar. Wenn Personen schon bewertet werden, muss diese Bewertung wenigstens transparent erfolgen.
• Keine Widerspruchsmöglichkeiten: Es ist kein System in Sicht, in dem man Widerspruch gegen den eigenen Score einlegen kann. Dieser müsste einfach und effektiv möglich gemacht werden.
• Ungenaue Vorhersagen: Die Algorithmen, die intransparent sind, führen natürlich auch zu ungenauen Vorhersagen. Es sollte für die eigene Kreditwürdigkeit nicht relevant sein, ob man Facebook-Freunde hat, die Sozialleistungen empfangen. Punktgenaues Scoring ist so nicht möglich.