Social Credit Systems – Big Brother 2.0 ?

image_pdfimage_print

Ministerium für Wahrheit 1984 Wiki ak

Bild: Ministerium für Wahrheit, nach George Orwell „1984“ (Quelle: Wikipedia – Jordan L'Hote)

Ein Social Credit System (SCS) ist eine vernetzte Datenbank, in der ständig nach bestimmten Regeln Daten und Informationen über die Bürger und Institutionen eines Staates gesammelt und aufgrund bestimmter Algorithmen ausgewertet werden. Dadurch soll das aktuelle Verhalten bewertet und – wenn möglich – auch das zukünftige Verhalten vorhergesagt werden. Beispiele sind in Deutschland die Schufa und der Bußgeldkatalog in Flensburg sowie in China das System für soziale Vertrauenswürdigkeit, das sich dort bereits im Piloteinsatz befindet. Chinas System "focuses on credit in four areas, including administrative affairs, commercial activities, social behavior, and the judicial system." (Wikipedia SCS). Auch Facebook und Google sind auf dem Weg dorthin. Ihre Schwerpunkte sind aber bisher noch – soweit bekannt – die Beeinflussung und Vorhersage des kommerziellen Verhaltens ihrer Anwender.

Wie jede mächtige Technologie kann die Anwendung eines SCS großen Nutzen oder großen Schaden erzeugen, abhängig davon, mit welchem Ziel, in welchem Bereich (kommerziell, sozial, …) und nach welchen ethischen Regeln es angewandt wird. Letztlich wird das durch die Kultur und die Weltanschauung bzw. gegenwärtig die jeweilige Ideologie des Staates bestimmt, der das System plant und einsetzt. Ungerechtfertigte Beschuldigungen durch Dritte und eine vollständige Kontrolle der Bürger, wie sie schon in der DDR von der Stasi mit den damaligen, technisch noch unvollkommenen Mitteln umgesetzt worden waren, sind eine der abschreckenden Möglichkeiten eines SCS.

Über Chinas System für soziale Vertrauenswürdigkeit (ab hier Chinas SCS genannt) schreibt Kai Strittmatter in der SZ vom 20.5.17 unter dem Titel „Schuld und Sühne“, dass es bis 2020 für jeden einzelnen Bürger Chinas eingesetzt werden soll. Der aussagekräftige Untertitel lautet: Was Georg Orwell in seinem Buch „1984“ noch nicht zu Ende zu denken wollte, wird in China jetzt Realität: Mit Big Data, Social Media und einem digitalen Punktesystem soll der neue, brave Mensch geformt werden. Das System befindet sich bereits in der Phase der Pilotierung. Der Hintergrund ist, dass China aufgrund des schnellen wirtschaftlichen Wachstums ab den 1980er Jahren und den damit verbundenen großen wirtschaftlichen und sozialen Umwälzungen wie z.B. der Landflucht, in eine Vertrauenskrise geraten ist. Zitate dazu von chinesischen Gesprächspartnern aus dem Strittmatter-Artikel: „Unsere Gesellschaft ist noch unreif, unser Markt chaotisch“, und „Der Ehrliche ist der Dumme.“ „Betrüger werden nicht zur Rechenschaft gezogen, selbst die Staatsmacht verletzt das Gemeinwohl.“

Bei Chinas SCS geht es deshalb um „mehr Vertrauen“, und um eine Prognose zukünftigen Verhaltens und um die harmonische Ordnung der Gesellschaft im Sinne des historischen Konfuzianismus und des gegenwärtigen Kommunismus als Ideologie der Staatsführung. Das Ziel sei, dass die Partei eine vollständige Sammlung von grundlegenden Daten über alle Menschen anlegen muss, die auch als effektives und schlagkräftiges Frühwarnsystem dienen kann. Es sei der Regierung sehr wichtig, die Stabilität des Staates zu erhalten. (Auf dieses gesammelte Wissen haben vor der Wende auch die zentralistischen Systeme des Ostblocks gesetzt. Wie die Geschichte gezeigt hat, ohne Erfolg. Die „Anmaßung von Wissen“ nach Fr. v. Hayek konnte das dezentrale pluralistische Know How der Menschen und ihr persönliches Engagement nicht ersetzen.)

Zurück zu Chinas SCS: Jeder Bürger bekommt zu Beginn 1000 Punkten. Für „gute Taten“ gibt es Zusatzpunkte, z.B. für Blut-, Knochenmark- und Geldspenden sowie staatliche Auszeichnungen. Für „schlechte Taten“ gibt es Punktabzüge, z.B. Hundekot im öffentlichen Rasen nicht beseitigen, schlechte Behandlung der Eltern, Verbreitung von „Gerüchten“ oder „negativen Informationen“ im Internet. Wer einen guten Punktestand hat, genießt bestimmte Privilegien, wer unter 600 Punkte gerät, gilt als Vertrauensbrecher, wird öffentlich bekannt gemacht und hat bestimmte Nachteile, abhängig von seinem Punktestand. Eine komplette online-Vernetzung aller Aktivitäten der Bürger ist geplant, sowie ein (noch unbekannter) Algorithmus, der alle Infos laufend sammelt, einordnet und bewertet.  Bei der Pilotierung wird die Bevölkerung in „Zellen“ von 400 Familien aufgeteilt, „wo man aufeinander achtet“. Es gibt SCS-Beauftragte, die andere Bürger über die Missetäter befragen und Fotos und Videos von Missetaten machen.

Bewertung von Chinas SCS

Traditionelle chinesische Ziele für ihre Gesellschaft wie Harmonie und Vertrauen werden verknüpft mit Kontrollen zur Stabilisierung der Diktatur der kommunistischen Partei und moderner IT-Technologie. Chinas SCS wird – soweit es überhaupt bekannt ist – bisher offenbar weitgehend von den Bürgern toleriert, denn die Chinesen haben anscheinend aufgrund ihrer historisch gewachsenen Kultur nur geringe Ansprüche an eine Privatsphäre. „Zellen“ beispielsweise soll es in China schon vor 2400 Jahren gegeben haben, als das Volk in Einheiten von 5 – 10 Familien eingeteilt worden war.

Es gibt aber auch Kritiker des Systems (vgl. SZ-Artikel), die meinen: „Die Regierung legt die Regeln fest. Ausgerechnet die, die am wenigsten Vertrauen verdienen.“ Oder: Wäre die Regierung vertrauenswürdig, würde das Volk von selbst ehrlich. Oder auch: „Sie sprechen von Vertrauen. In Wirklichkeit geht es um Kontrolle.“

In Deutschland sind einzelne Bausteine vergleichbarer Funktionalität schon im Einsatz wie die Schufa, der Bußgeldkatalog in Flensburg, die Lieferantenbewertung von Amazon und andere Kundenzufriedenheitsabfragen, die Nutzerinformationen von Google, aber auch die seit kurzem ohne gesetzliche Grundlage tätige Maas-Taskforce zur Internet-Zensur (Spitzname „DDR 2.0“, dazu fehlt bisher – soweit bekannt – nur noch die Funktion des „Blockwarts“ bzw. der „Informellen Mitarbeiter“) und Facebook. Außerdem wird Deutschland – nach immer noch gültigen Klauseln der Besatzungsmächte offenbar völlig legal – ständig von der USA ausspioniert.

Facebook als SCS

Der Stand und die Gefahren von Facebook als SCS werden von Moritz Michels wie folgt bewertet:

Mark Zuckerberg präsentiert sich mit der von ihm vertretenen Vision einer neuen Welt als Hoffnungsträger in Zeiten des sich abzeichnenden Niedergangs der westlichen Kultur: „Erschaffen wir die Welt, die wir wollen“. Facebook hat bereits die Daten von gut einem Viertel der Weltbevölkerung (etwa 1,86 Milliarden Nutzern) gespeichert. Ein geheimer Algorithmus von Facebook erzeugt mit Hilfe individueller Filtereinstellungen einen persönlichen Informationsfluss für den Newsfeed jedes einzelnen Nutzers. Diese vollständige Erfassung des digitalen Soziallebens birgt aber nicht nur die gerne betonten Möglichkeiten, sondern auch riesige Gefahren in sich: So erwirbt Facebook im angeblichen Kampf gegen sog. Fake News grundsätzliche die Legitimation dafür, Inhalte nach eigenen Maßstäben als fragwürdig zu kennzeichnen und gar zu entfernen. Zuckerberg plant schon lange die Erschließung des gigantischen fernöstlichen Marktes und ist deshalb eine Allianz mit der chinesischen Zentralregierung und ihrem SCS eingegangen.

Möglicher Nutzen eines SCS

Nutzen oder Schaden durch ein SCS sind abhängig von seiner Anwendung. Der Merics China Monitor #39 bewertet Chinas SCS überwiegend sehr euphorisch als Ansatz zu einem “highly competitive economic systems”, mit dem „… potential to become the most globally sophisticated and fine-tuned model for IT-backed and big data-enabled market regulation.” Er sieht dort aber auch Risiken: “… given its limitations and weaknesses, (Chinas) SCS might just as easily result in a massive decline in investments, the failure of whole industries, low innovative power, and little entrepreneurial initiative.” Hinter dieser Sorge steht die Gefahr des durch ein SCS massiv eingeschränkten Pluralismus und der Subsidiarität. Letztlich wird in diesem Artikel aber offensichtlich nur der kommerzielle Aspekt betrachtet.

Unter gewissen Bedingungen, auf die ich gleich noch eingehe, könnte durch ein SCS ein besser fundiertes Vertrauen in Bürger und Institutionen ermöglicht bzw. Betrug und Korruption erschwert werden. Bei nicht-korrupter Anwendung durch Politiker und andere Machthaber auch für diese. Man könnte sogar auf die Idee kommen, dass dadurch besser qualifizierte demokratische Wahlen durch besser qualifizierbare Wähler ermöglicht würden. Aber beides sind „heiße Pflaster“.

Sehr viel größer ist aber die Gefahr des Missbrauchs eines SCS zur ideologischen Kontrolle und Bevormundung durch politische, kommerzielle oder ideologische Machthaber. Darum möchte ich last but not least einige ethisch orientierte Forderungen zusammenstellen, die jedes SCS erfüllen muss, um die Würde und Freiheit der Bürger und Institutionen zu respektieren.

Einige unabdingbare Forderungen an jedes SCS

  • Ein SCS muss für alle Bürger transparent sein, im Hinblick auf alle Aspekte der Erfassung, Speicherung und Verwertung seiner Inhalte.
  • Die Regeln für Erfassung, Speicherung und Löschung der Inhalte müssen einfach verständlich sein und dürfen keine Schlupflöcher bieten
  • Nur objektiv feststellbare oder gerichtlich festgestellte Tatbestände dürfen durch ein SCS erfasst werden.
  • Subjektive Denunziationen oder Lobhudelei darf es nicht geben. Wenn ein Dritter tadelt bzw. lobt, muss der ggfs. daraus resultierende SCS-Eintrag verifiziert und der Betroffene informiert werden, und ggfs. eine Gegendarstellung möglich sein. Bei Uneinigkeit muss eine Art Friedensrichter über die Zulässigkeit des Eintrags entscheiden.
  • Ein SCS muss – im Sinne einer Vierten Gewalt – uneingeschränkt für alle Bürger und Institutionen eines Staates gelten, auch für Politiker und andere Machthaber. Die heute übliche Zwei-Klassen-Moral darf es hier (wie natürlich auch anderswo) nicht geben. Um das möglich zu machen, müssen Aufgaben und Verantwortungen für Politiker festgelegt werden, nach denen sie bewertet werden können.
  • Ebenso müssen diejenigen, die die Regeln und Algorithmen festlegen, denselben unterworfen und damit an der für alle Bürger und Institutionen gültigen Moral gemessen wird. Es darf keinesfalls Privilegien und Ausnahmen geben.

Da ich kein Fachmann für Datenschutz bin, ist diese Aufzählung sicher noch nicht vollständig.

Link zur Internet-Seite des Autors: Emergenz-Netzwerk
Link zum Buch des Autors: Die Kraft der Naturgesetze – Emergenz und kollektive Fähigkeiten von den Elementarteilchen bis zur menschlichen Gesellschaft; Verlag tredition, zweite Auflage 2015.

Mehr zum Thema:
Dieser Beitrag wurde unter Gesellschaft, Menschenrechte, Politik, Wirtschaft veröffentlicht. Setze ein Lesezeichen auf den Permalink.

8 Antworten auf Social Credit Systems – Big Brother 2.0 ?

  1. Zu den chaotischen Folgen des raschen Wachstums der chinesischen Wirtschaft für die Gesellschaft und zur Dominanz der kommunistischen Partei hat der China-Experte Kai Strittmatter schon im SZ-Magazin Heft 51 / 2012 einen längeren Beitrag mit dem Titel “Ein Land hebt ab” geschrieben, der die Hintergründe des China-SCS verdeutlicht. Dessen Aussagen dürften auch heute noch zutreffen. Sehr lesenswert und ziemlich ernüchternd.

  2. Wilfried Müller sagt:

    Der 4-teilige Artikel ist erreichbar unter Ein Land hebt ab (SZ Magazin 51/2012): Unser Autor war nur ein paar Jahre weg. Aber als der SZ-Korrespondent jetzt nach China zurückkehrte, war plötzlich alles anders. Beobachtungen aus einem Reich, das seine Mitte nicht mehr findet.

  3. Zum Entwurf des NetzwerkdurchsetzungsGesetzes schreibt Astrid Semm von der Piratenpartei:

    „Herr Maas, Frau Künast und andere meinen, sie könnten mit einem wahrhaft dummen Gesetz wieder gut machen, was gesellschaftlich über einen Zeitraum von mindestens 15 Jahren, unter anderem auch von Mitgliedern unserer wunderbaren Bundesregierung, vorzuleben versäumt wurde: Anstand.“
    Auch gegenüber Bürgern, die eine andere Meinung haben als die Regierung und ihre Sympathisanten. Dabei ist es eher so, wie auch die Kritiker des China-SCS gemeint  haben: "Der Fisch stinkt vom Kopf her."

  4. Staatstrojaner – die Kanone wird zur Standardwaffe titelt die Zeit Online.  Auch anderswo können Sie dazu nachlesen, dass der Vorsprung der Pateidiktatur in China vor der Parteiendiktatur in Deutschland in Sachen SCS rasch schwindet. Nur die vorgeblichen Begründungen – soweit überhaupt genannt – sind unterschiedlich. In D ist der Vorwand die Abwehr des vom Westen selbst erzeugten Terrors. In Wirklichkeit ist es aber offensichtlich ein weiterer großer Schritt in Richtung der totalen Überwachung aller Bürger zur Niederschlagung jeglicher Opposition. Der nächste Schritt zur Überwachung des individuellen PKW-Verkehrs mit Dobrindts Maut ist ja auch schon unterwegs. Ein einfaches Bickerl wie in Österreich und der Schweiz ist dafür halt gänzlich unzureichend.

    Wie hat Albert Einstein dazu gesagt? "Um ein tadelloses Mitglied einer Schafherde sein zu können, muss man vor allem eins sein: ein Schaf." Auch er hat dabei wohl an eine Diktatur in D gedacht.

    Das Gesetz soll offenbar mit einem Trick unter weitgehender Umgehung demokratischer Regeln schnellstens durchgemogelt werden.

  5. Wilfried Müller sagt:

    Das Thema wäre eigentlich einen eigenen Artikel wert …

  6. Unter dem Titel „Demokratie in Deutschland?“ habe ich soeben ein email von einer politisch engagierten Bekannten hier in meiner Region bekommen, das ich mit ihrem Einverständnis unverändert posten möchte:

    Guten Morgen Günter,

    ich kann es kaum fassen, grad hab` ich es bei „Epoch times“ gelesen. Es waren bei der Abstimmung zum Netzwerkdurchsetzungsgesetz nur maximal 60 Bundestagsabgeordnete anwesend und dieses Zensur–Gesetz soll gelten! Und Lammert lässt dies durchgehen!

    Die restlichen Abgeordneten waren wahrscheinlich bei den Feierlichkeiten zur neuesten „Errungenschaft“ dieser Bananenrepublik: „Ehe für alle“ Das nächste Mal wird für Polygamie abgestimmt, da bin ich mir ziemlich sicher!

    Wo bleibt der Aufschrei der Bürger?

    Einen schönen Tag wünscht Dir …

  7. Nach einer noch unbestätigten Meldung hat in der letzten Woche Bundeszensurminister Heiko M. (SPD) inoffiziell das Technologiezentrum von Microsoft in München in der Walter-Gropius-Straße besucht. Er wollte sich persönlich über den Stand der Gesichtserkennung bei Microsoft informieren. Dabei sei folgendes Bemerkenswerte passiert: In der Eingangshalle des Technologiezentrums steht ein Bildschirm mit Kamera, an dem jeder Besucher die Erkennung seines Gesichts testen kann. Als Gag des Tests wird vom Computer nach etwa drei Sekunden das jeweils von ihm geschätzte Alter der Testperson ausgegeben. Sonst nichts. (Der Rest geht vielleicht in die staatliche Vorratsdatenhaltung, wer weiß …)

    Als Heiko M. den Test gemacht hat, sei nach fünf Sekunden das Windows-System komplett abgestürzt, ohne vorher wie üblich das Alter auszugeben. Seither wird intern bei Microsoft von den Spezialisten mit Hochdruck untersucht, was die KI-Software derart geschockt haben könnte, und ob die Gesichtserkennung vielleicht entgegen der Spezifikation noch mehr kann, beispielsweise Gedanken lesen oder den Charakter bewerten?

  8. Der Smart Investor Weekly Nr. 27 vom 5.7.2017 schreibt unter dem Titel Netzwerk“durchwinkungs“gesetz:

    „Am vergangenen Donnerstag war es so weit. Das von Bundesjustizminister Maas auf den Weg gebrachte Netzwerkdurchsetzungsgesetz wurde im Windschatten der „Ehe für alle“ auf der letzten Bundestagssitzung vor der Sommerpause bei marginaler Anwesenheitsquote durchgewinkt.“ Es sei inzwischen leider üblich, dass „… die Politik relevante Dinge auf leisen Sohlen an einer breiteren Öffentlichkeit vorbeibugsiert.“

    An die Adresse der dazu schweigenden Q-Medien ist die rhetorische Frage gerichtet „… ob das Kleinreden oder gar Totschweigen von Fakten nicht auch als „Fake News“ zu bewerten ist. Ginge es nach der Eidesformel in Strafprozessen, dann wäre dem so. Denn zumindest dort soll nach bestem Wissen die reine Wahrheit gesagt und nichts verschwiegen werden.“ Und die Antwort des SIW folgt auf den Fuß: „Aber um objektive Regeln für alle (Gleichheit vor dem Gesetz) geht es (Anm. dem Gesetzgeber) hier allenfalls formal.“

    Zum Internet meint der SIW: „Das Gefährliche scheinen aber ohnehin nicht falsche Theorien und Fakten zu sein, die sich ja durch richtige Theorien und echte Fakten leicht widerlegen ließen. Gefährlich waren für die Mächtigen stets die zutreffenden Theorien und Fakten, auf die sie keine Antwort hatten. Da war dann die Zensur oft das wohlfeile Mittel der Wahl – und sie ist es offenbar wieder.“

Schreibe einen Kommentar