Contrôle social 4.0 ? Le système chinois de crédit social

Les systèmes chinois de crédit social contrôlent la société de manière ludique : ils récompensent les utilisateurs en leur attribuant un score sur la base de leur comportement en ligne et hors ligne. Le gouvernement chinois veut mettre en place d’ici 2020 un système national de crédit social portant sur la réputation des citoyens. Les observateurs occidentaux sont inquiets, mais que penser de nos propres médias sociaux ?

Les ambitions géopolitiques de la Chine étant au cœur de l’actualité, les mesures politiques intérieures du Parti communiste chinois (PCC) passent souvent inaperçues. Pourtant, la Chine est en pleine transformation : le PCC veut introduire des systèmes numériques de contrôle social à l’échelle nationale. Ces systèmes de crédit social, qui fonctionnent déjà partiellement depuis quatre ans, visent à attribuer un score à chaque citoyen chinois en fonction de son comportement. Ils reposent sur la quantité impressionnante de données recueillies via Internet sur les pratiques de paiement, les casiers judiciaires, les habitudes de consommation, les habitudes de navigation et de messagerie en ligne, ainsi que sur le comportement social en général. La conformité aux attentes du système de réputation sociale se traduit par des récompenses : crédit bon marché, promotion ou, plus concrètement, passage plus rapide des contrôles de sécurité dans les aéroports. Par contre, un comportement indésirable accroit le risque de punitions.

Les systèmes de crédit social font appel à de nombreuses bases de données privées et publiques. En 2014, le Parti communiste chinois a permis à huit fournisseurs privés de développer leur propre système numérique d’évaluation. Ils utilisent des algorithmes et l’intelligence artificielle pour calculer les points ou les scores. Au même moment, le PCC a commencé à installer un système étatique de réputation sociale dans des zones de tests appelées encore « zones spéciales ». Lorsque ce système sera opérationnel sur l’ensemble du territoire dans environ deux ans, les citoyens chinois et les entreprises auront accès à leur compte géré de manière centralisée.

Le Parti communiste chinois promeut ce système de crédit social comme une étape vers la « société socialiste harmonieuse ». Selon la version officielle, il vise à moderniser la capacité de gouvernance et à promouvoir la confiance au sein de la société ainsi qu’entre le gouvernement, la population et les entreprises. Cependant, les potentialités ouvertes par un tel système indiquent aussi qu’il peut devenir un instrument de contrôle social. Cela se marque d’autant plus que l’essor économique de la Chine au cours des dernières décennies a renforcé les inégalités, engendrant du même coup des tensions sociales. En 2014, on dénombrait environ 90.000 cas de troubles sociaux en Chine officiellement décrits comme des « incidents de masse ». Ce chiffre a encore augmenté.

Instrument de contrôle social

Pour contrôler ces mouvements de protestation, la Chine s’appuie sur une tradition millénaire de centralisation étatique et bureaucratique. Les systèmes de contrôle issus du confucianisme ont été en partie maintenus dans l’organisation léniniste de la République populaire, tels le système d’enregistrement des ménages Hukou et celui de l’affectation à une unité sociale appelée Danwei, où chaque unité supervisait ses membres et tenait des registres politiques. Ces structures orientaient les décisions concernant les promotions, l’appartenance au parti et même les mariages. Après la mort de Mao Tse Toung, certains systèmes de contrôle ont perdu de leur importance en raison des transformations politiques de l’ère des réformes. Cependant, la propagande d’État s’est renforcée après 1989.

Avec le système de crédit social, la Chine entre dans une nouvelle ère de surveillance et de contrôle dans laquelle le PCC combine la surveillance analogique et la surveillance numérique, la propagande et des formes subtiles de discipline. Le développement d’Internet et des appareils mobiles, comme les smartphones, les montres et les lunettes intelligentes, fournit aux services de sécurité et aux services de propagande de nouveaux moyens de surveillance et d’influence sur la population chinoise.

Le PCC profite également des particularités de l’Internet chinois. Non seulement le web chinois est soumis à une règlementation très stricte, mais son accès est également restreint par le Grand Firewall de Chine. Le principal instrument en est le Golden Shield Project ou projet du bouclier doré qui réunit le Bureau de supervision de l’information publique et de la sécurité des réseaux et plusieurs ministères responsables de la surveillance d’Internet. Une telle interconnexion met en danger la protection des données privées et réduit la marge de manœuvre pour toute contestation de la société civile.

L’Internet chinois est ainsi à la fois fortement surveillé et soumis à la propagande. D’une part, de nombreux agents de police et inspecteurs du secteur privé traquent les avis critiques contre le régime ; il en va de même des systèmes d’intelligence artificielle. D’autre part, une armée de commentateurs favorables au régime sont actifs sur les forums en ligne. Ils cherchent à influencer le débat public au profit du Parti communiste chinois.

Les géants du web chinois : Baidu, Alibaba et Tencent

Pour le PCC, Internet a constitué dès ses débuts une forme de communication à contrôler. La censure étatique ne cherche toutefois pas à éradiquer tout commentaire critique contre le régime. Le PCC cherche plutôt à empêcher l’émergence d’une action collective à grande échelle.1Par ailleurs, comme pour la censure en général, de nombreuses mesures chinoises de contrôle peuvent être contournées, du moins en partie. La Chine possède donc un paysage internet assez hétérogène.

Ce paysage est néanmoins différent de celui de l’Europe occidentale. Étant donné que la Toile chinoise est isolée du World Wide Web, elle n’est pas dominée par les géants américains de la technologie. Des entreprises commerciales distinctes y ont trouvé leur place. Les trois plus grandes, Baidu, Alibaba et Tencent, sont connues sous le nom de BAT. Non seulement elles fournissent l’infrastructure aux systèmes d’évaluation sociale des citoyens, mais elles sont également à la pointe du développement des systèmes d’intelligence artificielle dans le monde.

Ces trois entreprises ont accès à de vastes banques de données. Le géant des moteurs de recherche, Baidu, exploite la plus grande encyclopédie en ligne de Chine ainsi que l’application de paiement Baidu Pay. Alibaba, société connue par la plupart des Européens sous le nom d’AliExpress, est le plus grand acteur du commerce en ligne chinois. Il fournit également une plateforme de consommateur à consommateur, Taobao Wang, utilisée par environ 470 millions de personnes par mois. En outre, Alibaba détient environ un tiers des actions de la plateforme de microblogging la plus populaire de Chine, Sina Weibo, utilisée par environ 380 millions de Chinois par mois. Le groupe de services financiers de l’entreprise comprend le système de crédit social individuel Sésame et l’application de paiement Alipay. Au cours de l’année 2018, le groupe Alibaba a annoncé un chiffre d’affaires d’environ 8,3 milliards de dollars. Depuis 2016, il est également propriétaire du quotidien South China Morning Post basé à Hong Kong. La troisième société, Téngxùn, est connue en Occident sous le nom de Tencent. Elle possède des parts dans des sociétés de jeux vidéo. Cependant, ce que l’on ignore souvent est que Tencent détient des parts dans Snapchat, un service de réseau social mondialement utilisé (SocMe). D’autres services clés détenus par Tencent sont QQ et WeChat : avec près de 900 millions d’utilisateurs actifs, QQ est le service de messagerie le plus populaire de Chine ; WeChat est une application de messagerie pour montres et lunettes connectées qui concerne environ un milliard de personnes dans le monde. Avec l’option WeChat Pay, elle constitue également une application de paiement utilisée dans toute la Chine.

Métadonnées et autres traces numériques

Pour les internautes chinois, ces services font partie de la vie quotidienne. Environ 95% des utilisateurs utilisent le web via un smartphone. Comme tout internaute, ils laissent derrière eux de nombreuses traces numériques — données personnelles et données sur leur comportement en ligne — qui sont collectées par des entreprises commerciales et des institutions publiques. Ces traces permettent de les identifier et de les classer selon des catégories. Elles constituent la base des systèmes de crédit social et du calcul des scores effectué à l’aide d’algorithmes et de systèmes d’intelligence artificielle, un processus non transparent pour les utilisateurs.

Les systèmes numériques présentent deux autres caractéristiques particulièrement importantes pour les systèmes de crédit social. D’une part, les données stockées peuvent être dupliquées et échangées de manière illimitée et, d’autre part, les systèmes numériques n’oublient rien. De plus, les systèmes chinois de crédit social constituent des systèmes hybrides, ils intègrent des données tant numériques qu’analogiques dans leurs évaluations. Ces données liées aux comportements « hors ligne » viennent de l’utilisation accrue dans les espaces publics de caméras de surveillance « intelligentes », autrement dit dotées d’un système de reconnaissance faciale.

Le système de crédit social Sésame d’Alibaba

Le système de crédit social Sésame d’Alibaba illustre bien la façon dont l’évaluation est effectuée. Alibaba récolte d’importantes quantités de données sur ses utilisateurs : les applications des réseaux sociaux SocMe fournissent en effet des informations sur leurs humeurs, leurs préférences et leurs « amitiés ». Les données sur les commandes de produits et les interactions avec les publicités internet sont également collectées. S’ajoutent à cela les paiements en ligne et les recherches effectuées sur Internet, en ce compris les métadonnées sur les pages consultées et les données dynamiques. L’évaluation et la classification des données liées à un utilisateur s’effectuent ensuite selon cinq critères : l’historique de son crédit, ses liquidités, ses données personnelles, ses habitudes et comportements et ses contacts SocMe. La note la plus basse dans le système de crédit Sésame est 350 et la note maximale 950. Ce système accorde une note particulièrement élevée à l’utilisation des services Alibaba. Dans le système de crédit Sésame, les utilisateurs peuvent, selon leur score, demander des prêts immédiats ou avoir accès à d’autres produits financiers sans payer d’acompte.

Les systèmes de crédit social s’appliquent à d’autres domaines tels que celui de la sécurité. Ainsi, un bon score permet d’accélérer les contrôles de sécurité dans les aéroports. Les avantages s’appliquent aussi en dehors de la Chine. Depuis 2015, les ambassades de Singapour et du Luxembourg offrent des conditions de visa simplifiées pour les citoyens chinois qui ont obtenu un score élevé. Pour le calculer, le système de crédit Sésame utilise des bases de données commerciales et publiques autres que la sienne. Depuis 2015, il intègre les données du plus grand site de rencontres en Chine, Baihe, qui possède des informations intimes sur près de 90 millions de personnes. Le système de crédit Sésame recourt également aux bases de données des tribunaux chinois. Cela a bien entendu des conséquences pour ceux qui ont été condamnés en raison de leurs convictions politiques : leurs peines sont assorties de restrictions supplémentaires. Enfin, depuis du 1er mai 2018, le gouvernement peut interdire aux citoyens inscrits sur une liste noire de voyager en train ou en avion pendant une année au maximum. Cette mesure signifie un renforcement des sanctions déjà appliquées. En mars 2018, la Commission nationale pour le développement et la réforme a révélé que plus de 9 millions de personnes avaient été interdites de vol, tandis que plus de 3 millions n’avaient pas pu acheter de billets de train de première classe en raison d’un mauvais score. Parmi ces personnes figurent celles qui auraient publié de « fausses » informations sur le terrorisme.

Surveillance ludique : le principe de la gamification

Quel sera le domaine d’application du système de crédit social en 2020 lorsque le Parti communiste chinois l’introduira à l’échelle nationale ? Comme indiqué ci-dessus, les systèmes chinois de réputation des citoyens reposent sur la collaboration entre acteurs commerciaux et institutions publiques. Ils se caractérisent, en outre, par la reprise d’éléments de jeux participatifs, et donc par une part de subjectivité et d’engagement. La technique dite de « gamification » permet au système de crédit social de motiver les utilisateurs non seulement à l’aide de scores à atteindre, mais aussi par des « mini-jeux » assortis de petites récompenses. Ces jeux ont un effet boule de neige : les utilisateurs diffusent les produits et services sur leurs réseaux sociaux, attirant davantage de personnes à participer au système de crédit social. Cela permet aux entreprises associées aux systèmes de crédit social de gagner des parts importantes de marché jusqu’à devenir des monopoles.

Internet sous surveillance en Europe ?

La réaction des observateurs occidentaux par rapport aux systèmes chinois de réputation sociale est marquée par la défiance et le rejet. Une telle attitude traduit les préjugés occidentaux à l’égard de la Chine, mais aussi le manque de réflexion critique sur la numérisation massive de tous les actes de la vie quotidienne. En outre, Internet est déjà sous l’emprise de sociétés commerciales qui collectent de grosses quantités de données. Les individus éprouvent de plus en plus de difficultés à se protéger, d’autant plus qu’ils comprennent de moins en moins les dispositifs « intelligents » qu’ils utilisent quotidiennement et les techniques de manipulation qui sont employées. Dès lors, les systèmes chinois de crédit social posent la question du sens et de l’usage de la collecte, de l’évaluation, du transfert et de la vente d’une quantité de données sur les citoyens. Vers quel type de société la surveillance numérique de masse qu’elle engendre conduira-t-elle ? Que pouvons-nous faire pour résister ? Une chose est claire : les données, c’est le pouvoir.