“The Perfect Police State: An Undercover Odyssey Into China’s Terrifying Surveillance Dystopia of the Future” by Geoffrey Cain

 

Geoffrey Cain on Xinjiang’s ‘Perfect Police State’

 

“Every person in Xinjiang is documented down to their genetic makeup, the sound of their voice, and whether they enter their homes through the front door or the back.”

 

Sebastian Strangio

By Sebastian Strangio

August 24, 2021

https://thediplomat.com/2021/08/geoffrey-cain-on-xinjiangs-perfect-police-state/

 

In “The Perfect Police State: An Undercover Odyssey Into China’s Terrifying Surveillance Dystopia of the Future” (Public Affairs, 2021), American journalist Geoffrey Cain examines the reality of daily life in China’s Xinjiang region. Based on dozens of interviews with Uyghur exiles, the book illuminates how the Chinese government has pioneered a series of law enforcement and surveillance techniques, including data-enabled “preventive policing,” which have funneled hundreds of thousands into “re-education camps” and brought the region close to the reality depicted in George Orwell’s “1984.”

 

Cain spoke with The Diplomat’s Sebastian Strangio about the genesis of the Chinese government’s “slow, sinister erasure” of Uyghur culture, the complicity of Western tech firms, and the texture of daily life under the Party’s unblinking eye.

 

As your book reveals, the ethnic minorities of Xinjiang refer to the region’s regime of pervasive surveillance as “the situation.” What does “the situation” mean in practical terms for the average Uyghur or Kazakh? How and where does this system intersect with people’s everyday routines?

 

When Uyghurs and Kazakhs say “the situation,” they’re using a euphemism and codeword for all the surveillance that envelopes their daily lives. You can live your entire life in Xinjiang under the watch of the state.

 

Of course, other regimes have attempted this before. But what makes life in Xinjiang so foreboding is that the police have seized on new advances in artificial intelligence, deep neural networks, facial and voice recognition, and biometric data collection to establish the all-seeing eye. Every person in Xinjiang is documented down to their genetic makeup, the sound of their voice, and whether they enter their homes through the front door or the back.

 

 

I wrote “The Perfect Police State” because I wanted to show readers just how bad things can get. We live in an age where the unprecedented pace of technological advance has collided with the rise of authoritarians, strongmen, and major technology corporations with the muscle to overpower, or the cash piles to buy off, sovereign states. It’s a dangerous mix, and not one we should rule out coming to stable democracies in the West, too.

 

What was the genesis of the “perfect police state” in China? Why did the Chinese Communist Party (CCP) embark on this far-reaching project, and what is its ultimate goal?

 

Under the CCP, Xinjiang was always a far-off and restive region, with its own identity, language and culture distinct from the Han Chinese majority. And so Xinjiang was always the site of repression at the hands of the CCP, fearful that the region could break off and form its own nation. It’s what happened in the Soviet Union after its own collapse, with the creation of the states of Central Asia, such as Tajikistan and Kyrgyzstan.

 

China was also concerned about terrorism in the region of Xinjiang – a small, radical segment of the population was bent on launching terrorist attacks against China. In 1996, China set up the Shanghai Cooperation Organization and signed up Central Asian nations for its mission to deter terrorist attacks and maintain security in the oil-rich regions of Eurasia. But it wasn’t until September 11, 2001 that China had a new impetus, a shield of “counterterrorism” with which to cover its repression of Xinjiang from criticism.

 

Ultimately, China’s goal was to create a total security state. It wanted to monitor, document, and surveil every square meter and every person in Xinjiang, buying its own propaganda that the region was teeming with terrorists. As one Chinese official in Xinjiang put it: “You can’t uproot all the weeds hidden among the crops in the field one by one – you need to spray chemicals to kill them all.” It sums up the CCP’s approach the region.

 

One strategy for creating a total security state is the absolute assimilation of Uyghurs, Kazakhs, and other Muslim minorities – about 12 million people – into the ways of life of the Han Chinese majority.

 

This isn’t a genocide in the sense of the twentieth century, when fascist bureaucracies marched “unwanted” populations to death camps and forced them into gas chambers. This is the slow, sinister erasure of an entire culture, through psychological and physical torture at concentration camps, and never-ending surveillance that forces them to internalize the state’s thinking and deny their own realities.

 

It’s also the generational erasure of the population through forced sterilizations of women. By that token, under international law, China has committed genocide against the people of Xinjiang.

 

In your book, you describe the sheer pervasiveness of the surveillance state in Xinjiang, from the ubiquitous CCTV cameras to the use of data and algorithms in “preventive policing,” which have collectively brought the region into the realm of that described in Orwell’s “1984.” Can you give us a summary of what tools the Chinese government is using to police the minority populations of Xinjiang?

 

In addition to “1984,” life in Xinjiang reminds me of the Tom Cruise film “Minority Report,” based on the short story by the sci-fi writer Philip K. Dick, who also wrote the classic book that inspired “Bladerunner.”

 

Enjoying this article? Click here to subscribe for full access. Just $5 a month.

 

Xinjiang runs a “predictive policing” program that uses AI, camera technologies, big data, and algorithms to crack down on its people. If the system believes you will commit a crime in the future, for whatever arbitrary reason, you’re in danger of getting a visit from the police and being taken to one of hundreds of known concentration camps. Without being charged with a crime, you’ll be brainwashed into “cleansing” your mind of “ideological viruses” and “cancers.” That’s literally the language that the Xinjiang authorities use.

 

For China to build its all-seeing surveillance state, it needed new advances in technology that converged around the same time period. The first was the hardware switch from the old analog CCTV cameras of the 1990s and early 2000s, and the shift to digital, where China led the way with state-run firms like Hikvision, the world’s largest maker of surveillance cameras.

 

The second breakthrough covered the interconnected fields of deep neural nets, facial recognition, and voice recognition in the early 2010s. New AI software had abandoned old algorithms and could now learn and train its own algorithms from vast amounts of data, gathered through cameras, clicks and purchases. Microsoft, Amazon and Chinese firms Megvii and SenseTime led the way, eager to monitor customers under the profit motive.

 

Do you think the CCP’s anathematization of Islam is a product of its ideology and history, or does it also reflect older patterns of interaction between the Chinese state and the empire’s Muslim populations?

 

I think the approach to Islam within its own borders, comes from ideology and recent history under the Chinese Communist Party. When we go back before the communist takeover, China had structured a different and more open set of relationships with Muslim populations in Central Asia and along the Silk Road.

 

Party apparatchiks will say differently. But China was not a dominant hegemon over Eurasia for much of its history. Its imperial court didn’t hand down edicts to a ragged and impoverished “Muslim world.” The silk roads were replete with cosmopolitan and prosperous empires, many of them Muslim, and China traded with them, and made enemies with others.

 

Eurasia would have looked more like Europe, with scattered identities and languages and people, that traded and fought. Claiming that China has an ancient, imperial lineage over Central Asia would be like arguing ancient Rome, the Renaissance and Mussolini are all a line of continuity to Italy now, or the 19th century German Romantics inspired the rise of the Nazis.

 

Mulan, the legendary figure, would have probably been Turkic, not Han Chinese, with a heritage closer to the Uyghurs and Kazakhs of today. Zheng He, the famed Chinese seafaring explorer, was Muslim, built mosques, and was key to connecting China with Muslim nations. The Qing dynasty, in the 19th century, wasn’t all that interested in Xinjiang, finding control too costly.  The fact is that what we envision today as “China” is really just a collection of disparate peoples, including Muslims, who happen to be blanketed under the aggressive, colonizing force of the CCP.

 

In recent years, the Uyghur human rights issue has become wrapped up with broader strategic tensions between China and the United States, which makes it even less likely that the Chinese government will take U.S. concerns on board. What, if anything, can concerned foreign governments and individuals do to address the situation in Xinjiang?

 

Because of sanctions, Chinese officials are terrified of the possibility that their assets in the U.S. and in the European Union could be exposed. But corporate transparency hasn’t been a strong point in the U.S. system, and in the Caribbean where tax havens are typically under British control. We’re more than happy to host the dirty money of foreign kleptocrats as long as we can take a cut.

 

Many abuses come down to forced labor in global supply chains. Reforming the global offshoring system would be a strong way of pulling out the rug from underneath the CCP’s human rights abusers.

 

The U.S. and U.K., in particular, need stronger laws that require real-name registration on corporations that would open the door to exposing and freezing the holdings of CCP kleptocrats. The sanctions so far haven’t been enough. By going after individual companies and people, they attack a symptom, not the problem. The CCP’s human rights abusers get away with a lot, stashing their dirty money in the West, because Western law enforcement authorities are hamstrung from seeing who owns what in a transparent way.

 

A Review of “The Perfect Police State” by Geoffrey Cain

 

Blog Post by Guest Blogger for Asia Unbound

June 10, 2021 11:35 am (EST)

   https://www.cfr.org/blog/review-perfect-police-state-geoffrey-cain

 

Eric Schluessel is assistant professor of modern Chinese history at George Washington University.

 

The Xinjiang region of northwest China (or East Turkestan) is the homeland of the Uyghurs, a group numbering roughly eleven million people. Uyghurs speak a language closely related to Turkish, generally practice Islam, boast a history of political independence, and otherwise have a broad range of cultural practices that distinguish them from the majority Han Chinese. Since 2017, thousands of eyewitness reports and leaked official documents have emerged that attest to an ongoing effort on the part of the People’s Republic of China to quell dissent in the Uyghur homeland through detention, incarceration, and a now-pervasive network of surveillance. They describe a system of reeducation camps, which the Chinese government insists are merely mandatory boarding schools, where many Uyghurs, Kazakhs, and others deemed deviant, including some Han Chinese, are sent to be “cured” of their ideological diseases. Some characterize this as a systematic effort to eliminate not just dissenting voices, but an entire way of life—a genocide, powered by cutting-edge technology.

 

Crimes against humanity tend imply the existence of a criminal mastermind who could someday be put on trial. However, in The Perfect Police State: An Undercover Odyssey into China’s Terrifying Surveillance Dystopia of the Future, journalist Geoffrey Cain demonstrates that no single architect designed this system. Rather, we are presented with an indictment of unfettered state power and the unethical pursuit of profit, told through the intimate stories of eyewitnesses.

 

Cain delineates two narratives that gradually intertwine: One is China’s drive for technological dominance. The other is China’s fumbling effort to define and defeat an internal enemy of its own creation. Ethnoreligious oppression in Xinjiang and the effort to create an all-encompassing system of digital surveillance grew together haphazardly in the hands of security-obsessed officials and amoral executives, while ordinary people paid the price.

 

Uyghurs’ own stories are at the core of this book, and Cain’s chief interviewees, out of a sample of 168, are a surprising mix of well-informed insiders. We meet a former IT worker who helped create the surveillance system; a onetime spy for the Chinese; and the most sympathetic and central figure, a young, bookish woman named Maysem who simply wanted to finish her degree.

 

Maysem’s journey guides us through the system of reeducation that quickly encompassed her whole life in and beyond China. When we meet her, Maysem is a thoughtful young woman and former student of imprisoned Uyghur scholar Ilham Tohti, now studying abroad. Maysem returns to China and faces arbitrary bureaucratic bungling that suddenly lands her in a camp, facing beatings and mind-bending interrogations. Like any clever abuser, China has learned not to leave too many marks on its victims, but instead to chip away at their grasp on reality and sense of self-worth. Maysem recounts the effects of reeducation on her psyche as she was forced to deny her own senses and internalize the state’s demands on her thoughts and comportment.

 

The Perfect Police State helps us understand how this kind of arbitrary violence came about through a story about technological innovation bereft of ethical guidance. In the 2000s, the Chinese state realized that, despite all outward claims to totalitarian omniscience, it did not actually know itself very well. Cain’s interviews with Irfan, the Uyghur IT worker, show how Xinjiang for many years was the testing ground for piecemeal systems of surveillance that gave the illusion of control. Those attempts at discipline accompanied a push for economic development that left Uyghurs behind and the implementation of ill-considered and divisive policies aimed at cultural assimilation.

 

The deadly July 2009 protests and backlash, which began as peaceful protests against cultural restrictions and economic inequality, could have prompted Chinese leadership to reverse their most arbitrary and divisive policies. Instead, they made increasingly ham-handed and invasive interventions in Uyghur communities and families. These interventions focused on rooting out what the state perceived to be Islamist “extremism,” which in most cases meant criminalizing ordinary Islamic practices. Scholars such as Sean Roberts have argued that China created a “self-fulfilling prophecy” in which the determination to locate and punish terrorists instead led to more discontent and, eventually, actual terrorist attacks.

 

As the perceived threat increased, so did securitization, which in turn produced new threats and the demand for better intelligence and more powerful computers to counter them. Nevertheless, the state’s ability to surveil remained limited. Even as video cameras and checkpoints multiplied across Xinjiang, the information they collected was not integrated into a single network.

 

That changed around 2016 with a shift in Chinese thinking about Xinjiang and its people. Previously, the government had focused on economic development as a means to achieve stability in what it had long regarded as a “restive” region. Now Chinese President Xi Jinping and other leaders finally realized that economic development, which overwhelmingly favors Han Chinese settlers, was not winning hearts and minds. (This is to say nothing of the Xinjiang Production and Construction Corps, or bingtuan, a massive pseudo-military corporation that exists in Xinjiang but is governed separately.)

 

However, rather than remedy the underlying sickness in Xinjiang—the inequality and discrimination that caused the most discontent—they identified Islamist extremism as a “virus” of which Uyghurs, Kazakhs, and others needed to be cured in order to become “normal people.” That is, a primarily socioeconomic problem was treated as an ideological and cultural problem, a drive, as it were, to “kill the Uyghur, save the man,” that often confuses religion and culture. According to government documents, the symptoms of “extremism” include a broad range of mostly innocuous practices that may or may not have any relation to religion per se. Indeed, the interpretation of “Islamic extremism” reflects a suspicion towards any behaviors that are perceived to deviate from Chinese norms. In The Perfect Police State, for example, Maysem is found suspicious because she enjoys reading and pursues an education in Turkey. The result is the criminalization of ordinary Uyghur and Kazakh cultural practices.

 

Regardless, treating the “virus” required identifying and isolating the patients. Chinese companies and global capital provided the means to do so as their “patriotic” competition for market share and government contracts produced more refined technology, such as facial recognition software and new kinds of cameras. Cain is an experienced business journalist, and he interviewed executives at such globally recognized corporations as Huawei, as well as lesser-known but key players, such as Megvii, SenseTime, and Hikvision, who produced the key components of the new surveillance state. In 2016, cutting-edge advancements in neural networks finally made it possible to integrate those disparate technologies into a single system: the Integrated Joint Operations Platform (IJOP). The IJOP could combine biometric data with masses of other information to track, monitor, and identify potentially deviant behavior.

 

The IJOP is intended as a “Minority Report”-style system to identify future criminals. Yet, Cain demonstrates, it even fails in that respect. The platform was trained on data from human beings, a system of nosy neighborhood monitors who tracked changes in people’s schedules and habits. Their reports in turn were driven by vague political directives issued by overambitious officials, who set strict quotas requiring them to identify certain numbers of potential terrorists. This targeted tool for surveillance and discipline, trained on bad data, created the dragnet that detained an estimated 10 percent of the Uyghur population. Even members of loyal and “good” families such as Maysem’s were labeled enemies of the state. Reports demonstrate that many senior citizens have been sent for “job training” at reeducation centers, while longtime Chinese Communist Party members, including many cadres and secular academics, were sentenced to prison or even death on absurd charges of extremism.

 

Cain’s story thus seems to prove the programmer’s adage: “Garbage in, garbage out.” The IJOP provides not omniscience, but the illusion of control as defined by an ignorant machine. Predictive policing in the United States is correctly found to reinforce racial prejudices in policing—we should expect no less in China, where several companies have offered the government facial recognition software that purports to identify Uyghurs automatically. At the same time, some Uyghurs themselves draw parallels with the Cultural Revolution, when people scrambling to display their loyalty to Mao Zedong reported others for fictional thought crimes.

 

While it would be reasonable to assume that China is deploying arbitrary punishment strategically in order to create an atmosphere of paranoia, Cain is careful not to ascribe precise motivations to leaders without textual evidence. Rather, the book presents a tragedy of errors, a series of unforced mistakes driven by ideology as, at every step, people in power strengthened their commitment to bad policy. Scholars often analyze China’s bungling in Tibet and Xinjiang as a product of bad incentives that lead to perverse implementations of directives from the top. However, as the former spy recounts, officials in Xinjiang increasingly bought into their own paranoid propaganda and began to see enemies everywhere, which the IJOP obligingly served up. This result was, frankly, predictable.

 

In this way, The Perfect Police State presents a lesson about the amoral pursuit of profit, as companies fulfilled state demands without considering the human consequences or even their products’ effectiveness. One interviewed executive declared, “First we need to survive as a business, and then we can build our moral values.” Pursuing government contracts is not only a priority for these companies, but something that the state can demand of them, and this “non-political” stance serves their bottom lines. Cain points to a number of international companies, from venture capital to biotech, who have similarly involved themselves in Xinjiang by providing investments and technology.

 

Some of those international corporations withdrew from the abuse of surveillance technology or suspended their operations in light of human rights concerns. While that is laudable, we ought to be troubled that privacy and freedom depend to such a great extent on companies choosing to act against their self-interest. Ultimately, the international community is recognizing that one of the few effective means to address the situation in Xinjiang is to pressure businesses who may be entangled in the region’s surveillance and reeducation system, or with the forced labor that some Chinese companies evidently source from the camps. The Perfect Police State provides a partial map to that tangled web.

 

Meanwhile, however, The Perfect Police State reminds us that Maysem’s story is far from unique. Cain points to others who have recorded countless eyewitness reports, such as the international Uyghur activist Abduweli Ayup, who introduced most of the book’s interviewees to him, or the Kazakh activist Serikzhan Bilash. People have shared their stories for four years, first in whispers, then in a torrent that has not abated. It is time that the world simply listened.

 

Use as ferramentas de partilha que encontra na página de artigo.

Todos os conteúdos do PÚBLICO são protegidos por Direitos de Autor ao abrigo da legislação portuguesa, conforme os Termos e Condições.Os assinantes do jornal PÚBLICO têm direito a oferecer até 6 artigos exclusivos por mês a amigos ou familiares, usando a opção “Oferecer artigo” no topo da página. Apoie o jornalismo de qualidade do PÚBLICO.

https://www.publico.pt/2021/10/24/tecnologia/entrevista/governo-chines-acredita-criou-sistema-consegue-prever-crimes-1981668

 

ENTREVISTA COM GEOFFREY CAIN

“O governo chinês acredita que criou um sistema que consegue prever crimes”

 

A China está a usar um sistema de inteligência artificial que alegadamente detecta “pensamentos terroristas” para vigiar as minorias muçulmanas no país. A tecnologia é descrita, em detalhe, no mais recente livro do repórter de investigação Geoffrey Cain. “O sistema funciona porque toda a gente tem medo”, diz ao PÚBLICO.

 

Karla Pequenino

24 de Outubro de 2021, 7:20

https://www.publico.pt/2021/10/24/tecnologia/entrevista/governo-chines-acredita-criou-sistema-consegue-prever-crimes-1981668

 

Há cerca de cinco anos que a população de Xinjiang, no nordeste da China, vive com medo de fazer a coisa errada sem saber — especialmente, se fizerem parte de uma das minorias muçulmanas a viver na região. Desde 2017, pelo menos 1,8 milhões de uigures e membros de outras minorias étnicas naquela região foram enviados para campos de detenção por pensarem da forma errada (o governo acusa-os de possuir “pensamentos terroristas” e “vírus ideológicos"). A decisão é feita por um sistema de inteligência artificial que combina dados das centenas de câmaras nas ruas e programas que analisam o que os cidadãos fazem no telemóvel. Ser apanhado com uma app do Corão é motivo para detenção imediata, mas na maioria das vezes não se sabe o que desencadeia um alerta. 

 

“O governo chinês acredita que criou um sistema que consegue prever crimes e deter os criminosos antes do crime acontecer”, partilha com o PÚBLICO o repórter de investigação norte-americano Geoffrey Cain, que passou uma boa parte dos últimos anos a tentar descodificar o que se passa em Xinjiang. Aquilo que descobriu é descrito, em detalhe, no livro The Perfect Police State (para já, apenas disponível em inglês), publicado no final de Junho. Em entrevista ao PÚBLICO, o jornalista fala da realidade em Xinjiang, das empresas que desenvolvem a tecnologia, e da possibilidade de o sistema ser utilizado noutros países. Cain baseia-se em viagens à China e em entrevistas a mais de 160 refugiados uigures, investigadores, cientistas e responsáveis do governo de Pequim. 

 

O que é que o alertou para a problemática dos uigures nesta região da China?

Uma das coisas que me tem vindo a preocupar nos últimos anos é o facto de existirem cada vez mais governos a desenvolver e usar tecnologias novas para monitorizar as pessoas. Em 2017, vários amigos uigures falaram-me do que se estava a passar em Xiangjiang — do aumento da vigilância, de câmaras com reconhecimento facial por toda a região, de sistemas de inteligência artificial a tomar decisões. Em Setembro desse ano, fui visitá-la. 

 

O livro começa com essa viagem em que diz que foi “arrebatado pelo nível de sofisticação e intrusão do sistema de vigilância” em Xinjiang. O que o assustou na tecnologia?

A tecnologia em Xinjiang parece tirada de distopias como Relatório Minoritário [conto de Philip K. Dick, levado ao grande ecrã por Steven Spielberg) ou 1984, de George Orwell. A China criou aquilo a que chama de “plataforma integrada de operações conjuntas”, que analisa milhares de milhões de dados para encontrar pessoas que podem cometer atentados terroristas. É uma vigilância abrangente em que tudo é controlado pela inteligência artificial que o governo criou: desde os sítios por onde as pessoas passam, àquilo que compram no supermercado. Sempre que o comportamento de alguém sai da norma, o sistema avisa as autoridades. Às vezes, basta que um dia alguém se atrase para o trabalho.

 

O que acontece depois do alerta?

As pessoas são detidas e levadas para campos de reeducação para aprenderem a serem bons membros do Partido Comunista Chinês. São sistemas de tortura psicológica, mais do que tortura física. As pessoas estão sempre a ser vigiadas e têm de negar a sua história e a sua língua. Em última análise, é um sistema para apagar um povo inteiro e uma cultura, sem os matar de facto.

 

Grande parte do seu livro é contada através das experiências de Maysem, uma jovem uigur apanhada pelo sistema. Porque é que a que escolheu para contar a história?

Conheci a Maysem pouco depois de ela escapar de um campo em Xinjiang e chegar a um campo de refugiados na Turquia. O nome é um pseudónimo porque ela ainda tem a família na China, mas a história é verdadeira. A Maysem fazia parte da elite de Xinjiang, mas era uma leitora ávida, fã de Jane Austen, poesia, épicos gregos e literatura persa. Queria ser diplomata. Acho que o sistema percebeu que ela era muito independente, lia muito e tinha vivido no exterior. Isso tornava-a numa pessoa que dificilmente seria leal ao Partido Comunista Chinês. Conhecer a história de Maysem é importante porque a tecnologia vai mudar: daqui a dez ou 20 anos vão existir coisas que não conseguimos imaginar. O ponto comum nestas histórias de opressão, que existem desde sempre, são as pessoas e as formas como sobrevivem.

 

Quão robusta lhe pareceu a tecnologia? O livro inclui vários exemplos de casos em que as autoridades e as pessoas não percebem as decisões do algoritmo.

Ninguém sabe e é precisamente esse o problema. O funcionamento da plataforma é um grande puzzle na cabeça das pessoas com quem falei. Há algumas coisas óbvias que levam o sistema a considerar alguém suspeito: ler o Corão, rezar, ir à mesquita — são alertas vermelhos. Mas nem sempre é fácil perceber o motivo de um alarme. A verdade é que estes sistemas funcionam graças às chamadas redes neuronais, que analisam grandes quantidades de dados que são recolhidos sobre os cidadãos para encontrar conexões.

 

Sendo que o funcionamento do sistema tem defeitos e não é transparente, porque é que o governo o usa?

O sistema funciona porque toda a gente tem medo. Um dos conceitos que menciono no livro é a ideia do panóptico, do filósofo Jeremy Bentham. É um sistema pensado para controlar os trabalhadores nas fábricas: uma prisão num formato circular com um guarda no centro. O guarda consegue ver os prisioneiros todos, mas as pessoas não conseguem ver os guardas. Isto é o que está a acontecer em Xinjiang: o sistema vê tudo, mas as pessoas não sabem o que é que o sistema está a ver. É uma das estratégias que os governos autoritários usam para controlar as pessoas. “Onde é que está a linha?” Ninguém sabe. Vive-se com medo de fazer qualquer coisa que saia da norma. Quando isto acontece, as pessoas começam a censurar-se.

 

Mas este tipo de tecnologia pode sequer funcionar?

Um dos grandes problemas da inteligência artificial é que os sistemas ainda funcionam muito como uma caixa negra. Não é como um carro. Num carro, pode-se desmontar o motor para perceber o que não está a funcionar; na inteligência artificial isto não acontece.

 

Ainda assim, ferramentas que usam inteligência artificial para analisar a probabilidade de alguém cometer um crime não existem só na China. O COMPAS, nos EUA, permite a alguns tribunais analisar a possibilidade de um réu voltar a cometer o mesmo crime.

Estas ferramentas já estão em todo o mundo. Nos EUA, por exemplo, são usados por alguns departamentos policiais. Uma das semelhanças com o sistema chinês é a opacidade. As autoridades não revelam exactamente como é que os sistemas funcionam e de onde vêm os dados. Só que também há diferenças claras em relação ao sistema em vigor na China. A maior diferença é que as pessoas na China não vão para os campos porque cometeram um crime: vão porque existe uma suspeita — é um sistema extrajudicial. E na China estamos a falar de um estado de vigilância amplo.

 

Quais são as linhas vermelhas que não podem ser ultrapassadas neste tipo de sistemas?

As pessoas têm de controlar os seus dados. Têm existido esforços para ajudar as pessoas a gerir melhor a sua privacidade e os seus dados, mas o problema é que parte da informação já está nas mãos de empresas privadas. Durante décadas, as máquinas têm acumulado detalhes sobre as pessoas com base naquilo que compram e clicam online e é muito difícil devolver esses dados às pessoas. Quem quer usar um smartphone, um iPhone, tem de concordar com os termos e serviços e abdicar de parte privacidade para usar o telefone. Isso é uma linha vermelha.

 

É pouco provável que as coisas fiquem tão más como estão na China. Isso não vai acontecer enquanto existir um sistema forte de educação para a classe média e um sistema em que o poder do governo e das autoridades é questionado. É esta estrutura que impede que o que acontece na China aconteça no Ocidente, mesmo com as pessoas a ter tão pouco controlo dos seus dados. 

 

Isto pode mudar?

As protecções que existem hoje, ao nível da democracia, não são para sempre. Imaginem, por exemplo, que Donald Trump tinha conseguido estender o seu mandato ao negar a legitimidade das eleições. Há presidentes com quatro mandatos seguidos. Um mau líder que consegue manter o poder, aumenta o poder militar e elimina a possibilidade de questionar esse poder pode facilmente mudar a equação num país democrático.

 

A comunidade internacional devia estar a fazer mais para intervir em Xinjiang?

Sim. A União Europeia e os EUA já estabeleceram vários tipos de sanções contra empresas de tecnologia na China e oficiais da China que estão envolvidos nos abusos de direitos humanos de Xinjiang. Isto não resolve o problema. Num sistema globalizado, se estamos a fazer negócios com uma empresa na China, provavelmente está-se a fazer parte de algum tipo de abuso de direitos humanos. E por vezes não se sabe quem é que detém uma empresa, porque o país de uma empresa nem sempre é o país em que a empresa funciona. É preciso mais transparência. 

 

O livro explora a ideia que as atrocidades em Xinjiang podem estar relacionadas com a chamada Nova Rota da Seda [estratégia de desenvolvimento de infra-estruturas para ligar a China à Europa, Ásia e África]. Como é que isto acontece?

Tradicionalmente, a China tem-se focado no desenvolvimento da costa do país: desde Xangai a Hong Kong. Só que essas regiões estão a ficar demasiado lotadas. E estão rodeadas pelo Taiwan, pelo Japão e pelas bases dos EUA, que não vêem a China com bons olhos. Há cerca de nove anos, começou a notar-se um empurrão por parte de pensadores geopolíticos da China para “marchar para o Ocidente”. O interior da China é rico em gás natural e tem muito potencial para criar infra-estruturas como rotas ferroviárias e ligar o país à Europa e ao Médio Oriente.

 

E isso leva à opressão das minorias?

A primeira grande mudança em Xinjiang aconteceu quando o Partido Comunista Chinês chegou ao poder na década de 1950. Na altura, o governo queria reforçar o domínio em regiões dominadas por minorias étnicas. Isto tornou-se mais relevante quando a União Soviética caiu e muitos países no centro da Ásia, como o Cazaquistão, ganharam independência. A China não queria que isto acontecesse no seu país. Por isso, desde a década de 1950 que a minoria uigur não está satisfeita sobre a forma como é tratada, mas as coisas pioraram muitos depois dos ataques do 11 de Setembro. 

 

Como é que esses ataques nos Estados Unidos influenciaram a China?

O governo chinês passou a ter um pretexto para vigiar os uigures. Com o clima da época, o aumento da vigilância nessas regiões era justificado porque a missão era prevenir ataques terroristas. Nos últimos anos deixou de ser uma alegada guerra ao terror e passou a ser mesmo uma campanha para eliminar um povo inteiro. E a tecnologia está a ser utilizada para isto. 

 

A China está a exportar este tipo de tecnologia?

Há pelo menos uma dúzia de empresas chinesas no mercado internacional que criam o tipo de tecnologia usada pelo sistema de Xinjiang. A Huawei é a empresa mais conhecida, mas também há empresas como a Hikvision e a Sensetime. As exportações em si não são o problema. Muitas vezes um país compra a tecnologia porque quer melhores sistemas de segurança para lutar contra o crime ou procura sistemas de controlo de trânsito sofisticados. Quando a tecnologia é utilizada para aumentar o bem-estar público, não há qualquer problema. O problema é quando um governo autoritário começa a utilizar este tipo de tecnologia para espiar a oposição ou para atacar a democracia. E isto é algo que já está a acontecer. O Uganda confirmou que tem usado tecnologia chinesa para espiar figuras da oposição e entrar nas suas redes sociais.

 

Quando se fala de empresas de tecnologia da China no Ocidente, a atenção vai sobretudo para a possibilidade de Pequim as usar para espiar. Os receios em torno das redes 5G fazem sentido?

Na China, há leis que dizem que se o governo pedir informação a uma empresa, a empresa tem de dar essa informação. Por isso, sim, em teoria as redes podem ser usadas para espiar. Um dos motivos que a Inglaterra e os Aliados conseguiram manter a vantagem durante a Primeira Guerra Mundial foi porque, na altura, as empresas britânicas controlavam as redes globais de telecomunicações. Muitos destes cabos submarinos passavam pela Inglaterra antes de irem para a Alemanha e para a Áustria e o governo britânico pediu às suas empresas para interceptarem as comunicações alemãs. Isto não é uma preocupação nova; é uma preocupação histórica.