Imatge d'Ibrahim Kizza per a APC. Utilitzada amb permís.

Aquest article forma part de la sèrie «No preguntis a la IA, pregunta a una persona», una col·laboració entre Global Voices, l’Association for Progressive Communication i GenderIT. La sèrie té com a objectiu tornar a emfasitzar la importància de compartir coneixement entre persones, tal com s’ha fet durant dècades. Podeu seguir la sèrie a APC.org, GenderIT.org i Globalvoices.org. També forma part de la sèrie especial d’abril de 2026 de Global Voices «Human perspectives on AI». Podeu donar suport a aquesta cobertura fent una donació aquí.

Com un dels països més infames per utilitzar la IA amb finalitats de vigilància massiva i restricció de la llibertat dels ciutadans, la Xina no pot oferir una resposta directa sobre com desenvolupar un enfocament de la IA basat en els drets humans. Tot i això, la seva aposta oberta per la tecnologia d’IA i les seves ambicions de dominar el mercat global de la IA poden servir com a cas d’estudi de la relació creixent entre el sector privat i l’estat, entre la màquina i la societat.

El febrer de 2026, l'enginyer Sammy Azdoufal va descobrir que podia prendre el control de 7.000 aspiradors intel·ligents, veure imatges en temps real de les llars de la gent, escoltar els sons de l’entorn a través de les càmeres en directe de les màquines i localitzar exactament els habitatges mitjançant les seves adreces IP simplement aplicant enginyeria inversa a la connexió entre el seu nou aspirador DJI Romo i el comandament de la seva PlayStation.

Tot i que l’empresa xinesa continental va solucionar ràpidament la vulneració de seguretat, l’incident posa de manifest fins a quin punt la tecnologia de vigilància basada en IA pot penetrar fàcilment en la nostra vida quotidiana i els riscos que comporta.

Amenaces universals associades a la vigilància amb IA i a la tecnologia de guerra

L’aspirador intel·ligent esmentat anteriorment no està disponible al mercat dels EUA perquè el seu fabricant, DJI, va ser designat «empresa militar xinesa» el 2022 i inclòs en la llista negra del Pentàgon per motius de seguretat nacional.

En aquest context, els debats sobre la tecnologia de vigilància impulsada per IA i les amenaces que l’acompanyen s’han limitat en gran part a la Xina, però aquesta tecnologia és universal i afecta persones d’arreu del món.

La Xina és, efectivament, pionera en l’ús de tecnologies de vigilància sofisticades per reforçar el seu govern repressiu, i fins i tot ha exportat aquestes eines a altres estats autoritaris, tal com han documentat àmpliament diversos mitjans internacionals. L’experiència xinesa, tant en l’anomenada gestió social dels uigurs al Xinjiang com en el sistema nacional de control de la COVID-19, mostra al món que la supervisió humana en nom de la gestió territorial i l’aplicació de tecnologies de vigilància —reconeixement facial, sistema de crèdit social, geolocalització i seguiment de dades en línia— funcionen conjuntament per mantenir un entorn policial de base capaç de prevenir actes potencialment desestabilitzadors. Aquesta realitat orwel·liana mostra que, quan l’estat disposa d’un motor d’IA potent, pot consolidar el seu poder a costa de la llibertat individual de reunió, expressió i moviment.

El mercat global de la tecnologia repressiva

Aquesta tecnologia repressiva tan avançada té un abast comercial inimaginable. A la Xina, els sistemes de reconeixement facial impulsats per IA s’han utilitzat per a imposar multes per travessar fora del pas de vianants o estacionar il·legalment, processar pagaments presencials i en línia i supervisar el rendiment dels estudiants a l’aula, entre altres usos.

Tot i que els estats democràtics observen amb escepticisme l’aplicació xinesa de la vigilància amb IA, aquestes reticències només els empenyen a comprar eines semblants de proveïdors no xinesos. La policia del Regne Unit, per exemple, ha adquirit recentment la tecnologia de reconeixement facial basada en IA utilitzada pels serveis d’intel·ligència israelians per identificar i seguir civils palestins que travessen Gaza. Les 50 màquines de reconeixement facial seran desplegades arreu del país per identificar i seguir individus inclosos en les llistes de vigilància policial. Als Estats Units d'Amèrica, la tecnologia d’IA també s’ha utilitzat per a la vigilància massiva i la detenció d’immigrants sense papers i en la recent guerra contra l’Iran.

En l’àmbit digital, l’impacte de la IA sobre els mitjans i l’ecosistema informatiu ha estat devastador. El biaix polític i la censura integrats en la IA generativa xinesa DeepSeek, que difon narratives favorables a la Xina, han estat àmpliament reportats.

Al mateix temps, les IA generatives occidentals també són útils per difondre propaganda a internet. Tal com revelen els informes de transparència d’OpenAI, operadors d’informació russos i xinesos han utilitzat ChatGPT per analitzar l’opinió pública i adaptar continguts als seus públics objectiu. Recentment, en el context de la guerra entre els EUA i Israel contra l’Iran, la propaganda bèl·lica en forma de vídeos hipertrucats (deepfake) generats per IA també ha inundat les principals plataformes de xarxes socials.

Una minoria d’operadors de desinformació pot ara manipular la percepció de la realitat de la majoria gràcies als seus assistents d’IA.

La necessitat de reequilibrar el poder

La Xina també ofereix una lliçó important al món sobre la governança de la IA. Des de 2022, ha desplegat una sèrie de lleis i regulacions, incloses les disposicions sobre recomanacions algorítmiques (2022), les disposicions sobre gestió de síntesi profunda (2023), les mesures provisionals sobre IA generativa (2023) i les mesures d’etiquetatge de la IA (2025), amb l’objectiu d’evitar l’ús il·legal i maliciós de la IA i garantir que els continguts generats per màquines s’alineïn amb els valors socialistes fonamentals de la Xina. Els drets dels usuaris pel que fa a la protecció de dades personals, el consentiment i l’accés han estat relativament ben tractats, juntament amb requisits addicionals de responsabilitat corporativa per millorar la transparència algorítmica i adoptar mesures no discriminatòries i no addictives.

Tanmateix, com que aquestes lleis tenen per objectiu protegir la seguretat nacional, l’ordre públic i la ideologia política, no imposen cap límit al poder de l’estat. A les xarxes socials xineses és habitual veure usuaris que expliquen que la policia ha anat a casa seva simplement perquè havien comprat algun objecte sospitós, com ara un dron per fer fotografies. El sistema de crèdit social, juntament amb la censura en línia, la gestió territorial i altres sistemes de control social, rastreja els registres d’activitat en línia dels usuaris —incloses transaccions financeres, connexions socials i discursos— i restringeix l’accés a serveis digitals i públics, com els sistemes de pagament en línia i la compra de viatges, quan la puntuació de crèdit és baixa i els usuaris acaben inscrits a la «llista de persones deshonestes» dels tribunals xinesos.

Les obligacions imposades al sector corporatiu poden semblar raonables i justes. Però hi ha molt poques organitzacions independents de la societat civil que supervisin el sector privat i garanteixin que les empreses tecnològiques hagin implementat realment les mesures de protecció exigides per la llei. Com a resultat, les vulneracions de seguretat i les filtracions de dades personals derivades de productes d’IA mal dissenyats, com el DJI Romo Vacuum, han continuat produint-se aquests darrers anys. El 2025, una important filtració de dades va exposar els registres de bilions d’usuaris xinesos, incloent-hi noms, números d’identificació, contrasenyes i dades financeres i bancàries vinculades als seus comptes de xarxes socials. Aquests registres podrien ser explotats per estafadors per perjudicar les persones afectades.

Malgrat tots aquests riscos de seguretat, els ciutadans de la Xina continental han adoptat ràpidament les tecnologies emergents, especialment la IA. L’exemple més recent, a principis de març en diverses grans ciutats xineses, és la febre per instal·lar OpenClaw, un bot d’IA creat pel programador austríac Peter Steinberger que s’integra amb altres grans models lingüístics com Claude i DeepSeek, funciona en un ordinador local i emmagatzema les dades localment. Sumant-se a la tendència, altres empreses xineses, com Tencent, ByteDance i Xiaomi, van llançar productes similars. Aquest fanatisme tecnològic, impulsat tant per la política del govern xinès d’integrar tecnologia avançada a l’economia com per l’ansietat de la població de quedar-se enrere davant la ràpida innovació tecnològica, converteix la gent en fans i seguidors d’un Leviatan al qual entreguen el seu temps, energia, desitjos, idees i dades sense saber qui el controla ni on els pot conduir.

Tot i que la transparència i la protecció dels drets dels consumidors han estat incorporades a les lleis xineses sobre IA, la protecció dels drets humans continua sent superficial, ja que la població desconeix els seus drets i els possibles danys derivats de l’ús abusiu i maliciós d’aquesta tecnologia. En absència d’alternatives, la majoria dels ciutadans de la Xina continental han acceptat la tecnologia de vigilància —com la presència omnipresent de càmeres de seguretat amb reconeixement facial— com una característica normal i còmoda de la vida pública. El mecanisme de canvi està bloquejat.

En aquesta distopia xinesa de la IA podem veure que la població no controla la tecnologia, sinó que està sotmesa a un règim que veu la tecnologia com una eina per expandir i consolidar el poder polític i econòmic de l’estat. Això ens mostra que el nucli de l'enfocament dels drets humans en la IA hauria de reequilibrar el poder entre estats-corporacions, maquinària i ciutadania mitjançant un marc de presa de decisions que torni a situar les persones al centre, i desfer el fanatisme tecnològic a través de la recerca orientada a les persones, la deliberació pública, les pràctiques culturals reflexives i una educació centrada en la humanitat.