Il·lustració que mostra un dictador utilitzant la vigilància i el control automatitzat per observar, predir i reprimir la ciutadania. Il·lustració de Khalid Bencherif. Utilitzada amb permís.

Per Khalid Bencherif

«A les monedes, als segells, a les cobertes dels llibres, als estendards, als cartells i fins i tot a l’embolcall d’un paquet de cigarretes: pertot arreu. Sempre els ulls observant-te i la veu envoltant-te. Adormit o despert, treballant o menjant, dins de casa o al carrer, a la banyera o al llit: no hi havia escapatòria. Res no era teu, excepte els pocs centímetres cúbics que hi havia dins del teu crani.»
— George Orwell, 1984

Orwell no podia imaginar que, amb el temps, fins i tot aquests pocs centímetres cúbics dins del crani serien objecte de disputa en un continent ja castigat per la corrupció i la tirania. Això és especialment rellevant en un continent on la corrupció, la impunitat i l’afany de poder dels executius són molt anteriors a la intel·ligència artificial, i on l’adopció de la intel·ligència artificial (IA) avança més ràpidament que el desenvolupament de marcs legals respectuosos amb els drets humans.

Àfrica corre cap a les eines intel·ligents de la tirania

En el passat, la tirania a l’Àfrica requeria presons, informadors, policies secretes i repressió visible. Avui, cada vegada més, arriba en forma de programari, finançat amb crèdits, embolcallat amb el llenguatge de la modernització i venut com una millora de la seguretat pública.

Un estudi de març de 2026 de l’Institut d'Estudis per al Desenvolupament (IED) i la Xarxa de Drets Digitals Africana va concloure que onze governs africans havien gastat conjuntament més de 2 bilions de dòlars estatunidencs en sistemes de vigilància impulsats per IA. Només Nigèria representava més de 470 milions de dòlars estatunidencs. L’equipament inclou circuits tancats de televisió d’alta definició, lectors de matrícules, reconeixement facial, capes d’identitat biomètrica i sales de control on convergeixen totes les dades. Empreses i bancs xinesos subministren o financen gran part d’aquesta infraestructura, mentre que empreses israelianes subministren la majoria dels altres components.

Estadístiques en anglès sobre la vigilància impulsada per la intel·ligència artificial. Fet per l'Institut d'Estudis per al Desenvolupament (IED). Utilitzada amb permís. 

L’argument habitual dels governs africans és que aquesta tecnologia és necessària per combatre la delinqüència. Tanmateix, les xifres de criminalitat no disminueixen. Els investigadors de l’IED, després d’examinar les instal·lacions en diverses ciutats, van trobar poques proves que les càmeres redueixin els delictes. En canvi, les evidències mostren que les càmeres es concentren als barris on s’organitzen els partits de l’oposició, on hi ha hagut protestes i on la premsa «ha generat problemes» als règims governants.

La infraestructura informativa de les dictadures africanes no és nova, ni parteix de zero. A la majoria dels països africans, l’estat fa dècades que acumula dades. Registres de comunicacions, censos fiscals, comptes bancaris i arxius administratius han estat recopilats i utilitzats amb poques limitacions legals, fins i tot allà on existeixen proteccions sobre el paper. El que és nou és el motor. La IA converteix aquests arxius adormits en una base de dades consultable. Un nom, una xarxa de contactes, un patró de desplaçaments o un historial de transaccions poden aparèixer en qüestió de segons.

Fins i tot el KGB, la policia secreta de la Unió Soviètica, tal com ha assenyalat  l'historiador Yuval Harari, no disposava de prou personal per llegir milions d’informes sobre milions de ciutadans cada dia. La pols acumulada als arxius era, en si mateixa, una forma de llibertat. La IA elimina aquesta pols.

La vigilància basada en IA que s’està desplegant a les ciutats africanes és ara molt més barata gràcies als models oberts xinesos i a les eines intel·ligents israelianes, perquè rarament necessita castigar ningú. Les tecnologies de vigilància massiva —càmeres, programari per a telèfons i xarxes locals d’internet— no necessiten arrestar persones. Només necessiten que la ciutadania sàpiga que existeixen. La simple consciència de ser observat frena moltes accions abans que comencin. 

La llista d’objectius

Tots els moviments de canvi al continent han començat de la mateixa manera. Un grup de persones decideix que el risc de ser vist en públic és menor que el risc de romandre en silenci. Es reuneixen. Publiquen missatges. Les imatges circulen. De vegades el govern cau; de vegades resisteix. En tots dos casos, el resultat depèn d’un moment concret: quan persones desconegudes esdevenen visibles les unes per a les altres i per al món com un moviment.

Aquesta actualització tecnològica altera aquest càlcul des de l’origen.

La vigilància basada en IA no és una xarxa neutral desplegada sobre una ciutat. Està configurada al voltant d’una llista d’objectius, i aquesta llista és política. Els mapes de l’IED mostren càmeres concentrades allà on s’organitza l’oposició, no pas on hi ha més delinqüència comuna.

L’efecte és preventiu: reprimeix la dissidència abans que arribi a formar-se. El reconeixement facial en una parada d’autobús no necessita detenir l’organitzador; només ha de deixar clar que organitzar-se ja no és anònim i que ser identificat té conseqüències. Per exemple, una protesta prevista per diumenge i detectada dissabte —mitjançant metadades, publicacions a les xarxes digitals, anàlisi de xarxes i comparació facial— sovint ni tan sols necessita ser dissolta per la policia. Els organitzadors ja saben que han estat detectats i coneixen el preu que això pot comportar: detencions, càrrecs judicials posteriors o fins i tot la prohibició d’accedir a llocs de treball públics. Moltes vegades, la protesta simplement no arriba a produir-se.

La lògica es tanca en un cercle pervers: l’algoritme assenyala una persona com a probable organitzadora, i aquest senyal és tractat com una prova que l’esdeveniment hauria tingut lloc. Així, la persona no pot ser considerada innocent perquè l’alerta mateixa és considerada l’evidència. En un país amb tribunals febles i serveis de seguretat polititzats, això es converteix en una màquina que equipara intenció amb culpabilitat.

Les petjades digitals amplien constantment la llista d’objectius. A través dels rastres que les persones deixen a internet i de les comunicacions controlades per l’estat, es poden construir perfils detallats de cada ciutadà i buscar-hi indicis de deslleialtat. No pel que una persona ha fet, sinó pel que ha indicat que li agrada, per qui ha trucat o enviat missatges, per quina manifestació va passar el seu telèfon o per quin hashtag contrari al govern ha compartit. La conclusió més inquietant de l’informe del Consell Atlàntic és la integració de múltiples bases de dades administratives en una estructura més àmplia: un índex de lleialtat construït a partir de registres que, originalment, havien estat creats per finalitats completament diferents.

La conseqüència és que la reforma mor abans de néixer. Col·laboració en Política Internacional de TIC per a l'Est i el Sud de l'Àfrica (CIPESA) documenta aquest efecte dissuasiu en catorze països: una reducció mesurable de la llibertat d’expressió, de reunió i dels mitjans independents als llocs on la infraestructura de vigilància s’ha desplegat sense garanties basades en els drets humans. La persona que hauria participat en una manifestació, publicat una denúncia, format part d’un comitè o presentat una queixa, ara calcula els riscos i es queda a casa.

Des del nord fins al sud de l’Àfrica, s’instal·la una nova atmosfera quotidiana. La llavor del canvi és avortada, no en una cel·la, sinó en una habitació, per algú que ha entès que la base de dades recorda i que l’algoritme no distingeix entre l’opinió expressada i l’opinió simplement sostinguda.

Això és el que aquesta modernització protegeix amb més eficàcia: no la capacitat de l’estat per castigar, sinó la seva capacitat per fer que el càstig sigui innecessari. El filòsof Michel Foucault va definir aquest fenomen com a «panòptic»: un sistema en què el reclús, sense saber si la torre de vigilància està ocupada, acaba vigilant-se ell mateix.

Els qui s’hi resisteixen

Tot i que la vigilància amb IA s’està convertint en una eina poderosa per als règims autoritaris, existeixen esforços de resistència, encara que petits, infrafinançats i obligats a competir amb un procés de compra pública que ja ha instal·lat les càmeres i connectat les bases de dades. Diversos periodistes i organitzacions documenten abusos, impulsen litigis estratègics i promouen models de governança de la IA basats en els drets humans. Tecnòlegs cívics utilitzen les mateixes eines per supervisar l’estat: verifiquen continguts generats per IA, monitoren discursos d’odi, observen processos electorals i ofereixen eines obertes i segures per a periodistes i activistes.

Tanmateix, la simetria és enganyosa. La infraestructura, la capacitat de càlcul, les dades d’entrenament, els contractes amb proveïdors i el talent tècnic es troben en mans dels governs i dels seus socis estrangers. No es troben en mans del ciutadà africà, que sovint lluita cada dia simplement per guanyar-se el pa. Una aplicació cívica pot detectar alguns casos de corrupció, però no pot competir amb una sala centralitzada de control.

Els pocs centímetres cúbics

La dictadura descrita per Orwell necessitava un ministeri, una guerra i un informador darrere de cada porta. La nova versió africana sembla necessitar només un préstec per comprar infraestructura d’IA i una població convençuda que tot plegat és per al seu benefici.

L’historiador Yuval Harari ha advertit que la combinació de sensors biomètrics, reconeixement facial i reconeixement de veu «fa possible, per primera vegada a la història, que un govern dictatorial segueixi tots els ciutadans tot el temps» i podria donar lloc a règims totalitaris «molt, molt pitjors que qualsevol cosa que vam veure al segle XX». Aquesta advertència acostuma a dirigir-se cap a Pequín. Però Pequín i Tel-Aviv ara comencen a exportar aquestes eines a l’Àfrica.

La por al continent no és que la IA converteixi un únic estat africà en una dictadura. La por és que la IA estigui reduint el cost de la capacitat autoritària i ampliant-ne els límits a una velocitat sense precedents, just quan augmenta l’afany de poder dels règims corruptes i quan les garanties legals i institucionals destinades a contenir-los són febles o inexistents.

Certament, la IA pot ser una palanca per al desenvolupament i el benestar a l’Àfrica: per als serveis públics, la innovació i també la llibertat d’expressió. Però sense una infraestructura democràtica sòlida i una premsa lliure, es pot convertir en un malson.