De Grote Chinese Firewall maakt van AI een dienstknecht van de Communistische Partij

Voor de Chinese Communistische Partij (CCP) is kunstmatige intelligentie veel meer kunstmatig dan intelligent. Om AI-platforms in overeenstemming te brengen met de partijideologie, stonden Chinese functionarissen erop de inhoud ervan te vervlakken door de geschiedenis en feiten te verdraaien.

Chinese AI wordt getraind door de overheid om propaganda te zenden

Westerse AI kan problemen veroorzaken door het vermogen van mensen om na te denken en te analyseren te verzwakken. Maar terwijl deze westerse systemen tenminste openlijk verslag doen van historische fouten, gebrekkig economisch beleid en sociale onrust, zijn Chinese AI-modellen zorgvuldig getraind om door de staat goedgekeurde propaganda na te praten. Ze zijn ontworpen om systeemfouten te verdoezelen die de legitimiteit of effectiviteit van het regime in twijfel trekken, of om de waarheid te verbergen over de ellende van het Chinese volk onder het communisme.

AI is riskant voor de communistische partij

Ondanks deze structurele blinde vlekken wordt nog steeds verwacht dat AI-technologie de economische groei van China zal stimuleren. Industrieën hebben systemen nodig die de werkelijkheid weerspiegelen, geen fictie. Het laten functioneren van AI in China zou barsten kunnen veroorzaken in de partijfilter.

Staatscontrole in gevaar door AI

De Verenigde Staten lopen bijvoorbeeld momenteel voorop bij de ontwikkeling van krachtige AI. Als hun AI-tools door de mazen van het net glippen, kunnen ze vensters openen waardoor de wereld het ware perspectief op de ellende en instabiliteit in China kan zien. Een ander probleem is dat het grote vermogen van AI tot data-analyse trends en lekken aan het licht zou kunnen brengen die de ernstige religieuze vervolging en de mislukkingen van de staat op milieu-, economisch en sociaal gebied blootleggen – zaken die de staat zo hard probeert te verbergen.

Wanneer algoritmen moeten voldoen aan ideologie, niet aan de waarheid

Om deze rampen te voorkomen, voert China nieuwe maatregelen in die het vermogen van AI om het regime te ontmaskeren beperken. Volgens regelgeving die is aangescherpt door recente wijzigingen in de cyberveiligheidswetten, moeten trainingsgegevens streng worden gefilterd. Bedrijven mogen geen enkele bron gebruiken tenzij 96 procent van de inhoud door de CCP als politiek “veilig” wordt beschouwd.

Hoe China AI inperkt

De regering heeft AI officieel, naast aardbevingen en epidemieën, aangemerkt als een grote potentiële bedreiging. Regelgevers hebben zelfs AI-systemen in het vizier genomen die “menselijke persoonlijkheidskenmerken, denkpatronen en communicatiestijlen simuleren”, een stille erkenning dat de echte dreiging niet alleen ligt in wat deze systemen zeggen, maar ook in hoe ze “redeneren”.

Een geschiedenis van eerlijke chatbots

Deze hardhandige regelgeving volgt op jaren van gênante technische opstanden. In 2017 zette Tencent een chatbot genaamd BabyQ in op een berichtenapp met meer dan 800 miljoen gebruikers. Toen hem werd gevraagd of hij van de Communistische Partij hield, antwoordde BabyQ botweg dat dat niet het geval was. De Xiaobing-chatbot van Microsoft bekende, toen hem werd gevraagd naar Xi’s kenmerkende ‘China Dream’-programma, weemoedig dat zijn droom was om naar de Verenigde Staten te verhuizen. Beiden werden snel van het digitale toneel gehaald door beschaamde communistische functionarissen.

Snel weer offline gehaald

Meer recent, in februari 2023, werd ChatYuan – China’s eerste ChatGPT-achtige bot – binnen 72 uur na de lancering opgeschort. Zijn misdaad? De Russische invasie van Oekraïne “een agressieoorlog” noemen en de Chinese economie nauwkeurig beschrijven als geplaagd door vastgoedzeepbellen en vervuiling. Zoals altijd gaf de CCP de schuld aan “technische fouten”.

Hoe AI werkt

Deze alarmerende incidenten onthullen hoe grote taalmodellen (LLM’s) werken, en vormen daarmee een probleem voor overheidscensoren. Een LLM wordt getraind op de enorme hoeveelheid door mensen geschreven kennis: de wereldgeschiedenis, filosofie, wetenschappelijke feiten en politieke theorie. Deze teksten voeren van nature argumenten aan, wegen bewijs af en volgen logische gedachtegangen.

AI valt moeilijk te censureren

Vrij onderzoek, logische consistentie en het toetsen van beweringen aan bewijs zijn niet louter westerse voorkeuren; het zijn intellectuele eigenschappen die van nature voortkomen uit het trainingsproces. In tegenstelling tot oudere technologieën reageren LLM’s op data. Hoewel ze niet perfect zijn, maken ze een persoonlijke, open dialoog mogelijk die de nieuwsgierigheid van de gebruiker volgt, waar die ook toe leidt. Zelfs zwaar gecensureerde chatbots hebben moeite om binnen het verwrongen ideologische kader van de CCP te blijven. 

Onmogelijke taak

Amerikaanse modellen, die zonder deze beperkingen werken, fungeren als persoonlijke begeleiders in logisch denken voor miljoenen gebruikers die op zoek zijn naar feitelijke kennis. Dit inherente vermogen om logische sequenties te volgen maakt de taak van de CCP uiteindelijk onmogelijk. Decennialang verstikte de Grote Firewall distributiekanalen door websites te blokkeren en zoekresultaten te censureren. Zo kon de CCP de output filteren vóór de komst van AI. De logische processen die in de kern van AI zijn ingebakken, leveren echter onoverkomelijke problemen op.

Gevangenismuren om de feiten heengebouwd

De paniekerige tegenmaatregelen van de CCP bevestigen alleen maar de ernst van hun probleem. Europese onderzoekers hebben onlangs een Chinees model genomen, de censuurfilters ervan verwijderd en ontdekt dat het onderliggende systeem vrij en nauwkeurig berekeningen kon uitvoeren over veel onderwerpen die Peking had proberen te wissen. De ideologie van de CCP was slechts een gevangenis gebouwd rond een bibliotheek van feiten. Verwijder de filtermuren en alles werkt normaal.

Waanzinnige leugens om de waarheid verborgen te houden

Een recent onderzoek benadrukte de tragische kosten van deze censuur. Bij tests met politiek gevoelige vragen weigerden Chinese modellen te antwoorden en verzonnen ze in plaats daarvan waanzinnige leugens. In tegenstelling tot een geblokkeerde webpagina laat een gemanipuleerd AI-model de gebruiker volledig in het ongewisse over censuur en het verzinnen van gegevens.

De AI-Koude Oorlog laait op

Naarmate de AI-Koude Oorlog tussen de VS en China oplaait, zal de strijd om de hegemonie intensiveren. De uitkomst hangt echter wellicht meer af van filosofische en morele kwesties dan van technische. De Chinese Communistische Partij heeft haar platform gebouwd op controles die de waarheid eruit filteren. Een systeem dat is getraind om zichzelf in leugens te verstrikken, zal nooit kunnen tippen aan een systeem dat is getraind om eerlijk met de werkelijkheid om te gaan.

Dit artikel verscheen eerder op tfp.org.

Laatst bijgewerkt: 4 juni 2026 14:14