Uit een analyse van Reuters van meer dan 80 Chinese academische publicaties en patentaanvragen blijkt dat instellingen die verbonden zijn aan het Volksbevrijdingsleger (PLA) output van geavanceerde modellen van OpenAI en Anthropic hebben gebruikt om binnenlandse defensiesystemen te trainen.
De analyse maakte deels gebruik van materiaal dat was verzameld door de in Washington gevestigde Jamestown Foundation. De onderzoekers gebruikten een techniek die bekendstaat als modeldistillatie. Daarbij worden vragen voorgelegd aan westerse modellen en worden de resulterende antwoorden gebruikt als synthetische trainingsdata voor kleinere, lokaal beheerde systemen.
De toepassingen omvatten onder meer militaire apparatuur op het slagveld, oorlogsvoering op zee, cyberoperaties en sociale monitoring.
Hoe aan het PLA gelieerde onderzoekers OpenAI en Anthropic modellen gebruikten
Met modeldistillatie kunnen onderzoekers de hoge kosten van het vanaf de grond ontwikkelen van geavanceerde modellen omzeilen. In plaats daarvan leggen ze vragen voor aan krachtige westerse modellen en gebruiken ze de antwoorden als trainingsdata voor kleinere, lokale modellen.
“Een model het juiste antwoord leren is één ding, maar het model leren waarom dat antwoord juist is, is veel moeilijker”, aldus Sunny Cheung, onderzoeker bij de Jamestown Foundation.
“Deze publicaties laten zien dat aan het Chinese leger gelieerde onderzoekers proberen die dure, bedrijfseigen redeneercapaciteiten van westerse modellen over te dragen naar kleinere systemen die ze zelf kunnen beheren en lokaal kunnen inzetten.”
De documenten beschrijven toepassingen binnen verschillende defensiegebieden.
Een publicatie uit 2024 van de National University of Defense Technology van het PLA beschrijft hoe een beeldverwerkingsmodel kleiner werd gemaakt, zodat onbemande luchtvaartuigen livevideo kunnen analyseren en in realtime navigatiebeslissingen kunnen nemen, zelfs wanneer de communicatie is uitgevallen.
Onderzoekers van de Chinese Academy of Military Sciences gebruikten distillatie om modellen voor doelherkenning te laten draaien op tactische hardware tijdens gesimuleerde maritieme operaties met schepen, drones en onbemande onderzeeërs.
Onderzoekers van PLA eenheid 96941, een in Peking gevestigde eenheid voor cyberoorlogsvoering, gebruikten GPT 3.5 van OpenAI om militaire broncode samen te vatten. Vervolgens trainden ze een lokaal model om binnen geclassificeerde militaire netwerken te functioneren.
Onderzoekers van de North University of China gebruikten Claude 3 Haiku van Anthropic om synthetische data te genereren voor tekstclassificatie en contentmonitoring.
Waarom exportcontroles modeldistillatie niet kunnen stoppen
Deze ontwikkeling laat een strategische uitdaging zien die niet volledig kan worden aangepakt met exportcontroles voor halfgeleiders. Washington kan de toegang tot geavanceerde GPU hardware beperken, maar het beperken van toegang tot openbare API output of uitgelekte modelantwoorden is vrijwel onmogelijk.
Hierdoor ontstaat een asymmetrische situatie waarbij westerse AI bedrijven de kosten van geavanceerde modelontwikkeling dragen, terwijl rivaliserende krijgsmachten gerichte redeneercapaciteiten kunnen overnemen om operationele AI in te zetten op satellieten, drones en militaire radio’s.
Gedistilleerde systemen hebben echter beperkingen. Ze hebben een beperkter toepassingsgebied, beschikken niet over dezelfde algemene intelligentie en kunnen de veiligheidsmechanismen van de oorspronkelijke modellen verliezen.
Anthropic verklaarde dat het geen commerciële toegang aanbiedt in China en actieve monitoring gebruikt om overtredingen van zijn beleid te detecteren. Het bedrijf waarschuwde dat gedistilleerde kopieën essentiële veiligheidsmechanismen verwijderen. Amerikaanse functionarissen stellen dat ongeoorloofde extractie intellectuele eigendomsrechten en exportcontroles ondermijnt. Peking doet deze kritiek af als “AI hegemonisme”.
Wat nog onbekend is over de gedistilleerde modellen
De analyse is gebaseerd op academische publicaties en patentaanvragen en niet op bevestigde operationele systemen. Daardoor is niet duidelijk of de gedistilleerde modellen daadwerkelijk worden gebruikt in actieve apparatuur van het PLA.
Ook is niet vastgesteld hoe modelaanbieders distillatie kunnen detecteren of voorkomen wanneer deze via openbare API toegang of gelekte output wordt uitgevoerd. Voor dergelijke extractie is namelijk geen beperkte hardware nodig. De publicaties wijzen op onderzoeksactiviteiten en intenties, maar geven geen details over de daadwerkelijke capaciteiten van de daaruit voortgekomen systemen.