Militaire inlichtingendienst waarschuwt voor TikTok, CapCut, Temu en Shein
In zijn Jaarrapport 2024 waarschuwt de militaire inlichtingendienst ADIV voor Chinese apps die persoonlijke gegevens inzamelen om AI-systemen te trainen.
In zijn nieuwe jaarverslag, dat Knack kon inkijken, wijst de Algemene Dienst Inlichting en Veiligheid op de risico’s van AI-systemen die gebruikt kunnen worden om propaganda te verspreiden.
‘Chinese apps zoals TikTok, CapCut, Temu en Shein verzamelen persoonlijke gegevens en leveren beeldmateriaal aan de Chinese overheid. Dat kan worden gebruikt om AI-systemen te trainen in hoe verschillende bevolkingsgroepen buiten China zich uitdrukken en hun emoties tonen’, schrijft de ADIV.
‘Dit laat de Chinese overheid toe om getrainde AI-systemen in te zetten om doelgerichte video’s te maken, bedoeld om de publieke opinie buiten China te beïnvloeden. Er zijn namelijk reeds gevallen geïdentificeerd waar content werd gecreëerd om het stemmen tijdens nationale verkiezingen te beïnvloeden, zoals geobserveerd in Rwanda, India en in de EU tijdens de Europese verkiezingsperiode in juni 2024.’
Een algemeen TikTok-verbod? ‘Nutteloos en gedoemd om te falen’
WormGPT
Geheime diensten en cybercriminelen kunnen AI ook inzetten voor hacking, met name om verschillende fases van een cyberaanval te automatiseren. Volgens de ADIV kan AI op die manier gebruikt worden om kwetsbaarheden te identificeren, automatisch malware aan te maken, data te stelen of vernietigen, en IT-systemen te verstoren.
‘AI-systemen zoals WormGPT maken het mogelijk om snel kwaadaardige code te creëren en detectie te omzeilen’, klinkt het. ‘Tussen 2023 en 2024 hebben bedrijven maatregelen genomen tegen AI-misbruik door statelijke actoren, die AI gebruiken voor hacking en manipulatie.’
Tijdens de verkiezingen van 2024 kon de ADIV ‘enkele acties’ van manipulatie en inmenging observeren – zoals een ‘substantiële toename van antimigratienarratieven’.
Memes en avatars
Volgens de ADIV – die zijn personeelsbestand tegen 2040 wil verdubbelen – wordt AI ook gebruikt om memes, avatars en accounts te creëren. Dat is zelfs een echte gamechanger geworden. Het snelle en eenvoudige gebruik vertaalt zich volgens de ADIV in een ‘steeds grotere aanwezigheid’ van AI binnen pogingen om de publieke opinie te beïnvloeden en manipuleren.
Desinformatie tegengaan is een opdracht van de dienst, die de voorbije jaren alleen maar aan belang heeft gewonnen. Tijdens de verkiezingen in juni en oktober 2024 bijvoorbeeld kon de ADIV ‘enkele acties’ van manipulatie en inmenging observeren – zoals een ‘substantiële toename van antimigratienarratieven’. Maar die acties vallen volgens het Cyber Command van de ADIV in het niets bij de ‘reeds jarenlange actieve desinformatiecampagnes van bepaalde statelijke en/of niet-statelijke actoren’.
Boerenprotesten
Met name tijdens en na de invasie van Rusland in Oekraïne (februari 2022) detecteerde de ADIV een ‘substantiële toename’ van digitale beïnvloedingsactiviteiten. En ook in de periode daarna merkte de dienst een verdere intensivering op. ‘Vooral tijdens de boerenprotesten in januari en februari 2024 zag men gecoördineerde niet-authentieke gebeurtenissen, maar eveneens binnen een “Gaza-context” was men getuige van diverse beïnvloedingsactiviteiten om de gemoederen verder te beroeren.’
De ADIV verwijst ook expliciet naar de rol van Rusland: ‘Het verder inspelen en werken met lokale Afrikaanse influencers vergroot, op een steeds uitdijende manier, de invloed van Russische activiteiten in bijvoorbeeld de gemeenschappen van de Afrikaanse diaspora binnen een westerse context.’
Op socialemediaplatformen noteert de ADIV een verdere toename van desinformatie, propaganda en extremisme, hoofdzakelijk op X. ‘Telegram, dat al sinds de COVID-periode op een verhoogde aandacht kan rekenen, lijkt meer en meer door te sijpelen naar een groter publiek, maar het blijft een verzamelplaats voor complotdenkers, anti-establishmentnarratieven enzovoort.’
Door een exponentiële toename van observatiesatellieten wordt een bijna permanente dekking over een paar jaar mogelijk.
Oogst nu, ontcijfer later
Het ADIV-jaarverslag geeft ook inzicht in enkele boeiende technologische ontwikkelingen die op termijn onze veiligheid kunnen bedreigen. Zoals de komst van kwantumcomputers.
‘Sommige grootmachten en kwaadwillende actoren hanteren al enkele jaren een “oogst nu, ontcijfer later”-strategie. Die heeft als doel grote hoeveelheden van zeer gevoelige versleutelde gegevens op te slaan die voorlopig ontoegankelijk zijn. Wanneer de kwantumtechnologie het dan mogelijk maakt, is het de bedoeling ze te ontcijferen.’
En ook de ruimte wordt steeds belangrijker als militair domein. ‘Minder beperkende wetgeving, lagere lanceringskosten en de opkomst van technologieën zoals miniaturisatie en 3D-printen hebben de toegang tot de ruimte gedemocratiseerd voor zowel statelijke als niet-statelijke actoren’, klinkt het. ‘Dit leidt tot een exponentiële toename van het aantal observatiesatellieten met lage omloopbaan, waardoor over een paar jaar een bijna permanente dekking mogelijk wordt.’
Fout opgemerkt of meer nieuws? Meld het hier