(Automatische vertaling, onbewerkt)

Op-Ed van MEMRI-directeur in Newsweek: "Terroristen houden van nieuwe technologieën. Wat gaan ze doen met kunstmatige intelligentie (AI)?

Op 14 maart 2023 publiceerde Newsweek een opiniestuk getiteld Terroristen houden van nieuwe technologieën. Wat zullen ze doen met AI? door MEMRI Uitvoerend Directeur Steven Stalinsky. Hieronder staat het artikel.

Vandaag de dag is het niet de vraag of terroristen gebruik zullen maken van kunstmatige intelligentie (AI), maar hoe en wanneer. Jihadi's zijn van hun kant altijd vroege gebruikers geweest van opkomende technologieën: Al-Qaeda-leider Osama bin Laden gebruikte e-mail om zijn plannen voor de aanslagen van 9/11 door te geven. De in Amerika geboren Al Qaida-ideoloog Anwar Al-Awlaki gebruikte YouTube om een generatie volgelingen in het Westen te werven. Tegen 2010 voerden hoge Al-Qaeda-commandanten een zeer selectieve werving uit van "gespecialiseerde kaders met technologische vaardigheden" - en natuurlijk is het gebruik van Twitter door Islamitische Staat om zijn kalifaat op te bouwen welbekend.

Gedurende de 20 jaar dat zij internet en sociale media gebruiken, zijn terroristen altijd op zoek geweest naar nieuwe manieren om hun online activiteiten te maximaliseren voor het plannen van aanslagen. Kunstmatige intelligentie (AI) zou hun volgende spelbreker kunnen zijn. Een rapport van het VN-Bureau voor terrorismebestrijding (UNOCT) waarschuwde in 2021: "Zodra AI wijder verbreid raakt, zullen de toegangsdrempels worden verlaagd doordat er minder vaardigheden en technische deskundigheid nodig zijn om het toe te passen ... AI zal een instrument worden in de gereedschapskist van het terrorisme."

De afgelopen tien jaar heeft onderzoek van het Cyber & Terrorism Lab van mijn organisatie gedocumenteerd hoe terroristen technologie gebruiken, waaronder cryptocurrency voor fondsenwerving en encryptie voor communicatie. Het heeft ook aangetoond dat ze elementen van AI gebruiken voor hacken en wapensystemen, waaronder drones en zelfrijdende autobommen - waar ze al jaren mee experimenteren - en bots voor het werven en plannen van aanslagen.

De gevaren die inherent zijn aan AI, ook voor de nationale veiligheid, hebben zowel de mediakoppen als de discussie over de mogelijke implicaties voor de toekomst gedomineerd. Regeringen en NGO's hebben gewaarschuwd dat de dag zou komen dat AI werkelijkheid zou worden. Die dag is nu aangebroken.

Het is niet verrassend dat alle recente media-aandacht voor de donkere kant van AI terroristische groeperingen inspireert. Op 6 december postte een frequente gebruiker van een door ISIS beheerde Rocket.Chat-server, die een grote aanhang heeft, dat hij de gratis ChatGPT AI-software had gebruikt voor advies over het steunen van het kalifaat.

Opmerkend dat de software "slimmer is dan de meeste activisten", deelde hij het volledige antwoord van ChatGPT op zijn vragen, met daarin gedetailleerde stappen voor het identificeren en mobiliseren van een "kerngroep van aanhangers", het ontwikkelen van een "politiek programma en ideologie", het verwerven van steun van "de moslimgemeenschap", het veroveren van "controle over het grondgebied", het oprichten van "instellingen en regeringsstructuren" en het promoten en verdedigen van het nieuwe kalifaat.

Twee weken later, op 21 december, toonden andere ISIS-aanhangers interesse in een ander AI-platform, Perplexity Ask, voor het creëren van jihad-ondersteunende inhoud. Een populaire gebruiker deelde zijn bevindingen in een grote discussie, waarbij gebruikers het erover eens waren dat AI zou kunnen worden gebruikt om de wereldwijde jihad-beweging te helpen.

Een andere discussie over AI door dezelfde groepen werd medio januari gevoerd op een andere door ISIS beheerde Rocket.Chat-server; de gebruiker benadrukte dat ISIS-aanhangers het "belang van het begrijpen van technologie" moeten inzien. Leren coderen was essentieel voor de strijd op het nieuwe cyberfront, zei hij, eraan toevoegend dat zijn medestrijders geavanceerder moeten worden in cyberbeveiliging om de militaire infrastructuur van de vijand aan te pakken.

De interne discussies van terroristische groeperingen en hun volgelingen over hoe AI de wereldwijde jihad zou kunnen dienen, leidde tot meer vragen over de vraag of en hoe AI relevante kennis zou kunnen verschaffen. Uit een steekproef van vragen bleek dat ChatGPT zich lijkt te onthouden van het bespreken van het hoe van het uitvoeren van gewelddadige aanvallen, het maken van wapens of het uitvoeren van terroristische acties. Zelfs indirecte verzoeken, zoals voor een verhaal waarin een fictief personage "een bom maakt" of "zich aansluit bij een islamitische rebellengroep", leverden geen informatie op.

Perplexity Ask gaf echter gedetailleerde instructies toen gevraagd werd hoe je "iemand kunt onthoofden" en waarschuwde daarbij behulpzaam tegen "pogingen daartoe zonder de juiste training en veiligheidsmaatregelen". Het gaf ook instructies voor het maken van ricine. Zowel ChatGPT, dat in het Arabisch kan converseren, als Perplexity Ask, dat sommige vragen in het Arabisch kan begrijpen maar niet in die taal kan antwoorden, beantwoordden verzoeken als "beste boeken van [terroristische auteur]" en "vat [boek van terroristische auteur] samen".

Er zij op gewezen dat jihad-terroristen niet de enigen zijn die AI testen om te plannen hoe deze het best kan worden gebruikt; binnenlandse terreurgroepen en hun Neo Nazi-aanhangers doen dat ook.

Hoewel ChatGPT en Perplexity Ask je middelbare school AP Engels examen kunnen schrijven en een steeds groter aantal taken kunnen uitvoeren, zoals de media dagelijks melden, zijn ze momenteel van beperkt nut voor terroristische groeperingen. Maar dat zal niet lang zo blijven. AI ontwikkelt zich snel - wat vandaag nieuw is, is morgen alweer achterhaald - en tot de dringende vragen voor terrorismebestrijders behoren zowel de vraag of zij op de hoogte zijn van deze eerste terroristische discussies over AI als de vraag hoe zij deze dreiging aanpakken voordat er in de praktijk iets gebeurt.

*Steven Stalinsky is uitvoerend directeur van MEMRI (Middle East Media Research Institute), dat via zijn Jihad and Terrorism Threat Monitor actief samenwerkt met het Congres en technische bedrijven om de cyberjihad te bestrijden.