Visiedocument: Mens-concurrerende AI gaat de cybersecurity-industrie ontwrichten; bereid je nu voor!

19 September 2023

Sinds de release van ChatGPT door OpenAI in november 2022 zijn de potentiële positieve en negatieve effecten van AI op onze samenleving in het publieke debat beland. Het Future of Life Institute heeft een open brief gepubliceerd waarin het oproept om gigantische AI-projecten (zoals ChatGPT en Bard) te pauzeren voor een periode van ten minste 6 maanden, omdat de effecten op de maatschappij volgens hen onbeheersbaar zijn. De core-partners van het PCSI dringen er bij de cybersecurity-industrie op aan om verantwoordelijkheid te nemen door zich op een dringender onderwerp te richten.

Voordat AI onbeheersbaar wordt, moet de cybersecurity-industrie gereed zijn om zich te kunnen verdedigen tegen kwaadwillig gebruik van AI voor offensieve cyberactiviteiten. We roepen de cybersecurity-industrie op om zich nu voor te bereiden op een tijdperk waarin AI gebruikt wordt voor offensieve cyberactiviteiten, aangezien er een grote kans bestaat dat we over een half decennium niet meer in staat zijn om onze infrastructuren goed te beschermen.

Een groep experts van de core-partnerorganisaties van het PCSI is het er unaniem over eens dat we nu al worden aangevallen door tegenstanders die AI gebruiken voor specifieke taken.

De grote vraag is of mens-concurrerende AI aanvallers in staat zal stellen om in de nabije toekomst aanvallen uit te voeren die volledig autonoom zijn. Om deze uitdaging aan te gaan, startte het PCSI het onderzoeksproject PurpleAI. Binnen dit project ontwikkelden ABN AMRO, ING, De Volksbank, Achmea en TNO een Reinforcement Learning-model dat op AI gebaseerde aanvallen kan uitvoeren op onze eigen infrastructuur ten behoeve van het rode en paarse team.

Het PurpleAI-project is een eerste stap in de goede richting, maar het is niet genoeg als we de uitdaging die voor ons ligt aan willen gaan. Dus hoe kunnen we deze uitdaging het beste overwinnen? Lees ons visiedocument om dit te ontdekken! U kunt het visiedocument hier downloaden, of ga hieronder naar onze projectpagina voor PurpleAI.