In the spotlight: Jessie Gouw
De projecten die PCSI uitvoert zouden nergens zijn zonder de enthousiaste projectleden vanuit de verschillende (core) partners. In deze serie maken we kennis met de mensen achter onze innovatieve samenwerkingen. Wie zijn ze? Wat houdt hun project in? Waarom werken ze eraan mee? Wat is er interessant of uitdagend aan hun rol? In deze eerste editie komt Jessie Gouw (Belastingdienst), die meewerkt aan het Purple AI 2.0-project, aan het woord.
Jessie Gouw (27) studeerde web-development en is daarna opgeleid tot ethisch hacker. Hij is sinds februari 2024 werkzaam bij de Belastingdienst en nam toen direct het stokje over van een collega binnen het PCSI-project Purple AI 2.0. ‘Ik heb veel geleerd over AI en de uitdagingen die daarbij komen kijken. Bovendien is de manier van samenwerking binnen een PCSI-project enorm leerzaam en inspirerend’, vertelt Gouw.
Wat houdt het Purple AI 2.0-project in?
Het initiële doel van het project Purple AI 2.0 (PAI2) was om een zogenaamde proof of concept-tool te maken waardoor red teams – gespecialiseerd in het uitvoeren van offensieve acties, waarbij ze gesimuleerde aanvallen uitvoeren om kwetsbaarheden in de beveiliging van een organisatie te identificeren – kunnen profiteren van een grotere operationele capaciteit, een hogere operationele snelheid en een verbeterde kwaliteit, reikwijdte en diepte van de resultaten. En dat alles met hetzelfde aantal experts. Bovendien zouden blue teams – verantwoordelijk voor de verdediging; ze bewaken, detecteren en reageren op incidenten, en implementeren beveiligingsmaatregelen om aanvallen te voorkomen en te beperken – met dezelfde tool de algehele verdediging van de betreffende organisatie tegen aanvallers, die al dan niet AI-tools gebruiken, kunnen verbeteren. Het idee was dus om een tool te ontwikkelen die deze teams helpt bij hun werkzaamheden, als verlengstuk en ze niet vervangt.
Toen het project in september 2023 van start ging, waren er nauwelijks vergelijkbare offensieve AI-oplossingen op de markt. De snelle ontwikkelingen in 2024 op het gebied van AI hebben ervoor gezorgd dat besloten is de koers te wijzigen, tijdens deze fase ben ik aangesloten. De ontwikkelingen op het gebied van AI gaan enorm snel, dat maakt dat je flexibel moet zijn. We hebben als team besloten te gaan voor een meer praktische tool en die wetenschappelijk te valideren en een workshop te organiseren met experts van de core partners van PCSI. Het project is inmiddels afgerond. Wel zijn we nog bezig om de prestaties van de PAI2-tool te vergelijken met andere bestaande tools en onderzoek. De bevindingen zullen we publiceren in een wetenschappelijk artikel. De focus van het wetenschappelijke experiment ligt op Windows-omgevingen en het vermijden van detectie. Daarnaast is er recent tijdens een Ideation workshop een projectvoorstel gedaan aan het PCSI-stuurcomité wat mogelijk een vervolg kan zijn op PAI2.
Wat kan de PAI2-tool precies?
De PAI2-tool kan autonoom commando’s uitvoeren in een Command Line Interface (CLI) terminal om een red-teaming engagement of pentest uit te voeren. Om te testen hoe de tool presteert hebben we scenario’s opgezet waarin de tool zijn gang kon gaan. Zo hebben we getest vanuit een server perspectief (black-box, detecteren van kwetsbaarheden van buitenaf om vervolgens via een webapplicatie of service toegang te krijgen tot het systeem) en vanuit een werkstation scenario (assumed breach, hierbij heeft de aanvaller dus toegang tot werkcomputer, het doel is om gevoelige persoons-/ systeemgegevens te vinden). Dit soort data verzamelen is tijdrovend, het is fijn dat de tool de experts dit soort uitzoekwerk deels uit handen kan nemen.
Wat maakt het voor jou interessant om hieraan mee te werken?
Toen ik binnen kwam bij de Belastingdienst ben ik toevallig bij het PAI2-project betrokken geraakt. Ik hoorde dat er aan een AI-tool werd gewerkt voor red-teamers/ pentesters, dit leek me de ideale gelegenheid om meer kennis op te doen over AI. Voorheen had ik er wel mee geëxperimenteerd vanuit eindgebruikersperspectief (met Large Language Models (LLMs) zoals ChatGPT, Copilot en Gemini), maar nooit vanuit ontwikkelperspectief. Hoe werkt de tool op de achtergrond, welke resources zijn hiervoor nodig en hoe zorg je ervoor dat het doet wat je wilt? En op welke manier kan AI bijdragen aan de werkzaamheden van een offensieve security professional, terwijl het als verlengstuk functioneert en niet als vervanger van een medewerker? Het is interessant en uitdagend om op deze vragen antwoord te geven. Bovendien is het mooi om te zien dat iets wat begon als experimenteel project nu is uitgegroeid tot een bruikbare tool. Dat is waardevol, zeker nu AI een steeds groter onderdeel wordt van de digitale wereld. Daar zit ook gelijk de uitdaging in, omdat de ontwikkelingen binnen dit veld zo snel gaan moet je als team constant op de hoogte blijven en flexibel zijn.
Wat is jouw rol binnen het project?
Zelf heb ik bijgedragen door onder andere het intern testen van de tool samen met collega’s, het ontwikkelen van kwetsbare werkstations en het organiseren van een workshop met als doel om feedback van security professionals vanuit andere core partners te verzamelen. Het project heeft me veel geleerd over de werking, risico’s en het nut van AI-oplossingen.
Hoe verloopt de samenwerking?
Een PCSI-projectteam bestaat uit professionals vanuit TNO en verschillende core of liaison partners, van MKB’s tot ministeries. Een mengelmoes van zowel mensen vanuit de uitvoerende als de managementlaag. Ieder teamlid draagt bij aan het project door de ontwikkelingen op de markt in de gaten te houden, het delen van uitdagingen waar men binnen de eigen organisatie tegen aanloopt en het inbrengen van feedback en/of ideeën tijdens het ontwikkelproces. Deze unieke teamsamenstelling leidt tot inzichten, uitdagingen en kennisdeling die je anders niet zou opdoen. Dat is erg gaaf om dit mee te maken. Ik vind het inspirerend om te zien hoe enthousiast iedereen is en tijd vrijmaakt voor het project. Daarnaast is het prettig dat de bijdrage die je levert als partner wordt gewaardeerd door de projectleiding van TNO.
Deel deze pagina