Sopra Steria

Forma tu equipo, comparte tu idea y construye un futuro digital más seguro e inclusivo.

Presenta tu proyecto y ayuda a impulsar un uso más responsable de la tecnología.

Utiliza la transformación digital para abordar retos de inclusión, bienestar e IA responsable.

Als CISO in de financiële sector word je dagelijks opgeslokt door wat er vandaag speelt. De nieuwste dreiging, de volgende audit, de tool die nog moet landen. Toch is dat niet waar je het verschil maakt. Het verschil zit in hoe ver je je horizon durft te leggen. Niet: welke technologie speelt er nu? Maar: wat brengt technologie over vijf of tien jaar en waar wil ik mijn organisatie dan hebben? Kijk alleen al naar de bank zelf. Het betalingsverkeer is al voor een deel naar andere partijen gegaan. AI-agents gaan processen overnemen. Meer partijen in de keten betekent een ander risicoprofiel. Wie alleen de technologie van vandaag beveiligt, loopt straks achter. En weerbaarheid zit maar voor een deel in technologie. Het zit in de keten, in de mens en in het oefenen. In al die onderdelen samen die bepalen of je organisatie overeind blijft als het erop aankomt. Weerbaarheid is een spier. Die bouw je niet op met één project. Die train je, steeds opnieuw. In de video vertel ik er meer over.

Onlangs werd bekend dat een AI-agent tijdens een interne evaluatie toegang kreeg tot niet-openbare bestanden op een Australische overheidsportal. Niemand had hem dat gevraagd. De agent had een doel en zocht zijn eigen weg ernaartoe. Dat is precies het risico van AI dat we nog onderschatten. AI kan doel en middelen slecht uit elkaar houden. Het doel weegt zwaarder dan de vraag of de weg ernaartoe wel mag. Dat komt doordat veel AI is gebouwd vanuit functionaliteit. Daarin is een enorme sprint getrokken. De guardrails, wat mag wel en wat niet, zijn er vaak later tegenaan geplakt. En wat ertegenaan is geplakt kun je eromheen werken. Als red teamers zoeken we juist naar dat soort trucjes: een manier om AI iets te laten doen wat niet de bedoeling is. Vertaal dat naar een bank of verzekeraar. AI-agents krijgen steeds bredere toegang, omdat ze beter werken naarmate ze bij meer data kunnen. Toegang die we keurig hadden verdeeld naar rollen en rechten, stapelt zich op in één agent. Die wordt bijna een superuser. Geef zo'n agent een doel, en de vraag is niet of hij een weg zoekt, maar welke. Guardrails horen in het ontwerp te zitten, niet ertegenaan geplakt. Mijn collega Wouter Doderer vertelt er meer over in de onderstaande video.

Wet- en regelgeving zoals DORA is een versneller. Banken, verzekeraars en pensioenfondsen waren al lang met cybersecurity bezig. DNB introduceerde TIBER-NL al in 2016. DORA zet daar een stap bovenop en dwingt tempo af in wat er toch al moest gebeuren. Je kunt het zien als een last. Je kunt het ook vastpakken als een kans om je organisatie sterker te maken. Wie dat doet, gebruikt DORA niet om een vinkje te zetten, maar om weerbaarder te worden. In deze video vertel ik waarom ik voor het laatste kies. DORA is geen eindpunt. Het is een begin.