AI als nieuwe aanvalsvector: wanneer je eigen tools je kwetsbaar maken
AI en generatieve modellen hebben de drempel voor geavanceerde aanvallen drastisch verlaagd. Waar een geloofwaardige spear‑phishingcampagne vroeger veel tijd kostte, kan die nu grotendeels geautomatiseerd worden. Tegelijkertijd introduceren organisaties nieuwe risico’s door ondoordacht data in AI‑tools te stoppen.
Invalshoeken
- AI-versterkte aanvallen
Deepfakes van bestuurders, automatisch gegenereerde phishing op basis van publiek profielonderzoek, geautomatiseerde brute‑force of code‑analyse: AI maakt aanvallen schaalbaar en persoonlijk tegelijk. - Data-lek via prompts en trainingssets
Medewerkers gebruiken generatieve AI voor teksten, code of analyses en plakken er net te veel interne informatie in. Zonder duidelijke kaders komt vertrouwelijke data zo in oncontroleerbare trainingspools of logs terecht. - Governance & verantwoording
Wie is eigenaar van AI‑risico’s? Hoe borg je dat AI‑toepassingen aansluiten bij je bestaande ISMS/BCMS, en hoe leg je aan klanten, auditors en toezichthouders uit welke beheersmaatregelen je hebt genomen?
Hoe GroupWize dit benadert
- Dataclassificatie & Informatiewaardering
We definiëren welke dataklassen nooit in publieke AI‑diensten mogen en stellen beleid op rond prompts, trainingsdata en logging. - Integratie in ISMS/BCMS (Business Continuity & ISO 22301)
AI‑risico’s worden expliciet opgenomen in risicoregisters, BIA’s en scenario’s. We kijken naar impact op beschikbaarheid, integriteit én vertrouwelijkheid. - Playbooks & Opleidingen
We ontwikkelen specifieke playbooks voor deepfake‑fraude, AI‑misbruik en reputatie‑incidenten, en trainen CISO, BCM en management hoe hiermee om te gaan. - Cyber Awareness & Cybercrime Game
Met AI‑scenario’s (deepfakes, geavanceerde social engineering, AI‑phishing) maken we de risico’s tastbaar voor management en key users.