De CEO van Bunq bank nam van de week contact op met een medewerker. In een call vroeg hij een groot geldbedrag over te maken. Zijn gezicht en stem klopten helemaal. Ook de mond bewoog goed bij de gesproken tekst en het gesprek was interactief. Gelukkig was deze medewerker op zijn hoede en deed hij een check. De CEO wist van niks, het bleek een deepfake geweest te zijn.
Mijn (schoon)ouders vertel ik regelmatig dat ze geen geld moeten overmaken als ik daar per sms of WhatsApp om vraag. Vooralsnog zei ik hen dat alleen te doen nadat we elkaar gesproken hebben. Maar die vlieger gaat sinds kort niet meer op. We moeten dus andere manieren verzinnen voor verificatie en authenticatie van identiteit.
In mijn Updates heb ik het vooral gehad over ChatGPT en AI met tekst. Komende weken wil ik het meer gaan hebben over de visuele kant van AI. Over deepfake, maar ook over wat GPT-V voor ons kan doen. Dit is deel 1 van een serie mails over visuele AI. In deze update ga ik in op een risico van deepfake voor crisismanagement.
Deepfakes zijn afgelopen maanden nog makkelijker geworden om te maken en ze lijken ook steeds beter. Op het oog zie je soms al bijna niet meer of iets een deepfake is als je niet oplet. Vooral context geeft vooralsnog een gevoel dat het niet klopt, zoals bij Bunq bank.
De vraag is: weten we straks nog wel zeker of de mensen met wie we in een crisis call zitten, wel echt die mensen zijn. En niet een journalist van Geenstijl of een kwaadwillende zoals een terrorist of cybercrimineel. Kunnen we straks nog wel veilig informatie delen in een call? En kan je een opdracht of bevel van een leidinggevende nog volgen als het niet persoonlijk is overgebracht?
Hoe kan je dan deepfake herkennen? Met even googlen kom je al op heel wat tips. Die ga ik niet allemaal delen hier, want dan wordt deze mail wel erg lang. Maar denk bijvoorbeeld aan stukken huid in het gezicht die strakker of juist rimpeliger zijn; het gebruik van onzinwoorden; het knipperen van de ogen; en de houding van het lichaam.
Het probleem met zeker weten of je tegenover de juiste persoon zit is voor zover ik weet nog niet actueel in ons vakgebied. Maar het is wel goed om nu alvast over dit soort zaken na te denken. Want het gaat zo snel, dat als het er eenmaal is, je niet nog tijdens een crisis wilt gaan bedenken hoe ermee om te gaan.
Wat zijn dan manieren om een extra controle te doen in een call? Twee dingen schoten mij te binnen. Bij Defensie leerde ik in de opleiding hoe je bij in het pikkedonker patrouilleren kan nagaan of je met iemand van je eenheid te maken hebt. Je spreekt een getal af (bijvoorbeeld 19). Als je iemand tegenkomt zeg de eerste een getal: in dit geval onder de 19. De ander zegt het getal dat nodig is om dat aan te vullen tot het afgesproken getal. Dus als ik 12 zeg, dan zegt de ander 7. En als ik 3 zegt, zegt de ander 16.
En met mijn familie heb ik afgesproken voortaan een vraag te stellen waar alleen wij het antwoord op weten. Toen we als kinderen op vakantie waren aan een van de Italiaanse meren, durfde mijn 7-jarige zusje niet van de hoge duikplank te springen. Een kwartier lang zagen mijn ouders haar rennen naar het einde van de plank om vervolgens weer net op tijd stil te staan. Toen ze eenmaal ging, hoorden mijn ouders achter ons een Duits stel tegen elkaar zeggen: “Das Mädchen ist gesprungen.” Het was jarenlang een vaste uitdrukking in ons gezin. Maar na deze mail kan ik deze vraag niet meer gebruiken. Gelukkig hebben we nog genoeg ander materiaal om uit putten.
Moeten we dit soort extra zekerheden nu al gaan inbouwen voor vertrouwelijke calls? Of draaf ik een beetje door? In elk geval leek het mij goed om de discussie over dit toekomstig risico nu alvast op gang te brengen.
In de volgende update ga ik verder in op wat visuele AI betekent voor een omgevingsbeeld maken.
Tom Compaijen
Compaijen C&C – Klaar voor elke crisis