Het Wall Street Journal heeft een interessant geval besproken: oplichters gebruikten een deepfake-stem om zich voor te doen als de baas van een niet-geïdentificeerd Duits bedrijf tijdens een telefoongesprek. Aan de telefoon vroeg de fictieve CEO, wiens stem was nagebootst met behulp van Amnesty International, de verantwoordelijke van een niet-geïdentificeerde Britse dochteronderneming om urgent 220.000 euro over te maken naar de rekening van een Hongaarse leverancier, hoewel die rekening in werkelijkheid aan criminelen toebehoorde.
Deze zaak werd openbaar dankzij de verzekeringsmaatschappij Euler Hermes Group, die het incident onderzocht. Volgens de experts van de verzekeraar gebruikten de fraudeurs commerciële software die op de markt verkrijgbaar is om de vervalsingen te maken. De leider van het Britse bedrijf vermoedde een val toen de “Duitse leider” voor de derde keer belde en een tweede overschrijving vroeg, maar het gesprek kwam van het Oostenrijkse nummer. Helaas was de eerste overschrijving op dat moment al verzonden en op de rekening in Hongarije gestort, van waaruit de geldmiddelen naar Mexico waren doorgesluisd.
Interessant genoeg is dit niet de eerste keer dat er op deze manier een deepfake-stem wordt gebruikt. In juli van dit jaar meldde de BBC a dat de experts van Symantec drie vergelijkbare gevallen hadden ontdekt waarin AI-technologie was gebruikt om de stemmen van CEO’s na te bootsen. Door deze vervalsingen hebben anonieme getroffen bedrijven miljoenen dollars verloren.
Zelfs toen waarschuwden experts dat bedrijfsleiders een gemakkelijk doelwit konden zijn voor fraude en het maken van nagemaakte stemmen. Het feit is dat voorbeelden van hun stem gemakkelijk te vinden zijn in toespraken in de media en op conferenties, in video’s op YouTube, enz.
