The Wall Street Journal har omtalt en interessant sag: Svindlere brugte en deepfake-stemme til at udgive sig for at være chefen for en uidentificeret tysk virksomhed under en telefonsamtale. I telefonen bad den falske direktør, hvis stemme var blevet simuleret ved hjælp af kunstig intelligens, lederen af et uidentificeret britisk datterselskab om hurtigst muligt at overføre 220.000 euro til en ungarsk leverandørs konto, selvom kontoen i virkeligheden tilhørte kriminelle.
Sagen blev offentligt kendt takket være forsikringsselskabet Euler Hermes Group, som efterforskede hændelsen. Ifølge forsikringsselskabets eksperter brugte svindlerne kommercielt tilgængelig software til at skabe forfalskningerne. Lederen af det britiske selskab fattede mistanke om en fælde, da den “tyske leder” ringede for tredje gang og bad om endnu en overførsel, men opkaldet kom fra et østrigsk nummer. Desværre var den første overførsel på det tidspunkt allerede afsendt og var blevet indsat på kontoen i Ungarn, hvorfra pengene var blevet videresendt til Mexico.
Det er interessant, at det ikke er første gang, at en deepfake-stemme bliver brugt på denne måde. I juli i år rapporterede BBC, at eksperter fra Symantec havde opdaget tre lignende tilfælde, hvor AI-teknologi var blevet brugt til at efterligne direktørers stemmer. På grund af disse forfalskninger har anonyme ofre blandt virksomheder mistet millioner af dollars.
Allerede dengang advarede eksperterne om, at virksomhedsledere kunne være et let mål for svindel og for fremstilling af falske stemmer. Sagen er, at stemmeprøver fra dem let kan findes i taler i medierne og ved konferencer, i videoer på YouTube osv.
