《ウォール・ストリート・ジャーナル》紙が報じた興味深い事例があります。詐欺師たちがディープフェイクの音声を使い、身元不明のドイツ企業の社長になりすまして電話をかけたのです。電話口で、音声を Amnesty International の技術で模倣された架空の CEO は、身元不明のイギリス子会社の責任者に対し、22万ユーロを至急ハンガリーの納入業者の口座へ送金するよう求めました。しかし実際にはその口座は犯罪者のものでした。
この事件は、調査を進めていた保険会社 Euler Hermes Group によって公表されました。 保険会社の専門家によれば、詐欺師たちは市販のソフトウェアを使って偽物を作り出したとのことです。 イギリス企業の責任者は、「ドイツのリーダー」から三度目の電話があり、二度目の送金を求められた際に罠を疑いました。しかも、その電話はオーストリアの番号からかかってきていたのです。 残念ながら、その時点で最初の送金はすでに行われており、ハンガリーの口座に入金された後、そこから資金はメキシコへ転送されていました。
興味深いことに、このようにディープフェイクの音声が使われたのはこれが初めてではありません。今年7月には、BBCの報道により、Symantec の専門家が、AI技術を使ってCEOの声を模倣した類似の事例を3件発見したことが伝えられました。これらの偽装によって、匿名の被害企業は数百万ドルを失いました。
当時においてさえ、専門家は、経営者が詐欺や偽の音声作成の格好の標的になりうると警告していました。 実際、経営者たちの音声サンプルは、メディアでの発言や講演会、YouTubeの動画などから容易に見つけることができるのです。