《월스트리트 저널》이 흥미로운 사례를 다룬 바 있습니다. 사기꾼들이 전화 통화에서 신원이 밝혀지지 않은 한 독일 기업의 대표인 척하기 위해 딥페이크 음성을 사용했습니다. 전화상에서 가상의 CEO는, 음성이 Amnesty International을 이용해 모의 생성된 것으로, 신원이 밝혀지지 않은 영국 자회사의 책임자에게 헝가리 공급업체 계좌로 22만 유로를 긴급히 이체하라고 요구했지만, 해당 계좌는 실제로는 범죄자들의 소유였습니다.
이 사건은 이 사고를 조사하던 보험사 Euler Hermes Group 덕분에 세상에 알려졌습니다. 보험사 전문가들에 따르면, 사기꾼들은 시장에서 구할 수 있는 상용 소프트웨어를 사용해 위조물을 만들었습니다. 영국 기업의 책임자는 ‘독일 리더’가 세 번째로 전화를 걸어 두 번째 송금을 요구했을 때 함정임을 의심했지만, 전화는 오스트리아 번호에서 걸려 온 것이었습니다. 안타깝게도 그 시점에는 첫 번째 송금이 이미 이루어진 뒤였고, 헝가리 계좌로 입금되었으며 그곳에서 자금은 멕시코로 송금되었습니다.
흥미롭게도 이런 방식으로 딥페이크 음성을 사용한 것은 이번이 처음이 아닙니다. 올해 7월, BBC 보도에 따르면, Symantec 전문가들은 AI 기술이 CEO의 목소리를 모방하는 데 사용된 유사 사례 세 건을 발견했습니다. 이러한 위조로 인해 익명의 피해 기업들은 수백만 달러를 잃었습니다.
그 당시에도 전문가들은 기업 경영진이 사기와 음성 위조의 손쉬운 표적이 될 수 있다고 경고했습니다. 문제는 이들의 연설 음성 샘플이 미디어 및 컨퍼런스 연설, YouTube 영상 등에서 쉽게 찾을 수 있다는 점입니다.
