音声合成ディープフェイクの「AI振り込め詐欺」で使われた実際の音声ファイルを公開

米国のセキュリティ・コンサルティングファームのNISOSのレポートより。

Nisosは、クライアントのテクノロジー企業に対する振り込め詐欺に使用されたオリジナルのディープフェイクの音声合成ファイルを入手し調査をしたレポートを公開。

振り込め詐欺に使われたのは、その会社のCEOからのボイスメールメッセージで、従業員に対し、緊急のビジネス取引があるのですぐ振り込みを行うように依頼するものでした。メッセージを受け取った担当者は疑わしいと感じ、すぐに法務部に問い合わせたため、振り込め詐欺は成功しませんでした。

これがそのディープフェイクの音声です。

どうでしょうか?音声合成感は拭えませんが、騙される人はおそらく出てくるレベルに達しているように感じます。

実際、AI音声合成を使った世界で初めての犯罪、と言われている事件がすでに米国で発生しており、CEOのディープフェイク音声を使った同様の手口で、24万ドルが騙し取られました。

この記事が良かったらシェア!