人工知能(AI)で生成したとみられる偽音声により、社長を装って部下に不正送金を命じた事例が日本企業で起きていたと米情報セキュリティー会社、プルーフポイントの日本法人が19日、明らかにした。3度にわたって企業の幹部に電話をかけ、送金を急がせた。「ボイスチェンジャー」のように、会話をすぐに他人の声に変えるAIが使われたようだ。

 社長の音声は動画投稿サイトなどに公開されており、AIの学習に利用された可能性がある。プルーフポイント日本法人の増田幸美チーフエバンジェリストは「AIの悪用はこれから増える」と警戒を呼びかけている。

 プルーフポイントの日本法人によると、2024年11月、あるメーカーの幹部に電話がかかり、社長そっくりの声で「緊急の企業買収事案がある。指定口座に今日中に送金してほしい。弁護士に連絡させる」と指示された。

 発信者の表示は社長の携帯電話番号。幹部は社長と日常的に会話をしていたが、この時点では偽だと気付かなかった。1時間半後に再び「いつごろ送金できそうか」と電話がかかった。