アリゾナ州のある家族は数カ月前、誘拐と身代金要求の電話だと思っていたものが、人工知能によって作られた完全なデマだったことが判明し、恐怖に陥った。愛する人とそっくりに聞こえる詐欺電話の報告が増えるにつれ、わずかな料金と数分、安定したインターネット接続があれば簡単にアクセスできる技術で、AIが人々を脅す武器として使われるのではないかと多くの人が恐れている。

ジェニファー・デステファノは1月のある午後、15歳の娘がスキーレースのために外出している間に匿名の電話を受けた。デステファノは、娘が電話に出てパニックになり悲鳴を上げるのを聞き、すぐに100万ドルを受け取らなければデステファノの娘を薬物で誘拐すると脅す男の声が続いた、とCNNは報じた。

数分後、デステファノは何とか娘と話すことができたが、娘は誘拐されておらず、身代金要求にも関与していなかったため、元気で何が起こったのか困惑していた。第一応答者は、家族がAIを使ってその電話がデマであることを特定するのを助けた。

「デステファノはCNNの取材に対し、「明らかに彼女の声だった」と語った。

AIを使った詐欺電話の普及に関するデータは限られているが、今年に入ってからTikTokや他のソーシャル・プラットフォームで似たような事件の話が絶えず出てきており、AIの潜在的な害に対する恐怖とリスクに火をつけている。

音声クローンAI詐欺電話

AI詐欺電話は、音声クローニングによって仕掛けられる。詐欺師はオンラインで誰かの声のオーディオクリップを見つけると、その声を複製するオンラインプログラムに簡単に送ることができる。このようなアプリケーションは数年前に登場したが、ジェネレーティブAIのブームの下、アプリケーションは改良され、より利用しやすくなり、比較的安価に利用できるようになった。

Murf、Resemble、Speechifyは、これらのサービスで人気のある企業だ。ほとんどのプロバイダーは無料トライアル期間を提供しており、月額利用料はベーシックプランの15ドル以下からプレミアムオプションの100ドル以上までさまざまだ。

米連邦取引委員会は、トラブルに巻き込まれた愛する人から心配の電話がかかってきた場合、普段使っている番号で連絡を取ったと思われる人物に電話をかけ、話を確認するよう勧めている。送金、暗号通貨、ギフトカードなど、追跡が困難な疑わしい経路で金銭を要求してきた場合は、詐欺の兆候である可能性がある。セキュリティの専門家は、本当の緊急時に使える、詐欺を見分けるための安全な言葉を大切な人と確立しておくことを勧めている。

音楽業界におけるボイス・クローニング

AIボイスクローニングは音楽の分野にも広がっており、人気アーティストと同じボーカルの曲を作るためにこの技術が使われている。今月、ドレイクとザ・ウィークエンドに似せた曲がネット上で流行したが、どちらのアーティストも制作には関わっていない。2人のアーティストの代理人であるマネージメント会社は、この曲をストリーミング・サービスから削除させることに成功したが、その理由は違法にサンプリングされた音声であり、AIの声ではなかった。ドレイクは、彼がアイススパイスの「Munch」を歌うAI生成トラックが今月ウイルスに感染した後、「これはAIにとって最後の藁だ」とコメントした。

カナダのミュージシャン、グライムスのような他のアーティストは、この技術が成長し続け、音楽業界のあり方を変える可能性のある未来を見据えている。「私の声を使ってAIが作ったヒット曲には、50パーセントの印税を分配します」とグライムスはツイッターに書いている。”違約金なしで私の声を自由に使ってください”。

人は自分で曲を作っても、注目を集めるために有名な歌手の声で録音することができる。今のところ、音楽のディープフェイクに対する法的罰則はないが、ニューヨーク・タイムズ紙は、アーティストの評判を侵害し、ボーカリストから利益を奪い、BIPOCアーティストを文化的に流用する危険性があると報じている。コンテンツはTimeより。