ナイジェリアの王子、奇跡の薬の売り手、見逃せない投資のプロモーターからのメッセージが、毎日Eメールの受信トレイを圧迫している。スパムフィルターの改良は、防御を突破する新たなテクニックを刺激するばかりだ。

今、スパムブロッカーとスパマーとの間の軍拡競争は、新たな武器である生成人工知能の出現によってエスカレートしようとしている。ChatGPTで有名になった最近のAIの進歩により、スパマーはフィルターを回避し、人々の注目を集め、クリックや購入、個人情報の提供をするよう説得する新しいツールを手に入れるかもしれない。

南フロリダ大学のAdvancing Human and Machine Reasoning研究室のディレクターとして、私は人工知能、自然言語処理、人間の推論の交差点について研究している。私は、AIがどのように人々の個人的な好み、信念、性格の癖を学習できるかを研究しています。

これは、人々との対話方法をよりよく理解し、彼らの学習を支援したり、有用な提案を提供するために使用することができます。しかし、それは同時に、あなたの弱点を知り、それを利用することができる、よりインテリジェントなスパムに備える必要があることを意味する。

スパム

では、スパムとは何でしょうか？

スパムは、未知のエンティティによって送信された迷惑な商用メールと定義されています。この用語は、テキストメッセージ、ソーシャルメディア上のダイレクトメッセージ、偽の製品レビューにまで拡大されることもあります。スパマーは、何かを買ったり、フィッシング・リンクをクリックしたり、マルウェアをインストールしたり、ビジュアライゼーションを変更したりと、あなたに行動を起こさせようとします。

スパムは儲かる。スパム業者は、初期設定を除けばわずか数ドルの費用で、わずか数時間で1,000ドルを稼ぐことができます。オンライン医薬品のスパムキャンペーンは、1日に約7,000ドルを生み出すことができる。

合法的な広告主も、自社製品の購入、アンケートへの参加、ニュースレターへの登録など、行動を起こすよう促したいと考えています。しかし、マーケティングメールは、確立された企業のウェブサイトにリンクし、連邦規則に従って配信停止オプションを含めることができますが、スパムメールはそうはいきません。

スパマーはまた、ユーザーが登録したメーリングリストにアクセスすることもできない。その代わりに、スパマーは「ナイジェリアの王子様」詐欺のような、直感に反する戦略を使う。経験豊富なデジタル・ネイティブは、このような主張を即座に退けますが、要求の不条理さによって、実際に世間知らずや高年齢を選別し、詐欺に引っかかりやすい人を除外することができるのです。

しかし、AIの進歩は、スパマーがこのようなヒット・オア・ミスのアプローチに頼る必要がないことを意味する。AIは、ソーシャルメディアの投稿など、簡単にアクセスできる情報を基に、個人をターゲットにし、メッセージをより説得力のあるものにすることを可能にするかもしれない。

スパムの未来

ChatGPTのような大規模な生成言語モデルの進歩について聞いたことがあるだろう。これらの生成LLMが実行するタスクは、見かけによらず単純である。テキストの文字列が与えられたら、どのトークン（単語の一部と考えてほしい）が次に来るかを予測する。次にどのトークンがその次に来るかを予測する。これを何度も繰り返す。

どういうわけか、十分な大きさのLLMで十分な量のテキストを使ってこのタスクのトレーニングを行うだけで、これらのモデルは他の多くのタスクで驚くほど優れた能力を発揮できるようになるようだ。

LLMの技術を使った様々な方法がすでに登場しており、この技術が迅速に適応し、個人について学習する能力を持っていることを示している。例えば、LLMは、あなたの書き方の例をいくつか示すだけで、あなたの文体で完全なEメールを書くことができる。また、今では10年以上前になるが、ターゲットが顧客の妊娠を事前に発見したという典型的な例もある。

スパム業者やマーケティング担当者は、より少ないデータで個人についてより多くのことを予測できるようになることで利益を得るだろう。あなたのLinkedInのページ、数件の投稿、そして1、2枚のプロフィール写真があれば、LLMで武装したスパマーは、あなたの政治的傾向、配偶者の有無、人生の優先順位について、それなりに正確に推測することができる。

我々の研究では、セマンティック・フルエンシー・タスクと呼ばれる単語生成タスクにおいて、LLMを使用することで、他のAIアプローチをはるかに凌ぐ精度で、個人が次にどの単語を口にするかを予測できることを示した。我々はまた、LLMが推論能力テストからある種の質問を取り出し、その質問に人がどう答えるかを予測できることも示した。このことは、LLMが人間の典型的な推論能力がどのようなものかをすでにある程度知っていることを示唆している。

もしスパマーが最初のフィルターを通過し、メールを読ませたり、リンクをクリックさせたり、あるいは会話に参加させたりすれば、パーソナライズされた説得を行う能力が飛躍的に高まる。繰り返しになるが、LLMはゲームを変えることができる。LLMは、政治から公衆衛生政策に至るまで、様々なトピックで説得力のある議論をするために使用できることが、初期の結果から示唆されている。

AIはあらゆる面で進歩する

しかし、AIはどちらか一方に有利なものではない。スパムフィルターもAIの進歩の恩恵を受け、迷惑メールに対する新たな障壁を築くことができるはずだ。

スパマーはしばしば、特殊文字やスペルミス、隠しテキストでフィルターを騙そうとするが、これは人間が小さなテキストの異常を許してしまう性質に頼っている。メールを読む前に、そのメールを読みたいかどうかを予測するフィルターを想像してみてほしい。

テスラ、スペースX、ツイッターのCEOであるイーロン・マスクや、アップル創業者のスティーブ・ウォズニアック、その他のテックリーダーたちがAI開発の一時停止を呼びかけていることからもわかるように、AIに対する懸念が高まっているにもかかわらず、このテクノロジーの進歩によって多くの良いことがもたらされる。AIは、人間の推論の弱点が悪意ある行為者にどのように悪用されるかを理解し、悪意ある行為に対抗する方法を見つけるのに役立つ。

すべての新しいテクノロジーは、驚異をもたらすだけでなく、危険をもたらすこともある。その違いは、誰がそのツールを作り、管理し、どのように使うかにある。japantodayからの情報をもとに作成。