コンピュータ生成の詐欺が蔓延する巧妙なオンライン世界の内部

私は約100人の投資仲間とWhatsAppグループに参加しており、セバスチャン・ハザリーからの金融アドバイスを待っています。写真では、ハザリーは60歳くらいで、眼鏡をかけており、ネイビーのスーツと朱色のネクタイを着て颯爽としています。彼は自分自身を「グローバルな投資・資産運用会社」のシニア戦略アドバイザーと説明しています。

しかし、実際にはそのような人物ではありません。実際には、彼は何者でもありません。彼のオンライン上の存在感は非常に大きいものの—ソーシャルメディアアカウント、プレスリリース、オンライン出版物での引用—セバスチャン・ハザリーは全く存在しないようです。

彼の2025年以前のデジタル記録はなく、画像はAI生成の可能性が高く、コロンビア大学での学歴やマッキンゼー、モルガン・スタンレー、ウォートンビジネススクールでの勤務歴を裏付ける証拠もありません。最後の二つは、彼がそこに勤務したことがないことを私に確認させました。Facebookで連絡を取ったところ、ネパールで登録された彼のアカウントは削除されていました。

しかし、ハザリーは国境やプラットフォームを越えたネットワークの一部です。これは、コンピューター生成または盗用された写真、ソーシャルメディアの偽アカウント、小規模なプレスエージェンシーを通じて洗浄されたプレスリリースからなる複雑なエコシステムです。

これは、作家ジョージ・R・R・マーティンが誇ることができるほどの緻密な「世界構築」のレベルです。

「これは組織犯罪グループ、つまり大規模な国際企業の規模と構造を持つ組織だけができることです」と、詐欺防止サービスCifasの広報ディレクター、サイモン・ミラーは言います。

なぜ犯罪者がそこまでの努力をするのか、その理由は明白です。「多額の貯蓄を持ち、複数の入金を行える人々をターゲットにする場合、彼らはより賢明である可能性が高いため、詐欺はより多くのデータをもとに文脈化される必要があります」と彼は述べます。

しかし、これらの詐欺がどのように行われるかは、生成AI技術の普及と、ソーシャルメディアプラットフォームやオンライン出版グループの一連の失敗に依存しています。

一見すると、WhatsAppグループは無害に見えます。ほとんどのオンライン投資詐欺は、押しの強いエージェントがユーザーに現金を渡すよう促すものですが、これに対して、こちらは「専門家」が市場の動きについて情報を投稿し、「アシスタント」が特定の株を指示するというものです。

「基本的に最初は正当なもののように見え、そこですぐに人々が騙されてしまうのです」と、Good Money Guideの創設者リチャード・ベリーは言います。「彼らはお金を要求せず、一般的にブローカー（推奨された顧客ごとに報酬を提供する）についても言及しません。」

彼は、顧客から直接現金を引き出すのではなく、信頼を勝ち取ることで利益を得ていると述べます。Google検索やAIクエリを並行して行い、「確認」するだけで、正当な印象を与える情報の流れが生まれます。

そして、タイミングが良くなると、投資家を流動性の低い小型株企業に誘導し、すでにその株を所有しているグループにとって都合の良い状況を作り出します。

「この特定の株を推しているグループが100や1000も存在し、少しでも買いが入れば株価は上昇します」とベリーは言います。「その結果、投資家は株価が上がるのを見てさらに買い増し、永遠に続く動きの機械のようになるのです。」

株価が十分に高くなると、運営者は市場に売り抜け、投資家を置き去りにします。これは、より古い詐欺手法である「ポンプ・アンド・ダンプ」の技術的な進化版です。

しかし、その段階に到達するまでの道のりは長く、ソーシャルメディアの広告から始まります。Facebookは特に詐欺広告の掲載で注目されていますが、私はTikTokを通じてハザリー投資グループへのリンクを見つけました。

「犯罪者はオンラインプラットフォームを利用して広告やコンテンツに支払うことで、詐欺を正当化させるのです」と、TSBの詐欺防止責任者アレックス・ロビンソンは言います。

有名なセレブリティ、たとえば消費者擁護者のマーティン・ルイスもターゲットになっていますが、ミラーは、金融サービス業界のメンバーになりすます詐欺師へのシフトが進んでいると警告します。

ハザリーの場合、最初に見た広告は、ベテランのファンドマネージャー、テリー・スミスの名前と肖像を使ったものでした。フランス語話者向けのハザリーのサービスの広告には、キャシー・ウッドのARKインベストのロゴも使われていました。いずれもハザリーと関係があるという証拠はなく（コメント要請には応じていません）、彼らの関与は不明です。

昨年9月、TikTokに投稿されたキャンペーンの広告は合計558件で、主に英国とスイスをターゲットにしていました。TikTokは、各広告のクリック数の詳細を提供していませんが、最も人気のあった広告は15万人以上に閲覧されました。

TikTokは昨年末にこれらの広告を削除しました。同社は、これらの広告が誤解を招く内容や偽の内容に関する広告規定に違反していると述べています。2025年第2四半期だけで、5.7百万以上の違反広告を削除したとも付け加えています。

しかし、これは「おたまじゃくし遊び」のようなもので、2026年になっても偽の人物にリンクした類似の広告が出続けています。

TikTokの広告ライブラリによると、これらの広告は中国の厦門優南易購電子商務有限公司から出されており、マーケティングキャンペーンは香港のMarketLogic Technologyが運営していました。MarketLogicはコメント要請に応じませんでした。同様に、厦門優南と関連付けられたFacebookページや登録住所に送った手紙も返答がありません。

しかし、ネットワークはさらに広がっており、これらの企業やTikTokを超えた範囲に及びます。

私がハザリーを雇用しているとされる会社の免責事項のテキストをコピー＆ペーストしたところ、2025年に作成されたと思われる同じ表現を使った40の金融アドバイザリー会社が見つかりました。

彼らの使用する手法は、専門家の偽身分を作り出し、彼らの会社についてのリアルな議論を行う高度な技術を示しています。これはおそらく、プロの犯罪者の仕業だと、経済犯罪防止コンサルタントでロイズ銀行グループの元経済犯罪防止グループディレクター、ブライアン・ディリーは言います。

「インターネット上に存在感を持つためのパッケージを販売する合成アイデンティティの作成に特化した人々がいます」と彼は述べます。「すべてが犯罪のサービス化です。」

この詐欺ウェブサイトの蜘蛛の巣の中で最も普及しているツールの一つはプレスリリースです。これらは、詐欺師たちの自社ウェブサイトや地域のニュースサイト、LinkedInアカウント、ポッドキャストを通じて配信されます。

実際の企業にとっては、そのようなウェブサイトの価値は限定的です、と、アンドリュー・ブロックは言います。彼は20年以上にわたり、アラン・シュガー卿の公式スポークスマン兼PRアドバイザーを務めてきました。

「違法でも不道徳でもありませんが、個人的にはちょっと時間の無駄だと思います。壁に泥を投げて何が付くかを見るようなものです」と彼は言います。「これらのサイトの視聴者はほとんどいません。」

しかし、これらは一度の支払いで何百ものメディア出演を作り出すのに理想的で、製品発表や会議、新規採用のストーリーを盛り込んだリアルなプロフィールを瞬時に作り出します。

「これらのサイトの編集基準は、『低いかゼロ』と私が呼ぶものです」とブロックは言います。例として、デラウェアに拠点を置くとされるGrand Newswireがあります。

自動車の交換サービス、AI浄水器、世界各地の展示会の広告の合間に、Grand Newswireは、実在しない個人が運営する金融サービス会社のプレスリリースを掲載しています。200以上のニュースサイトに露出させるのにわずか15ドルだと自慢しています。Grand Newswireはコメント要請に応じませんでした。

もう一つの例は、1998年設立のカナダのDigital Journalです。こちらは、疑わしい専門家のコンテンツを掲載しています。こちらの方が料金は高く、スポンサーコンテンツの料金は274ポンドからです。「過度に宣伝的な表現は禁止」としていますが、解釈次第のようです。ハザリーに関する記事も、Grand Newswireからの転載で、「内部の卓越性」を提供する新しい研究部門について熱狂的に報じています。Digital Journalもコメント要請には応じていません。

他のケースでは、詐欺師たちはソーシャルメディア操作に頼っています。ハザリーのFacebookページは定期的に市場のブリーフィングを配信し、もう一人の専門家ローワン・ペンフィールドは、自己出版のコンテンツ以外にオンラインの痕跡を残さず、「暗号通貨の億万長者になるのに飽きた？」と訪問者に問いかけています。

私は、投資詐欺師の評判を洗浄することだけを目的としたアカウントが運営する少なくとも3つのRedditフォーラムを見つけました。そこでは、同じネットワークの疑わしい投資サイトについて絶えず投稿しています。一方、Quoraでは、金融サービスの専門家になりすましたアカウントが、昨年初めからこれらの取引について投稿し始めました。

「これはタマネギのようなものです」と、イングランドのブリストルにあるウェスト・イングランド大学の金融犯罪と刑事司法を専門とする講師ジョナサン・ギルバートは言います。「一つの詐欺のタイプかもしれませんが、他のバリエーションも関わっている可能性があります。」

これらの詐欺にはAI画像の使用が蔓延しています。前述のサブレディットの一つには、専門家のアルビン・ロバーツを宣伝する投稿があり、「壮大な新古典主義の建物の前に自信を持って立つ著名な起業家」と描写されています。しかし、彼の自己出版コンテンツ以外に彼が実在する証拠はなく、二つの画像の人種も変わっています。ほとんどの投稿はロバーツを詐欺師と指摘しており、コミュニティの反応や投票も非常に低いです。Redditはコメントを控え、Quoraもコメント要請に応じませんでした。

さらに懸念されるのは、情報操作がますます大規模言語モデル（LLM）に取り込まれていることです。これは、ロシア系の情報源がウクライナ侵攻の世論形成に使った「LLMグルーミング」の一例です。要するに、情報空間に大量の虚偽情報（多くはAI生成）を流し込むことで、AIチャットボットにその情報が信頼できると信じ込ませることが可能になるのです。

私が異なるLLMの「ハザリー」詐欺ネットワークの見抜き能力を試したところ、結果は大きく異なりました。MetaのAIは、偽の背景やプレスリリースを疑いなく引用し続け、再度質問してもハザリーが正当な情報源だと答えました。一方、ChatGPTは追跡質問に対して警戒心を示しました。GoogleのGeminiは最初のプロンプトから疑念を抱きました。中国のLLM DeepSeekは、詐欺を見抜かず、偽の投資家について尋ねられると架空の映画キャラクターを空想して答えました。

DeepSeekやGoogleの親会社Alphabetはコメント要請に応じませんでした。OpenAIは、ChatGPTは詐欺を見抜くために詐欺師よりも3倍頻繁に使われていると述べています。

Metaは、生成AIシステムは常に正確ではなく、LLMの操作は以前の検索エンジンを狙った試みと類似しているとし、引き続き詐欺と戦っていると述べました。

「詐欺の企て人と防止者の間には技術的な“軍拡競争”があります」とギルバートは言います。「彼らの被害能力を減らす何かがあれば、適応しようとするでしょう。」

そして、AIは新たな戦場です。個人投資家にとって、これらの「世界構築」詐欺の洗練度と協調性は大きな課題であり、犯罪者がこれらの詐欺キャンペーンに投資する金額の大きさを反映しています。

TikTokの広告は中国製ですが、架空の専門家にリンクしたFacebookアカウントはネパール、インド、カンボジアなどの国から運営されています。スキャンを促進するInstagramページの一つは香港に拠点を置き、もう一つはカザフスタンにあります。リンクされたサイトの一つのアプリはナイジェリアのコンピュータサイエンスの卒業生に関連付けられ、最初は否定しましたが、その後、アカウントを友人に渡し、その友人がインドまたはパキスタンの詐欺師に売ったと主張しましたが、その証拠は提出しませんでした。

このような国際的な犯罪協力のレベルは、公共と民間の連携を強化する必要性を示しています、と、クロスインダストリー協力団体Stop Scams UKの最高経営責任者マーク・ティアニーは述べます。

「詐欺と戦うには、政府と業界が協調して行動し、進化する脅威に先んじる必要があります。AIを善用して有害な活動を検出・阻止することも含まれます」と彼は言います。

ミラーもこれに共感し、「金融サービス企業と多くの詐欺が始まるテックプラットフォーム間で『大規模な情報交換』を迅速に行う必要がある」と述べています。

「私たちは、LLMがどのように安全策を回避できるかについて、社会全体でよりリテラシーを高める必要があります。消費者はより懐疑的になるべきです」と付け加えました。

ディリーも同意し、オンライン上で見かけるものすべてに対して不信感を持つ方向に進むのは、必ずしも悪いことではないと考えています。