Palo Alto Networks Unit 42 は 7月上旬、LLM の URL 幻覚をサプライチェーン攻撃の起点にする新脅威 "phantom squatting" を公表しました。技術・金融・医療・政府など 913 グローバルブランドを対象に 2 種類の LLM へ 685,339 件の質問を投げた結果、210万件のリンクが生成され、そのうち 13,229 件が既に脅威インテリで悪性判定済み、約 250,000 件が未登録のまま放置されていました。

主なポイント

  • モデルが吐き出した架空ドメインを、攻撃者が正当ブランドの評判にただ乗りする形で先取り登録する
  • Unit 42 は登録前に高リスクドメインを 18-51 日前に予測できると主張し、実際に 3月8日の予測どおり 23 日後の 3月31日に登録・悪用された "Montana Empire" フィッシングキット事例を報告
  • Montana Empire は郵便局系オンラインストアを模倣し、決済情報・銀行送金情報・国民 ID を窃取
  • 同一の幻覚ドメインが複数モデルで繰り返し生成されるケースが多く、"LLM アーキテクチャの構造的性質でありパッチ不能" と評価
  • 対策として (1) AI 生成 URL の独立検証、(2) 高リスク幻覚ドメインの proactive 登録、(3) 開発ツールから外部リンクを提示する際のホワイトリスト運用を提言

出典: Phantom Squatting: AI-Hallucinated Domains as a Software Supply Chain Vector - Unit 42