Huntressの研究者は、攻撃者がChatGPTのカスタムGPT機能を悪用してAI製品になりすまし、巧妙な遠隔操作トロイの木馬（RAT）をインストールさせる手口を報告している。この発見は、身近で信頼されたインターフェースが脅威を運ぶ可能性があるという有益な注意喚起だ。このカスタムGPTマルウェア遠隔操作トロイの木馬キャンペーンは、あなたのコンピュータの欠陥に依存しているわけではない。あなたの目の前のチャットウィンドウを信じることに依存しているのだ。

カスタムGPTマルウェアの誘いの仕組み

カスタムGPTは、誰でも作成・公開できるChatGPTのカスタマイズ版だ。その開放性がこの機能を有用にしていると同時に、攻撃者が悪用している点でもある。Huntressによれば、脅威アクターは正規のAI製品を装うカスタムGPTを構築し、訪問者をマルウェアのインストールへと誘導する。

元記事は技術的な詳細について簡潔なので、確認されたことと確認されていないことを分けて考える価値がある。確認された部分は核心的なパターンだ。カスタムGPTがAI製品になりすまし、被害者がRATをインストールするよう説得される。同じ活動に関する他の報道では、誘いがGoogleのスポンサー付き検索結果を通じて人々に届き、ClickFix型の戦術（ユーザー自身がPowerShellコマンドを実行するよう誘導される）が使われていると述べられている。この詳細は二次報道に由来するもので、最終的な結論ではなく文脈として扱うべきだ。

共通する糸は、被害者自身が作業を行うという点だ。ソフトウェアを悪用する代わりに、攻撃者は説得力のあるストーリーと一連の指示を提供し、ユーザーがそれらを実行する。

遠隔操作トロイの木馬があなたのデバイスにできること

遠隔操作トロイの木馬は、攻撃者に遠隔からマシンを制御する隠れた手段を与える。一度実行されると、背後にいる人物は多くの場合、あなたのキーボードの前に座っているかのように行動できる。セキュリティベンダーは一般にRATの機能を次のように説明している。

  • ファイルの閲覧とコピー
  • 活動の監視とメッセージの読み取り
  • キーストロークと認証情報の取得
  • ウェブカメラやマイクの起動
  • 追加マルウェアのインストール

特定のRATがこれらのどれをサポートするかは株によって異なり、Huntressはこれを巧妙だと表現している。実用的な結論は、RAT感染が軽微な迷惑であることは稀だということだ。静かに動作できるため、保存されたパスワード、業務文書、セッションデータが露出している間も、何か問題があることに気づかないかもしれない。

業務用ノートパソコンを使用している人にとっては、リスクは個人データにとどまらない。侵害されたデバイスは、会社のアカウントやシステムへの足がかりになり得る。

信頼されたAIプラットフォームが説得力のある配信チャネルになる理由

人々は、見知らぬメール添付ファイルや不慣れなダウンロードサイトを疑うことを長年学んできた。しかし、有名なAIプラットフォーム上にあるチャットインターフェースを疑うことを学んだ人ははるかに少ない。カスタムGPTは、人々がすでにメールの下書きや文書の要約に使っているのと同じ環境内に現れ、その文脈が借り物の信頼性を与える。

これが攻撃者にとってうまく機能する理由はいくつかある。

  • 身近な環境。 ページは本物のサービスのように見え、感じられるため、疑念が低く保たれる。
  • 会話による圧力。 チャットボットは反論に答え、役立つように聞こえ、一度に一歩ずつ手順を案内できる。
  • ブランドのなりすまし。 人々が試したくなるAI製品の名前をカスタムGPTに付けることで、誘いに既製の観客が与えられる。

これは、AIツールが攻撃者のツールキットに引き込まれるより広いパターンに合致する。より広い文脈については、AIが構築したマルウェアとゼロデイに関するAnthropicの154ページの報告書の報道で、AIの悪用が単一の手口を超えてどのように進化しているかを検討している。

何かをインストールする前にAIツールを精査する方法

AIツールを避ける必要はない。この種の攻撃を遮断するいくつかの習慣が必要なのだ。

  1. ソフトウェアのダウンロードや実行を求めるあらゆる要求を疑う。 プログラムのインストールや、PowerShellやターミナルへのコマンドの貼り付けを求めるチャットアシスタントは、即座に疑うに値する。
  2. 直接ソースへ行く。 特定のAI製品が欲しい場合は、スポンサー付き検索結果をクリックするのではなく、公式アドレスを自分で入力するか、ベンダー自身のチャネルを使う。
  3. 誰が作ったか確認する。 カスタムGPTは個人や組織によって公開されており、必ずしもその名前のブランドによるものではない。信頼する前に作成者の詳細を確認する。
  4. 理解できないコマンドを絶対に貼り付けない。 コマンドが何をするか説明できなければ、実行しない。
  5. セキュリティソフトを最新に保つ。 エンドポイント保護は、誘いが成功した場合でもペイロードを捕捉できる。

これがあなたにとって意味すること

ChatGPTを使っているなら、プラットフォーム自体が問題ではない。リスクは、公開されたカスタムGPTが何でも言えること、自分がそうでないものだと主張することも含めて。信頼されたサイト上にいるからといって、そのコンテンツが信頼できるわけではない。

すでにカスタムGPTの指示に従ってソフトウェアをインストールしたりコマンドを実行したりした場合は、デバイスをネットワークから切断し、信頼できるセキュリティソフトでフルスキャンを実行し、別のクリーンなデバイスから重要なパスワードを変更する。業務用マシンであれば、すぐにITまたはセキュリティチームに伝える。彼らは個人にはできない方法で調査できる。

要点

Huntressが説明するカスタムGPTマルウェア遠隔操作トロイの木馬キャンペーンは、攻撃者が人々がすでに信頼を置いている場所にどのように適応するかを示している。ソフトウェアのダウンロードや実行を求めるAIツールは疑ってかかり、公開者を確認し、公式チャネルを通じて製品にたどり着く。これらの脅威がより大きな全体像の中でどのように位置づけられるかを見るには、AI悪用に関するAnthropicの脅威インテリジェンス報告書の要約をお読みください。