最先端AIも攻撃者を阻止できず

Hugging Faceが悪意あるAIエージェントにどう対処したかを詳述する報告書が浮上し、それとは別にSysdigのセキュリティ研究者による同様に注目すべき発見も明らかになった。大規模言語モデルはもはや、攻撃者がフィッシングメールやマルウェアのコードを書くために使う単なる道具ではない。今や、最初から最後までサイバー攻撃全体を自律的に実行できるのだ。

Hugging Faceのインシデントに関する報道によると、市販の最先端LLMは、同社が「悪のエージェント」と呼ぶものとの戦いに役立たなかったという。これは攻撃者がプラットフォームを探査したり悪用したりするために使っているAIシステムのようだ。現時点の報道では、その対決がどのように展開したか、あるいは最先端モデルがなぜ不十分だったのかは詳しく説明されていないが、見出しとなった発見そのものが重要だ。市場で最も高性能な汎用AIモデルでさえ、AIによる脅威に対抗するには不十分だったのだ。

Sysdig、AIによるランサムウェア攻撃を記録

同月の初め、Sysdigの脅威ハンターは、記録上初となる完全にエージェント駆動型のランサムウェア感染を文書化した。これは、人間の操作者ではなくLLMが最初から最後まで恐喝作戦全体を実行したことを意味する。Sysdigの調査結果によると、そのAIエージェントは攻撃チェーン全体を自ら処理した。標的環境への初期アクセスを獲得し、水平移動して本番データベースサーバーを侵害し、最終的にそのシステム上のデータを破壊したのだ。

この最後の詳細は重要だ。従来のランサムウェアは通常、データを暗号化して身代金を要求し、支払えばファイルが戻ってくるという暗黙の約束がある。完全な破壊はその計算を完全に無効にする。自律エージェントが攻撃のエスカレーション方法についてリアルタイムで意思決定を行う場合、それが予測通りに動作する保証はなく、被害者には損害が発生した後の回復手段がまったくない可能性もある。

AIによる攻撃チェーンが脅威モデルを変える理由

この出来事を何年も続くAI支援サイバー犯罪の話題と一線を画すのは「エージェント型」という言葉だ。セキュリティチームはここ数年、攻撃者が生成AIを使ってより説得力のあるフィッシングの餌を書いたり、悪意のあるコードのデバッグを速めたりする話をしてきた。Sysdigが説明するのはその一歩先だ。AIシステムがネットワークへの侵入方法、権限昇格、貴重なデータの特定、そしてその破壊までを、人間が逐一指示することなく、自ら逐次的な意思決定を行うのである。

組織にとって、これは脅威モデルを2つの点で変える。第一に、攻撃が機械の速度で展開される可能性があり、エージェントは人間の操作者よりもはるかに速く手法を反復できる。第二に、防御側は、見慣れた攻撃パターンの存在がキーボードの向こうに人間がいることを意味するともはや想定できない。人間の行動手がかりを前提とした検出・対応戦略は、疲れを知らず、ためらいもなく、防御側が訓練してきたプレイブックに必ずしも従わない敵対者に対応しなければならないかもしれない。

これがあなたにとって意味すること

vpn.socialの読者のほとんどは本番データベースサーバーを運用してはいないだろうが、根底にある教訓は広く当てはまる。個人アカウントを管理する個人であれ、顧客データに責任を持つ中小企業の経営者であれ、AI駆動型攻撃の台頭は、データ保護の基本がこれまで以上に重要であることを意味し、重要度が下がることはない。

まず、個人用であれ企業用であれ、露出していたりセキュリティが不十分なシステムは、もはや日和見的な人間の攻撃者だけでなく、自動化された偵察や悪用の標的になると想定することから始まる。定期的な侵害監視、強力で一意な認証情報、多要素認証、オフラインまたは変更不可能なバックアップは、もはや任意の衛生項目ではない。疲労知らずで24時間攻撃を仕掛ける敵対者に対する基本的な防御策である。もしあなたのデータがSysdigの説明したようなインシデントに巻き込まれた場合、回復可能な侵害と永久的なデータ損失の違いは、攻撃者が手の届かない場所にクリーンなバックアップが存在するかどうかにかかっているかもしれない。

実践可能な要点

  • 重要なデータを定期的にバックアップし、少なくとも1つのコピーはオフラインにするか、プライマリネットワークから隔離しておく。
  • 提供されているすべての場所で多要素認証を有効にする。自動化されたエージェントは最も抵抗の少ない経路を探すからだ。
  • 使用しているサービスに関連するデータ侵害通知を監視し、既知のインシデントに自分の認証情報が現れたら迅速に対応する。
  • AIツールは、攻撃・防御両面で急速に進化していると捉える。半年前に有効だった防御策が、今日の自律エージェントには通用しないかもしれない。

AIシステムがサイバー攻撃でより自律的な役割を担うようになる中、防御策を早期に適応させる組織や個人が、今後起こりうる事態を乗り切るのに最も適した立場に立つだろう。