AI 기반 랜섬웨어 그룹, 새로운 무기로 귀환

대규모 언어 모델에 의해 엔드 투 엔드로 실행된 최초의 랜섬웨어 캠페인을 수행한 것으로 기록된 위협 행위자 JadePuffer가 새로운 도구를 가지고 돌아왔습니다. Infosecurity Magazine에 따르면, 이 그룹의 후속 캠페인은 일반적인 파일과 데이터베이스를 암호화하는 대신 AI 모델 아티팩트를 파괴할 목적으로 제작된 ENCFORGE라는 락커를 배포했습니다.

이는 표적 선택의 변화를 의미하기 때문에 중요합니다. JadePuffer의 최초 캠페인을 포함한 이전 랜섬웨어 작업은 프로덕션 데이터베이스를 암호화하고 그 반환 대가로 금전을 요구하는 데 중점을 두었습니다. Sysdig의 JadePuffer 공격에 대한 최초 문서화에서는 Langflow 플랫폼을 악용하고 최소한의 인간 감독 하에 침투를 실행하는 에이전트형 운영자를 설명했습니다. ENCFORGE는 동일한 자동화된 접근 방식을 확장한 것으로 보이지만, 새로운 목표를 가지고 있습니다. 바로 조직이 AI 시스템을 실행하기 위해 의존하는 훈련된 모델, 가중치, 그리고 구성 파일을 완전히 삭제하는 것입니다.

AI 모델을 표적으로 삼는 것이 판도를 바꾸는 이유

기존 랜섬웨어는 데이터를 볼모로 잡습니다. AI 모델 아티팩트를 파괴하는 것은 다른 종류의 갈취입니다. 훈련된 모델은 종종 수개월의 컴퓨팅 시간, 선별된 훈련 데이터, 그리고 단순히 모델 복구를 염두에 두고 설계되지 않은 일상적인 백업으로는 쉽게 복원할 수 없는 미세 조정 작업을 의미합니다. 이러한 모델을 중심으로 고객 대면 AI 도구, 내부 자동화 또는 데이터 처리 파이프라인을 구축한 기업에게는 모델을 완전히 잃는 것이 단일 데이터베이스를 잃는 것보다 더 큰 혼란을 초래할 수 있습니다. 실제 운영 중인 비즈니스가 모델을 처음부터 다시 구축하는 데는 감당할 수 없는 시간이 소요되기 때문입니다.

또한 주목해야 할 프라이버시 차원의 문제도 있습니다. 비즈니스에서 사용되는 많은 AI 모델은 지원 대화 기록, 행동 데이터 또는 서비스 개인화에 사용되는 개인 기록 등 고객 정보를 포함한 데이터 세트로 훈련되거나 미세 조정됩니다. 랜섬웨어 운영자가 주변 데이터베이스를 암호화하든 이제 모델 자체를 파괴하든 이러한 모델 주변 인프라를 표적으로 삼을 때, 해당 인프라를 통과하는 개인 데이터는 유출 및 손실 위험에 처하게 됩니다. 소비자는 어떤 벤더가 자신의 정보로 AI 시스템을 운영하는지 거의 알 수 없기 때문에, 이러한 종류의 공격은 외부에서 감지하기 더 어렵고 개인으로서 대비하기도 더 어렵습니다.

자율 공격의 광범위한 패턴의 일부

ENCFORGE를 들고 돌아온 JadePuffer의 귀환은 보안 연구원들이 올해 면밀히 추적해 온 추세와 맞아떨어집니다. 최초의 완전 자율 AI 랜섬웨어 공격에 대한 독립적인 연구 결과는 AI 에이전트가 인간 운영자가 실시간으로 각 단계를 지시하지 않고도 취약점을 검색하고, 접근 권한을 얻고, 갈취 시도를 실행할 수 있음을 보여주었습니다. 이 선례는 JadePuffer가 일회성 실험이 아니라는 점을 시사하기 때문에 여기서 중요합니다. 이는 데이터베이스 암호화에서 AI 인프라를 특정하여 설계된 락커로 이동하며 자체 도구를 반복 개선해 온 운영자입니다. 더 많은 조직이 Langflow 및 유사한 오케스트레이션 도구와 같은 AI 플랫폼을 도입함에 따라, 이러한 캠페인의 공격 표면은 증가할 뿐입니다. 이는 다른 신종 위협과 함께 랜섬웨어 및 AI 기반 공격을 추적하는 최근 보안 요약에서 다루어진 주제입니다.

이것이 당신에게 의미하는 바

대부분의 독자는 AI 모델 배포를 직접 운영하지는 않겠지만, 파급 효과는 IT 부서를 넘어 확장됩니다. 소매업체, 의료 서비스 제공업체 또는 금융 서비스 등 귀하와 상호 작용하는 비즈니스가 이와 같은 공격을 받는 AI 시스템을 사용하는 경우, 그 여파로 서비스 중단, 지원 지연 또는 최악의 경우 해당 모델이 훈련되거나 운영된 데이터의 노출이 발생할 수 있습니다. 현재로서는 AI 인프라를 겨냥한 랜섬웨어는 여전히 기업 간 문제이지만, 그 인프라 내부에 있는 소비자 데이터가 이러한 공격에 협상력을 부여합니다.

AI 시스템을 구축하거나 운영하는 조직에게 이는 모델 아티팩트가 다른 중요한 자산과 동일한 백업 규율, 접근 제어 및 모니터링이 필요하다는 분명한 신호입니다. 훈련된 모델을 일회용으로 취급하거나 쉽게 교체할 수 있다고 가정하는 것은 더 이상 안전하지 않습니다.

실행 가능한 조치 사항

  • AI 인프라를 관리하는 경우, 모델 가중치와 훈련 아티팩트가 프로덕션 시스템과 별도로 오프라인 또는 불변 복사본으로 백업되도록 하십시오.
  • AI 오케스트레이션 플랫폼의 접근 제어를 검토하십시오. 에이전트형 랜섬웨어 캠페인은 발판을 마련하기 위해 노출되거나 잘못 구성된 도구를 악용해 왔습니다.
  • 소비자로서 서비스 제공업체, 특히 민감한 개인 정보나 금융 정보를 처리하는 서비스가 귀하의 데이터를 처리하는 AI 시스템을 어떻게 보호하는지 물어보십시오.
  • 이용하는 회사의 서비스 중단이나 침해 통지에 주의를 기울이십시오. AI 백엔드를 표적으로 하는 랜섬웨어는 일반적인 중단보다 복구 시간을 더 오래 지연시킬 수 있습니다.

JadePuffer가 데이터베이스 갈취에서 AI 모델 파괴로 진화한 것은 랜섬웨어 운영자들이 가치와 레버리지가 집중된 곳으로 빠르게 적응한다는 사실을 상기시킵니다. 더 많은 비즈니스에서 AI 시스템이 핵심 인프라가 됨에 따라, 이를 보호하는 것은 부차적인 생각이 아닌 모든 사람의 보안 태세의 핵심 부분이 되어야 할 것입니다.