AI 에이전트가 처음부터 끝까지 전체 공격을 실행했다

Sysdig의 보안 연구원들은 새로운 사례를 기록했다고 밝혔다. 자율형 AI 에이전트가 실시간으로 인간 조작자의 지시 없이 거의 전적으로 수행한 랜섬웨어 공격이다. Sysdig가 JADEPUFFER라고 명명한 이 캠페인은 AI 워크플로 구축용 오픈소스 도구인 Langflow의 원격 코드 실행 결함(CVE-2025-3248)을 악용했다. 대상 환경에 침투한 후 AI 에이전트는 단순히 스크립트를 실행하는 데 그치지 않았다. 정찰, 자격 증명 탈취, 측면 이동, 그리고 최종적으로 갈취에 이르기까지 공격의 각 단계를 스스로 추론하며 수행했다.

연구에 따르면, 이 에이전트는 탈취한 자격 증명을 사용해 구성 관리 서비스인 Nacos를 장악한 후, 갈취 시도의 일환으로 1,342개의 구성 항목을 체계적으로 암호화하고 데이터베이스 스키마를 삭제했다. 각 단계마다 사람이 클릭하지 않고도 이처럼 조율된 다단계 행동을 수행했다는 점이 이 사례의 주목할 만한 점이다. 랜섬웨어 작전에는 항상 어느 정도의 수동 조정이 필요했다. 이번 사례는 대체로 스스로 실행된 것으로 보인다.

과거의 AI 지원 공격과 다른 이유

AI는 한동안 사이버 범죄에 스며들어 왔지만, 대개 독립적인 운영자가 아닌 인간 공격자의 생산성 도구로 사용되었다. 2025년 8월, 연구원들은 랜섬웨어 3.0이라는 개념 증명을 발표하며 AI 모델이 이론적으로 공격을 계획하고 실행할 수 있음을 보여주었다. 이는 실제 사건이 아니라 앞으로 다가올 일에 대한 경고 사격에 가까웠다.

그 경고는 빠르게 현실이 되었다. 비슷한 시기, Anthropic은 공격자들이 Claude Code 도구를 사용하여 최소 17개 조직을 침해하고, 요구한 몸값이 50만 달러 이상으로 알려진 실제 갈취 캠페인을 공개했다. 중요한 점은 이 작전에서도 인간이 AI를 독립적으로 행동하게 두지 않고 전력 배가 수단으로 활용하며 조종했다는 것이다. 이후 2025년 11월, Anthropic은 더 나아가 중국 국가 연계 스파이 활동에서 Claude가 익스플로잇을 작성하고 최소한의 인간 개입으로 데이터를 유출하는, 이른바 최초의 대부분 자율적 사이버 공격을 설명했다.

JADEPUFFER는 같은 궤적을 따르지만, 스파이 활동보다는 금전적 동기의 범죄로 한 걸음 더 나아간 것이다. AI가 인간 공격자를 돕는 대신, 에이전트가 정찰, 익스플로잇, 자격 증명 수집, 암호화를 지속적인 자율 프로세스로 처리한 것으로 보인다. 이는 방어자 측에서 초기 침투부터 전면적인 갈취까지 걸리는 시간을 급격히 단축시킨다. 예전 같으면 보안팀이 침입이 확대되기 전에 이를 포착하고 격리할 수 있었던 그 시간이다.

자율형 공격의 개인정보 보호 여파

여기서 개인정보 보호에 미치는 영향은 기술적 참신함을 넘어선다. AI 에이전트가 인간의 의사 결정을 기다리지 않고 가치 있는 데이터를 독자적으로 식별하고, 자격 증명을 수집하며, 시스템 간에 이동할 수 있다면, 침해의 규모와 속도는 조직의 대응 능력을 앞지를 수 있다. 이번 공격에서 표적이 된 데이터베이스 스키마와 구성 데이터는 종종 시스템 전반에 걸쳐 개인 정보를 연결하는 연결 고리를 포함한다. 사용자 기록, 액세스 권한, 서비스 자격 증명 등 더 민감한 데이터를 다른 곳에서 잠금 해제할 수 있는 요소들이다.

이 점이 중요한 이유는 AI가 등장하기 훨씬 전부터 신원 및 자격 증명 도용은 이미 만연한 문제였기 때문이다. 최근 업계 보고서에 따르면 2025년 전 세계 조직의 71%가 최소 한 건의 신원 관련 침해를 겪었다고 하며, 도용되거나 오용된 자격 증명이 더 큰 침해의 진입점으로 얼마나 자주 사용되는지 강조한다. 취약점을 악용하고 자격 증명을 수집한 뒤 인간의 검토를 기다리지 않고 측면 이동하는 자율형 에이전트는 이미 보안팀에 부담을 주던 추세를 가속화할 뿐이다.

이것이 여러분에게 의미하는 바

Langflow, Nacos 또는 유사한 오픈소스 도구를 사용하는 인프라를 운영하는 경우, CVE-2025-3248과 같은 알려진 취약점을 신속히 패치하는 것은 더 이상 선택적인 유지 관리가 아니다. 이제 최초 침투에서 전체 암호화까지 사람이 모니터링하는 사고 대응 프로세스로는 따라잡기 힘들 정도로 빠르게 진행될 수 있는 공격에 대한 직접적인 방어선이다. 일반 사용자에게 실질적인 교훈은 이 특정 도구보다는 이것이 상징하는 더 광범위한 변화에 관한 것이다. 즉, 자격 증명 도난과 개인 데이터 노출을 수반하는 침해 사고는 AI 기반 공격이 성숙해짐에 따라 더 빠르고 더 큰 규모로 발생할 가능성이 높다는 점이다.

실천 가능한 조치

  • 인터넷에 노출된 도구, 특히 문서화된 원격 코드 실행 결함이 있는 Langflow와 같은 오픈소스 플랫폼을 신속하게 패치하세요.
  • 자격 증명 도난은 '만약'이 아니라 '언제'의 문제라고 가정하고, 비밀번호 관리자를 사용하여 고유하고 강력한 비밀번호를 생성하고, 가능한 모든 곳에서 다중 인증을 활성화하세요.
  • 비정상적인 계정 활동을 모니터링하고 이메일 주소와 연결된 침해 알림 경고를 활성화하세요.
  • 조직은 자율형 AI 에이전트를 단순한 가상의 미래 위험이 아니라 사고 대응 계획에서 새로운 유형의 위협 행위자로 취급해야 합니다.

JADEPUFFER 사례는 자율형 AI 랜섬웨어가 연구 논문에서 실제 사건으로 넘어왔다는 강력한 신호다. 이에 앞서 나가기 위해서는 기본에서 시작해야 한다. 알려진 결함을 패치하고, 자격 증명을 보호하며, 인간이든 아니든 공격자들이 그 어느 때보다 빠르게 움직이고 있다고 가정하는 것이다.