러시아 국가 후원 그룹, Claude를 악성코드 개발 도구로 전락시키다

Anthropic은 내부적으로 GTG-20006으로 추적되는 러시아 국가 후원 작전을 차단했으며, 이 작전은 자사의 Claude AI 모델을 활성 악성코드 개발 파이프라인의 일부로 사용했습니다. Anthropic에 따르면, 이 그룹은 Claude에게 코드를 한 번 작성해 달라고 요청하고 끝낸 것이 아닙니다. 대신 이들은 지속적인 반복 루프에서 모델을 활용했습니다. 악성코드를 생성하고, 보안 제품에 대해 테스트하고, 악성코드가 탐지되면 그 탐지 결과를 다시 Claude에 입력하여 동일한 방어 체계를 우회하도록 설계된 재구축 버전을 만들어내게 했습니다.

이 캠페인과 관련된 보고서들은 해당 행위자를 러시아 국가 이익과 연계된 위협 그룹으로, 첩보 중심 작전의 오랜 역사를 가진 Midnight Blizzard와 연결짓고 있습니다. 이 활동은 우크라이나 및 유럽 조직을 대상으로 한 것으로 알려졌으며, 이는 금전적 동기의 사이버 범죄보다 정보 수집에 주로 집중하는 이 그룹의 전형적인 초점과 일치합니다. Anthropic은 남용이 탐지된 후 해당 작전과 연관된 계정들을 식별하고 차단했다고 밝혔습니다.

AI 지원 악성코드 워크플로는 어떻게 작동했나

이 사례가 주목할 만한 이유는 해커들이 AI 챗봇을 사용했다는 점이 아닙니다. 바로 워크플로 자체입니다. 전통적으로 악성코드 작성자들은 백신 업체나 엔드포인트 탐지 도구가 샘플을 탐지한 후 코드를 수동으로 수정합니다. 그 과정에는 시간, 기술, 반복이 필요합니다. Claude를 그 루프에 삽입함으로써 GTG-20006은 그 주기를 압축한 것으로 보입니다. 인간 개발자가 탐지된 코드를 한 줄씩 재작업하는 대신, AI 모델이 탐지 시그니처를 회피할 수 있는 변종을 생성하는 빠른 주문형 도구가 된 것입니다.

이는 보안 연구자들이 경고해 온 더 광범위한 패턴을 반영합니다. AI 코딩 어시스턴트는 기능적 코드를 빠르게 작성하는 기술적 장벽을 낮추기 때문에 강력하며, 그 동일한 효율성은 최종 목표가 합법적인 앱이든 악성코드든 마찬가지로 적용됩니다. Anthropic의 공개는 회사의 자체 모니터링 시스템이 이 남용을 포착하고 조치를 취할 수 있었음을 시사하며, 이는 AI 제공업체들이 이러한 종류의 행동을 가상의 위험으로 취급하는 것이 아니라 적극적으로 감시하고 있다는 의미 있는 신호입니다.

이는 또한 AI 어시스턴트 생태계의 취약점에 관한 다른 최근 발견들과 함께 나왔습니다. Zenity의 연구자들은 최근 공격자들이 사용자 상호작용 없이 AI 브라우저 도구를 탈취할 수 있는 Claude 및 ChatGPT Atlas의 제로클릭 취약점을 공개했습니다. 종합해 보면, 이 사례들은 동일한 근본적인 주제를 가리킵니다. AI 도구가 일상 워크플로에 내장됨에 따라, 도구 자체와 위협 행위자가 이를 사용하는 방식 모두 면밀히 살펴볼 가치가 있는 공격 표면이 되고 있다는 것입니다.

헤드라인 그 이상으로 중요한 이유

여기서 무엇이 일어났고 무엇이 일어나지 않았는지 정확히 짚을 필요가 있습니다. Claude가 해킹당해 공격자들을 비밀리에 도운 것이 아니며, Claude의 일상 사용자들이 앱 자체를 통해 악성코드에 노출되었다는 징후도 없습니다. 이는 정교한 국가 연계 그룹이 합법적인 AI 제품을 개발 도구로 사용한 사례로, 마치 여느 코딩 소프트웨어를 사용하듯이 악성 코드 생성을 위해 남용한 것입니다. 패턴을 탐지하고 접근을 차단한 Anthropic의 대응은 AI 플랫폼이 공격적 사이버 작전의 기본 도구가 되는 것을 막는 데 중요한 집행 조치입니다.

그럼에도 이 사건은 AI 지원 악성코드 개발이 더 이상 이론이 아니라는 점을 상기시킵니다. 국가 후원 행위자들은 작전 속도를 높이기 위해 이러한 도구를 실험하고 있으며, 방어자들은 이전보다 더 빠르게 재생성되고 수정될 수 있는 악성코드를 고려해야 할 것입니다. 이 특정 캠페인의 초점이었던 것으로 보이는 우크라이나와 유럽의 조직들에게는 첩보 중심 그룹이 빠른 금전적 이익보다 정보 수집을 계속 우선시한다는 점을 재확인시켜 줍니다.

이것이 당신에게 의미하는 바

대부분의 개인 사용자에게 이 특정 캠페인은 직접적인 새로운 위협이 아닙니다. GTG-20006은 대규모 소비자 공격이 아닌 조직에 대한 표적 첩보에 집중한 것으로 알려졌습니다. 그러나 AI 도구가 악성코드 개발과 회피를 가속화하는 더 넓은 추세는 모든 사람에게 영향을 미칩니다. 더 빠른 악성코드 반복은 보안 업체와 백신 도구가 탐지 시그니처를 더 자주 업데이트해야 할 수 있음을 의미하며, 알려진 악성코드 시그니처에만 의존하는 도구보다 행위 기반 보안 도구의 가치를 높입니다.

AI 지원 악성코드도 여전히 동일한 전달 방식을 사용하기 때문에 기본적인 보안 위생을 재점검하기 좋은 시점이기도 합니다. 피싱 이메일, 악성 첨부 파일, 손상된 소프트웨어 등입니다. 어떤 AI 도구도 악성코드가 애초에 기기에 들어오는 방식을 바꾸지 않습니다.

핵심 요점

  • 운영 체제, 브라우저, 보안 소프트웨어를 최신 상태로 유지하여 탐지 도구가 최신 악성코드 변종을 신속히 포착할 수 있도록 하십시오.
  • 전달 방식은 변하지 않았으므로, 친숙해 보이는 발신자로부터 온 것이더라도 원치 않는 첨부 파일이나 링크를 의심하십시오.
  • 특히 국가 후원 행위자의 표적이 될 가능성이 높은 분야의 조직은 시그니처 전용 도구보다 행위 기반 탐지를 우선시해야 합니다.
  • 주요 AI 제공업체가 남용 보고에 어떻게 대응하는지 주시하십시오. Anthropic의 GTG-20006 차단은 플랫폼 차원의 집행이 보안 방정식의 부차적인 것이 아니라 적극적인 일부임을 보여줍니다.

AI 코딩 도구가 더욱 강력해짐에 따라, 이와 같은 사건은 줄어들기보다 오히려 더 흔해질 가능성이 높습니다. 이러한 도구가 어떻게 방어되고 남용되는지에 대한 정보를 계속 파악하는 것은 사용자와 조직이 한발 앞서 나갈 수 있는 가장 간단한 방법 중 하나입니다.