러시아 해커들, 보안 도구에 맞서 AI 안전장치를 무기화하다
러시아 해커와 연계된 것으로 보고된 새로운 악성코드 캠페인이 탐지를 회피하기 위한 이례적인 접근 방식을 사용하고 있습니다. 악성 VBS 스크립트 내부에 가짜 핵무기 요청을 삽입하는 것입니다. 목표는 무기를 만드는 것이 아니라, 의심스러운 코드를 분석하는 데 점점 더 많이 사용되는 AI 시스템을 혼란시키는 것입니다. 핵무기 정보 요청을 모방한 언어를 삽입함으로써, 공격자들은 AI 모델에 내장된 안전장치를 작동시켜 해당 시스템이 파일을 처리하거나 완전히 분석하는 것을 거부하도록 유도하려는 것으로 보입니다.
이 전술은 사이버 보안에서 점점 커지는 긴장 관계를 부각시킵니다. 더 많은 보안 팀이 대규모 악성코드 분류 및 분석에 AI 도구를 활용함에 따라, 공격자들은 그러한 도구를 신뢰할 수 있게 만드는 바로 그 안전 메커니즘을 악용하는 방법을 배우고 있습니다.
핵무기 프롬프트 트릭의 작동 방식
AI 안전장치는 타당한 이유로 존재합니다. 대규모 언어 모델은 대량살상무기 관련 상세 지침을 포함하여 실제 세계에 해를 끼칠 수 있는 요청을 거부하도록 훈련됩니다. AI 지원 보안 도구가 파일을 스캔할 때, 일반적으로 분석 과정의 일부로 임베디드 텍스트를 포함한 콘텐츠를 읽습니다.
VBS 스크립트 내부에 핵무기 요청을 닮은 언어를 심음으로써, 해커들은 AI 모델의 내장된 거부 행동이 발동하기를 기대하고 있는 것입니다. AI는 파일을 악성코드로 플래그하는 대신 분석을 중단하거나, 계속하기를 거부하거나, 불완전하거나 신뢰할 수 없는 평가를 생성할 수 있습니다. 사실상 악성 콘텐츠는 AI 자신의 윤리적 훈련을 역이용하는 일종의 미끼가 됩니다.
이는 특정 공급업체나 제품에만 국한된 결함이 아닙니다. 이는 더 광범위한 과제를 반영합니다. 안전장치는 일반적으로 콘텐츠 조정과 피해 방지를 중심으로 설계되며, 기술적 악성코드 분석 중 적대적 회피를 염두에 두고 설계되지 않았습니다. 이 두 가지 목표가 충돌할 때, 공격자에게 기회가 생깁니다.
AI 기반 보안 분석에서 이것이 중요한 이유
보안 팀은 매일 접하는 방대한 양의 의심스러운 파일, 피싱 시도, 스크립트를 분류하기 위해 AI 도구를 빠르게 채택했습니다. 이러한 도구는 더 빠른 분류를 약속하고 인간 분석가가 놓칠 수 있는 패턴을 플래그할 수 있습니다. 그러나 이번 사건은 보안 워크플로우에 사용되는 AI 시스템이 전통적인 악성코드 탐지가 예상하지 못한 자체 공격 표면을 지니고 있다는 사실을 상기시킵니다.
파일에 특정 트리거 단어가 포함되어 있다는 이유만으로 AI 모델이 분석을 건너뛰거나 약화시키도록 조작될 수 있다면, 이는 의미 있는 맹점입니다. 또한 조직이 특히 파일을 열거나 실행해도 안전한지 여부와 같은 고위험 결정에 있어 인간의 감독 없이 AI 기반 분석에 얼마나 의존해야 하는지에 대한 의문을 제기합니다.
이러한 종류의 전술은 공격자들이 방어하는 대상이 누구든 무엇이든 간에 그에 맞춰 기술을 조정하는 더 넓은 패턴에 부합합니다. 랜섬웨어 운영자들이 사회공학적 공격 대상을 임원이 아닌 중견 관리자로 전환한 것처럼, 악성코드 작성자들은 이제 그들 자신과 목표물 사이를 가로막는 AI 모델을 포함한 특정 시스템에 맞춰 회피 기술을 조정하고 있습니다.
이것이 여러분에게 의미하는 바
대부분의 개별 사용자에게 이 특정 기술은 개인 기기를 직접 겨냥하기보다 기업 보안 인프라를 표적으로 합니다. 여러분의 일상적인 브라우징이나 이메일 습관과 관련하여 자신의 컴퓨터에서 이 특정 VBS 스크립트 트릭을 마주칠 가능성은 낮습니다. 그러나 근본적인 교훈은 광범위하게 적용됩니다. AI 기반 악성코드 스캐너, 스팸 필터, 안티바이러스 소프트웨어 등 자동화된 도구는 결코 무오류가 아니며, 공격자들은 그 맹점을 악용할 방법을 적극적으로 연구하고 있습니다.
직장에서 AI 지원 보안 도구를 사용한다면, 이러한 도구가 어떻게 검증되는지, 그리고 플래그가 지정되거나 지정되지 않은 파일을 인간 분석가가 여전히 검토하는지 물어보기에 좋은 시기입니다. 개인의 경우 교훈은 더 일반적입니다. 자동화된 스캐너가 파일을 플래그하지 않았다고 해서 자동으로 안전하다고 가정하지 마십시오. 다층 방어, 예상치 못한 스크립트나 첨부 파일에 대한 경계심, 기본적인 보안 위생은 그 어느 때보다 중요합니다.
실행 가능한 교훈
- 자동화된 스캔이 통과했는지 여부와 관계없이 원치 않는 VBS 파일, 스크립트 또는 매크로 지원 문서를 열지 마십시오.
- 직장에서 보안 도구를 관리한다면, AI 지원 악성코드 분석에 거부 또는 불완전한 스캔을 유발하는 파일에 대한 대체 인간 검토가 포함되는지 물어보십시오.
- 최신 AI 도구와 함께 서명 기반 안티바이러스 및 네트워크 모니터링과 같은 전통적인 탐지 계층을 완전히 대체하지 않고 유지하십시오.
- 공격자들이 AI 기반 방어에 어떻게 적응하고 있는지 최신 정보를 유지하십시오. 이와 같은 기술은 사라지기보다 진화할 가능성이 높기 때문입니다.
AI가 사이버 보안 워크플로우에 더 깊이 통합됨에 따라, 이와 같은 사건은 AI 시스템을 안전하게 유지하기 위한 안전장치가 그 자체로 표적이 될 수 있음을 보여줍니다. 이러한 새로운 전술에 대한 정보를 지속적으로 파악하고, 다층적이며 인간 검토가 포함된 방어를 유지하는 것이 끊임없이 새로운 약점을 찾는 공격자보다 앞서 나가는 최선의 방법입니다.
