AI 통합 위협을 추적하기 위한 새로운 프레임워크

보안 연구원들은 지난 몇 년 동안 범죄자들이 결국 뒤에서 사람이 명령을 입력하지 않고도 스스로 인공지능을 사용할 수 있는 멀웨어를 만들게 될 것이라고 경고해 왔습니다. 그 경고는 이제 문서화된 현실이 되었습니다. Cisco Talos 연구원들은 의사 결정을 위해 AI 챗봇에 의존하는 멀웨어와 해킹 도구를 식별하도록 특별히 설계된 새로운 탐지 프레임워크를 개발했습니다. 이 도구를 테스트하던 중, 그들은 예상하지 못한 것을 발견했습니다: 실시간으로 지시하는 운영자 없이, 다음에 무엇을 할지 결정하기 위해 여러 대규모 언어 모델에 자문하는 악성 소프트웨어였습니다.

AI 통합 멀웨어를 분류하고 분석하기 위해 구축된 이 프레임워크는 Talos에게 전통적인 백신 시그니처와 행동 분석이 놓치기 쉬운 패턴을 포착할 방법을 제공했습니다. 이 도구는 알려진 악성 코드만을 찾는 대신, 실행 중간에 AI 모델에 질의하는 소프트웨어의 특징적인 징후를 찾습니다. 즉, 감염된 시스템 내부에서 다음 단계로 무엇을 해야 할지 챗봇에게 묻는 것입니다.

CLOSEDQUORUM 내부: 자체 AI 위원회를 가진 멀웨어

이 연구에서 나온 가장 놀라운 발견은 연구원들이 CLOSEDQUORUM이라고 명명한 멀웨어입니다. CLOSEDQUORUM은 안내를 위해 단일 AI 모델에 의존하는 대신, 여러 다른 대규모 언어 모델에 접촉하여 행동하기 전에 그 응답들을 저울질하며, 거의 함께 결정을 내리는 AI 자문 위원회처럼 기능한다고 합니다. 이러한 설계 때문에 보안 커뮤니티의 일부에서는 이를 악성 활동을 이끄는 AI "하이브 마인드"라고 설명하게 되었습니다.

이것이 중요한 이유는 사이버 범죄의 가장 큰 제약 중 하나인 인간이 계속 관여해야 할 필요성을 제거하기 때문입니다. 전통적인 멀웨어는 종종 운영자가 새로운 명령을 보내거나, 방어가 바뀔 때 전술을 조정하거나, 예상치 못한 장애물에 어떻게 대응할지 결정해야 합니다. 여러 AI 시스템에 질의하고 그 입력을 종합할 수 있는 멀웨어는 잠재적으로 사람이 로그인하여 지시를 내리기를 기다리지 않고, 기계 속도로 스스로 적응할 수 있습니다.

이 발견은 같은 방향을 가리키는 다른 최근 발견들과 함께 나왔습니다. 올해 초, Google의 위협 인텔리전스 그룹은 AI가 이미 제로데이 익스플로잇 개발을 구동하는 데 사용되고 있음을 확인했습니다, 이는 공격적 사이버 작전에서 AI의 역할이 이론적 논의를 훨씬 넘어섰음을 보여줍니다. Talos의 CLOSEDQUORUM 발견은 또 다른 데이터 포인트를 추가합니다: AI는 단지 공격자들이 코드를 더 빠르게 작성하도록 돕는 것이 아니라, 멀웨어의 운영 논리에 직접 내장되고 있습니다.

자율 멀웨어의 프라이버시 영향

일상적인 인터넷 사용자들에게 CLOSEDQUORUM과 같은 AI 유도 멀웨어의 등장은 즉각적인 기술적 세부 사항이 기업 방어자들을 겨냥한 것이라 할지라도 실질적인 프라이버시 우려를 제기합니다. 네트워크를 통해 어떻게 이동할지, 어떤 데이터가 가치 있어 보이는지, 또는 탐지를 어떻게 회피할지 독립적으로 결정할 수 있는 멀웨어는 주기적으로 확인하는 인간 운영자에게 의존하는 멀웨어보다 개인 정보를 찾아내고 유출하는 데 훨씬 더 효율적일 수 있습니다.

자율적 의사 결정은 또한 귀속과 대응을 복잡하게 만듭니다. 인간 운영자가 공격을 지시할 때, 보안 팀은 때때로 특정 그룹과 연결된 알려진 패턴을 기반으로 행동을 예측할 수 있습니다. 즉석에서 AI 모델에 자문하는 멀웨어는 덜 예측 가능하게 행동하여, 이전에 분류된 어떤 기술과도 일치하지 않는 새로운 공격 경로를 생성할 수 있습니다. 이러한 예측 불가능성은 바로 Talos가 기존 탐지 방법에 의존하는 대신 전용 프레임워크를 구축한 이유입니다. 목표는 AI 통합 위협이 자격 증명, 금융 데이터 또는 개인 파일을 조용히 수확하기 전에 포착하는 것입니다.

이것이 당신에게 의미하는 것

대부분의 개인 사용자들은 당장은 CLOSEDQUORUM과 같은 최첨단 AI 유도 멀웨어의 직접적인 표적이 되지 않을 것입니다. 이런 도구는 기업, 인프라 또는 고가치 네트워크에 대한 표적 침입에서 먼저 나타나는 경향이 있습니다. 그러나 근본적인 추세는 모든 사람에게 중요합니다: AI가 적응형 악성 소프트웨어를 만드는 기술적 장벽을 낮추면서, 일반 소비자에게 도달하는 공격의 양과 정교함은 시간이 지남에 따라 증가할 가능성이 높습니다. 피싱 이메일, 가짜 로그인 페이지, 악성 다운로드는 점점 더 AI 지원으로 생성되거나 미세 조정되어, "오타와 잘못된 문법을 찾아라"라는 옛 조언으로는 발견하기 어려워질 수 있습니다.

연구원들이 AI 통합 위협을 위해 특별히 탐지 프레임워크를 구축하고 있다는 사실은 긍정적인 신호입니다. 이는 보안 커뮤니티가 AI 유도 멀웨어가 널리 퍼진 후에 대응하는 것이 아니라, 지금 이를 우선순위로 다루고 있음을 의미합니다.

실행 가능한 시사점

  • 운영 체제, 브라우저 및 보안 소프트웨어를 최신 상태로 유지하세요. 패치된 시스템은 전통적인 멀웨어와 AI 지원 멀웨어 모두에 대한 첫 번째 방어선으로 남아 있습니다.
  • 잘 작성되고 오류가 없어 보이더라도 예상치 못한 메시지나 링크를 의심하세요. AI는 이제 공격자들이 설득력 있는 콘텐츠를 대규모로 생산하도록 도울 수 있습니다.
  • 평판 좋은 비밀번호 관리자를 사용하고 가능한 모든 곳에서 다중 인증을 활성화하여, 단일 자격 증명 탈취의 가치를 줄이세요.
  • 멀웨어가 무엇을 할 수 있고 없고에 대한 가정에 의존하기보다는, 저명한 보안 연구원들의 보고를 팔로우하여 AI가 위협 환경을 어떻게 변화시키는지 인지하세요.

CLOSEDQUORUM과 같은 AI 유도 멀웨어는 사이버 보안 위협이 지속적으로 진화한다는 것을 상기시켜 주며, 새로운 탐지 프레임워크는 연구원들이 앞서 나가기 위해 가진 가장 강력한 도구 중 하나입니다. 이와 같은 발전에 대해 정보를 얻는 것은 앞으로 몇 달 동안 자신의 프라이버시를 보호하는 가장 간단한 방법 중 하나입니다.