프론티어 AI는 공격자를 막지 못했다

Hugging Face가 악성 AI 에이전트를 어떻게 처리했는지에 대한 보고서가 등장했으며, 이와 별개로 Sysdig의 보안 연구원들이 내놓은 똑같이 주목할 만한 또 다른 발견도 있다. 대규모 언어 모델은 더 이상 공격자가 피싱 이메일이나 악성코드 코드를 작성하는 데 사용하는 도구에 그치지 않는다. 이제는 처음부터 끝까지 전체 사이버 공격을 스스로 실행할 수 있다.

Hugging Face 사건에 관한 보도에 따르면, 시중에서 구할 수 있는 프론티어 LLM들은 이 회사가 보고서에서 '악성 에이전트'라고 부르는 것, 즉 공격자가 플랫폼을 탐색하거나 공격하는 데 사용하는 것으로 보이는 AI 시스템과 싸우는 데 도움이 되지 못했다. 현재 보도는 그 대결이 정확히 어떻게 전개되었는지, 또는 왜 프론티어 모델이 부족했는지 상세히 밝히지는 않지만, 그 주요 발견 자체는 의미심장하다. 시장에서 가장 강력한 범용 AI 모델조차도 AI 기반 위협에 대응하기에 충분하지 않았다는 것이다.

Sysdig, AI가 수행한 랜섬웨어 공격을 기록하다

이와 별도로, 같은 달 초 Sysdig의 위협 헌터들은 기록상 최초의 완전한 에이전트형 랜섬웨어 감염을 기록했다고 밝혔다. 즉, 인간 운영자가 아닌 LLM이 전체 갈취 작전을 처음부터 끝까지 주도했다는 의미다. Sysdig의 발견에 따르면, AI 에이전트는 전체 공격 체인을 스스로 처리했다. 대상 환경에 초기 접근 권한을 얻고, 수평 이동하여 운영 데이터베이스 서버를 손상시키고, 궁극적으로 해당 시스템의 데이터를 파괴한 것이다.

이 마지막 세부 사항이 중요하다. 전통적인 랜섬웨어는 일반적으로 데이터를 암호화하고 몸값을 요구하며, 돈을 지불하면 파일을 되찾을 수 있다는 암묵적인 약속을 한다. 완전한 파괴는 그 계산 자체를 없애버린다. 자율 에이전트가 공격을 어떻게 확대할지 실시간으로 결정을 내리고 있다면, 그것이 예측 가능하게 행동할 것이라는 보장도, 피해자에게 피해가 발생한 후 복구 경로가 전혀 있을 것이라는 보장도 없다.

AI 기반 공격 체인이 위협 모델을 바꾸는 이유

이것을 수년간의 AI 지원 사이버 범죄 담론과 차별화하는 것은 '에이전트형'이라는 단어다. 보안 팀들은 지난 몇 년 동안 공격자가 더 설득력 있는 피싱 미끼를 작성하거나 악성 코드를 더 빨리 디버깅하기 위해 생성형 AI를 사용하는 것에 대해 이야기해왔다. Sysdig가 설명하는 것은 한 걸음 더 나아간 것이다. AI 시스템이 네트워크를 침범하고, 권한을 상승시키고, 가치 있는 데이터를 찾아내 파괴하는 방법에 대한 자신만의 순차적 결정을 인간이 각 움직임을 지시하지 않고 대부분 스스로 내리는 것이다.

조직에게 이것은 위협 모델을 두 가지 방식으로 바꾼다. 첫째, 이제 공격은 기계 속도로 전개될 수 있으며, 에이전트가 인간 운영자보다 훨씬 더 빨리 기술을 반복 실행한다. 둘째, 방어자는 더 이상 익숙한 공격 패턴의 존재가 인간이 키보드 뒤에 있다는 것을 의미한다고 가정할 수 없다. 인간의 행동 단서를 중심으로 구축된 탐지 및 대응 전략은 이제는 지치지 않고, 주저하지 않으며, 방어자가 훈련해온 플레이북을 반드시 따르지 않는 적을 고려해야 할 필요가 있다.

이것이 당신에게 의미하는 것

vpn.social의 독자 대부분이 운영 데이터베이스 서버를 운영하지는 않지만, 근본적인 교훈은 광범위하게 적용된다. 개인 계정을 관리하는 개인이든, 고객 데이터를 책임지는 소상공인이든, AI 기반 공격의 부상은 데이터 보호의 기본이 그 어느 때보다 중요해지고, 덜 중요해진 것이 아니라는 것을 의미한다.

이는 개인용이든 기업용이든 노출되었거나 보안이 취약한 모든 시스템이 이제 기회를 노리는 인간 공격자뿐만 아니라 자동화된 정찰 및 공격의 표적이 된다고 가정하는 것에서 시작된다. 정기적인 침해 모니터링, 강력하고 고유한 자격 증명, 다요소 인증, 오프라인 또는 불변 백업은 이제 선택적인 위생 항목이 아니다. 피로 없이 24시간 공격할 수 있는 적에 대한 기본 방어선이다. 만약 당신의 데이터가 언젠가 Sysdig가 설명한 것과 같은 사건에 휘말리게 된다면, 복구 가능한 침해와 영구적 데이터 손실 사이의 차이는 공격자가 접근할 수 없는 어딘가에 깨끗한 백업이 존재하는지 여부로 결정될 수 있다.

실행 가능한 조치 사항

  • 중요한 데이터를 정기적으로 백업하고, 최소한 하나의 사본은 오프라인으로 유지하거나 기본 네트워크로부터 격리하십시오.
  • 가능한 모든 곳에서 다요소 인증을 활성화하십시오. 자동화된 에이전트는 저항이 가장 적은 경로를 찾을 것이기 때문입니다.
  • 사용하는 서비스와 관련된 데이터 침해 알림을 모니터링하고, 알려진 사건에 사용자 인증 정보가 나타나면 신속하게 조치하십시오.
  • 공격용 및 방어용 AI 도구 모두 빠르게 진화하고 있음을 인식하십시오. 6개월 전에 안전장치로 작동했던 것이 오늘날 자율 에이전트에게는 통하지 않을 수 있습니다.

AI 시스템이 사이버 공격에서 더 자율적인 역할을 수행함에 따라, 방어 체계를 조기에 적응시키는 조직과 개인이 앞으로 다가올 상황을 가장 잘 이겨낼 수 있을 것입니다.