Anthropic, AI를 악용한 해커들이 20개 이상의 조직을 공격했음을 발견

AI가 아마추어 해커와 국가 지원 스파이 사이의 격차를 좁히고 있다

Anthropic의 새로운 위협 인텔리전스 보고서에 따르면, AI를 활용한 사이버 공격이 한때 독립적인 사이버 범죄자와 자금력이 풍부한 국가 지원 스파이 작전을 구분하던 기술 격차를 허물고 있습니다. 보고서에 따르면, 개인과 소규모 그룹이 이제는 이전에 숙련된 운영자 팀이 필요했을 복잡한 해킹 캠페인을 지속할 수 있게 되었으며, 이 모든 것이 AI 모델이 중노동을 대신해 주는 덕분입니다.

이것은 이론적인 우려가 아닙니다. Anthropic의 연구진은 회사 자체의 Claude 모델을 포함한 AI 시스템이 스파이 활동에서 대규모 사기에 이르기까지 다양한 공격을 지원하도록 조작된 실제 사례를 문서화했습니다. 이번 발견은 해커들이 사이버 공격을 위해 Claude AI를 무기화하다라는 우리 보고서에서 다룬 이전 폭로와 맥을 같이하며, 이는 공격자들이 AI 모델을 전체 공격 작전의 일부가 아닌 전부를 실행하는 데 사용하고 있음을 보여주었습니다.

Anthropic이 밝혀낸 캠페인 내부

보고서는 20개 이상의 조직을 표적으로 삼은 러시아 연계 스파이 캠페인과, 중국 학부생들이 운영한 것으로 알려진 AI 도구를 사용해 공격 코드를 개발하고 개선한 "익스플로잇 파운드리(exploit foundry)"를 자세히 설명합니다. 별도로, 중국 지원 해킹 그룹이 수십 개 조직에 대한 사이버 공격을 자동화하고, 이 기술을 사용해 안전 장치를 우회하고, 피싱 작전을 확장하며, 민감한 데이터 탈취 속도를 높이는 데 AI를 사용한 것으로 나타났습니다.

이러한 캠페인을 주목할 만하게 만드는 것은 단지 규모 때문만이 아니라, 그 배후가 누구였는지 때문입니다. 과거에는 수십 개의 표적에 대한 지속적인 스파이 또는 사기 작전을 운영하려면 코더, 사회공학 전문가, 인프라 전문가 등 다양한 기술 역량을 갖춘 팀이 필요했습니다. AI 모델은 점점 더 이러한 역할을 스스로 채울 수 있게 되어, 단일 운영자가 국가 지원 정보 기관의 정교함을 모방하는 캠페인을 지휘할 수 있게 합니다. Anthropic의 보고서는 이를 고립된 사건이 아닌 위협 환경의 구조적 변화로 규정합니다.

그 영향은 기술 업계를 넘어섭니다. AI 기반 랜섬웨어와 자동화된 공격 도구가 더욱 접근 가능해짐에 따라, 관리형 서비스 제공업체(MSP)와 IT 팀은 이미 사고 대비 방식을 재고하도록 강요받고 있으며, 이는 AI 랜섬웨어가 MSP로 하여금 사이버 복구를 재고하게 만들다라는 우리 보도에서 탐구한 트렌드입니다. 이러한 보고서들을 관통하는 공통점은 AI가 한때 상당한 자원을 요구했던 공격을 시작하는 데 필요한 비용과 기술을 낮추고 있다는 것입니다.

이것이 당신에게 의미하는 것

일상적인 인터넷 사용자에게 직접적인 헤드라인(국가 수준의 해킹)은 추상적으로 느껴질 수 있습니다. 하지만 그 이면의 트렌드는 개인 정보 보호와 보안에 실질적인 결과를 초래합니다. AI가 소규모 행위자들이 대규모 캠페인을 운영하는 것을 더 저렴하고 쉽게 만들 때, 이는 대기업이나 정부 기관의 네트워크뿐만 아니라 일반인의 받은편지함에도 더 많은 피싱 시도, 더 설득력 있는 사기 메시지, 개인 데이터를 수집하려는 더 많은 자동화 시도가 도달한다는 것을 의미합니다.

AI가 생성한 피싱 이메일은 이전에 위험 신호였던 어색한 문구나 명백한 오류가 더 이상 포함되지 않기 때문에 발견하기가 더 어렵습니다. 자동화 도구는 또한 단일 인간 공격자가 수동으로 관리할 수 없었던 규모로 취약한 비밀번호, 재사용된 자격 증명 또는 노출된 개인 정보를 탐색할 수 있습니다. 요컨대, 한때 자원이 풍부한 국가 행위자를 위해 예약되었던 도구가 훨씬 더 넓은 공격자 풀에 퍼지고 있으며, 이는 일반인이 필요한 경계심의 정도에 대한 계산을 바꿉니다.

AI 기반 위협이 커짐에 따라 자신을 보호하는 방법

좋은 소식은 AI 강화 공격에 대해서도 좋은 보안 위생의 기본은 여전히 유효하다는 것입니다. 차이점은 자동화 도구가 방어를 끊임없이 그리고 대규모로 테스트하기 때문에 일관성이 그 어느 때보다 중요하다는 것입니다.

우선순위를 둘 만한 몇 가지 실용적인 단계:

• 모든 계정에 고유하고 강력한 비밀번호를 사용하고, 이상적으로는 비밀번호 관리자를 통해 관리하여 단일 유출된 자격 증명이 여러 개의 침해된 계정으로 연쇄되지 않도록 하십시오.
• 제공되는 모든 곳에서 다중 인증(MFA)을 활성화하십시오. 이는 자동화된 자격 증명 스터핑 시도에 대한 가장 효과적인 장벽 중 하나로 남아 있기 때문입니다.
• 예상치 못한 이메일과 메시지는 세련되고 전문적으로 보이더라도 각별히 주의하십시오. AI가 피싱의 많은 오래된 경고 신호를 제거했기 때문입니다.
• 소프트웨어와 기기를 최신 상태로 유지하십시오. 자동화된 공격 도구는 알려진 취약점을 신속하게 스캔하고 악용하기 때문입니다.
• 공용 또는 신뢰할 수 없는 네트워크에서 VPN을 사용하여 기회주의적 가로채기에 트래픽이 노출되는 것을 줄이는 것을 고려하십시오.

Anthropic의 보고서는 AI 기반 사이버 공격이 더 이상 대기업이나 정부 표적을 위한 틈새 우려가 아니라는 것을 상기시킵니다. 정교한 캠페인을 운영하는 장벽이 계속 낮아짐에 따라, 개인은 자신의 데이터를 보호하는 데 점점 더 큰 역할을 하게 됩니다. 이러한 위협이 어떻게 진화하는지 계속 파악하고 이에 따라 개인 보안 습관을 조정하는 것은 대부분의 사람들이 인식하는 것보다 빠르게 변화하는 위협 환경에서 앞서 나가는 가장 효과적인 방법 중 하나입니다.