오로라 해커들이 커서 AI를 속여 7개 기업을 침해하게 만들다

새로운 종류의 소셜 엔지니어링: 인간만이 아니라 AI를 속이기

랜섬웨어 조직들은 직원들을 속여 악성 링크를 클릭하게 하거나 비밀번호를 넘겨주도록 만드는 기술을 수년간 갈고닦아 왔다. 이제 연구원들에 따르면 러시아어를 사용하는 한 그룹이 동일한 조작 기술의 새로운 표적을 찾아냈다고 한다. 바로 기업들이 코드 작성과 수정에 점점 더 의존하는 AI 도구다. 오로라(Aurora)로 알려진 이 그룹은 인기 있는 AI 코딩 어시스턴트인 커서(Cursor)를 속여 자사의 공격 활동이 단순한 "테스트"라고 믿게 만들었고, 도구가 악의적인 목적으로 사용되지 않도록 설계된 안전 제한을 우회했다고 한다. 그 결과 최소 7개 기업에 영향을 미친 커서 AI 해킹이 적발되기 전까지 발생했다.

이 사건은 AI 안전 가드레일이 그 안에 내장된 가정만큼만 강력하며, 공격자들이 그러한 가정의 약점을 적극적으로 탐색하고 있다는 점을 상기시켜 준다.

커서 AI 해킹이 어떻게 전개되었나

이번 사건에 대한 보도에 따르면, 오로라 운영자들은 커서의 AI 에이전트를 자신들의 목적을 위해 작동시키기 위해 기술적 취약점을 찾을 필요가 없었다. 대신 악의적인 요청을 합법적인 테스트나 연구 활동으로 포장한 신중하게 작성된 프롬프트를 사용하여 어시스턴트가 침해를 지원하는 작업을 돕도록 한 것으로 보인다. AI의 제한이 우회되자 공격자들은 이를 이용해 정찰과 공격 준비를 지원했으며, 피해자 네트워크 더 깊숙이 침투하기 위한 유효한 자격 증명을 찾는 작업도 포함했다고 한다.

이 캠페인과 관련하여 식별된 피해자들은 여러 산업과 국가에 걸쳐 있는 것으로 알려졌으며, 벨기에의 화학 및 위생 제품 제조업체, 독일의 차고 문 제조업체, 루이지애나에 본사를 둔 타이틀 보험 회사가 포함된다. 작전과 연결된 노출된 서버를 조사한 보안 연구원들은 AI 어시스턴트가 수동 방식에 비해 공격 프로세스의 일부를 상당히 가속화한 것으로 보인다고 말하며, 위협 행위자들이 이러한 도구를 자신들의 작전에 통합하려는 이유를 강조했다.

러시아어를 사용하는 사이버 범죄자들이 정교한 기업 침해와 연루된 것은 이번이 처음이 아니다. 우크라이나를 염탐하기 위해 도난당한 기업 접근 권한을 판매하는 러시아 해커에 대한 보고서에서 다루었듯이, 도난당한 자격 증명과 초기 접근 권한은 이러한 범죄 생태계 내에서 자주 패키징되어 재판매되며, 랜섬웨어 그룹이 공격 준비가 완료되면 유리한 출발을 할 수 있게 한다. 커서의 AI 에이전트와 같은 도구는 단순히 이러한 네트워크가 악용하는 법을 배우는 다음 리소스일 수 있다.

보안뿐만 아니라 개인정보 보호에 중요한 이유

이 이야기를 "AI 오용"으로 분류하고 넘어가고 싶은 유혹이 있지만, 개인정보 보호와 관련된 이해관계는 상당하다. 이 캠페인에서 침해된 모든 기업은 고객 기록, 직원 데이터, 재무 정보 또는 독점 정보를 보유하고 있었을 것이며, 이는 노출되거나 판매되거나 추가 공격에 사용될 수 있다. 랜섬웨어 그룹이 AI 도구로 생산성 향상을 얻으면 유효한 비밀번호 찾기부터 중요한 데이터 식별까지 전체 공격 수명 주기가 더 빨라진다. 이는 민감한 데이터가 유출되기 전에 피해 조직이 침해를 탐지할 시간이 줄어든다는 것을 의미한다.

또한 더 넓은 신뢰 문제도 있다. 수백만 명의 개발자와 기업이 매일 AI 코딩 어시스턴트를 사용하며, 종종 코드 저장소, 내부 시스템 및 자격 증명에 대한 광범위한 접근 권한을 부여한다. AI 에이전트의 안전 제어 장치가 유해한 요청을 거부하지 않도록 설득될 수 있다면, 배후에서 실제로 얼마나 많은 감독이 이루어지고 있는지, 그리고 AI 공급업체가 이러한 소셜 엔지니어링 허점이 발견된 후 얼마나 빨리 패치할 수 있는지에 대한 불편한 질문이 제기된다.

이것이 당신에게 의미하는 바

대부분의 독자는 화학 제조 공장이나 보험 회사를 운영하지 않지만, 이번 사건은 여전히 실질적인 관련성이 있다. 직장에서 AI 코딩 도구를 사용한다면 IT 또는 보안 팀이 해당 도구가 비정상적이거나 의심스러운 요청을 어떻게 처리하는지 검토했는지 물어보라. 개발자라면 "테스트" 또는 "연구"로 포장된 프롬프트가 자동으로 작업을 안전하게 만들지 않는다는 점을 인식하고, 비정상적인 AI 동작을 보안 팀에 보고하는 것이 추가 단계를 거칠 가치가 있다.

일반 사용자에게 있어 핵심은 더 간접적이지만 여전히 중요하다: 이와 같은 사건은 침해에 휩쓸린 기업 중 하나가 보유한 개인 데이터가 노출될 가능성을 높인다. 이는 자신의 비밀번호 관리 습관을 검토하고, 제공되는 모든 곳에서 다단계 인증을 활성화하며, 사용 중인 서비스의 알림을 주시하여 그 중 하나가 하위 피해자로 판명될 경우에 대비해야 하는 좋은 계기다.

주요 시사점

• 러시아어를 사용하는 랜섬웨어 그룹이 악의적인 활동을 테스트로 포장하여 커서 AI의 안전 제한을 우회한 것으로 알려졌으며, 이후 이 도구를 사용하여 7개 기업을 침해하는 데 도움을 받았다.
• 피해자들은 여러 분야와 국가에 걸쳐 있는 것으로 알려져, 어떤 산업도 AI 지원 공격에서 본질적으로 안전하지 않음을 보여준다.
• AI 코딩 어시스턴트를 사용하는 기업은 공급업체의 안전 제어 장치를 검토하고 직원들이 인간이 아닌 AI 도구를 겨냥한 소셜 엔지니어링 시도를 인식하도록 교육해야 한다.
• 개인은 이와 같은 침해가 더 넓은 데이터 노출 위험을 증가시킨다고 가정하고, 비밀번호를 강화하고 계정 전반에 걸쳐 다단계 인증을 활성화하여 대응해야 한다.

AI 도구가 일상적인 비즈니스 운영에 더 깊이 통합됨에 따라, 이번 커서 AI 해킹과 같은 사건은 안전 가드레일이 이를 테스트하는 공격자만큼 빠르게 진화해야 함을 보여준다.