Huntress 연구진은 공격자들이 ChatGPT의 맞춤형 GPT 기능을 악용하여 AI 제품을 사칭하고 사람들을 속여 정교한 원격 접근 트로이 목마(RAT)를 설치하도록 유도하고 있다고 보고합니다. 이 발견은 익숙하고 신뢰할 수 있는 인터페이스가 위협을 전달할 수 있다는 유용한 경고입니다. 이 맞춤형 GPT 악성코드 원격 접근 트로이 목마 캠페인은 컴퓨터의 결함에 의존하지 않습니다. 그것은 눈앞의 채팅 창을 믿는 여러분 자신에게 의존합니다.
맞춤형 GPT 악성코드 유인이 작동하는 방식
맞춤형 GPT는 누구나 만들고 게시할 수 있는 ChatGPT의 맞춤형 버전입니다. 이러한 개방성이 이 기능을 유용하게 만드는 동시에, 공격자들이 악용하는 지점이기도 합니다. Huntress에 따르면, 위협 행위자들은 합법적인 AI 제품으로 위장한 맞춤형 GPT를 만들고 방문자들을 악성코드 설치로 유도합니다.
원문 기사는 기술적 세부 사항에 대해 간략하게 다루고 있으므로, 확인된 것과 그렇지 않은 것을 구분할 필요가 있습니다. 확인된 부분은 핵심 패턴입니다: 맞춤형 GPT가 AI 제품을 사칭하고, 피해자가 RAT 설치를 설득당한다는 것입니다. 동일한 활동에 대한 다른 보도는 유인이 스폰서 Google 검색 결과를 통해 사람들에게 도달하며, 사용자가 스스로 PowerShell 명령을 실행하도록 유도하는 ClickFix 스타일 전술을 사용한다고 설명합니다. 이 세부 사항은 2차 보도에서 나온 것이므로 최종 결론이라기보다 맥락으로 취급해야 합니다.
공통된 특징은 피해자가 직접 작업을 수행한다는 것입니다. 소프트웨어를 악용하는 대신, 공격자는 설득력 있는 이야기와 일련의 지침을 제공하고, 사용자가 이를 실행합니다.
원격 접근 트로이 목마가 기기에 할 수 있는 일
원격 접근 트로이 목마는 공격자에게 원격에서 기계를 제어할 수 있는 숨겨진 방법을 제공합니다. 일단 실행되면, 그 배후의 사람은 종종 여러분의 키보드에 앉아 있는 것처럼 행동할 수 있습니다. 보안 업체들은 일반적으로 RAT 기능에 다음이 포함된다고 설명합니다:
- 파일 보기 및 복사
- 활동 모니터링 및 메시지 읽기
- 키 입력 및 자격 증명 캡처
- 웹캠 또는 마이크 활성화
- 추가 악성코드 설치
주어진 RAT가 이 중 정확히 어떤 것을 지원하는지는 변종에 따라 다르며, Huntress는 이 RAT를 정교하다고 설명합니다. 실질적인 결론은 RAT 감염이 좀처럼 사소한 성가심이 아니라는 것입니다. 조용히 실행될 수 있기 때문에, 저장된 비밀번호, 업무 문서, 세션 데이터가 노출되는 동안에도 문제가 있다는 것을 알아차리지 못할 수 있습니다.
업무용 노트북을 사용하는 사람에게는 위험이 개인 데이터를 넘어 확장됩니다. 감염된 기기는 회사 계정과 시스템으로 들어가는 발판이 될 수 있습니다.
신뢰받는 AI 플랫폼이 설득력 있는 전달 채널이 되는 이유
사람들은 낯선 이메일 첨부 파일과 익숙하지 않은 다운로드 사이트를 불신하는 법을 수년간 배워왔습니다. 잘 알려진 AI 플랫폼에 있는 채팅 인터페이스를 의심하는 법을 배운 사람은 훨씬 적습니다. 맞춤형 GPT는 사람들이 이미 이메일 초안을 작성하거나 문서를 요약하는 데 사용하는 동일한 환경 안에 나타나며, 그 맥락이 빌려온 신뢰성을 부여합니다.
공격자에게 이것이 잘 작동하는 데에는 몇 가지 이유가 있습니다:
- 익숙한 환경. 페이지가 실제 서비스처럼 보이고 느껴지므로 의심이 낮게 유지됩니다.
- 대화형 압박. 챗봇은 이의를 제기할 수 있고, 도움이 되는 것처럼 들리며, 한 번에 하나씩 단계를 안내할 수 있습니다.
- 브랜드 사칭. 사람들이 사용해 보고 싶어 하는 AI 제품의 이름을 맞춤형 GPT에 붙이면 유인에 즉시 사용할 수 있는 대상이 생깁니다.
이는 AI 도구가 공격자 도구 상자로 끌려 들어가는 더 넓은 패턴에 부합합니다. 더 넓은 맥락을 위해, AI로 제작된 악성코드와 제로데이에 관한 Anthropic의 154페이지 보고서에 대한 우리의 보도는 AI 오용이 단일 수법을 넘어 어떻게 진화하고 있는지 살펴봅니다.
무엇이든 설치하기 전에 AI 도구를 검증하는 방법
AI 도구를 피할 필요는 없습니다. 이런 종류의 공격을 차단하는 몇 가지 습관이 필요합니다.
- 소프트웨어를 다운로드하거나 실행하라는 요청을 의심하십시오. 프로그램 설치를 요청하거나 PowerShell 또는 터미널에 명령을 붙여넣으라고 하는 채팅 도우미는 즉각적인 의심을 받아 마땅합니다.
- 출처로 직접 가십시오. 특정 AI 제품을 원한다면, 스폰서 검색 결과를 클릭하는 대신 공식 주소를 직접 입력하거나 공급업체 자체 채널을 이용하십시오.
- 누가 만들었는지 확인하십시오. 맞춤형 GPT는 이름에 있는 브랜드가 아니라 개인이나 조직이 게시합니다. 신뢰하기 전에 제작자 세부 정보를 확인하십시오.
- 이해하지 못하는 명령은 절대 붙여넣지 마십시오. 명령이 무엇을 하는지 설명할 수 없다면 실행하지 마십시오.
- 보안 소프트웨어를 최신 상태로 유지하십시오. 엔드포인트 보호는 유인이 성공하더라도 페이로드를 잡아낼 수 있습니다.
이것이 여러분에게 의미하는 바
ChatGPT를 사용한다면, 플랫폼 자체가 문제가 아닙니다. 위험은 모든 공개 맞춤형 GPT가 무엇이든 말할 수 있다는 것입니다, 자신이 아닌 것을 사칭한다고 주장하는 것도 포함해서요. 신뢰할 수 있는 사이트에 있다는 것이 콘텐츠를 신뢰할 수 있게 만들지는 않습니다.
맞춤형 GPT의 지침에 따라 소프트웨어를 설치하거나 명령을 실행한 경우, 기기를 네트워크에서 연결 해제하고, 평판 좋은 보안 소프트웨어로 전체 검사를 실행하고, 다른 깨끗한 기기에서 중요한 비밀번호를 변경하십시오. 업무용 기기라면 즉시 IT 또는 보안 팀에 알리십시오. 그들은 개인이 할 수 없는 방식으로 조사할 수 있습니다.
핵심 요점
Huntress가 설명하는 맞춤형 GPT 악성코드 원격 접근 트로이 목마 캠페인은 공격자들이 사람들이 이미 신뢰를 두는 곳에 어떻게 적응하는지를 보여줍니다. 소프트웨어를 다운로드하거나 실행하라고 요청하는 AI 도구는 의심하고, 게시자를 검증하며, 공식 채널을 통해 제품에 접근하십시오. 이러한 위협이 더 큰 그림에 어떻게 맞는지 보려면, AI 오용에 관한 Anthropic의 위협 인텔리전스 보고서 요약을 읽어보십시오.
