Help Net Security의 보고서에 따르면, 공격자들이 LLMjacking을 목적으로 하는 AI 에이전트를 구축했습니다. 이 에이전트는 노출된 AI 모델을 장악하여 자격 증명 탈취와 암호화폐 채굴에 사용합니다. 비용은 피해자가 부담합니다. 자체 호스팅 모델을 운영하거나 유료 AI API 키를 보유한 사람이라면, LLMjacking으로 노출된 AI 모델은 이제 이해할 가치가 있는 실질적인 위험입니다.
LLMjacking이란 무엇이며 에이전트는 어떻게 작동하는가
LLMjacking은 다른 사람이 소유하거나 비용을 지불하는 대규모 언어 모델(LLM)을 탈취하는 것입니다. 공격자는 컴퓨팅 자원이나 API 접근 권한을 구매하는 대신, 접근 가능한 모델이나 유출된 키를 찾아내어 무료로 사용합니다. 피해자가 청구서를 지불합니다.
여기서 새로운 점은 자동화입니다. 보고서는 이를 위해 구축된 AI 에이전트를 설명합니다. 사람이 직접 잘못 구성된 서비스를 찾아다니는 대신, 소프트웨어가 탐색과 장악을 수행합니다. 보고된 목표는 자격 증명 탈취와 암호화폐 채굴이며, 둘 다 탈취된 모델을 공격자에게 직접적인 수익으로 전환합니다.
출처는 이 도구를 높은 수준에서만 설명하고 있으며, 우리는 그 이상으로 추측하지 않을 것입니다. 그러나 더 넓은 요점은 여전히 유효합니다. 탐색과 악용이 자동화되면, 노출된 서비스는 발견되기 위해 흥미로울 필요가 없습니다. 단지 접근 가능하기만 하면 됩니다.
노출된 AI 키와 서비스가 탈취되는 방식
제시된 패턴은 간단합니다. 에이전트가 노출된 AI 모델과 API 엔드포인트를 스캔한 다음, 발견한 것을 장악합니다. 가장 중요한 두 가지 노출 유형이 있습니다:
- 노출된 엔드포인트. 인터넷에서 접근 가능한 자체 호스팅 모델이나 AI 인터페이스로, 흔히 편의 설정, 포워딩된 포트, 또는 로그인 누락으로 인해 발생합니다.
- 노출된 자격 증명. 코드 저장소, 공유 구성 파일, 또는 아무도 기억하지 못하는 오래된 프로젝트 등 있어서는 안 될 곳에 있는 API 키입니다.
공격자가 둘 중 하나를 확보하면, 모델은 그들을 위해 작동합니다. 컴퓨팅은 귀하의 하드웨어나 계정에서 실행되며, 사용량은 청구서에 나타나거나 기계 속도를 저하시킵니다.
자격 증명 탈취 측면은 두 번째 우려를 더합니다. 탈취된 AI 서비스는 단지 무료 자원이 아닙니다. 더 많은 자격 증명을 수집하는 수단이 될 수도 있으며, 이것이 잊힌 키 하나가 더 큰 문제로 번질 수 있는 이유입니다.
이것이 귀하에게 의미하는 바
소비자용 채팅 앱을 통해서만 AI를 사용한다면, 직접적인 노출은 제한적입니다. 다음과 같은 일을 더 많이 할수록 위험이 커집니다:
- 집에서 모델을 실행하는 경우. 로컬 LLM, 웹 프론트 엔드, 또는 자동화 도구를 호스팅하는 홈서버 애호가들이 가장 명백한 표적입니다. 포워딩된 포트에 있는 인증 없는 AI 서비스는 자동화된 스캐너가 찾도록 만들어진 유형의 것입니다.
- API 키를 보유한 경우. AI 서비스를 스크립트, 브라우저 확장 프로그램, 또는 사이드 프로젝트에 연결하는 개발자와 취미 활동가들은 여러 곳에 키가 흩어져 있을 수 있습니다.
- 자격 증명을 재사용하는 경우. 탈취된 시스템이 다른 곳에서 사용하는 비밀번호를 노출시키면, 피해는 AI 서비스를 넘어 확산됩니다. 재사용은 단일 침해를 다수의 침해로 바꿉니다.
재정적 측면도 간과하기 쉽습니다. 암호화폐 채굴과 과도한 모델 사용은 조용히 자원을 소비합니다. 청구서가 급증하거나, 하드웨어가 뜨거워지거나, 제공업체가 비정상적인 활동을 표시할 때만 알아차릴 수 있습니다.
이는 더 넓은 추세에 부합합니다. 공격자들은 AI를 단순히 표적으로 삼는 것이 아니라, 점점 더 공격적으로 활용하고 있습니다. 러시아 해커들이 탐지된 악성코드를 재구축하기 위해 Claude AI를 사용한 방법에 대한 우리의 보도는 공격자 측에서 AI 지원 도구로의 동일한 전환을 보여줍니다.
API 키, 네트워크 노출, 홈서버 설정을 잠그는 방법
이 단계 중 특별히 이례적인 것은 없습니다. 대부분은 새로운 종류의 서비스에 적용된 기본적인 위생 관리입니다.
API 키를 비밀번호처럼 취급하십시오.
- 비용을 지불하거나 프로젝트에 연결한 모든 AI 서비스를 나열하십시오.
- 더 이상 인식하지 못하거나 최근에 사용하지 않은 키를 교체하고, 필요 없는 키는 삭제하십시오.
- 키를 코드 저장소와 공유 문서에 보관하지 마십시오. 대신 환경 변수나 비밀번호 관리자를 사용하십시오.
- 제공업체가 허용하는 경우, 지출 한도와 사용량 알림을 설정하여 탈취된 키가 신속히 발견되도록 하십시오.
- 프로젝트마다 별도의 키를 사용하여 하나의 유출이 모든 것을 노출시키지 않도록 하십시오.
네트워크 노출을 줄이십시오.
- 라우터에서 포트 포워딩 규칙을 확인하고, 생성한 기억이 없는 규칙은 제거하십시오.
- 자체 호스팅 AI 인터페이스를 인터넷에 직접 노출하지 마십시오. 원격 접근이 필요하면 VPN이나 귀하가 제어하는 다른 인증된 터널 뒤에 두십시오.
- 실행하는 모든 AI 웹 인터페이스나 API에 인증을 활성화하십시오. 홈 네트워크에만 있더라도 마찬가지입니다.
- 모델 소프트웨어와 그 종속성을 최신 상태로 유지하십시오.
경고 신호를 주시하십시오.
- AI 계정의 예상치 못한 청구 또는 사용량 급증.
- 아무것도 실행하지 않을 때 지속적인 높은 CPU 또는 GPU 부하.
- 인식하지 못하는 주소에서의 요청을 보여주는 로그.
자격 증명 재사용을 해결하십시오. 각 서비스에 고유한 비밀번호를 사용하고 가능한 경우 다중 인증을 활성화하십시오. 탈취된 서비스가 비밀번호를 노출시키더라도, 고유한 자격 증명은 피해를 containment합니다.
주요 요점
보고서는 짧지만 교훈은 분명합니다. LLMjacking으로 노출된 AI 모델은 자동화되고 확장 가능한 활동이 되고 있으며, 비용을 지불하는 사람은 노출된 키와 서버의 소유자입니다. AI 도구 사용을 중단할 필요는 없습니다. 다만 키가 어디에 있는지, 네트워크가 무엇을 노출하고 있는지 알아야 합니다.
오늘 몇 분을 투자하여 AI API 키를 감사하고, 실행 중인 자체 호스팅 AI 서비스를 확인하고, 라우터의 포트 포워딩 규칙을 검토하십시오. 공격자들이 AI를 어떻게 활용하고 있는지에 대한 더 많은 맥락을 원하시면, AI 지원 악성코드 개발에 관한 우리의 글을 읽어보십시오.
