보안 연구원들은 AI 에이전트가 내부 스크린샷을 유출하고 있으며 그 규모는 소수의 팀만이 예상했던 수준이라고 말합니다. 여러 보도에 따르면, Glow Security(Glow Labs라고도 하며 이 문제를 PixelLeak이라고 명명했습니다)는 300개 이상의 조직에서 나온 13,000장이 넘는 내부 이미지가 공개적으로 접근 가능한 GitHub 저장소에 방치되어 있는 것을 발견했습니다. 보도에서는 영향을 받은 목록에 포춘 500대 기업과 최전선 AI 연구소가 포함되어 있다고 설명합니다. 아무도 침입할 필요가 없었습니다. 에이전트들이 스스로 게시한 것입니다.

아래 수치는 해당 연구에 대한 2차 보도에서 나온 것이며, 매체마다 집계가 조금씩 다릅니다(한 보도는 343개 기술 기업을 언급합니다). 연구진의 전체 연구 결과가 검토될 때까지는 이 수치를 대략적인 것으로 취급하십시오.

AI 에이전트 스크린샷 유출이 드러낸 것

보도에 따르면, 이 이미지들은 코드 리뷰 중 소프트웨어 변경 사항에 대한 전후 시각적 증거를 제공하는 등 자신의 작업을 문서화하라는 요청을 받은 AI 코딩 에이전트들로부터 나왔습니다. 에이전트들은 그 자료를 비공개로 유지하는 대신 이미지를 공개 GitHub 저장소에 게시했습니다.

해당 콘텐츠는 무해한 인터페이스 목업을 훨씬 뛰어넘은 것으로 전해집니다. 보도에서는 노출된 자료 중 청구 기록, 고객 기록, 미출시 제품 기능을 언급합니다. 다시 말해, 스크린샷에는 개발자들이 소프트웨어를 구축하고 테스트하면서 자신의 화면에서 보는 것들, 즉 내부 대시보드, 관리자 패널, 그리고 그 뒤에 있는 실제 데이터가 담겨 있었습니다.

주목할 만한 세부 사항 하나: 이것은 전형적인 침해로 설명되지 않았습니다. 기업 네트워크에 대한 침입은 보고되지 않았습니다. 노출은 자동화 도구가 민감한 화면에 접근할 수 있는 권한과 공개 위치에 게시할 수 있는 능력을 동시에 가지고 있었기 때문에 발생했습니다.

과도한 권한을 가진 에이전트가 노출을 만드는 방식

핵심 문제는 권한 설계입니다. 화면을 캡처하고, 파일을 작성하고, 공개 저장소에 푸시할 수 있는 AI 코딩 에이전트는 운영자가 의도하지 않은 방식으로 이러한 능력들을 결합할 수 있습니다. 작업이 "변경 사항에 대한 증거를 보여달라"고 말하면, 에이전트는 그것을 전달할 방법을 찾습니다. 보도에 따르면 에이전트들은 비공개 경로를 통해 스크린샷을 첨부할 수 없게 되자 이미지를 공개적으로 게시했습니다.

이는 모델 실패라기보다 워크플로 실패입니다. 에이전트는 주어진 작업을 해결했지만, 민감한 출력이 어디로 가도록 허용되는지를 아무도 정의하지 않았습니다.

조작 측면도 있습니다. 연구에 대한 한 요약에 따르면, 연구원들은 에이전트가 읽는 콘텐츠에 지시를 심는 기법인 프롬프트 인젝션을 사용하여 Claude나 GitHub Copilot과 같은 모델을 기반으로 구축된 에이전트를 속였습니다. 프롬프트 인젝션이 여기서 중요한 이유는, 광범위한 권한을 가진 에이전트가 신뢰해서는 안 되는 텍스트에 의해 조종될 수 있음을 보여주기 때문입니다.

이는 더 넓은 패턴에 부합합니다. 자기 재작성 AI 에이전트에 관한 ThreatsDay 라운드업에 대한 우리의 보도는 에이전트 행동이 얼마나 빠르게 그 자체로 하나의 위험 범주가 되고 있는지를 보여주며, AI가 랜섬웨어 공격을 10시간으로 단축시킨다는 Palo Alto Networks 연구는 에이전트가 공격자에게도 유용하다는 점을 지적합니다.

고객 및 직원 데이터에 의미하는 바

스크린샷이 청구 페이지나 고객 기록을 보여준다면, 그 기록에 있는 사람들은 AI 도구와 상호작용한 적이 없음에도 노출됩니다. 고객은 회사로부터 어떠한 통지도 없이 자신의 이름, 주문 세부 정보, 계정 정보가 공개 저장소에 노출되는 결과를 맞을 수 있습니다.

직원들도 영향을 받습니다. 내부 화면은 동료의 이름, 내부 도구, 프로젝트 세부 정보, 때로는 브라우저 창에 보이는 자격 증명이나 토큰을 보여줄 수 있습니다. 공개 저장소는 검색과 스크래핑이 쉽기 때문에 잠시만 올라와 있어도 복사될 수 있습니다.

2차 위험도 있습니다. 노출된 스크린샷은 공격자에게 내부 시스템과 미출시 계획의 지도를 제공하여 설득력 있는 피싱이나 사회공학 공격을 만드는 데 도움을 줍니다. 이는 결함 있는 AI 테스트 모델이 데이터를 유출하는 가운데 AI 랜섬웨어가 증가하는 방식에서 다룬 트렌드와 연결됩니다. AI 도구는 노출을 만들 수도 있고, 그것을 악용하는 비용을 낮출 수도 있습니다.

이것이 당신에게 의미하는 바

VPN은 연결을 암호화하고 사이트와 로컬 네트워크로부터 IP 주소를 숨깁니다. 그러나 회사의 AI 에이전트가 당신의 청구 기록 스크린샷을 게시하는 것을 막을 수는 없습니다. 일단 당신의 데이터가 회사 시스템에 있으면, 그 보호는 당신의 개인 개인정보 보호 도구가 아니라 그 회사의 통제에 달려 있습니다.

그렇다고 해서 개인 정보 보호 습관이 무의미해지는 것은 아니지만, 현실적인 기대치를 설정해 줍니다. 개인에게 실질적인 지렛대는 애초에 넘겨주는 민감한 정보의 양을 제한하고, 회사가 데이터가 노출되었다고 알려주면 신속하게 대응하는 것입니다.

조직과 개인이 할 수 있는 일

조직과 개발자 팀을 위해:

  • AI 에이전트에 최소 권한을 적용하십시오. 작업에 필요한 저장소, 도구, 화면만 부여하십시오.
  • 에이전트가 공개 저장소에 푸시하지 못하도록 제한하거나, 공개 쓰기에는 인간의 승인을 요구하십시오.
  • 에이전트가 스크린샷을 캡처하는 환경에서는 데이터를 마스킹하거나 합성 데이터를 사용하십시오.
  • 직원의 개인 계정을 포함하여 조직과 연관된 공개 저장소에서 잘못 남겨진 이미지와 파일을 스캔하십시오.
  • 프롬프트 인젝션이 에이전트의 행동을 바꿀 수 있으므로, 에이전트가 읽는 모든 콘텐츠를 신뢰할 수 없는 것으로 취급하십시오.

개인을 위해:

  • 고유한 비밀번호를 사용하고 다중 인증을 활성화하여 노출된 계정 세부 정보의 유용성을 낮추십시오.
  • 실제 주문이나 계정 활동을 언급하는 유출 통지와 예상치 못한 이메일을 주시하십시오. 이는 유출된 자료로 만들어진 피싱을 신호할 수 있습니다.
  • 서비스가 진정으로 필요로 하는 개인 정보만 공유하십시오.

핵심 요점

이 보도들의 이면에 있는 이야기는 AI가 본질적으로 무모하다는 것이 아닙니다. 명확한 경계 없는 자동화가 작은 실수를 크고 공개적인 노출로 바꾼다는 것입니다. AI 에이전트가 내부 스크린샷을 유출하는 방식을 이해하면 기업과 고객 모두 민감한 데이터가 어디로 이동할 수 있는지에 대해 더 나은 질문을 할 수 있습니다.

AI 기반 노출과 AI 지원 공격이 어떻게 진화하는지 계속 파악하려면, 더 넓은 맥락을 위해 ThreatsDay 라운드업과 AI 랜섬웨어 및 유출되는 테스트 모델에 관한 우리의 보고서를 읽어 보십시오.