Jazz Security의 최근 분석 글은 삼성 엔지니어들이 코드를 ChatGPT에 붙여넣은 사례부터 EchoLeak 및 Salesloft Drift 사건에 이르기까지 실제 AI 데이터 유출 사례를 살펴봅니다. 각 사례에 대해 문제를 발견한 주체, 현재 상태, 그리고 노출을 인지하거나 제한할 수 있었던 통제 방안을 다룹니다. 사례들은 기술적 세부 사항에서 차이가 있지만, 하나의 공통된 주제를 공유합니다. 유출은 이색적인 공격에서 시작되지 않았습니다. 일상적인 행동과 신뢰된 연결에서 시작되었습니다.

이 글은 해당 요약과 그 뒤에 있는 편집 관점을 바탕으로 작성되었습니다. 우리가 이용할 수 있는 원자료가 간략하기 때문에, 검증할 수 없는 기술적 세부 사항을 추가하기보다는 원자료가 설명하는 광범위한 패턴에 집중합니다.

삼성, EchoLeak, Salesloft Drift 유출에서 무슨 일이 있었나

세 가지 사례는 AI 관련 데이터 노출이 발생하는 세 가지 다른 방식을 보여줍니다.

삼성. 엔지니어들이 코드를 ChatGPT에 붙여넣었습니다. 해커는 필요하지 않았습니다. 직원들이 공개 챗봇을 업무 도구로 사용했고, 민감한 자료는 제출되는 순간 회사의 통제를 벗어났습니다.

EchoLeak. 이 사건은 콘텐츠를 처리하고 다른 정보와 연결하는 방식으로 데이터를 노출하는 AI 기능의 사례로 다른 사건들과 함께 분류됩니다. 이는 위험이 사람이 입력하는 내용에만 국한되지 않음을 보여줍니다. AI 시스템 자체의 데이터 접근 권한도 중요합니다.

Salesloft Drift. 이 사건은 연결된 OAuth 통합과 관련이 있었습니다. OAuth는 한 앱이 비밀번호를 공유하지 않고도 다른 앱의 데이터에 접근할 수 있게 해줍니다. 이는 편리하지만, 연결된 서비스가 침해되면 해당 서비스가 보유한 액세스 토큰이 연결된 모든 계정으로 들어가는 경로가 될 수 있습니다.

Jazz Security 글은 또한 각 사건을 발견한 주체와 현재 상황을 기록합니다. 독자들에게 더 유용한 시사점은 각 사건을 통제 방안과 연결한 것입니다. 즉, 활동에 대한 가시성을 제공하거나 데이터가 이동한 범위를 제한할 수 있었던 무언가입니다.

AI 데이터 유출 사례: 일상적인 AI 사용이 데이터를 노출시킨 방식

이 AI 데이터 유출 사례들에서 두드러지는 점은 출발점이 얼마나 평범했는가입니다.

챗봇에 텍스트를 붙여넣는 것은 검색창이나 메모 앱을 사용하는 것처럼 느껴집니다. 제3자에게 데이터를 보내는 것처럼 느껴지지 않습니다. 이러한 인식과 현실 사이의 간극이 삼성식 유출이 발생하는 지점입니다. 정보가 제출되면, 일반적으로 그것이 어디에 저장되는지 또는 서비스 약관에 따라 누가 접근할 수 있는지에 대한 통찰력이 제한적입니다.

연결된 앱도 같은 방식으로 작동합니다. 통합 접근 권한을 부여하는 데는 클릭 몇 번이면 되고, 권한은 종종 몇 달 또는 몇 년 동안 그대로 방치됩니다. 해당 통합 뒤에 있는 공급업체가 침해되면, 노출은 여러분이 공유했다는 사실을 잊었을 수 있는 데이터까지 도달합니다.

AI 어시스턴트는 세 번째 층을 추가합니다. 도구가 도움이 되기 위해 이메일, 문서 또는 메시지를 읽을 수 있을 때, 도구가 의도하지 않은 방식으로 작동하면 도구가 읽을 수 있는 모든 것이 잠재적으로 위험에 노출됩니다. EchoLeak 사례는 접근 범위가 AI 자체의 품질만큼이나 중요한 이유를 보여줍니다.

영향을 받은 사람들과 조직이 잃은 것

구체적인 내용은 사례별로 다르며, 원자료 요약에 제시되지 않은 수치를 추측하지는 않겠습니다. 일반적인 terms에서 노출은 몇 가지 범주로 나뉩니다:

  • 독점 정보. 공개 챗봇에 입력된 소스 코드와 내부 자료는 더 이상 비공개로 취급될 수 없습니다.
  • 비즈니스 및 고객 데이터. 연결된 앱 침해는 연결된 플랫폼에 저장된 기록을 노출시킬 수 있으며, 이는 관련 조직뿐만 아니라 그 조직의 고객과 연락처에도 영향을 미칩니다.
  • 통제와 가시성. 많은 사건에서 지속적인 피해는 데이터 자체뿐만 아니라 그것이 어디로 갔는지에 대한 명확한 파악의 상실입니다.

이러한 패턴은 기업 환경 외부에서도 나타납니다. 5,500만 명 이상의 사용자의 개인 정보를 노출하고 사용자들에게 공개된 적이 없는 Suno 데이터 유출 사건은 사용자 데이터를 보유한 AI 서비스가 사용자들이 특별한 행동을 하지 않았음에도 어떻게 노출 지점이 될 수 있는지를 보여줍니다.

이것이 당신에게 의미하는 것

이러한 교훈이 적용되기 위해 대기업에서 일할 필요는 없습니다. 개인들은 매일 개인 문서, 의료 관련 질문, 계약서, 업무 초안을 챗봇에 붙여넣습니다. 많은 사람들이 AI 도구와 다른 앱을 이메일, 캘린더, 클라우드 스토리지에 연결하기도 합니다.

실질적인 요점은 노출이 여러분이 통제하는 두 가지에 달려 있다는 것입니다. AI 서비스에 넘기는 것과 켜둔 채로 남겨두는 접근 권한입니다. 어느 것도 관리하는 데 기술적 전문성이 필요하지 않습니다. AI가 위협 환경을 어떻게 변화시키고 있는지에 대한 broader context는 데이터를 유출하는 결함 있는 테스트 모델과 AI 랜섬웨어에 대한 우리의 분석에서 다룹니다.

자신의 AI 노출을 제한하는 습관

  • 챗봇 프롬프트를 낯선 사람에게 보내는 이메일처럼 대하세요. 조직이나 가정 외부로 보내지 않을 것이라면, 붙여넣지 마세요.
  • 먼저 식별 정보를 제거하세요. 도움을 요청하기 전에 이름, 계정 번호, 자격 증명, 고객 정보를 자리 표시자로 바꾸세요.
  • 직장 정책을 확인하세요. 고용주가 승인된 AI 도구를 제공한다면 개인 계정 대신 그것을 사용하세요. 정책이 없다면 요청하세요.
  • 연결된 앱을 정기적으로 검토하세요. 이메일, 클라우드 스토리지, 직장 계정의 보안 또는 권한 페이지를 열고 더 이상 사용하지 않는 통합을 제거하세요.
  • 좁은 권한을 선호하세요. 앱이 광범위한 접근을 요청할 때 더 제한적인 옵션이 있는지 확인하세요.
  • 채팅 기록 및 데이터 설정을 검토하세요. AI 서비스가 보유하는 것과 학습 사용을 거부하거나 과거 대화를 삭제할 수 있는지 확인하세요.
  • 고유한 비밀번호와 다중 인증을 사용하세요. 이것이 모든 유출을 막지는 못하지만, 노출된 계정이 초래할 수 있는 것을 제한합니다.

핵심 요점

삼성, EchoLeak, Salesloft Drift의 AI 데이터 유출 사례들은 같은 결론을 가리킵니다. 가장 큰 노출은 종종 정교한 공격이 아닌 편의성에서 비롯됩니다. 챗봇에 붙여넣는 것을 감사하는 것부터 시작하고, 그다음 연결된 앱을 검토하여 필요하지 않은 것을 취소하세요. AI 서비스 데이터 노출의 또 다른 사례로는 Suno 침해 사건을 읽어보시고, AI 관련 위험에 대한 더 넓은 맥락은 AI 랜섬웨어 보도를 참조하세요. 지금 몇 분의 검토가 나중에 데이터가 어디로 갔는지 알아내려는 것보다 훨씬 쉽습니다.