Một bài viết gần đây từ Jazz Security điểm qua các ví dụ thực tế về rò rỉ dữ liệu AI, từ việc kỹ sư Samsung dán mã nguồn vào ChatGPT cho đến các sự cố EchoLeak và Salesloft Drift. Với mỗi trường hợp, bài viết đề cập đến ai là người phát hiện vấn đề, tình trạng hiện tại của nó, và biện pháp kiểm soát nào lẽ ra đã có thể phát hiện hoặc hạn chế mức độ phơi nhiễm. Các trường hợp khác nhau về chi tiết kỹ thuật, nhưng chúng có chung một chủ đề: các vụ rò rỉ không bắt đầu từ những cuộc tấn công kỳ lạ. Chúng bắt đầu từ những hành vi thường ngày và các kết nối đáng tin cậy.

Bài viết này dựa trên bản tóm tắt đó và góc nhìn biên tập đằng sau nó. Tài liệu nguồn mà chúng tôi có được rất ngắn gọn, vì vậy chúng tôi bám sát các mô hình tổng quát mà nó mô tả thay vì thêm vào các chi tiết kỹ thuật mà chúng tôi không thể xác minh.

Điều gì đã xảy ra trong các vụ rò rỉ Samsung, EchoLeak và Salesloft Drift

Ba trường hợp bao quát ba cách khác nhau mà việc phơi nhiễm dữ liệu liên quan đến AI xảy ra.

Samsung. Các kỹ sư đã dán mã nguồn vào ChatGPT. Không cần đến hacker. Nhân viên đã sử dụng một chatbot công cộng như một công cụ làm việc, và tài liệu nhạy cảm đã rời khỏi tầm kiểm soát của công ty ngay khi được gửi đi.

EchoLeak. Sự cố này được xếp cùng nhóm với những sự cố khác như một ví dụ về một tính năng AI làm lộ dữ liệu thông qua cách nó xử lý nội dung và kết nối với thông tin khác. Nó cho thấy rằng rủi ro không chỉ giới hạn ở những gì một người gõ vào. Quyền truy cập dữ liệu của chính hệ thống AI cũng quan trọng không kém.

Salesloft Drift. Trường hợp này liên quan đến các tích hợp OAuth được kết nối. OAuth cho phép một ứng dụng truy cập dữ liệu trong một ứng dụng khác mà không cần chia sẻ mật khẩu. Điều đó thuận tiện, nhưng khi một dịch vụ được kết nối bị xâm phạm, các token truy cập mà nó nắm giữ có thể trở thành con đường dẫn vào mọi tài khoản mà nó đã được liên kết.

Bài viết của Jazz Security cũng ghi lại ai đã phát hiện ra từng trường hợp và tình trạng hiện tại của nó. Đối với độc giả, bài học hữu ích hơn là việc ghép mỗi trường hợp với một biện pháp kiểm soát: một thứ lẽ ra đã có thể mang lại khả năng hiển thị đối với hoạt động hoặc hạn chế mức độ lan truyền của dữ liệu.

Các ví dụ về rò rỉ dữ liệu AI: cách sử dụng AI hàng ngày làm lộ dữ liệu

Điều nổi bật qua các ví dụ về rò rỉ dữ liệu AI này là các điểm khởi đầu bình thường đến mức nào.

Dán văn bản vào một chatbot giống như sử dụng ô tìm kiếm hoặc một ứng dụng ghi chú. Nó không giống như việc gửi dữ liệu cho một bên thứ ba. Khoảng cách giữa nhận thức và thực tế đó chính là nơi xảy ra kiểu rò rỉ giống Samsung. Một khi thông tin được gửi đi, bạn thường có ít hiểu biết về nơi nó được lưu trữ hoặc ai có thể truy cập nó theo các điều khoản của dịch vụ.

Các ứng dụng được kết nối hoạt động theo cùng một cách. Cấp quyền truy cập cho một tích hợp chỉ mất vài cú nhấp chuột, và quyền đó thường nằm yên không được đụng đến trong nhiều tháng hoặc nhiều năm. Nếu nhà cung cấp đứng sau tích hợp đó bị xâm phạm, mức độ phơi nhiễm sẽ chạm đến dữ liệu mà bạn có thể đã quên rằng mình đã chia sẻ.

Các trợ lý AI thêm vào một lớp thứ ba. Khi một công cụ có thể đọc email, tài liệu hoặc tin nhắn của bạn để trở nên hữu ích, bất cứ thứ gì nó có thể đọc đều có khả năng bị ảnh hưởng nếu công cụ đó hoạt động theo cách ngoài ý muốn. Ví dụ EchoLeak minh họa lý do tại sao phạm vi truy cập lại quan trọng ngang với chất lượng của chính AI.

Những người và tổ chức bị ảnh hưởng đã mất gì

Các chi tiết cụ thể khác nhau tùy theo trường hợp, và chúng tôi sẽ không đoán các con số mà bản tóm tắt nguồn không cung cấp. Nói một cách tổng quát, mức độ phơi nhiễm rơi vào một vài loại:

  • Thông tin độc quyền. Mã nguồn và tài liệu nội bộ được nhập vào một chatbot công cộng không còn có thể được coi là riêng tư.
  • Dữ liệu doanh nghiệp và khách hàng. Các vụ xâm phạm ứng dụng được kết nối có thể làm lộ các bản ghi được lưu trữ trong các nền tảng được liên kết, điều này ảnh hưởng đến khách hàng và liên hệ của các tổ chức liên quan, chứ không chỉ riêng bản thân các tổ chức.
  • Kiểm soát và khả năng hiển thị. Trong nhiều sự cố, thiệt hại lâu dài không chỉ là bản thân dữ liệu mà còn là việc mất đi bất kỳ bức tranh rõ ràng nào về nơi dữ liệu đã đi.

Mô hình này cũng xuất hiện bên ngoài môi trường doanh nghiệp. Vụ rò rỉ dữ liệu Suno, làm lộ thông tin cá nhân của hơn 55 triệu người dùng và chưa bao giờ được thông báo cho họ, cho thấy cách một dịch vụ AI nắm giữ dữ liệu người dùng có thể trở thành một điểm phơi nhiễm ngay cả khi người dùng không làm gì bất thường.

Điều này có ý nghĩa gì với bạn

Bạn không cần phải làm việc tại một công ty lớn để những bài học này áp dụng. Các cá nhân dán tài liệu cá nhân, câu hỏi y tế, hợp đồng và bản nháp công việc vào chatbot mỗi ngày. Nhiều người còn kết nối các công cụ AI và các ứng dụng khác với email, lịch và lưu trữ đám mây.

Điểm thực tế là mức độ phơi nhiễm của bạn phụ thuộc vào hai điều bạn kiểm soát: những gì bạn trao cho một dịch vụ AI, và quyền truy cập nào bạn để mở. Cả hai đều không đòi hỏi chuyên môn kỹ thuật để quản lý. Bối cảnh rộng hơn về cách AI đang thay đổi bức tranh mối đe dọa được đề cập trong bài viết của chúng tôi về ransomware AI và các mô hình thử nghiệm có lỗi làm rò rỉ dữ liệu.

Những thói quen hạn chế mức độ phơi nhiễm AI của chính bạn

  • Hãy đối xử với một câu lệnh chatbot như một email gửi cho người lạ. Nếu bạn sẽ không gửi nó ra ngoài tổ chức hoặc hộ gia đình của mình, đừng dán nó vào.
  • Loại bỏ các chi tiết nhận dạng trước. Thay thế tên, số tài khoản, thông tin đăng nhập và thông tin khách hàng bằng các phần giữ chỗ trước khi yêu cầu trợ giúp.
  • Kiểm tra chính sách làm việc của bạn. Nếu nhà tuyển dụng của bạn cung cấp một công cụ AI được phê duyệt, hãy sử dụng nó thay vì một tài khoản cá nhân. Nếu không có chính sách nào, hãy yêu cầu một chính sách.
  • Xem xét các ứng dụng được kết nối thường xuyên. Mở trang bảo mật hoặc quyền của tài khoản email, lưu trữ đám mây và nơi làm việc của bạn, và xóa các tích hợp mà bạn không còn sử dụng.
  • Ưu tiên các quyền hạn hẹp. Khi một ứng dụng yêu cầu quyền truy cập rộng, hãy kiểm tra xem có tùy chọn hạn chế hơn hay không.
  • Xem lại lịch sử trò chuyện và cài đặt dữ liệu. Xem những gì các dịch vụ AI của bạn lưu giữ và liệu bạn có thể từ chối việc sử dụng để huấn luyện hoặc xóa các cuộc trò chuyện trước đây hay không.
  • Sử dụng mật khẩu duy nhất và xác thực đa yếu tố. Những điều này không ngăn được mọi vụ rò rỉ, nhưng chúng hạn chế những gì một tài khoản bị lộ có thể dẫn đến.

Những điểm chính

Các ví dụ về rò rỉ dữ liệu AI từ Samsung, EchoLeak và Salesloft Drift dẫn đến cùng một kết luận: những vụ phơi nhiễm lớn nhất thường đến từ sự tiện lợi, chứ không phải từ các cuộc tấn công tinh vi. Hãy bắt đầu bằng việc kiểm tra những gì bạn dán vào chatbot, sau đó xem xét các ứng dụng được kết nối của bạn và thu hồi những gì bạn không cần. Để có một ví dụ khác về phơi nhiễm dữ liệu dịch vụ AI, hãy đọc về vụ rò rỉ Suno, và để có bối cảnh rộng hơn về rủi ro liên quan đến AI, hãy xem bài viết về ransomware AI của chúng tôi. Vài phút xem xét bây giờ dễ dàng hơn nhiều so với việc cố gắng tìm hiểu sau này dữ liệu của bạn đã đi đâu.