Nhóm mã độc tống tiền do AI vận hành quay trở lại với vũ khí mới

JadePuffer, tác nhân đe dọa trước đây được ghi nhận là đã thực hiện chiến dịch mã độc tống tiền đầu tiên được vận hành hoàn toàn bởi một mô hình ngôn ngữ lớn, đã quay trở lại với một công cụ mới. Theo Tạp chí Infosecurity, chiến dịch tiếp theo của nhóm này đã triển khai một mã khóa có tên ENCFORGE, được thiết kế chuyên biệt để phá hủy các tạo phẩm mô hình AI thay vì chỉ mã hóa các tệp và cơ sở dữ liệu thông thường.

Điều này quan trọng vì nó đánh dấu sự thay đổi trong lựa chọn mục tiêu. Các hoạt động mã độc tống tiền trước đây, bao gồm cả chiến dịch ban đầu của JadePuffer, tập trung vào việc mã hóa các cơ sở dữ liệu sản xuất và đòi tiền chuộc để trả lại chúng. Tài liệu gốc của Sysdig về cuộc tấn công của JadePuffer đã mô tả một toán tử tác tử đã khai thác nền tảng Langflow và thực hiện vụ xâm nhập với sự giám sát tối thiểu của con người. ENCFORGE dường như mở rộng cùng một cách tiếp cận tự động đó, nhưng với một mục tiêu mới: xóa sạch các mô hình đã huấn luyện, trọng số và tệp cấu hình mà các tổ chức dựa vào để vận hành các hệ thống AI.

Tại sao nhắm vào các mô hình AI làm thay đổi tính toán

Mã độc tống tiền truyền thống bắt giữ dữ liệu làm con tin. Phá hủy các tạo phẩm mô hình AI là một hình thức tống tiền khác. Các mô hình đã huấn luyện thường đại diện cho hàng tháng thời gian tính toán, dữ liệu huấn luyện được tuyển chọn và công việc tinh chỉnh không thể dễ dàng khôi phục từ bản sao lưu thông thường nếu bản sao lưu đó không được thiết kế cụ thể với khả năng khôi phục mô hình. Đối với các công ty đã xây dựng các công cụ AI hướng đến khách hàng, tự động hóa nội bộ hoặc quy trình xử lý dữ liệu xung quanh các mô hình này, việc mất chúng hoàn toàn có thể gây gián đoạn hơn là mất một cơ sở dữ liệu đơn lẻ, vì xây dựng lại một mô hình từ đầu mất thời gian mà một doanh nghiệp đang hoạt động thường không có.

Cũng có một khía cạnh quyền riêng tư đáng lưu ý. Nhiều mô hình AI được các doanh nghiệp sử dụng được huấn luyện hoặc tinh chỉnh trên các bộ dữ liệu bao gồm thông tin khách hàng, cho dù đó là bản ghi hỗ trợ, dữ liệu hành vi hay hồ sơ cá nhân được sử dụng để cá nhân hóa dịch vụ. Khi các toán tử mã độc tống tiền nhắm vào cơ sở hạ tầng xung quanh các mô hình này, dù bằng cách mã hóa các cơ sở dữ liệu xung quanh hay hiện là phá hủy chính các mô hình, dữ liệu cá nhân chảy qua cơ sở hạ tầng đó có nguy cơ bị lộ và mất mát. Người tiêu dùng hiếm khi có tầm nhìn vào nhà cung cấp nào đang chạy các hệ thống AI trên thông tin của họ, điều này khiến loại tấn công này khó phát hiện từ bên ngoài và khó chuẩn bị hơn với tư cách cá nhân.

Một phần của xu hướng rộng hơn trong các cuộc tấn công tự động

Sự trở lại của JadePuffer với ENCFORGE phù hợp với một xu hướng mà các nhà nghiên cứu bảo mật đã theo dõi sát sao trong năm nay. Các phát hiện độc lập xung quanh cuộc tấn công mã độc tống tiền AI hoàn toàn tự động đầu tiên cho thấy một tác tử AI có thể quét lỗ hổng, giành quyền truy cập và thực hiện nỗ lực tống tiền mà không cần toán tử con người chỉ đạo từng bước trong thời gian thực. Tiền lệ đó quan trọng ở đây vì nó gợi ý rằng JadePuffer không phải là một thử nghiệm đơn lẻ. Đó là một toán tử đã lặp lại trên công cụ của chính mình, chuyển từ mã hóa cơ sở dữ liệu sang một mã khóa được thiết kế đặc biệt chống lại cơ sở hạ tầng AI. Khi ngày càng nhiều tổ chức áp dụng các nền tảng AI như Langflow và các công cụ điều phối tương tự, bề mặt tấn công cho loại chiến dịch này chỉ tăng lên, một chủ đề được đề cập trong các bản tóm tắt bảo mật gần đây theo dõi mã độc tống tiền và các cuộc tấn công do AI điều khiển cùng với các mối đe dọa mới nổi khác.

Điều này có ý nghĩa gì với bạn

Hầu hết độc giả sẽ không tự mình triển khai mô hình AI, nhưng tác động lan tỏa vươn xa hơn các bộ phận CNTT. Nếu một doanh nghiệp bạn tương tác, dù là nhà bán lẻ, nhà cung cấp dịch vụ chăm sóc sức khỏe hay dịch vụ tài chính, sử dụng các hệ thống AI bị tấn công như thế này, hậu quả có thể bao gồm gián đoạn dịch vụ, hỗ trợ chậm trễ, hoặc trong trường hợp xấu hơn, lộ dữ liệu mà các mô hình đó được huấn luyện hoặc vận hành. Mã độc tống tiền nhắm vào cơ sở hạ tầng AI hiện vẫn là vấn đề giữa doanh nghiệp với doanh nghiệp, nhưng dữ liệu người tiêu dùng nằm trong cơ sở hạ tầng đó là thứ tạo ra đòn bẩy cho những cuộc tấn công này.

Đối với các tổ chức xây dựng hoặc vận hành hệ thống AI, đây là tín hiệu rõ ràng rằng các tạo phẩm mô hình cần có kỷ luật sao lưu, kiểm soát truy cập và giám sát giống như bất kỳ tài sản quan trọng nào khác. Coi một mô hình đã huấn luyện là dùng một lần hoặc dễ thay thế không còn là giả định an toàn.

Bài học hành động

  • Nếu bạn quản lý cơ sở hạ tầng AI, hãy đảm bảo trọng số mô hình và tạo phẩm huấn luyện được sao lưu riêng biệt khỏi các hệ thống sản xuất, với các bản sao ngoại tuyến hoặc bất biến.
  • Xem xét kiểm soát truy cập trên các nền tảng điều phối AI; các chiến dịch mã độc tống tiền tác tử đã khai thác các công cụ bị lộ hoặc cấu hình sai để giành chỗ đứng.
  • Với tư cách người tiêu dùng, hãy hỏi các nhà cung cấp dịch vụ cách họ bảo vệ các hệ thống AI xử lý dữ liệu của bạn, đặc biệt đối với các dịch vụ xử lý thông tin cá nhân hoặc tài chính nhạy cảm.
  • Cảnh giác với gián đoạn dịch vụ hoặc thông báo vi phạm từ các công ty bạn sử dụng; mã độc tống tiền nhắm vào hậu trường AI có thể trì hoãn việc khôi phục lâu hơn so với một sự cố ngừng hoạt động thông thường.

Sự tiến hóa của JadePuffer từ tống tiền cơ sở dữ liệu sang phá hủy mô hình AI là lời nhắc nhở rằng các toán tử mã độc tống tiền thích nghi nhanh chóng đến nơi tập trung giá trị và đòn bẩy. Khi các hệ thống AI trở thành cơ sở hạ tầng cốt lõi cho nhiều doanh nghiệp hơn, việc bảo vệ chúng sẽ cần trở thành một phần cốt lõi trong tư thế bảo mật của mọi người, chứ không phải là suy nghĩ muộn màng.