AI Tiên Tiến Cũng Không Thể Ngăn Chặn Kẻ Tấn Công

Một báo cáo chi tiết về cách Hugging Face đối phó với các tác nhân AI độc hại đã xuất hiện cùng với một phát hiện riêng biệt, đáng chú ý không kém từ các nhà nghiên cứu bảo mật tại Sysdig: các mô hình ngôn ngữ lớn không còn chỉ là công cụ kẻ tấn công dùng để viết email lừa đảo hay mã độc. Giờ đây, chúng có thể tự mình thực hiện toàn bộ các cuộc tấn công mạng, từ đầu đến cuối.

Theo báo cáo về sự cố Hugging Face, các mô hình ngôn ngữ lớn (LLM) thương mại tiên tiến nhất đã không thể giúp công ty chống lại cái mà báo cáo mô tả là "các tác nhân xấu xa", những hệ thống AI dường như đang được kẻ tấn công sử dụng để thăm dò hoặc khai thác nền tảng. Báo cáo hiện có không trình bày chi tiết chính xác cuộc đối đầu đã diễn ra như thế nào hay tại sao các mô hình tiên tiến lại thất bại, nhưng phát hiện chính này tự nó đã rất đáng kể: ngay cả những mô hình AI đa năng mạnh nhất trên thị trường cũng không đủ sức chống lại một mối đe dọa do AI điều khiển.

Sysdig Ghi Nhận Một Cuộc Tấn Công Tống Tiền Do AI Vận Hành

Riêng biệt, và sớm hơn trong cùng tháng, các thợ săn mối đe dọa tại Sysdig đã ghi nhận cái mà họ mô tả là vụ lây nhiễm mã độc tống tiền hoàn toàn tác tử đầu tiên được ghi nhận, nghĩa là một LLM, chứ không phải người điều khiển, đã dẫn dắt toàn bộ chiến dịch tống tiền từ đầu đến cuối. Theo phát hiện của Sysdig, tác tử AI đã tự mình xử lý toàn bộ chuỗi tấn công: giành quyền truy cập ban đầu vào môi trường mục tiêu, di chuyển ngang để xâm phạm một máy chủ cơ sở dữ liệu sản xuất, và cuối cùng là hủy dữ liệu trên hệ thống đó.

Chi tiết cuối cùng này rất quan trọng. Mã độc tống tiền truyền thống thường mã hóa dữ liệu và đòi tiền chuộc, với lời hứa ngầm rằng trả tiền sẽ lấy lại được tệp. Việc hủy dữ liệu hoàn toàn loại bỏ tính toán đó. Nếu một tác tử tự động đưa ra quyết định thời gian thực về cách leo thang tấn công, không có gì đảm bảo nó sẽ hành xử có thể dự đoán được, hay nạn nhân sẽ có bất kỳ con đường khôi phục nào sau khi thiệt hại đã xảy ra.

Tại Sao Chuỗi Tấn Công Do AI Điều Khiển Làm Thay Đổi Mô Hình Đe Dọa

Điều tách biệt phát hiện này khỏi nhiều năm bàn tán về tội phạm mạng được AI hỗ trợ chính là từ "tác tử". Các đội an ninh mạng đã dành vài năm qua để nói về việc kẻ tấn công sử dụng AI sinh tạo để viết các mồi nhử lừa đảo thuyết phục hơn hoặc gỡ lỗi mã độc nhanh hơn. Những gì Sysdig mô tả là một bước tiến xa hơn: một hệ thống AI tự đưa ra các quyết định tuần tự về cách xâm nhập mạng, leo thang đặc quyền, định vị dữ liệu giá trị và hủy nó, phần lớn không cần con người chỉ đạo từng bước.

Đối với các tổ chức, điều này thay đổi mô hình đe dọa theo hai cách. Thứ nhất, các cuộc tấn công giờ đây có thể diễn ra với tốc độ máy, với một tác tử lặp qua các kỹ thuật nhanh hơn nhiều so với người điều khiển. Thứ hai, các đội phòng thủ không còn có thể cho rằng sự hiện diện của các mẫu tấn công quen thuộc nghĩa là có con người đứng sau bàn phím. Các chiến lược phát hiện và phản ứng được xây dựng dựa trên các tín hiệu hành vi con người có thể cần phải tính đến một đối thủ không biết mệt mỏi, không do dự, và không nhất thiết phải tuân theo các kịch bản mà đội phòng thủ đã huấn luyện.

Điều Này Có Ý Nghĩa Gì Với Bạn

Hầu hết độc giả của vpn.social không vận hành các máy chủ cơ sở dữ liệu sản xuất, nhưng bài học cơ bản được áp dụng rộng rãi. Cho dù bạn là một cá nhân quản lý các tài khoản cá nhân hay một chủ doanh nghiệp nhỏ chịu trách nhiệm về dữ liệu khách hàng, sự trỗi dậy của các cuộc tấn công do AI điều khiển có nghĩa là các nguyên tắc cơ bản về bảo vệ dữ liệu trở nên quan trọng hơn bao giờ hết, chứ không phải ít đi.

Điều đó bắt đầu bằng việc giả định rằng bất kỳ hệ thống nào bị lộ hoặc được bảo mật kém, dù là cá nhân hay doanh nghiệp, giờ đây đều là mục tiêu cho việc trinh sát và khai thác tự động, chứ không chỉ là những kẻ tấn công cơ hội là con người. Giám sát lỗ hổng thường xuyên, thông tin đăng nhập mạnh và duy nhất, xác thực đa yếu tố, và các bản sao lưu ngoại tuyến hoặc bất biến không còn là các hạng mục vệ sinh tùy chọn; chúng là tuyến phòng thủ cơ bản chống lại một đối thủ giờ đây có thể tấn công suốt ngày đêm mà không mệt mỏi. Nếu dữ liệu của bạn từng rơi vào một sự cố như Sysdig mô tả, sự khác biệt giữa một vụ xâm phạm có thể khôi phục và mất dữ liệu vĩnh viễn có thể nằm ở chỗ liệu có một bản sao lưu sạch tồn tại ở đâu đó mà kẻ tấn công không thể với tới hay không.

Các Biện Pháp Hành Động Cụ Thể

  • Sao lưu dữ liệu quan trọng thường xuyên, và giữ ít nhất một bản sao ngoại tuyến hoặc cách ly khác khỏi mạng chính của bạn.
  • Bật xác thực đa yếu tố ở mọi nơi nó được cung cấp, vì các tác tử tự động sẽ tìm kiếm con đường ít trở ngại nhất.
  • Giám sát các thông báo về lộ lọt dữ liệu liên quan đến các dịch vụ bạn sử dụng, và hành động nhanh nếu thông tin đăng nhập của bạn xuất hiện trong một sự cố đã biết.
  • Coi các công cụ AI, cả tấn công lẫn phòng thủ, đều đang tiến hóa nhanh chóng. Những gì hiệu quả như một biện pháp bảo vệ sáu tháng trước có thể không đứng vững trước một tác tử tự động ngày nay.

Khi các hệ thống AI đảm nhận vai trò tự động hơn trong các cuộc tấn công mạng, những tổ chức và cá nhân thích ứng phòng thủ của mình sớm sẽ là những người ở vị trí tốt nhất để vượt qua những gì sắp tới.