Tin Tặc Nga Vũ Khí Hóa Các Rào Cản An Toàn AI Chống Lại Các Công Cụ Bảo Mật
Một chiến dịch phần mềm độc hại mới được báo cáo có liên quan đến tin tặc Nga đã áp dụng một cách tiếp cận bất thường để trốn tránh bị phát hiện: nhúng một yêu cầu vũ khí hạt nhân giả vào bên trong một tập lệnh VBS độc hại. Mục tiêu không phải là để chế tạo vũ khí, mà là để gây nhầm lẫn cho các hệ thống AI ngày càng được sử dụng để phân tích mã đáng ngờ. Bằng cách chèn ngôn ngữ mô phỏng một yêu cầu thông tin về vũ khí hạt nhân, các tác nhân tấn công dường như đang cố gắng kích hoạt các rào cản an toàn được tích hợp trong các mô hình AI, khiến các hệ thống này từ chối xử lý hoặc phân tích đầy đủ tệp tin.
Chiến thuật này làm nổi bật một căng thẳng ngày càng tăng trong an ninh mạng: khi ngày càng nhiều đội ngũ bảo mật dựa vào các công cụ AI để phân loại và phân tích phần mềm độc hại trên quy mô lớn, các tác nhân tấn công đang học cách khai thác chính các cơ chế an toàn được thiết kế để làm cho các công cụ đó đáng tin cậy.
Cách Thức Hoạt Động Của Mẹo Lừa Lời Nhắc Vũ Khí Hạt Nhân
Các rào cản an toàn AI tồn tại vì những lý do chính đáng. Các mô hình ngôn ngữ lớn được huấn luyện để từ chối các yêu cầu có thể tạo điều kiện cho tác hại trong thế giới thực, bao gồm cả hướng dẫn chi tiết liên quan đến vũ khí hủy diệt hàng loạt. Khi một công cụ bảo mật hỗ trợ AI quét một tệp tin, nó thường đọc nội dung, bao gồm cả văn bản được nhúng, như một phần của quá trình phân tích.
Bằng cách cài đặt ngôn ngữ giống với yêu cầu vũ khí hạt nhân bên trong tập lệnh VBS, các tin tặc dường như đang trông cậy vào hành vi từ chối được tích hợp sẵn của mô hình AI sẽ kích hoạt. Thay vì gắn cờ tệp tin là phần mềm độc hại, AI có thể dừng lại, từ chối tiếp tục phân tích, hoặc đưa ra đánh giá không đầy đủ hoặc không đáng tin cậy. Trên thực tế, nội dung độc hại trở thành một loại mồi nhử, sử dụng chính quá trình huấn luyện đạo đức của AI để chống lại nó.
Đây không phải là một lỗ hổng duy nhất ở một nhà cung cấp hoặc sản phẩm cụ thể nào. Nó phản ánh một thách thức rộng lớn hơn: các rào cản an toàn thường được thiết kế xung quanh việc kiểm duyệt nội dung và ngăn ngừa tác hại, chứ không phải để chống lại sự né tránh đối nghịch trong quá trình phân tích phần mềm độc hại kỹ thuật. Khi hai mục tiêu này xung đột, các tác nhân tấn công sẽ có cơ hội.
Tại Sao Điều Này Quan Trọng Đối Với Phân Tích Bảo Mật Hỗ Trợ AI
Các đội ngũ bảo mật đã nhanh chóng áp dụng các công cụ AI để giúp xử lý khối lượng lớn các tệp tin đáng ngờ, các nỗ lực lừa đảo và tập lệnh mà họ gặp phải hàng ngày. Các công cụ này hứa hẹn phân loại nhanh hơn và có thể phát hiện các mẫu mà các nhà phân tích con người có thể bỏ sót. Nhưng sự cố này là một lời nhắc nhở rằng các hệ thống AI được sử dụng trong quy trình bảo mật mang bề mặt tấn công của riêng chúng, một bề mặt mà việc phát hiện phần mềm độc hại truyền thống không được thiết kế để lường trước.
Nếu một mô hình AI có thể bị thao túng để bỏ qua hoặc làm giảm nhẹ quá trình phân tích chỉ vì một tệp tin chứa các từ kích hoạt nhất định, đó là một điểm mù đáng kể. Điều này cũng đặt ra câu hỏi về việc các tổ chức nên dựa vào phân tích do AI điều khiển ở mức độ nào mà không có sự giám sát của con người, đặc biệt là đối với các quyết định rủi ro cao như liệu một tệp tin có an toàn để mở hoặc thực thi hay không.
Loại chiến thuật này phù hợp với một mô hình rộng lớn hơn về việc các tác nhân tấn công thích nghi kỹ thuật của chúng với bất kỳ ai, hoặc bất kỳ điều gì, đang thực hiện việc phòng thủ. Cũng giống như các nhà điều hành ransomware đã chuyển mục tiêu kỹ thuật xã hội của họ sang các nhà quản lý ở giai đoạn giữa sự nghiệp thay vì các giám đốc điều hành, các tác giả phần mềm độc hại hiện đang điều chỉnh kỹ thuật né tránh của họ cho phù hợp với các hệ thống cụ thể, bao gồm cả các mô hình AI, những thứ đứng giữa chúng và mục tiêu của chúng.
Điều Này Có Ý Nghĩa Gì Đối Với Bạn
Đối với hầu hết người dùng cá nhân, kỹ thuật cụ thể này nhắm vào cơ sở hạ tầng bảo mật doanh nghiệp thay vì trực tiếp nhắm vào thiết bị cá nhân. Bạn khó có thể gặp phải mẹo lừa tập lệnh VBS cụ thể này trên máy tính của chính mình theo cách ảnh hưởng đến thói quen duyệt web hoặc email hàng ngày của bạn. Nhưng bài học cơ bản áp dụng rộng rãi: các công cụ tự động, cho dù là trình quét phần mềm độc hại dựa trên AI, bộ lọc thư rác hay phần mềm chống vi-rút, đều không hoàn hảo, và các tác nhân tấn công đang tích cực nghiên cứu cách khai thác các điểm mù của chúng.
Nếu nơi làm việc của bạn sử dụng các công cụ bảo mật hỗ trợ AI, đây là thời điểm hữu ích để đặt câu hỏi về cách các công cụ đó được xác thực và liệu các nhà phân tích con người có vẫn xem xét các tệp tin được gắn cờ hoặc không được gắn cờ hay không. Đối với cá nhân, bài học rút ra mang tính tổng quát hơn: đừng cho rằng chỉ vì một tệp tin không bị trình quét tự động gắn cờ, nó tự động an toàn. Các lớp phòng thủ, sự thận trọng đối với các tập lệnh hoặc tệp đính kèm bất ngờ, và vệ sinh bảo mật cơ bản vẫn quan trọng như mọi khi.
Các Bài Học Hành Động
- Tránh mở các tệp VBS, tập lệnh hoặc tài liệu có bật macro không được yêu cầu, bất kể chúng đã được quét tự động làm sạch hay chưa.
- Nếu bạn quản lý các công cụ bảo mật tại nơi làm việc, hãy hỏi liệu phân tích phần mềm độc hại hỗ trợ AI có bao gồm việc xem xét dự phòng của con người đối với các tệp tin kích hoạt từ chối hoặc quét không đầy đủ hay không.
- Giữ các lớp phát hiện truyền thống, như chống vi-rút dựa trên chữ ký và giám sát mạng, song song với các công cụ AI mới hơn thay vì thay thế hoàn toàn chúng.
- Cập nhật thông tin về cách các tác nhân tấn công đang thích nghi với các biện pháp phòng thủ do AI điều khiển, vì các kỹ thuật như thế này có khả năng sẽ tiến hóa chứ không biến mất.
Khi AI ngày càng được tích hợp sâu hơn vào các quy trình an ninh mạng, các sự cố như thế này cho thấy rằng các rào cản được thiết kế để giữ cho hệ thống AI an toàn cũng có thể trở thành mục tiêu theo cách riêng của chúng. Việc cập nhật thông tin về các chiến thuật mới nổi này, và duy trì các lớp phòng thủ có sự xem xét của con người, vẫn là cách tốt nhất để đi trước các tác nhân tấn công luôn tìm kiếm những điểm yếu mới để khai thác.
