Một Khung Phát Hiện Mới Cho Các Mối Đe Dọa Tích Hợp AI

Các nhà nghiên cứu bảo mật đã dành vài năm qua để cảnh báo rằng tội phạm cuối cùng sẽ tạo ra phần mềm độc hại có khả năng sử dụng trí tuệ nhân tạo một cách tự chủ, không cần con người gõ lệnh phía sau. Lời cảnh báo đó giờ đã trở thành hiện thực được ghi nhận. Các nhà nghiên cứu của Cisco Talos đã phát triển một khung phát hiện mới được thiết kế đặc biệt để nhận diện phần mềm độc hại và công cụ tấn công dựa vào chatbot AI để ra quyết định. Trong khi thử nghiệm công cụ này, họ đã tìm thấy một điều mà họ không ngờ tới: phần mềm độc hại tham vấn nhiều mô hình ngôn ngữ lớn để quyết định làm gì tiếp theo, mà không có người vận hành chỉ đạo theo thời gian thực.

Khung này, được xây dựng để phân loại và phân tích phần mềm độc hại tích hợp AI, đã cho Talos một cách để phát hiện các mẫu mà chữ ký antivirus truyền thống và phân tích hành vi thường bỏ sót. Thay vì chỉ tìm kiếm mã độc đã biết, công cụ này tìm kiếm những dấu hiệu đặc trưng của phần mềm truy vấn các mô hình AI giữa lúc thực thi, về cơ bản là hỏi chatbot nên thực hiện bước tiếp theo nào bên trong một hệ thống bị xâm phạm.

Bên Trong CLOSEDQUORUM: Phần Mềm Độc Hại Có Hội Đồng AI Riêng

Phát hiện gây ấn tượng nhất từ nghiên cứu này là một đoạn phần mềm độc hại mà các nhà nghiên cứu đặt tên là CLOSEDQUORUM. Thay vì dựa vào một mô hình AI duy nhất để được hướng dẫn, CLOSEDQUORUM được cho là liên hệ với nhiều mô hình ngôn ngữ lớn khác nhau và cân nhắc phản hồi của chúng trước khi hành động, hoạt động gần như một ủy ban nhỏ gồm các cố vấn AI cùng nhau đưa ra quyết định. Chính thiết kế đó đã khiến một số người trong cộng đồng bảo mật mô tả nó như một "hive mind" AI dẫn dắt hoạt động độc hại.

Điều này quan trọng vì nó loại bỏ một trong những ràng buộc lớn nhất đối với tội phạm mạng: nhu cầu con người phải tham gia. Phần mềm độc hại truyền thống thường cần người vận hành gửi lệnh mới, điều chỉnh chiến thuật khi phòng thủ thay đổi, hoặc quyết định cách phản ứng với một trở ngại bất ngờ. Phần mềm độc hại có thể truy vấn nhiều hệ thống AI và tổng hợp đầu vào của chúng có khả năng tự thích nghi, ở tốc độ máy, mà không cần chờ một người đăng nhập và đưa ra hướng dẫn.

Phát hiện này xuất hiện cùng với những phát hiện gần đây khác chỉ về cùng một hướng. Đầu năm nay, Nhóm Tình Báo Mối Đe Dọa của Google đã xác nhận rằng AI đang được sử dụng để thúc đẩy phát triển khai thác zero-day, cho thấy vai trò của AI trong các hoạt động tấn công mạng đã vượt xa thảo luận lý thuyết. Phát hiện của Talos về CLOSEDQUORUM bổ sung thêm một dữ kiện: AI không chỉ giúp kẻ tấn công viết mã nhanh hơn, mà còn được nhúng trực tiếp vào logic vận hành của phần mềm độc hại.

Hàm Ý Về Quyền Riêng Tư Của Phần Mềm Độc Hại Tự Chủ

Đối với người dùng internet hàng ngày, sự xuất hiện của phần mềm độc hại do AI dẫn dắt như CLOSEDQUORUM làm dấy lên những lo ngại thực sự về quyền riêng tư, ngay cả khi các chi tiết kỹ thuật trước mắt nhắm đến các nhà phòng thủ doanh nghiệp. Phần mềm độc hại có thể tự quyết định cách di chuyển trong mạng, dữ liệu nào có vẻ có giá trị, hoặc cách tránh bị phát hiện có thể hiệu quả hơn nhiều trong việc định vị và đánh cắp thông tin cá nhân so với phần mềm độc hại phụ thuộc vào người vận hành kiểm tra định kỳ.

Việc ra quyết định tự chủ cũng làm phức tạp việc quy kết và ứng phó. Khi một người vận hành chỉ đạo một cuộc tấn công, các đội bảo mật đôi khi có thể dự đoán hành vi dựa trên các mẫu đã biết gắn với một nhóm cụ thể. Phần mềm độc hại tham vấn các mô hình AI ngay lập tức có thể hành xử khó đoán hơn, tạo ra các đường tấn công mới không khớp với bất kỳ kỹ thuật nào đã được lập danh mục trước đó. Chính sự khó đoán đó là lý do Talos xây dựng một khung chuyên dụng thay vì dựa vào các phương pháp phát hiện hiện có; mục tiêu là bắt các mối đe dọa tích hợp AI trước khi chúng có thể âm thầm thu thập thông tin đăng nhập, dữ liệu tài chính hoặc tệp cá nhân.

Điều Này Có Ý Nghĩa Gì Với Bạn

Hầu hết người dùng cá nhân sẽ không bị nhắm mục tiêu trực tiếp bởi phần mềm độc hại do AI dẫn dắt tiên tiến như CLOSEDQUORUM trong ngắn hạn. Những công cụ như thế này có xu hướng xuất hiện trước tiên trong các cuộc xâm nhập có mục tiêu nhắm vào doanh nghiệp, cơ sở hạ tầng hoặc mạng có giá trị cao. Nhưng xu hướng cơ bản quan trọng với tất cả mọi người: khi AI hạ thấp rào cản kỹ thuật để xây dựng phần mềm độc hại thích nghi, khối lượng và độ tinh vi của các cuộc tấn công đến người tiêu dùng thông thường có khả năng sẽ tăng lên theo thời gian. Email lừa đảo, trang đăng nhập giả và tải xuống độc hại có thể ngày càng được tạo ra hoặc tinh chỉnh với sự hỗ trợ của AI, khiến chúng khó phát hiện hơn với lời khuyên cũ là "hãy tìm lỗi chính tả và ngữ pháp kém."

Việc các nhà nghiên cứu đang xây dựng các khung phát hiện dành riêng cho các mối đe dọa tích hợp AI là một dấu hiệu tích cực. Điều đó có nghĩa là cộng đồng bảo mật đang coi đây là ưu tiên ngay bây giờ, thay vì phản ứng sau khi phần mềm độc hại do AI dẫn dắt trở nên phổ biến.

Những Điểm Cần Hành Động

  • Giữ hệ điều hành, trình duyệt và phần mềm bảo mật được cập nhật, vì các hệ thống đã vá vẫn là tuyến phòng thủ đầu tiên chống lại cả phần mềm độc hại truyền thống và được AI hỗ trợ.
  • Hãy hoài nghi với các tin nhắn hoặc liên kết bất ngờ ngay cả khi chúng có vẻ được viết tốt và không có lỗi, vì AI giờ có thể giúp kẻ tấn công tạo ra nội dung thuyết phục ở quy mô lớn.
  • Sử dụng trình quản lý mật khẩu uy tín và bật xác thực đa yếu tố bất cứ khi nào có thể, giảm giá trị của bất kỳ thông tin đăng nhập bị đánh cắp đơn lẻ nào.
  • Theo dõi báo cáo từ các nhà nghiên cứu bảo mật uy tín để luôn nhận thức về cách AI đang thay đổi bối cảnh mối đe dọa, thay vì dựa vào giả định về những gì phần mềm độc hại có thể hoặc không thể làm.

Phần mềm độc hại do AI dẫn dắt như CLOSEDQUORUM là lời nhắc nhở rằng các mối đe dọa an ninh mạng tiến hóa liên tục, và các khung phát hiện mới là một trong những công cụ mạnh nhất mà các nhà nghiên cứu có để đi trước. Luôn cập nhật thông tin về những phát triển như thế này là một trong những cách đơn giản nhất để bảo vệ quyền riêng tư của chính bạn trong những tháng tới.