Theo báo cáo từ Help Net Security, các kẻ tấn công đã xây dựng một tác nhân AI được thiết kế cho LLMjacking. Tác nhân này chiếm quyền điều khiển các mô hình AI bị phơi bày và sử dụng chúng để đánh cắp thông tin xác thực và đào tiền mã hóa. Chi phí đổ lên đầu nạn nhân. Đối với bất kỳ ai đang vận hành mô hình tự lưu trữ hoặc nắm giữ khóa API AI trả phí, LLMjacking phơi bày các mô hình AI giờ đây là một rủi ro thực tế đáng để hiểu rõ.
LLMjacking là gì và tác nhân hoạt động như thế nào
LLMjacking là việc chiếm quyền điều khiển một mô hình ngôn ngữ lớn (LLM) mà người khác sở hữu hoặc trả tiền. Thay vì mua sức mạnh tính toán hoặc quyền truy cập API, kẻ tấn công tìm một mô hình có thể truy cập được hoặc một khóa đã bị rò rỉ, và sử dụng nó miễn phí. Nạn nhân trả hóa đơn.
Điều mới ở đây là tự động hóa. Báo cáo mô tả một tác nhân AI được xây dựng cho mục đích này. Thay vì một người săn lùng thủ công các dịch vụ bị cấu hình sai, phần mềm thực hiện việc tìm kiếm và chiếm quyền điều khiển. Các mục tiêu được báo cáo là đánh cắp thông tin xác thực và đào tiền mã hóa, cả hai đều biến một mô hình bị chiếm quyền thành lợi nhuận trực tiếp cho kẻ tấn công.
Nguồn tin chỉ mô tả công cụ này ở mức độ tổng quan, và chúng tôi sẽ không suy đoán vượt ra ngoài đó. Điểm rộng hơn vẫn đúng: khi việc phát hiện và khai thác được tự động hóa, một dịch vụ bị phơi bày không cần phải thú vị để bị tìm thấy. Nó chỉ cần có thể truy cập được.
Các khóa và dịch vụ AI bị phơi bày bị chiếm quyền như thế nào
Mô thức được gợi ý rất đơn giản. Một tác nhân quét tìm các mô hình AI và điểm cuối API bị phơi bày, sau đó chiếm quyền điều khiển những gì nó tìm thấy. Hai loại phơi bày quan trọng nhất:
- Điểm cuối bị phơi bày. Một mô hình tự lưu trữ hoặc giao diện AI có thể truy cập được từ internet, thường do một cài đặt tiện lợi, một cổng được chuyển tiếp, hoặc thiếu đăng nhập.
- Thông tin xác thực bị phơi bày. Các khóa API nằm ở những nơi không nên có, chẳng hạn như kho mã nguồn, tệp cấu hình chia sẻ, hoặc các dự án cũ không ai nhớ đến.
Khi kẻ tấn công có được một trong hai, mô hình sẽ làm việc cho họ. Quá trình tính toán chạy trên phần cứng hoặc tài khoản của bạn, và mức sử dụng sẽ hiện trên hóa đơn của bạn hoặc làm chậm máy của bạn.
Khía cạnh đánh cắp thông tin xác thực thêm một lớp lo ngại thứ hai. Một dịch vụ AI bị chiếm quyền không chỉ là một tài nguyên miễn phí. Nó còn có thể trở thành cách để thu thập thêm thông tin xác thực, đó là lý do tại sao một khóa bị lãng quên có thể biến thành một vấn đề rộng hơn.
Điều này có ý nghĩa gì với bạn
Nếu bạn chỉ sử dụng AI thông qua một ứng dụng trò chuyện tiêu dùng, mức phơi bày trực tiếp của bạn là hạn chế. Rủi ro tăng lên khi bạn làm nhiều hơn những điều sau:
- Bạn chạy mô hình tại nhà. Những người đam mê máy chủ gia đình lưu trữ LLM cục bộ, giao diện web, hoặc công cụ tự động hóa là những mục tiêu rõ ràng nhất. Một dịch vụ AI không có xác thực trên một cổng được chuyển tiếp là loại thứ mà một trình quét tự động được xây dựng để tìm thấy.
- Bạn nắm giữ khóa API. Các nhà phát triển và người đam mê kết nối dịch vụ AI với các script, tiện ích trình duyệt, hoặc dự án phụ có thể có khóa rải rác ở nhiều nơi.
- Bạn tái sử dụng thông tin xác thực. Nếu một hệ thống bị chiếm quyền làm lộ mật khẩu bạn dùng ở nơi khác, thiệt hại lan rộng ra ngoài dịch vụ AI. Việc tái sử dụng biến một sự cố thành nhiều sự cố.
Khía cạnh tài chính cũng dễ bị bỏ qua. Việc đào tiền mã hóa và sử dụng mô hình nặng tiêu tốn tài nguyên một cách âm thầm. Bạn có thể chỉ nhận ra khi hóa đơn tăng vọt, phần cứng chạy nóng, hoặc nhà cung cấp gắn cờ hoạt động bất thường.
Điều này phù hợp với một xu hướng rộng hơn. Kẻ tấn công ngày càng sử dụng AI để tấn công, không chỉ nhắm vào nó. Bài viết của chúng tôi về cách tin tặc Nga sử dụng Claude AI để xây dựng lại phần mềm độc hại bị phát hiện cho thấy sự chuyển dịch tương tự sang các công cụ hỗ trợ AI ở phía kẻ tấn công.
Cách khóa chặt khóa API, phơi bày mạng và cài đặt máy chủ gia đình
Không có bước nào trong số này là lạ lẫm. Hầu hết là vệ sinh cơ bản được áp dụng cho một loại dịch vụ mới hơn.
Đối xử với khóa API như mật khẩu.
- Liệt kê mọi dịch vụ AI bạn trả tiền hoặc đã kết nối với một dự án.
- Xoay vòng các khóa bạn không còn nhận ra hoặc chưa sử dụng gần đây, và xóa những khóa bạn không cần.
- Giữ khóa ngoài các kho mã nguồn và tài liệu chia sẻ. Sử dụng biến môi trường hoặc trình quản lý mật khẩu thay thế.
- Ở nơi nhà cung cấp cho phép, đặt giới hạn chi tiêu và cảnh báo sử dụng để một khóa bị chiếm quyền được phát hiện nhanh chóng.
- Sử dụng một khóa riêng cho mỗi dự án để một rò rỉ không làm lộ mọi thứ.
Giảm phơi bày mạng.
- Kiểm tra router của bạn để tìm các quy tắc chuyển tiếp cổng và xóa bất kỳ quy tắc nào bạn không nhớ đã tạo.
- Không phơi bày trực tiếp các giao diện AI tự lưu trữ ra internet. Nếu bạn cần truy cập từ xa, hãy đặt nó sau một VPN hoặc một đường hầm có xác thực khác do bạn kiểm soát.
- Bật xác thực cho mọi giao diện web hoặc API AI bạn chạy, ngay cả khi nó chỉ tồn tại trên mạng gia đình của bạn.
- Giữ phần mềm mô hình và các phụ thuộc của nó được cập nhật.
Theo dõi các dấu hiệu cảnh báo.
- Các khoản phí hoặc đợt tăng sử dụng bất ngờ trên tài khoản AI.
- Tải CPU hoặc GPU cao liên tục khi bạn không chạy gì.
- Nhật ký hiển thị các yêu cầu từ các địa chỉ bạn không nhận ra.
Khắc phục việc tái sử dụng thông tin xác thực. Sử dụng mật khẩu duy nhất cho mỗi dịch vụ và bật xác thực đa yếu tố ở nơi có sẵn. Nếu một dịch vụ bị chiếm quyền từng làm lộ mật khẩu, thông tin xác thực duy nhất giúp giữ hậu quả trong tầm kiểm soát.
Điểm chính
Báo cáo ngắn, nhưng bài học rất rõ ràng. LLMjacking phơi bày các mô hình AI đang trở thành một hoạt động tự động, có thể mở rộng, và những người trả giá là chủ sở hữu của các khóa và máy chủ bị phơi bày. Bạn không cần phải ngừng sử dụng các công cụ AI. Bạn cần biết khóa của mình nằm ở đâu và mạng của bạn đang phơi bày những gì.
Hôm nay, hãy dành vài phút để kiểm tra các khóa API AI của bạn, kiểm tra bất kỳ dịch vụ AI tự lưu trữ nào bạn đang chạy, và xem xét các quy tắc chuyển tiếp cổng của router. Nếu bạn muốn thêm bối cảnh về cách kẻ tấn công đang đưa AI vào hoạt động, hãy đọc bài viết của chúng tôi về phát triển phần mềm độc hại hỗ trợ AI.
