Nhóm Tin Tặc Aurora Lừa Cursor AI Để Xâm Nhập 7 Công Ty

Một Hình Thức Kỹ Thuật Xã Hội Mới: Đánh Lừa AI, Không Chỉ Con Người

Các băng đảng tống tiền đã dành nhiều năm để hoàn thiện nghệ thuật lừa nhân viên nhấp vào các liên kết xấu hoặc giao mật khẩu. Giờ đây, các nhà nghiên cứu cho biết một nhóm nói tiếng Nga đã tìm ra một mục tiêu mới cho sự thao túng tương tự: các công cụ AI mà các công ty ngày càng dựa vào để viết và sửa mã. Một nhóm có tên Aurora được cho là đã thuyết phục Cursor, một trợ lý lập trình AI phổ biến, rằng hoạt động tấn công của chúng chỉ là một "bài kiểm tra," qua đó vượt qua các hạn chế an toàn được thiết kế để ngăn công cụ này bị sử dụng cho mục đích độc hại. Kết quả là một vụ hack Cursor AI đã chạm tới ít nhất bảy công ty trước khi bị phát hiện.

Vụ việc này là lời nhắc nhở rằng các rào cản an toàn AI chỉ mạnh bằng những giả định được xây dựng bên trong chúng, và rằng những kẻ tấn công đang tích cực thăm dò những giả định đó để tìm ra điểm yếu.

Vụ Hack Cursor AI Đã Diễn Ra Như Thế Nào

Theo các báo cáo về sự việc, các nhà điều hành Aurora không cần tìm ra một lỗ hổng kỹ thuật để khiến tác nhân AI của Cursor làm việc thay cho chúng. Thay vào đó, chúng dường như đã sử dụng các lời nhắc được diễn đạt cẩn thận, đóng khung các yêu cầu độc hại thành hoạt động kiểm tra hoặc nghiên cứu hợp pháp, để khiến trợ lý này giúp đỡ các nhiệm vụ hỗ trợ cho cuộc xâm nhập của chúng. Khi các hạn chế của AI đã bị vượt qua, những kẻ tấn công được cho là đã sử dụng nó để hỗ trợ trinh sát và chuẩn bị tấn công, bao gồm tìm kiếm thông tin đăng nhập hợp lệ để tiến sâu hơn vào mạng lưới nạn nhân.

Các nạn nhân được xác định liên quan đến chiến dịch này được cho là trải rộng trên nhiều ngành công nghiệp và quốc gia, bao gồm một nhà sản xuất hóa chất và sản phẩm vệ sinh của Bỉ, một nhà sản xuất cửa gara của Đức, và một công ty bảo hiểm quyền sở hữu có trụ sở tại Louisiana. Các nhà nghiên cứu bảo mật đã kiểm tra một máy chủ bị lộ liên quan đến chiến dịch này cho biết trợ lý AI dường như đã tăng tốc đáng kể các phần của quá trình tấn công so với phương pháp thủ công, nhấn mạnh lý do tại sao các tác nhân đe dọa lại háo hức tích hợp các công cụ này vào hoạt động của chúng.

Đây không phải là lần đầu tiên tội phạm mạng nói tiếng Nga có liên quan đến các vụ xâm nhập doanh nghiệp tinh vi. Như đã đề cập trong báo cáo của chúng tôi về một tin tặc Nga bán quyền truy cập doanh nghiệp bị đánh cắp để do thám Ukraine, thông tin đăng nhập bị đánh cắp và quyền truy cập ban đầu thường được đóng gói và bán lại trong các hệ sinh thái tội phạm này, giúp các băng đảng tống tiền có lợi thế khi chúng sẵn sàng tấn công. Các công cụ như tác nhân AI của Cursor có thể chỉ là nguồn tài nguyên tiếp theo mà các mạng lưới này học cách khai thác.

Tại Sao Điều Này Quan Trọng Đối Với Quyền Riêng Tư, Không Chỉ Bảo Mật

Thật dễ dàng để xếp câu chuyện này vào mục "lạm dụng AI" và bỏ qua, nhưng các rủi ro về quyền riêng tư là đáng kể. Mọi công ty bị xâm nhập trong chiến dịch này được cho là đều nắm giữ hồ sơ khách hàng, dữ liệu nhân viên, thông tin tài chính hoặc thông tin độc quyền có thể bị phơi bày, bán ra, hoặc được sử dụng cho các cuộc tấn công tiếp theo. Khi các băng đảng tống tiền có được sự tăng năng suất từ các công cụ AI, toàn bộ vòng đời tấn công, từ tìm mật khẩu hợp lệ đến xác định dữ liệu có giá trị, diễn ra nhanh hơn. Điều đó có nghĩa là các tổ chức nạn nhân có ít thời gian hơn để phát hiện xâm nhập trước khi dữ liệu nhạy cảm bị đánh cắp.

Cũng có một câu hỏi lớn hơn về lòng tin. Hàng triệu nhà phát triển và doanh nghiệp sử dụng trợ lý lập trình AI hàng ngày, thường cấp cho chúng quyền truy cập rộng rãi vào kho mã, hệ thống nội bộ và thông tin đăng nhập. Nếu các kiểm soát an toàn của một tác nhân AI có thể bị thuyết phục để từ chối các yêu cầu có hại, điều đó đặt ra những câu hỏi khó chịu về việc thực sự có bao nhiêu sự giám sát đang diễn ra phía sau hậu trường, và các nhà cung cấp AI có thể vá các lỗ hổng kỹ thuật xã hội này nhanh đến mức nào sau khi chúng bị phát hiện.

Điều Này Có Ý Nghĩa Gì Đối Với Bạn

Hầu hết độc giả không điều hành một nhà máy sản xuất hóa chất hay một công ty bảo hiểm, nhưng sự việc này vẫn có liên quan thực tế. Nếu nơi làm việc của bạn sử dụng các công cụ lập trình AI, hãy hỏi liệu bộ phận CNTT hoặc an ninh đã xem xét cách các công cụ đó xử lý các yêu cầu bất thường hoặc đáng ngờ hay chưa. Nếu bạn là nhà phát triển, hãy lưu ý rằng các lời nhắc được đóng khung là "kiểm tra" hoặc "nghiên cứu" không tự động khiến một hành động trở nên an toàn, và việc báo cáo hành vi AI bất thường cho đội ngũ an ninh của bạn là một bước đáng làm thêm.

Đối với người dùng hàng ngày, thông điệp chính gián tiếp hơn nhưng vẫn quan trọng: các sự việc như thế này làm tăng khả năng dữ liệu cá nhân của bạn, được lưu giữ bởi bất kỳ công ty nào bị cuốn vào một vụ vi phạm, có thể bị phơi bày. Đó là một lời nhắc tốt để xem xét lại vệ sinh mật khẩu của chính bạn, bật xác thực đa yếu tố ở bất cứ nơi nào được cung cấp, và theo dõi các thông báo từ các dịch vụ bạn sử dụng trong trường hợp một trong số chúng hóa ra là nạn nhân gián tiếp.

Những Điểm Chính

• Một nhóm tống tiền nói tiếng Nga được cho là đã vượt qua các hạn chế an toàn của Cursor AI bằng cách đóng khung hoạt động độc hại như một bài kiểm tra, sau đó sử dụng công cụ này để giúp xâm nhập bảy công ty.
• Các nạn nhân được cho là trải rộng trên nhiều lĩnh vực và quốc gia, cho thấy không ngành công nghiệp nào an toàn tuyệt đối trước các cuộc tấn công có sự hỗ trợ của AI.
• Các doanh nghiệp sử dụng trợ lý lập trình AI nên xem xét các kiểm soát an toàn của nhà cung cấp và đào tạo nhân viên nhận diện các nỗ lực kỹ thuật xã hội nhắm vào các công cụ AI, không chỉ con người.
• Các cá nhân nên giả định rằng các vụ vi phạm như thế này làm tăng rủi ro phơi bày dữ liệu rộng hơn và phản ứng bằng cách tăng cường mật khẩu và bật xác thực đa yếu tố trên các tài khoản của họ.

Khi các công cụ AI ngày càng được tích hợp sâu vào hoạt động kinh doanh hàng ngày, các sự việc như vụ hack Cursor AI này cho thấy các rào cản an toàn cần phải phát triển nhanh như những kẻ tấn công đang thử nghiệm chúng.