Według raportu Help Net Security atakujący zbudowali agenta AI przeznaczonego do LLMjacking. Agent przejmuje ujawnione modele AI i wykorzystuje je do kradzieży danych uwierzytelniających oraz kopania kryptowalut. Koszt ponosi ofiara. Dla każdego, kto uruchamia model self-hosted lub posiada płatny klucz API AI, LLMjacking ujawniający modele AI jest teraz realnym ryzykiem, które warto zrozumieć.

Czym jest LLMjacking i jak działa agent

LLMjacking to przejęcie dużego modelu językowego (LLM), którego właścicielem lub płatnikiem jest ktoś inny. Zamiast kupować moc obliczeniową lub dostęp do API, atakujący znajduje model, do którego można dotrzeć, lub klucz, który wyciekł, i używa go za darmo. Ofiara płaci rachunek.

Nowością jest tutaj automatyzacja. Raport opisuje agenta AI zbudowanego w tym celu. Zamiast osoby ręcznie szukającej błędnie skonfigurowanych usług, oprogramowanie zajmuje się znajdowaniem i przejmowaniem. Zgłaszanymi celami są kradzież danych uwierzytelniających i kopanie kryptowalut, co w obu przypadkach zamienia przejęty model w bezpośredni zysk dla atakującego.

Źródło opisuje narzędzie tylko ogólnie i nie będziemy spekulować poza tym zakresem. Szerszy punkt pozostaje aktualny: gdy wykrywanie i eksploatacja są zautomatyzowane, ujawniona usługa nie musi być interesująca, żeby zostać znaleziona. Wystarczy, że jest osiągalna.

Jak ujawnione klucze i usługi AI są przejmowane

Sugerowany schemat jest prosty. Agent skanuje w poszukiwaniu ujawnionych modeli AI i punktów końcowych API, a następnie przejmuje kontrolę nad tym, co znajdzie. Znaczenie mają dwa rodzaje ekspozycji:

  • Ujawnione punkty końcowe. Model self-hosted lub interfejs AI osiągalny z internetu, często z powodu wygodnego ustawienia, przekierowanego portu lub brakującego logowania.
  • Ujawnione dane uwierzytelniające. Klucze API znajdujące się w miejscach, w których nie powinny być, takich jak repozytoria kodu, współdzielone pliki konfiguracyjne lub stare projekty, o których nikt nie pamięta.

Gdy atakujący ma jedno lub drugie, model pracuje dla niego. Obliczenia działają na twoim sprzęcie lub twoim koncie, a użycie pojawia się na twoim rachunku lub spowalnia twoją maszynę.

Wątek kradzieży danych uwierzytelniających dodaje drugą warstwę obaw. Przejęta usługa AI to nie tylko darmowy zasób. Może również stać się sposobem na zbieranie kolejnych danych uwierzytelniających, dlatego jeden zapomniany klucz może zamienić się w szerszy problem.

Co to oznacza dla ciebie

Jeśli używasz AI tylko przez konsumencką aplikację czatu, twoja bezpośrednia ekspozycja jest ograniczona. Ryzyko rośnie, gdy robisz więcej z poniższych:

  • Uruchamiasz modele w domu. Entuzjaści serwerów domowych, którzy hostują lokalne LLM, frontendy webowe lub narzędzia automatyzacji, są najbardziej oczywistymi celami. Nieuwierzytelniona usługa AI na przekierowanym porcie to coś, do czego zbudowany jest zautomatyzowany skaner.
  • Posiadasz klucze API. Deweloperzy i hobbyści, którzy łączą usługi AI ze skryptami, rozszerzeniami przeglądarki lub projektami pobocznymi, mogą mieć klucze rozproszone w kilku miejscach.
  • Ponownie używasz danych uwierzytelniających. Jeśli przejęty system ujawnia hasło, którego używasz gdzie indziej, szkody rozprzestrzeniają się poza usługę AI. Ponowne użycie zamienia pojedyncze naruszenie w wiele.

Strona finansowa jest również łatwa do przeoczenia. Kopanie kryptowalut i intensywne korzystanie z modeli po cichu zużywają zasoby. Możesz to zauważyć dopiero, gdy rachunek gwałtownie wzrośnie, sprzęt będzie się przegrzewał lub dostawca zgłosi nietypową aktywność.

Wpisuje się to w szerszy trend. Atakujący coraz częściej wykorzystują AI ofensywnie, nie tylko jako cel. Nasze omówienie tego, jak rosyjscy hakerzy użyli Claude AI do odtworzenia wykrytego złośliwego oprogramowania, pokazuje tę samą zmianę w kierunku narzędzi wspomaganych przez AI po stronie atakującego.

Jak zabezpieczyć klucze API, ekspozycję sieciową i ustawienia serwera domowego

Żaden z tych kroków nie jest egzotyczny. Większość to podstawowa higiena zastosowana do nowszego rodzaju usługi.

Traktuj klucze API jak hasła.

  1. Wypisz każdą usługę AI, za którą płacisz lub którą podłączyłeś do projektu.
  2. Rotuj klucze, których już nie rozpoznajesz lub których dawno nie używałeś, i usuń te, których nie potrzebujesz.
  3. Trzymaj klucze z dala od repozytoriów kodu i współdzielonych dokumentów. Zamiast tego używaj zmiennych środowiskowych lub menedżera haseł.
  4. Tam, gdzie dostawca na to pozwala, ustaw limity wydatków i alerty użycia, aby przejęty klucz został szybko zauważony.
  5. Używaj osobnego klucza dla każdego projektu, aby jeden wyciek nie ujawnił wszystkiego.

Ogranicz ekspozycję sieciową.

  1. Sprawdź router pod kątem reguł przekierowania portów i usuń te, których nie pamiętasz, że tworzyłeś.
  2. Nie wystawiaj interfejsów AI self-hosted bezpośrednio do internetu. Jeśli potrzebujesz zdalnego dostępu, umieść je za VPN lub innym kontrolowanym przez ciebie uwierzytelnionym tunelem.
  3. Włącz uwierzytelnianie dla każdego interfejsu webowego AI lub API, które uruchamiasz, nawet jeśli działa tylko w twojej sieci domowej.
  4. Aktualizuj oprogramowanie modelu i jego zależności.

Uważaj na oznaki ostrzegawcze.

  1. Nieoczekiwane opłaty lub skoki użycia na koncie AI.
  2. Utrzymujące się wysokie obciążenie CPU lub GPU, gdy nic nie uruchamiasz.
  3. Logi pokazujące żądania z adresów, których nie rozpoznajesz.

Napraw ponowne użycie danych uwierzytelniających. Używaj unikalnych haseł dla każdej usługi i włącz uwierzytelnianie wieloskładnikowe, gdzie jest dostępne. Jeśli przejęta usługa kiedykolwiek ujawni hasło, unikalne dane uwierzytelniające ograniczą skutki.

Najważniejsze wnioski

Raport jest krótki, ale lekcja jest jasna. LLMjacking ujawniający modele AI staje się zautomatyzowaną, skalowalną działalnością, a płacą za nią właściciele ujawnionych kluczy i serwerów. Nie musisz przestawać korzystać z narzędzi AI. Musisz jednak wiedzieć, gdzie znajdują się twoje klucze i co ujawnia twoja sieć.

Dziś poświęć kilka minut na audyt kluczy API AI, sprawdzenie wszelkich uruchamianych usług AI self-hosted i przegląd reguł przekierowania portów w routerze. Jeśli chcesz więcej kontekstu na temat tego, jak atakujący wykorzystują AI, przeczytaj nasz artykuł o rozwoju złośliwego oprogramowania wspomaganym przez AI.