Επιτιθέμενοι έχουν δημιουργήσει έναν πράκτορα AI σχεδιασμένο για LLMjacking, σύμφωνα με αναφορά του Help Net Security. Ο πράκτορας αναλαμβάνει εκτεθειμένα μοντέλα AI και τα χρησιμοποιεί για να κλέψει διαπιστευτήρια και να εξορύξει κρυπτονομίσματα. Το κόστος πέφτει στο θύμα. Για όποιον εκτελεί ένα αυτο-φιλοξενούμενο μοντέλο ή κατέχει ένα πληρωμένο κλειδί API AI, το LLMjacking που αποκάλυψε μοντέλα AI είναι πλέον ένας πρακτικός κίνδυνος που αξίζει να κατανοηθεί.

Τι είναι το LLMjacking και πώς λειτουργεί ο πράκτορας

Το LLMjacking είναι η κατάληψη ενός μεγάλου γλωσσικού μοντέλου (LLM) που ανήκει ή πληρώνεται από κάποιον άλλο. Αντί να αγοράσει υπολογιστική ισχύ ή πρόσβαση API, ένας επιτιθέμενος βρίσκει ένα μοντέλο που είναι προσβάσιμο ή ένα κλειδί που έχει διαρρεύσει και το χρησιμοποιεί δωρεάν. Το θύμα πληρώνει τον λογαριασμό.

Αυτό που είναι νέο εδώ είναι η αυτοματοποίηση. Η αναφορά περιγράφει έναν πράκτορα AI κατασκευασμένο για αυτόν τον σκοπό. Αντί για ένα άτομο που κυνηγά χειροκίνητα κακώς ρυθμισμένες υπηρεσίες, το λογισμικό κάνει την εύρεση και την κατάληψη. Οι αναφερόμενοι στόχοι είναι η κλοπή διαπιστευτηρίων και η εξόρυξη κρυπτονομισμάτων, και τα δύο μετατρέπουν ένα κατειλημμένο μοντέλο σε άμεσο κέρδος για τον επιτιθέμενο.

Η πηγή περιγράφει το εργαλείο μόνο σε υψηλό επίπεδο, και δεν πρόκειται να κάνουμε εικασίες πέρα από αυτό. Το ευρύτερο σημείο εξακολουθεί να ισχύει: όταν η ανακάλυψη και η εκμετάλλευση είναι αυτοματοποιημένες, μια εκτεθειμένη υπηρεσία δεν χρειάζεται να είναι ενδιαφέρουσα για να βρεθεί. Χρειάζεται μόνο να είναι προσβάσιμη.

Πώς καταλαμβάνονται εκτεθειμένα κλειδιά και υπηρεσίες AI

Το προτεινόμενο μοτίβο είναι απλό. Ένας πράκτορας σαρώνει για εκτεθειμένα μοντέλα AI και τελικά σημεία API, και στη συνέχεια αναλαμβάνει τον έλεγχο όσων βρίσκει. Δύο είδη έκθεσης έχουν τη μεγαλύτερη σημασία:

  • Εκτεθειμένα τελικά σημεία. Ένα αυτο-φιλοξενούμενο μοντέλο ή διεπαφή AI που είναι προσβάσιμη από το διαδίκτυο, συχνά λόγω μιας βολικής ρύθμισης, μιας προωθημένης θύρας ή μιας ελλιπούς σύνδεσης.
  • Εκτεθειμένα διαπιστευτήρια. Κλειδιά API που βρίσκονται σε μέρη όπου δεν θα έπρεπε, όπως αποθετήρια κώδικα, κοινόχρηστα αρχεία διαμόρφωσης ή παλιά έργα που κανείς δεν θυμάται.

Μόλις ένας επιτιθέμενος έχει οποιοδήποτε από τα δύο, το μοντέλο δουλεύει γι' αυτόν. Η υπολογιστική ισχύς εκτελείται στο υλικό σας ή στον λογαριασμό σας, και η χρήση εμφανίζεται στο τιμολόγιό σας ή επιβραδύνει το μηχάνημά σας.

Η πτυχή της κλοπής διαπιστευτηρίων προσθέτει ένα δεύτερο επίπεδο ανησυχίας. Μια κατειλημμένη υπηρεσία AI δεν είναι μόνο ένας δωρεάν πόρος. Μπορεί επίσης να γίνει ένας τρόπος συλλογής περισσότερων διαπιστευτηρίων, γι' αυτό ένα ξεχασμένο κλειδί μπορεί να μετατραπεί σε ευρύτερο πρόβλημα.

Τι σημαίνει αυτό για εσάς

Αν χρησιμοποιείτε AI μόνο μέσω μιας εφαρμογής συνομιλίας καταναλωτή, η άμεση έκθεσή σας είναι περιορισμένη. Ο κίνδυνος αυξάνεται καθώς κάνετε περισσότερα από τα ακόλουθα:

  • Εκτελείτε μοντέλα στο σπίτι. Οι λάτρεις των οικιακών διακομιστών που φιλοξενούν τοπικά LLM, διεπαφές ιστού ή εργαλεία αυτοματισμού είναι οι πιο προφανείς στόχοι. Μια μη πιστοποιημένη υπηρεσία AI σε μια προωθημένη θύρα είναι το είδος του πράγματος που ένας αυτοματοποιημένος σαρωτής είναι κατασκευασμένος να βρίσκει.
  • Κατέχετε κλειδιά API. Οι προγραμματιστές και οι χομπίστες που συνδέουν υπηρεσίες AI με σενάρια, επεκτάσεις προγράμματος περιήγησης ή παράπλευρα έργα μπορεί να έχουν κλειδιά διάσπαρτα σε πολλά μέρη.
  • Επαναχρησιμοποιείτε διαπιστευτήρια. Αν ένα κατειλημμένο σύστημα εκθέσει έναν κωδικό πρόσβασης που χρησιμοποιείτε αλλού, η ζημιά εξαπλώνεται πέρα από την υπηρεσία AI. Η επαναχρησιμοποίηση μετατρέπει μια μεμονωμένη παραβίαση σε πολλές.

Η οικονομική πλευρά είναι επίσης εύκολο να παραβλεφθεί. Η εξόρυξη κρυπτονομισμάτων και η βαριά χρήση μοντέλων καταναλώνουν πόρους ήσυχα. Μπορεί να το παρατηρήσετε μόνο όταν ένας λογαριασμός εκτοξεύεται, το υλικό σας υπερθερμαίνεται ή ένας πάροχος επισημαίνει ασυνήθιστη δραστηριότητα.

Αυτό εντάσσεται σε μια ευρύτερη τάση. Οι επιτιθέμενοι χρησιμοποιούν όλο και περισσότερο το AI επιθετικά, όχι απλώς στοχεύοντάς το. Η κάλυψή μας για το πώς Ρώσοι χάκερ χρησιμοποίησαν το Claude AI για να ανοικοδομήσουν ανιχνευμένο κακόβουλο λογισμικό δείχνει την ίδια στροφή προς εργαλεία υποβοηθούμενα από AI στην πλευρά των επιτιθέμενων.

Πώς να ασφαλίσετε κλειδιά API, δικτυακή έκθεση και ρυθμίσεις οικιακού διακομιστή

Κανένα από αυτά τα βήματα δεν είναι εξωτικό. Τα περισσότερα είναι βασική υγιεινή που εφαρμόζεται σε ένα νεότερο είδος υπηρεσίας.

Αντιμετωπίστε τα κλειδιά API σαν κωδικούς πρόσβασης.

  1. Καταγράψτε κάθε υπηρεσία AI που πληρώνετε ή έχετε συνδέσει σε ένα έργο.
  2. Περιστρέψτε κλειδιά που δεν αναγνωρίζετε πλέον ή δεν έχετε χρησιμοποιήσει πρόσφατα, και διαγράψτε αυτά που δεν χρειάζεστε.
  3. Κρατήστε τα κλειδιά μακριά από αποθετήρια κώδικα και κοινόχρηστα έγγραφα. Χρησιμοποιήστε μεταβλητές περιβάλλοντος ή έναν διαχειριστή κωδικών πρόσβασης αντί αυτού.
  4. Όπου ο πάροχός σας το επιτρέπει, ορίστε όρια δαπανών και ειδοποιήσεις χρήσης ώστε ένα κατειλημμένο κλειδί να γίνεται αντιληπτό γρήγορα.
  5. Χρησιμοποιήστε ξεχωριστό κλειδί για κάθε έργο ώστε μια διαρροή να μην εκθέτει τα πάντα.

Μειώστε τη δικτυακή έκθεση.

  1. Ελέγξτε τον δρομολογητή σας για κανόνες προώθησης θυρών και αφαιρέστε όσους δεν θυμάστε να έχετε δημιουργήσει.
  2. Μην εκθέτετε αυτο-φιλοξενούμενες διεπαφές AI απευθείας στο διαδίκτυο. Αν χρειάζεστε απομακρυσμένη πρόσβαση, τοποθετήστε την πίσω από ένα VPN ή ένα άλλο πιστοποιημένο τούνελ που ελέγχετε.
  3. Ενεργοποιήστε την πιστοποίηση για κάθε διεπαφή ιστού ή API AI που εκτελείτε, ακόμα κι αν ζει μόνο στο οικιακό σας δίκτυο.
  4. Διατηρήστε το λογισμικό του μοντέλου και τις εξαρτήσεις του ενημερωμένα.

Προσέξτε για προειδοποιητικά σημάδια.

  1. Απροσδόκητες χρεώσεις ή αιχμές χρήσης σε έναν λογαριασμό AI.
  2. Παρατεταμένο υψηλό φορτίο CPU ή GPU όταν δεν εκτελείτε τίποτα.
  3. Αρχεία καταγραφής που δείχνουν αιτήματα από διευθύνσεις που δεν αναγνωρίζετε.

Διορθώστε την επαναχρησιμοποίηση διαπιστευτηρίων. Χρησιμοποιήστε μοναδικούς κωδικούς πρόσβασης για κάθε υπηρεσία και ενεργοποιήστε τον έλεγχο ταυτότητας πολλαπλών παραγόντων όπου είναι διαθέσιμος. Αν μια κατειλημμένη υπηρεσία εκθέσει ποτέ έναν κωδικό πρόσβασης, τα μοναδικά διαπιστευτήρια κρατούν τις επιπτώσεις περιορισμένες.

Βασικά συμπεράσματα

Η αναφορά είναι σύντομη, αλλά το μάθημα είναι σαφές. Το LLMjacking που αποκάλυψε μοντέλα AI γίνεται μια αυτοματοποιημένη, κλιμακούμενη δραστηριότητα, και οι άνθρωποι που πληρώνουν γι' αυτήν είναι οι κάτοχοι των εκτεθειμένων κλειδιών και διακομιστών. Δεν χρειάζεται να σταματήσετε να χρησιμοποιείτε εργαλεία AI. Χρειάζεται να γνωρίζετε πού ζουν τα κλειδιά σας και τι εκθέτει το δίκτυό σας.

Σήμερα, αφιερώστε λίγα λεπτά για να ελέγξετε τα κλειδιά API AI σας, να ελέγξετε τυχόν αυτο-φιλοξενούμενες υπηρεσίες AI που εκτελείτε και να αναθεωρήσετε τους κανόνες προώθησης θυρών του δρομολογητή σας. Αν θέλετε περισσότερο πλαίσιο για το πώς οι επιτιθέμενοι αξιοποιούν το AI, διαβάστε το άρθρο μας για την ανάπτυξη κακόβουλου λογισμικού υποβοηθούμενη από AI.