Μια καμπάνια κακόβουλου λογισμικού στο Hugging Face επανεμφανίστηκε μόλις λίγες ημέρες αφού είχε καταργηθεί, σύμφωνα με ρεπορτάζ του BleepingComputer. Η επιχείρηση καταχράται μοντέλα AI για να καταλάβει διακομιστές GPU για εξόρυξη κρυπτονομισμάτων και να φυτέψει backdoors, και ένα από τα κακόβουλα μοντέλα κατέβηκε περισσότερες από 28.000 φορές. Σε ξεχωριστή ανακάλυψη, ένα ψεύτικο πακέτο εκκίνησης Solana στο GitHub φαίνεται σχεδιασμένο να ξεγελάσει πράκτορες κωδικοποίησης AI ώστε να εγκαταστήσουν ένα trojan απομακρυσμένης πρόσβασης (RAT) NetSupport.

Καμία από τις δύο ιστορίες δεν αφορά ελάττωμα σε VPN ή σε εφαρμογή καταναλωτή. Και οι δύο αφορούν την εμπιστοσύνη που δείχνουν οι προγραμματιστές στον κώδικα και τα μοντέλα που κατεβάζουν. Ακολουθεί τι είναι γνωστό, γιατί έχει σημασία και πώς να ελέγξετε τι κατεβάζετε στις μηχανές σας.

Τι έκανε η καμπάνια κακόβουλου λογισμικού στο Hugging Face

Σύμφωνα με την αναφορά της πηγής, η καμπάνια εξόρυξης κρυπτονομισμάτων χρησιμοποίησε μοντέλα Hugging Face ως όχημα παράδοσης. Μόλις τα μοντέλα εκτελέστηκαν σε διακομιστές GPU, οι επιτιθέμενοι κατέλαβαν αυτές τις μηχανές για να εξορύξουν κρυπτονόμισμα και φύτεψαν backdoors για συνεχή πρόσβαση. Η καμπάνια καταργήθηκε και στη συνέχεια επέστρεψε μέσα σε λίγες ημέρες, γεγονός που υποδηλώνει ότι οι χειριστές μπορούν γρήγορα να επαναδημοσιεύσουν με νέα ονόματα ή λογαριασμούς.

Ο αριθμός λήψεων είναι η λεπτομέρεια στην οποία αξίζει να σταθούμε. Ένα μόνο μοντέλο που φτάνει τις 28.000+ λήψεις δείχνει πόσο εύκολα ένα αποθετήριο μπορεί να φαίνεται δημοφιλές και νόμιμο. Οι αριθμοί λήψεων δεν είναι ένδειξη ασφάλειας.

Οι διακομιστές GPU είναι ελκυστικοί στόχοι επειδή είναι ακριβοί στη λειτουργία και κατάλληλοι για εξόρυξη. Ένα θύμα μπορεί να το αντιληφθεί μόνο μέσω ενός απροσδόκητου λογαριασμού cloud, ασυνήθιστα υψηλής χρήσης GPU ή υποβαθμισμένης απόδοσης. Τα backdoors είναι η μεγαλύτερη ανησυχία: ακόμη και αφού αφαιρεθεί ένας miner, ένα κρυφό σημείο πρόσβασης μπορεί να επιτρέψει στους επιτιθέμενους να επιστρέψουν.

Το άρθρο της πηγής δεν αναλύει τον τεχνικό μηχανισμό, επομένως αυτή η ανάρτηση δεν κάνει εικασίες γι' αυτόν. Τα δημόσια αποτελέσματα αναζήτησης αναφέρουν μια ρύθμιση που ονομάζεται trust_remote_code σε σχέση με την καμπάνια, αλλά θεωρήστε το ως λόγο να ελέγξετε τη δική σας διαμόρφωση και όχι ως επιβεβαιωμένη εξήγηση.

Ένα ψεύτικο κιτ Solana στοχεύει πράκτορες κωδικοποίησης AI

Το δεύτερο μέρος της αναφοράς περιγράφει ένα ψεύτικο πακέτο εκκίνησης Solana στο GitHub. Είναι τοποθετημένο ώστε να ξεγελάσει πράκτορες κωδικοποίησης AI να εγκαταστήσουν ένα NetSupport RAT. Ένα RAT δίνει στον επιτιθέμενο απομακρυσμένο έλεγχο μιας συσκευής, που μπορεί να περιλαμβάνει προβολή της οθόνης, εκτέλεση εντολών και κίνηση μέσα σε αρχεία.

Η αξιοσημείωτη αλλαγή είναι ο στόχος. Αντί να πείθει μόνο έναν ανθρώπινο προγραμματιστή, το αποθετήριο είναι κατασκευασμένο έτσι ώστε ένας αυτοματοποιημένος βοηθός, που αναζητά ένα έργο εκκίνησης και το ρυθμίζει, να μπορεί να κάνει την εγκατάσταση. Αν ένας πράκτορας μπορεί να εκτελεί εντολές με τα δικά σας δικαιώματα, ένα δηλητηριασμένο αποθετήριο μπορεί να ενεργήσει με αυτά τα δικαιώματα επίσης.

Αυτό συνδέεται με ευρύτερες ανησυχίες για αυτόνομα εργαλεία σε περιβάλλοντα ανάπτυξης. Η προηγούμενη κάλυψή μας για έναν πράκτορα AI της OpenAI που παραβίασε το Hugging Face χρησιμοποιώντας ένα έλαττωμα zero-day και μια αναφορά για δραστηριότητα ransomware πράκτορα AI στο Hugging Face, όπως αναφέρθηκε από τη Sysdig δείχνουν ότι οι πλατφόρμες και οι πράκτορες AI προσελκύουν διαρκή προσοχή τόσο από ερευνητές όσο και από επιτιθέμενους.

Τι σημαίνει αυτό για εσάς

Αν ποτέ δεν κατεβάζετε μοντέλα AI ή δεν χρησιμοποιείτε πράκτορες κωδικοποίησης, η άμεση έκθεσή σας είναι χαμηλή. Αν είστε προγραμματιστής, χομπίστας, ερευνητής ή εκτελείτε οποιοδήποτε φόρτο εργασίας GPU, ο κίνδυνος είναι πραγματικός επειδή αυτές οι επιθέσεις επωφελούνται από τις κανονικές ροές εργασίας.

Τα πρακτικά ζητήματα είναι:

  • Η δημοτικότητα δεν είναι απόδειξη. Ένας υψηλός αριθμός λήψεων δεν εμπόδισε ένα κακόβουλο μοντέλο να εξαπλωθεί.
  • Οι καταργήσεις δεν είναι μόνιμες. Η καμπάνια επέστρεψε μέσα σε λίγες ημέρες, επομένως ένα αποθετήριο που αφαιρέθηκε δεν σημαίνει ότι η απειλή έχει φύγει.
  • Οι πράκτορες κληρονομούν την πρόσβασή σας. Ένας βοηθός AI που εγκαθιστά πακέτα ή εκτελεί σενάρια μπορεί να εκτελέσει τις οδηγίες ενός επιτιθέμενου με τα προνόμιά σας.
  • Τα backdoors διαρκούν περισσότερο από τους miners. Η αφαίρεση μιας διαδικασίας εξόρυξης μπορεί να μην αφαιρέσει τον επιτιθέμενο.

Ένα VPN δεν αντιμετωπίζει τίποτα από αυτά. Προστατεύει την κίνηση κατά τη μεταφορά, όχι τον κώδικα που επιλέγετε να εκτελέσετε. Ο έλεγχος των πηγών και ο περιορισμός των δικαιωμάτων έχουν πολύ μεγαλύτερη σημασία εδώ.

Πώς να ελέγξετε μοντέλα, αποθετήρια και εργαλεία ανάπτυξης

Μοντέλα

  • Ελέγξτε τον εκδότη. Προτιμήστε καθιερωμένους οργανισμούς και επαληθεύστε ότι ο λογαριασμός είναι αυτός που περιμένετε, όχι ένας παρόμοιος.
  • Να είστε προσεκτικοί με οποιοδήποτε μοντέλο απαιτεί προσαρμοσμένο κώδικα για φόρτωση. Διαβάστε αυτόν τον κώδικα πριν ενεργοποιήσετε επιλογές απομακρυσμένης εκτέλεσης κώδικα.
  • Προτιμήστε ασφαλέστερες μορφές αρχείων όπου είναι διαθέσιμες και αποφύγετε την εκτέλεση άγνωστων μοντέλων σε μηχανές παραγωγής ή συνδεδεμένες με cloud.
  • Δοκιμάστε νέα μοντέλα σε απομονωμένο περιβάλλον χωρίς πρόσβαση σε διαπιστευτήρια ή εσωτερικά δίκτυα.

Αποθετήρια και πακέτα εκκίνησης

  • Επιβεβαιώστε ότι το αποθετήριο ανήκει στο επίσημο έργο ακολουθώντας συνδέσμους από την τεκμηρίωση του ίδιου του έργου.
  • Εξετάστε το ιστορικό commits, τα προφίλ συνεισφερόντων και την ηλικία του λογαριασμού. Ένα ολοκαίνουργιο repo με προσεγμένες οδηγίες αξίζει καχυποψία.
  • Διαβάστε τα σενάρια εγκατάστασης πριν τα εκτελέσετε, ειδικά οτιδήποτε κατεβάζει και εκτελεί πρόσθετα αρχεία.

Πράκτορες κωδικοποίησης AI

  • Απαιτήστε ανθρώπινη έγκριση πριν ένας πράκτορας εγκαταστήσει πακέτα ή εκτελέσει εντολές shell.
  • Εκτελέστε πράκτορες σε sandbox ή container με ελάχιστα δικαιώματα και χωρίς πρόσβαση σε μυστικά.
  • Κρατήστε κλειδιά API, κλειδιά πορτοφολιού και διαπιστευτήρια cloud μακριά από την εμβέλεια του πράκτορα.

Παρακολούθηση

  • Παρακολουθήστε τη χρήση GPU και τη χρέωση cloud για ανεξήγητες αιχμές.
  • Ελέγξτε τις εκτελούμενες διεργασίες και τις εξερχόμενες συνδέσεις σε διακομιστές GPU.
  • Αν υποψιάζεστε παραβίαση, ανοικοδομήστε από καθαρή εικόνα και αλλάξτε τα διαπιστευτήρια αντί να διαγράψετε μόνο τον miner. Η διατήρηση δοκιμασμένων, offline αντιγράφων των δεδομένων σας βοηθά επίσης, όπως καλύπτεται στο άρθρο μας για τα αμετάβλητα αντίγραφα ασφαλείας ως τελευταία γραμμή άμυνας.

Βασικά συμπεράσματα

Η καμπάνια κακόβουλου λογισμικού στο Hugging Face δείχνει ότι οι κόμβοι μοντέλων AI και τα αποθετήρια κώδικα αποτελούν πλέον μέρος της επιφάνειας επίθεσης, και ότι οι επιτιθέμενοι προσαρμόζονται γρήγορα μετά τις καταργήσεις. Το ψεύτικο κιτ Solana προσθέτει μια νέα ανατροπή στοχεύοντας τα αυτοματοποιημένα εργαλεία που οι προγραμματιστές εμπιστεύονται ολοένα και περισσότερο.

Για να μειώσετε τον κίνδυνό σας: επαληθεύστε τους εκδότες, διαβάστε τον κώδικα πριν τον εκτελέσετε, βάλτε σε sandbox οτιδήποτε άγνωστο, περιορίστε τι μπορούν να κάνουν οι πράκτορες AI σας και παρακολουθήστε τη χρήση GPU για ανωμαλίες. Αντιμετωπίστε κάθε μοντέλο και πακέτο εκκίνησης που κατεβάζετε ως μη αξιόπιστο μέχρι να το ελέγξετε.