Μια ομάδα ransomware που λειτουργεί με Τεχνητή Νοημοσύνη επιστρέφει με νέο όπλο
Η JadePuffer, η ομάδα απειλών που είχε προηγουμένως καταγραφεί ως η πρώτη που εκτέλεσε εκστρατεία ransomware από άκρο σε άκρο με χρήση ενός μεγάλου γλωσσικού μοντέλου, επιστρέφει με ένα νέο εργαλείο. Σύμφωνα με το Infosecurity Magazine, η νέα εκστρατεία της ομάδας ανέπτυξε ένα locker με την ονομασία ENCFORGE, ειδικά σχεδιασμένο για να καταστρέφει αρχεία μοντέλων τεχνητής νοημοσύνης αντί απλώς να κρυπτογραφεί συνηθισμένα αρχεία και βάσεις δεδομένων.
Αυτό έχει σημασία γιατί σηματοδοτεί μια αλλαγή στην επιλογή στόχων. Προηγούμενες επιχειρήσεις ransomware, συμπεριλαμβανομένης της αρχικής εκστρατείας της JadePuffer, επικεντρώνονταν στην κρυπτογράφηση βάσεων δεδομένων παραγωγής και στην απαίτηση πληρωμής για την επιστροφή τους. Η αρχική τεκμηρίωση της επίθεσης JadePuffer από τη Sysdig περιέγραφε έναν αυτόνομο δράστη που εκμεταλλεύτηκε την πλατφόρμα Langflow και εκτέλεσε την εισβολή με ελάχιστη ανθρώπινη επίβλεψη. Το ENCFORGE φαίνεται να επεκτείνει την ίδια αυτοματοποιημένη προσέγγιση, αλλά με νέο στόχο: την εξάλειψη των εκπαιδευμένων μοντέλων, των βαρών και των αρχείων διαμόρφωσης στα οποία βασίζονται οι οργανισμοί για τη λειτουργία συστημάτων τεχνητής νοημοσύνης.
Γιατί η στόχευση μοντέλων Τεχνητής Νοημοσύνης αλλάζει την εξίσωση
Το παραδοσιακό ransomware κρατά τα δεδομένα ομήρους. Η καταστροφή των αρχείων μοντέλων Τεχνητής Νοημοσύνης είναι ένα διαφορετικό είδος εκβίασης. Τα εκπαιδευμένα μοντέλα συχνά αντιπροσωπεύουν μήνες υπολογιστικού χρόνου, επιμελημένα δεδομένα εκπαίδευσης και εργασίες λεπτομερούς ρύθμισης που δεν μπορούν απλά να αποκατασταθούν από ένα συνηθισμένο αντίγραφο ασφαλείας αν αυτό δεν έχει σχεδιαστεί ειδικά με γνώμονα την ανάκτηση μοντέλων. Για εταιρείες που έχουν δημιουργήσει εργαλεία Τεχνητής Νοημοσύνης για πελάτες, εσωτερικό αυτοματισμό ή αγωγούς επεξεργασίας δεδομένων γύρω από αυτά τα μοντέλα, η πλήρης απώλειά τους μπορεί να είναι πιο διασπαστική από την απώλεια μιας μεμονωμένης βάσης δεδομένων, διότι η εκ νέου δημιουργία ενός μοντέλου από την αρχή απαιτεί χρόνο που μια ενεργή επιχείρηση συχνά δεν διαθέτει.
Υπάρχει επίσης μια διάσταση ιδιωτικότητας που αξίζει να επισημανθεί. Πολλά μοντέλα Τεχνητής Νοημοσύνης που χρησιμοποιούνται από επιχειρήσεις εκπαιδεύονται ή ρυθμίζονται λεπτομερώς σε σύνολα δεδομένων που περιλαμβάνουν πληροφορίες πελατών, είτε πρόκειται για καταγραφές υποστήριξης, δεδομένα συμπεριφοράς ή προσωπικά αρχεία που χρησιμοποιούνται για την εξατομίκευση μιας υπηρεσίας. Όταν οι χειριστές ransomware στοχεύουν την υποδομή γύρω από αυτά τα μοντέλα, είτε κρυπτογραφώντας τις γύρω βάσεις δεδομένων είτε καταστρέφοντας πλέον τα ίδια τα μοντέλα, τα προσωπικά δεδομένα που διακινούνται μέσω αυτής της υποδομής διατρέχουν κίνδυνο τόσο έκθεσης όσο και απώλειας. Οι καταναλωτές σπάνια έχουν ορατότητα σχετικά με το ποιοι προμηθευτές χρησιμοποιούν συστήματα Τεχνητής Νοημοσύνης στις πληροφορίες τους, γεγονός που καθιστά αυτού του είδους την επίθεση πιο δύσκολο να εντοπιστεί εξωτερικά και πιο δύσκολο να προετοιμαστεί κανείς ως άτομο.
Μέρος ενός ευρύτερου μοτίβου αυτόνομων επιθέσεων
Η επιστροφή της JadePuffer με το ENCFORGE εντάσσεται σε μια τάση που οι ερευνητές ασφαλείας παρακολουθούν στενά φέτος. Ανεξάρτητα ευρήματα σχετικά με την πρώτη πλήρως αυτόνομη επίθεση ransomware με Τεχνητή Νοημοσύνη έδειξαν ότι ένας πράκτορας Τεχνητής Νοημοσύνης μπορούσε να σαρώσει για ευπάθειες, να αποκτήσει πρόσβαση και να εκτελέσει μια απόπειρα εκβίασης χωρίς ανθρώπινο χειριστή να κατευθύνει κάθε βήμα σε πραγματικό χρόνο. Αυτό το προηγούμενο έχει σημασία εδώ γιατί υποδηλώνει ότι η JadePuffer δεν είναι ένα μεμονωμένο πείραμα. Είναι ένας δράστης που έχει επαναλάβει την ανάπτυξη των δικών του εργαλείων, περνώντας από την κρυπτογράφηση βάσεων δεδομένων σε ένα locker ειδικά σχεδιασμένο κατά των υποδομών Τεχνητής Νοημοσύνης. Καθώς περισσότεροι οργανισμοί υιοθετούν πλατφόρμες Τεχνητής Νοημοσύνης όπως το Langflow και παρόμοια εργαλεία ενορχήστρωσης, η επιφάνεια επίθεσης για αυτού του είδους τις εκστρατείες μόνο μεγαλώνει, ένα θέμα που καλύφθηκε σε πρόσφατες ανασκοπήσεις ασφαλείας που παρακολουθούν επιθέσεις ransomware και επιθέσεις με γνώμονα την Τεχνητή Νοημοσύνη παράλληλα με άλλες αναδυόμενες απειλές.
Τι σημαίνει αυτό για εσάς
Οι περισσότεροι αναγνώστες δεν θα εκτελούν οι ίδιοι μια ανάπτυξη μοντέλων Τεχνητής Νοημοσύνης, αλλά οι δευτερογενείς επιπτώσεις φτάνουν μακρύτερα από τα τμήματα Πληροφορικής. Εάν μια επιχείρηση με την οποία αλληλεπιδράτε, είτε είναι λιανοπωλητής, πάροχος υγειονομικής περίθαλψης ή χρηματοοικονομική υπηρεσία, χρησιμοποιεί συστήματα Τεχνητής Νοημοσύνης που πλήττονται από μια τέτοια επίθεση, οι συνέπειες θα μπορούσαν να περιλαμβάνουν διακοπές υπηρεσιών, καθυστερημένη υποστήριξη ή, σε χειρότερες περιπτώσεις, έκθεση των δεδομένων στα οποία εκπαιδεύτηκαν ή λειτούργησαν αυτά τα μοντέλα. Το ransomware που στοχεύει υποδομές Τεχνητής Νοημοσύνης εξακολουθεί να αποτελεί πρόβλημα μεταξύ επιχειρήσεων αυτή τη στιγμή, αλλά τα δεδομένα των καταναλωτών που βρίσκονται εντός αυτής της υποδομής είναι αυτά που δίνουν σε αυτές τις επιθέσεις τη διαπραγματευτική τους ισχύ.
Για τους οργανισμούς που κατασκευάζουν ή λειτουργούν συστήματα Τεχνητής Νοημοσύνης, αυτό είναι ένα σαφές μήνυμα ότι τα αρχεία μοντέλων χρειάζονται την ίδια πειθαρχία δημιουργίας αντιγράφων ασφαλείας, ελέγχους πρόσβασης και παρακολούθηση όπως κάθε άλλο κρίσιμο περιουσιακό στοιχείο. Το να αντιμετωπίζεται ένα εκπαιδευμένο μοντέλο ως αναλώσιμο ή εύκολα αντικαταστάσιμο δεν αποτελεί πλέον ασφαλή υπόθεση.
Πρακτικά συμπεράσματα
- Εάν διαχειρίζεστε υποδομές Τεχνητής Νοημοσύνης, βεβαιωθείτε ότι τα βάρη των μοντέλων και τα αρχεία εκπαίδευσης δημιουργούνται αντίγραφα ασφαλείας ξεχωριστά από τα συστήματα παραγωγής, με αντίγραφα εκτός σύνδεσης ή αμετάβλητα.
- Ελέγξτε τους ελέγχους πρόσβασης στις πλατφόρμες ενορχήστρωσης Τεχνητής Νοημοσύνης· εκστρατείες αυτόνομου ransomware έχουν εκμεταλλευτεί εκτεθειμένα ή εσφαλμένα ρυθμισμένα εργαλεία για να αποκτήσουν πρόσβαση.
- Ως καταναλωτής, ρωτήστε τους παρόχους υπηρεσιών πώς προστατεύουν τα συστήματα Τεχνητής Νοημοσύνης που επεξεργάζονται τα δεδομένα σας, ιδίως για υπηρεσίες που χειρίζονται ευαίσθητες προσωπικές ή οικονομικές πληροφορίες.
- Μείνετε σε επαγρύπνηση για διακοπές υπηρεσιών ή ειδοποιήσεις παραβίασης από εταιρείες που χρησιμοποιείτε· το ransomware που στοχεύει υποδομές Τεχνητής Νοημοσύνης μπορεί να καθυστερήσει την ανάκαμψη περισσότερο από μια τυπική διακοπή.
Η εξέλιξη της JadePuffer από εκβίαση βάσεων δεδομένων σε καταστροφή μοντέλων Τεχνητής Νοημοσύνης είναι μια υπενθύμιση ότι οι χειριστές ransomware προσαρμόζονται γρήγορα όπου συγκεντρώνεται η αξία και η διαπραγματευτική ισχύς. Καθώς τα συστήματα Τεχνητής Νοημοσύνης γίνονται βασική υποδομή για περισσότερες επιχειρήσεις, η προστασία τους θα πρέπει να γίνει βασικό μέρος της στάσης ασφαλείας όλων, όχι μια δεύτερη σκέψη.
