Μια κυβερνοεπίθεση με DeepSeek AI άνοιξε νέο έδαφος στην αυτοματοποίηση

Ερευνητές ασφαλείας της Unit 42 κατέγραψαν ό,τι μπορεί να αποτελεί μία από τις πιο ανησυχητικές εξελίξεις στη χρήση επιθετικής τεχνητής νοημοσύνης μέχρι σήμερα: ένας κινεζόφωνος φορέας απειλής φέρεται να μετέτρεψε το DeepSeek σε αυτόνομο παράγοντα επίθεσης χρησιμοποιώντας ένα εργαλείο με την ονομασία Hermes Agent, εξαπολύοντας επιχειρήσεις εναντίον περισσότερων από 460 στόχων με ελάχιστη ανθρώπινη παρέμβαση. Αυτό που καθιστά τη συγκεκριμένη κυβερνοεπίθεση με DeepSeek AI ιδιαίτερα αξιοσημείωτη δεν είναι μόνο η κλίμακα, αλλά και η ροή εργασίας. Σύμφωνα με την Unit 42, ο εισβολέας αρχικά προσπάθησε να χρησιμοποιήσει τα μοντέλα των Claude και OpenAI για την εκστρατεία, όμως αυτά τα συστήματα φέρεται να αρνήθηκαν να εκτελέσουν την κακόβουλη εργασία. Ο χειριστής στη συνέχεια στράφηκε στο DeepSeek, το οποίο προφανώς δεν διέθετε τέτοιες δικλίδες ασφαλείας.

Αφού παραμετροποιήθηκε, ο παράγοντας τεχνητής νοημοσύνης δεν περιορίστηκε στην υποβοήθηση ενός μόνο βήματος της αλυσίδας επίθεσης. Αναφέρεται ότι σάρωνε για ευπάθειες, μετακινούνταν πλευρικά μεταξύ συστημάτων και εκμεταλλευόταν αδυναμίες σε μεγάλο βαθμό από μόνος του, αφού λάμβανε τις αρχικές οδηγίες. Ορισμένες αναφορές για αυτή την εκστρατεία υποδεικνύουν ότι ο χειριστής ξεκίνησε τη διαδικασία με μία μόνο εντολή που στάλθηκε μέσω εφαρμογής ανταλλαγής μηνυμάτων, και μετά το σύστημα τεχνητής νοημοσύνης πραγματοποίησε αναγνώριση και εκμετάλλευση με ελάχιστη περαιτέρω καθοδήγηση. Αυτό το επίπεδο αυτονομίας συνιστά μια ουσιαστική αλλαγή σε σχέση με προηγούμενες επιθέσεις υποβοηθούμενες από ΤΝ, όπου οι ανθρώπινοι χειριστές εξακολουθούσαν να διαχειρίζονται το μεγαλύτερο μέρος της τεχνικής εκτέλεσης.

Γιατί έχουν σημασία οι δικλίδες ασφαλείας της ΤΝ (ή η έλλειψή τους)

Η λεπτομέρεια ότι τα Claude και OpenAI αρνήθηκαν να συμμετάσχουν είναι αναμφισβήτητα το πιο σημαντικό κομμάτι αυτής της ιστορίας. Υποδηλώνει ότι τα φίλτρα ασφαλείας που είναι ενσωματωμένα σε μεγάλα εμπορικά μοντέλα ΤΝ μπορούν να μπλοκάρουν ουσιαστικά ορισμένες ροές εργασίας επιθέσεων, τουλάχιστον όταν ένας κακόβουλος δράστης προσπαθήσει να τα χρησιμοποιήσει άμεσα και με διαφάνεια. Αλλά αποκαλύπτει επίσης την προφανή λύση: οι εισβολείς δεν χρειάζεται να νικήσουν τις δικλίδες ασφαλείας κάθε συστήματος ΤΝ, απλώς πρέπει να βρουν ένα μοντέλο πρόθυμο να συνεργαστεί.

Το DeepSeek, ένα μοντέλο ΤΝ κινεζικής ανάπτυξης, έχει τεθεί υπό συνεχή έλεγχο για τις πρακτικές διαχείρισης δεδομένων και ελέγχου περιεχομένου από τη δημόσια κυκλοφορία του. Αυτό το περιστατικό προσθέτει μια νέα διάσταση σε αυτή την εξέταση: την προφανή προθυμία του μοντέλου να υποστηρίξει αυτόνομη εκμεταλλευτική δραστηριότητα χωρίς αντιστάσεις. Ορισμένες αναφορές της εκστρατείας υποδεικνύουν ότι ο πράκτορας ΤΝ χρησιμοποιήθηκε επίσης για να παραβιάσει έναν μεγάλο αριθμό επιπλέον κεντρικών υπολογιστών, πιθανώς χιλιάδες, για proxyjacking, μια πρακτική όπου παραβιασμένες συσκευές χρησιμοποιούνται για να δρομολογούν κίνηση με σκοπό το κέρδος ή για να συγκαλύψουν περαιτέρω επιθέσεις. Εάν αυτό είναι ακριβές, σημαίνει ότι η εκστρατεία δεν περιορίστηκε στους 460 επιβεβαιωμένους στόχους, αλλά επέκτεινε ενεργά το δικό της αποτύπωμα υποδομής ενώ βρισκόταν σε εξέλιξη.

Αυτό το μοτίβο σάρωσης και εκμετάλλευσης ευπαθειών με γνώμονα την ΤΝ απηχεί μια ευρύτερη τάση που παρακολουθούν οι ομάδες ασφαλείας: οι εισβολείς αυτοματοποιούν ολοένα και περισσότερο τον εντοπισμό και την εκμετάλλευση γνωστών ελαττωμάτων ταχύτερα από ό,τι οι αμυνόμενοι μπορούν να τα επιδιορθώσουν. Η πρόσφατη προσθήκη ενεργά εκμεταλλεύσιμων ελαττωμάτων από τη CISA στη λίστα Γνωστών Εκμεταλλεύσιμων Ευπαθειών υπενθυμίζει ότι οι μη επιδιορθωμένες, δημοσίως γνωστές ευπάθειες παραμένουν το ευκολότερο σημείο εισόδου τόσο για επιθέσεις από ανθρώπους όσο και από ΤΝ. Όταν ένας αυτόνομος πράκτορας μπορεί να σαρώνει και να εκμεταλλεύεται πολλαπλούς γνωστούς τύπους ευπαθειών σε εκατοντάδες στόχους χωρίς κάποιος άνθρωπος να εκτελεί χειροκίνητα κάθε βήμα, το χρονικό περιθώριο που έχουν οι οργανισμοί για να εφαρμόσουν διορθώσεις μειώνεται δραματικά.

Τι σημαίνει αυτό για εσάς

Αν είστε μεμονωμένος αναγνώστης, αυτή η ιστορία δεν αποτελεί λόγο πανικού, αλλά είναι ένα σήμα που αξίζει να προσέξετε. Οι αυτόνομες επιθέσεις με γνώμονα την ΤΝ γίνονται μια πραγματική επιχειρησιακή δυνατότητα και όχι ένας θεωρητικός μελλοντικός κίνδυνος. Για τους περισσότερους καταναλωτές, η πρακτική έκθεση προκύπτει έμμεσα: αν μια υπηρεσία, μια εφαρμογή ή μια πλατφόρμα που χρησιμοποιείτε παραβιαστεί μέσω αυτού του είδους της αυτοματοποιημένης εκμετάλλευσης, τα δεδομένα σας μπορεί να καταλήξουν ανάμεσα στις συνέπειες της επίπτωσης.

Για τους διαχειριστές IT, τις ομάδες ασφαλείας και τους ιδιοκτήτες μικρών επιχειρήσεων, οι επιπτώσεις είναι πιο άμεσες. Ένας εισβολέας οπλισμένος με έναν αυτόνομο πράκτορα ΤΝ δεν χρειάζεται βαθιά τεχνική εξειδίκευση για να διεξαγάγει μια ευρείας κλίμακας εκστρατεία σάρωσης και εκμετάλλευσης. Αυτό μειώνει τον πήχη εισόδου για επιθέσεις που κάποτε απαιτούσαν εξειδικευμένους ανθρώπινους χειριστές και σημαίνει ότι τα μη επιδιορθωμένα συστήματα κινδυνεύουν περισσότερο να εντοπιστούν και να αξιοποιηθούν γρήγορα, μερικές φορές πριν καν οι υπερασπιστές μάθουν ότι μια νέα ευπάθεια αποτελεί ενεργό στόχο.

Εφαρμόσιμα συμπεράσματα

  • Εφαρμόζετε διορθώσεις εγκαίρως και με συνέπεια. Τα αυτόνομα εργαλεία σάρωσης αναζητούν γνωστές, μη επιδιορθωμένες ευπάθειες, οπότε οι έγκαιρες ενημερώσεις παραμένουν μία από τις πιο αποτελεσματικές άμυνες που είναι διαθέσιμες.
  • Παρακολουθείτε για ασυνήθιστα μοτίβα ελέγχου ταυτότητας ή σάρωσης. Οι αυτοματοποιημένοι πράκτορες συχνά δημιουργούν διακριτά μοτίβα κίνησης, όπως γρήγορη, διαδοχική ανίχνευση σε πολλαπλά συστήματα, τα οποία μπορούν να επισημάνουν τα εργαλεία παρακολούθησης ασφαλείας.
  • Να είστε προσεκτικοί σχετικά με το ποια εργαλεία ΤΝ ενσωματώνει ο οργανισμός σας στις ροές εργασίας και να κατανοείτε ότι δεν εφαρμόζουν όλοι οι πάροχοι ΤΝ τα ίδια πρότυπα ασφαλείας.
  • Μείνετε ενήμεροι για τις νέες γνωστοποιήσεις ευπαθειών και τις λίστες με ελαττώματα που βρίσκονται υπό εκμετάλλευση, δεδομένου ότι αυτές αποτελούν την πρώτη ύλη στην οποία βασίζονται τα αυτόνομα εργαλεία επίθεσης.

Η εκστρατεία κυβερνοεπιθέσεων με DeepSeek AI που περιγράφεται λεπτομερώς από την Unit 42 αποτελεί μια πρόγευση του πώς εξελίσσονται οι επιθετικές δυνατότητες της ΤΝ. Το να παραμένετε ενημερωμένοι σχετικά με τις διορθώσεις, την παρακολούθηση και τις πληροφορίες για ευπάθειες παραμένει ο πιο αξιόπιστος τρόπος για να βρίσκεστε ένα βήμα μπροστά από αυτοματοποιημένες απειλές όπως αυτή.