Ρώσοι Χάκερ Εξοπλίζουν τα Πρωτόκολλα Ασφαλείας της Τεχνητής Νοημοσύνης Εναντίον των Εργαλείων Ασφαλείας

Μια πρόσφατα αναφερθείσα εκστρατεία κακόβουλου λογισμικού που συνδέεται με Ρώσους χάκερ έχει υιοθετήσει μια ασυνήθιστη προσέγγιση για να αποφύγει τον εντοπισμό: ενσωματώνοντας ένα ψεύτικο αίτημα πυρηνικού όπλου μέσα σε ένα κακόβουλο σενάριο VBS. Ο στόχος δεν είναι να κατασκευάσουν ένα όπλο, αλλά να μπερδέψουν τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται όλο και περισσότερο για την ανάλυση ύποπτου κώδικα. Εισάγοντας γλώσσα που μιμείται ένα αίτημα για πληροφορίες πυρηνικών όπλων, οι επιτιθέμενοι φαίνεται να προσπαθούν να ενεργοποιήσουν τα ενσωματωμένα πρωτόκολλα ασφαλείας των μοντέλων τεχνητής νοημοσύνης, προκαλώντας αυτά τα συστήματα να αρνηθούν να επεξεργαστούν ή να αναλύσουν πλήρως το αρχείο.

Αυτή η τακτική αναδεικνύει μια αυξανόμενη ένταση στην κυβερνοασφάλεια: καθώς όλο και περισσότερες ομάδες ασφαλείας βασίζονται σε εργαλεία τεχνητής νοημοσύνης για τη διαλογή και ανάλυση κακόβουλου λογισμικού σε μεγάλη κλίμακα, οι επιτιθέμενοι μαθαίνουν να εκμεταλλεύονται τους ίδιους τους μηχανισμούς ασφαλείας που έχουν σχεδιαστεί για να κάνουν αυτά τα εργαλεία αξιόπιστα.

Πώς Λειτουργεί το Κόλπο με το Πυρηνικό Προτροπή

Τα πρωτόκολλα ασφαλείας της τεχνητής νοημοσύνης υπάρχουν για καλό λόγο. Τα μεγάλα γλωσσικά μοντέλα έχουν εκπαιδευτεί να αρνούνται αιτήματα που θα μπορούσαν να διευκολύνουν βλάβη στον πραγματικό κόσμο, συμπεριλαμβανομένων λεπτομερών οδηγιών που σχετίζονται με όπλα μαζικής καταστροφής. Όταν ένα εργαλείο ασφαλείας υποβοηθούμενο από τεχνητή νοημοσύνη σαρώνει ένα αρχείο, συνήθως διαβάζει τα περιεχόμενα, συμπεριλαμβανομένου οποιουδήποτε ενσωματωμένου κειμένου, ως μέρος της διαδικασίας ανάλυσης.

Φυτεύοντας γλώσσα που μοιάζει με αίτημα πυρηνικού όπλου μέσα στο σενάριο VBS, οι χάκερ φαίνεται να υπολογίζουν ότι η ενσωματωμένη συμπεριφορά άρνησης του μοντέλου τεχνητής νοημοσύνης θα ενεργοποιηθεί. Αντί να επισημάνει το αρχείο ως κακόβουλο λογισμικό, η τεχνητή νοημοσύνη μπορεί να σταματήσει, να αρνηθεί να συνεχίσει την ανάλυση ή να παράγει μια ελλιπή ή αναξιόπιστη αξιολόγηση. Ουσιαστικά, το κακόβουλο περιεχόμενο γίνεται ένα είδος δόλωματος, χρησιμοποιώντας την ηθική εκπαίδευση της τεχνητής νοημοσύνης εναντίον της.

Αυτό δεν είναι ένα ελάττωμα που περιορίζεται σε έναν προμηθευτή ή προϊόν. Αντικατοπτρίζει μια ευρύτερη πρόκληση: τα πρωτόκολλα ασφαλείας σχεδιάζονται συνήθως γύρω από τη μετριοπάθεια περιεχομένου και την πρόληψη βλάβης, όχι την αντιμετώπιση αντίπαλων τεχνικών αποφυγής κατά την τεχνική ανάλυση κακόβουλου λογισμικού. Όταν αυτοί οι δύο στόχοι συγκρούονται, οι επιτιθέμενοι βρίσκουν ένα άνοιγμα.

Γιατί Αυτό Έχει Σημασία για την Ανάλυση Ασφαλείας Υποβοηθούμενη από Τεχνητή Νοημοσύνη

Οι ομάδες ασφαλείας έχουν υιοθετήσει γρήγορα εργαλεία τεχνητής νοημοσύνης για να βοηθήσουν στη διαχείριση του τεράστιου όγκου ύποπτων αρχείων, απόπειρων phishing και σεναρίων που αντιμετωπίζουν καθημερινά. Αυτά τα εργαλεία υπόσχονται ταχύτερη διαλογή και μπορούν να επισημάνουν μοτίβα που οι ανθρώπινοι αναλυτές μπορεί να χάσουν. Αλλά αυτό το περιστατικό είναι μια υπενθύμιση ότι τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται σε ροές εργασίας ασφαλείας φέρουν τη δική τους επιφάνεια επίθεσης, μια που η παραδοσιακή ανίχνευση κακόβουλου λογισμικού δεν ήταν σχεδιασμένη να προβλέψει.

Εάν ένα μοντέλο τεχνητής νοημοσύνης μπορεί να χειραγωγηθεί ώστε να παραλείψει ή να αποδυναμώσει την ανάλυσή του απλώς επειδή ένα αρχείο περιέχει συγκεκριμένες λέξεις-κλειδιά, αυτό είναι ένα σημαντικό τυφλό σημείο. Εγείρει επίσης ερωτήματα σχετικά με το πόσο πολύ θα πρέπει οι οργανισμοί να βασίζονται στην ανάλυση που καθοδηγείται από τεχνητή νοημοσύνη χωρίς ανθρώπινη εποπτεία, ειδικά για αποφάσεις υψηλού ρίσκου όπως το αν ένα αρχείο είναι ασφαλές να ανοιχθεί ή να εκτελεστεί.

Αυτού του είδους η τακτική εντάσσεται σε ένα ευρύτερο μοτίβο επιτιθέμενων που προσαρμόζουν τις τεχνικές τους σε όποιον ή οτιδήποτε κάνει την άμυνα. Όπως ακριβώς οι χειριστές ransomware έχουν μετατοπίσει τους στόχους κοινωνικής μηχανικής προς διευθυντές μέσης καριέρας αντί για στελέχη, έτσι και οι συγγραφείς κακόβουλου λογισμικού προσαρμόζουν τώρα τις τεχνικές αποφυγής τους στα συγκεκριμένα συστήματα, συμπεριλαμβανομένων των μοντέλων τεχνητής νοημοσύνης, που βρίσκονται μεταξύ αυτών και των στόχων τους.

Τι Σημαίνει Αυτό για Εσάς

Για τους περισσότερους μεμονωμένους χρήστες, αυτή η συγκεκριμένη τεχνική στοχεύει την υποδομή ασφαλείας των επιχειρήσεων και όχι άμεσα τις προσωπικές συσκευές. Είναι απίθανο να συναντήσετε αυτό το συγκεκριμένο κόλπο με σενάριο VBS στον δικό σας υπολογιστή με τρόπο που να επηρεάζει την καθημερινή σας περιήγηση ή τις συνήθειες ηλεκτρονικού ταχυδρομείου. Αλλά το υποκείμενο μάθημα ισχύει ευρέως: τα αυτοματοποιημένα εργαλεία, είτε πρόκειται για σαρωτές κακόβουλου λογισμικού με τεχνητή νοημοσύνη, φίλτρα ανεπιθύμητης αλληλογραφίας ή λογισμικό προστασίας από ιούς, δεν είναι αλάνθαστα, και οι επιτιθέμενοι ερευνούν ενεργά τρόπους να εκμεταλλευτούν τα τυφλά τους σημεία.

Εάν ο χώρος εργασίας σας χρησιμοποιεί εργαλεία ασφαλείας υποβοηθούμενα από τεχνητή νοημοσύνη, αυτή είναι μια καλή στιγμή να ρωτήσετε πώς επικυρώνονται αυτά τα εργαλεία και αν οι ανθρώπινοι αναλυτές εξακολουθούν να εξετάζουν τα επισημασμένα ή μη επισημασμένα αρχεία. Για τα άτομα, το συμπέρασμα είναι γενικότερο: μην υποθέτετε ότι επειδή ένα αρχείο δεν επισημάνθηκε από αυτοματοποιημένο σαρωτή, είναι αυτόματα ασφαλές. Τα πολυεπίπεδα αμυντικά συστήματα, ο σκεπτικισμός απέναντι σε απροσδόκητα σενάρια ή συνημμένα και η βασική υγιεινή ασφαλείας παραμένουν εξίσου σημαντικά όσο ποτέ.

Πρακτικά Συμπεράσματα

  • Αποφύγετε να ανοίγετε ανεπιθύμητα αρχεία VBS, σενάρια ή έγγραφα με ενεργοποιημένες μακροεντολές, ανεξάρτητα από το αν ένας αυτοματοποιημένος σαρωτής τα καθάρισε.
  • Εάν διαχειρίζεστε εργαλεία ασφαλείας στη δουλειά, ρωτήστε αν η ανάλυση κακόβουλου λογισμικού υποβοηθούμενη από τεχνητή νοημοσύνη περιλαμβάνει εφεδρική ανθρώπινη εξέταση για αρχεία που ενεργοποιούν αρνήσεις ή ελλιπείς σαρώσεις.
  • Διατηρήστε τα παραδοσιακά επίπεδα ανίχνευσης, όπως το λογισμικό προστασίας από ιούς βάσει υπογραφών και την παρακολούθηση δικτύου, σε ισχύ παράλληλα με τα νεότερα εργαλεία τεχνητής νοημοσύνης αντί να τα αντικαθιστάτε πλήρως.
  • Μείνετε ενημερωμένοι για το πώς οι επιτιθέμενοι προσαρμόζονται στις άμυνες που καθοδηγούνται από τεχνητή νοημοσύνη, καθώς τεχνικές όπως αυτή είναι πιθανό να εξελιχθούν αντί να εξαφανιστούν.

Καθώς η τεχνητή νοημοσύνη ενσωματώνεται όλο και περισσότερο στις ροές εργασίας κυβερνοασφάλειας, περιστατικά όπως αυτό δείχνουν ότι τα πρωτόκολλα ασφαλείας που έχουν σχεδιαστεί για να διατηρούν τα συστήματα τεχνητής νοημοσύνης ασφαλή μπορούν επίσης να γίνουν στόχος από μόνα τους. Παραμένοντας ενημερωμένοι για αυτές τις αναδυόμενες τακτικές και διατηρώντας πολυεπίπεδες άμυνες με ανθρώπινη εξέταση, παραμένει ο καλύτερος τρόπος να παραμείνετε μπροστά από επιτιθέμενους που διερευνούν συνεχώς νέες αδυναμίες για να εκμεταλλευτούν.