Το Cisco Talos Αποκαλύπτει Κακόβουλο Λογισμικό με Νοημοσύνη Σμήνους CLOSEDQUORUM

Ένα Νέο Πλαίσιο για την Παρακολούθηση Απειλών με Ενσωματωμένη Τεχνητή Νοημοσύνη

Οι ερευνητές ασφαλείας έχουν περάσει τα τελευταία χρόνια προειδοποιώντας ότι οι εγκληματίες θα κατασκευάσουν τελικά κακόβουλο λογισμικό ικανό να χρησιμοποιεί τεχνητή νοημοσύνη μόνο του, χωρίς άνθρωπο να πληκτρολογεί εντολές από τα παρασκήνια. Αυτή η προειδοποίηση έχει πλέον γίνει τεκμηριωμένη πραγματικότητα. Οι ερευνητές της Cisco Talos ανέπτυξαν ένα νέο πλαίσιο ανίχνευσης σχεδιασμένο ειδικά για τον εντοπισμό κακόβουλου λογισμικού και εργαλείων hacking που βασίζονται σε chatbots τεχνητής νοημοσύνης για λήψη αποφάσεων. Κατά τη δοκιμή του εργαλείου, βρήκαν κάτι που δεν περίμεναν: κακόβουλο λογισμικό που συμβουλεύεται πολλαπλά μεγάλα γλωσσικά μοντέλα για να αποφασίσει τι θα κάνει στη συνέχεια, χωρίς χειριστή να το κατευθύνει σε πραγματικό χρόνο.

Το πλαίσιο, κατασκευασμένο για την ταξινόμηση και ανάλυση κακόβουλου λογισμικού με ενσωματωμένη τεχνητή νοημοσύνη, έδωσε στην Talos έναν τρόπο να εντοπίζει μοτίβα που οι παραδοσιακές υπογραφές antivirus και η ανάλυση συμπεριφοράς τείνουν να χάνουν. Αντί να αναζητά μόνο γνωστό κακόβουλο κώδικα, το εργαλείο αναζητά τα χαρακτηριστικά σημάδια λογισμικού που υποβάλλει ερωτήματα σε μοντέλα τεχνητής νοημοσύνης κατά τη διάρκεια της εκτέλεσης, ουσιαστικά ρωτώντας ένα chatbot ποιο βήμα να κάνει στη συνέχεια μέσα σε ένα παραβιασμένο σύστημα.

Μέσα στο CLOSEDQUORUM: Κακόβουλο Λογισμικό με τη Δική του Επιτροπή Τεχνητής Νοημοσύνης

Η πιο εντυπωσιακή ανακάλυψη που προέκυψε από αυτή την έρευνα είναι ένα κομμάτι κακόβουλου λογισμικού που οι ερευνητές ονόμασαν CLOSEDQUORUM. Αντί να βασίζεται σε ένα μόνο μοντέλο τεχνητής νοημοσύνης για καθοδήγηση, το CLOSEDQUORUM φέρεται να επικοινωνεί με πολλά διαφορετικά μεγάλα γλωσσικά μοντέλα και να σταθμίζει τις απαντήσεις τους πριν δράσει, λειτουργώντας σχεδόν σαν μια μικρή επιτροπή συμβούλων τεχνητής νοημοσύνης που λαμβάνουν αποφάσεις μαζί. Αυτός ο σχεδιασμός είναι που έχει οδηγήσει ορισμένους στην κοινότητα ασφαλείας να το περιγράφουν ως τεχνητή νοημοσύνη «σμήνους» που καθοδηγεί κακόβουλη δραστηριότητα.

Αυτό έχει σημασία γιατί αφαιρεί έναν από τους μεγαλύτερους περιορισμούς του κυβερνοεγκλήματος: την ανάγκη για έναν άνθρωπο να παραμείνει εμπλεκόμενος. Το παραδοσιακό κακόβουλο λογισμικό συχνά χρειάζεται έναν χειριστή για να στείλει νέες εντολές, να προσαρμόσει τακτικές όταν αλλάζουν οι άμυνες, ή να αποφασίσει πώς να ανταποκριθεί σε ένα απροσδόκητο εμπόδιο. Κακόβουλο λογισμικό που μπορεί να υποβάλλει ερωτήματα σε πολλαπλά συστήματα τεχνητής νοημοσύνης και να συνθέτει τις εισροές τους μπορεί δυνητικά να προσαρμόζεται μόνο του, με ταχύτητα μηχανής, χωρίς να περιμένει ένα άτομο να συνδεθεί και να δώσει οδηγίες.

Αυτή η ανακάλυψη έρχεται μαζί με άλλα πρόσφατα ευρήματα που δείχνουν προς την ίδια κατεύθυνση. Νωρίτερα φέτος, η Ομάδα Πληροφοριών Απειλών της Google επιβεβαίωσε ότι η τεχνητή νοημοσύνη χρησιμοποιείται ήδη για την υποστήριξη της ανάπτυξης exploits ημέρας μηδέν, δείχνοντας ότι ο ρόλος της τεχνητής νοημοσύνης στις επιθετικές κυβερνοεπιχειρήσεις έχει ξεπεράσει κατά πολύ τη θεωρητική συζήτηση. Η ανακάλυψη του CLOSEDQUORUM από την Talos προσθέτει ένα ακόμη σημείο δεδομένων: η τεχνητή νοημοσύνη δεν βοηθά απλώς τους επιτιθέμενους να γράφουν κώδικα πιο γρήγορα, αλλά ενσωματώνεται άμεσα στη λειτουργική λογική του κακόβουλου λογισμικού.

Επιπτώσεις στην Ιδιωτικότητα του Αυτόνομου Κακόβουλου Λογισμικού

Για τους καθημερινούς χρήστες του διαδικτύου, η εμφάνιση κακόβουλου λογισμικού καθοδηγούμενου από τεχνητή νοημοσύνη όπως το CLOSEDQUORUM εγείρει πραγματικές ανησυχίες για την ιδιωτικότητα, ακόμη και αν οι άμεσες τεχνικές λεπτομέρειες απευθύνονται σε επιχειρησιακούς αμυντικούς. Κακόβουλο λογισμικό που μπορεί ανεξάρτητα να αποφασίσει πώς να κινηθεί μέσα σε ένα δίκτυο, ποια δεδομένα φαίνονται πολύτιμα, ή πώς να αποφύγει την ανίχνευση θα μπορούσε να είναι πολύ πιο αποτελεσματικό στον εντοπισμό και την εξαγωγή προσωπικών πληροφοριών από κακόβουλο λογισμικό που εξαρτάται από έναν ανθρώπινο χειριστή που συνδέεται περιοδικά.

Η αυτόνομη λήψη αποφάσεων επίσης περιπλέκει την απόδοση και την απόκριση. Όταν ένας ανθρώπινος χειριστής κατευθύνει μια επίθεση, οι ομάδες ασφαλείας μπορούν μερικές φορές να προβλέψουν τη συμπεριφορά βάσει γνωστών μοτίβων που συνδέονται με μια συγκεκριμένη ομάδα. Κακόβουλο λογισμικό που συμβουλεύεται μοντέλα τεχνητής νοημοσύνης εν κινήσει μπορεί να συμπεριφέρεται λιγότερο προβλέψιμα, δημιουργώντας νέες διαδρομές επίθεσης που δεν ταιριάζουν με καμία προηγουμένως καταγεγραμμένη τεχνική. Αυτή η απροβλεψιμότητα είναι ακριβώς ο λόγος που η Talos κατασκεύασε ένα ειδικό πλαίσιο αντί να βασίζεται σε υπάρχουσες μεθόδους ανίχνευσης· ο στόχος είναι να πιάσει απειλές με ενσωματωμένη τεχνητή νοημοσύνη προτού μπορέσουν να συλλέξουν ήσυχα διαπιστευτήρια, οικονομικά δεδομένα ή προσωπικά αρχεία.

Τι Σημαίνει Αυτό για Εσάς

Οι περισσότεροι μεμονωμένοι χρήστες δεν θα στοχοποιηθούν άμεσα από προηγμένο κακόβουλο λογισμικό καθοδηγούμενο από τεχνητή νοημοσύνη όπως το CLOSEDQUORUM βραχυπρόθεσμα. Εργαλεία όπως αυτό τείνουν να εμφανίζονται πρώτα σε στοχευμένες εισβολές κατά επιχειρήσεων, υποδομών ή δικτύων υψηλής αξίας. Αλλά η υποκείμενη τάση έχει σημασία για όλους: καθώς η τεχνητή νοημοσύνη μειώνει το τεχνικό εμπόδιο για την κατασκευή προσαρμοστικού κακόβουλου λογισμικού, ο όγκος και η πολυπλοκότητα των επιθέσεων που φτάνουν στους απλούς καταναλωτές πιθανότατα θα αυξηθούν με την πάροδο του χρόνου. Τα emails phishing, οι ψεύτικες σελίδες σύνδεσης και οι κακόβουλες λήψεις μπορεί να δημιουργούνται ή να βελτιώνονται ολοένα και περισσότερο με τη βοήθεια τεχνητής νοημοσύνης, καθιστώντας τα πιο δύσκολα να εντοπιστούν με την παλιά συμβουλή «ψάξτε για ορθογραφικά λάθη και κακή γραμματική».

Το γεγονός ότι οι ερευνητές κατασκευάζουν πλαίσια ανίχνευσης ειδικά για απειλές με ενσωματωμένη τεχνητή νοημοσύνη είναι θετικό σημάδι. Σημαίνει ότι η κοινότητα ασφαλείας το αντιμετωπίζει ως προτεραιότητα τώρα, αντί να αντιδρά αφού το κακόβουλο λογισμικό καθοδηγούμενο από τεχνητή νοημοσύνη γίνει ευρέως διαδεδομένο.

Πρακτικά Συμπεράσματα

• Διατηρείτε τα λειτουργικά συστήματα, τα προγράμματα περιήγησης και το λογισμικό ασφαλείας ενημερωμένα, καθώς τα ενημερωμένα συστήματα παραμένουν η πρώτη γραμμή άμυνας τόσο κατά παραδοσιακού όσο και κατά κακόβουλου λογισμικού που υποβοηθείται από τεχνητή νοημοσύνη.
• Να είστε δύσπιστοι απέναντι σε απροσδόκητα μηνύματα ή συνδέσμους ακόμη και όταν φαίνονται καλογραμμένα και χωρίς λάθη, καθώς η τεχνητή νοημοσύνη μπορεί τώρα να βοηθήσει τους επιτιθέμενους να παράγουν πειστικό περιεχόμενο σε κλίμακα.
• Χρησιμοποιήστε ένα αξιόπιστο πρόγραμμα διαχείρισης κωδικών πρόσβασης και ενεργοποιήστε τον έλεγχο ταυτότητας πολλαπλών παραγόντων όπου είναι δυνατόν, μειώνοντας την αξία οποιουδήποτε μεμονωμένου κλεμμένου διαπιστευτηρίου.
• Ακολουθείτε τις αναφορές καθιερωμένων ερευνητών ασφαλείας για να παραμένετε ενήμεροι για το πώς η τεχνητή νοημοσύνη αλλάζει το τοπίο των απειλών, αντί να βασίζεστε σε υποθέσεις σχετικά με το τι μπορεί ή δεν μπορεί να κάνει το κακόβουλο λογισμικό.

Κακόβουλο λογισμικό καθοδηγούμενο από τεχνητή νοημοσύνη όπως το CLOSEDQUORUM είναι μια υπενθύμιση ότι οι απειλές κυβερνοασφάλειας εξελίσσονται συνεχώς, και τα νέα πλαίσια ανίχνευσης είναι ένα από τα ισχυρότερα εργαλεία που έχουν οι ερευνητές για να παραμείνουν μπροστά. Το να ενημερώνεστε για εξελίξεις όπως αυτή είναι ένας από τους απλούστερους τρόπους να προστατεύσετε την ιδιωτικότητά σας τους επόμενους μήνες.