ChatGPhish: Το Σφάλμα Markdown του ChatGPT Επιτρέπει Phishing μέσω Έγχυσης Προτροπών

ChatGPhish: Το Σφάλμα Markdown του ChatGPT Επιτρέπει Phishing μέσω Έγχυσης Προτροπών

Μια νεοαποκαλυφθείσα ευπάθεια phishing του ChatGPT ονόματι ChatGPhish εγείρει σοβαρές ανησυχίες σχετικά με το πώς η υποβοηθούμενη από τεχνητή νοημοσύνη περιήγηση στον ιστό μπορεί να στραφεί εναντίον των ίδιων των χρηστών που στοχεύει να βοηθήσει. Ερευνητές της Permiso Security αποκάλυψαν ότι η ενσωματωμένη εμπιστοσύνη του ChatGPT σε συνδέσμους και εικόνες μορφοποιημένους κατά Markdown δημιουργεί ένα άνοιγμα για τους επιτιθέμενους ώστε να εγχύσουν κακόβουλες προτροπές απευθείας στις περιλήψεις ιστού της τεχνητής νοημοσύνης, μετατρέποντας αποτελεσματικά μια συνηθισμένη λειτουργία παραγωγικότητας σε μηχανισμό παράδοσης phishing.

Πώς το ChatGPhish Εκμεταλλεύεται την Εμπιστοσύνη του ChatGPT στο Markdown

Όταν το ChatGPT περιηγείται στον ιστό και συνοψίζει περιεχόμενο για έναν χρήστη, επεξεργάζεται και αποδίδει μορφοποίηση Markdown, συμπεριλαμβανομένων υπερσυνδέσμων και ενσωματωμένων εικόνων. Η ευπάθεια ChatGPhish εκμεταλλεύεται αυτήν τη συμπεριφορά ενσωματώνοντας ειδικά διαμορφωμένες οδηγίες μέσα στο περιεχόμενο ιστοσελίδων. Επειδή το ChatGPT αντιμετωπίζει αυτό το περιεχόμενο ως αξιόπιστη είσοδο, οι εγχυμένες οδηγίες μπορούν να ανακατευθύνουν την έξοδο της τεχνητής νοημοσύνης, να την εξαναγκάσουν να εμφανίσει παραπλανητικούς συνδέσμους ή να την καθοδηγήσουν να ζητήσει διαπιστευτήρια από τον χρήστη με ψεύτικα προσχήματα.

Πρόκειται για μια επίθεση έμμεσης έγχυσης προτροπών. Σε αντίθεση με την άμεση έγχυση προτροπών, όπου ένας χρήστης χειραγωγεί σκόπιμα μια τεχνητή νοημοσύνη με διαμορφωμένες εισόδους, η έμμεση έγχυση προτροπών αποκρύπτει κακόβουλες εντολές μέσα σε εξωτερικό περιεχόμενο που η τεχνητή νοημοσύνη ανακτά και επεξεργάζεται αυτόνομα. Ο χρήστης δεν βλέπει ποτέ τις κρυφές οδηγίες· βλέπει μόνο όποια έξοδο έχει σχεδιάσει ο επιτιθέμενος να παράγει η τεχνητή νοημοσύνη. Στην περίπτωση του ChatGPhish, αυτή η έξοδος μπορεί να περιλαμβάνει πειστικές προτροπές phishing που φαίνεται να προέρχονται από την ίδια την τεχνητή νοημοσύνη, προσδίδοντάς τους ένα επίπεδο ψεύτικης νομιμότητας.

Αυτό που κάνει αυτή την περίπτωση ιδιαίτερα αξιοσημείωτη είναι ότι η επιφάνεια επίθεσης δεν είναι το υποκείμενο μοντέλο της τεχνητής νοημοσύνης, αλλά η εμπιστοσύνη που δείχνει στο περιεχόμενο ιστού που συνοψίζει. Ένας επιτιθέμενος δεν χρειάζεται να παραβιάσει τα συστήματα της OpenAI. Χρειάζεται μόνο να ελέγξει ή να χειραγωγήσει μια ιστοσελίδα που ένας χρήστης θα μπορούσε να ζητήσει από το ChatGPT να συνοψίσει.

Ποιοι κινδυνεύουν περισσότερο και ποια δεδομένα θα μπορούσαν να εκτεθούν

Όποιος χρησιμοποιεί τις δυνατότητες περιήγησης ή σύνοψης ιστού του ChatGPT είναι δυνητικά εκτεθειμένος, αλλά ορισμένες ομάδες αντιμετωπίζουν αυξημένο κίνδυνο. Οι χρήστες που βασίζονται στο ChatGPT για γρήγορη σύνοψη άρθρων, εγγράφων ή σελίδων τρίτων είναι πιο πιθανό να συναντήσουν εγχυμένο περιεχόμενο χωρίς να το αντιληφθούν. Οι εταιρικοί χρήστες που έχουν ενσωματώσει το ChatGPT σε ροές εργασίας που περιλαμβάνουν εξωτερικές πηγές δεδομένων αντιμετωπίζουν πολλαπλασιαστική έκθεση.

Τα δεδομένα που κινδυνεύουν είναι κυρίως πληροφορίες επιπέδου διαπιστευτηρίων. Μια επιτυχημένη επίθεση ChatGPhish θα μπορούσε να εξαπατήσει έναν χρήστη να υποβάλει κωδικό πρόσβασης, διακριτικό ταυτοποίησης ή στοιχεία λογαριασμού μέσω μιας σελίδας phishing που η τεχνητή νοημοσύνη έχει παρουσιάσει ως νόμιμη. Δεδομένου ότι δισεκατομμύρια διαπιστευτήρια κυκλοφορούν ήδη σε αποθετήρια παραβιάσεων, συμπεριλαμβανομένων των 19 δισεκατομμυρίων κωδικών πρόσβασης που διέρρευσαν στην παραβίαση RockYou2024, κάθε πρόσθετος φορέας phishing που παρακάμπτει τον φυσιολογικό σκεπτικισμό των χρηστών αποτελεί σοβαρή ανησυχία.

Οι λογαριασμοί που συνδέονται με υπηρεσίες πληρωμών, εταιρικά συστήματα ή ευαίσθητα προσωπικά δεδομένα είναι οι πιο ελκυστικοί στόχοι. Η προτροπή phishing, που εμφανίζεται ως φυσικό μέρος μιας απάντησης του ChatGPT, είναι πιθανό να παρακάμψει τα νοητικά φίλτρα που εφαρμόζουν οι χρήστες όταν εντοπίζουν συμβατικά μηνύματα ηλεκτρονικού ταχυδρομείου phishing.

Γιατί οι χρήστες δημόσιων δικτύων και VPN αντιμετωπίζουν αυξημένη έκθεση

Οι χρήστες σε δημόσια δίκτυα Wi-Fi αντιμετωπίζουν πολλαπλασιαστικό κίνδυνο από το ChatGPhish. Σε μη κρυπτογραφημένα ή ανεπαρκώς ασφαλισμένα δίκτυα, η υποκλοπή κίνησης είναι μια ρεαλιστική απειλή. Ενώ η ίδια η επίθεση ChatGPhish δεν απαιτεί πρόσβαση σε επίπεδο δικτύου, ο συνδυασμός ενός παραβιασμένου δικτυακού περιβάλλοντος και μιας χειραγωγημένης σύνοψης τεχνητής νοημοσύνης δημιουργεί μια ιδιαίτερα επικίνδυνη κατάσταση. Τα διαπιστευτήρια phishing που υποκλέπτονται σε μια καφετέρια ή ένα αεροδρόμιο μπορούν να χρησιμοποιηθούν άμεσα, πριν ο χρήστης έχει οποιαδήποτε ευκαιρία να ανιχνεύσει την παραβίαση.

Η χρήση ενός VPN αντιμετωπίζει ένα επίπεδο αυτού του προβλήματος κρυπτογραφώντας την κίνηση μεταξύ της συσκευής του χρήστη και του διαδικτύου, μειώνοντας τον κίνδυνο υποκλοπής σε επίπεδο δικτύου. Ωστόσο, δεν εμποδίζει το ChatGPT να επεξεργαστεί κακόβουλο περιεχόμενο ιστοσελίδων και να εμφανίσει εγχυμένες προτροπές. Η επίθεση ChatGPhish ζει στο επίπεδο εφαρμογής, πράγμα που σημαίνει ότι οι προστασίες μόνο σε επίπεδο δικτύου είναι ανεπαρκείς. Οι χρήστες πρέπει να παραμένουν σε εγρήγορση για απροσδόκητα αιτήματα διαπιστευτηρίων που εμφανίζονται μέσα σε περιλήψεις που δημιουργούνται από τεχνητή νοημοσύνη, ανεξάρτητα από το πόσο ασφαλής είναι η κίνηση του δικτύου τους.

Πρακτικά βήματα για να αποφύγετε να γίνετε στόχος του ChatGPhish

Μέχρι η OpenAI να εκδώσει μια οριστική επιδιόρθωση ή αρχιτεκτονική αλλαγή που να αποτρέπει την έγχυση προτροπών βασισμένη σε Markdown, οι χρήστες μπορούν να λάβουν αρκετά πρακτικά βήματα για να μειώσουν την έκθεσή τους.

Πρώτον, αντιμετωπίστε κάθε αίτημα διαπιστευτηρίων ή σύνδεσης που εμφανίζεται μέσω μιας σύνοψης του ChatGPT με άμεση καχυποψία. Το ChatGPT δεν έχει κανένα νόμιμο λόγο να ζητά κωδικούς πρόσβασης ή διακριτικά ταυτοποίησης ως μέρος μιας σύνοψης ιστού. Εάν δείτε ένα τέτοιο αίτημα, κλείστε τη συνεδρία και μεταβείτε απευθείας στον σχετικό ιστότοπο μέσω του προγράμματος περιήγησής σας.

Δεύτερον, να είστε επιλεκτικοί ως προς τις σελίδες που ζητάτε από το ChatGPT να συνοψίσει, ιδιαίτερα σελίδες από πηγές που δεν αναγνωρίζετε ή δεν εμπιστεύεστε. Οι σελίδες που ελέγχονται από επιτιθέμενους είναι ο κύριος μηχανισμός παράδοσης των ωφέλιμων φορτίων του ChatGPhish.

Τρίτον, ελέγξτε τώρα την ευρύτερη υγιεινή των λογαριασμών και των διαπιστευτηρίων σας, όχι μετά από ένα περιστατικό. Η χρήση ισχυρών, μοναδικών κωδικών πρόσβασης για κάθε λογαριασμό σημαίνει ότι ακόμη κι αν μια επίθεση phishing υποκλέψει ένα διαπιστευτήριο, η ζημιά περιορίζεται. Δεδομένης της ευκολίας με την οποία τα διαπιστευτήρια ανακυκλώνονται σε επιθέσεις μετά από μαζικές διαρροές, αυτή είναι μια αδιαπραγμάτευτη βασική γραμμή.

Τέλος, παρακολουθείτε τις ειδοποιήσεις ασφαλείας της OpenAI για επιδιορθώσεις ή μέτρα μετριασμού που σχετίζονται με το ChatGPhish. Η έγκαιρη εφαρμογή ενημερώσεων είναι μία από τις απλούστερες άμυνες έναντι γνωστών ευπαθειών.

Τι σημαίνει αυτό για εσάς

Το ChatGPhish είναι μια υπενθύμιση ότι τα εργαλεία τεχνητής νοημοσύνης κληρονομούν τους κινδύνους του περιεχομένου που επεξεργάζονται. Το να εμπιστεύεστε μια σύνοψη τεχνητής νοημοσύνης δεν είναι το ίδιο με το να εμπιστεύεστε την υποκείμενη πηγή, και οι επιτιθέμενοι εκμεταλλεύονται ήδη αυτό το κενό. Η επίθεση δεν απαιτεί εξελιγμένες τεχνικές δεξιότητες από την πλευρά του επιτιθέμενου, πράγμα που σημαίνει ότι είναι πιθανό να εξαπλωθεί πέρα από τους ερευνητές ασφαλείας σε ενεργή εγκληματική χρήση.

Το πιο άμεσα εφαρμόσιμο βήμα που μπορείτε να κάνετε τώρα είναι να ελέγξετε την ασφάλεια των διαπιστευτηρίων σας. Εάν ο ίδιος κωδικός πρόσβασης προστατεύει πολλούς λογαριασμούς, μία μόνο επιτυχημένη απόπειρα phishing ChatGPhish θα μπορούσε να κλιμακωθεί σε μια πολύ ευρύτερη παραβίαση. Η εξέταση της κάλυψης της παραβίασης RockYou2024 είναι ένα χρήσιμο σημείο εκκίνησης για την κατανόηση της κλίμακας του περιβάλλοντος απειλών διαπιστευτηρίων που καθιστά επιθέσεις όπως το ChatGPhish τόσο σοβαρές. Οι μοναδικοί, ισχυροί κωδικοί πρόσβασης και ο έλεγχος ταυτότητας πολλαπλών παραγόντων σε όλους τους κρίσιμους λογαριασμούς παραμένουν η πιο αξιόπιστη πρώτη γραμμή άμυνάς σας όταν τα εργαλεία τεχνητής νοημοσύνης μπορούν να μετατραπούν σε επιφάνειες phishing.