Ένα πρόσφατο άρθρο από την Jazz Security παρουσιάζει πραγματικά παραδείγματα διαρροής δεδομένων AI, από μηχανικούς της Samsung που επικολλούσαν κώδικα στο ChatGPT μέχρι τα περιστατικά EchoLeak και Salesloft Drift. Για κάθε περίπτωση, καλύπτει ποιος εντόπισε το πρόβλημα, την τρέχουσα κατάστασή του και τον έλεγχο που θα μπορούσε να είχε εντοπίσει ή περιορίσει την έκθεση. Οι περιπτώσεις διαφέρουν ως προς τις τεχνικές λεπτομέρειες, αλλά μοιράζονται ένα θέμα: οι διαρροές δεν ξεκίνησαν από εξωτικές επιθέσεις. Ξεκίνησαν από συνήθεις συμπεριφορές και αξιόπιστες συνδέσεις.

Αυτή η ανάρτηση βασίζεται σε αυτή τη σύνοψη και τη συντακτική οπτική πίσω από αυτήν. Το υλικό πηγής που έχουμε στη διάθεσή μας είναι σύντομο, οπότε μένουμε στα ευρύτερα μοτίβα που περιγράφει αντί να προσθέτουμε τεχνικές λεπτομέρειες που δεν μπορούμε να επαληθεύσουμε.

Τι συνέβη στις διαρροές Samsung, EchoLeak και Salesloft Drift

Οι τρεις περιπτώσεις καλύπτουν τρεις διαφορετικούς τρόπους με τους οποίους συμβαίνει έκθεση δεδομένων που σχετίζεται με AI.

Samsung. Μηχανικοί επικόλλησαν κώδικα στο ChatGPT. Δεν χρειάστηκε χάκερ. Οι εργαζόμενοι χρησιμοποίησαν ένα δημόσιο chatbot ως εργαλείο εργασίας, και ευαίσθητο υλικό βγήκε από τον έλεγχο της εταιρείας τη στιγμή που υποβλήθηκε.

EchoLeak. Αυτό το περιστατικό ομαδοποιείται με τα άλλα ως παράδειγμα μιας λειτουργίας AI που εκθέτει δεδομένα μέσω του τρόπου με τον οποίο επεξεργάζεται περιεχόμενο και συνδέεται με άλλες πληροφορίες. Δείχνει ότι ο κίνδυνος δεν περιορίζεται σε αυτό που πληκτρολογεί ένα άτομο. Η ίδια η πρόσβαση του συστήματος AI σε δεδομένα έχει επίσης σημασία.

Salesloft Drift. Αυτή η περίπτωση αφορούσε συνδεδεμένες ενσωματώσεις OAuth. Το OAuth επιτρέπει σε μια εφαρμογή να έχει πρόσβαση σε δεδομένα μιας άλλης χωρίς να μοιράζεται κωδικό πρόσβασης. Αυτό είναι βολικό, αλλά όταν μια συνδεδεμένη υπηρεσία παραβιαστεί, τα διακριτικά πρόσβασης που κατέχει μπορούν να γίνουν μια διαδρομή σε κάθε λογαριασμό με τον οποίο ήταν συνδεδεμένη.

Το άρθρο της Jazz Security καταγράφει επίσης ποιος ανακάλυψε κάθε περίπτωση και πού βρίσκεται σήμερα. Για τους αναγνώστες, το πιο χρήσιμο συμπέρασμα είναι ο συνδυασμός κάθε περίπτωσης με έναν έλεγχο: κάτι που θα μπορούσε να είχε δώσει ορατότητα στη δραστηριότητα ή να είχε περιορίσει το πόσο μακριά ταξίδεψαν τα δεδομένα.

Παραδείγματα διαρροής δεδομένων AI: πώς η καθημερινή χρήση AI εξέθεσε δεδομένα

Αυτό που ξεχωρίζει σε αυτά τα παραδείγματα διαρροής δεδομένων AI είναι πόσο συνηθισμένα ήταν τα σημεία εκκίνησης.

Η επικόλληση κειμένου σε ένα chatbot μοιάζει με τη χρήση ενός πλαισίου αναζήτησης ή μιας εφαρμογής σημειώσεων. Δεν μοιάζει με αποστολή δεδομένων σε τρίτο μέρος. Αυτό το χάσμα μεταξύ αντίληψης και πραγματικότητας είναι όπου συμβαίνει η διαρροή τύπου Samsung. Μόλις υποβληθεί μια πληροφορία, γενικά έχεις περιορισμένη εικόνα για το πού αποθηκεύεται ή ποιος μπορεί να έχει πρόσβαση σε αυτήν σύμφωνα με τους όρους της υπηρεσίας.

Οι συνδεδεμένες εφαρμογές λειτουργούν με τον ίδιο τρόπο. Η παραχώρηση πρόσβασης σε μια ενσωμάτωση απαιτεί δύο κλικ, και η άδεια συχνά παραμένει ανέγγιχτη για μήνες ή χρόνια. Αν ο πάροχος πίσω από αυτή την ενσωμάτωση παραβιαστεί, η έκθεση φτάνει σε δεδομένα που μπορεί να έχεις ξεχάσει ότι μοιράστηκες.

Οι βοηθοί AI προσθέτουν ένα τρίτο επίπεδο. Όταν ένα εργαλείο μπορεί να διαβάζει το email, τα έγγραφα ή τα μηνύματά σου για να είναι χρήσιμο, οτιδήποτε μπορεί να διαβάσει είναι δυνητικά εκτεθειμένο αν το εργαλείο συμπεριφερθεί με απρόβλεπτο τρόπο. Το παράδειγμα EchoLeak δείχνει γιατί το εύρος πρόσβασης έχει τόση σημασία όση και η ποιότητα της ίδιας της AI.

Τι έχασαν τα επηρεαζόμενα άτομα και οργανισμοί

Οι λεπτομέρειες διαφέρουν ανά περίπτωση, και δεν θα μαντέψουμε αριθμούς που δεν δίνει η σύνοψη της πηγής. Σε γενικές γραμμές, η έκθεση εμπίπτει σε μερικές κατηγορίες:

  • Ιδιόκτητες πληροφορίες. Ο πηγαίος κώδικας και το εσωτερικό υλικό που εισήχθησαν σε ένα δημόσιο chatbot δεν μπορούν πλέον να θεωρούνται ιδιωτικά.
  • Επιχειρηματικά δεδομένα και δεδομένα πελατών. Οι παραβιάσεις συνδεδεμένων εφαρμογών μπορούν να εκθέσουν εγγραφές που είναι αποθηκευμένες στις συνδεδεμένες πλατφόρμες, κάτι που επηρεάζει τους πελάτες και τις επαφές των οργανισμών που εμπλέκονται, όχι μόνο τους ίδιους τους οργανισμούς.
  • Έλεγχος και ορατότητα. Σε πολλά περιστατικά η διαρκής ζημιά δεν είναι μόνο τα ίδια τα δεδομένα αλλά η απώλεια κάθε σαφούς εικόνας για το πού πήγαν.

Αυτό το μοτίβο εμφανίζεται επίσης εκτός επιχειρηματικών περιβαλλόντων. Η παραβίαση δεδομένων της Suno, που εξέθεσε τα προσωπικά δεδομένα περισσότερων από 55 εκατομμυρίων χρηστών και δεν γνωστοποιήθηκε ποτέ σε αυτούς, δείχνει πώς μια υπηρεσία AI που κατέχει δεδομένα χρηστών μπορεί να γίνει σημείο έκθεσης ακόμη και όταν οι χρήστες δεν έκαναν κάτι ασυνήθιστο.

Τι σημαίνει αυτό για εσάς

Δεν χρειάζεται να εργάζεστε σε μια μεγάλη εταιρεία για να ισχύουν αυτά τα μαθήματα. Τα άτομα επικολλούν προσωπικά έγγραφα, ιατρικές ερωτήσεις, συμβόλαια και προσχέδια εργασίας σε chatbots κάθε μέρα. Πολλοί επίσης συνδέουν εργαλεία AI και άλλες εφαρμογές με email, ημερολόγια και αποθηκευτικό χώρο cloud.

Το πρακτικό σημείο είναι ότι η έκθεσή σας εξαρτάται από δύο πράγματα που ελέγχετε: τι παραδίδετε σε μια υπηρεσία AI και ποια πρόσβαση αφήνετε ενεργοποιημένη. Κανένα από τα δύο δεν απαιτεί τεχνική εξειδίκευση για να διαχειριστείτε. Ευρύτερο πλαίσιο για το πώς η AI αλλάζει την εικόνα των απειλών καλύπτεται στην ανάλυσή μας για το ransomware AI και τα ελαττωματικά μοντέλα δοκιμών που διαρρέουν δεδομένα.

Συνήθειες που περιορίζουν τη δική σας έκθεση σε AI

  • Αντιμετωπίστε ένα prompt chatbot σαν email σε έναν άγνωστο. Αν δεν θα το στέλνατε έξω από τον οργανισμό ή το νοικοκυριό σας, μην το επικολλάτε.
  • Αφαιρέστε πρώτα τα στοιχεία ταυτοποίησης. Αντικαταστήστε ονόματα, αριθμούς λογαριασμών, διαπιστευτήρια και πληροφορίες πελατών με placeholders πριν ζητήσετε βοήθεια.
  • Ελέγξτε την πολιτική της εργασίας σας. Αν ο εργοδότης σας παρέχει εγκεκριμένο εργαλείο AI, χρησιμοποιήστε το αντί για προσωπικό λογαριασμό. Αν δεν υπάρχει πολιτική, ζητήστε μία.
  • Ελέγχετε τακτικά τις συνδεδεμένες εφαρμογές. Ανοίξτε τη σελίδα ασφαλείας ή δικαιωμάτων του email, του αποθηκευτικού χώρου cloud και των λογαριασμών εργασίας σας και αφαιρέστε ενσωματώσεις που δεν χρησιμοποιείτε πλέον.
  • Προτιμήστε στενά δικαιώματα. Όταν μια εφαρμογή ζητά ευρεία πρόσβαση, ελέγξτε αν υπάρχει πιο περιορισμένη επιλογή.
  • Ελέγξτε το ιστορικό συνομιλιών και τις ρυθμίσεις δεδομένων. Δείτε τι διατηρούν οι υπηρεσίες AI σας και αν μπορείτε να εξαιρεθείτε από τη χρήση για εκπαίδευση ή να διαγράψετε παλιές συνομιλίες.
  • Χρησιμοποιήστε μοναδικούς κωδικούς πρόσβασης και έλεγχο ταυτότητας πολλαπλών παραγόντων. Αυτά δεν σταματούν κάθε διαρροή, αλλά περιορίζουν το τι μπορεί να οδηγήσει ένας εκτεθειμένος λογαριασμός.

Βασικά συμπεράσματα

Τα παραδείγματα διαρροής δεδομένων AI από Samsung, EchoLeak και Salesloft Drift οδηγούν στο ίδιο συμπέρασμα: οι μεγαλύτερες εκθέσεις συχνά προέρχονται από την ευκολία, όχι από εξελιγμένες επιθέσεις. Ξεκινήστε ελέγχοντας τι επικολλάτε σε chatbots, στη συνέχεια εξετάστε τις συνδεδεμένες εφαρμογές σας και ανακαλέστε ό,τι δεν χρειάζεστε. Για ένα άλλο παράδειγμα έκθεσης δεδομένων υπηρεσίας AI, διαβάστε για την παραβίαση της Suno, και για ευρύτερο πλαίσιο σχετικά με τον κίνδυνο που σχετίζεται με την AI, δείτε την κάλυψή μας για το ransomware AI. Λίγα λεπτά ελέγχου τώρα είναι πολύ ευκολότερα από το να προσπαθείτε να ανακαλύψετε αργότερα πού πήγαν τα δεδομένα σας.