Samsung、EchoLeak、Salesloft Drift：AIデータ漏洩の事例

Jazz Securityの最近の記事では、SamsungのエンジニアがコードをChatGPTに貼り付けた事例から、EchoLeakやSalesloft Driftのインシデントまで、実際のAIデータ漏洩事例を解説しています。各事例について、問題を発見したのは誰か、現在の状況、そして漏洩を検知または限定できたはずの制御について説明しています。事例は技術的な詳細において異なりますが、共通するテーマがあります。漏洩は特異な攻撃から始まったのではありません。日常的な行動と信頼された接続から始まったのです。

この記事はその要約と、その背後にある編集的な視点に基づいています。入手可能なソース資料は簡潔なものであるため、検証できない技術的詳細を追加するのではなく、そこで説明されている大まかなパターンに留めています。

Samsung、EchoLeak、Salesloft Driftの漏洩で何が起きたか

この3つの事例は、AIに関連するデータ露出が起こる3つの異なる方法をカバーしています。

Samsung。 エンジニアがコードをChatGPTに貼り付けました。ハッカーは必要ありませんでした。従業員が公開チャットボットを仕事のツールとして使用し、機密資料は送信された瞬間に会社の管理を離れました。

EchoLeak。 このインシデントは、AI機能がコンテンツを処理し他の情報に接続する方法を通じてデータを露出する例として、他の事例とグループ化されています。リスクは人が入力する内容に限定されないことを示しています。AIシステム自体のデータへのアクセスも重要です。

Salesloft Drift。 この事例は接続されたOAuth連携に関係していました。OAuthは、パスワードを共有せずに、あるアプリが別のアプリのデータにアクセスできるようにします。それは便利ですが、接続されたサービスが侵害されると、それが保持するアクセストークンが、リンクされていたすべてのアカウントへの経路になり得ます。

Jazz Securityの記事はまた、各事例を発見した人物と現在の状況も記録しています。読者にとってより有用な要点は、各事例を制御と対にする点です。つまり、その活動への可視性を提供したり、データがどこまで流れたかを限定できたはずのものです。

AIデータ漏洩の事例：日常的なAI利用がどのようにデータを露出したか

これらのAIデータ漏洩事例全体で際立っているのは、出発点がいかにありふれていたかということです。

テキストをチャットボットに貼り付けるのは、検索ボックスやメモアプリを使うように感じられます。サードパーティにデータを送っているようには感じられません。この認識と現実のギャップが、Samsung型の漏洩が起こる場所です。情報が一度送信されると、一般的に、それがどこに保存されているか、サービスの利用規約の下で誰がアクセスできるかについて、限られた洞察しか持てません。

接続されたアプリも同じように機能します。連携にアクセスを許可するのは数回のクリックで済み、その権限はしばしば何ヶ月も何年も放置されます。その連携の背後にあるベンダーが侵害されると、露出は共有したことを忘れているかもしれないデータにまで及びます。

AIアシスタントは第三の層を追加します。ツールが役立つためにメール、文書、メッセージを読むことができる場合、そのツールが意図しない動作をすると、読めるものはすべて潜在的に影響を受ける可能性があります。EchoLeakの例は、アクセスの範囲がAI自体の品質と同じくらい重要である理由を示しています。

影響を受けた人々と組織が失ったもの

詳細は事例によって異なり、ソースの要約に記載されていない数値を推測することはしません。一般的に言えば、露出はいくつかのカテゴリーに分類されます：

• 専有情報。 公開チャットボットに入力されたソースコードや内部資料は、もはや非公開として扱えません。
• ビジネスおよび顧客データ。 接続アプリの侵害は、リンクされたプラットフォームに保存された記録を露出する可能性があり、組織自体だけでなく、関係する組織の顧客や連絡先にも影響します。
• 制御と可視性。 多くのインシデントでは、永続的な損害はデータ自体だけでなく、それがどこへ行ったかの明確な把握を失うことでもあります。

このパターンは企業環境の外でも見られます。5,500万人以上のユーザーの個人情報を露出し、ユーザーに一度も開示されなかったSunoのデータ侵害は、ユーザーが異常なことを何もしていなくても、ユーザーデータを保持するAIサービスがどのように露出のポイントになり得るかを示しています。

これがあなたにとって何を意味するか

これらの教訓を適用するために大企業で働く必要はありません。個人は毎日、個人文書、医療に関する質問、契約書、仕事の下書きをチャットボットに貼り付けています。多くの人はAIツールや他のアプリをメール、カレンダー、クラウドストレージに接続しています。

実用的なポイントは、あなたの露出があなたが制御する2つのことにかかっているということです。AIサービスに何を渡すか、そしてどのアクセスをオンのままにするかです。どちらも管理に技術的な専門知識は必要ありません。AIがどのように脅威の状況を変えているかについてのより広い文脈は、AIランサムウェアとデータを漏洩する欠陥のあるテストモデルに関する記事で扱っています。

あなた自身のAI露出を制限する習慣

• チャットボットのプロンプトを見知らぬ人へのメールのように扱う。 組織や家庭の外に送らないものであれば、貼り付けないでください。
• 最初に識別情報を削除する。 助けを求める前に、名前、アカウント番号、認証情報、顧客情報をプレースホルダーに置き換えてください。
• 職場のポリシーを確認する。 雇用主が承認済みのAIツールを提供している場合は、個人アカウントの代わりにそれを使用してください。ポリシーがない場合は、策定を求めてください。
• 接続されたアプリを定期的に確認する。 メール、クラウドストレージ、職場アカウントのセキュリティまたは権限ページを開き、使用しなくなった連携を削除してください。
• 狭い権限を選ぶ。 アプリが広範なアクセスを求める場合、より限定的なオプションが存在するか確認してください。
• チャット履歴とデータ設定を確認する。 AIサービスが何を保持しているか、トレーニング利用をオプトアウトできるか、過去の会話を削除できるかを確認してください。
• 固有のパスワードと多要素認証を使用する。 これらはすべての漏洩を防ぐわけではありませんが、露出したアカウントが何につながるかを制限します。

要点

Samsung、EchoLeak、Salesloft DriftのAIデータ漏洩事例は同じ結論を指し示しています。最大の露出はしばしば洗練された攻撃ではなく、便利さから生まれます。まずチャットボットに貼り付ける内容を監査し、次に接続されたアプリを確認して不要なものを取り消してください。AIサービスによるデータ露出の別の例については、Suno侵害についてお読みください。AI関連リスクのより広い文脈については、AIランサムウェアの報道をご覧ください。今すぐ数分間の見直しを行うことは、後であなたのデータがどこへ行ったかを見つけようとするよりもはるかに簡単です。