Cybernewsの調査によると、302.aiの設定ミスのあるストレージバケットが1,760万ファイルを、それを見つけた誰でも閲覧可能な状態で放置していた。その中には個人情報を含む14万4千件以上のAIチャットログが含まれていた。302.aiのAIチャットログのデータ流出は、AIツールに入力した内容のプライバシーはそれを支えるストレージ次第だということを痛烈に思い出させる。

このインシデントに関する報道によると、悪意のあるアクセスは確認されていない。それは安心できることだが、だからといってこれらのファイルが意味のある意味で安全だったわけではない。以下で説明する。

Cybernewsが302.aiのバケットで発見したもの

Cybernewsの研究者は、302.aiに関連するストレージバケットが公開状態でアクセス可能であることを発見した。露出は1,760万ファイルに及び、主要な報道では総量を22.7TBのデータと表現している。内部には個人情報を含む14万4千件以上のAIチャットログがあった。この記事の報道では、アダルト製品に関連するサポートログにも言及されており、一部の素材がいかに私的なものかを示している。

重要な詳細は、露出がどのように発生したかだ。これは高度な侵入として描写されていない。インターネットに開放されたストレージバケットは、それを見つけた誰でもハッキングなしで内容を閲覧できることを意味していた。報道によれば、悪意のある当事者がデータにアクセスしたという確認はない。

ソース資料にはこれ以上の技術的詳細は示されておらず、バケットがどのくらいの期間開放されていたのか、すべてのファイルに機密内容が含まれていたのかは明らかではない。報告されているのは規模とチャットログにおける個人情報の存在だ。

露出したAIチャットログがプライバシーリスクである理由

人は検索エンジンに話しかけるときとは違う形でAIツールに話しかける傾向がある。仕事の文書を貼り付け、健康上の不安を説明し、恋愛のアドバイスを求め、メールには書くのをためらうような詳細を共有する。そうした会話が丸見えの状態で保存されると、その内容は個人について多くのことを明らかにしうる。

チャットログに特に注意が必要な理由はいくつかある:

  • 自然言語で書かれている。 名前、住所、個人的な状況が文脈の中で頻繁に現れるため、読みやすく、伏せ字にするのが難しい。
  • 個人に紐付けられる可能性がある。 名前がなくても、会話内の詳細から誰が書いたかを特定できることがある。
  • 削除されることはほとんどない。 多くのプラットフォームは会話履歴を長期間保持するため、流出は最近の活動をはるかに超えて過去に及ぶ可能性がある。
  • サポートログが第二の層を加える。 カスタマーサービスの記録はチャットを注文、アカウント、製品に結びつけることがあり、恥ずかしい、あるいは機密性の高い内容になりうる。

「悪意のあるアクセスの確認なし」も限定的な保証にすぎない。プロバイダーがバケットが開放されていた期間の完全なアクセスログを持っていない限り、誰も見なかったことを証明するのは難しい。自動スキャナーは常に開放されたバケットを探しているため、露出したデータはすぐに発見されることが多い。

AIプラットフォームが設定ミスでデータを流出させる頻度

302.aiの事例は、巧妙な攻撃ではなく設定の誤りによってデータを露出させるAI関連サービスのパターンに当てはまる。Vibetechの事例は最近の例だ。保護されていないリポジトリが、インターネット接続のある誰でも数百万件の記録を閲覧できる状態にしていた。詳しくはVibetechデータベースがAmazonとFBIに関連する1,370万件の記録を露出の記事で扱っている。

AI企業は従来型の侵害に見舞われることもある。5,500万人のユーザーに影響したSuno侵害の報道は、急成長するAIプラットフォームがどれほど早く大量のユーザーデータを蓄積し、そのうちどれだけが一度に露出しうるかを示している。

共通する糸はスピードだ。AI製品はしばしば素早く構築されスケールされるため、非公開のはずのストレージが一つの設定ミスで公開されてしまうことがある。研究者は欠陥のあるAIツールがいかにデータを漏洩しうるかを記録し続けており、AIランサムウェアと欠陥のあるテストモデルによるデータ漏洩の記事で論じている。

これがあなたにとって意味すること

AIプロバイダーがストレージをどのように設定しているかを検査することはできないため、送信したものはいつか露出する可能性があると想定する必要がある。それはAIツールを避けることを意味しない。それらと共有する内容について意図的に行動することを意味する。

あまり知られていないAIプラットフォーム、または他のモデルへのアクセスを再販するプラットフォームを使ったことがある場合、誰があなたのデータをどのくらいの期間保存しているかについての可視性は低いかもしれない。VPNはここでは役に立たない。通信中の接続は保護するが、プロバイダーが自社サーバーに保存するデータは保護できない。

AIツールがあなたについて知ることを減らす方法

いくつかの習慣で露出を減らすことができる:

  1. 機密情報をプロンプトに入れない。 パスワード、財務データ、医療情報、ID番号、機密の業務文書を貼り付けるのは避ける。
  2. プレースホルダーを使う。 下書きや編集の支援を求めるときは、実名や住所を一般的な代替表記に置き換える。
  3. 保持設定を確認する。 サービスが履歴を保存するかどうかを確認し、オプションがあればオフにするか古い会話を削除する。
  4. 不要なものを削除する。 古いチャットやアップロードしたファイルを削除し、使わなくなったアカウントを閉鎖する。
  5. 固有のパスワードと二要素認証を使う。 アカウントが露出した場合、他のサービスへの被害を限定できる。
  6. フォローアップ詐欺に注意する。 漏洩した個人情報は説得力のあるフィッシングメッセージを助長するため、予期しない要求は疑ってかかる。

主なポイント

302.aiのAIチャットログのデータ流出は、攻撃者が確認されなくても、一つのストレージ設定が数百万のファイルを露出させうることを示している。AIチャットは潜在的に永続的な記録として扱い、共有を減らし、不要な履歴を消去しよう。AIサービスがユーザーデータをどのように扱い、誤って扱うかについてさらに知りたい場合は、Vibetechデータベースの露出とSuno侵害の報道を読んでほしい。