LLMから個人情報・機密情報はなぜ漏れるのか、相次ぐ流出事例と今後のリスク対応

世界で相次ぐLLMを起因とする個人情報・機密情報の流出

最近、LLM（大規模言語モデル）の利用が急速に拡大する中で、個人情報や機密情報の流出が深刻な問題となっています。本記事では、流出の典型的なパターンと最近の事例を示し、今後のリスク対応について整理します。

流出の典型パターンと事例

2023年3月、サムスン電子の半導体部門で、エンジニアがソースコードの不具合修正にChatGPTを利用しましたが、その過程で社内の重要なデータが流出しました。具体的には、新プログラムのソースコードや社内会議のメモ、ハードウェア関連データが入力され、1か月足らずの間に3件の流出が確認されました。この結果、サムスンはアップロードの容量を1024バイトに制限し、翌5月には生成AIツールの社内利用を一時的に禁止しました。

同じく2023年3月20日、ChatGPTにおいてオープンソースライブラリredis-pyの不具合が発生しました。この不具合により、一部の利用者が他のユーザーの会話履歴のタイトルにアクセスできる状態となったため、OpenAIはサービスを一時停止しました。この事例では、特定の9時間の間にChatGPT Plus加入者の1.2%に関して、氏名やメールアドレス、支払先住所などの個人情報が表示された可能性がありました。イタリアのデータ保護当局は、この件を受けてOpenAIに対しGDPR違反で1500万ユーロの制裁金を科しました。

2025年1月、クラウドセキュリティ企業Wizは、中国のDeepSeekのデータベースが認証なしでインターネットからアクセス可能な状態であったことを発見しました。このデータベースには100万件を超えるログ、平文のチャット履歴やAPIキーなどの機密情報が含まれていました。このことは、適切なセキュリティ対策が講じられていなかったことを示しています。

2025年7月から8月初めにかけて、ChatGPTの会話共有機能において、利用者が「検索可能にする」オプションを有効にしたリンクがGoogleなどにインデックスされる事態が発生しました。公開されたリンクは4500件以上発見され、個人の身元情報や社内戦略などが公開されました。この問題により、OpenAIは検索可能機能を廃止し、検索エンジンからのインデックス削除に取り組みました。

2025年6月に発表された「EchoLeak」と称される脆弱性は、Microsoft 365 Copilotに影響を与えました。この脆弱性により、細工したメールを受信した利用者なしに、Copilotが社内データを外部へ送信することが可能でした。Microsoftはこの問題を修正したとし、利用者側の対応は不要であるとしましたが、セキュリティリスクの深刻さを物語っています。

2025年11月に、OpenAIがAPI製品のWeb分析に利用していた委託先Mixpanelに対して攻撃者が侵入し、データを持ち出しました。この流出により、APIアカウントの氏名やメールアドレス、所在地などが流出しうる情報として報告されました。また、2026年3月にはオープンソースのPythonライブラリ「LiteLLM」が、サプライチェーン攻撃の対象となり、不正なバージョンが公開される事態が発生しました。

今後のリスク対応と規制動向

これらの事例を踏まえ、個人や企業が取るべき対策を以下に示します。

リスクの整理と対応策

• 入力の管理: 社外のLLMサービスに入力してよい情報の範囲を社内規程で定め、法人向けの契約やデータ保持設定を確認することが重要です。
• 共有・公開設定の確認: 会話共有リンクの公開範囲を把握し、不要なリンクを削除することが必要です。
• 権限の最小化: LLMやAIエージェントに接続する文書やデータの範囲を必要最小限に制限し、外部からの指示に従わない設計を心がけることが推奨されます。
• インフラとサプライチェーン: データベースを無認証で公開せず、ライブラリのバージョンを固定し、APIキーやクラウド認証情報を定期的に更新することが重要です。
• 規制対応: GDPRのように侵害時の当局報告義務がある地域では責任を果たすことが求められます。EU AI法の透明性義務も理解し、準備を進めるべきです。

今後もLLMの利用が広がる中で、情報漏洩のリスクはますます高まると予想されます。個人と企業は、これらの対策を講じてリスクを最小限に抑える努力が求められます。