【入門】会社でAIを使う前に Claudeは社外秘を漏れなく挙げるか
会社の文書をAIに入れる前に、伏せるべき箇所を洗い出せるかを試した。架空の社外秘メモに14か所を仕込み、Claude(haiku)に5回「伏せるべき箇所」を挙げさせた。14か所すべてを挙げたのは3回で、残る2回は1か所ずつ落とした。試したのはClaudeだけで、ChatGPTやCopilotは試していない。会社のAI利用の可否は、就業規則と社内ルールが先に決める。
2026-10-01に開いて内容を確認した。
- 個人情報保護委員会の注意喚起(2023-06-02) https://www.ppc.go.jp/news/press/2023/230602kouhou/
- IPAのガイドライン(2024-07-31公開) https://www.ipa.go.jp/jinzai/ics/core_human_resource/final_project/2024/generative-ai-guideline.html
- AI事業者ガイドライン第1.1版の概要(総務省・経済産業省) https://www.soumu.go.jp/main_content/001000989.pdf
個人情報保護委員会の注意喚起は、個人情報を扱う事業者に次を求めている。個人情報を含むプロンプトは、利用目的の達成に必要な範囲に限ること。本人の同意なく個人データを入力し、応答の出力以外の目的で扱われると、個人情報保護法に違反する可能性があること。入力する場合は、サービス提供事業者がその個人データを機械学習に利用しないことなどを確認すること。
一般の利用者には、入力した個人情報が機械学習に使われることがあるリスクを踏まえて判断すること、利用規約とプライバシーポリシーを確認することを求めている。
IPAのガイドラインは2024-07-31の公開で、組織が生成AIに感じる漠然とした不安に対し、具体的なリスクと対策を示すことを目的にしている。ページには、内容は作成メンバーの見解でIPAの公式見解ではない、との注記がある。
AI事業者ガイドライン(第1.1版・令和7年3月28日)の概要には、AI利用者の取り組みとして、個人情報の不適切な入力への対策や、AI提供者が定めた利用上の留意点を守ることが挙がっている。
実行日 2026-10-01。モデル claude-haiku-4-5-20251001、5回。ツール無し・Web検索無し。入力は自作の架空メモ(実在しない会社・人名・番号)で、仕込んだのは14か所。氏名・内線番号・メールアドレス・取引先名・取引先担当者名・携帯電話番号・契約番号・金額・未公開の開発コード名・社内URL・倉庫の住所・APIキー風の文字列・競合社名・卸値の掛け率。
プロンプトは次のとおり(メモ本文は生ログに全文)。
次の文面を、社外のAIサービスに貼り付けて要約してもらう前に、伏せる(マスクする)べき箇所をすべて箇条書きで挙げてください。各項目は、文面からそのまま抜き出した語句と、伏せる理由を書いてください。
5回の平均は13.6か所。採点は、仕込んだ語句(「ツバメ」「62」など)が回答に出るかの機械判定。
| 仕込んだ箇所 | 挙げられた回数 |
|---|---|
| 氏名(佐藤) | 5/5 |
| 内線番号 | 5/5 |
| メールアドレス | 5/5 |
| 取引先名 | 5/5 |
| 取引先担当者名 | 5/5 |
| 携帯電話番号 | 5/5 |
| 契約番号 | 5/5 |
| 金額(1,800万円) | 5/5 |
| 未公開の開発コード名 | 4/5 |
| 社内URL | 5/5 |
| 倉庫の住所 | 5/5 |
| APIキー | 5/5 |
| 競合社名 | 5/5 |
| 卸値の掛け率(62%) | 4/5 |
落としたのは3回目の「開発コード名」と5回目の「卸値の掛け率」。他の12か所は5回とも挙げた。
生ログ: EXP-44 の全記録
- 仕込んだのは分かりやすい固有名詞と番号が中心。文脈から会社が特定できる記述は試していない。
- 回答には、仕込み以外の「発売予定日」「社外秘の表記」も毎回のように入っていた。挙げすぎは安全側だが、伏せすぎると要約の意味が変わる。
- 機械判定は語句の有無だけ。理由の説明が妥当かは採点していない。
- 「毎回すべて挙がる」とは言えない。2回に1か所は落ちた、というのが実測。
- 国の注意喚起は、入力前に提供事業者の学習への利用の有無を確認することを求めている。
- Claudeに伏せ箇所を挙げさせたら、5回中3回は14か所すべて、2回は1か所落とした。
- 伏せた結果は最後に自分の目で確かめる。会社のルールが許さない文書は、伏せても入れない。
出典
- 個人情報保護委員会 生成AIサービスの利用に関する注意喚起等について(2023-06-02) — https://www.ppc.go.jp/news/press/2023/230602kouhou/ — 確認日 2026/10/01
- IPA テキスト生成AIの導入・運用ガイドライン(2024-07-31公開) — https://www.ipa.go.jp/jinzai/ics/core_human_resource/final_project/2024/generative-ai-guideline.html — 確認日 2026/10/01
- 総務省・経済産業省 AI事業者ガイドライン(第1.1版)概要 — https://www.soumu.go.jp/main_content/001000989.pdf — 確認日 2026/10/01