AIエージェントには、会話をすべて保存した方が便利ですか？
すべてを保存する必要はありません。今回の依頼だけで使う情報は会話終了後に破棄し、継続利用が必要な設定だけを本人の確認を経て残します。会話全体ではなく、目的に必要な項目へ絞ります。
AI AGENT BASICS / ARTICLE 38
AIエージェントに何を覚えさせるか｜会話履歴・正本資料・利用記録を分ける設計
会話で得た情報、承認済み資料、利用記録を混ぜず、保存目的・期限・訂正方法まで決める実務設計を解説します。
この記事の目次
SHORT ANSWER
まず、結論から。
結論AIエージェントの「記憶」は一つの箱にまとめません。会話中だけ使う一時情報、利用者ごとの設定、回答の根拠となる承認済み資料、運用を確かめる利用記録を分けます。保存前に目的と期限を決め、会話で得た内容を自動で正本へ昇格させず、利用者が確認・訂正・削除を申し出られる運用にします。
以前伝えた条件をAIが覚えていれば便利です。ただし、会話中のメモを正式な社内ルールとして扱ったり、監査用の記録を回答材料へ混ぜたりすると、誤った回答や不要な情報共有につながります。情報の役割ごとに保存場所、利用目的、期限、閲覧者、訂正方法を決めます。
主な対象
企業・自治体・団体のAI導入・運用責任者業務主管・ナレッジ管理・顧客対応の担当者情報システム・個人情報保護・セキュリティ・内部統制の担当者
KEY POINTS
この記事の、4つの要点。
- 会話中の一時情報、個人設定、承認済み資料、利用記録を別の役割として管理する
- 保存前に利用目的、必要な項目、閲覧者、保存期限、削除方法を決める
- 会話で得た内容を自動で正式な回答根拠へせず、資料所有者の確認を経て正本へ反映する
- 利用者が保存内容を確認し、誤りの訂正や不要情報の削除を申し出られる導線を用意する
SEPARATE THE ROLES
「覚えている」を、一つの機能として扱わない。
担当者が一度伝えた好みを、次の依頼でもAIが反映してくれる。これは便利です。一方で、会話の中で伝えた例外対応まで社内の正式ルールとして使われると、別の利用者へ誤った案内を返す原因になります。
実務では、AIが扱う情報を役割で分けます。会話中だけ必要な一時情報、文体や表示方法など利用者ごとの設定、回答の根拠となる承認済み資料、誰が何を利用したかを確かめる運用記録です。保存場所が同じでも、回答に使ってよい情報と、監査のために残す情報は用途を分けます。
IPAは、RAGを生成AIが検索によって知識を補う仕組みとして説明し、検索対象にするデータをセキュリティ面から決める必要を示しています。『保存されているから回答に使う』のではなく、何を根拠として参照させるかを明示します。
- 一時情報
- 今回の依頼を理解する間だけ使う条件や補足
- 個人設定
- 本人が確認した呼称、文体、表示方法など
- 承認済み資料
- 規程、商品情報、FAQなど回答の根拠となる正本
- 利用記録
- 入力、参照、出力、操作、承認を追跡するための記録
PURPOSE BEFORE STORAGE
保存する前に、目的と期限を決める。
情報を覚えさせるか迷ったら、最初に『次のどの仕事で必要か』を確認します。便利そうだから残すのではなく、回答の継続性、本人向けの設定、監査、品質改善など、利用目的を一つずつ言葉にします。目的を説明できない情報は、保存しない選択を基本にします。
次に、必要な項目だけへ絞ります。担当者名が不要なら部署名に置き換える、会話全体が不要なら確定した条件だけを残すなど、目的に必要な粒度へ整えます。誰が閲覧できるか、いつ見直すか、いつ削除するか、別のサービスへ送るかも同時に決めます。
個人情報保護委員会は、生成AIへ個人情報を入力する際、利用目的に必要な範囲か、提供事業者が入力情報をどのように取り扱うかを確認するよう注意を促しています。保存先や学習利用の条件が確認できない場合は、保存しないか、個人情報を含まないテストデータへ切り替えます。
- 目的
- 次のどの業務で、誰のために使うのか
- 最小化
- 目的に不要な氏名、連絡先、会話部分を除けるか
- 閲覧
- 本人、担当部署、管理者のうち誰が見られるか
- 期限
- 見直し日、保存期限、削除または更新の責任者は誰か
- 外部利用
- 提供先、保存場所、学習利用、再委託を確認できるか
APPROVED KNOWLEDGE
会話で得た情報は、確認してから正本へ反映する。
利用者がAIへ訂正を伝えたとしても、その内容が組織全体の正式情報とは限りません。『今月だけ受付時間を変える』『この顧客には例外対応をする』といった発言を、恒久的な規程や全利用者向けの回答へ混ぜないようにします。
正本へ反映する候補は、元の会話から分けて申請します。情報の所有者が根拠、対象、適用開始日、終了日を確認し、既存資料との矛盾を解消してから、版を付けて登録します。反映後は代表質問で回答を確かめ、旧版が検索対象から外れたことも確認します。
AI事業者ガイドライン第1.2版は、AIの開発・提供・利用におけるリスクをライフサイクル全体で管理する考え方を示しています。正本資料も追加した時点で終わりにせず、変更、評価、廃止まで担当者と記録をつなげます。
- 会話から正本候補を切り出し、元の発言者と日時を記録する
- 資料所有者が根拠、対象者、適用期間、例外を確認する
- 既存の正本と矛盾しない状態にして版を付ける
- 代表質問を再試験し、旧版を回答対象から外す
VISIBLE & CORRECTABLE
何を覚えているかを、確認・訂正できるようにする。
保存した情報は、利用者や運用担当者が確認できなければ誤りに気づきにくくなります。個人設定は本人が、承認済み資料は資料所有者が、運用記録は権限を持つ管理者が確認できるようにし、用途ごとに閲覧範囲を分けます。
訂正の方法も用意します。呼称や希望する文章の長さは本人が変更できても、規程や料金を利用者の一言で書き換えられないようにします。削除依頼を受けたときは、対象、保存先、バックアップ、法令や契約上残す必要がある記録を確認し、削除できない理由があれば説明できる状態にします。
運用記録をAIの回答材料へ流用すると、過去の誤回答や個別事情を一般ルールとして再利用するおそれがあります。IPAの手引書は、入力・出力・会話履歴、監査ログ、ベクトルデータベースなどを整理対象として挙げています。保管目的が異なる情報は、参照権限と削除手順も分けます。
- 個人設定
- 本人が確認・変更・不要化を申し出られる
- 承認済み資料
- 所有者だけが版と適用範囲を変更できる
- 利用記録
- 監査・事故対応に必要な担当者だけが閲覧できる
- 削除
- 本体、複製、連携先、バックアップの扱いを確認する
BOUNDARY TEST
覚えることより、忘れることまで試す。
導入前の試験では、情報を保存できるかだけでなく、保存しない条件、期限切れ、訂正、削除、利用者変更も確認します。別の利用者が前の会話を見られないか、削除した設定が次の回答へ残らないか、旧版資料が検索結果へ出ないかを確かめます。
チェックリストには、情報区分、利用目的、保存先、閲覧者、期限、正本への反映手順、訂正・削除窓口、停止条件を入れます。サービスや外部連携の仕様変更でログ項目や保存条件が変わることもあるため、契約更新やモデル・接続先の変更時に再確認します。
NISTのAI RMFは、設計から運用・評価まで継続してリスクを管理するための枠組みです。記憶の量を増やすことを成果にせず、必要な情報だけが適切な相手と期間に使われ、不要になった情報を止められる状態を合格とします。ここで示す内容は一般的な活用例であり、特定組織の導入実績や効果を示すものではありません。
- 会話終了後、一時情報が次の利用者へ残らない
- 本人以外が個人設定を閲覧・変更できない
- 未承認の会話内容が正式回答の根拠にならない
- 期限切れ・廃止済み資料が検索対象から外れる
- 訂正・削除後の回答と記録を再確認できる
- 外部連携や契約変更後も保存条件が維持される
FREQUENTLY ASKED QUESTIONS
この記事のよくある質問。
利用者が『これを覚えて』と言えば、正式な知識へ追加できますか？
個人設定として扱える内容と、組織の正本へ反映すべき内容を分けます。規程、料金、制度、例外対応などは、資料所有者が根拠、対象、適用期間を確認し、版を付けてから回答の根拠へ追加します。
会話履歴と監査ログは同じものですか？
目的が異なります。会話履歴は依頼の文脈を保つため、監査ログは利用や操作を追跡するための記録です。必要な項目、閲覧者、保存期間を分け、監査ログを通常回答の材料へ流用しません。
個人設定には、どのような情報を保存できますか？
本人が確認した呼称、文体、出力形式など、次の業務で必要な設定が候補です。個人情報や機密情報は必要性を確認し、目的、閲覧者、期限、訂正・削除方法を決めてから扱います。
削除した情報が本当に使われていないか、どう確かめますか？
本体だけでなく、検索対象、複製、外部連携、バックアップの扱いを確認します。削除後に代表質問を実行し、回答や検索結果へ残らないことを試験し、実施者と確認結果を記録します。
既存のAIサービスで保存条件を確認できない場合はどうしますか？
確認できるまで個人情報や秘密情報を保存せず、架空データや公開情報で試します。提供事業者へ保存期間、学習利用、削除、外部送信、管理者権限を照会し、組織のルールと契約に合うかを確認します。
PRIMARY SOURCES
判断の基準にした、公式情報。
制度・製品・提供条件は変更されるため、リンク先の最新表示も併せて確認してください。
CONTACT LUMINA