この用語の意味
プロンプトキャッシュは、AIへ繰り返し渡す指示や資料について「変わらない入力部分の処理を再利用する仕組み」です。共通の指示、会話履歴、規程、コードなどを毎回最初から処理する負担を減らします。GoogleではContext Cachingとも呼ばれます。過去の回答をそのまま返す回答キャッシュとは扱いが異なり、新しい質問への回答は改めて生成します。
何ができるか
同じ社内規程を使う問い合わせ下書き、共通の形式で行う帳票分析、同じコードを参照する調査などで、入力処理の費用と回答開始までの時間を減らせる場合があります。共通部分が一致し、製品の条件を満たすことが必要です。毎回違う短文を渡す業務や、一度だけ読む資料では効果が小さい場合があります。キャッシュが使われても回答の正確性や毎回同じ回答になることは保証されません。
実際に使うために必要なもの
対応するAI API、モデル、利用するアプリ、共通に使う非機密資料、使用量を確認できる担当者を準備します。固定指示や共通資料と、その都度変わる質問を分けます。サービスによって自動的に使う方式と、保存対象や有効期間を指定する方式があります。入力してよい情報、保存条件、更新時の差し替え方法、利用者間の分離を確認してください。
通常の入力・出力料金に加え、キャッシュへの書込み、読み出し、保存時間に応じた料金があるか確認します。設定・監視・資料更新の作業時間も含めます。ヒットした入力の単価だけでなく、キャッシュ作成から失効までの総額と、業務1件あたりの費用を比較します。月額契約の画面操作でも同じ割引が適用されるとは限りません。
単一の製品名や統一規格ではなく、OpenAI、Google、AnthropicなどのAI提供元がそれぞれ提供する仕組みです。OpenAIの公式文書では一致するプロンプトの先頭部分の処理状態を再利用すると説明しています。Googleは暗黙的・明示的なContext Cachingを説明しています。対応モデル、最低入力量、有効期間、料金、削除方法、データ保持条件は異なるため、導入時の公式仕様を確認します。確認日：2026年10月5日。
小さく試す運用例
架空の社内規程を共通資料として、問い合わせ20件の回答案を作ります。同じモデル・指示・品質条件で、キャッシュを利用する場合と利用しない場合の使用量、ヒットした入力量、応答時間、総額、担当者の修正時間を記録します。規程を更新したケースも試し、旧版が回答に残らないことを確認します。件数や資料の長さを増やす前に、節約額が設定と確認の手間に見合うか判断します。
人が確認すること・注意点
キャッシュの保存先、期間、学習利用、利用者ごとの分離、失効・削除条件を確認します。キャッシュされた入力もコンテキストウィンドウの上限やレート制限に数えられる場合があります。顧客情報を使う前に契約と社内ルールを確認し、原文と回答を照合します。キャッシュヒットが起きたことと費用が下がったことは別に、実際の使用量・請求明細で確認してください。
関連する事例・テンプレート
現在、直接関連する公開済みの事例・テンプレートはありません。
参考情報
- OpenAI：モデル運用ガイド（2026年10月2日）（確認日：2026-10-05）
- OpenAI：Prompt caching（確認日：2026-10-05）
- Google：Context caching（確認日：2026-10-05）