Oriental Nippon Development
ブログ一覧へ
テクノロジー

AIエージェントのコンテキストエンジニアリング:コンテキスト・メモリ・ナレッジを分けて設計する

エージェントの失敗の多くは、モデルの失敗ではなくコンテキストの失敗です。エージェントが何を、いつ知り、何を忘れるのか。その判断を担う層の設計方法を、病院での具体例とそのまま使えるコードとともにご紹介します。

AIアシスタントが自信満々に間違った答えを返すと、多くの人はAIモデルのせいにしたり、質問の言い方を変えてみたりします。しかし私たちの経験では、本当の原因はもっと単純です。AIに渡された情報が間違っていた、多すぎた、あるいは古くなっていた、というケースがほとんどです。

夜勤に入る看護師を思い浮かべてください。病院中の記録をすべて読むわけではありません。良い申し送りは、いま大切なことだけを伝えます。病棟に誰がいるのか、今日何が変わったのか、どのルールが適用されるのか。AIエージェント(調べものをしたり、操作を実行したりできるAIアシスタント)にも、同じような申し送りが必要です。それを設計することをコンテキストエンジニアリングと呼びます。

InfoQに掲載されたAdi Polak氏の記事Systemic Approach to Memory, Knowledge, and Context in Agentic AI Architecturesは、この考え方をエンジニア向けに論じています。本記事では、病院での例を使って分かりやすく説明し、試してみたい開発者向けに短いコードもご紹介します。

要点だけ知りたい方へ

  • AIが間違える一番の原因は、渡された情報です。 モデルの性能ではありません。
  • 三種類の情報を分けて扱いましょう。 いま起きていること、AIが覚えていること、変わらないルールです。
  • 少なく、しかし質の高い情報を渡しましょう。 そのタスクに必要なものだけを、日付と出典付きで。
  • AIに見せてよい情報は、見せる前に決めましょう。 後からでは遅すぎます。

三種類の情報

AIが必要としそうな情報を一つの大きな山にまとめて、そこから探させたくなります。デモではうまくいきますが、実際の運用では破綻します。三種類の情報は、性質がまったく違うからです。

ひとことで言うと役に立つ期間病棟での例
コンテキストいま机の上にあるもの1回の質問今夜作成中のシフト
メモリ以前のやり取りからAIが覚えていること数分〜数か月このコーディネーターのいつもの好み
ナレッジルールブックルールが変わるまで人員配置基準、必要な資格

分けておけば、それぞれに合った方法で保存・更新・保護できます。混ぜてしまうと、誰かの好みについての古いメモが、法令上の人員配置基準と同じ扱いを受けることになりかねません。

言い回しを工夫するだけでは足りない

AIに関するアドバイスの多くはプロンプト、つまりAIへの指示文に注目しています。言い回しを工夫すれば効果はありますが、足りない情報や古い情報を補うことはできません。コンテキストエンジニアリングは、そもそもAIがどの情報を受け取るかを決めます。

実際には、質問がAIに届く前に必ず通る一つのステップです。本記事ではコンテキストエンジンと呼びます。役割は申し送りと同じです。大切なものを選び、その人が見てはいけないものを除き、短くまとめ、分かりやすく並べます。

すべてが一つのステップを通るので、AIが間違えたときに調べる場所も一つで済みます。

同じ質問、まったく違う答え

病棟のコーディネーターが、シフト作成アシスタントに尋ねます。「明日の3病棟の夜勤に入れるのは誰?」

コンテキストエンジンがない一般的なシステムは、質問に似ている文書を20件探して、すべて送ります。

あなたは親切なシフト作成アシスタントです。関連情報は以下のとおりです。

<質問に似ている文書20件>
- 3病棟 夜勤表(2025年11月)
- 人員配置規程 v2(下書き、後に差し替え済み)
- 全職員名簿(明日休暇の職員を含む)
- 「R. Khanさんは夜勤希望」(3月のメモ)
- 3病棟 日勤の申し送り
- ...

明日の3病棟の夜勤に入れるのは誰?

嘘は一つもありません。しかし大半は古いか、関係ないか、互いに矛盾しています。AIはどの規程が有効なのかを推測するしかなく、誰が休暇中かも分かりません。もっともらしく聞こえて実は間違っている答えが返ってきやすく、しかも理由は誰にも見えません。

コンテキストエンジンがあれば、同じ質問がきちんとした申し送りの形で届きます。

[ルール:ナレッジ、2026-11-01 再検証済み]
- 夜勤には3病棟の業務資格を持つ看護師(RN)が1名以上必要。
- シフト間に最低11時間の休息を確保する。

[現在の状況:リアルタイム、本日 14:05 時点]
- 3病棟 夜勤 2026-11-13:RN枠 2名中1名が確定。
- 明日の休暇:S. Tanaka、A. Malik。

[候補者:資格・休息・休暇で絞り込み済み]
- R. Khan(RN、3病棟、直近の勤務は本日07:00終了)
- M. Sato(RN、3病棟、本日は休み)

[メモリ:このコーディネーター]
- 3夜連続の夜勤は組まない。

[タスク]
空いている枠に入るRNを1名提案してください。上記の事実だけを使い、
各提案がどのルールを満たすかを説明してください。該当者がいなければそう答えてください。

短くなり、すべての事実に日付と出典が付いています。誰が休暇中か、十分に休んでいるか、資格があるかといった厳密な確認は、AIが見る前に通常のソフトウェアで済ませています。AIは選んで説明するだけでよく、これはAIが得意な仕事です。そして最終判断は、私たちの介護シフト作成の事例と同じく、コーディネーターが行います。

五つのコツ

1. 似ているかどうかではなく、目的で選ぶ

多くのAIシステムは、質問に似ているものを取ってきます。しかし、似ていることと役に立つことは別です。誰が尋ねているのか、何をしようとしているのか、情報がどれだけ新しいのかでも絞り込みましょう。いくつかの検索方法と直接のつながり(たとえば「この患者の現在のケアプラン」)を組み合わせる方が、似ているかどうかだけで選ぶよりはるかにうまくいきます。

2. ルールブックは事前に整えておく

長い文書を切り刻んでそのままAIに渡すのは、新入社員に書類の箱をそのまま渡すようなものです。準備は前もって済ませ、文書を短い要約と明確なルールにしておきましょう。学校の評価規程は、細切れにした40ページのPDFではなく、要点となる五つのルールとしてAIに届けるべきです。

3. メモリには期限を設ける

すべてを永遠に覚えているAIは、少しずつ古い情報でいっぱいになっていきます。メモリの種類ごとに寿命を決めましょう。

  • いま起きていること(リアルタイムの測定値、他のシステムからの結果):数分〜数時間
  • 進行中の会話やタスク:終わるまで
  • 長期の記憶やルール:保持しつつ、定期的に見直す

何かが変わったとき(ベッドの割り当て変更、生徒のクラス変更など)は、古くなるのを待たずに、AIが持っている情報をすぐに更新します。

4. 少ないほうがうまくいく

入力が長いほど、AIは遅く、高く、不正確になります。AIモデルは長い入力の中ほどに埋もれた情報をうまく使えないことが研究で分かっています。入れる量に上限を設け、関係の薄いものは外し、ルールを最初に、質問を最後に置き、上の例のように区分ごとにラベルを付けましょう。

5. 鍵は後ではなく、先にかける

閲覧権限のない記録は、そもそもAIに渡さないことです。記録を渡したうえで「秘密にしておいて」と頼むより、はるかに安全です。これは規制データのためのオンプレミスLLMと同じ考え方で、AIは利用者本人の権限で動きます。

開発者向け:最小限のコンテキストエンジン

技術的な内容に興味がない方は、次のセクションまで読み飛ばしてください。

エンジンの中核は、思ったより小さなものです。以下のTypeScriptのサンプルは、コツ3〜5(権限チェック、有効期限、関連度のしきい値、サイズの上限「トークン予算」、ラベル付きの区分)をカバーしています。

type Item = {
  kind: "knowledge" | "live" | "memory";
  text: string;
  source: string;
  roles: string[];   // この項目を閲覧できる役割
  updatedAt: Date;
  expiresAt?: Date;
  score: number;     // 検索ステップで得た関連度(0〜1)
};

const LABELS = { knowledge: "ルール", live: "現在の状況", memory: "メモリ" };
const tokens = (s: string) => Math.ceil(s.length / 4); // おおよその見積もり

export function buildContext(items: Item[], role: string, task: string, budget = 2000) {
  const now = new Date();
  const candidates = items
    .filter((i) => i.roles.includes(role))              // まず権限で保護
    .filter((i) => !i.expiresAt || i.expiresAt > now)   // 期限切れのメモリや情報を除外
    .filter((i) => i.score >= 0.5)                      // 関連度のしきい値
    .sort((a, b) => b.score - a.score);

  const kept: Item[] = [];
  let used = tokens(task);
  for (const item of candidates) {
    if (used + tokens(item.text) > budget) continue;
    kept.push(item);
    used += tokens(item.text);
  }

  const blocks = (Object.keys(LABELS) as Item["kind"][]).map((kind) => {
    const lines = kept
      .filter((i) => i.kind === kind)
      .map((i) => `- ${i.text}(${i.source}、${i.updatedAt.toISOString().slice(0, 10)})`);
    return lines.length ? `[${LABELS[kind]}]\n${lines.join("\n")}` : "";
  });

  return [...blocks, `[タスク]\n${task}\n上記の事実だけを使ってください。足りない場合はそう答えてください。`]
    .filter(Boolean)
    .join("\n\n");
}

このサンプルに含まれていないのは、scoreを算出する検索ステップ(整理済みナレッジに対する意味検索とキーワード検索の組み合わせが理想)、上限が厳しいときの要約、そして結果を有効期限付きでメモリへ保存する処理です。これらは徐々に育てていけば十分です。大切なのは、モデルへのすべての呼び出しが、読めて、テストできて、ログを取れる一つの関数を通ることです。

実際の現場では

現場ルールブック覚えていることいま起きていることこれがないと起きること
病院・介護のシフト作成人員配置基準、資格コーディネーターの好み、過去のシフト今日の欠勤配置基準に反するシフト
学校・職場の学習カリキュラム、評価規程学習者ごとの進捗今日の授業や質問レベルに合わない教材
企業のCRMアシスタント製品カタログ、価格ルール顧客とのやり取りの履歴進行中の商談と最新のメール期限切れの価格表での見積もり

AIが話をでっち上げる理由

AIが自信満々に誤った内容を述べることは「ハルシネーション」と呼ばれます。InfoQの記事は、その原因はほぼ常に入力の管理不足だと主張しています。私たちはもう少し慎重に考えています。AIモデルは今でも間違えます。ただ、私たちがレビューしてきたシステムでは、誤答の最も多い原因は、情報の欠落、古さ、矛盾でした。まさに上の一つ目の例のような状態です。信頼できる少数の事実を渡し、それだけを使うよう指示すれば、モデルを変えなくても答えは良くなります。

それでも、入力が良ければ人の確認が不要になるわけではありません。医療など規制のある現場では、人が判断するAI:送らずに、下書きまでで紹介したように、必ず結果を確認する人と組み合わせています。

どこから始めるか

  1. AIが現在読んでいる情報をすべて書き出し、「いま起きていること」「覚えていること」「ルールブック」に分類する。
  2. AIが覚えるものすべてに、日付と有効期限を付ける。
  3. すべての質問を一つの申し送りステップに通し、AIに何を渡したかを正確に記録する。
  4. 変更の前後で、同じ質問のセットを使ってテストする。 エージェント型AIのCRM研究プログラムでも同じ方法を用いました。

AIは、扱う情報がシステムの他の部分と同じくらい丁寧に管理されたとき、頼れる存在になります。モデルも大切ですが、モデルに何を渡すかの方がもっと大切です。

参考資料

  1. Systemic Approach to Memory, Knowledge, and Context in Agentic AI Architectures(Adi Polak、InfoQ)
  2. Lost in the Middle: How Language Models Use Long Contexts(Liu et al.、arXiv)
  3. Model Context Protocol(Anthropic ほか)
  4. AI Risk Management Framework(NIST)

関連ケーススタディ

稼働中のCRMでエージェントAIを検証:根拠に基づく研究プログラム