人材の方お問い合わせ

ARTICLE｜生成AI導入

AIエージェントを「使える同僚」にする。社内ナレッジ接続の設計図

生成AI導入2026.05.21タレントテール編集部

生成AIの全社展開が進むほど、「一般論はよどみなく答えるのに、自社の話になると急に頼りなくなる」という失望が広がります。原因はモデルの性能ではなく、社内ナレッジとの接続設計にあります。そしてこの接続を巡る技術は、2024年以降大きく動きました。検索拡張生成（RAG）はエージェントが検索を主導する「エージェンティックRAG」へ進化し、接続の標準規格MCP（Model Context Protocol）がデファクトスタンダードとなり、設計思想は「コンテキストエンジニアリング」という言葉に集約されつつあります。本稿では、この3つの潮流を経営企画・事業責任者が押さえるべき実務手順に翻訳します。

検索の主導権が、パイプラインからエージェントに移った

従来のRAGは「質問を受ける→ベクトル検索で似た文書を取る→上位数件を添えて回答を生成する」という一方通行の仕組みでした。定型的な問い合わせには有効ですが、曖昧な質問の解釈、複数文書の突き合わせ、情報の鮮度判断が絡むと精度が落ちます。

2025年に公表されたエージェンティックRAGのサーベイ論文（arXiv）は、検索・結果の評価・クエリの再構成・追加検索をエージェント自身が反復する新しいパラダイムを体系化しました。Anthropicが公開した自社の本番システムでも、リードエージェントが問いを分解し、複数のサブエージェントが並列に検索する構成が、単一エージェント比で内部評価90%超の性能向上を示しています。ただし同社は、トークン消費が通常のチャットの約15倍に達することも併せて公表しており、万能ではありません。

実務の判断基準はシンプルです。

  • 定型・高頻度の問い合わせ（規程・手順の確認など）：単純な検索＋生成で足りる。エージェント化しない
  • 複数ソースの突き合わせや調査型のタスク：エージェント型を検討する。ただし成果の価値がコストを上回る業務に限定する

Anthropic自身がエージェント設計の公式ガイド「Building Effective Agents」で「可能な限り単純な構成から始める」ことを推奨している点は、過剰投資への最良の防波堤になります。

MCP：「つなぎ方」の標準を巡る競争は決着した

接続の作り込みで消耗しないために押さえるべきなのがMCPです。Anthropicが2024年11月にオープン標準として公開し、2025年3月にはOpenAIが自社製品への採用を表明、Google DeepMindも追随したことで、AIと社内システムをつなぐ事実上の共通規格になりました。2026年7月に最終化予定の大型仕様改訂（現在リリース候補の段階）では、プロトコルのステートレス化により通常のHTTPインフラでスケールできるようになる見込みで、OAuthに整合した認可の強化も予定されるなど、エンタープライズ運用を明確に見据えた進化が続いています。

実務への含意は2つです。第一に、ツールごとの個別コネクタ内製は避け、標準に寄せること。第二に、セキュリティを接続の前提条件にすることです。ツールの説明文に悪意ある指示を埋め込む「ツールポイズニング」のような間接プロンプトインジェクションのリスクは、Microsoftも公式ブログで注意喚起しています。最低限、次の3点を確認してください。

  1. 出所と管理者が確認できるMCPサーバーのみ接続する（出所不明のサーバーを許可しない）
  2. 権限は最小限から。まず読み取り専用で始め、書き込みには承認フローを挟む
  3. 接続を一元管理し、誰がどのツールで何を参照したかの監査ログを残す

コンテキストエンジニアリング：「何を見せるか」の設計

3つ目の潮流は、設計思想そのものの転換です。2025年、AI研究者のAndrej Karpathy氏が「プロンプトエンジニアリングよりコンテキストエンジニアリング」と発信したことを機にこの言葉は急速に広まり、Anthropicは2025年9月の公式ブログで「推論時にLLMが参照するトークン集合の効用を最適化する戦略群」と定義しました。LangChainは実務手法をWrite（外部に書き出す）／Select（選んで渡す）／Compress（圧縮する）／Isolate（分離する）の4類型に整理しています。

企業のナレッジ接続に翻訳すると、要点は「つなぐほど賢くなる、は誤り」ということです。コンテキストが肥大するほど回答品質はむしろ劣化するため、絞り込みが設計の中心になります。

  1. 領域を絞る：問い合わせ頻度が高く、根拠文書を特定しやすい領域から始める
  2. 正本を一つに決める：領域ごとにSingle Source of Truthを定め、複製は参照対象から外す
  3. メタデータを持たせる：タイトル・更新日・オーナー・対象読者。検索精度は本文よりメタデータで決まる場面が多い
  4. 陳腐化文書を隔離する：1年以上更新がなくオーナー不在の文書は、接続前にアーカイブへ移す

判断基準は「この文書が検索で出てきたとき、そのまま新人に渡せるか」。渡せない文書は、AIにも見せないのが原則です。

検索精度と権限管理は同時に設計する

精度改善は感覚ではなく評価セットで進めます。実際の業務質問から20〜30問の評価セットを先に作り、正解となる文書を紐づけ、チャンク分割（文書の論理構造に沿って切る）・全文検索とベクトル検索の併用・メタデータ絞り込みの効果を正答率で確認します。

権限管理は後回しにできません。エージェントは複数のツールを跨いで自律的に情報を集めるため、単純なRAGの時代よりも事故の影響範囲が広がっています。原則は3つです。

  • 元システムのアクセス権限をそのまま引き継ぐ（AI側で権限を再定義しない）
  • 検索時点で利用者の権限に応じて対象を絞り、生成後のフィルタだけに頼らない
  • 部門横断で参照してよい範囲を文書オーナーと合意し、明文化してから接続する

効果が逓減しない運用ルール

MITの研究チームが2025年に公表したレポートは、企業の生成AI活用が停滞する主因を、モデルの品質ではなく「学習ギャップ」——ツールが学習せず、フィードバックを取り込めず、ワークフローに統合されないこと——にあると分析しました。接続は作って終わりではなく、学習ループの運用こそが本体です。

  1. 文書ごとにオーナーと見直し期限を設定し、期限切れは参照対象から自動で外す
  2. 「AIが答えられなかった質問」のログを週次でレビューし、ナレッジ追加・修正の起点にする
  3. 回答への評価（役立った／違った）を収集し、参照元文書の改善に返す
  4. 四半期に一度、評価セットで精度を定点測定し、劣化を早期に検知する

この運用をIT部門だけの仕事にしないことが肝要です。ナレッジの鮮度に責任を持つのは各業務のオーナーであり、その役割設計まで含めてはじめて、AIエージェントは「使える同僚」であり続けます。

タレントテールは、AI導入・社内浸透の支援において、情報設計から検索基盤・MCPによる接続・権限管理・運用定着までを一気通貫で手がけています。構想から実装、定着まで、私たち自身が手を動かし、共に走り抜きます。

参考情報

タレントテール編集部｜2026.05.21

このテーマを相談する

More Articles

あわせて読む

生成AI導入2026.06.10

PoCで止めない。生成AIを「日常業務」に定着させる導入設計

生成AIがPoCで止まる真因は「学習ギャップ」——ツールと業務が相互に学習しない構造にあります。MIT・BCG・OpenAIの調査やガイドを踏まえ、最初の30日で決めるべき業務プロセス・権限・運用体制の設計を、週次の手順とチェックリストに整理します。

続きを読む

記事の打ち手を、自社で動かす段階へ。

「自社のケースならどう進めるか」を、AI駆動の現場知を持つメンバーと一緒に。構想から実装、定着まで共に走り抜きます。

相談する事業内容を見る