社内文書RAGをAWSで構築する方法｜AgentCore PoCの進め方・費用・セキュリティ

2026年8月18日

「社内規程やマニュアルを生成AIで検索できるようにしたいが、情報漏えいと運用負荷が心配」という相談が増えています。

すでにAWSを利用している企業では、Amazon Bedrock AgentCoreとManaged Knowledge Basesを組み合わせることで、認証・権限・監査をAWS上に寄せた社内文書RAGを構築できます。

ただし、最初から全社文書を入れるのはおすすめしません。対象業務を1つ、文書を3〜10件、評価質問を20〜50問に絞ったPoCから始める方が、費用対効果とリスクを判断しやすくなります。

Root onで実機検証しました

2026年8月18日、東京リージョンでS3、Managed Knowledge Base、AgentCore Gateway、AgentCore Harnessを実際に接続しました。架空の社内規程3件を登録し、Amazon Nova 2 Liteへ「国内出張の宿泊費上限と精算期限」を質問したところ、Knowledge Base検索が成功し、次の回答を得られました。

宿泊費上限：1泊12,000円（税込）
精算期限：帰着日の翌日から5営業日以内
根拠：サンプル株式会社出張旅費規程

顧客資料や実在企業の社内文書は使用していません。

AgentCore構成が向いている企業

次の条件に当てはまる場合は、有力な選択肢です。

AWSを社内標準クラウドとして利用している
IAM、CloudTrail、S3など既存の運用ルールを活用したい
チャットだけでなく、将来は社内APIや業務システムもAIから呼び出したい
部署・ユーザー単位の権限制御を重視する
PoC後に本番運用へ拡張する可能性が高い

一方、数人だけで短期間試したい、クラウド構成を管理する担当者がいない、画面をすぐ使いたい場合は、Open WebUIやSaaS型サービスの方が早いことがあります。

推奨する最小構成

Root onの検証では、次の役割に分けると、PoCから本番へ移行しやすくなりました。

S3：規程、手順書、FAQなどの原本
Bedrock Managed Knowledge Bases：文書分割、検索、引用元の取得
AgentCore Gateway：検索ツールと権限の統制
AgentCore Harness：モデル、指示、ツール、会話状態の実行
Backend API：利用者認証、部署権限、Session ID、利用制限
Chat UI：質問、回答、引用元、フィードバック

Gateway側では、Knowledge BaseターゲットをReadyにし、ツール説明に対象業務を明記しました。

重要なのは、ブラウザからAWSを直接呼ばないことです。Backendで本人確認、アクセス可能な文書範囲、ログ、レート制限を管理します。

PoCで検証すべきこと

PoCの目的は「AIが答えた」というデモを作ることではありません。本番導入に進むかを判断できるデータを集めることです。

1. 検索精度

正しい文書が上位に出るかを確認します。回答文が自然でも、検索元が間違っていれば業務利用できません。

2. 根拠の一致

数値、期限、例外条件が引用箇所と一致しているかを確認します。回答と一緒に文書名や該当箇所を表示します。

3. 「分からない」と言えるか

登録文書にない質問を用意し、推測せずに回答を止められるか確認します。

4. 権限制御

一般社員、人事、管理職などのロールを作り、閲覧できない文書が検索結果にも回答にも出ないことを確認します。

5. 運用可能性

文書の更新責任者、同期頻度、誤回答の報告先、ログ保存期間を決めます。構築できても更新されなければ、社内検索はすぐ使われなくなります。

費用を左右する5つの要因

AWS利用料だけでなく、設計・検証・運用も含めて考える必要があります。

文書数・ページ数・更新頻度
質問回数と利用モデル
部署・文書ごとの権限制御
既存の認証基盤や社内ポータルとの連携
評価質問の作成、回答レビュー、継続改善

AgentCore Harnessには個別の追加料金がなく、利用したモデル推論やAgentCore各機能、Knowledge Basesなどに応じて課金されます。月額だけでなく、「1質問あたり」「1部署あたり」「更新1回あたり」で計測すると比較しやすくなります。

Root onでの支援目安は次の通りです。対象範囲やセキュリティ要件で変動します。

支援内容	目安
AI業務診断・適用領域整理	10万円〜
社内文書RAG PoC	50〜150万円程度
認証・画面を含む本格実装	150〜400万円程度
導入後のAI顧問・改善支援	月5〜20万円程度

4段階で進めるPoC

Phase 1：業務と文書を決める

問い合わせが多い、検索に時間がかかる、回答根拠が文書化されている業務を選びます。総務規程、営業手順、ITヘルプデスクなどが候補です。

Phase 2：評価セットを作る

現場の実質問をもとに、正答あり、複数文書、正答なし、権限違反の質問を用意します。

Phase 3：最小構成を作る

架空・低機密の文書から始め、検索精度、回答、引用、応答時間、コストを測ります。

Phase 4：本番化を判断する

精度、利用頻度、削減時間、運用担当、セキュリティ対策をレビューし、拡張・再設計・中止を判断します。

よくある失敗

文書を大量投入して検索ミスの原因が追えない
回答文だけを見て引用元を評価していない
プロンプトだけで機密制御しようとする
古い規程と新しい規程を区別できない
現場の質問ではなく、開発者が作った簡単な質問だけで評価する
PoC後の文書更新担当が決まっていない

まとめ

AgentCoreを使った社内文書RAGは、AWSの認証・監査・運用基盤を活かしながら、本番を見据えてPoCを進めたい企業に向いています。成功のポイントは、サービス選定より先に、対象業務、評価質問、アクセス権、更新責任を決めることです。

Root onでは、特定製品ありきではなく、業務整理からAWS、Open WebUI、Cloudflare、SaaSを比較し、PoCと本番化の判断材料まで作成します。

30分で、社内文書AIに向く業務を3つ整理します

「AWSで作るべきか」「どの文書から試すべきか」「PoCはいくら必要か」を整理したい場合は、AI活用支援サービスをご覧いただくか、お問い合わせフォームからご相談ください。