AIエージェントとRAGの違い｜社内文書AIはどちらで作る？

社内文書を探して答えるだけならRAG、申請や入力といった手順まで動かすならAIエージェント、と分けて考えると迷わずに済みます。就業規則や社内マニュアルについて聞きたいだけであれば、先に検討するのはRAGになります。申請書づくりやシステム入力、担当者への連絡まで任せたいときに、はじめてエージェントの出番が来ます。エージェントそのものの仕組みはAIエージェントとは何かで詳しくまとめていますので、あわせて読んでみてください。

AIエージェントとRAGの違い｜社内文書AIでは役割が違う

どちらも同じ社内文書AIと呼ばれがちですが、実際に任せる仕事はかなり違ってきます。

RAGは、社内文書やデータベースから関係する情報を探し、その中身をもとに回答を作る仕組みになります。ChatGPTなどの土台になっている言語モデル（LLM）は、そのままでは会社ごとの就業規則や申請手順、古い議事録、出たばかりの社内通知までは知りません。そこで、答える前に社内文書を検索する流れを挟み、回答を自社の資料に近づけるわけです。

AIエージェントのほうは、目標を受け取ると自分で手順を考え、ツールを使い、結果を確かめながら作業を進めていく仕組みと考えると分かりやすいでしょう。経費精算で言えば、問い合わせに答えるだけならRAGで足ります。領収書を読み取って申請書を作り、承認者へ回し、差し戻されたら直すところまで進めるなら、エージェントの話になってきます。

社内文書AIの入口では、答えるだけか、動かすところまで任せるかを先に分けましょう。ここが曖昧なままだと、RAGで足りる相談に大がかりな仕組みを作ってしまったり、反対にエージェントが要る業務を検索だけで片づけようとしてしまいます。

社員10〜200名の会社なら、いきなり業務の実行まで任せるより、社内文書への質問に答えるところから始めたほうが目が届きやすいでしょう。人事規程や情報システムの申請手順、営業資料、過去のFAQのように、答えの根拠が文書に書いてあるものを選んでみてください。

RAGで気を配るのは検索の精度、AIエージェントで気を配るのは動きの制御となります。画面は同じチャットに見えても、裏側で守るものはまったく変わってきます。まずは、社員に返したいのが答えなのか、社員の代わりに片づけてほしい作業なのかを分けて決めましょう。

この違いは、複数のAIをどう使い分けるかにもつながっています。モデルごとの得意分野が気になる方は、主要4AIの違いと使い分けものぞいてみてください。

RAGとは何か｜社内文書を探して根拠付きで答える仕組み

RAGは、社内文書を検索してから回答を作るための仕組みになります。

ふつうのチャットAIに社内ルールを聞いても、その会社だけの規程や運用までは分かりません。年末調整の社内締切、在宅勤務の申請先、稟議書の書き方、顧客ごとの提案資料などは、どれも社内の文書や共有ドライブの中にあるものです。RAGはその文書をAIが読める形にしておき、質問に近い箇所を探してから答えを組み立てていきます。

社内のヘルプデスクを思い浮かべると分かりやすいでしょう。社員から有給休暇の半日取得について聞かれたとします。RAGのないAIだと、どこの会社にも当てはまる一般論を返してしまうかもしれません。RAGを使えば、就業規則や人事FAQの該当箇所を探して、その会社の書き方に沿って答えることが出来ます。

よく誤解されるのですが、RAGは社内文書をAIに覚えさせる仕組みではありません。RAGの役目は、答える直前に社内文書を探しに行かせることにあります。文書を改定したときも、AIそのものを作り直すのではなく、探しに行く先の文書を新しくしておけばよい、という考え方になります。ここを取り違えると、古い規程を抱えたままのAIを長く使い続けることになってしまいます。

とはいえ、RAGにしたからといって正しい答えだけが返ってくるわけではありません。Microsoft Copilotの公式説明でも、生成AIの応答が100%事実である保証はないと案内されています。RAGは答えを根拠に近づける仕組みですが、探してきた文書が古ければ答えも古くなります。文書の権限が広すぎれば、見せたくない資料が候補に入ってしまうおそれもあるでしょう。

社内文書AIを作るときは、まず答えの根拠にしたい文書だけを決めてみてください。全社のファイルサーバーをまるごと対象にするより、人事FAQだけ、情報システムの申請マニュアルだけ、営業の提案FAQだけ、と範囲を絞って始めたほうが見直しもしやすくなります。

RAGの裏側では、文書を小さく区切ったチャンク、検索しやすくするための付箋のようなメタデータ、文書の意味を数値で表したベクトル（埋め込み）が使われることがあります。OWASP Top 10 for LLM Applications 2025では、RAGで使うベクトルや埋め込みの弱点がセキュリティリスクになると説明されています。細かい技術用語を覚えるより、社内文書を分けて保管し、誰が見てよいかをきちんと合わせておく必要がある、と捉えておけば充分でしょう。

RAGが力を発揮するのは、社内文書についての質問に答える場面です。総務への問い合わせを減らす、社内ITの一次回答を任せる、営業資料や過去の議事録を探す、社内のナレッジを検索する、といった使い道がよく挙がります。どれも、最後の判断や申請は人が進める前提となります。まずは、答えを探すのに時間を取られている部署を1つ選んでみましょう。

AIエージェントとは何か｜計画してツールを使う仕組み

AIエージェントは、目標を受け取ると手順を組み立て、ツールを使いながら作業を進めていく仕組みになります。

エージェントと聞くと何でも自動で片づけてくれそうに思えますが、実際にどこまで動けるかは、渡したツールと権限で決まります。カレンダーを読めるだけなら、予定の候補を出すところまでとなります。メール送信まで許すのであれば、送る前に人が確かめる仕組みが欠かせません。社内システムへの登録まで任せるなら、どこに登録するのか、間違えたときにどう取り消すのかも決めておく必要があるでしょう。

ChatGPTのワークスペースエージェントは、BusinessとEnterpriseで使えると公式に説明されています。アプリやツールに接続でき、送信・編集・投稿・削除のような書き込みの操作は、既定でAlways ask（常に確認する）の設定です。読むだけのAIと実際に動くAIとでは、抱えるリスクが違うからだと考えられます。

回答の間違いなら、後から訂正すれば済む場面が多いでしょう。AIエージェントで怖いのは、間違った操作がそのまま実行されてしまうことです。申請や送信まで進んでしまうと、相手先や会計処理にまで影響が出てしまいます。

作り方の型にもいくつか呼び名があり、計画を立てる型、ツールを呼び出す型、実行した後に自分で見直すReflection（振り返り）の型、役割を分けた複数のエージェントで進める型などが知られています。ルーティングと呼ばれる振り分け役を置いて、質問の中身に応じて検索・計算・外部ツールを使い分ける形もあります。実際に大事になるのは型の名前より、どの判断をAIに渡すかのほうでしょう。

総務の例で考えてみます。社員が慶弔休暇について質問し、該当する規程を探して答えるだけならRAGで足ります。社員情報や申請フォーム、承認者、添付書類を確かめ、申請を下書きして承認の依頼まで進めるのであれば、エージェントの領分になります。この場合は文書検索だけでなく、社内システムへの接続や承認の流れも用意しなければなりません。

エージェントを検討している方は、最初にAIへ渡す権限を書き出してみてください。読むだけ、下書きまで、送信前に必ず確認、リスクの低い操作だけ許可、すべての操作を許可、と段階を分けて考えることが出来ます。OpenAIも接続アプリの権限を、常に確認する、読み取りアクションを許可、低リスクのアクションを許可、対象アプリまたはアカウントでのすべてのアクションを許可、という段階で説明しています。

権限を広げるほど便利にはなりますが、そのぶん確認の仕組みも重くなってしまいます。人手を減らす道具に見えるAIエージェントも、入れたばかりの頃は確認する方の負担がかえって増えることがあります。どの操作なら人の承認なしで進めてよいか、部署ごとに決めましょう。

どちらを選ぶか｜質問ならRAG、業務実行ならエージェント

社内文書AIは、回答で止まるならRAG、作業まで進めるならAIエージェントを選ぶ形になります。

迷いやすいのは、どちらも社内文書を使うからです。RAGも文書を読みますし、エージェントも文書を判断の材料にしています。分かれ目は、読んだ後に何をするかという点になります。質問した方へ説明して終わるならRAGで足りるでしょう。フォームの作成やシステムへの登録、通知、予約、承認の依頼まで続くなら、エージェントの範囲に入ってきます。

次の表は、社員10〜200名の会社でよく出る相談を、質問の種類ごとに分けたものです。自社で最初に作りたいものがどこに入りそうか、近い行を探してみましょう。

迷ったときの見分け方は単純で、AIが最後に押すボタンがあるかどうかになります。押すボタンがなく回答で終わるなら、RAGから始めれば充分です。ボタンを押したりメールを送ったり、データを登録したりするのであれば、エージェントとして権限と承認の流れを組み立てなければなりません。

よくある失敗は、社内文書が探しにくいという不満を聞いて、いきなりエージェント開発の話まで広げてしまうことです。総務への問い合わせが多いだけなら、規程とFAQを対象にしたRAGでまず試すことが出来ます。経理の申請ミスが多い場合も、最初は規程の検索と入力例を見せるところまでにして、提出ボタンは人が押す形で充分でしょう。

反対に、エージェントと名の付く以上は何かを実行させないと意味がない、と思い込んでしまうのもよくある失敗です。実際には、社内文書を探す時間が減るだけでも、社員の待ち時間は短くなることがあります。質問の多い部署から順番に、答えを返すだけで役に立つ業務を拾ってみてください。

会社の出費を考えるときにも、この分け方が役に立ってきます。RAGだけであれば、主な運用の手間は文書の整理と検索対象の設定、回答の確認くらいとなります。エージェントにすると、ツールの接続や権限の管理、承認の画面、誤操作したときの戻し方、ログの確認まで加わってしまいます。外部に頼む場合も、見積もりの範囲が大きく変わってくるでしょう。

ここで金額を並べて比べたくなる気持ちは、よく分かります。ただ、RAGやエージェントを作る費用の相場については、一次資料として扱える数字が見当たりません。社内で見積もるときは、月額料金だけでなく、文書を更新する方、質問ログを読む方、権限を棚卸しする方の時間も含めて考えてみてください。

判断に迷ったら、社員から来る依頼の言葉をそのまま書き出してみると見えてきます。どこに書いてありますか、何を見ればよいですか、どの資料が正しいですか、で止まる相談ならRAG向きと言ってよいでしょう。これを申請しておいてください、関係者へ送ってください、登録内容を直してください、まで進むならエージェント向きになります。社内の実例を10個ほど並べて、語尾が質問なのか依頼なのかを見比べてみましょう。

総務の問い合わせなら、まずRAGで答えを返すだけでも効き目が出てきます。慶弔休暇、在宅勤務、備品の購入、押印の申請のように、質問の多くは文書の場所さえ分かれば片づくからです。ここで申請の提出まで任せると、人事情報や承認者の判断が絡んできます。便利にはなる反面、確認の手順は増えてしまいます。

経理になると、少しだけ事情が変わります。勘定科目や添付書類の確認なら、RAGで扱いやすいでしょう。領収書を読み取り、申請フォームへ入力し、承認者へ回すところまで進めるなら、エージェントの出番となります。差し戻しが起きたときに、AIが直すのか人が直すのか、誰が受け持つのかまで決めておきましょう。

情報システムでは、アカウント申請や端末の貸し出しについての説明なら、RAGから始めることが出来ます。実際にアカウントを発行する、権限グループに追加する、端末の管理台帳に登録する、といったところまで任せると、操作ミスの影響も大きくなってしまいます。読むだけの権限、下書きまでの権限、実行する権限を分けて考えてください。

社内で話をまとめたいときは、RAGで止める線とエージェントまで進める線を、1枚の表にしてみましょう。AIに期待することを口で話し合うだけだと、便利な助手の姿が人によってばらばらになってしまいます。表にしてみると、どの部署で何を任せるのかがぐっと見えやすくなります。

現場の方に聞くときも、AIに何をしてほしいですか、と尋ねるより、今どの作業で手が止まっていますか、と聞いてみてください。資料の場所が分からない、どれが最新版か分からない、社内用語の意味が分からない、という声ならRAGの候補です。入力する先が多い、承認者を毎回探している、依頼メールを書くのが負担、という声ならエージェントの候補になってきます。

聞き方を変えるだけでも、作りたいものの輪郭はかなりはっきりするはずです。AIで何でも出来るようにしたい、という相談のままでは広すぎるでしょう。社員が一日に何度も開く文書や、担当者に何度も聞いている質問、差し戻しの多い申請から拾ってみましょう。そこから始めると、RAGで足りる範囲とエージェントまで進める範囲を、無理なく分けることが出来ます。

生成AI全体の費用の見方は、生成AIのコスト管理で詳しくまとめています。社内文書AIだけでなく、個人での契約や複数のサービスの費用もまとめて見直したい方には参考になるはずです。

作らずに始める道｜法人プランの標準機能で足りる場面

社内文書AIは、なにも自社開発や専用サービスから始めなければならないわけではありません。

RAGやAIエージェントの話になると、最初からベクトルDBやワークフロー、専用の画面を作る前提で話が進みがちです。実際には、社員10〜200名の会社であれば、すでにある法人向けAIサービスの社内データ連携やプロジェクト機能で足りる場合もあります。作り始める前に、いま契約している環境で何が出来るかを確かめてみてください。

Claudeのプロジェクトについては、同社のヘルプで、RAG for projectsが有料プランで使えると説明されています。プロジェクトの資料が多くなると自動でRAGに切り替わり、設定はいらないという案内です。アップロードした文書から関係する情報を探す、プロジェクト知識検索ツールを使う仕組みとも説明されています。

Claudeのプロジェクトは無料ユーザーでも最大5つまで作ることが出来、TeamとEnterpriseなら組織の中で共有も出来ます。ファイルは1つあたり30MBまでと案内されています。社内の小さなマニュアル集で試してみるなら、こうした既存の機能で動き方を確かめられるでしょう。

ChatGPTでは、接続済みアプリを使うと、Google DriveやSlackなど普段使っているサービスとつなぎ、その情報を会話の中で活かせると説明されています。一部のアプリは同期にも対応しており、中身を前もってインデックス化しておくことで、応答を速くし、質も上げられるという案内です。管理者が管理する同期を使っても、接続先のサービスで見られないコンテンツへのアクセス権がメンバーに渡ることはないとされています。

ChatGPTのワークスペースエージェントはBusinessとEnterpriseで使え、アプリやツールにもつなげられる仕組みです。ファイルは1ファイル512MB、1エージェントあたり合計10GBまで扱えると案内されています。その一方で、カスタムGPTは2026年12月11日に提供を終える予定で、Enterpriseで延期が認められた分は2027年2月11日までとなります。これから作る方は、移行が予定されている機能を前提にしないほうがよいでしょう。

GeminiのGemでは、知識の欄にファイルを追加でき、追加元はデバイス、Google ドライブ、NotebookLM ノートブックから選ぶ形になります。Gemは無料でも作ることが出来、共有は組織のドライブ共有設定で管理されます。知識ファイルの数や容量の上限については、公式の案内には書かれていません。

Microsoft Copilotは、ユーザー本人が少なくとも表示の許可を持っている組織データだけを表示する、と公式に説明しています。社内データの索引（セマンティックインデックス）はユーザーごとのアクセスの境目を優先し、回答の根拠集め（グラウンディング）でも、そのユーザーに許可された内容にしか触れない仕組みです。Microsoft Graph経由で扱われるプロンプト、応答、データは、Copilotの土台となる言語モデルのトレーニングには使われないと案内されています。

こうして並べると機能名に目が行きがちですが、作る前に見ておきたいのは別のところです。大事なのは、会社として権限とログをどこまで管理できるかになります。既存の法人プランで試せるのであれば、最初の検証にかかる費用も抑えられるでしょう。ただし部署をまたいで本番で使うなら、文書の置き場所や権限、更新の責任者、質問ログを見る方を決めておく必要があります。

標準機能で足りるのは、対象の文書が少なく、質問の種類も限られていて、AIの回答を人が確かめられる場面です。たとえば人事FAQを数十本だけ入れて、総務の担当者が回答を見ながら社内向けに整えていく段階なら、標準機能で充分に試せます。全社の文書をまたいで検索し、部署ごとに見せる中身を変え、申請まで進めるとなると、別の作り方が必要になってきます。

気をつけたいのが、無料版や個人向けの環境に社内文書を入れてしまうケースです。ChatGPTの説明では、Business、Enterprise、Eduでは、OpenAIがコネクターから取得した情報を既定でモデルのトレーニングに使わないとされています。一方、無料版やPlus、Go、Proでは、すべての人のためにモデルを改善する設定がオンになっていれば、学習に使われることがあるという説明です。社内文書を扱うのであれば、個人の判断に任せず、会社として使う環境を決めましょう。

便利だからと社員が自分のアカウントに資料を入れ始めると、退職したときの停止や共有範囲、ログの確認が難しくなってしまいます。これは野良AI（シャドーAI）が広がるよくある入り口です。禁止するだけでは使い勝手への不満が残るため、会社が認めた環境と置き場所を先に用意してみてください。

標準機能で試すときは、出来ることと出来ないことを社内に伝えておくと、現場が混乱しにくくなります。お試しのつもりで始めたものが、いつの間にか本番の問い合わせ窓口のように使われていた、ということも起こりがちです。対象の文書がまだ少ないうちは、回答の横で根拠を確かめる運用を残しておきましょう。

この表は、どれが優れているかを決めるためのものではありません。すでに会社で使っているサービスがあるなら、その中で小さく試したほうが早く進むこともあります。反対に、部署ごとにばらばらのサービスを使っている状態だと、標準機能を横に並べるだけでは管理が追いつかなくなってしまいます。会社として使う場所を1つに寄せるのか、今の文書置き場を活かすのか、ここで決めておきましょう。

Agentic RAGとは｜RAGをエージェントの道具にする形

Agentic RAGは、RAGをAIエージェントの道具の1つとして使う考え方になります。

ふつうのRAGは、質問を受けて関係する文書を探し、答えを作る、という一本道の流れです。Agentic RAGでは、検索するかどうか、どの順番で調べるか、何回調べ直すか、ほかのツールも使うかを、エージェントが自分で判断します。社内文書があちこちに分かれていたり、質問が一度では絞り込めなかったりする場合に向いた形でしょう。

たとえば、社員から海外出張の精算について聞かれたとします。ふつうのRAGなら、旅費規程を探して答えるところまでとなります。Agentic RAGなら、まず出張の区分を確かめ、旅費規程を探し、経費精算マニュアルを見て、必要なら過去のFAQまでたどる、という流れを組むことが出来ます。最後に、回答の根拠がそろっているかを見直す仕組みも入れられます。

名前だけ聞くとRAGの上位版のように思えますが、実際は少し違います。Agentic RAGは、検索の進め方そのものをAIに任せる作り方です。検索する対象が少なく、質問も単純であれば、ふつうのRAGで充分でしょう。資料が多く、質問もあいまいで、探す順番から判断させたいときに検討してみてください。

作り方の型としては、質問を種類ごとに振り分けるルーティング、質問を小さく分けて調べるクエリプランニング、検索結果を見て調べ直す自己検証、役割を分けて確かめ合うマルチエージェントなどがあります。とはいえ型の名前を覚えるより、現場の質問がどこで止まっているかを見るほうが役に立ちます。聞き返しが多いなら、最初に質問を補ってあげる仕組みが要るでしょう。根拠が足りていないなら、検索結果を見直す仕組みにしましょう。

ハルシネーション（AIがもっともらしい誤りを答えてしまうこと）を抑えるには、根拠を見せることも大切になります。AIが何を見て答えたのかが分かれば、社員も担当者も確かめやすくなるでしょう。RAGもAgentic RAGも答えを必ず正しくしてくれる魔法ではありませんが、根拠に立ち戻れる形は作りやすくなります。

よくある失敗は、Agentic RAGという名前に引っ張られて、最初から込み入った構成にしてしまうことです。文書がまだ少ない段階でルーティングや複数のエージェントを入れても、確認する場所が増えるだけとなってしまいます。まずは単純なRAGで質問ログをため、検索漏れや聞き返しの多いところが見えてから、Agentic RAGに進むかどうか決めましょう。

もう1つの失敗は、自己検証を入れたからもう安心だ、と考えてしまうことです。AIが自分で見直しても、読んでいる文書が古ければ結論も古いままになります。社内文書AIでは、答えを作る仕組みより先に、文書の版の管理がきちんと回っているかを見てください。

Agentic RAGが向いているのは、いくつもの部署の資料をまたぐ問い合わせや、文書を見ながら途中で条件を確かめる業務、根拠の候補が複数ある相談です。情報システムの端末の貸し出し、総務の押印申請、経理の出張精算、人事の休職手続きなどは、文書がいくつかに分かれやすい分野となります。対象を1つ選び、人ならどの資料をどの順番で見れば答えられるのかを紙に書き出してみましょう。

紙に書くときは、担当者がふだんしている確認をそのまま並べていきます。最初に社員の所属を見て、次に申請の区分を見て、それから規程を見て、最後に例外のFAQを見る、といった流れです。この順番がいつも同じで済むなら、RAGと簡単な案内で足りるかもしれません。途中の答え次第で次に見る資料が変わるようなら、Agentic RAGを検討してもよいでしょう。

ここで急いで複数のエージェントに分けるのは、おすすめ出来ません。担当者の確認手順がまだ言葉になっていないうちに役割を分けても、AIどうしの受け渡しが増えるだけとなってしまいます。まずは人が説明できる手順を作り、そのどこを検索に任せ、どこを判断として人に残すのかを決めてください。

データ整備と権限｜社内文書AIで最初に詰まる場所

社内文書AIで最初につまずくのは、AIの性能より、文書の置き場所と権限のほうになります。

社内文書は、きちんと整理されているように見えても、実際には古い版や重複したファイル、退職した方が作った資料、画像だけのPDF、部署の中だけで回しているメモが混ざっているものです。RAGは文書を探して答える仕組みなので、探す先に古い文書が残っていれば、古い答えが返ってきてしまいます。エージェントの場合は、その古い答えをもとに操作まで進めてしまうかもしれません。

まず決めておきたいのが、最新版の置き場所です。就業規則の正本はどこにあるのか、申請マニュアルは誰が直すのか、古い版はどこへ移すのかを決めましょう。ファイル名に最新版と付けるだけだと、そのうち別の最新版が増えていってしまいます。文書ごとに更新の担当者を決め、AIの対象に入れる前に中身を確かめてもらう流れが必要になります。

RAGの精度を上げたいとき、ついAIの設定から手を付けたくなるかもしれません。実際に先にやるべきなのは、社内文書を片づける作業のほうです。同じ文書が重複していれば、AIはどちらを根拠にすればよいか迷ってしまいます。部署ごとに言い回しの違うマニュアルがあれば、回答の言い方もぶれることになります。

チャンクとは、文書を検索しやすいように小さく区切った単位を指します。区切り方が粗すぎると、関係のない情報まで一緒に入ってしまいます。反対に細かすぎると、前後の文脈が切れて意味が取りにくくなるでしょう。社員向けの規程なら、条の番号や見出しごとに区切ると確かめやすくなります。FAQであれば、質問と回答を1組として扱うのが自然です。

メタデータは、文書に添えておく補足の情報を指します。部署や文書の種類、更新日、公開範囲、担当者、版の番号などを付けておくと、検索結果を絞り込みやすくなるでしょう。ただ、ここで細かくしすぎると、更新が続かなくなってしまいます。最初は部署、公開範囲、更新担当者の3つだけでも充分に始められます。

社内文書AIで特に気をつけたいのが権限です。人事や給与、経営の資料、顧客との契約書などは、全社員に見せてよいものではありません。Microsoft Copilotは、ユーザーが表示の許可を持つ組織データだけを表示すると説明しています。裏を返すと、もとの共有権限が広すぎれば、その広い範囲のまま見えてしまうということでもあります。

OWASPのLLM08:2025でも、RAGで使うベクトルや埋め込みの弱点が大きなセキュリティリスクになると説明されています。アクセスの制御が足りなかったりずれていたりすると、機密情報を含む埋め込みに、権限のない方がアクセスできてしまうおそれがあるという指摘です。対策としては、細かなアクセス制御と、権限に合わせて管理できるベクトルや埋め込みの保管先が挙げられています。

社内で選ぶ道は、大きく2つあります。もとの共有権限をそのまま引き継ぐか、AI用の文書置き場を別に作るかです。共有権限を引き継ぐやり方は、今の文書管理と考え方がそろうので分かりやすくなります。ただし、共有ドライブ側の権限が大ざっぱだと、その大ざっぱさもそのまま引き継いでしまいます。AI用の置き場を作るやり方は、対象を絞りやすい反面、更新を二重に管理することになりやすいでしょう。

社員10〜200名の会社なら、最初から全部のファイルを対象にしないほうが安心です。まずは全社員に見せてもよい文書だけをAI用に集めるやり方が扱いやすいと思います。人事や経理など、細かな権限が絡む文書は、後から別枠で検討しましょう。

質問ログを誰が見るのかも決めてください。AIが何を聞かれているかを見ていくと、足りない文書や分かりにくい手順が浮かび上がってきます。その一方で、質問ログには社員の困りごとや個人情報が混ざることもあります。誰がログを見るのか、どのくらい残しておくのかを社内ルールに書いておくと安心でしょう。ルールの作り方は生成AIの社内ガイドラインの作り方も参考になります。

権限の失敗は、AIを入れた途端に起きるというより、もともと広すぎた共有設定が表に出てくる形で起きやすいものです。全社員が見られる共有フォルダに人事の古い資料が残っていれば、AIもその範囲の中で候補にしてしまいかねません。AIだけを責めても解決はしないでしょう。共有フォルダや文書の管理、退職した方が残したファイルを見直してみてください。

古い規程が原因の失敗も、現場ではよく起こります。たとえば出張旅費のルールが改定されたのに、古い版のPDFが共有フォルダに残っていたとします。RAGがその古い版を根拠に答え、社員は古い金額や古い添付書類のまま申請してしまうかもしれません。エージェントが申請の下書きまで作る場合は、間違った申請がもっともらしく整った形で出来上がってしまいます。

これを防ぐには、AI側の設定だけでは足りません。古い版を検索の対象から外す、改定のたびにAIが読む文書も入れ替える、改定した部署がしばらく質問ログを見ておく、といった手当てが必要になります。規程を改定するたびに、文書管理の担当者とAIの管理者が声をかけ合う流れを作りましょう。

営業資料でも同じことが起こります。古い価格表や終わったキャンペーンの資料が残っていると、AIはそれも候補に入れてしまうでしょう。営業担当がその回答をそのまま顧客へ送れば、後から訂正しなければならなくなります。提案資料を対象にするなら、顧客に出してよい資料と、社内だけの検討資料を分けておきましょう。

作り始める前に、次の項目を1つずつ確かめてみてください。文書の置き場所、最新版の見分け方、古い版の逃がし先、PDFや画像の扱い、更新の担当者、根拠を見せるかどうか、質問ログを見る方、権限を見直す日が目安となります。全部が完璧にそろっていなくても、どこがまだ決まっていないかさえ分かっていれば、お試しの範囲を絞り込めます。

• 文書の置き場所正本を置く場所と、AIに読ませる場所を決めておきます。共有ドライブ全体をいきなり対象にしないほうが、目が届きやすくなります。
• 最新版と旧版古い版が検索に引っかからないよう、逃がし先とファイル名のルールを決めましょう。版の番号や更新日もあわせて見ておくと安心です。
• ファイル形式PDFや画像、表計算、Wordなどが混ざっているなら、読み取りやすい形式に直す担当者を決めておきます。
• 更新担当者人事、経理、情シス、営業など、文書ごとの持ち主を決めておきましょう。持ち主のいない文書は、どうしても古くなってしまいます。
• 根拠表示回答に文書名や該当する箇所を出すかどうかを決めます。社員が自分で確かめられる形にしておけば、誤った回答にも気づきやすくなります。
• 質問ログ誰がログを読み、どの質問を改善に回すかを決めておきます。見られる範囲と残しておく期間も、あわせて決めましょう。

費用と運用負荷｜人数、文書量、確認作業で考える

社内文書AIの費用は、月額料金だけでなく、文書を整える時間や確認の手間まで含めて考える必要があります。

RAGやエージェントを作る費用の相場は、一次資料として示された数字が見当たらないため、ここでは金額を書いていません。そのかわり、会社で見積もりを比べるときの考え方をまとめておきます。単価だけを見て選んでしまうと、文書の整理や権限の棚卸しにかかる社員の時間が抜け落ちてしまいます。

始め方は、大きく分けて3通りあります。法人プランの標準機能で始めるか、専用のサービスを契約するか、自社で作るかです。標準機能は手軽に始められる一方で、対象にできる文書や権限の細かさがサービス側の仕様に左右されます。専用サービスは管理画面やRAGの機能がまとまっている反面、料金や契約の条件をよく確かめておく必要があるでしょう。自社で作れば自由はききますが、開発と保守を受け持つ担当者が欠かせません。

社内文書AIは、作ったところで終わりにはならないでしょう。出費の差が出るのは、作る費用より、直し続ける費用のほうです。文書が増えたときに誰が登録するのか、異動や退職のたびに権限を見直すのか、質問ログを誰が読むのかを決めておかないと、最初に作った仕組みだけが取り残されてしまいます。

会社の出費として見るときは、月額のサービス費に加えて、社内の担当者が使う時間も毎月の作業として書き込んでみてください。たとえば総務が月に数回文書を直し、情シスが権限を見直し、管理者が質問ログを確かめるなら、その時間がそのまま毎月の運用費となります。外部サービスの請求書には載らなくても、会社としては確かに使っている時間です。

社内で試算するときは、月額サービス費、初期設定、文書の整理、毎月の確認、権限の棚卸し、社員向けの案内、と分けておくと話がしやすくなります。金額がまだ分からない項目には、金額のかわりに担当者と作業の回数を書いておきましょう。数字の空欄を残しておくより、決まっていない作業がどこにあるのかが見えるようになります。

人数ごとの出費は、サービスの課金の単位によって変わってきます。1人ごとの課金なら、10人に配る費用は1人分の月額の10倍となり、1年分ではさらにその12倍になります。会社単位の定額や利用量に応じたプランであれば、10人という人数だけでは金額が決まりません。利用が増えたときに上のプランへ移るのか、上限で止まるのかを確かめておきましょう。

ここで気をつけたいのは、安く見える案と続けられる案を分けて見ることです。一部の方だけに配る案は月額を抑えやすい一方で、配られなかった方が個人のアカウントへ流れてしまうことがあります。全社に配る案なら管理はしやすくなりますが、文書の整理や問い合わせへの対応も増えるでしょう。どちらの出費のほうが会社として納得しやすいか、費用の表に並べてみてください。

人数がどう増えていくかも見ておきましょう。1人ごとの課金なら、使う方が増えるほど請求も増えていきます。会社単位の定額や利用量に応じたプランなら、利用者の数だけでは決まりません。とはいえ、使う方が増えれば、そのぶん質問の数も増えやすくなるものです。料金表を見るときは、人数と利用量、上限に達したときの扱いを分けて確かめてみてください。

社内文書AIは、使われなさすぎても困ったことになります。せっかく環境を用意しても、社員がどこで使えばよいか分からなければ、結局は個人のアカウントに戻ってしまいます。費用を抑えようと利用者を絞りすぎると、会社が認めた環境の外で資料が使われることもあるでしょう。生成AIの契約を会社でそろえる話は、ChatGPT法人プランの料金や法人向け生成AIサービス比較も見ながら考えてみてください。

RAGだけで始めるのであれば、会社の出費は比較的読みやすくなります。対象の文書と使う方、質問ログを見る頻度を決めれば、運用の手間もおおよそ見積もれるでしょう。エージェントまで進めるなら、確認の画面や承認者、取り消しの手順、エラーが起きたときの連絡先まで含めて考えなければなりません。実行できることが増えるほど、失敗したときの戻し方にもお金がかかってしまいます。

費用を抑えたい方は、最初の試し（PoC：本格導入の前に小さく試す検証）で大がかりな画面を作らないようにしましょう。社内文書のうち、問い合わせが多く、全社員に見せてもよいものを選んでいきます。質問ログを見て検索漏れが多ければ、文書の整理に戻ればよいでしょう。答えは出ているのに使われていないなら、社員が質問する場所や入り口を見直してみてください。この順番で進めれば、開発費をかけるより先に、運用のどこで詰まっているかを見つけることが出来ます。

もう1つ見ておきたい費用が、情報漏洩や誤操作が起きたときの対応です。入力してはいけない情報、外に出せない文書、送る前に必ず確認する操作を決めていないと、後から説明に追われることになってしまいます。セキュリティの確認項目は、生成AIのセキュリティ対策チェックリストで一度洗い出してみてください。

導入ステップ｜小さく試して継続改善する手順

社内文書AIは、目的、データ、構成、お試し運用、改善の順に進めていくと無理が少なくなります。

最初に決めたいのは、AIに答えさせたい質問です。問い合わせを減らしたいのか、資料を探す時間を減らしたいのか、申請のミスを減らしたいのかによって、必要な文書も仕組みも変わってきます。質問が一文で書けないようなら、まだ対象が広すぎるのかもしれません。

次に、対象となるデータを整えていきます。正本の文書を選んで古い版を外し、担当者を決めて、公開範囲を確かめましょう。PDFや画像で読み取りにくいものがあれば、使える形に直しておきます。ここを急ぐと、AIの回答がぶれてしまいます。最初は狭い範囲の文書で試してみてください。

お試しの段階では、つい見栄えのよい回答を目指したくなります。PoCで大切なのは、どこで間違うかを早く見つけることです。質問ログを集めていくと、文書が足りないのか、区切り方がよくないのか、質問を聞き返す仕組みが要るのかが見えてくるでしょう。

構成を決める段階では、RAGで足りるのか、Agentic RAGにするのか、AIエージェントまで進めるのかを選びます。答えを返すだけならRAGで始めましょう。いくつもの資料を順番に調べる必要があるなら、Agentic RAGが候補になります。システムへの入力や送信まで任せるのであれば、承認の流れまで含めてエージェントを組み立ててください。

小さなお試し運用では、使う方を絞り込みます。総務や情シスの担当者など、文書の中身をよく知っている方に使ってもらうと、誤った回答に気づきやすくなるでしょう。いきなり全社員に開くと、間違った答えがそのまま広まりやすくなってしまいます。公開する範囲は、段階を踏んで広げていきましょう。

評価するときは、正答率のような数字ばかりを追わないでください。精度が何%上がる、といった数字は、一次資料として示されたものが見当たりません。それよりも、回答に根拠が出ているか、社員が自分で確かめられるか、担当者が直しやすいか、質問ログから改善点が見えるかを見るほうが役に立ちます。

改善を続けるうえでは、質問ログ、文書の更新、権限の棚卸しの3つを毎月見る形が扱いやすいでしょう。よく聞かれる質問はFAQに加えていきます。検索に引っかからない文書は、区切り方やタイトルを直してみてください。使われていない部署があれば、使い方の案内を見直しましょう。AIの精度だけでなく、社員が使う入り口まで整えていく形となります。担当者だけが使いやすい画面のままでは、社内には広がっていきません。

お試しの期間中は、うまく答えられた質問だけでなく、答えられなかった質問も集めてください。RAGが答えられない理由は、文書がない、文書はあるがタイトルが分かりにくい、チャンクの区切り方が合っていない、質問があいまい、権限で見えない、のどれかに分かれることが多くなります。原因を書き分けておくと、誰に直してもらえばよいかが見えてきます。

本番で公開する前には、社員向けの短い説明も用意しておきましょう。何に使えるのか、どの文書を根拠にしているのか、個人情報や顧客情報を入れてよいのか、間違いに気づいたら誰に知らせればよいのかをまとめておきます。長い規程を配るより、最初の画面に置ける短い案内のほうが読まれやすくなります。

公開してから最初の数週間は、問い合わせが減るより先に、質問ログのほうが増えるかもしれません。これは失敗とは限らないでしょう。社員が何に困っていたのかが、ようやく見えるようになった状態です。担当者は手間に感じるかもしれませんが、この時期にログを読んで文書を直しておくと、後の問い合わせが減りやすくなります。

ログを見るときは、AIの答えだけでなく、社員の質問の文面にも目を通してみてください。同じ文書を探しているのに言い方がばらばらなら、文書の名前が社内に浸透していないのかもしれません。同じ規程について何度も質問が来るなら、規程の置き場所や書き方が分かりにくい可能性があります。AIの改善とあわせて、社内文書そのものも直していきましょう。

改善の担当を1人に寄せすぎないことも大切になります。総務の文書は総務、経理の文書は経理、情シスの文書は情シスが中身を見たほうが、誤りにも気づきやすいでしょう。AIの管理者は仕組みを見る役、各部署は文書を見る役、と分けて決めておきましょう。

役割を分けておけば、担当者が替わった後も運用が途切れずに残ります。AIに詳しい方だけに任せるより、文書を持っている部署が少しずつ直せる形にしてみてください。小さな更新でも、放っておかない流れを作ることが大事です。毎月の会議の議題に入れるだけでも、ずいぶん違ってきます。

AIエージェントまで進めるのであれば、承認の流れを先に組み込んでください。送信・編集・投稿・削除のような操作は、既定で人に確認を求める形から始めると安心です。OpenAIのワークスペースエージェントでも、書き込みの操作は既定でAlways ask（常に確認する）になっていると説明されています。会社の業務でも、最初のうちは確認を多めに挟んでおくほうがよいでしょう。

最後に、社員向けの案内を作ります。使ってよい文書、入力してはいけない情報、回答の確かめ方、間違いに気づいたときの連絡先を、短くまとめておきましょう。完璧なガイドラインを目指すより、最初に対象とする業務に合わせた1枚を配るほうが、実際には読まれやすいでしょう。範囲を広げるときは、AI活用コラム一覧から関係するテーマを社内で共有してみるのもよいと思います。

社内文書AIは、作ったら終わりというものではありません。文書は改定され、人は異動し、使われ方も少しずつ変わっていきます。だからこそ、小さく始めてログを見て、文書を直し、権限を見直す流れを最初から組み込んでおいてください。RAGにするかエージェントにするかは、その運用をどこまで抱えられるかで決めると、無理のない選び方になります。

よくある質問

まとめ

AIエージェントとRAGの違いは、社内文書を探して答えるところで止まるのか、目標に向けて計画を立て、ツールを使い、実行まで進むのかにあります。社内文書の質問に答えるだけであれば、まずはRAGから考えてみてください。

AIエージェントの出番は、申請や送信、登録、通知のように、回答の後に操作が続く場面です。便利になるほど、権限や承認、取り消し、ログの確認も欠かせなくなってきます。最初から動かす範囲を広げすぎないようにしましょう。

Agentic RAGは、RAGをエージェントの道具にして、検索するかどうかや探す順番まで判断させる形となります。いくつもの文書をまたぎ、調べ直しの多い業務では候補になるでしょう。ただ、文書がまだ少ないうちは、ふつうのRAGで充分なことも多いものです。

導入の前に見ておきたいのは、AIの賢さだけではありません。最新版の文書と古い版の扱い、チャンク、メタデータ、根拠の見せ方、質問ログ、アクセスの制御が土台になります。特に人事や給与、経営の資料を扱うなら、もとの共有権限を引き継ぐか、AI用に別の置き場を作るかを先に決めてください。

迷ったときは、社員が最後に何をしたいのかを見てみましょう。知りたいだけならRAG、作業を進めてほしいならエージェントとなります。小さく試して質問ログを読み、文書を直し、権限を見直す、という流れを回せる範囲から始めるのが、社内文書AIを長く使い続けるための無理のない進め方でしょう。