社内LLMに決まった公的な定義はありませんが、社員が会社の管理下で使える、自社専用の生成AI環境と考えると分かりやすいでしょう。持ち方は、法人向けサービスを契約する、クラウドのAPIで自社の環境を作る、自社の機械でモデルを動かす、の3つになります。違いは、どこまでを自社専用にするかと、誰が運用を引き受けるかです。上司から「自社専用のAIを」と頼まれた方は、まず専用にしたい範囲を確認してみてください。

社内で使うチャットの全体像は社内AIチャットは自作か既製か、自社の機械でモデルを動かす仕組みはローカルLLMとはで詳しくご紹介しています。ここでは3つの選択肢と会社の出費を並べて、稟議に書けるところまで一緒に絞っていきましょう。

社内LLMとは｜自社専用を3段階に分ける

社内LLMは、会社の管理下で使う生成AI環境を指す言葉として整理すると、選び方が見えやすくなります。「社内」という言葉だけでは、契約先のクラウドを使うのか、社内の機械だけで動かすのかが分かりません。役員が想像するものと担当者が調べているものが違えば、費用の話もかみ合わなくなってしまいます。

最初に「自社専用」の意味を分けてみてください。法人向けサービスなら、自社で持つのは契約とワークスペースまでで、モデルとサービスの運営は提供元に任せる形になります。クラウドAPIを使う方法では、自社のクラウド契約の中に、画面や社内文書を探す仕組みを作ります。機械まで自社で持つ方法では、PCやサーバーでモデルを動かすことになります。

この3段階は、優劣を表す順番ではありません。契約だけを専用にしても、利用者の管理と業務上のルールを会社で決められます。一方、機械まで専用にすると、モデルの置き場所を決められる代わりに、故障や更新まで会社の仕事になります。「自社専用」を機械を持つことだと決めつけると、要らない運用の手間まで抱えてしまいます。

上司には「誰の情報を、どこへ送れないのか」を聞いてみてください。顧客との契約で外部送信を避けたい文書があるのか、単に社員の個人アカウントをやめたいのかでは、必要な形が変わります。前者なら、データの通り道から考えることになります。後者なら、会社が契約と利用者を管理する形から始めることが出来ます。

「社内LLMを作る」と言われても、モデルを一から学習させる必要はありません。就業規則を読ませて質問に答える用途なら、文書を検索して該当箇所を回答時に渡すRAGが候補になります。RAGについては、後の節で詳しく見ていきます。モデルを再学習させる話と、社内の資料を参照させる話を分けておけば、見積もりが膨らむ理由も見つけやすくなります。

もう一つ、会社が持ちたいものを言葉にしてください。社員が安心して使える窓口か、社内文書への質問窓口か、外部へデータを出さない設備かを分けます。窓口だけでよければ、契約だけで足りることもあります。文書を参照させるならRAGの準備が必要です。外部送信が認められないなら、クラウドの約款だけでなく、機械の置き場所まで検討することになります。

例えば総務が就業規則の問い合わせを減らしたいなら、規程の原本と更新担当を決めるところから始まります。会計事務所が顧問先の資料を扱うなら、顧問先ごとに参照範囲を分ける必要が出てきます。同じ「社内専用」という依頼でも、資料の境界が違えば、選ぶ環境の条件も変わるわけです。利用目的を一文で書き、扱う資料を数点挙げてみてください。

3つの方法を比較｜契約・環境・機械の違い

社内LLMを持つ方法は、既製の法人向けサービス、クラウドAPIで自社の環境を作る方法、ローカルLLMの3つになります。まず比較したいのは、初期の支払いより、毎月どの仕事が自社に残るかです。安い単価だけを見て選ぶと、社員が使い始めた後の問い合わせや更新を引き受ける方がいなくなってしまいます。

表の「立ち上げ」は、日数の約束ではありません。Aでも規程や利用者の整理が遅れれば、利用開始が延びてしまいます。BとCは開発や検証の範囲で大きく変わります。導入予定日だけを先に置くより、誰が何を完成させたら社員へ渡せるかを並べてみましょう。

方法A｜法人向けサービスを契約する

情シスの専任がいない会社では、法人向けサービスを契約する方法が始めやすくなります。ChatGPT BusinessやClaude Teamのようなプランを使い、会社のワークスペースに社員を招く形です。モデルの運用は提供元に任せられます。ただし社員ごとの席代が増え、使えるAIはその提供元のものに限られてしまいます。

ChatGPT Businessのスタンダードシートは、年払いなら1席あたり月20ドル、月払いなら月25ドルと案内されています。Claude Teamもスタンダードシートは年払いで月20ドル、月払いで月25ドルです。年払いの月額表示と月払いの支出は同じではありません。稟議では支払時期まで確かめてください。

※ChatGPT BusinessとClaude Teamの料金は、2026年11月7日に各社の公式説明で確認した表示です。契約時には最新の条件をご確認ください。

ChatGPT Businessにはスタンダードシートのほか、より利用枠の大きいプレミアムシートがあります。どちらの席を何人に配るかで、会社の出費が変わります。割り当てていない有料シートも請求対象になるため、退職や異動のときに席を減らす担当を決めておきたいところです。席の在庫と実際に使う方の数を混ぜないようにしましょう。

ChatGPT Businessはビジネスデータを既定で学習に使わないと案内しています。Claude Teamも、初期設定のままなら商用データを学習に使わない形です。これで入力してよい資料が無制限になるわけではありません。顧客との約束、社内規程、閲覧権限は別に確認が必要になります。提供元のクラウドへ送ってよい文書から試してみてください。

社内資料の扱いもサービスごとに違います。Claude Teamでは、プロジェクトにナレッジを追加し、組織内で共有出来ます。画面に資料を置けることと、原本が変わったときに誰が差し替えるかは別の話です。古い規程を残したまま答えさせれば、もっともらしい古い回答が返ってしまいます。更新責任者を決めてから広げましょう。

方法Aを見積もるときは、席数をいきなり全社員分で置かないほうが、実際の使われ方に近くなります。まず試す部署と使う方を数え、利用が定着したときの人数も別に書いてください。決裁する方には、試しに使う間の出費と、全社へ広げたときの出費の両方を見せることになります。どこまで増やすかを曖昧にすると、契約後に追加費用だけが目立ってしまいます。

既存の社内システムにAIを組み込みたい場合は、既製の画面だけでは届かないかもしれません。一方、まず社員が管理された場所で質問出来ればよいなら、自社開発を始める前に方法Aで確かめる余地があります。契約で済む課題に開発を持ち込む前に、必要な画面とデータの境界を確認しましょう。

クラウドAPIで作る場合｜安い利用料の外側にある仕事

クラウドAPIで社内LLMを作ると、画面と社内文書検索を自社の業務に合わせられます。APIは、別のプログラムからAIを呼び出す窓口です。ここではAzure OpenAIでAIを呼び、Azure AI Searchで文書を探し、App Serviceにチャット画面を置く形を、費用の例として見ていきます。

会社が作るのは、質問を入力する画面だけではありません。利用者の認証、部署ごとの参照範囲、文書の更新、回答の記録、利用量の監視を一つずつ決めることになります。たとえば就業規則は全社員に見せられても、個別の人事資料は同じ検索先へ入れられません。検索結果をAIに渡す前に、見る権利がある文書だけを選ぶ仕組みが必要になります。

Azureの円建て表示では、GPT-5.4 mini（Global）の入力100万トークンが118.6725円、出力100万トークンが712.035円です。トークンはAIが文章を数える単位になります。入力と出力では単価が違うため、質問量だけでなく、返答の長さも費用に響きます。長い回答を全員が毎日作る前提なら、例の試算をそのまま使えません。

社内文書検索の土台としてAzure AI Search Basicを置くと、730時間で約15,363円になります。チャット画面用のApp Service Linux B1は同じ時間で約2,195円です。この2つだけで固定部分は月約17,557円となります。AIをあまり使わない月でも土台の費用はかかり続けるため、APIの単価だけを抜き出して「安い」と決めないでください。

例のAzure料金は2026年11月7日に日本円で表示された見積もり値で、税の記載はありません。契約条件や為替で変わります。実際に使う前には、自社の契約画面で単価と課金対象を確かめてみてください。閉域接続やログ保管を加える場合、その分は後の人数別試算に含まれていません。

データの通り道は、Azureという名前だけで決められないものです。Azureの説明では、プロンプトと補完はOpenAIや他のモデル提供者へ渡されず、許可や指示なしに基盤モデルの学習に使われません。ただし処理場所はデプロイの種類で変わります。例にしたGlobalは任意のリージョンで処理されるため、「日本のクラウド契約だから処理も国内」とは書けません。

社内規程や顧客との約束が処理場所を指定するなら、デプロイの種類を先に確認しましょう。Data Zoneには米国・EU・APACの区分があり、StandardやRegionalでは指定リージョン内になります。どの区分で契約するかによって、同じAzureでも説明の仕方が変わります。稟議書には選んだ区分と、文書が通る経路を残してください。

費用の上限を超えたら自動で止まる、と考えるのも危険です。Azureの予算アラートはお知らせが届くだけで、利用そのものは止まりません。想定以上に利用された場合の止め方を、画面やAPIの側で作る必要が出てきます。毎月の請求を見てから気づく形では遅いため、使用量を誰がどの頻度で見るかを決めましょう。

モデルの更新も続きます。Azureではモデルの提供期限があり、作った画面が呼ぶモデルを替えるときに動作確認が必要です。社内文書を読ませる旧機能（On Your Data）も2026年10月14日に終了し、使っている環境は移行先へ自分で移す必要があります。一度作れば終わりという設備ではないため、担当者の勤務時間も見込んでおきたいところです。開発を外部に頼むとしても、完成後の問い合わせ先と更新の責任は社内で決めることになります。

API方式が合うのは、Azureに慣れた情シスの方がいて、自社システムに組み込みたい会社です。社員がいつもの業務画面から社内文書へ質問したいなら、専用画面を作る価値があります。反対に、専任の方がいないのにAPI利用料の安さだけで始めると、権限設定と障害対応が後回しになってしまいます。利用料と作業時間を一緒に見てください。

自社の機械で動かす場合｜機材と運用担当をセットで考える

自社のPCやサーバーでモデルを動かす方法は、外部へ送れない情報を扱う用途がはっきりしている会社に向きます。これがローカルLLM、またはオンプレミスの選択肢になります。ただし機械を買うだけでは、社員が安全に使える窓口にはなりません。誰が機材とモデルを管理するかまで決める必要があります。

情報を社外に出さないために、機械と経路を決める

社外へ送れない情報に使うなら、モデルだけでなく、検索する文書と社員がつなぐ経路まで自社で設計することになります。機械の購入だけで条件を満たしたと思わず、データが通る先を図にしてみてください。

機材の費用を具体的に見るため、Appleの公式価格を例にします。2026年11月7日の表示では、Mac StudioはM5 Maxが税込419,800円から、M5 Ultra・96GBが税込949,800円からです。Mac miniはM6が税込149,800円から、M5 Proが税込299,800円からになります。どれを選んでも同じ品質で使えるという意味ではありません。

メモリとGPUは、動かすモデルと同時に受ける質問の数で考えます。OpenAIはgpt-oss-20bを16GBのメモリで動くよう設計したと説明しています。gpt-oss-120bは80GBのGPU1枚に収まる設計です。これは提供元が示すモデルの条件で、会社の会話画面や検索の分まで含めた保証ではありません。実際の資料で試してみてください。

代表モデルと実行ソフトをどう選ぶか

社内で名前を見かけるモデルにはQwen、Llama、Gemmaなどがあります。実行する入口としてOllamaやLM Studioがあり、複数人からの要求をまとめて扱う推論サーバーとしてvLLMも使われます。Ollamaは自分の機械で動かす分は無料、LM Studioも職場で無料で使えると案内されています。ただし実行ソフトが無料でも、機材と管理の費用は消えません。

モデルのライセンスと使い方は、候補を決めた時点で確かめましょう。名前が似ていても、商用利用や社内配布の条件まで同じとは限りません。社内で1台を共有するなら、ソフトの起動だけでなく、利用者の認証と部署ごとの文書の境界も必要になります。モデル選びの細かい話は親記事にお任せして、ここでは会社が引き受ける運用の費用を見ていきます。

同時に使える人数を、機材名から決め打ちしないでください。会話の作業領域であるKVキャッシュは、同時に処理する会話が増えると膨らみます。Llama 3.1 8B・16Kで計算した例では、会話1本で1.95GB、10本同時なら19.5GBです。これは同時会話のメモリ例であり、「十人で快適」という性能の保証にはなりません。

vLLMで複数人に公開する場合も、APIキーだけを守りにしないでください。vLLMの説明では、そのキーで守られる入口は一部に限られます。前段にリバースプロキシを置き、そこで認証、回数制限、記録を受け持つ設計になります。社内ネットワークにつないだ時点で安全と考えると、使う方と見せる資料を分けられなくなってしまいます。

Mac Studioの最大消費電力は連続使用時480Wとされています。480Wで一日8時間、月22日使い、家庭向けの目安単価31円/kWhを当てると、月約2,619円です。最大値で動き続けるという上限寄りの計算になります。会社の電気契約は異なるため、実際の単価に置き換えてください。機械が止まったときの代替手段も費用と一緒に考えましょう。

ローカルの魅力は、外へ出せない資料の扱いを自社の設計に寄せられることです。ただしChatGPT・Claude・Geminiの最上位モデルをそのまま手元で動かせるわけではありません。回答の質は選ぶモデルと機械で変わります。利用対象の業務を狭く決め、回答の速さと内容を実際の資料で確かめてから社員へ広げてください。

機材を買った後は、モデルの入れ替え、設定の見直し、障害の切り分けが続きます。担当者が休むと誰も戻せない状態なら、その1台を全社の窓口にするのは難しいでしょう。機材費だけで稟議を通すと、毎月の運用を引き受ける方の時間が見えなくなります。利用する部署と保守する方をセットで書きましょう。

10人・30人・100人の月額と3年総額

人数別の出費は、方法Aと方法Bなら同じ人数を置いて比べられます。方法Cは1台で何人が使えるかの公式な目安がないため、人数別の総額は出せません。数字を無理に同じ表へ埋めるより、AとBの支出を比べ、Cは機材一台を持つ場合の内訳として見てください。

方法AはChatGPT Businessのスタンダードシートを全員に配り、年払いの表示額である1人月20ドルを使います。1ドル＝158円で計算した場合、1人あたり月3,160円となります。Claude Teamのスタンダードシートも年払い表示は月20ドルなので、この条件では同額です。為替や契約時の支払額は変わります。

方法Bは、1人あたり月に入力100万トークン＋出力20万トークンをGPT-5.4 miniで使うと仮定します。そのときのモデルの利用分は、1人月約261円です。Azure AI Search BasicとApp Service Linux B1の固定部分は、合わせて月約17,557円となります。この使い方を超えたり別の構成にしたりすれば、表の数字も変わります。

※Aは年払いの月額表示を36か月分として換算し、1ドル＝158円で計算した場合です。BはAzureの2026年11月7日の円建て表示と、上記のトークン量を使った例になります。Bの3年額は丸める前の月額から計算しているため、表の月額を36倍した値とは少しずれます。Aはドルの換算で税を足さず、Bの表示には税の記載がありません。表のBには画面と検索の開発・改修に携わる方の人件費、VPN Gateway・Private Linkなどの閉域接続、ログの保管費を含めていません。契約条件と為替で金額は変わります。

10人であれば、Aは毎月31,600円、Bは約20,168円です。Bには検索と画面の固定費があるため、モデルの利用分だけでは月額を説明出来ません。少人数のうちは、APIの使った分の料金より、土台の費用のほうが目立ってしまいます。人数が増える前から、固定費を何のために払うのかを説明出来るようにしましょう。

30人ではAが毎月94,800円、Bが約25,390円となります。差額だけならBが安く見えますが、そこに開発と毎月の保守の費用もかかってきます。Bは最初の画面を作る作業も表に入っていません。すでに社内システムの担当がいるのか、外部へ頼むのかを決めないと、安い方を選んだとは判断しにくくなります。

100人ではAが毎月316,000円、Bが約43,665円です。この差をそのまま節約額と呼ばないでください。Bでは認証、権限、社内文書の更新、モデルの切り替え、障害時の対応を自社側で持ちます。利用が広がるほど、問い合わせを受ける方と、回答の誤りを直す方の仕事が増えます。まず試す部署の使い方を測ってから、全社の金額へ広げましょう。

運用にかかる時間の目安を置くときは、あくまで仮定だと書き添えてください。厚生労働省の「令和7年賃金構造基本統計調査」では、一般労働者の所定内給与額の平均は月340.6千円です。担当者の勤務時間の1割を運用に使うと仮定すれば、給与だけで月約34,060円分、3年で約1,226,160円分となります。賞与と社会保険料の会社負担は含まれません。

この1割は、Bで画面やモデルを直す方にも、Cで機械を管理する方にも当てはめられる仮定です。どの会社も1割で済むという調査結果ではありません。最初の検証では一週間に何時間使ったかを記録し、稟議には自社の記録で置き換えてください。自社の担当者が別の仕事を止めて対応するなら、その時間も会社の出費になります。

Cの機材例は、Mac StudioのM5 Ultra・96GBを1台買う場合です。価格は税込949,800円からで、一度の支払いになります。最大消費電力の条件で計算した電気代は月約2,619円、3年で約94,280円です。ここに担当者の時間が加わります。機材代を人数で割れば1人あたりは安く見えますが、1台で何人が使えるか確かめていないなら、その割り算は根拠になりません。

機材の価格はApple日本の公式表示を2026年11月7日に確認した税込額です。電気代には家庭向けの目安単価31円/kWhを使っています。会社の契約単価ではないため、電力会社の請求に置き換えてください。なお、会社が選ぶモデルや文書検索の仕組み、予備機の有無によって必要なものは変わります。購入前の検証で足りないものを洗い出しましょう。

表の月額が小さいだけでBやCを選ぶと、作る方と直す方の費用を見落としてしまいます。役員には、契約代だけの表と、担当者の時間を含む見込みを分けて見せると伝わりやすくなります。外部に頼む開発費は、ここで示せる確かな相場がありません。思い込みの金額を入れずに、見積もりを取ってみてください。

社内文書はRAGで使う｜誤答と追加学習の費用

社内文書を根拠に答えさせたいなら、まずはRAGから考えてみてください。RAGは質問のたびに社内文書を検索し、見つけた箇所をAIに渡して答えさせる仕組みになります。モデルそのものに就業規則や顧客資料を覚え込ませる方法ではありません。文書の変更を反映させたい用途では、この違いが大切になります。

社内ナレッジ検索・問い合わせ・文書要約での使いどころ

例えば社員から休暇の手続きを聞かれたとします。規程の該当箇所を検索し、その文章を添えてAIに返答の下書きを作らせる形なら、総務の方は原本と照らせます。規程を変えたら、検索対象の文書を差し替えます。AIが覚えたはずの古い規程を探して直す作業とは、更新の手順が違ってきます。

ハルシネーションを減らすには根拠を見せる

ハルシネーションは、AIが根拠のない内容をもっともらしく答えることです。RAGを付ければ必ず正しい答えになるわけではありません。検索で見つからなかった資料をAIが補ったり、似た別の規程を拾ったりすることがあります。回答には参照した文書と箇所を示し、根拠が見つからないときは答えを確定させない設計が必要です。人が最終確認する業務を決め、正解をAIだけに任せないようにしましょう。

請求書メールの仕分けなら、まず何を抜き出したいかを絞ります。送信元、請求対象、確認が必要な箇所などを下書きにし、人が原文を見る流れになります。社内の過去資料を検索するかどうかは、その仕事で必要なときだけ決めれば充分です。すべての業務にRAGを付けると、文書の整理と権限管理が先に膨らんでしまいます。

会計事務所の顧問先資料を使うなら、資料を顧問先ごとに分ける話が先です。検索先に複数の顧問先を混ぜたまま、質問文だけで分離しようとすると、別の資料が根拠として出る恐れがあります。どの方がどの文書を検索出来るかを画面と検索の側で決めてください。RAGの精度より前に、文書の境界を確認することになります。

文書の要約では、RAGが要る場面と要らない場面があります。一通の議事録をその場で要約するだけなら、その文書を直接渡す形で試せます。過去の議事録と規程を横断して、根拠付きで答えたいなら検索の仕組みが必要になります。「要約」という一語で同じ構成にしないでください。実際の質問を集めると、必要な仕組みが見えます。

モデルの追加学習であるファインチューニングは、文書を参照させる作業とは別に考えます。Azureの円建て表示には、追加学習したモデルの置き場所の例として、gpt-4.1-ft hosting globalが一時間268.991円とあります。730時間置くと月約196,363円です。使わない時間にも置き場所の費用がかかるため、気軽に試せる方法とは言いにくいでしょう。

この金額は、追加学習をした場合の費用全体ではありません。置き場所だけの例になります。社内文書を使いたいという依頼から、すぐ追加学習の見積もりに進まないでください。必要なのが、毎回新しい文書を読ませることならRAGで検証します。特定の出力の癖を変えたいなど、別の目的が明らかになったときに追加学習を検討しましょう。

答えの確認方法も、最初から決めておきたいところです。就業規則なら総務の方が原本を開けるようにします。請求書なら担当者がメールと金額を照合します。顧問先の資料なら、顧問先をまたぐ情報が混ざっていないかを見ます。使う資料、答えの責任者、誤りを直す手順を1枚に書いてみてください。RAGはその手順を助ける道具になります。

どれを選ぶか｜機密度・担当者・人数で判断する

選ぶ方法は、扱う情報の条件と、運用を受け持つ方の有無から絞れます。人数で費用は変わりますが、人数だけで方式を決めると、情報の通り道や故障時の対応を後回しにしがちです。まず外部へ送ってよい資料と、社内の機械に留めたい資料を分けてください。

情報を外部へ送れない契約があるなら、まずその文書がどれかを列挙しましょう。会社の文書をすべて同じ機密度にしてしまうと、社員が日常の下書きを作る用途まで重い設備が必要になってしまいます。反対に、機密文書だけを例外扱いにするなら、その文書を誤ってクラウドへ貼らないルールも必要です。

情シスが1人もいない場合、BとCの月額だけを見て選ぶのは難しくなってしまいます。認証の不具合や、検索先を誤ったときの窓口を誰が持つかを決められないためです。Aで始めて、社員がどんな質問をするかを集める手もあります。そこで自社の画面が本当に必要と分かれば、BやCの要件が具体的になります。

AIの数も忘れないでください。ChatGPT BusinessではClaudeを使えません。調査で別のAIも使いたい方がいるなら、同じ会社の中で契約が増えるか、別の法人向けサービスを選ぶかという話になります。最初に「何人が使うか」だけ聞くより、「どの仕事でどのAIを使いたいか」を一緒に聞いてみてください。

人数が多いとAの席代は増えますが、BのAPI利用量も使い方次第で増えます。Cは1台を多くの方で共用すると、同時に質問が来たときの待ち時間やメモリの問題が出てきます。人数だけで、どれかが必ず有利になるという線は引けません。月額の表には、利用量と同時に使う人数の前提も書き添えてみてください。

総務への問い合わせが中心なら、まず質問の原文と正しい回答元を集めましょう。特定部署の文書だけで済むなら、小さく試せます。複数部署の資料を横断したいなら、文書の持ち主ごとに更新と閲覧の権限を決める必要が出てきます。使う方が増える前に、資料を管理する方の負担を確かめてください。

選定表に丸を付けても、最後は実際の文書で試します。AIが上手に一般論を話しても、会社の就業規則の条文を取り違えれば、その用途には使えません。狭い用途で充分なら、初めから全社員向けの検索基盤は要らないでしょう。候補を一つに絞る前に、答えを確認出来る質問を用意しましょう。

会社で安全に使うには｜公認環境と導入の進め方

会社で安全に使うには、社員が使ってよい窓口と、入れてよい情報を一緒に決めることになります。社内LLMという名前を付けただけでは、個人アカウントへの入力や、誤った文書を根拠にした回答は止まりません。会社が契約する場所を示し、社員が迷ったときの確認先を用意してみてください。

最初に、今どこで生成AIが使われているかを聞きます。会社から渡された席だけで足りているのか、個人の契約で別のAIを使っているのかを確かめます。後者を見つけても、すぐ禁止だけを伝えると、便利だった仕事の行き先がなくなります。何の業務で使い、どの資料を入力したかったのかを聞いて、公認の環境に必要な条件を拾いましょう。

会社の契約下に置くなら、利用者を追加・停止する方を決めます。退職した方や部署を移った方が、そのまま文書へ質問出来る状態は避けたいところです。BとCでは、その権限の仕組み自体を自社で作ることになります。Aでも契約画面に席を残せば請求が続くため、利用者の棚卸しは必要です。契約した瞬間に管理が完成するわけではありません。

入力する情報の区分も、短い例で伝えてください。公開済みの資料の下書きはよくても、取引先との秘密保持契約に入る資料は確認が要るかもしれません。契約先のクラウドで処理するAやBと、社内の機械で処理するCでは、説明すべき経路が違います。どの方式でも、回答をそのまま外部へ出さず、人が確認する流れを残しましょう。

社内文書を入れるなら、参照権限と更新の担当を先に決めます。就業規則は総務が改定を反映し、顧問先の資料は扱う担当の範囲だけへ見せる、といった決め方になります。文書が古ければ、AIも古い内容で答えてしまいます。モデルの性能を比べる前に、正しい原本へたどり着けるかを試してみてください。

目的整理からモデル選定、PoC、展開まで

導入は、目的を1つに決め、候補の方式とモデルを選び、小さく試してから広げる順番で進めると分かりやすくなります。検証はPoCと呼ばれることがあります。ここでは、実際の質問を使って「根拠を示せるか」「誤った答えを人が見つけられるか」「担当者が運用を続けられるか」を見ます。単にAIが返答しただけで合格にしないようにしましょう。

例えば総務への問い合わせなら、よくある質問を集め、正しい規程の箇所も用意します。同じ質問を候補の環境で試し、根拠が見えるかを確認します。請求書メールなら、実際の入力例から抜き出し項目を確かめます。顧問先の資料なら、別の顧問先の文書が回答に混ざらないかを見ます。検証する範囲を先に決めると、途中で機能を足し続けずに済みます。

Bでは、Azureの予算アラートだけで利用が止まるわけではありません。誰が使用量を見て、上限へ近づいたら何をするかを決める必要があります。Cでは、機械が止まった日も業務を続けられる手順を用意します。Aでは、契約したサービスの利用条件と、自社が入れてよい情報を社員へ伝えます。方式ごとに残る仕事を、導入手順へ書き込みましょう。

複数のAIを使いたい社員がいる場合、個別の個人契約が増えない形を考えます。会社の管理下で複数を使える法人向けサービスも、方法Aの選択肢です。ただし、選ぶサービスのデータの扱い、権限、利用量の上限は、それぞれの説明を読んで確かめてください。使えるAIの数だけで安全性は決まりません。

公認環境を配るなら、社員が普段の仕事を続けられる使い勝手まで確認することが大切になります。使いたいAIが公認の場所にないと、個人の環境へ戻る理由が残ってしまいます。会社の契約と社内ルールを整える作業は、画面を選ぶ作業と同時に進めましょう。入力ルールの作り方は生成AIの社内ガイドラインも参考になります。

導入後は、質問の種類と困った場面を集めます。社員から「規程が古い」「回答の根拠が見つからない」と声が出たら、モデルを替える前に文書と検索先を確かめましょう。利用者が増えたときには、Aは席代、Bは利用量、Cは同時利用と機材の余裕を見直すことになります。最初の構成に固執せず、使われ方に合わせて決め直してください。

稟議に書く項目｜費用・担当者・止める条件

稟議には、選んだ方式の費用だけでなく、誰が毎月何を面倒見るかを書きます。「自社専用のAI」という見出しだけでは、決裁する方は完成した後の出費を判断出来ません。利用目的、入力する資料、データの通り道、担当者、やめるときの条件を、1枚で読めるようにしてみてください。

費用欄は、最初の支払いと月々の支払いを分けます。Aなら席数と支払方法です。ChatGPT Businessのセルフサービス契約では、請求書払いや銀行振込は使えないと案内されています。会社の支払いの決まりと合うかを、先に見てください。Bなら検索・画面の固定費、AIの利用量、担当者の時間です。Cなら機材代、電気代、担当者の時間を並べます。

決裁者には、10人で始める表と、30人や100人に広げた表を一緒に見せると判断しやすくなります。Aは同じ席を配るなら人数に応じて増えます。Bはモデルの利用量が変われば試算も変わります。Cは人数別の金額を置かず、同時利用を検証する条件を書きます。数字のない欄は、都合のよい値で埋めずに空けておきましょう。そのほうが、後で質問されたときにも筋の通った説明が出来ます。

担当者の欄には、契約者と運用者を別々に書きましょう。契約を結ぶ総務の方が、APIの障害を直せるとは限りません。情シスの方がモデルを動かせても、就業規則の正しい版は総務に聞く必要があります。文書の持ち主、AI環境の持ち主、費用の持ち主を同じ人に押し付けず、連絡先を決めてください。

止める条件は、使い始める前に決めます。例えば質問が集まらなければ、全社へ広げる前に用途を変える判断が出来ます。根拠のない回答が多ければ、文書の整理や検索を直してから再検証します。担当者の時間が想定を超えたら、BやCを続けるよりAへ戻す選択もあります。撤退を失敗扱いにせず、どの条件なら見直すかを書いてみましょう。

Aをやめる場合は、席を減らす手続きと、社員が保存した業務上の情報をどう扱うかを確認します。Bなら作った画面を止めるだけでなく、検索基盤やAPIの利用を止める手順が要ります。Cは機材をほかの用途に回すか、保守をやめるかの判断になります。止め方まで決めておけば、契約の更新のたびに、なんとなく続けてしまうことも避けられます。

実際の稟議では、「どれが一番安いか」だけを結論にしないほうがよいでしょう。会社が許せるデータの経路と、毎月支えられる運用体制を先に確かめます。そのうえで、同じ用途を満たす候補の費用を比べます。自社専用にする範囲と運用の担当が決まって、はじめて費用を比べる意味が出てきます。上司に説明する際も、この順番で話してみてください。

社内AIチャットの用途や部署別の進め方、ローカルLLMのモデルとライセンスは、冒頭で案内した親記事に詳しくあります。ここで決めるのは、会社の専用環境をどこまで持ち、月々の面倒を誰が見るかです。短い検証から始め、実際の利用量と作業時間を稟議の数字に戻しましょう。

よくある質問

社内LLMを検討するときに混同しやすい点を、費用と運用に絞って確認します。自社の条件に当てはめる際は、扱う文書と担当者を先に決めてみてください。

社内LLMは自社でモデルを学習させることですか？

必ずしもそうではありません。法人向けサービスの契約、クラウドAPIによる自社環境、自社の機械で動かすローカルLLMのいずれも候補になります。社内文書を根拠に答えさせたいなら、まず質問ごとに文書を探して渡すRAGを検討しましょう。

10人ならどの方法が安くなりますか？

1ドル＝158円で計算した場合、ChatGPT Businessのスタンダードシートを年払いで10人に配ると月31,600円、Azureの例は月約20,168円になります。Azureの額には開発・改修する方の人件費や閉域接続、ログ保管を含みません。月額だけで決めず、担当者の時間も見積もってください。

ローカルLLMの機械1台で100人が使えますか？

1台で使える人数の公式な目安はありません。同時に処理する会話が増えると、作業領域のメモリも増えていきます。候補の機械とモデルを使い、実際の質問と同時利用の条件で確かめてください。

クラウドAPIなら社内文書は外部へ出ませんか？

クラウドAPIでは、選んだサービスとデプロイの種類によって、処理される経路が変わります。例にしたAzureのGlobalは任意のリージョンで処理されます。社外へ送れない資料を扱うなら、契約上の条件と処理場所を確認し、必要に応じてローカルLLMも検討してください。

ファインチューニングは最初から必要ですか？

社内文書を参照させる目的なら、先にRAGを試してください。追加学習したモデルの置き場所だけでも、Azureの例では月約196,363円になります。必要な出力の変化と、RAGでは足りない理由が明らかになってから検討しましょう。