ローカルLLMとクラウドLLM、法人はどちらを選ぶべきか

ローカルLLMとクラウドLLM、どちらを選ぶかは契約・頻度・体制の3つの問いで決まる

ローカルLLM（オンプレミスLLM・社内LLMとも呼ばれます）にすべきか、クラウドLLM（クラウド型の法人向け生成AIサービス）にすべきか。この判断で止まっている会社は多いのですが、実際に決め手になる要素はそれほど多くありません。この記事では、方式の説明ではなく決めるための材料に絞ってまとめます。3つの問い、3年総額の考え方、業種別の判断例、社内稟議の通し方までを扱います。ローカルLLMそのものの仕組みや必要なGPUについてはローカルLLMとは｜必要なGPU・モデル・費用と法人での選び方で解説しています。

結論：3つの問いで、ほぼ決まります

細かい比較表を眺める前に、次の3つに答えてください。この3問で、選ぶべき方式はおおむね確定します。

問1　外部に出せない情報を扱う業務が、契約書や規程で明文化されて禁じられているか。
問2　その業務は、月に何回発生するか。
問3　3年間、サーバーとモデルの面倒を見られる人が2名以上いるか。

問1（明文の禁止）	問2（頻度）	問3（体制）	選ぶべき方式
ある	多い	ある	ローカル、または併用
ある	多い	ない	体制づくりが先。作れないなら外部委託か、対象業務を絞る
ある	少ない	問わない	その業務だけ人手に残し、他はクラウドLLM
ない	問わない	問わない	クラウドLLM

実務でいちばん多いのが、最後の行です。出せないと思い込んでいるだけで、契約書にも規程にも書かれていないケースが少なくありません。まず問1を事実で確認してください。ここが変わると、以降の検討がすべて不要になることがあります。

問1｜本当に出せない情報なのかを、事実で確かめる

外に出せないという言葉には、性質の違う3つが混ざっています。

種類	中身	対応
契約上の制約	取引先との秘密保持契約で、第三者への提供や国外移転が禁じられている	条文を確認する。国内保管であれば可、という書き方も多い
規程上の制約	自社の情報管理規程で、外部サービスへの入力を禁じている	規程は自社で変えられる。実態に合わせて改定する選択肢がある
心情的な抵抗	なんとなく不安、上長が難色を示している	不安の中身を分解する。多くは学習利用と保存先の話に還元できる

3つのうち、方式を縛るのは契約上の制約と法令上の制約です。規程は改定できますし、心情は情報で解けます。にもかかわらず、この3つを分けずに「うちは出せないので」と結論だけが先に立ち、ローカルLLMの見積もりを取りに行ってしまう。これがよくある回り道です。

確認は難しくありません。主要な取引先との契約書を数本開いて、秘密情報の取扱条項を読む。クラウドサービスの利用を明示的に禁じているか、再委託の扱いはどうか。ここに書かれていなければ、契約上の障害は小さいと考えられます。ただし個人情報を扱う場合は、個人情報保護法上の委託先監督や国外にある第三者への提供の取扱い（同法27条5項・28条）も併せて確認が必要です。判断に迷う場合は顧問弁護士にご相談ください。

問2｜頻度を数えると、投資額の妥当性が見える

ローカルLLMは初期投資が中心の費用構造です。したがって使う回数が多いほど1回あたりの単価が下がり、少ないほど割高になります。ここは単純な割り算で判断できます。

たとえばGPUを含む環境の構築に相応の初期費用をかけたとして、その環境で処理する業務が月に数件しかなければ、1件あたりの費用は極端に高くなります。逆に毎日数十件流れるなら、比較的早く元が取れます。

数えるもの
・その業務が月に何件発生するか
・1件あたり、どれくらいの分量の文章を処理するか
・現在その業務に何時間かかっているか

3つ目が抜けやすいところです。削減できる時間が分からないと、投資の是非は判断できません。月20時間の作業が5時間になるなら年間180時間。ここまで数字にして初めて、機材費と並べられます。

問3｜体制がいちばん見落とされます

技術的に構築できるかどうかは、実はあまり問題になりません。問題はその後3年間、動かし続けられるかです。

ローカルLLMの運用で発生し続ける作業は、次のようなものです。

新しいモデルが出たときに、自社の業務で品質が上がるかを検証する
問題なければ載せ替え、社内に周知する
動かなくなったときに原因を切り分ける
誰がどれだけ使っているかを把握し、必要ならサーバーを増やす

クラウドLLMでは、これらは提供元の仕事です。ローカルにするということは、この仕事を自社で引き取るという意思決定にほかなりません。

担当者が1人の場合、その人が異動・退職・長期休暇になった時点で全社のAI利用が止まります。2名以上を確保できないなら、方式を見直した方が結果的に早く進みます。これは当社が支援してきた範囲での目安です。ここを曖昧にしたまま進めた会社が、数年後に古いモデルが動いたままの環境を抱えている例は珍しくありません。

3年総額で並べる

費用を比べるとき、機材費とサービス利用料だけを見比べても答えは出ません。3年分の総額で、同じ項目を並べてください。

項目	ローカルLLM	クラウドLLM
初期費用	GPUを含む機材、構築工数	初期設定。無償のサービスもある
月額	電気代、保守	利用料
人件費（構築）	社内工数または委託費	ほぼ不要
人件費（3年間の運用）	検証・載せ替え・障害対応	ほぼ不要
モデル更新	自社で検証して載せ替え	提供元が実施
撤退時	機材が残る	解約で終了

比べてみると分かりますが、差がつくのは機材費ではなく人件費の行です。担当者の工数を月に数十時間見込むなら、3年で相当な金額になります。ここを計算に入れずに「クラウドは月額がかかるから高い」と結論づけると、判断を誤ります。

逆に、扱う量が非常に多く、クラウドLLMの従量課金が積み上がる使い方であれば、ローカルの方が総額で下回ることもあります。どちらが安いかは、量と体制で逆転します。一般論では決まりません。

業種別に見た判断の実例

受託開発・システム開発

顧客から預かったソースコードや仕様書を扱うため、契約上の制約が実在することが多い業種です。ただし全案件が対象とは限りません。制約のある案件だけをローカルに寄せ、社内の一般業務はクラウドLLMという切り分けが現実的です。

会計事務所・士業

顧問先の決算数値や個人情報を扱いますが、当社がご相談を受けた範囲では、契約書でクラウド利用が明示的に禁じられている例は多くありません。学習に使われない設定と保存先が明確であれば、クラウドLLMで足りるケースが大半です。所員全員に配れることの効果が大きく、運用担当者を置く余裕がない規模でもあるため、方式としてはクラウドLLMが選ばれやすくなります。

製造業

設計データや製造条件は外に出しにくい情報です。加えて、工場の一部が外部ネットワークから切り離されている場合があり、その区画ではローカル以外の選択肢がありません。本社はクラウドLLM、特定の区画はローカルという構成になります。

小売・サービス業

扱う情報の機微度は相対的に低く、店舗数が多いほど全員に配れることの価値が大きくなります。クラウドLLMが基本線で、ローカルを検討する理由はほとんど生じません。

社内稟議を通すときの材料

方式が決まっても、社内で承認が下りなければ進みません。反対意見はだいたい決まっているので、あらかじめ材料を用意しておきます。

反論1｜外部サービスに情報を入れるのは危ない

危ないかどうかは、契約と設定で決まります。入力を学習に使わない設定が標準で適用されるか、履歴とログの保存先はどこか、誰が何を入力したかを管理者が確認できるか。この3点に書面で答えられるサービスかどうかを示してください。逆に、この3点を確認していないサービスであれば、その指摘は妥当です。

反論2｜社内に置けば安全だ

社外に送信されないという意味では前進しますが、誰が何を入力したかを記録する仕組みがなければ、社内で起きたことは把握できません。権限設計とログ取得は方式を問わず必要である、という点を先に共有しておくと議論が噛み合います。

反論3｜費用が高い

3年総額の表を出してください。比べるべきは月額ではなく、人件費を含めた総額です。加えて、現在その業務にかかっている時間を金額に換算した数字を並べると、投資判断の形になります。

反論4｜そもそも社員が使わないのではないか

これは方式ではなく定着の問題です。実際には、会社が用意しないまま社員が個人アカウントで使い始めているケースが少なくありません。実態はシャドーAIとはで解説しています。使わないのではなく、見えないところで使われている状態を放置するかどうかの選択になります。

併用するときの設計

片方に寄せきる必要はありません。実際には併用に落ち着く会社が多く、そのときの設計はおおむね次の形になります。

全社の標準環境はクラウドLLM。日常の文書作成、調べもの、要約はここで完結させる
契約上の制約がある業務だけローカル。対象を限定するので、モデルも機材も小さく済む
どちらも利用ログを取る。方式が分かれても、把握の仕組みは統一する
入力してよい情報の線引きを1枚にまとめる。どちらを使うかを社員が迷わない状態にする

この形の利点は、ローカル側の運用負荷を必要最小限に抑えられることです。全社の利用をローカルで支えようとすると、サーバーの規模も運用体制も一段重くなります。対象を絞れば、担当者の負担は現実的な範囲に収まります。

よくある質問

ローカルLLMとクラウドLLM、結局どちらが安いのですか？

量と体制で逆転します。処理する量が非常に多ければローカルが下回ることがあり、量が読めない、または運用担当者を確保できない場合はクラウドLLMが下回ります。3年分の総額を、人件費の行を含めて並べて比べてください。機材費とサービス利用料だけの比較では結論が出ません。

秘密保持契約があるので、クラウドLLMは使えないのではないですか？

条文次第です。第三者提供や国外移転を禁じている場合でも、国内保管であれば問題にならない書き方も多くあります。まず主要な取引先との契約書の秘密情報の取扱条項を確認してください。明示的な禁止が無ければ、契約上の障害は小さいと考えられます。ただし個人情報を扱う場合は、個人情報保護法上の委託先監督や国外移転の取扱い（同法27条5項・28条）も併せてご確認ください。

ローカルLLMの運用は、何人いれば回りますか？

当社が支援した範囲では、最低2名を推奨しています。1名だと、その人が動けなくなった時点で全社のAI利用が止まるためです。作業内容はモデルの検証と載せ替え、障害の切り分け、利用状況の把握です。この体制を3年間確保できない場合は、対象業務を絞るか、方式を見直す方が現実的です。

まずどちらかを試してから決めることはできますか？

できます。クラウドLLMは初期費用をかけずに始められるものが多く、実際の業務で品質を確かめてから判断できます。ローカル側も、個人の端末に画面付きのツールを入れて小さいモデルで試すところまでは、環境によりますが半日程度で終わります。両方を実物で確かめてから決めるのが、最も失敗しない進め方です。

併用すると管理が煩雑になりませんか？

対象を絞れば煩雑にはなりません。ローカル側を契約上の制約がある業務だけに限定し、入力してよい情報の線引きを1枚の資料にまとめておけば、社員が迷う場面はほとんど生じません。むしろ全社をローカルで支えようとする方が、運用は重くなります。

まとめ

ローカルLLMとクラウドLLMの選択は、性能やセキュリティの一般論ではなく、契約上の制約が実在するか、その業務が月に何件あるか、3年間運用できる人が2名以上いるかの3点で決まります。この3問に事実で答えられれば、比較表を眺める時間はほとんど必要ありません。

そして多くの会社では、出せないと思っていた情報の相当部分が、契約と設定を確認すればクラウドLLMで扱えます。まず契約書を開くところから始めてください。

ローカルLLMそのものの仕組み、必要なGPUやモデルの選び方はローカルLLMとは｜必要なGPU・モデル・費用と法人での選び方に、クラウド型の人数別の総額はChatGPT法人プランの料金｜人数が増えたときの総額と選び方にまとめています。法人のAI活用に関する他の記事はAI活用コラム一覧をご覧ください。

ローカルLLMとクラウドLLM、法人はどちらを選ぶべきか｜違い・コスト・比較