
Azure OpenAIとは、MicrosoftのクラウドであるAzureの上で、OpenAIのGPTシリーズなどのモデルをAPI(プログラムから呼び出す窓口)経由で使えるサービスです。結論から言うと、社員がすぐに使えるチャットサービスではなく、自社のシステムや社内向けAIを作るための部品です。セキュリティや契約の面ではAzureの仕組みに乗れる一方で、チャット画面・アカウント管理・利用ログ・費用の管理は自社で用意する必要があります。この記事では、ChatGPTやCopilotとの違い、データの扱い、料金の見積もり方、始め方を公式情報で整理し、社員10〜200名の会社が自社構築するときに必要な作業と選び方まで解説します。
※この記事の仕様・料金・名称は、2026年9月17日にMicrosoftの公式ページ(learn.microsoft.com、azure.microsoft.com)で確認した内容です。Azure OpenAIは画面の名称や提供内容の更新が早いため、契約や設計の前に各公式ページで最新の記載を確認してください。
Azure OpenAIとは|Azure上でOpenAIのモデルをAPIで使うサービス
Azure OpenAIは、OpenAIが開発したモデルを、Microsoftが運営するAzureの環境で動かし、APIとして提供するサービスです。Microsoftの公式FAQは、OpenAIと同じモデルを動かしながらAzureのセキュリティ機能を使える点を特徴として挙げ、APIはOpenAIと共同で開発して互換性を確保していると説明しています。
Azure OpenAIは「完成したアプリ」ではなく「呼び出して使う機能」です。管理者がAzure上にリソース(サービスを使うための入れ物)を作り、モデルをデプロイ(利用できる状態に配置すること)し、自社のシステムからリクエストを送って使います。社員がすぐに質問できる画面は標準では提供されません。
公式ドキュメントは、Azureで販売されるモデルはMicrosoftのAzure環境でホストされ、OpenAIが運営するサービス(ChatGPTやOpenAI APIなど)とはやり取りしないと明記しています。モデルはOpenAI製でも、契約相手とデータの置き場所はMicrosoftとAzureです。
Azure OpenAIは、OpenAIのモデルをAzureの契約・認証・ネットワークの仕組みの中で使うためのAPIサービスです。社内でチャットとして使うには、画面や管理機能を別に作る必要があります。
名称の移り変わり|Azure OpenAI ServiceからAzure OpenAI in Foundry Modelsへ
Azure OpenAIは名称の変更が多く、解説記事の時期によって呼び方が違います。2026年9月17日時点の公式ページの表記を旧称と並べます(改称の時期は扱いません)。
- サービス名:製品ページの見出しは「Azure OpenAI in Foundry Models」。以前は「Azure OpenAI Service」と呼ばれており、learn.microsoft.comの一部のページにはこの表記が今も残っています
- 開発用のポータル(管理画面):公式ドキュメントの「Microsoft Foundryとは」のページでは、以前のブランド「Azure AI Studio/Azure AI Foundry」が現在の「Microsoft Foundry」にあたると整理されています。画面は「Foundry(クラシック)ポータル」と「新しいFoundryポータル」が併存しています
- AIサービス群:以前の「Azure AI Services」は、現在「Foundry Tools」と表記されています
- 有害な内容を止める仕組み:以前の「コンテンツフィルター」は、現在の英語版ドキュメントで「Guardrails (previously content filters)」と表記されています
- リソースの形:公式ドキュメントには、Azure OpenAIのリソースを、エンドポイント(接続先のURL)やAPIキーを保ったままFoundryリソースへアップグレードする手順が案内されています
- 社内データとつなぐ機能:「Azure OpenAI On Your Data」は提供終了が告知されており、移行先としてFoundry Agent ServiceとFoundry IQが案内されています(詳しくは後述の社内データ連携の節)
古い解説記事の「Azure OpenAI Studio」「Azure AI Foundry」は、現在のMicrosoft Foundryのポータルと読み替え、操作は公式のクイックスタートに沿って進めてください。
ChatGPT(Web版)との違い|提供形態・学習利用・セキュリティ
ChatGPTとAzure OpenAIの違いは、完成品のチャットサービスか、開発用の部品かという提供形態の違いに集約されます。使い始めるまでの作業、費用のかかり方、管理の責任範囲が大きく異なります。
提供形態の違い
ChatGPTは、アカウントを作ればブラウザやアプリからすぐに使えるチャットサービスです。法人向けのChatGPT BusinessやChatGPT Enterpriseは基本がユーザー1人あたりの月額(Enterpriseは個別見積もり)で、会話履歴やメンバー管理も最初から揃っています。
Azure OpenAIはAPIで提供され、使った分だけ課金されます。チャット画面・履歴・メンバー管理は自社で用意します。法人向けChatGPTのプランの違いはChatGPTの法人プランの解説で整理しています。
学習利用の違い
Azure OpenAIでは、公式ドキュメントに、プロンプト(入力)と補完(出力)、埋め込み、トレーニングデータは、他の顧客やOpenAIに提供されず、許可や指示なく生成AIの基盤モデルのトレーニングに使われないと明記されています。利用者が設定を切り替える必要はありません。
ChatGPTは、プランによって扱いが異なります。OpenAIの料金ページでは、Businessプランについて、デフォルトではビジネスデータを学習に使用しないと案内されています。個人向けのプランでは、学習への利用を設定で無効にできる形です。個人向けプランの業務利用では、この設定が社員任せになる点が問題です。
セキュリティの考え方の違い
ChatGPTの法人プランは、サービス側が用意した管理機能の範囲で設定します。Azure OpenAIは、Microsoft Entra ID(Microsoftのアカウント基盤)による認証、Azureの権限管理、仮想ネットワークやプライベートエンドポイントによる閉域接続など、Azureの仕組みを組み合わせて自社で設計します。自由度が高い代わりに、設計と運用の責任も自社に移ります。
OpenAI APIとの違い|SLA・閉域接続・サポート・契約
OpenAI APIとAzure OpenAIは使い方がよく似ています。違いは、誰と契約し、どのクラウドの仕組みで守り、どこに問い合わせるかです。
- 契約と請求:Azure OpenAIはAzureのサブスクリプション(Azureの利用契約の単位)の一部として契約し、Azureの利用料として請求されます
- 閉域接続:公式FAQは、Azure OpenAIが仮想ネットワーク(VNet)とプライベートエンドポイントをサポートすると回答しています
- 認証:APIキーに加えて、Microsoft Entra IDによる認証が使えます。公式のクイックスタートではEntra IDが推奨とされています
- サポート:公式FAQは、Foundry Toolsのサポートオプションのページを案内しています
- 処理する場所の指定:デプロイの種類によって、データを処理する地域の範囲を選べます(後述)
SLA(サービス品質保証)の確認方法
SLAとは、サービスの稼働率などについて提供者が約束する水準のことです。Azure OpenAIの公式FAQは、すべてのリソースに可用性のSLAを、プロビジョニング管理のデプロイには待機時間(応答の速さ)のSLAを提供していると回答しています。
稼働率の具体的な数値は、Microsoftの「Service Level Agreements (SLA) for Online Services」で公開されている文書に記載されます。契約や社内説明に使う場合は、その時点の公式SLA文書で数値を確認してください。なお、Microsoftの公式ドキュメントでは、Developerというデプロイの種類(微調整したモデルの評価専用)はSLAの対象外とされています。
OpenAI API側の条件はOpenAIの公式ページで確認が必要です。選ぶときは優劣より、自社がすでにAzureやMicrosoftの契約・認証を使っているかが分かれ目になります。
利用できるモデル|GPT系・推論・画像・音声・埋め込み
Azure OpenAIでは、文章を扱うGPTシリーズだけでなく、推論に強いモデル、画像生成、動画生成、音声、埋め込みのモデルが提供されています。2026年9月17日時点の公式ドキュメント「Foundry Models sold by Azure」で確認できる主な分類は次のとおりです。新しいシリーズの追加が続いているため、最新の一覧は公式ページで確認してください。
- GPTシリーズ(文章の生成・要約・翻訳など):GPT-5.5、GPT-5.4(mini、nanoなど)、GPT-5(mini、nanoなど)、GPT-4.1シリーズ、GPT-4o系などが掲載されています
- 推論モデル:o-series(oシリーズ)は、時間をかけて問題を解くことに重点を置いたモデルとして紹介されています
- 画像生成:gpt-imageの系列が掲載されています。文章の指示から画像を作ります
- 動画生成:sora-2がプレビュー(試験提供)として掲載されています
- 音声:音声の文字起こし、翻訳、読み上げのモデルと、話しかけて音声で返すやり取りに対応するGPT-4o系の音声モデルがあります
- 埋め込み:text-embedding-3-large、text-embedding-3-smallなど。文章を数値のベクトルに変換し、似た文書を探す検索(後述のRAG)で使います
同じモデルでも、地域とデプロイの種類によって使えるかどうかが違います。公式ドキュメントは可用性が地域とクラウドで異なるとして地域別の一覧ページを用意しており、音声・画像・動画生成のような専門的なモデルは、多くの場合Data ZoneかGlobalでのみ提供されるとも説明しています。日本国内の地域で使いたいモデルがある場合は、設計の前に地域別可用性ページで確認してください。
一部のモデルは、利用に申請が必要な制限付きアクセスの対象です。公式ドキュメントでは、computer-use-previewなどが制限付きアクセスとして案内されています。モデルそのものの仕組みはLLMとはで解説しています。
入力データの扱い|学習に使われない・不正使用監視で保存される場合
Azure OpenAIに入力した内容は、許可や指示なく基盤モデルの学習に使われず、OpenAIにも提供されません。ただし、不正な使い方を見つけるための監視の仕組みがあり、条件によってはプロンプトと出力が保存されます。
公式ドキュメントに書かれていること
Microsoftの「Data, privacy, and security」のページには、プロンプト(入力)、補完(出力)、埋め込み、トレーニングデータについて、次の趣旨が明記されています。
- 他の顧客には提供されない
- OpenAIや、Azureで販売されるモデルの他の提供者には提供されない
- モデルの提供者が自社のモデルやサービスを改善するために使わない
- 許可や指示なく、生成AIの基盤モデルのトレーニングに使われない
同じページには、モデルはステートレス(状態を持たない)で、プロンプトや出力がモデルの中に保存されることはないとも書かれています。
不正使用監視でデータが保存される場合
Azure OpenAIには、行動規範に反する使い方を検出する不正使用監視の仕組みがあり、有害と分類されたり不正な利用パターンと判断されたりしたプロンプトと出力が確認の対象になります。
公式ドキュメントによれば、確認は標準ではAIによる自動の手段で行われ、その対象になったプロンプトと出力は保存されません。自動確認で判断しきれない場合などに権限を持つMicrosoftの従業員が確認することがあり、そのための不正使用監視データストアにプロンプトと出力が保存されます。データストアは顧客のリソースがあるAzureの地理的な区域に置かれ、従業員は専用の端末と上長の承認を経てアクセスします。保存期間は今回確認した公式ページに記載が見当たらなかったため、扱いません。
監視を変更できるのは誰か
人による確認とデータの保存を止めたい場合は、不正使用監視の変更を申請します。ただし、公式の制限付きアクセスのページは、この変更を申請できるのは、現時点でMicrosoftのアカウントチームが担当する顧客とパートナー、または対象プログラムの顧客に限られ、追加の要件もあると説明しています。さらに、一部の高度なモデルでは、監視を止めるための基準がより厳しい場合があるとされています。
Microsoftの担当営業が付いていない中小企業では、この変更を前提にしない設計が現実的です。社内には「学習には使われないが、不正使用が疑われる場合はMicrosoftが確認し得る」と正確に伝え、入力してよい情報の範囲を決めておきましょう。入力可否の線引きを文書にする手順は、生成AIの社内ガイドラインの作り方にまとめています。
会話履歴などを保存する機能を使った場合
Responses API(会話の流れを扱うAPI)やファイルのアップロードなど、一部の機能はサービス内にデータを保存します。公式ドキュメントによれば、こうしたデータはリソースと同じ地理的な区域に保存され、標準でAES-256方式で暗号化され、顧客はいつでも削除できます。プレビュー中の機能はこれらの条件をすべて満たさない場合があるとも注記されています。
セキュリティの仕組み|認証・閉域接続・処理場所
Azure OpenAIのセキュリティは、誰が使えるか(認証と権限)、どこから使えるか(ネットワーク)、どこで処理するか(デプロイの種類)の3つを、自社で組み合わせて決める形です。初期状態のまま使うと、最低限の守りしか効いていない点に注意が必要です。
認証とアクセス制御|Microsoft Entra IDとRBAC
接続にはAPIキーかMicrosoft Entra IDを使います。APIキーは文字列を知っていれば誰でも使えるため、公式のクイックスタートはEntra IDを推奨しています。権限の管理にはAzure RBAC(ロールベースのアクセス制御)を使い、公式ドキュメントでは次の組み込みのロール(役割)が案内されています。
- Cognitive Services OpenAI User:デプロイ済みのモデルをプレイグラウンドで使い、Entra IDで推論のAPIを呼び出せる。APIキーの表示や、新しいデプロイの作成はできない
- Cognitive Services OpenAI Contributor:上記に加え、モデルのデプロイの作成・編集や、微調整用データのアップロードができる
- Cognitive Services Contributor:リソースの作成やAPIキーの表示・再生成ができる。一方で、このロール単体ではEntra IDでの推論の呼び出しはできない
- Cognitive Services Usages Reader:クォータ(利用枠)の確認に必要な最小限のロール
社員向けアプリでは、アプリにだけ推論の権限を持たせ、社員の利用可否はアプリ側のログインで管理するのが一般的です。APIキーを設定ファイルに書き込む運用は、漏えいや持ち出しの原因になるため避けてください。
閉域接続|プライベートエンドポイント・VNet・ExpressRoute
公式ドキュメントによれば、Foundry Toolsのリソースは初期状態であらゆるネットワークからの接続を受け付けます。接続元を絞るには、ネットワーク設定を「選択したネットワークとプライベートエンドポイント」に切り替え、許可する仮想ネットワークやIPアドレスを登録します。
プライベートエンドポイントを使うと、通信はMicrosoft Azureのバックボーン上のプライベートリンクを通り、公衆インターネットに出ません。社内ネットワークからは、Azure VPN Gatewayか、プライベートピアリングを使ったExpressRoute(Azureとの専用線接続)経由で接続できると公式に説明されています。プライベートリンクは別料金で、DNS(名前解決)の設定など、ネットワークの専門知識も必要です。
データを処理する場所の選び方|Global・Data Zone・Standard
Azure OpenAIでは、モデルをデプロイするときに選ぶデプロイの種類によって、プロンプトと応答を処理する地域の範囲が決まります。公式ドキュメント「Deployment types」と「Data, privacy, and security」の記載を整理すると、次のとおりです。
- Global(Global Standardなど):そのモデルがデプロイされている任意の地域で処理される可能性がある。新しいモデルはまずこの種類で提供される
- Data Zone(Data Zone Standardなど):Microsoftが定めたデータゾーン(公式ドキュメントでは米国、EU、アジア太平洋が挙げられている)の中で処理される
- Standard(リージョン指定):顧客が指定したAzureの地理的な区域内で処理される(運用上、同じ区域内の別のリージョンで処理される場合がある)
どの種類でも、アップロードしたデータなど保存されるデータは、リソースを作った地理的な区域に保存されると公式ドキュメントに書かれています。GlobalやData Zoneで変わるのは処理する場所だけです。
社内規程や取引先との契約で国内での処理を求められている場合は、リージョン指定のStandardが候補ですが、使いたいモデルが日本の地域で提供されているかは地域別可用性ページで確認が必要です。モデルのライフサイクルに関する公式ページは、新しいモデルはGlobal Standard、Global Provisioned、Data Zone、リージョン指定の順に提供され、Global Standard以外での提供は保証されないと説明しています。処理場所の条件を厳しくするほど、モデルの選択肢と料金に影響が出ます。
有害な出力を止める仕組み(Guardrails)
Azure OpenAIには、入力と出力をリアルタイムで確認し、有害な内容を止める仕組みが標準で適用されます。公式ドキュメントによれば、すべての顧客が判定の厳しさの設定を変えられますが、仕組みを部分的または完全にオフにするには承認が必要で、申請できるのは不正使用監視の変更と同じくMicrosoftのアカウントチームが担当する顧客などに限られます。なお、この確認でリクエストが止められた場合でも、処理が行われていれば料金が発生すると公式FAQは説明しています。
料金体系|トークン従量課金とStandard・Provisioned・Batch
Azure OpenAIの料金は、基本的に使ったトークンの量に応じた従量課金です。これに加えて、処理能力を予約する方式と、急がない処理を割引で実行する方式があります。社員数ではなく使った量で決まるため、見積もりには利用量の想定が欠かせません。
社員数別の月額試算や、モデル以外にかかる費用、使いすぎを止める方法はAzure OpenAIの料金|社員数別の月額試算と使いすぎの止め方で詳しく解説しています。
トークンとは
トークンは、モデルが文章を処理するときの単位です。料金は入力(質問、添付資料、それまでの会話履歴)と出力(回答)に分けて計算されます。日本語が何トークンになるかはモデルと文章で変わるため、実際の業務文書で試すのが確実です。
3つの課金方式
公式の料金ページ(azure.microsoft.com)では、課金方式が次の3つに分かれています。
- Standard(オンデマンド):入力と出力のトークン量に応じて支払う従量課金
- Provisioned(PTU):処理能力の単位であるPTUを確保する方式。月間予約と年間予約が用意されている。料金ページには、使用量にかかわらずモデルごとに時間単位の料金がかかると書かれている
- Batch API:24時間以内に結果を返す代わりに、Global Standardの料金から50%割引になる方式
これとは別に、どこで処理するかの違い(Global、Data Zone、リージョン指定)でも単価が変わります。公式FAQでは、Globalが最も低く、Data Zoneは最大10%、リージョン指定はGlobalより10〜25%程度高い(地域によって異なる)と説明されています。
100万トークンあたりの単価の例(米ドル表示)
2026年9月17日に公式の料金ページを地域・通貨の選択を変えずに表示したところ、100万トークンあたりの単価(Global)は次のとおりでした。
- GPT-5.5:入力 5ドル、キャッシュされた入力 0.50ドル、出力 30ドル(Data Zoneは入力 5.50ドル、出力 33ドル)
- GPT-5.4 mini:入力 0.75ドル、出力 4.50ドル(Data Zoneは入力 0.83ドル、出力 4.95ドル)
- GPT-5-mini:入力 0.25ドル、出力 2ドル(Data Zoneは入力 0.28ドル、出力 2.20ドル)
- GPT-4.1:入力 2ドル、出力 8ドル(Data Zone・リージョン指定は入力 2.20ドル、出力 8.80ドル)
- GPT-4o mini:入力 0.15ドル、出力 0.60ドル
Provisionedの例では、GPT-5.5のGlobalは最小15PTUからで、1PTUあたり、時間単位1ドル/月間予約260ドル/年間予約2,652ドルと表示されていました。ファイル検索の機能は1GBあたり1日0.11ドル(1GBまで無料)、コードを実行する機能は1セッション0.033ドルです。
※料金は2026年9月17日時点で公式の料金ページに表示されていた米ドル建ての金額です。料金ページには、価格は見積もりであり、実際の価格はMicrosoftとの契約の種類、購入日、為替レートによって異なる場合があると注記されています。
社員50名で使う場合の見積もり方
従量課金の見積もりは、公式の単価に想定のトークン量を掛けて計算します。ここでは計算の組み立て方を示すため、次の前提を置きます。数字は仮の想定であり、実際の利用量を示すものではありません。
- 社員50名が、1人あたり1日10回やり取りする
- 1回のやり取りで、入力2,000トークン、出力800トークンを使う
- 月の稼働日は20日、デプロイはGlobal
- 1ドル=150円で計算した場合
月のやり取りは、50名×10回×20日=10,000回です。入力は10,000回×2,000トークン=2,000万トークン(20百万)、出力は10,000回×800トークン=800万トークン(8百万)になります。
- GPT-5.4 miniの場合:入力 20×0.75ドル=15ドル、出力 8×4.50ドル=36ドル、合計51ドル。1ドル=150円で計算した場合は約7,650円
- GPT-5.5の場合:入力 20×5ドル=100ドル、出力 8×30ドル=240ドル、合計340ドル。1ドル=150円で計算した場合は約51,000円
- GPT-5.5をData Zoneにした場合:入力 20×5.50ドル=110ドル、出力 8×33ドル=264ドル、合計374ドル。1ドル=150円で計算した場合は約56,100円
この計算で見落としやすいのが、会話履歴の分の入力です。チャットでは、やり取りを続けるたびにそれまでの会話をまとめてモデルに送るため、同じ質問数でも入力トークンが増えていきます。仮に入力が2倍の4,000万トークンになると、GPT-5.5では入力が200ドルになり、合計は440ドル(1ドル=150円で計算した場合は約66,000円)です。長い資料を添付して要約させる使い方が多い部署では、さらに増えます。
もう1つの見落としは、モデル以外の費用です。自社でチャットを作る場合、画面を動かすサーバー、会話履歴とログの保存先、社内文書を検索するためのAzure AI Search、閉域接続のためのプライベートリンクなどが、それぞれ別の料金としてかかります。モデルの利用料だけで月額を判断すると、全体の費用を小さく見積もることになります。
Provisionedは使用量にかかわらず料金がかかり、GPT-5.5のGlobalを最小の15PTUで月間予約すると、15×260ドル=3,900ドル(1ドル=150円で計算した場合は約585,000円)です。社員数十名の社内チャットなら、まずStandardで利用量を測るほうが判断しやすいでしょう。生成AIの費用管理の考え方は生成AIのコスト管理でも解説しています。
予算アラートは利用を止めない
従量課金で気をつけたいのが、使いすぎへの備えです。Azureには、Cost Managementの予算(Budgets)で、設定した金額の割合に達したときにメールで知らせる機能があります。ただし公式ドキュメントは、予算のしきい値を超えても、リソースには影響せず利用は止まらないと明記しています。
さらに、費用データの反映は通常8〜24時間以内、予算の評価は24時間ごとです。アラートが届いた時点で、利用はすでに積み上がっています。止めたい場合は、アクショングループ(通知を受けて自動処理を動かす仕組み)からAzure Functionsなどを呼び出して止める処理を自社で作るか、アプリ側で上限を設ける必要があります。
なお、公式の料金ページの末尾には、Azureを30日間検証できる200米ドル分のクレジットの案内があります。まずは小さく試し、実際のトークン量を測ってから見積もりを作るのが確実です。
メリット|Azure・Microsoft製品との連携、クラウドで導入が早い
Azure OpenAIのメリットは、すでにMicrosoftの環境を使っている会社にとって、認証・ネットワーク・契約を既存の仕組みにまとめられることです。主なメリットを整理します。
- Microsoftのアカウントと権限でまとめて管理できる:Microsoft Entra IDを使っている会社は、同じアカウント基盤で利用者と権限を管理できます
- Azureの他のサービスと組み合わせやすい:文書検索のAzure AI Searchやストレージなどを同じクラウドの中で組み合わせられます。公式ドキュメントには、Azure AI Searchなどの信頼されたAzureサービスが、マネージドID(Azureが管理するサービス用のID)で接続できる設定が案内されています
- サーバーを用意せずに始められる:モデルを動かす計算資源はMicrosoftが用意するため、GPUサーバーの調達は不要で、デプロイすればプレイグラウンドですぐに試せます
- OpenAIのライブラリがそのまま使える:公式FAQは、OpenAIのPythonライブラリの現行版に対応しているとしており、OpenAI APIで作った試作品を移しやすくなります
- 請求をAzureにまとめられる:すでにAzureを契約している会社は、取引先を増やさずに始められます
注意点|コスト増・地域ごとに使えるモデルの違い・専門知識が必要
Azure OpenAIの注意点は、使い始めるまでと使い続ける間の作業が多く、その負担が費用と人に表れることです。導入を決める前に、次の点を確認してください。
費用が読みにくく、増えやすい
従量課金のため、利用が広がるほど費用が増えます。会話履歴や添付資料で入力トークンが膨らみ、上位モデルでは単価も大きく上がります。予算アラートは利用を止めないため、上限の仕組みを自社で作らないと月末まで費用が確定しません。
地域とデプロイの種類で使えるモデルが違う
前述のとおり、新しいモデルはまずGlobal Standardで提供され、他の種類での提供は保証されません。国内での処理を条件にすると、使いたいモデルが選べない可能性があります。
モデルの提供終了に追随し続ける必要がある
公式のライフサイクルのページによれば、一般提供のモデルは提供開始から12か月で新規の顧客が使えなくなり、18か月で提供終了(リクエストがエラーになる)となります。Standard系のデプロイでは標準で自動のアップグレードが行われますが(設定で変更可能)、Provisionedのデプロイは自動では切り替わらず、手作業で移行する必要があります。モデルが変わると回答の傾向も変わるため、社内で使っているプロンプトや業務手順の見直しも発生します。
専門知識が必要になる
権限設計、ネットワーク、アプリの開発と保守、費用の監視には、Azureとアプリ開発の知識が必要です。構築を外部に依頼しても運用とモデル更新への対応は続くため、保守の契約まで含めて考えてください。
Azure OpenAIで組むと、画面づくりから権限や利用量の管理まで自社で担います。UPGEAR AI(アップギアAI)は、ChatGPT・Claude・Gemini・Perplexityを1つの契約で使える法人向けサービスです(人数無制限)。
利用開始の手順|サブスクリプション、リソース作成、モデルのデプロイ、プレイグラウンド
Azure OpenAIを試すまでの流れは、Azureのサブスクリプションを用意し、リソースを作り、モデルをデプロイして、プレイグラウンドで動かす、の4段階です。公式のクイックスタートとリソース作成の手順に沿って、全体像を整理します。
1. Azureのサブスクリプションを用意する
公式ドキュメントの前提条件はAzureのサブスクリプションで、無料で作成できると案内されています。既にAzureを契約している会社は、AI用のサブスクリプションかリソースグループ(リソースをまとめる単位)を分けると、費用と権限を管理しやすくなります。
2. リソースを作成する
サブスクリプション、リソースグループ、地域、名前、価格レベルを指定してリソースを作り、ネットワークを設定します。社内からだけ使うなら、接続元の制限はこの段階で決めておくと作り直しを防げます。
3. モデルをデプロイする
Foundryのポータルで「モデルのデプロイ」を選び、モデルとデプロイの種類(Global、Data Zone、Standardなど)を選びます。種類は処理場所と料金に関わるため、試す段階でも社内の条件に合わせてください。
4. プレイグラウンドで試し、APIから呼び出す
プレイグラウンドは、ポータル上でモデルに質問して動作を確かめる画面です。回答の傾向を確認したら、自社のアプリからAPIで呼び出します。
※learn.microsoft.comでは「Foundry(クラシック)ポータル」と「新しいFoundryポータル」の手順が別々に公開されており、一部のページには新しいポータルでは使用できないという注記があります。画面名が記事と違う場合は、開いている画面に合う方の手順を参照してください。
利用申請は原則不要(例外あり)
以前の解説記事には、Azure OpenAIを使うには利用申請と承認が必要と書かれているものがあります。2026年9月17日に確認した公式の制限付きアクセスのページでは、サービス上で別の表示がない限り、すべてのAzureの顧客がAzureで販売されるモデルを利用でき、登録フォームの提出が必要なのは次の場合に限られると説明されています。
- 制限付きアクセスに指定されたモデルを使う場合
- Guardrails(以前のコンテンツフィルター)や不正使用監視の変更の承認を求める場合
一般的なモデルを試すだけであれば、申請を待たずに始められます。一方で、監視や有害判定の仕組みを変えたい場合は、前述のとおり対象の顧客が限られます。
社内データ連携|RAGとAzure AI Search
社内の規程やマニュアルに沿って回答させたい場合は、RAG(検索拡張生成)という仕組みを使います。RAGは、質問に関係する社内文書を先に検索し、その内容をプロンプトに加えてモデルに回答させる方法で、モデル自体を学習させ直す必要がありません。仕組みの詳細はRAGとはで解説しています。
Azureで組み立てる場合の構成
Azureでは、文書をストレージに置き、Azure AI Searchで検索できる状態(インデックス)を作り、質問に関連する部分をモデルに渡す構成が代表的です。意味の近さで探すために埋め込みモデルを使うこともあります。この構成ではAzure AI Searchとストレージの料金が加わり、文書の更新や部署ごとの閲覧制御など運用で決めることも増えます。
Azure OpenAI On Your Dataは提供終了予定
以前は、プレイグラウンドからデータソースを追加して社内文書に基づく回答を作る「Azure OpenAI On Your Data」が広く紹介されていました。2026年9月17日に確認した公式ドキュメントでは、この機能は非推奨で、2026年10月14日に提供終了となると告知されています。新しいモデルの追加は止まっており、対応モデルはGPT-4oとGPT-4o-miniの特定バージョンに限られています。
公式ドキュメントは移行先としてFoundry Agent ServiceとFoundry IQの組み合わせを推奨し、公式FAQもFoundry Agent ServiceとAzure AI Searchのインデックスなどを使う形を案内しています。これからRAGを作る場合は、移行先の手順で設計してください。
活用事例|社内問い合わせチャットボット・文書作成・分析
Azure OpenAIの活用は、社内向けのチャット、業務システムへの組み込み、文書の処理の3つに大きく分かれます。社員10〜200名の会社で検討されることが多い使い方を、必要になる作業と合わせて紹介します。
社内問い合わせチャットボット
就業規則や経費精算の手順など、総務や情シスに繰り返し寄せられる質問に答える使い方です。RAGで社内文書を検索させ、回答に根拠の文書名を添えると、社員が元の規程を確認しやすくなります。規程の改定のたびに検索対象を更新する運用が必要です。
文書作成と要約
議事録の要約、報告書の下書き、メール文面の作成などです。よく使う指示文を部署ごとにテンプレートとして用意すると、社員ごとの使い方の差が小さくなります。
データの分析と業務システムへの組み込み
問い合わせの分類、アンケートの自由記述の集計、帳票からの項目の抜き出しなどを、業務システムに組み込む使い方です。システムから直接APIを呼び出せる点は、完成品のチャットサービスにはない強みで、急がない大量の処理はBatch APIで費用を抑えられます。
いずれの使い方でも、回答を人が確認する工程を残すことが前提です。用途ごとのAIの選び方は生成AIの使い分けも参考になります。
チャット画面は自前で用意する|API提供が前提のサービス
Azure OpenAIを社員向けのチャットとして使うには、チャット画面を自社で用意する必要があります。ここはChatGPTのような完成品のサービスとの実務上の大きな違いで、見落とされやすい点です。
ポータルのプレイグラウンドは、管理者や開発者が動作を確かめるための画面です。Azureのポータルに入る権限を社員全員に配ると、権限管理とセキュリティの面で問題が生じます。
公式FAQには、ポータルから公開したWebアプリのカスタマイズについての回答があり、ソースコードはGitHubで公開され、画面の変更やデプロイの手順も案内されています。ひな形を使えば作り始めは早くなりますが、公開後の改修、サーバーの運用、セキュリティ更新は自社の担当です。
社員向けのチャットには、ログインと利用者の管理、会話履歴、ファイルの添付、利用ログ、利用量の上限、管理者画面などが必要で、どれもAPIだけでは提供されません。次の節で、これらを体制と作業の観点から整理します。
社員10〜200名の会社が自社構築するときに必要な作業と体制
社員10〜200名の会社がAzure OpenAIで社内向けのチャットを作る場合、必要な作業は構築の時点よりも、公開後の運用に多く発生します。情シスの担当者が1〜2名、または総務との兼任という体制を想定し、見積もりや社内稟議の前に洗い出しておきたい作業を並べます。
- チャット画面の開発と保守ログイン、ファイル添付、スマートフォン表示など。ひな形を使っても、改修とセキュリティ更新が続きます。
- 会話履歴の保存と削除保存日数、社員による削除の可否、退職者の履歴の扱いを決め、保存先の費用を管理します。
- アカウントの発行と停止入社・異動・退職に合わせて追加・停止します。Microsoft Entra IDとの連携にも設計が必要です。
- 利用ログの記録と確認誰がいつ何を入力したかを記録し、誰がどの頻度で確認するかまで決めます。
- 費用の監視と上限Azureの予算アラートは利用を止めず、データの反映にも8〜24時間かかります。部署や個人ごとの利用量の上限は、アプリ側で作り込む必要があります。
- モデルの更新への追随一般提供のモデルは提供開始から18か月で提供終了となり、提供終了の通知は少なくとも60日前にサブスクリプションの所有者へメールで届くと公式に説明されています。移行先のモデルでの回答の確認と、社内向けの案内が定期的に発生します。
- ネットワークと権限の設計接続元の制限、APIキーを使わない認証などで初期状態から守りを固め、変更履歴を管理します。
- 社内の問い合わせ窓口と教育使い方の質問やエラーの連絡を受ける担当を決め、ガイドラインを整備・周知します。
- 複数のAIを使い分けたい場合の追加開発他社のAIも使い分けたい場合は、各社のAPIとの接続と画面での切り替えを別に作ります。
構築の見積もりに含まれやすいのはチャット画面とネットワーク設計までで、履歴の保存方針、アカウントの停止、ログの確認、費用の上限、モデル更新への追随は、運用開始後に担当者の負担として表れます。外部に依頼する場合も、保守契約でどこまで引き受けてもらえるかを確認してください。
専任者がいて業務システムにAIを組み込む計画があるなら、自社構築は投資に見合う選択肢です。目的が社員に安全なチャットを配ることだけなら、この作業量を持つ必要があるかを、後の節の選択肢と比べて判断してください。野良AI(会社が把握していないAI利用)の対策として導入する場合は、野良AIの対策もあわせて参照してください。
Microsoft Copilotとの違い
Microsoft CopilotとAzure OpenAIはどちらもMicrosoftのAIですが、Copilotは社員が使う完成品、Azure OpenAIは開発者が使う部品です。
- 使う人:Microsoft 365 Copilotは、Word、Excel、PowerPoint、Outlook、Teamsなどの中で社員が直接使います。Azure OpenAIは、開発者がアプリやシステムに組み込むために使います
- 料金の形:Microsoft 365 Copilotは、対象となるMicrosoft 365のライセンスに加えて、ユーザーごとのライセンスで契約します。Azure OpenAIはトークンの使用量に応じた課金です
- 社内データの参照:追加の有料ライセンス(Microsoft 365 Copilot)では、メールやファイルなどMicrosoft 365上の作業データを参照して回答します。Azure OpenAIで社内データを使うには、前述のRAGを自社で組み立てます
- 名称:Microsoftの公式ドキュメントでは、Microsoft 365 CopilotはMicrosoft Copilotに名称が変わったと案内されています。移行期間中は旧名称が残る場面があります
また、対象のMicrosoft 365のサブスクリプションを持つ会社では、Copilot Chatを追加料金なしで使える範囲があります。ライセンスごとの違いと料金はMicrosoft 365 Copilotの解説で、Copilotという名前の製品の全体像はCopilotとはで整理しています。ノーコードでエージェントを作るCopilot Studioは、Copilot Studioの解説を参照してください。
Microsoft 365を全社で使っていて、Officeの中で文書作成や会議の要約に使いたいならCopilot、自社の業務システムにAIを組み込みたいならAzure OpenAI、というのが基本の切り分けです。
4つの選択肢の判断基準|SaaS型・Microsoft 365 Copilot・自社構築・複数AIの法人サービス
社員に生成AIを使わせる方法は、大きく4つに分かれます。どれが優れているかではなく、自社の目的、開発体制、費用の読みやすさへの要求によって向き不向きが決まります。判断の軸を順に確認してください。
選択肢1:ChatGPT BusinessなどのSaaS型
1社のAIをチャットサービスとして契約する形です。画面と管理機能が揃っていて開発は不要です。料金は基本的にユーザー1人あたりの月額で、使えるAIはその会社のものに限られます。
選択肢2:Microsoft 365 Copilot
WordやTeamsなど、社員が普段使うアプリの中でAIを使う形です。Microsoft 365のライセンスが前提で、料金はユーザーごとのライセンスです。
選択肢3:Azure OpenAIでの自社構築
設計の自由度が高い一方で、前の節で挙げた作業を自社で持つ形です。料金は従量課金で、モデル以外の費用も加わります。
選択肢4:複数のAIを1つの画面で使える法人向けサービス
ChatGPT、Claude、Geminiなど複数のAIを、1つの契約と管理画面で使えるサービスです。画面と管理機能が揃っている点はSaaS型と同じで、用途に応じてAIを使い分けられる点が異なります。料金はユーザー単位のものや会社単位の定額のものがあります。考え方はマルチAIとはで解説しています。
判断の軸
- 開発と運用の担当者がいるかいない、または兼任であれば、画面と管理機能が揃った選択肢1・2・4が現実的です。専任者がいて業務システムへの組み込みを計画しているなら、選択肢3が候補になります。
- 月額を予算として固定したいか毎月の金額を稟議で確定させたい会社では、従量課金の選択肢3は予算が立てにくくなります。ユーザー単位か会社単位の月額で契約できる選択肢が向きます。
- 閉域接続や処理場所の指定が必須か取引先との契約や社内規程で、ネットワークや処理地域の条件が明文化されている場合は、選択肢3で設計するか、各サービスがその条件を満たすかを個別に確認します。
- 使いたいAIの範囲1社のAIで足りるなら選択肢1か2、文章作成・調査・長文の読み込みなど用途ごとに別のAIを使いたいなら選択肢4、Azureで提供されるモデルを自社システムで使うなら選択肢3です。
- Microsoft 365を全社で使っているか使っていて、Officeの中でAIを使いたいなら選択肢2を優先して検討します。他の選択肢と併用する会社もあります。
各サービスの料金を並べて比べたい場合は、法人向け生成AIサービスの料金比較で38サービスを整理しています。導入前のセキュリティの確認項目は生成AIのセキュリティチェックリストも活用してください。
作らずに使うという選択肢
チャット画面、利用ログ、アカウントの権限、利用量の管理、複数AIの使い分けを自社で作る代わりに、UPGEAR AIはChatGPT・Claude・Gemini・Perplexityを1画面で使える法人向けサービスとして提供しています。管理者ダッシュボードで利用ログ・権限・モデルのON/OFFを管理でき、会話の途中でもモデルを切り替えられます。利用量の上限に近づくと、管理者宛に複数回メールでお知らせします。UPGEAR AIは、上限に達した時点で利用を停止する安全設計のため、知らないうちに超過して追加の請求が発生することはありません。UPGEAR AIの料金は月額30,000円(税抜)からで、ユーザーごとの課金はありません(人数の目安はライト1〜5名、スタンダード6〜20名、プレミアム21〜50名)。
UPGEAR AIの詳細を見るよくある質問
Azure OpenAIとChatGPTは同じものですか?
Azure OpenAIに入力した内容はAIの学習に使われますか?
Azure OpenAIを使うのに利用申請は必要ですか?
Azure OpenAIの料金は月にいくらくらいかかりますか?
Azure OpenAIで使いすぎを自動で止められますか?
Azure OpenAI On Your Dataは今から使えますか?
まとめ
Azure OpenAIは、OpenAIのモデルをMicrosoftのAzure上でAPIとして使うサービスです。入力した内容は許可なく基盤モデルの学習に使われず、Microsoft Entra IDによる認証、プライベートエンドポイントによる閉域接続、処理する地域の範囲の指定など、Azureの仕組みで守りを設計できます。
一方で完成品のチャットではないため、画面、会話履歴、アカウントの停止、利用ログ、費用の上限、モデル更新への追随を自社で運用し続ける必要があります。見積もりは会話履歴の分とモデル以外の費用まで含めて行い、予算アラートが利用を止めない点にも備えてください。
業務システムにAIを組み込む計画と担当者がいるなら、Azure OpenAIは有力な選択肢です。社員に安全なチャットを配ることが目的なら、開発体制、月額の読みやすさ、ネットワーク条件、使いたいAIの範囲の軸で、他の3つの選択肢と比べてから決めてください。Azure以外の生成AIの解説はAI活用コラム一覧から探せます。
