OpenAI初の自社チップ、推論コスト半減へ
本日は「AIを安く動かす」基盤側の動きと、「AIを現場で使う」実装側の動きが同時に表面化した一日です。海外では大手による推論コストの削減競争が新たな局面に入り、国内では行政分野でのAI活用が制度整備から実務適用へと進み始めています。コスト構造と現場導入、2つの視点から本日のニュースを見ていきます。
① OpenAI、初の自社AI推論チップ「Jalapeño」を発表
OpenAIとBroadcomは6月24日、OpenAIにとって初の自社設計となるAI推論チップ「Jalapeño」を共同発表しました。大規模言語モデル（LLM）の推論処理に特化した専用アクセラレータで、設計から製造の節目まで約9か月という短期間で開発された点が特徴です。製造はBroadcomが担い、ChatGPTなどのサービス提供に使われる推論用途へ投入されます。BroadcomのHock Tan CEOは、一般的なAI向けGPUと比べおよそ50%のコスト削減が見込めると述べており、2026年末の初期展開を目指すとしています。
推論コストの低下は、AIを利用する企業側の料金やAPI単価の低下にも波及しうる動きです。自社業務にAIを組み込む際の採算ラインが下がれば、これまで「コスト面で見送っていた用途」を改めて検討する余地が生まれます。中小企業にとっても、価格動向を定点観測する価値が高まっています。
② AIデータ社、行政DX向けAI「AI GovPro on IDX」を投入
国内のAIデータ株式会社は6月25日、行政機関向けのAIソリューション「AI GovPro on IDX」を発表しました。同社は「行政DXを、AIで現場レベルから加速する」ことをコンセプトに掲げ、自治体や行政組織の業務支援を狙うとしています。具体的な機能の詳細は現時点で限定的な開示にとどまりますが、政府・自治体でのAI活用が、制度や共通基盤の整備フェーズから現場の実務適用へと移りつつある流れを映した動きといえそうです。続報での機能公開が注目されます。
行政分野でも、「全社一律で導入する」より「特定業務に絞って実装する」ほうが成果につながりやすい傾向は、民間企業と共通しています。窓口対応や文書作成といった定型業務から段階的に試すアプローチは、公共・民間を問わず再現性が高い進め方です。自組織のどの業務から着手するかを見極めることが、最初の一歩になります。
基盤側では推論コストの削減競争が、現場側では公共分野でのAI実務適用が同時に進んでいます。共通するのは「使う前提でコストと業務を見直す」段階に入ったということ。技術の話題を、自社の採算と業務に翻訳して捉える視点がますます重要になります。
コプラスは、AIの導入検討から現場定着までを伴走支援しています。「どの業務から始めるべきか」「コストに見合うか」のご相談は、お気軽にお問い合わせください。
