AIオフィス進出：ローカル大模型がプライバシーと効率性を両立

この記事を読むのにかかる時間： 4 分

この記事のポイント

• AIオフィス分野で、クラウド型とローカル型の大規模言語モデル（LLM）の競争が激化しています。
• ローカルLLMは、プライバシー保護やコスト効率の面で企業からの需要が高まっています。
• 中小パラメーターでも、特定のタスクに特化させた「後学習」により、高水準の性能を発揮しています。
• ローカルLLMの普及は、AI対応PC市場にも新たなビジネス機会をもたらしています。
• 実用化には、データ連携や業務システムとの統合、コスト評価など、まだ課題も残されています。

ローカル大模型がオフィスシーンに浸透

近年、テンセント、アリババ、バイトダンスといったIT大手企業が「AIオフィス」分野に注力する中、ローカル大模型（LLM）を基盤とした新たな開発競争も活発化しています。業界関係者は、クラウド型LLMが知能の上限を引き上げる一方で、ローカルLLMの知能レベルも継続的に向上しており、これらがAIエージェントとしてオフィス業務に急速に溶け込んでいると見ています。多くの企業ユーザーは、プライバシーや機密保持の観点からローカルLLMに強いニーズを持っており、このトレンドはハードウェアメーカーや中小AIチームにとって新たなビジネスチャンスと捉えられています。

9月初旬、北京大学科学インテリジェンス学部発の元空AIは、独自開発のローカルLLM「Boxer」と、それに基づいたAIオフィスプラットフォームおよびAI研究プラットフォームを発表しました。発表会では、40TOPS（テラフロップス）の計算能力を持つコンシューマー向けPC上で、対話遅延が人間とほぼ同等で、実行メモリ使用量が約8GBであることが示されました。

「Boxer」ローカルLLMは、アリババの「千問（Qwen）3.5-35B-A3B」を基盤に「後学習（ファインチューニング）」されたものです。元空智能の共同創業者である寧鲲鵬氏は、同チームが2023年にリリースしたAI製品「ChatExcel」はすでに数百万人のユーザーを獲得していると述べています。

「後学習」によって強化された中小パラメーターのLLMが、オフィスシーンへの導入を加速させています。最近では、原点星輝がローカルLLM「StartLux-V1.0-27B-Preview」を発表しました。これはアリババの「千問（Qwen）3.6-27B」を基盤モデルとし、ツール呼び出しや汎用AIエージェントのシナリオに特化して「後学習」で強化されています。工業情報化部中国情報通信研究院の信頼性AI大模型ベンチマークテストのMCP（モデルコンテキストプロトコル）専門テストでは、「StartLux」の総合性能は、数百億パラメーターを持つ複数のLLMを上回りました。

原点星輝のCTOである郭権瑋氏は、AIの業務への深入りが進むにつれて、プライバシー、コスト、継続的な運用が、付加条件から体験に影響を与える核心的な問題へと変化していると指摘しています。「ローカル」は単なるデプロイの選択肢ではなく、次世代AIのより自然な形態になると彼は考えています。

小規模モデルがオフィスに新たな可能性を拓く

クラウド型LLMと比較して、なぜ小規模なモデルがより多くのオフィス業務を担えるのでしょうか。

まず、企業がAIの安全性により一層注目していることが挙げられます。元空智能の創業者である逄大嵬氏は、エンタープライズAIの競争はモデルのサイズではなく、データがデバイス外に出ないこと、コスト、使用の安定性にあるとし、これがローカルLLMとエッジAIの産業機会であると述べています。

中国HPの副社長兼パーソナルインフォメーションプロダクト事業部ジェネラルマネージャーである周信宏氏は、企業ユーザーにとって、クラウド型LLMを使用する最大のリスクは、企業データや経験が「蒸留」（流出・模倣）されることだと説明しています。

次に、ローカルLLMの知能レベルが急速に向上していることも要因です。郭権瑋氏によると、クラウド型LLMは知能の上限をさらに引き上げ続けていますが、ローカルLLMは3つの技術的進歩の恩恵を受けています。すなわち、LLM自体の効率化、コンシューマー向けハードウェアの性能向上、そして推論およびAIエージェントシステムの成熟化です。

逄大嵬氏も、生産性とコストのバランスという観点から評価すると、20Bから100BパラメーターのローカルLLMが、現在最もスケーラブルなデリバリーに適した範囲であり、長期間にわたるAIエージェントタスクをサポートできると述べています。現在の35BパラメーターLLMの知能レベルは、2年前の一流LLMに匹敵するレベルに達しています。

現在、20Bから100BパラメーターのLLMを稼働させることができるPCは、1万元から6万元の価格帯であり、多くのメーカーがこれをAIハードウェアの新たな機会と見なしています。

周信宏氏によると、メモリやCPUなどの主要部品の価格上昇の影響もあり、低価格PC市場は継続的に縮小しています。HPは中国本土でAIエッジ分野への投資を継続しており、PCの売上は二桁成長を維持していますが、その主な要因は製品単価の継続的な上昇であると述べています。

「使える」から「使いやすい」への課題

供給側、需要側ともにローカルLLMとその応用を高く評価していますが、「オフィス」というシナリオにおいては、いかに「実務をこなすか」がより重視されます。

ビジネスおよび技術洞察会社Gartnerのマネージングバイスプレジデントである孫鑫氏は、中小パラメーターモデルはローカル推論の敷居を下げたものの、企業が導入する際の敷居は、依然としてデータとアプリケーション実行にあると指摘しています。AIエージェントが、権限に基づいて正しいバージョンのファイルを見つけ、業務システムを呼び出し、失敗した後に復旧できるかどうかが、搭載できるパラメーター数よりも、そのオフィスの価値を左右すると述べています。さらに、コスト評価にはハードウェア、メンテナンス、および手作業による修正も含まれるべきです。

ローカルLLMは「万能」である必要はありません。郭権瑋氏は、応用シナリオとしては、高頻度かつ長期間にわたる、ユーザーデータとツールが深く結びついた作業シーンに期待を寄せています。例えば、PC内のファイルやメールの長期的な整理、企業内知識やプロセスの整理、研究資料の分析などが挙げられます。これらのタスクに本当に必要なのは、モデルをたまに呼び出すことではなく、AIが継続的に業務をサポートできることです。

AI大手企業が汎用オフィス市場に注力する一方で、専門的なオフィスシーンも注目に値します。逄大嵬氏は、同社は低エラー許容率の垂直産業シナリオ、例えば精密製造、医療、研究、財務などの分野を優先的に開拓し、高価値な産業能力とデータを蓄積することで、代替コストの高い製品の壁を構築していく方針だと述べています。（記者：葉健）

出典: 元記事を読む