「どのモデルが賢いか」はもう二の次だ

NVIDIAとMetaが、ほぼ同時に同じサイズのローカルモデルを出した。Nemotron 3.5 LightningとMuse Glimmer。どちらも30Bパラメータ、どちらも「エージェント用途」を前面に出している。

この「同じ週に、同じサイズ、同じ用途」という偶然はない。ローカルLLMの主戦場が明確に移動した合図だ。

エージェントが「長く走る」ための設計

Nemotron 3.5 Lightningは30BのMoEで、トークンごとに3Bだけを活性化する。100万トークンのコンテキストを持ち、推論で同サイズのオープンモデル比4倍のスループットを謳う。NVIDIAはこれを「stay runningするエージェント」向けだと明言している。

Muse GlimmerはMeta Superintelligence Labs初のオープンモデルで、Apache 2.0で公開。128K超のコンテキストに、推論強度をlowからxhighまで4段階で切り替えられる。高速なツール呼び出しを連続で回すコーディングエージェント用途に特化している。

共通点が鮮明だ。ベンチマークのスコアを競うためのモデルではない。ファイルを読み、ツールを呼び、失敗したらリトライし、コンテキストを蓄積し続ける──そういう「長時間の自律動作」に最適化されている。

勝者を決めるのはスループット

エージェントの実用性を決めるのは、1回のプロンプトに対する回答の質ではない。1分間にどれだけのステップをこなせるかだ。

コーディングエージェントがリポジトリを走査し、テストを実行し、差分を当てて、またテストを走らせる。このサイクルを1分間に3回回せるか、12回回せるかで、実用的なタスクの完了時間は3〜4倍変わる。Nemotronの「4倍スループット」という数字は、この文脈でこそ意味を持つ。

ローカルLLMの価値は「賢さの安価な代替」にあるのではない。「データを外部に出さずに、エージェントを高速に回し続けられる基盤」にある。

Ollamaが8800万ドルを集めた理由

Ollamaが7月に$88Mを調達したとき、世間の反応は「ollama runだけで88億？」だったかもしれない。だが同社が語っていたのは「seamless hybrid inference」、つまりローカルとクラウドを透過的に切り替えるインフラだ。

高頻度のルーティン処理はローカルの30Bで捌き、難しい判断だけクラウドの大型モデルに振る──この構成が現実的になるには、ローカル側のスループットがクラウド側のレイテンシと競合できる必要がある。NVIDIAとMetaの最新モデルは、まさにそのギャップを埋めるために設計されている。

Fortune 500の85%がOllamaを使っているという数字も、単なる「ローカルでLLMを動かしたい」需要の反映ではない。企業がエージェントの本番運用を、データを社外に出さない形で始めようとしている証拠だ。

日本企業が見落としているポイント

日本のエンタープライズAI導入は「どのクラウドAPIを使うか」の議論に止まりがちだ。だが、セキュリティ要件が厳しい金融・医療・製造の現場では、エージェントが扱うデータの大半は機密情報だ。クラウドAPIに毎ステップ送るわけにはいかない。

ローカルLLMが「開発者の趣味」から「エンタープライズの必須インフラ」に移行する局面はすでに来ている。問題は「どのモデルを選ぶか」ではなく「エージェントを動かし続けられる環境をどう組むか」だ。

その環境構築のハブになりつつあるのがOllamaだ。そしてNVIDIAとMetaは、そのハブの上で最も効率よく回るエンジンを、ほぼ同時に提供した。