Ollama 0.40.16にRipple 65Bが追加、MLX経路でDFlash 2の投機的デコードをサポート

Ollamaは11月9日に0.40.16をリリースし、Ricursive IntelligenceのRipple Previewを主な更新内容に加えた。開発者はollama run ripple-previewでモデルを起動できる。モデルページにはClaude Code、OpenCode、Hermes Agentからの起動コマンドも掲載されており、既存のコーディングエージェントをこのローカルモデルに接続できる。リリースノート

今回の統合で注目されるのは推論経路だ。Ollamaによると、RippleはMLXエンジン上でDFlash 2の投機的デコードを使って生成を高速化する。モデルページに掲載されたモデルファイルのサイズは約39～46GB。ただし、ファイルサイズは実行に必要なメモリ量をそのまま示すものではない。デプロイ時にはコンテキストキャッシュと実行時の割り当てに必要な余裕も確保する必要がある。公式ページには速度、ハードウェア条件、投機トークンの受け入れ率がまだ掲載されていないため、エンジニアリングチームは各自のワークロードで測定する必要がある。Ollamaモデルページ

Rippleは11月4日に公開された。12兆トークンで事前学習された65BのデンスTransformerで、ライセンスはApache 2.0。各トークンの処理で全パラメーターが有効になるため、総パラメーター数だけからMoE（混合エキスパート）モデルに対する計算コストを直接推定することはできない。モデルカードによると、80層構成で隠れ次元を比較的小さくし、スライディングウィンドウアテンションの比率を高めることで、アテンションのコストを抑えている。公式モデルカード

長いコンテキストについては、数字の違いにも注意が必要だ。Ollamaのタグにはコンテキストウィンドウが2Mと表示されている一方、説明文とモデルの開発元が公開するモデルカードでは約1Mトークンの対応がうたわれている。これらの表示だけでは、最大長でのタスク品質やローカル環境での実用性は確認できない。デプロイ前に、実際の設定、メモリ使用量、長距離の情報保持能力を確認すべきだ。

RicursiveはTerminal-Bench 2.1で約80.5点を報告しているが、モデルカードでも、エージェントフレームワーク、要約方針、シーケンス長によって評価結果が変わると認めている。BF16での評価結果は、Ollamaの量子化版の性能を直接示すものではない。中国語を扱う技術チームは次に、中国語の要件理解、ツール呼び出しの成功率、タスク全体にかかる時間を測定し、投機的デコードによる生成速度の向上が実際の開発効率につながるかを確かめる必要がある。評価条件