ホームへ戻る

最新模型

Ricursive、密なアーキテクチャでコーディングエージェントと100万トークンのコンテキストに対応するRipple-65B Previewを公開

Ricursiveは11月4日、Ripple-65B Previewをリリースし、BF16、NVFP4、ベースモデルの重みをApache 2.0ライセンスで公開した。公式はコーディングエージェントの評価結果とアーキテクチャの詳細を発表したが、モデル間の順位は評価フレームワークの影響を受け、中国語への対応力も検証が必要だ。

Iain Macaulay · CC BY-SA 2.0 · Image source
zh-Hant

Ricursive Intelligenceは11月4日、Ripple-65B Previewをリリースした。同社のチップ設計プラットフォームで内部利用しているモデルの汎用版だ。公開されたのは、BF16の指示追従モデル、NVFP4量子化重み、BF16ベースモデルで、いずれもApache 2.0ライセンスを採用している。OpenRouterにも掲載されており、開発者はAPI経由で評価してから、自前でホスティングするかどうかを判断できる。公式発表、モデルカード、サービスページ

技術面の特徴は、650億パラメータの密なTransformerを採用した点だ。チームによると、この選択は事前学習と事後学習に必要なインフラの複雑さを抑えることを狙っている。モデルは80層、隠れ次元5,120の「狭く深い」構成で、グローバルアテンションに対するスライディングウィンドウアテンションの比率を高め、ゲート付きアテンションと数値安定化の仕組みを加えている。これは学習における別のトレードオフを示すものだが、総パラメータ数が少ないからといって、トークンあたりの計算コストが低いとは限らない。密なモデルは毎回すべてのパラメータを使用するためだ。アーキテクチャの説明

モデルは主に英語のテキストとコードからなる12兆トークンで事前学習され、その後、中間学習、長文コンテキスト学習、教師ありファインチューニング、複数領域の強化学習を経ている。コンテキスト長は最大で約100万トークンとされる。中国語を扱うチームは、繁体字中国語の文書検索、複数ファイルにまたがる編集、ツール呼び出しを実際に試して性能を見極める必要がある。また、コンテキストウィンドウが長いだけで、モデルがその全内容を確実に活用できるとは限らない。学習データとプロセス

公式発表によると、Terminal-Bench 2.1のスコアは80.5。一方、同じ表に掲載されたSWE-bench Verifiedのスコアは76.5で、一部の比較対象を下回る。モデルカードでは、公式のTerminus 2フレームワーク、128Kコンテキスト、要約機能を使うと、複数の競合モデルのスコアが変わることも明記されている。そのため、今回の結果はリリース元による評価として捉えるべきで、あらゆるコーディング作業における順位へ一般化することはできない。エンジニアリングチームは、エージェントのフレームワーク、コンテキスト予算、再試行回数を固定したうえで、BF16とNVFP4のタスク成功率、レイテンシ、メモリ使用量を比較するとよい。そうすることで、オープンウェイトが実際のデプロイにもたらす利点を判断できる。評価方法と制約

出典

  1. Introducing Ripple-65B Preview
  2. Ripple-65B Preview 模型卡
  3. Ripple-65B Preview API 服務與發布日期