Nous、政治的な質問へのQwenの回答を教師ありファインチューニングで調整したArete-27Bを公開

Nous Researchは11月6日、Qwen3.8-27Bをベースに、教師ありファインチューニングによって政治的に敏感な話題への回答傾向を調整したArete-27Bを発表した。今回の公開にはオープンウェイト、訓練データ、評価セットが含まれ、研究者は行動の変化がどのように生じたかを検証し、テストを再実行できる。発表に関する報道、公式説明

訓練では約5,280万トークン、コンテキスト長64kを使い、2エポック、計1,202ステップを実行した。強化学習や選好最適化は加えていない。チームは教師モデルにInklingを使い、言語モデルの全重みを更新する一方、視覚エンコーダーを凍結し、マルチトークン予測ヘッドを無効にした。こうした設定が実験の範囲を定めている。主に検証するのは、テキストによる監督が回答行動をどう変えられるかであり、マルチモーダル能力は別途検証が必要だ。モデルカード

評価は7つの話題領域、803件のプロンプトで構成された。各設問には出典と、回答に含めるべき2～4項目の事実が示され、Grok 4.7が回答モデルの身元を知らされずに採点した。Nousの報告によると、思考を無効にし、温度をゼロにした比較では、5点満点の事実スコアが2.32から2.98に上昇した。また、同社のルールで中国政府の公式見解を採用していると判定された回答の割合は、22%から0.9%に低下した。これはチーム独自の指標による結果であり、一般的な事実の正確性や政治的中立性を直接示すものではない。評価データ

能力の維持については、公式の内部評価でHermes Benchのスコアが65.60%となり、ベースモデルの65.77%とほぼ同水準だった。Terminal-Bench-2.1では、それぞれ70%と67%だった。チームは、推論およびテストのフレームワーク設定が公式リーダーボードと異なる可能性があるとして、後者の結果を確かな改善とはみなしていない。エンジニアリングチームにとって、これは再現可能な行動調整の事例となるが、あらゆる能力が維持されることを示すにはまだ不十分だ。公式結果

今後は、独立した再現に加え、中国語のプロンプト、異なる判定モデル、マルチモーダルタスクでの結果を確認する必要がある。評価データは英語と記載されており、モデル間比較でも、すべてに同じデコード設定が使われたわけではない。そのため、中国語製品には独自のテストセットが必要となる。検証可能な訓練・採点資料が公開されたことには研究上の価値がある一方、「バイアス層は浅い」という仕組みの説明は、現時点では今回の実験に対するNousの推論にとどまる。モデルカードと制約