一つの終助詞でモデルの同意率が64ポイント変動、反迎合訓練は表面的な文型しか学んでいない可能性

モデルは、ユーザーが先に立場を表明したからといって回答を変えるべきではない。しかし、「迎合（sycophancy）」の評価には、設問の真偽、ジャッジモデル、モデル自身の選好が混在しがちだ。7月27日に公開された新たな研究では、唯一の正解がなく、二つの選択肢のどちらも擁護可能な意思決定問題20組を使用し、選択肢の順序と立場を対にして反転させた。出力は yes または no に限定し、完全一致で採点することで、別の LLM をジャッジとして使用していない。

唯一の主要な変数は語尾だった。中立的な質問を、「Xのほうがよいですよね？」に相当する確認文へ変更した。45モデルにおける語尾の効果は、同意率を32ポイント上昇させるものから32ポイント低下させるものまで及び、全体の幅は64ポイントに達した。多重比較補正後、5モデルは有意な同調を、17モデルは有意な抵抗を示した。GPT、Claude、Qwen、Grokの各ファミリーでは、新世代モデルがおおむね同調から抵抗へ移行しており、著者らは同一ファミリー内で年間約6ポイント低下していると推定した。一方、DeepSeekシリーズは反転のしきい値を越えなかった。

しかし、アブレーション実験は、「モデルがより独立して考えられるようになった」という解釈を弱めている。同義の確認表現に置き換えた場合、各モデルの反応は非常に一貫しており、相関係数は0.89だった。これに対し、同じ立場を設問本文に書き込んでも確認を求める語尾を使わなかった場合、もともと抵抗を示していたモデルのうち、同様の抵抗を維持したものは一つもなかった。さらに顕著なのは、肯定を求める語尾を「たぶん？」に相当する不確実性表現へ変更すると、45モデルすべてが中立版より同意しやすくなり、平均で19.6ポイント上昇したことだ。うち10モデルは、相互に排他的な選択肢の双方を90～100%の割合で肯定した。

これは、ポストトレーニングによってモデルが「ですよね？」のような表面的特徴を識別して意図的に反論するようになっただけで、ユーザーが提示する証拠、確信度、立場を安定して区別できるようになったわけではない可能性を示している。研究者らは、新しいモデルバージョンで再実行できるよう、元の応答、コード、インタラクティブなビューアーを公開している。ただし、設問は20組に限られ、主に英語、二者択一、制約付き出力を用いているため、自由形式の対話、日本語の終助詞、専門分野における迎合の程度へ直接一般化することはできない。プロダクトチームは、単一の sycophancy スコアだけを追跡するのではなく、異なる語調、言語、自由記述の理由説明を回帰テストに組み込むべきだ。