Ollama 0.34.3候補版、モデルの思考オプションを公開しエージェント側のハードコーディングを削減

Ollamaは9月19日に0.34.3-rc1をリリースし、モデル情報エンドポイント `/api/show` が、対応する思考オプションとデフォルト値を返すようにした。リリースノートではクラウドモデルGLM-5.3-Flashを例に、`thinking.values` にlow、high、maxが列挙され、`thinking.default` がmaxとなっている。これにより、エージェントやチャットインターフェースは設定情報を照会し、モデルに応じたメニューを構築できる。[リリースノート](https://github.com/ollama/ollama/releases/tag/v0.34.3-rc1)

この変更は、実際の連携開発で生じていた課題に応えるものだ。9月11日、Piの拡張機能開発者がissueで、既存のAPIはモデルに思考能力があるかどうかしか示さないと指摘した。受け付けられるレベルを把握するため、第三者のデータを読み込み、デフォルト値の対応表を維持し、さらには意図的に不正なパラメーターを渡してエラー応答から選択肢を逆算する必要があったという。こうした手法はモデルの更新に伴って機能しなくなりやすく、新しいフィールドはその保守作業の一部を減らせる。[開発者の報告](https://github.com/ollama/ollama/issues/18385)

思考設定を別のモデルにそのまま適用することもできない。公式ドキュメントによると、リクエストには `think` フィールドを使い、一部のモデルは真偽値または強度レベルを受け付ける。一方、GPT-OSSはlow、medium、highを受け付け、真偽値を渡しても無視する。応答では思考内容と最終回答が分離されており、思考テキストを非表示にしても、その部分の生成が止まるわけではない。実装上は、クライアントが取得した選択肢に基づいて入力を検証し、表示設定と推論設定を分けて管理すべきだ。[思考機能のドキュメント](https://docs.ollama.com/capabilities/thinking)

ドキュメントには、もう一つ注意点がある。リリースノートではエンドポイントがGETと記載されているが、添付のcurlの例はPOSTを送信するデータ引数を使用しており、正式なAPIドキュメントもPOSTと明記している。連携時には正式なAPI仕様に従ってモデル名を送信し、リリース概要だけを見てHTTPメソッドを変更すべきではない。[エンドポイントのドキュメント](https://docs.ollama.com/api-reference/show-model-details)

評価パイプラインにとっては、記録できる条件が一つ増えることにもなる。モデル名とサーバーバージョンに加え、取得したデフォルト値と実際に送信した設定を保存できる。提供元がデフォルトの思考強度を調整した場合、速度や請求額だけを比較すると、設定の違いをモデルの性能低下と誤認する可能性がある。そのため、導入時のテストではタスク、入力、思考設定を固定したうえで、レイテンシーと品質を確認すべきだ。

現時点では、まだリリース候補版だ。今回の説明では、価格、キャッシュ料金、最大出力長といった、その他のメタデータに関する要望がすべて満たされたとは発表されていない。同版ではApple Silicon上でMLXを使ってNemotron Hのビジョンモデルを実行するサポートも追加されたが、性能を示す数値は提供されていない。今後は、ローカルモデルとクラウドモデルで返される情報に一貫性があるか、フィールドが存在しない旧サーバーでどのようにフォールバックするか、設定が実際の生成動作に反映されるかを検証する必要がある。[バージョンの変更内容](https://github.com/ollama/ollama/releases/tag/v0.34.3-rc1)