ホームへ戻る

AI 基礎設施

Groq、FreeおよびDeveloperプランで2つのLlamaエンドポイントを廃止――代替モデルは透過的なエイリアスではない

Groqは8月16日、FreeおよびDeveloperプランで2つのLlamaエンドポイントを廃止した。現在、旧モデルIDを使用するとエラーが返される。公式はGPT-OSSまたはQwenへの移行を推奨しているが、モデルファミリーをまたぐ移行となるため、ツール呼び出し、構造化出力、プロンプトの挙動を改めて検証する必要がある。

Avivweinstein · CC BY-SA 4.0 · Image source
zh-Hant

Groqの廃止スケジュールが正式に発効した。`llama-3.1-8b-instant`と`llama-3.3-70b-versatile`は8月16日以降、FreeおよびDeveloperプランから呼び出せなくなった。一方、コミット済み利用契約を結んでいるEnterprise顧客は当面影響を受けない。今回の変更では、サーバーが旧名称を新バージョンへ暗黙的に転送することはない。旧モデルIDを送信し続ける本番サービス、バッチジョブ、フォールバックルートには、そのままエラーが返される。

公式は、8Bエンドポイントの推奨代替として`openai/gpt-oss-20b`を挙げている。70Bについては、`openai/gpt-oss-120b`または`qwen/qwen3.6-27b`へ移行できる。ただし、これらはLlamaと同等のアップグレードではない。GPT-OSSでは推論強度やツール使用の慣例が異なる。Qwen3.6-27Bのオリジナルモデルカードには、ハイブリッドアーキテクチャ、ネイティブの262,144 tokenコンテキスト、マルチモーダル機能が記載されているが、Groqが実際に提供する入力タイプ、コンテキスト上限、サービスパラメーターについては、同社のエンドポイントドキュメントを基準にすべきだ。

エンジニアリングチームはモデル文字列を置き換えるだけでなく、JSON Schema、関数パラメーター、stop string、system prompt、ストリーミングイベント、最大出力長に関するテストも再実行する必要がある。特定のtokenizerに依存するコスト見積もり、プロンプトの切り詰め、キャッシュキーも変わる可能性がある。モデルのallowlist、監視ディメンション、フェイルオーバー設定も同様に更新が必要だ。廃止の告知自体は6月に公開されており、今回のニュースの要点は停止期限を迎えたことにある。今後は、GroqがEnterprise契約向けに別の廃止日を設定するか、また代替エンドポイントが高い同時実行負荷の下でどのようなレイテンシ、レート制限、出力互換性を示すかを注視すべきだ。

出典

  1. Model Deprecations
  2. Qwen3.6-27B Model Card
  3. OpenAI GPT-OSS-20B Model Card