開發者平台與推論 API
GitHub Models 將於 7 月 30 日全面關閉,推論應用需改接獨立部署端點
GitHub 將移除 Models 的遊樂場、模型目錄、推論 API 與 BYOK 端點,現有客戶也不例外。遷移至 Microsoft Foundry 並非只換網址,工程團隊還需重做部署、身分驗證、限流與回歸測試。

GitHub Models 將於 2026 年 7 月 30 日全面退役,屆時遊樂場、模型目錄、推論 API 與自帶金鑰(BYOK)介面都會停止服務,範圍包含仍有流量的既有客戶。GitHub 已在 7 月 16 日與 23 日安排短暫中斷,讓依賴該服務的系統提前暴露錯誤處理問題;7 月 23 日的 brownout 因而是工程團隊驗證降級路徑、重試上限與告警是否有效的最後幾個窗口之一。
GitHub 建議需要通用模型存取的專案轉向 Microsoft Foundry,若需求只是 GitHub 內的 AI 工作流程則改用 Copilot。然而,前者採「資源—部署—端點」模型:每個部署綁定模型名稱、版本、容量或佈建方式、內容過濾與限流設定,呼叫時使用部署名稱,而不是假設原有 GitHub Models 的模型識別碼可以直接沿用。Foundry 支援 OpenAI 相容的 `/openai/v1/` 路徑,也可使用 API 金鑰或 Microsoft Entra ID;採 Entra ID 時,權限、權杖範圍與服務身分都必須納入部署流程。
遷移的主要風險在語意而非語法。即使 SDK 與請求格式相容,不同模型版本、系統提示處理、內容過濾、工具呼叫格式、串流事件、上下文上限與限流策略仍可能改變輸出。團隊應先盤點所有 GitHub Models 端點與 BYOK 依賴,固定替代模型版本,建立包含結構化輸出、工具呼叫、長上下文與拒答情境的回歸集,再以少量流量雙跑比較延遲、錯誤率、品質與成本。金鑰不應直接複製到新環境;較穩妥的做法是建立新身分、採最小權限並輪替舊憑證。
另一個時間點也值得注意:Microsoft 文件標示 Azure AI Inference beta SDK 將於 8 月 26 日退役,建議改用穩定的 OpenAI SDK 與 OpenAI/v1 API。若現在遷移,應避免先接入即將淘汰的 SDK,否則一個月內可能面臨第二次改造。仍需留意模型與區域可用性、配額、資料治理及價格不保證與 GitHub Models 相同。