GitHub Repo
Transformers 被回報快取卸載改變 Qwen3.8 輸出,異常始於首次重用
一份附最小重現程式的回報顯示,混合注意力模型在預填充正常後,下一步輸出仍可能偏移。問題尚未獲維護者確認,凸顯顯存最佳化也需驗證多步數值一致性。
Archive
Agent、MCP、coding agent、工作流自動化與評測。
GitHub Repo
一份附最小重現程式的回報顯示,混合注意力模型在預填充正常後,下一步輸出仍可能偏移。問題尚未獲維護者確認,凸顯顯存最佳化也需驗證多步數值一致性。
AI 基礎設施
AWS 更新代理執行環境,降低長工作階段的記憶體占用並縮短冷啟動。效能數字來自空代理測試,成本效益與快照還原行為仍須依實際負載驗證。
GitHub Repo
Cua 將欄位配對與動作選擇交給小型模型,再由程式安排執行順序。公開評測仍限於少量示範表單,中文泛化與完整工作流程可靠度有待驗證。
GitHub Repo
新版讓代理與對話助手操作內建瀏覽器,並可引用文件中的特定範圍。網站工具相容性、不同執行模式的權限差異及 macOS 最低版本,仍是導入重點。
AI 安全
團隊讓代理協助建立反編譯、靜態分析與形式化驗證工具,再用於 Miden 虛擬機稽核。公開程式提供重驗起點,但證明仍受語意模型與定理前提限制。
GitHub Repo
新版可把決策答案映射為 Pydantic 模型,方便分類與路由流程使用。序列化變更需要遷移驗證,中文準確率及機率門檻仍須另行評測。
最新模型
新版維持既有轉錄價格,官方多語短句測試與獨立批次評測均顯示詞錯誤率下降。批次速度、中文格式化支援及預設模型切換仍需分別驗證。
推論系統
AMD 透過分拆注意力核心與調整排程,提高 MI355X 上的 GPT-OSS-120B 基準吞吐量。公開權重與操作指南提供重現起點,但環境設定及模型卡仍有待釐清之處。
GitHub Repo
vLLM 公開硬體影片解碼的多 GPU 擴充測試,改善短描述生成工作中的 CPU 瓶頸。效益仍取決於負載,部署時也須為解碼程序預留顯存。
AI 基礎設施
NVIDIA 詳解 GenAI-Perf 後繼工具 AIPerf,將負載產生、結果處理與流量重播納入多程序架構。它提供更完整的服務量測,但遷移相容性與串流 token 計數仍影響結果解讀。
AI 基礎設施
Exa 推出歷史網頁內容查詢,讓代理在指定時間界線內取得證據,降低後來公開答案造成的評測污染。功能仍屬研究預覽,公開方案的歷史範圍與搜尋模式均有限制。
GitHub Repo
新版把密鑰允許清單接進代理設定檔,降低自動化任務取得無關憑證的機會。既有設定預設仍不限制,部署者必須確認後端支援及其他憑證交付管道。