GitHub Repo
Ollama 0.40.9 加入串流語音合成，Phonon 首波限 Apple Silicon
Ollama 於 10 月 22 日更新 0.40.9，加入 Phonon 語音合成與相容 OpenAI 的串流端點。首波套件需要 Apple Silicon，預設英文模型與其他語言版本的授權也不同。
頭版
SURL AI News
偏技術的 AI 模型、軟體、晶片、開源、研究與基礎設施新聞。
GitHub Repo
GitHub Repo
Ollama 社群回報 Vulkan 快取效能異常，特定 AMD 配置重複請求明顯變慢
10 月 22 日的 Ollama 社群回報指出，特定 AMD RADV 配置在啟用提示快取後，第二次相同請求的生成速度大幅下降。協作者在另一款 AMD GPU 上未重現，根因與影響範圍仍待釐清。
GitHub Repo
Transformers 社群回報 FP8 反量化邊界錯誤，部分權重可能載入失敗或數值錯置
10 月 22 日的 Transformers 社群回報指出，FP8 權重末端區塊不足 128 列時，反量化可能失敗或套用錯誤縮放值。回報附有 CPU 重現程式，但尚無可核實的正式修復版本。
GitHub Repo
Langflow 1.12.7 補強 OpenSearch 與 S3 存取檢查，既有流程須驗證權限設定
Langflow 於 10 月 21 日發布 1.12.7，將 OpenSearch 連線網址驗證與 S3 原始檔案存取限制納入正式版本。這些修補涉及向量檢索與資料上傳路徑，部署團隊應檢查內網允許清單及本機檔案權限。
GitHub 熱門 Repo
最近仍活躍、星數與討論度較高的 AI / LLM / agent 開源專案。
morluto
rea
Reverse engineer anything with agents, from app behavior down to native binaries.
NousResearch
hermes-agent
The agent that grows with you
tensorflow
tensorflow
An Open Source Machine Learning Framework for Everyone
Significant-Gravitas
AutoGPT
AutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mission is to provide the tools, so that you can focus on what matters.
huggingface
transformers
🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.
langgenius
dify
Build Agentic workflows, RAG pipelines, with rich AI model and tool support on one collaborative workspace. Deploy on cloud, VPC, or self-hosted, so teams move from prototype to production without rebuilding the stack.
最新報導
瀏覽所有新聞
最新模型
Cohere 發布 Rerank 5，新增段落擷取與可調門檻以縮減 RAG 上下文
Cohere 於 10 月 21 日發布 Rerank 5 Pro 與 Fast，新增在重排序時擷取文件相關段落的 Context Focus 功能。開發者可調整段落分數門檻，控制送入語言模型的文字量，但仍須驗證裁切後的證據完整性。
GitHub Repo
llm-d 1.0 強化多租戶推論調度，穩定 API 並調整升級相容性
llm-d 於 10 月 20 日公布 1.0，整合多租戶流量控制、代理工作階段路由與協調升級能力。配置 API 升至 v1，但舊資源群組、指標別名與部分旗標遭移除，既有部署須檢查遷移相容性。
GitHub Repo
LangChain 修復 Perplexity 搜尋來源遺失，Agent API 四種呼叫路徑納入更新
LangChain 於 10 月 21 日發布 langchain-perplexity 1.4.2，修復 Agent API 搜尋來源未保留的問題。更新涵蓋同步、非同步與串流呼叫，讓依賴來源清單的引用介面與查核流程恢復取得資料。
GitHub Repo
Dify 社群回報代理歷史載入重複提示，長對話可能推高 API 記憶體用量
10 月 22 日的 Dify 社群回報指出，代理重建對話歷史時可能讀入各輪保存的完整提示，使資料載入量呈平方成長。回報附有重現程式與欄位裁減測試，但尚無可核實的正式修復版本。
GitHub Repo
Transformers 回報快取容量拖慢連續批次推論，TRL 小型訓練也受影響
10 月 20 日的 Transformers 技術回報指出，Flash Attention 路徑可能隨 KV 快取容量增加而變慢，即使快取大多未使用。相關 TRL 重現測試也出現訓練時間差距，但目前尚無可確認的正式修復版本。
GitHub Repo
AMD 與 Intel 將 PyTorch x86 最佳化整合至 oneDNN，版本與效能仍待公布
AMD 與 Intel 於 10 月 20 日宣布，將透過 oneDNN 統整 PyTorch 的 x86 CPU 最佳化，AMD 也將整合 ZenDNN 的技術。合作尚未列出交付版本或效能數據，工程團隊仍須確認實際套件納入哪些核心。
GitHub Repo
Dify 社群回報排程連線未釋放，長駐工作程序可能累積 Redis 閒置連線
10 月 22 日的 Dify 社群回報指出，特定 Celery／gevent 排程配置可能在工作完成後持續保留 Redis 結果訂閱連線。回報者稱正式環境曾累積逾萬條連線，但尚無維護者確認或可核實的正式修復版本。
GitHub Repo
Transformers 提出 EntroPack 整合，讓權重壓縮可設定非整數位元率
10 月 21 日提出的 Transformers 拉取請求，規劃透過標準模型載入介面支援 EntroPack 權重壓縮。提案可設定每參數平均 3.5 位元等儲存目標，但尚未合併，實際推論效益仍取決於解碼成本與工作負載。
GitHub Repo
Transformers 社群回報 RoPE 初始化缺口，部分長上下文設定遇空值即失敗
10 月 21 日的 Transformers 社群回報指出，部分模型設定的 head_dim 為空值時，Dynamic、YaRN 與 LongRoPE 路徑可能無法建立模型。回報附有小型重現程式與修補構想，但尚無維護者確認或可核實的正式修復版本。