所有文章 · SURL AI News

惡意文字寫進系統日誌，可讓 LLM 把真實攻擊判成正常活動

新研究證明，攻擊者可利用自己能控制的日誌欄位植入提示，干擾 SOC 使用的 LLM 分析流程。研究亦發現模型解釋常會洩露受操控跡象，但這項訊號尚不足以成為可靠防線。

Google 為 Antigravity CLI 加入 JSON、NDJSON 串流及輸出 schema 約束，讓無頭代理不必再解析終端文字。事件同時暴露工具參數、結果與子代理軌跡，改善可觀測性之餘也擴大敏感資料外洩面。

新研究把每次代理執行的成敗與事後修正蒸餾成可檢索規則，不必更新模型權重即可累積經驗。在 τ-bench 銀行任務中效果跨 Mistral Large 與 Claude Sonnet 5 重現，但評測使用完美回饋且每個情境重複四次。

GitHub 的開源代理工作流工具新增 Google Vertex AI Workload Identity Federation，讓 Gemini 工作流不必保存長效服務帳號金鑰。新版亦擴充安全輸出檢查與 BYOK 參數，但自訂標頭及請求欄位仍可能擴大資料外洩面。

GitHub 更新 JetBrains 外掛，讓代理工作流匯出 OpenTelemetry，並可為自帶金鑰與自訂端點設定輸入、輸出 token 上限。Claude 代理流程亦可直接接入 MCP 伺服器與自訂代理，但工具呼叫內容、成本歸因及資料遮蔽仍需部署團隊自行驗證。

開源專案 esp32-ai 把多數參數移入記憶體映射 Flash，只讓小型 Transformer 核心留在快速記憶體，讓約 8 美元的微控制器完全離線生成文字。成果證明分層模型可下沉到韌體，但 TinyStories 等級輸出仍不能等同通用語言理解或裝置控制能力。

一項實證研究分析五種程式代理在 342 個 Python 儲存庫留下的 54,791 則審查意見，發現內嵌程式建議是意見獲得解決的最強預測因子。錯誤建議與忽略專案既有設計則是未解決討論的主要類型，但觀察性資料不能用來直接排名各家代理品質。

PaddlePaddle 開放 1B 參數 HPD-Parsing，以全域版面分支協調多個區塊解碼器，避開整頁逐 token 生成的序列瓶頸。官方測試顯示吞吐是既有最快比較模型的 2.62 倍，但目前依賴客製 vLLM 套件，峰值數字也不能直接等同端到端 PDF 處理速度。

高麗大學團隊開放 6 億參數 LAMAR，讓多語搜尋在文件同樣相關時，優先保留與查詢相同語言的內容。模型在專門設計的語言一致性測試領先比較對象，但一般重排基準只達競爭水準，不能視為全面取代大型 reranker。

Cohere 為 North 加入可配置的多步驟 Automations，讓代理依條件處理資料、呼叫企業工具並串接其他代理。平台支援私有部署、MCP 與稽核紀錄，但官方尚未公開失敗重試語義、版本控制及量化可靠性資料。

NVIDIA 將 Nemotron 3 Ultra 放進固定的生成、模擬、反思迴圈，在 CVDP 九類 RTL 任務取得 97.1% 平均通過率。結果同時顯示代理框架可大幅抬高各模型成績，但比較仍限於三款開放模型與單一評測流程。

部分使用者主動分享的 Claude 對話與 Artifacts 出現在 Google 搜尋結果，將原本看似限於持有連結者的內容變成可被關鍵字找到。這不是未分享私密對話遭入侵，但暴露了公開連結、爬蟲控制與使用者預期之間的安全落差。