GitHub Repo

GitHub 熱門專案、開源工具、框架、runtime 與重要 release。

AI 安全

DUMA-Bench、ユーザーとの対話をテストに導入 論文とリポジトリのスコアはなお不一致

新たなベンチマークは、変化する環境と複数ターンの対話を通じて、エージェントの操作や応答が安全規則に違反していないかを検証する。論文では対話モードで違反が増える傾向が観測されたが、公開結果には数値の食い違いがあり、再現時にはバージョンの照合が必要だ。

GitHub Repo

vLLMで外部KVキャッシュの読み込み失敗によりエンジンが終了するとの報告、影響範囲は未確認

ハイブリッドアテンションモデルを使った開発版で、単一リクエストの失敗後にスケジューラでも致命的なアサーションエラーが発生したと報告された。公式の失敗処理ポリシーでは影響をリクエスト単位にとどめる想定だが、現時点で公開された修正や複数環境での検証結果はない。