SURL AI News
繁中English日本語

Archive

GitHub Repo

GitHub 熱門專案、開源工具、框架、runtime 與重要 release。

推論系統

llama.cpp b10456、SYCLの量子化変換スケジューリングを修正——Arc 70のQ4_0→FP32スループットが158.19 GB/sに向上

新版では量子化ブロックのサイズに応じてスレッド数とワークグループ数を設定し、SYCL copy kernelの過剰または不十分なサブスクリプションを回避。Arc 70のマイクロベンチマークではスループットが20.21 GB/sから158.19 GB/sに向上したが、これはモデル全体のtoken生成速度が同じ比率で向上することを意味しない。
最新模型

Intern-S2-Mobius、FFNの記憶をモデル全体で共有し、35Bモデルで約4倍のエンドツーエンド推論高速化を報告

Intern-S2-Mobiusは、従来のTransformerで各層に結び付いていた知識ストレージと注意機構による推論を分離し、複数のReasonerが同一のグローバルMemoryを繰り返し参照できるようにする。オープンウェイトはLMDeploy、vLLM、Transformersで読み込めるが、約4倍という高速化は、あくまで公式の特定ベンチマークにおける結果だ。
最新模型

コミュニティが単一フレームVAEでMiniMax H3を画像編集モデルに転用、ComfyUIの最低5フレーム制約が互換性のギャップに

コミュニティが動画モデルMiniMax H3向けに5.21GBの単一フレームVAEを学習し、reference-to-videoパイプラインで1フレームのみを生成して、衣装変更、ポーズ変更、視点変換を実行できるようにした。この手法は、動画モデルを画像編集モデルとして再利用できる可能性を示す一方、現時点では非公式の重み、特定のワークフロー、まだ完全には実装されていないComfyUIの単一フレームインターフェースに依存している。
推論系統

FreeBalance、MoEの人気エキスパートを事前予測し、8基のA800でprefillレイテンシを最大13.1％削減

FreeBalanceは前層の残差状態から次層のエキスパート負荷を予測し、重みの交換とattention計算をオーバーラップさせる。最終的なルーティングやモデル出力は変更しないが、現時点での検証範囲は2つのMoEモデル、単一の8 GPUトポロジー、prefillワークロードに限られる。
推論系統

Ollama 0.32.14、llama-server への送信前に WebP をトランスコードし、Qwen の system message の位置制約を緩和

新版では、モデルの前処理レイヤーにある2つの互換性上の問題を修正した。WebP 画像は事前にトランスコードされ、Qwen renderer も system message が必ず先頭にあることを要求しなくなった。新モデルや kernel に関する変更ではないものの、マルチモーダル処理やエージェント対話が推論コアに到達する前に失敗する事態を防げる。
代理工具

Pydantic AI 2.31、AG-UIの実行識別子をイベントストリームへ移行し、入力が遅延しても先にストリームを作成可能に

新版では、`run_input`をまだ取得していなくても`UIEventStream`を作成でき、`AGUIEventStream`がthread IDとrun IDを自身で保持するようになった。Temporal sandboxとの互換性やフォールバックモデルのtracingの帰属も修正され、長時間稼働するエージェントワークフローにおける診断上の盲点が減少する。
最新模型

GCache、全過程の誤差に基づき拡散キャッシュを配置、Wan 2.1で同じ2.17倍高速化時にLPIPSを0.0316へ低減

GCacheは、隣接するノイズ除去ステップ間の局所的な差異を比較するだけでなく、キャッシュ誤差が最終的な画像や動画に及ぼす累積的な影響を推定する。動的計画法でキャッシュの更新点を選択し、さらにBayesian optimizationによって理論上の重みを実際の生成品質に整合させる。
代理工具

SkillShapley、エージェントスキルの価値を段階的に推定――99種類の構成から再利用可能な限界貢献の証拠206組を取得

SkillShapleyは、`skill.md`の意味的な手順を協力ゲームのプレイヤーとみなし、Shapley valueによって各手順のタスク成功率への貢献を測定する。近似手法のBAESは、複数の「1手順のみ異なる」比較を生成できるスキル構成を優先的にテストし、エージェントを個別に実行するコストを削減する。
AI 安全

Claude Code 2.1.233、Bashのメモリを制限し、WindowsのNTLM認証情報漏えい経路を封鎖

新版では、Linuxのmemory cgroupを使用して、エージェントが実行するビルドやテストにメモリ上限を設定できるようになり、暴走したプロセスがセッション全体を停止させる事態を防ぐ。Windowsの特殊パスによる検証回避、MCPの再接続ループ、サンドボックスのアイドル時にCPUの1コアを占有する問題も修正された。
代理工具

OmniScientist、科学の生データを直接読み取り、36件の学際的タスクすべてで追跡可能な論文を生成

OmniScientistは、画像、波形、軌跡を先にテキスト要約へ圧縮するのではなく、知覚能力を仮説、実験、執筆の全工程に行き渡らせる。完全版システムは、予算化された特徴量のみを受け取るバージョンとのブラインドテストで85%の勝率を記録したが、評価は依然として主にモデル審査員によるものだ。