SURL AI News
繁中English日本語

Archive

GitHub Repo

GitHub 熱門專案、開源工具、框架、runtime 與重要 release。

GitHub Repo

TransformersでキャッシュのオフロードによりQwen3.8の出力が変化するとの報告、異常は初回の再利用から

最小再現コードを添えた報告によると、ハイブリッドアテンションモデルではプリフィルが正常でも、次のステップの出力がずれる可能性がある。メンテナーによる確認はまだなく、GPUメモリ使用量の最適化においても、複数ステップにわたる数値的一致性の検証が必要であることを示している。
AI 基礎設施

AgentCore Runtime V2がメモリ回収とスナップショット起動を導入、公式テストのコールドスタートは約2秒

AWSがエージェント実行環境を更新し、長時間セッションのメモリ使用量を削減するとともに、コールドスタートを短縮。性能値は実処理を行わないエージェントによるテストに基づいており、コスト効果やスナップショット復元時の挙動は、実際のワークロードで検証する必要がある。
推論系統

SemIfがブラウザ内での選択肢スコアの読み出しを実演、判断に用いる確率には別途校正が必要

このローカル推論実験は、選択肢のlogitsを直接読み出す方法と、JSONをトークン単位で生成する方法を比較し、開発者が出力形式に伴うコストを測定できるようにするものだ。結果は量子化、ブラウザ、テストの実行順序にも左右され、選択肢の確率をそのまま信頼度と見なすことはできない。
AI 基礎設施

AIPerfがマルチプロセスでLLMの性能測定を再構築、ストリーミング指標はカウント方法の確認が必要

NVIDIAがGenAI-Perfの後継ツールAIPerfを詳説。負荷生成、結果処理、トラフィックのリプレイをマルチプロセス構成に組み込む。推論サービスをより包括的に測定できる一方、移行時の互換性やストリーミング時のトークンのカウント方法は、依然として結果の解釈に影響する。
AI 基礎設施

Exa Snapshot、過去のWebページ内容を固定してエージェント評価に活用、検索順位には現在のシグナルを使用

Exaが過去のWebページ内容を検索する機能を発表。エージェントが指定日時以前の証拠を取得できるようにし、後から公開された解答による評価データの汚染を抑える。機能はまだリサーチプレビュー段階で、公開プランでは参照可能な期間と検索モードに制限がある。
GitHub Repo

OpenHands 1.20、エージェントプロファイルでシークレットを選択可能に　サーバー側で範囲を制限

新版はシークレットの許可リストをエージェントプロファイルに組み込み、自動化タスクが無関係な認証情報を取得する可能性を低減する。既存の設定はデフォルトでは引き続き制限されないため、導入側はバックエンドの対応状況と、認証情報を渡すほかの経路を確認する必要がある。