GitHub Repo
TransformersでキャッシュのオフロードによりQwen3.8の出力が変化するとの報告、異常は初回の再利用から
最小再現コードを添えた報告によると、ハイブリッドアテンションモデルではプリフィルが正常でも、次のステップの出力がずれる可能性がある。メンテナーによる確認はまだなく、GPUメモリ使用量の最適化においても、複数ステップにわたる数値的一致性の検証が必要であることを示している。
Archive
最新模型
新模型、開放權重、多模態、語音、影像與模型架構。
GitHub Repo
GitHub Repo
CUA-S1-FORMS、70万パラメータでフォーム操作を判断、重みと学習手順を公開
Cuaはフィールドの対応付けとアクション選択を小型モデルに任せ、実行順序はプログラムで制御する。公開評価は依然として少数のデモ用フォームに限られ、中国語への汎化性能とワークフロー全体の信頼性は検証が必要だ。
推論系統
SemIfがブラウザ内での選択肢スコアの読み出しを実演、判断に用いる確率には別途校正が必要
このローカル推論実験は、選択肢のlogitsを直接読み出す方法と、JSONをトークン単位で生成する方法を比較し、開発者が出力形式に伴うコストを測定できるようにするものだ。結果は量子化、ブラウザ、テストの実行順序にも左右され、選択肢の確率をそのまま信頼度と見なすことはできない。
AI 安全
Trail of Bits、エージェントを活用して MASM 監査ツールを構築、Lean による95件の正当性証明を公開
チームはエージェントの支援を受け、逆コンパイル、静的解析、形式検証のツールを構築し、Miden 仮想マシンの監査に活用した。公開コードは再検証の出発点となるが、証明の適用範囲は意味論モデルと定理の前提条件に制約される。
GitHub Repo
TypeSafe Python SDK 0.7.0、Jev に型付きレスポンスを追加、シリアライズを Pydantic に移行
新版では判断結果を Pydantic モデルにマッピングでき、分類やルーティングの処理で利用しやすくなる。シリアライズの変更には移行時の検証が必要で、中国語での正解率や確率のしきい値は別途評価する必要がある。
最新模型
Grok Voice Transcribe 2.0で文字起こしの誤り率が低下、デフォルトモデルの切り替えに注意
新版は従来の文字起こし料金を維持。公式の多言語短文テストと独立したバッチ評価の双方で、単語誤り率の低下が確認された。バッチ処理速度、中国語の書式整形への対応、デフォルトモデルの切り替えは、それぞれ検証が必要だ。
推論系統
AMD、MLPerf推論の最適化を公開、GPU 8基でのGPT-OSSサービングのスループットが約38%向上
AMDはアテンションカーネルの分離とスケジューリングの調整により、MI355X上のGPT-OSS-120Bのベンチマークスループットを向上させた。公開済みの重みと実行ガイドは再現の足がかりとなるが、環境設定やモデルカードには、なお明確化が必要な点が残る。
GitHub Repo
AutoGPT 0.8.0、インストールごとに固有の鍵を採用 デフォルト値を使う環境は認証情報の移行が必要
新版は共通の鍵の提供を停止し、以前公開されていた暗号化鍵での起動を拒否する。既存の認証情報は所定の手順で再暗号化する必要があり、JWT 検証の互換性やドキュメント間の記述の差異もアップグレードに影響する。
GitHub Repo
vLLMがNVDECのマルチGPUテストを公開、動画キャプション生成のスループットはCPUデコード方式の2倍超に
vLLMがハードウェア動画デコードのマルチGPUスケーリングテストを公開し、短いキャプションを生成する処理でCPUのボトルネックを改善した。効果はワークロードに依存し、デプロイ時にはデコードプロセス用のGPUメモリも確保する必要がある。
AI 研究
SoL-Pi、4つの仕組みでエージェントのコストを削減、EdgeBenchスコアの約94%を維持
NVIDIAなどのチームが自動実験を通じてエージェントのフレームワークを最適化し、2つのモデルでトークントラフィックを約45〜49%削減した。公開された拡張機能は元のエビデンスを保持し、必要に応じて取得できるが、全機能を有効にした構成ではスコアやタスク完了率とのトレードオフが残る。
GitHub Repo
Ollama 0.34.3候補版、モデルの思考オプションを公開しエージェント側のハードコーディングを削減
新版ではモデル情報APIが対応する思考レベルとデフォルト値を返し、クライアントが独自に設定表を維持する負担を軽減する。まだプレリリース段階にあり、その他のメタデータの不足やドキュメント間の相違は引き続き確認が必要だ。
AI 安全
ALIBI、虚偽の製品説明でLLMのマルウェア分類を誤らせる――検証プロンプトを加えても誤判定は残る
研究では、プログラムの実行時の挙動を変えずに、静的解析で抽出される虚偽の背景情報を追加した。その結果、モデルは悪意ある指示に従わなくても、信頼できない説明を受け入れることでリスク評価を引き下げる可能性が示された。