推論系統
Nunchaku LiteがDiffusersにネイティブ対応、W4A4量子化で拡散TransformerのVRAM使用量とレイテンシを削減
DiffusersがNunchaku LiteのINT4およびNVFP4チェックポイントを直接読み込めるようになり、モデル専用の推論エンジンを別途インストールする必要がなくなった。SVDQuantは重みとアクティベーションを同時に量子化し、VRAMの節約に加えて、実際のデノイズ時間の短縮を目指す。
Archive
最新模型
新模型、開放權重、多模態、語音、影像與模型架構。
推論系統
最新模型
Anthropic、RSP 3.4を更新：自動化R&Dのしきい値を再定義し、リスク報告の仕組みを調整
AnthropicのResponsible Scaling Policy 3.4は、自動化R&D能力のしきい値、社内における未編集版報告書の共有範囲、外部レビューの方法を変更した。一見するとガバナンス中心の更新だが、実際にはモデル能力評価、デプロイメントゲート、安全性報告のエンジニアリングプロセスに影響を及ぼす。
應用研究
ByteDanceのUniVR、視覚空間内で推論し、ダイナミクスをシミュレーションして長期行動を計画
UniVRは、複雑な推論、物理ダイナミクス、長期計画を視覚的なデモンストレーションのみから共同学習することを目指している。ByteDanceは同時に34B Planningチェックポイントを公開し、テキストによるChain-of-Thoughtに依存しない視覚エージェント研究に、検証可能なベースラインを提供した。
推論系統
NVIDIA、Nemotron 3 Embedを発表、1BモデルのNVFP4チェックポイントも提供
Nemotron 3 Embedは、8B BF16、1B BF16、1B NVFP4のテキスト埋め込みモデルを提供する。低精度版では、検索モデルのメモリ効率とスループット効率が最優先の設計目標に据えられているが、品質については対象コーパス上での検証が必要だ。
GitHub Repo
Gemma 4 12B、単一のTransformerで画像と音声を直接処理し、マルチモーダル展開の複雑さを軽減
Googleは、独立したビジョン／音声エンコーダーを線形投影で置き換えたオープンウェイトモデル「Gemma 4 12B」を公開した。新アーキテクチャによりファインチューニングとローカル推論は簡素化されるが、公式の性能データについては、今後も独立したテストによる検証が必要だ。
LiteRT.js、LiteRTのネイティブ推論スタックをブラウザへ――WebGPU、Wasm、実験的WebNNに対応
Googleは、Webアプリで`.tflite`モデルを直接実行し、デバイスに応じてCPU、GPU、NPUを利用できるLiteRT.jsを公開した。ブラウザAIをJavaScript中心の仕組みからクロスプラットフォームのネイティブ実行スタックへ移行させる一方、性能と互換性は依然としてブラウザやハードウェアに大きく左右される。
Google、LiteRT.jsを発表――ネイティブLiteRTの推論パスをブラウザへ
LiteRT.jsは、Googleのクロスプラットフォーム推論ランタイムをWebAssemblyでラップし、CPU、GPU、NPUにそれぞれXNNPACK、WebGPU、実験的なWebNNを対応させる。既存の`.tflite`モデルをクライアント側で実行しやすくする一方、性能と互換性は依然としてブラウザやデバイスに大きく左右される。