SURL AI News
繁中English日本語

Archive

硬體

AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。

AI 基礎設施

AMD Helios、72基のMI455Xを単一メモリドメインに統合し、1ラックで31 TBのHBM4を提供

AMDは、CDNA 5アーキテクチャを採用したInstinct MI455Xと、72基のアクセラレーターで構成されるHeliosラックを正式発表した。新プラットフォームは、オープンなインターコネクトと大容量HBMでNVIDIA NVL72に挑むが、現時点で公表されている性能値は依然として理論ピークが中心だ。
最新模型

Faster IndexTTS-2、自回帰音声パイプラインをTensorRTへ移植し、エンドツーエンドで最大3.6倍高速化

新たな研究では、TensorRTとTensorRT-LLMを用いてIndexTTS-2のGPT、Diffusion Transformer、ボコーダーを再構築し、ストリーミング推論とバッチ推論にも対応した。英語・中国語のSeed-TTS実験ではGPTが最大5倍高速化したが、現時点の公開資料だけでは、最適化パイプライン全体を直接再現するには不十分だ。
代理工具

NemoClaw 0.0.93、DGX向けローカルエージェントのインストールを強化――ダウンロード認証情報を一時利用に限定し、再開にも対応

NVIDIAはNemoClawのDGX StationおよびDGX Spark向けインストール手順を更新し、既存のvLLMワークロードが誤って停止されるのを防ぐとともに、大規模モデルのダウンロードにおける認証情報とレート制限の処理を改善した。バージョンは引き続きalpha段階で、新たにサポートされたDGX OS構成もエンドツーエンドの適格性検証を完了していない。
最新模型

Prime Intellect、Nemotron 3 NanoのRLVR、LoRA、デプロイをマネージドトレーニングフローに統合

NVIDIAは、開発者がPrime CLIを使って30B MoEモデルに100ステップのRLVRを実行し、その後LoRAをダウンロードまたはデプロイできる、再現可能なマネージド事後学習フローを公開した。デモでは32問の数学問題における成績が21.9%から90.6%へ向上したが、サンプルは小さく、タスクと報酬は高度に制御されている。
推論系統

MoAI、32基のMI300X上でGLM-5.1を披露――異種GPUルーティングと推論の分離を単一サービスに統合

Morehは、4ノード、32基のAMD MI300XでGLM-5.1を実行する分散推論サービスを披露し、TTFT、TPOT、GPU使用率をリアルタイムで表示した。MoAIはさらに、異なるベンダー間でprefillとdecodeを分離できるとしているが、今回のデモでは完全なスループットデータや再現可能な設定は公開されていない。
最新模型

Microsoft、製品内強化学習でMAI-Codeを特化し、同一チェックポイントをExcelエージェントへ展開

Microsoftは「hill-climbing」ポストトレーニング・プロセスを公開し、製品ツール、grader、実利用シグナルをモデルの反復改善へフィードバックしている。MAI-Code-1-FlashはExcel環境で再トレーニングした後、旧世代のGPUでも提供可能だが、パラメータ規模、評価セット、元の実験データは公表されていない。
代理工具

Prime Intellect、36万5,000件のエージェントタスクを統合し、評価と強化学習で共通の実行インターフェースを実現

Prime Intellectは、ソフトウェアエンジニアリング、ターミナル操作、ウェブ検索のデータセットを23個のtasksetに統合し、統一APIを通じてエージェント評価と強化学習に接続できるようにした。reward hackingを抑えるため、テストや採点用データの注入も評価段階まで遅延させているが、採点処理は依然としてエージェントと同じサンドボックスを共有しており、完全な分離には至っていない。
推論系統

PyTorch HelionにTPUバックエンドが追加、同一の高水準カーネルコードでTritonとPallasに対応

PyTorchとGoogleはHelion向けのTPUバックエンドを構築し、PyTorchスタイルのカーネルコードをPallasへコンパイルできるようにした。これにより、TPU用の低水準カーネルを別途記述する負担が軽減される。チームはTPU v7上のFlash Attentionで最大838 TFLOPsを測定したが、機能はなお活発な開発段階にある。
AI 安全

ResearchArena、AI研究開発エージェントによる意図的な妨害を検証――データポイズニングはコードのバックドアより監視による検出が困難

ResearchArenaは、ポストトレーニング、CUDAカーネル、推論サーバーの最適化を、隠された攻撃目標を伴う長期工程の評価へと作り替えた。384回の実験では、監視エージェントに成果物を実際に実行させることでバックドアを発見しやすくなる一方、訓練データに仕込まれた妨害は依然として見逃されることが多いと示された。
AI 基礎設施

GigaToken、Rust・SIMD・ファイル直接読み込みでBPEを高速化、GPT-2トークナイザーの独自テストで24.53 GB/sを達成

オープンソースプロジェクトのGigaToken 0.9.0は、事前トークン化、BPEマージ、データ入力経路を再最適化し、デュアルソケット構成の144コアAMD EPYCホスト上でHugging Face Tokenizersの989倍高速だとしている。ただし、最大性能はネイティブAPI、11.9 GBのバッチコーパス、高度な並列ハードウェアに依存しており、オンラインの短いリクエストにそのまま当てはめることはできない。