Archive
AI 晶片、GPU、資料中心、邊緣裝置與硬體安全。
AI 基礎設施
OpScaleはモデル全体を複製するのではなく、トラフィックとシーケンス長に応じて、その時点でボトルネックとなっているattentionやMLPなどの演算子だけをスケールアウトする。著者らはA100およびGB200クラスタ上で92万9,000件のリクエストをリプレイし、同じレイテンシ目標を最大36.3％少ないGPUで達成した。ただし、プロトタイプのコードはまだ公開されていない。
AI 安全
RAGSieveは、信頼できるコーパスや事前にラベル付けされた汚染サンプルを必要とせず、クエリごとのランキング末尾と文書の局所的な意味近傍をそれぞれ比較する。オープンソースの実験は3つの質問応答データセット、3種類のリトリーバー、6種類の攻撃を対象としているが、流暢に書かれた単一の悪性文書や、すでに汚染された検索ランキング末尾は依然として検出をすり抜ける可能性がある。
推論系統
FlashDriveは、視覚エンコーディング、LLM prefill、推論token、軌跡デノイジングという4つのボトルネックを同時に処理し、RTX PRO 6000上でAlpamayo 1.5-10Bの単一ウィンドウ・レイテンシを717ミリ秒から151ミリ秒に短縮した。オープンソース実装はリアルタイム推論に近づいたが、専用のファインチューニングを経ており、クローズドループ評価も100本のシミュレーションクリップに限られる。
AI 基礎設施與訓練系統
LazyTrainは学習前にactivationの保持、オフロード、再計算の位置を一括決定し、PCIeおよびNVMe転送をGPUの計算ウィンドウ内に収める。Qwen3.6-27Bの実験では性能が176.90から219.95 TFLOPSに向上したが、現時点で検証されているのは単一GPUとオフラインスケジューリングのみだ。
最新模型
新たな研究によると、学習ウィンドウを長くすると、モデルは知識をパラメータに書き込む代わりに文脈へ依存する可能性がある。750M以下の事前学習モデルとQwen3のファインチューニング実験では、補助情報が増える一方、文脈なしや矛盾する状況での堅牢性が低下した。
代理工具
LLNLのチームは、エージェントにFlux、Slurm、Kubernetesなどのリソースを探索させ、高レベルの意図を検証可能なジョブ仕様へ変換した。6つのクラウドクラスターでの実験から、アーキテクチャ、ネットワーク、メモリのmetadataは、実行不能なマシンの除外には主に役立つものの、安定した性能オプティマイザーではないことが示された。
最新模型
Liquid AIは、31億パラメータのLFM2.5‑VL‑3Bを公開した。画面上の位置特定、レイアウトOCR、複数画像の理解、関数呼び出し機能を備える。公式測定ではApple M5 Maxで228 token/s、H100 1基での高並行スループットは約11,000 token/sを記録したが、データはまだ独立した再現検証を経ていない。
代理工具
EvoMemは、成功したプログラム変異から出典記録付きの戦略カードを抽出し、後続タスクでは最大3枚を検索してLLMを誘導する。9種類のテストで目的指標が平均6.40%向上した一方、結果のばらつきは大きく、実験対象も依然として小規模な研究用ワークロードに限られている。
最新模型
XPengはXCoT-VLAを提案し、数十個の自然言語推論トークンを有限の意味的アクショントークンに置き換え、flow matchingによって連続軌跡を生成する。オープンループ試験では横方向誤差が低減したものの、クローズドループでの安全性評価はまだなく、レイテンシの数値にも車載ソフトウェア／ハードウェアスタック全体は含まれていない。
最新模型
TIDEは、高いtoken一致率をそのまま蒸留の成功とは見なさず、生徒による過剰生成と、教師が選好するtokenの取りこぼしを個別に処理する。強いミスマッチ設定では、平均回答長も同時に3.6分の1へ短縮した。一方、完全な訓練の再現には依然として8基のGPUが必要で、著者らはcheckpointを公開していない。
硬體
ArchAgent v2はL1D、L2、LLCの各プリフェッチャを段階的に進化させ、リアルタイムの容量チェックによってハードウェア予算を超える候補を排除する。最終設計はDPC4シミュレーション環境で人間設計の王者BertiGOを0.3％上回ったが、実チップではまだ検証されていない。
開發者平台
OpenAIは8月10日にAPIの`gpt-5.2-chat-latest`を終了し、公式にはGPT‑5.5への移行を推奨している。今回廃止されるのはChatGPTの挙動に追随するエイリアスであり、エンジニアリングチームはプロンプト、ツール呼び出し、出力形式を改めて検証する必要がある。移行を同等なルーティングの切り替えと見なすことはできない。