GLM-5.3が744B MoEの重みを公開、100万トークンのデプロイには依然としてデータセンター級リソースが必要

Z.aiは8月28日、以前の約束どおりGLM-5.3の重みをHugging Faceへアップロードした。これは、すでに報じられている総パラメータ数320B、各推論時に18Bをアクティブ化するGLM-5.3-Flashではなく、完全なデータセンター級バージョンだ。[モデルファイル](https://huggingface.co/zai-org/GLM-5.3/tree/main)は141個のsafetensorsシャードで構成され、FP8版の合計サイズは約756GB。外部報道によると、総パラメータ数は744Bで、各tokenにつき約40Bのパラメータをアクティブ化する。

設定ファイルによると、モデルは78層、256個のrouted expertsを備え、各tokenで8個のexpertを選択するほか、1個のshared expertを持つ。ネイティブのコンテキスト長上限は1,048,576 tokenだ。GLM-5.2の基盤モデルを踏襲しており、新たな能力は再事前学習ではなく、主にポストトレーニングによって追加された。[公式技術記事](https://z.ai/blog/glm-5.3)によれば、チームはslimeを介してMegatronのトレーニング基盤、SGLangによるrollout、sandbox、verifierを接続し、長期的なコーディングタスクとサイバーセキュリティ環境を継続的に追加した。モデルは`low`、`high`、`max`の3段階のreasoning effortにも対応し、vLLM、SGLang、Transformers、KTransformers、およびAscend NPU向けのデプロイ手順が記載されている。

公式評価では、Terminal-Bench 3.0のスコアがGLM-5.2の4.6から28.3へ、DeepSWE v1.1が46.2から66.9へ向上した。ExploitBenchも24.4から54.4へ伸びている。ただし、同じ表では複数のテストで依然としてクローズドモデルに後れを取っていることも示されている。また、一部のスコア、エージェントharness、非公開のZ.ai Code Benchはいずれも開発チームの管理下にあり、独立して再現された結果とはみなせない。

エンジニアリングチームは、さらに2つの障壁に注意する必要がある。第一に、この規模の重みは量子化しても一般的なワークステーション向けモデルにはならず、完全なスループットテストには複数GPU、expert parallelism、長いコンテキストに対応するKV cacheの設計が必要となる。第二に、GLM-5.3にはカスタムライセンスが適用される。[ライセンス概要および公開に関する報道](https://gigazine.net/gsc_news/en/20260829-glm-5-3-open)によると、年間売上高が100億米ドルを超えるユーザーには、追加の安全審査条件が課される。今後の焦点は、第三者がバージョンを固定したserving stackを使ってコーディングおよびサイバーセキュリティのスコアを再現できるか、また100万tokenのワークロードにおける実際のレイテンシ、VRAM使用量、failure modeがどのようなものになるかだ。