端側 AI
iOS 27がSiri AIを正式導入:20Bのオンデバイスモデルがプロンプトに応じて1B~4Bパラメータをロード
Appleは9月14日、iOS 27などの正式版OSをリリースし、AFM 3を基盤とする新しいSiriを対応デバイスに提供する。大規模なオンデバイスモデルは、プロンプト単位のスパースルーティングとNAND上の重み保存を組み合わせており、各tokenでエキスパートを選択する典型的なMoEとは技術的なアプローチが異なる。

Appleは9月14日、iOS 27、iPadOS 27、macOS 27、watchOS 27、visionOS 27をリリースした。tvOSを除き、新しいSiri AIが共通の目玉となる。Siri AIは画面上の内容やメール、メッセージなどの個人的なコンテキストに基づいて質問に回答し、App Intentsを通じてサードパーティ製アプリのアクションを呼び出せる。このため開発者は、テキストでの回答だけでなく、エンティティ解析、パラメータのデフォルト値、権限確認、アクションのロールバックも検証する必要がある。
基盤となるAFM 3ファミリーには、2つのオンデバイスモデルが含まれる。3Bパラメータのdenseモデル「AFM 3 Core」と、総パラメータ数が20Bで、リクエストごとに約1B~4Bを有効化する「AFM 3 Core Advanced」だ。後者はInstruction-Following Pruningを採用する。完全な重みをNANDに保持し、システムがプロンプト全体に基づいて必要なサブネットワークを先に決定したうえで、関連する重みをDRAMへロードする。一般的なMoEのようにtokenごとにルーティングし直す方式ではない。これにより、token単位でフラッシュストレージから重みをスワップする際の帯域幅ボトルネックを回避できるが、レイテンシ、消費電力、利用可能なモデルは引き続きデバイスのクラスに左右される。
より複雑な推論やエージェントによるツール利用は、Private Cloud Compute上のAFM 3 Cloud Proへ引き継ぐことができる。したがって、「Siriがオンデバイスで動作する」という説明は、すべてのリクエストが端末内にとどまることを保証するものではない。Siri AIの初期提供は引き続きbetaで、英語から展開が始まる。iOS 27自体はiPhone 11以降のモデルをサポートする一方、Siri AIにはiPhone 15 Pro、iPhone 15 Pro Max、またはiPhone 16以降の対応デバイスが必要となる。エンジニアリングチームは今後、ローカル経路とクラウド経路を個別に計測し、正式版のrelease notesに残るApp Intents、検索、CarPlayのエッジケースを基に回帰テストを構築すべきだ。