Perplexity、完全なエージェントスタックをDGX Sparkへ移行――難しい処理のみ同意を得てクラウドに送信

PerplexityはPortable Computerを発表し、従来クラウドに依存していたComputerのエージェントスタックをNVIDIA DGX Sparkへ移行した。Qwen 3.8 27Bまたはポストトレーニング済みのPPLX 27B、プランナー、ツールルーター、スケジューラー、永続タスクキュー、ローカル検索インデックスはすべてデバイス上で動作し、コードとツールは隔離されたサンドボックス内に配置される。DGX SparkのGB10プラットフォームは、20コアArm CPU、GPU、128GBのユニファイドメモリを備え、モデルと長時間にわたるエージェントの状態を保持できる。

このシステムは完全なオフラインではなく、「ローカルファースト」の方式を採用している。エージェントはローカルでファイルの読み取り、コードベースの検索、文書の生成を実行できる。リアルタイムのインターネットデータ、ブラウザー、コネクター、またはより強力な推論が必要な場合に限り、特定のステップを10種類以上のクラウドモデルへ委ねることを提案する。デバイス内のコンテンツをGmail、Slack、GitHubなどのサービスへ送信する必要がある場合、インターフェースは事前に許可を求める。ローカル音声文字起こしにはNemotron 3.5 ASRも利用でき、録音を先にアップロードせずに済む。

この階層型アプローチの技術的な要点は、ツールの実行権限をローカルに維持し、クラウドモデルにはファイルシステム全体への直接アクセスではなく、主に提案を担わせることにある。ただし、ユーザーは承認画面に実際にどのコンテキストが含まれているかを確認する必要がある。「先に確認する」仕組みがあっても、データ最小化が外部監査を受けたことにはならず、コネクター自体も引き続き第三者サービスの権限モデルに制約される。

Perplexityによると、PPLX 27Bは53のタスクで構成されるLocal Knowledge Work Benchで85.4%を記録し、同じharnessを使用したベースのQwenモデルは82.6%だった。しかし、このテストセットはまだ公開されておらず、検索評価にも異なるバックエンドが使われているため、現時点では差をモデルまたはエージェントアーキテクチャのみに完全に帰属させることはできない。初版はProおよびMaxのサブスクライバー向けに、DGX SparkのLinux版のみを提供する。RTX、Windows、Nemotronモデルのサポートは今後追加される予定だ。エンジニアリングチームが次に注目すべきなのは、公開ベンチマーク、外部送信の監査ログ、オフライン時の障害モード、そしてローカルハードウェアの減価償却費と電力コストが本当にクラウドAPIのコストを下回るかどうかである。