本機推論與代理
Perplexity、ローカルエージェントをWindows RTXに展開。ただし「データはデバイス内に留まる」にはクラウド利用の例外も
Portable Computerは、24GB以上のVRAMを搭載したWindows RTX PCでモデル、ツール、サンドボックスを実行できるようになった。ローカルで処理される作業の多くはクラウド利用枠を消費しない。一方、ユーザーの許可を得てクラウドモデルへ切り替えることができ、コネクターや外部操作も伴うため、完全なオフライン環境と同一視することはできない。
Perplexityは9月14日、Windows版アプリにPortable Computerを追加し、24GB以上のVRAMを搭載するGeForce RTXおよびRTX PRO GPUへの対応を開始した。これは単にチャットモデルをデスクトップアプリで包んだものではない。ローカルモデル、エージェントオーケストレーター、ツール、ブラウザ、独自のSPACEサンドボックスを組み合わせた、多段階の実行環境だ。公式に挙げられている用途には、複数ファイルを横断した分析、タスクのスケジューリング、プログラムの実行、GitHub pull requestの整理などがある。
システムには、Perplexity Computer向けにポストトレーニングされ、RTX向けに最適化された27Bモデルを設定できる。NVIDIAのWindows向け発表ではQwen 3.8 27Bが例として示されており、Perplexityも以前、同モデルをベースとするPPLX 27Bを挙げていた。導入担当者にとって、24GBという要件は、コンシューマー向けの選択肢が一般的なノートPC用GPUではなく、主にRTX 3090、4090、5090などのハイエンドカードに限られることを意味する。実際に利用できる余裕は、モデルの量子化形式、コンテキスト長、ツールランタイムが占有するリソースによっても左右される。
Portable Computerの特徴は、ハイブリッドルーティングにある。作業はデフォルトでローカル処理されるが、より高度な推論が必要なステップでは、エージェントがまず許可を求め、その後、一部の内容をクラウドモデルへ送信する。ローカルで完了した作業はComputerの利用枠を消費しないものの、この扱いは許可されたクラウド推論には適用されない。Outlook、OneDrive、Google Drive、Gmail、Slack、GitHubの各コネクターも、それぞれ固有のネットワーク境界と権限境界を形成する。このため、「機密データはデバイス内に留まる」という説明は、あらゆるツール呼び出しに共通する保証ではなく、ワークフロー設計上の目標として捉えるべきだ。
エンジニアリングチームは今後、クラウドへの切り替え時に実際に送信されるコンテキスト、コネクターの最小権限、サンドボックスの隔離方式、ローカルとクラウドの各ステップについて監査可能な記録を残せるかどうかを確認する必要がある。異なるRTX GPU間のレイテンシー、スループット、消費電力、タスク成功率について、公式情報はまだ公開されていない。Windowsで利用できることは確認されたが、性能とプライバシーに関する主張については、引き続き独立した検証が必要だ。