返回首頁

邊緣 AI 與航太

SAT-Edge-Agent 實測衛星邊緣代理,物件偵測只占端到端延遲約 2.5%

SAT-Edge-Agent 在商用 ARM 異質 SoC 上串接本地語言服務與方向物件偵測器,40 次固定工作負載全部完成。實測顯示主要延遲不在視覺模型,而在代理協調與語言服務,但研究未評估偵測準確度、功耗或飛行可靠性。

Donald Trung Quoc Don (Chữ Hán: 徵國單) - Wikimedia Commons - © CC BY-SA 4.0 International.(Want to use this image?)Original publication 📤: --Donald Trung 『徵國單』 (No Fake News 💬) (WikiProject Numismatics 💴) (Articles 📚) 22:38, 5 March 2020… · CC BY-SA 4.0 · Image source
zh-Hant

衛星端 AI 的限制不只來自模型大小,任務解析、工具呼叫、串流回傳與狀態保存也可能主導實際延遲。SAT-Edge-Agent 提供一個硬體在迴路原型:系統部署於商用 ARM 異質邊緣 SoC,以瀏覽器工作區和 FastAPI 代理協調本地、相容 OpenAI API 的語言服務,再呼叫專案內部的 YOLO 類方向物件偵測端點。偵測結果以結構化格式回傳,並附 FAIR1M 遙測影像資料集的中繼資料。

研究固定測試單張影像及連續兩張影像兩種工作負載,各重複 20 次,合計 40 次均完成。單張工作的完整代理平均延遲為 29.353 秒、經驗 P95 為 31.166 秒;雙張工作平均為 60.937 秒、P95 為 66.882 秒。相較之下,偵測器平均分別只耗時 861.386 毫秒及 1.511 秒,占完整流程的 2.93%與2.48%。這表示若只量化 NPU 上的視覺核心,會嚴重低估任務層、語言推論及資料編排造成的等待。

兩種工作負載的平均 CPU 使用率約20.8%。系統記錄的200毫秒取樣 NPU 欄位平均為100%,但作者特別警告,這是共享加速器的軟體欄位,不能解讀為偵測器獨占或經校準的硬體利用率。公開證據包包含去識別的逐請求紀錄、遮蔽後 JSON、正規化 Server-Sent Events 範例,以及重算統計值的腳本,重點是建立可觀測的硬體在迴路邊界。

對邊緣代理工程而言,結果指向一個務實優先序:在繼續壓縮偵測模型之前,先分解語言服務、協調器、序列化和工具往返延遲。不過這項工作只測兩種固定影像流程,沒有報告偵測準確率、校準功耗、輻射環境韌性、斷線恢復或飛行認證。它證明原型能重複執行,並不證明系統已適合在軌自主決策。

來源

  1. SAT-Edge-Agent: Hardware-in-the-Loop Edge-Agent Orchestration for Onboard Satellite Intelligence
  2. SAT-Edge-Agent arXiv DOI record