自行託管 AI 程式設計代理 — 完整指南

一個 AI 程式設計代理，只有在不只其桌面介面，而是更多元件都在你的硬體上運行時，才稱得上真正自行託管。若要讓程式碼留在你的環境內，應用程式、模型推論、嵌入、日誌、工具和儲存庫都必須留在你的邊界之後。安全部署應從隔離的測試儲存庫、非管理員沙箱、受限的對外連線、規格合適的本機模型，以及對每項具影響力寫入操作的人為核准開始。

人們稱為「自行託管」的四種部署狀態

1. 搭配託管模型的本機應用程式

代理介面和工具在你的電腦上運行，但選取的程式碼和提示會傳送給 API 供應商。這是本機執行，並非完全本機推論。

2. 搭配私有端點的自行託管應用程式

你的團隊操作應用程式，並將它連線至 VPC、私有雲端或內部部署閘道中的模型端點。資料路徑可以嚴格控管，但仍取決於該端點的託管與記錄設計。

3. 完全本機推論

應用程式、模型權重、嵌入、日誌及工具都留在自有硬體上。只有這個狀態才足以宣稱「程式碼不會離開環境」，且仍必須檢查遙測、當機回報、套件管理員、連接器和更新服務後才行。

4. 氣隙部署

不存在任何網路路徑。映像檔、套件、模型、弱點資料和更新，皆透過經核准的離線流程進入。具有作用中網路連線的本機模型不是氣隙式部署。

參考架構

Developer
   ↓
Eigent / coding-agent harness
   ↓
Policy and approval gate
   ↓
Sandboxed repository tools ── Git, tests, linters, scanners
   ↓
Private model endpoint ── local logs and evaluation store

Eigent 的應用程式儲存庫採用 Apache-2.0 授權。其原始碼快速入門可能會連線至 Eigent cloud，而儲存庫會為獨立使用者指向另一條 Local Deployment 路徑（Eigent 儲存庫）。若目標是資料隔離，請使用並驗證獨立路徑。

其他代理框架可能更適合不同工作流程。OpenHands 提供採 MIT 授權的核心，支援 Docker、VM、本機和雲端後端（OpenHands 儲存庫）。Cline 提供採 Apache-2.0 授權、具備核准機制的 IDE/CLI 代理（Cline 儲存庫）。Aider 提供採 Apache-2.0 授權、以 Git 為原生的終端機迴圈（Aider 儲存庫）。

開源 AI 程式設計代理比較依介面、維護狀態、部署模型和核准設計來區分這些框架。

選擇 AI 程式設計代理框架

不要只依介面選擇。請驗證工具如何界定檔案範圍、執行命令、儲存提示、傳送遙測、管理密鑰和記錄工具呼叫。

依工作負載調整硬體規模，而非相信虛假的最低門檻

不存在誠實通用的「8 GB 就夠」規則。硬體取決於模型成品、量化、內容長度、並行代理、儲存庫索引和所需延遲。

Ollama 支援 NVIDIA GPU、Apple Metal 和實驗性的 Vulkan 路徑。其排程器會檢查可用 VRAM，程序檢視會顯示模型是在 GPU、CPU 或分割式配置上（Ollama GPU 文件、Ollama FAQ）。若供團隊服務，vLLM 是面向生產的選項，但加速器和映像檔支援會改變；請使用目前的 vLLM 安裝文件。

開放權重不保證能部署在筆記型電腦上。Kimi K2 的官方模型卡列出一兆個總參數，說明可下載的模型仍可能需要可觀的基礎設施（Kimi K2 模型卡）。

以沙箱為優先的部署程序

1. 安裝前先建立威脅模型

為原始碼、密鑰、客戶資料、建置成品和日誌分類。列出誰可以啟動任務、代理可採取哪些操作，以及哪些失敗不可接受。

NIST SP 800-218A 延伸了適用於生成式 AI 的安全軟體開發指引，目標讀者是 AI 系統的生產者和採購者（NIST）。將它作為治理參考，而不是將其當作任何工具或部署「符合 NIST」的證明。

2. 建立隔離的執行環境

在容器或 VM 中，以專用的非管理員身分執行代理。拒絕其存取主目錄、SSH 金鑰、雲端憑證、瀏覽器設定檔、密碼管理器和生產掛載點。

OpenHands 明確警告，未沙箱化的本機代理擁有完整檔案系統存取權（OpenHands 儲存庫）。這項風險在概念上適用於任何具備 shell 權限的程式設計代理。

3. 複製合成測試儲存庫

使用不含客戶資料或密鑰的程式碼。只掛載該目錄。在掛載範圍外加入金絲雀檔案，並驗證代理無法讀取它們。

4. 部署獨立應用程式路徑

請遵循其官方儲存庫所引用的最新 Eigent Local Deployment 文件，而非可連線雲端的快速入門（Eigent 儲存庫）。記錄確切使用的提交、映像檔、相依項目和設定。

5. 連接一個本機模型

選擇符合實測硬體和任務的模型。確認程序配置、延遲、內容處理和輸出品質。將託管端點當作非本機的品質基準，並清楚標示。

6. 限制網路對外連線

封鎖對外流量，然後觀察哪些功能失敗。檢查 DNS、更新檢查、遙測、當機回報、套件管理員、瀏覽器工具、MCP 伺服器和模型下載。記錄每個例外。

7. 建立限定範圍的工具

先授予儲存庫讀／寫權限，以及建置、測試、lint 和格式化命令的允許清單。拒絕部署、身分變更、雲端管理、任意套件安裝和外部傳訊。

8. 加入核准閘門

檔案寫入、命令執行、相依項目、網路使用及儲存庫外的任何操作都必須核准。即使模型強力要求，確定性政策也應封鎖被禁止的操作。

9. 執行評估集

對每個模型和框架使用相同任務：錯誤修正、多檔案重構、測試建立、相依項目更新、程式碼說明，以及拒絕變更範圍外檔案。評量正確性、測試通過率、審查時間、嘗試違反邊界的次數、延遲和成本。

10. 透過代理引入密鑰

只有在合成評估通過後，代理才應取得範圍狹窄、生命週期短的憑證。將密鑰置於提示和日誌之外。優先使用只授予單一操作而非可重複使用管理員權杖的代理。

代理式程式設計特有的安全風險

一份 2026 年安全分析凸顯間接提示注入、混淆代理人行為，以及長時間運行代理系統中的連鎖失敗，並建議對高後果操作採用沙箱和確定性控制（研究論文）。程式設計代理會透過議題、README 檔案、註解、相依項目中繼資料、網頁和工具輸出暴露於這些風險。

控制措施應包括：

• 為儲存庫和網頁文字加上不受信任內容標籤；
• 嚴格分開讀取指示與授予權限；
• 查詢、列、時間和輸出限制；
• 允許清單式套件登錄和相依項目審查；
• 提示、工具呼叫、差異和核准的不可變更日誌；
• 合併、發行或部署前的人為審查；
• 透過 Git 和可重現環境復原。

自行託管減少了一個外部資料邊界，同時也使你的團隊必須負責修補、執行環境安全性、金鑰管理、監控和事件回應。

將部署延伸為氣隙環境

氣隙代理需要的不只是勾選本機推論核取方塊。

1. 鏡像經核准的容器映像檔、套件、模型成品和弱點資料。
2. 在離線匯入前驗證雜湊和簽章。
3. 維護清冊和軟體物料清單。
4. 停用自動更新、遙測和假定可連網的連接器。
5. 提供離線套件與模型登錄。
6. 為修補程式和報告定義經簽署的匯出路徑。
7. 排定離線安全更新和緊急撤銷程序。
8. 測試環境無法透過 DNS、Proxy、管理介面或模型工具建立任何路徑。

氣隙會增加更新與營運負擔，卻不會消除內部人員風險、惡意相依項目、不安全的匯入文件或模型錯誤。

法規遵循與證據

沒有任何自行託管程式設計代理會讓團隊自動符合 GDPR、HIPAA、SOC 2、ISO 27001、出口管制或合約保密義務。法規遵循取決於部署、人員、政策、合約和證據。

記錄模型和資料集授權、SBOM、存取政策、核准矩陣、日誌保存、備份、災難復原、弱點回應和復原。將提示與工具日誌視為可能敏感，因為其中可能包含原始碼片段和密鑰。

何時託管程式設計代理更好

當團隊無法營運模型基礎設施、需要成熟的遠端環境、重視供應商支援，或可合法地將所需內容傳送給供應商時，請使用託管代理。良好治理的託管服務可能比被忽視的自行託管部署更安全。

當資料邊界、原始碼檢視、模型選擇、離線運作或自訂政策，足以證明工程和安全性所有權合理時，請自行託管。

管理 AI 程式設計代理邊界，而不只是模型

Eigent 可為私有程式設計工作流程提供可檢視的編排層，但沙箱、模型執行環境、權限、日誌和更新程序決定它是否真正自行託管。從合成儲存庫中的理解大型程式碼庫開始，只有在控制措施穩固後才擴展。下載 Eigent以開始隔離評估。