GPUtw 說明文件

環境範本

為 GPU 執行個體選擇預建軟體環境。

範本類型

GPUtw 範本會定義容器映像、預設 Web UI 行為、UI 連接埠與起始軟體堆疊。常見範本包含 PyTorch/Jupyter、TensorFlow、ComfyUI、Ollama/Open WebUI、CUDA 開發環境與 Ubuntu base image。

Web UI 範本

帶有瀏覽器應用程式的範本會開放設定的 Web UI 連接埠,常見為 8080。請使用控制台 Web UI 按鈕開啟已驗證的網址,而不是 raw 暴露同一個連接埠。

基礎範本

Ubuntu 或 CUDA 開發環境等 base image 可能不會啟動 web server。只有當容器內的程式正在監聽時,才需要新增 HTTP 連接埠。

自訂映像

你可以使用 Docker Hub、GHCR 或其他 container registry 的公開或私有映像。請使用明確的非 latest tag 或 sha256 digest。自訂映像從部署開始計費,包含拉取映像的時間;私有 registry 憑證會在執行個體生命週期結束後移除,worker 上的映像快取也會盡力清除。

  • SSH: 啟用 SSH 時以 root 搭配帳戶的 SSH 金鑰登入——金鑰會自動注入;若映像沒有 SSH 伺服器,系統會在啟動時自動安裝(映像需以 root 執行並內含 apk/apt/dnf 等套件管理器)
  • 環境變數: 在部署表單中每行填入一個 KEY=VALUE,會以環境變數注入容器
  • 啟動引數: 每行一個引數,會取代映像的 CMD(ENTRYPOINT 保留不變)
  • Web UI 連接埠: 限 1024–65535——若映像監聽低埠(如 nginx 的 80),請用啟動引數或設定改為監聽高埠
Warning

啟用 SSH 時容器最終必須監聽 port 22;宣告 Web UI 時該埠必須有回應。兩者皆未發生時,部署會在約 15 分鐘後逾時失敗(不收費)。部署失敗時,可在執行個體列點選「啟動紀錄」查看容器狀態、pod 事件與最後的容器輸出(crash loop 會包含前一次執行的紀錄)。

申請環境

如果缺少框架、CUDA 版本、套件組合或啟動器,請從範本頁面提出申請,或聯絡支援並提供映像需求。