GPU 使用指南

GPU 算力使用指南

最后更新:2026-11-10 · 适用于「GPU双环境镜像」方案

一、三分钟上手

  1. 打开 GPU 控制台(需登录并完成实名)
  2. GPU 型号:RTX 4080(¥2.40/时)性价比最高
  3. 来源:选「基础镜像(空环境,需自己装)」
  4. 镜像:选「⭐ GPU双环境 · ComfyUI + Qwen2.5-14B(免下载)」
  5. 计费方式:按量 / 包日 / 包周 / 包月
  6. 点「创建实例」→ 约 10–20 秒开机

开机后两个按钮搞定一切:

按钮作用耗时
🧠 推理模式启动 Ollama + Qwen2.5-14B,用于写分镜约 20 秒
▶ 视频模式启动 ComfyUI(8188),用于出视频约 10 秒
状态查看显存 / 服务 / 已装模型即时

二、双环境镜像(唯一推荐镜像)

项目内容
镜像名GPU双环境 · ComfyUI + Qwen2.5-14B(免下载)
包含ComfyUI(视频工作流)+ Ollama + Qwen2.5-14B(9.0GB 真实 14B)
大小19 GB
镜像费¥0.20 / 小时(随机器费一并计)
推荐机型RTX 4080 / RTX 5090
开机到可用约 20 秒(无需下载模型)

为什么只装 Qwen2.5-14B

你的场景是「上传剧本 → 自动出分镜」,需要的是稳定的结构化输出,不是自由创作。

模型结构化 JSON速度结论
Qwen2.5-14B直接输出纯 JSON15 秒 / 3 镜头✅ 主力
DeepSeek-R1-14B会先输出思考过程,易混入正文慢 2–3 倍❌ 分镜不必要

需要强推理时可临时在机器里执行 ollama pull deepseek-r1:14b(9GB,约 10 分钟),关机保留。

三、实测:剧本 → 自动分镜

输入剧本:

女主在公司年会发现丈夫与闺蜜暧昧,当场摔杯,夺门而出。

请求:

curl http://127.0.0.1:11434/api/generate -d '{
  "model": "qwen2.5:14b",
  "prompt": "你是一位短剧分镜师。把下面剧本拆成 3 个镜头,只输出 JSON 数组,不要任何解释。每个元素包含字段:shot、size、scene、action、mood。剧本:女主在公司年会发现丈夫与闺蜜暧昧,当场摔杯,夺门而出。",
  "stream": false,
  "options": {"temperature": 0.3}
}'

返回(15.05 秒,91 tokens):

[
 {"shot":1,"size":"medium","scene":"公司年会现场","action":"女主发现丈夫与闺蜜亲密交谈","mood":"震惊"},
 {"shot":2,"size":"close-up","scene":"餐桌上","action":"女主拿起酒杯,眼神复杂","mood":"愤怒"},
 {"shot":3,"size":"medium","scene":"门口","action":"女主摔杯,迅速离开现场","mood":"决绝"}
]

把 scene 字段直接喂给文生视频工作流即可。

自动出分镜的完整流程

上传剧本(txt / 文本)
   ↓ 调 /api/generate(上面那条命令),prompt 里要求「只输出 JSON 数组」
   ↓ 解析 JSON,拿到每个镜头的 scene / action / mood
   ↓ 把 scene 作为正向提示词,提交 ComfyUI 工作流
   ↓ 得到视频

建议参数

参数建议值说明
modelqwen2.5:14b固定
temperature0.2–0.4越低越稳定,分镜用 0.3
streamfalse方便一次性解析 JSON
分镜数量每次 3–8 个镜头太多会截断,分多次调用

四、计费规则

档位(以 RTX 4080 为例)

档位价格折合每小时
按量¥2.40 / 时2.40
包日¥51.80 / 天2.16
包周¥351.59 / 周2.09
包月¥1208.59 / 月1.68

套餐越长越便宜;套餐最多 12 期。

逐小时扣费明细

点数管理里能看到每一条:

GPU 容器按量计费 · 第 1 小时   -240 点(¥2.40)
GPU 镜像费 · 第 1 小时         -20 点(¥0.20)
GPU 云存储费                   -3.56 点
  • 每小时自动扣费一次(无需手动续费)
  • 余额不足 1 小时:自动关机并销毁
  • 提前销毁:按实际使用时长结算,未用部分退回

其他说明

  • 1 元 = 100 点
  • 充值 / 会员不需要实名,开 GPU 和调 API 需要实名
  • 机器运行期间,平台的按次调用(模型 API / 应用 / 视频)会被拦截,避免重复扣费

五、访问机器

方式用途入口
Jupyter执行命令、跑脚本实例卡片「访问地址」
SSH命令行(应用镜像才有)实例卡片「SSH」
ComfyUI WebUI出视频点「▶ 视频模式」后访问 8188

Jupyter 里每个单元格前加 ! 就能执行 shell:

!nvidia-smi
!ollama list

六、自动模式(免手动切换)

实例开机后,平台会自动执行 a7w-mode auto,两个服务同时就绪:

开机
  ↓ 约 20 秒
  ├─ ComfyUI 已启动(8188)→ 随时出视频
  └─ Ollama 已启动(11434)→ 随时调 Qwen2.5-14B
        ↓ 推理空闲 5 分钟
        自动卸载模型、释放显存 → 让给视频工作流
        ↓ 下次调用推理
        自动重新加载(约 10 秒)

页面上会显示:

当前模式   ⚡ 自动模式(ComfyUI + 推理都已就绪,推理空闲 5 分钟自动释放显存)

什么时候才需要点按钮

按钮用途
▶ 视频模式强制停推理、立刻腾满显存(跑大工作流时)
🧠 推理模式强制停 ComfyUI、只跑推理
状态查看显存 / 服务 / 已装模型

日常不需要点,只有「刚用完 14B,马上要跑大视频」时点一下视频模式更快(不用等 5 分钟)。

命令行

curl -fsSL https://api.a7w.cn/assets/a7w-mode.sh -o /usr/local/bin/a7w-mode && chmod +x /usr/local/bin/a7w-mode

a7w-mode auto              # 自动模式(推荐)
a7w-mode status            # 看状态
a7w-mode llm qwen2.5:14b   # 只跑推理
a7w-mode video             # 只跑视频
a7w-mode stop              # 全停

七、推理调用示例

OpenAI 兼容接口

curl http://127.0.0.1:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen2.5:14b","messages":[{"role":"user","content":"把这段剧本拆成分镜"}]}'

Python

import requests, json

script = open("script.txt", encoding="utf-8").read()
prompt = f"你是一位短剧分镜师。把下面剧本拆成 6 个镜头,只输出 JSON 数组。剧本:{script}"

r = requests.post("http://127.0.0.1:11434/api/generate", json={
    "model": "qwen2.5:14b",
    "prompt": prompt,
    "stream": False,
    "options": {"temperature": 0.3},
})
shots = json.loads(r.json()["response"])
print(shots)

八、常见问题

Q:镜像列表里看不到双环境镜像?
「来源」必须选「基础镜像」,预装镜像在那一类下、排第一、带 ⭐ 推荐。

Q:开机后 ComfyUI 打不开?
点一次「▶ 视频模式」,约 10 秒启动后即可访问 8188。

Q:开机后 Ollama 显示未运行?
点「🧠 推理模式」启动,约 20 秒加载模型。

Q:需要手动切换视频/推理吗?
不需要。开机自动进入「自动模式」:两个服务都起来,推理空闲 5 分钟自动释放显存。

Q:能同时跑 ComfyUI 和 14B 吗?
14B 加载时约 15GB,视频大工作流要 20–30GB。自动模式会在推理空闲后释放显存;若刚用完推理就要跑大视频,点一下「▶ 视频模式」立刻腾满。

Q:能装别的模型吗?
可以,ollama pull <模型名>;关机保留磁盘,销毁后回到镜像自带状态。

Q:7B 镜像还有吗?
已下架。14B 质量更好且镜像已预装,无需再装 7B。

Q:关机还收费吗?
不收。关机停止计算费,磁盘保留;销毁才清空磁盘。

Q:余额不足会怎样?
不足 24 小时页面提示;不足 1 小时自动关机并销毁,按实际用量结算,剩余点数退回。

九、相关文档

十、机型与显存对照

机型显存按量价能跑什么建议
RTX 309024GB¥1.52/时14B 推理、轻度视频预算优先
RTX 408032GB¥2.40/时14B + ComfyUI 视频(推荐)主力
RTX 4090 D32GB¥2.62/时同上,速度更快出片量大
nGPU-32GB32GB¥2.41/时同 4080备用
nGPU-48GB48GB¥3.28/时14B 常驻 + 视频并行重度
RTX 509032GB¥3.44/时同 4090D,更快高端
6000D-84G84GB¥6.25/时32B 级模型、多任务专业

显存占用参考

任务显存
Qwen2.5-14B 推理约 15GB
ComfyUI 空载约 0.3GB
ComfyUI 视频工作流(H3/图生视频)20–30GB
两者同时满负荷需要 40GB+(单卡 32GB 不够)

十一、商用须知(计费 / 退款 / 合规)

计费

项目规则
计费起始实例开机成功即开始计时
计费精度按秒累计,每小时扣一次费
容器费按机型小时价(¥1.52–6.25/时)
镜像费预装镜像 ¥0.20/时(7B 类 ¥0.10/时)
存储费约 ¥0.03/时(90GB 基础盘)
套餐包日 / 包周 / 包月,先付后用,最长 12 期
点数1 元 = 100 点

退款与结算

场景处理
主动销毁按实际运行秒数结算,未用部分自动退回点数,立即到账
创建失败预扣点数全额自动退回(含镜像费、存储费)
关机停止计算费;磁盘保留,随时可再开机
余额不足 24 小时页面告警 + 邮件提醒
余额不足 1 小时自动关机并销毁,按实际用量结算,剩余退回
套餐未用完提前销毁按实际时长结算,差额退回

点数管理里每一笔都可查:容器费 / 镜像费 / 存储费 / 退款,流水号可对账。

服务可用性

  • 平台侧:按可用性目标 99% 运营,故障会同步在页面提示
  • 上游:GPU 资源由合作机房提供,机型缺货时创建会失败并全额退款
  • 计划维护会提前公告;非计划故障按工单处理

数据与隐私

项目说明
数据位置实例所在机房的数据盘
关机数据保留
销毁实例与磁盘一并释放,数据不可恢复(含模型、脚本、产物)
镜像保存的镜像归账户所有,可自行删除
敏感数据建议出片后及时下载到本地

使用规范

  • 需完成实名认证才能开 GPU 与调用 API
  • 禁止:加密货币挖矿、违法违规内容、攻击/扫描他人系统、转租转售算力
  • 违规处理:立即停实例,余额不退;情节严重移交相关部门
  • 内容责任:生成的图片/视频由使用者自行承担合规责任

发票与对账

  • 充值、消费记录在「点数管理」可查、可导出
  • 发票在企业中心「发票管理」申请(需填写抬头、税号)
  • 对账口径:流水里的「点数 ÷ 100 = 金额(元)」

售后

渠道说明
工单页面右下角在线咨询 / 客服中心
响应工作时间 30 分钟内,非工作时间次日处理
需要提供实例 ID、发生时间、截图、账单流水号

变更

价格与规则调整会提前 7 天在文档与页面公告,已购买的套餐不受影响。

同类文章