RAG知识库流水线搭建·文档切分向量检索大模型问答一条龙零部署

RAG 知识库流水线搭建

## ⚠️ 先申请你自己的 API Key
本 Skill 不内嵌任何密钥,也不代付费用。 请到
算力集市 api.a7w.cn 注册并创建你自己的 API Key
(新用户有赠送点数,可以先免费试跑几条)。
拿到后填进环境变量 A7W_API_KEY,或直接传给 --key 参数。
请勿使用他人提供的 Key —— 用量与费用都记在 Key 所属账号上。

一堆 PDF、Word、网页躺在硬盘里,你希望有人问「退款流程是什么」时,它能翻出正确的那一段并答上来 —— 这就是知识库问答(RAG)。

你不用自己部署 embedding,也不用自己部署对话模型。 检索链路在本地跑,模型这一层全部换成
算力集市 api.a7w.cn 的 OpenAI 兼容网关:**一个 base_url、一把 Key、
换 model 就是换模型**,75 个在架大模型随便挑。

你最关心答案
多少钱1 元 = 100 点。本地切分与本地检索完全免费;只有调用模型才扣点,按 tokens 计,max_tokens 是控成本的主要旋钮
要多久模型网关是同步返回,一问一答秒级;建索引的耗时取决于你的语料量,与平台无关
要装什么什么都不用装。包里自带零依赖客户端,检索部分用纯 Python 标准库就能跑,或者直接用 curl
要不要显卡不要。embedding 与生成都在 a7w,本地零 GPU
能换模型吗随时换。改一个 model 字符串即可,Key 不用换、账单还是同一份
能商用吗可以。生成内容的使用与合规责任由使用者承担

一、两条路线,按需选

你想要的走哪条代价
马上对一个公网文档提问,不折腾切分与检索a7w 自带的文档问答接口 file_qa接口免费,把文档放到公网可访问的地址即可
自己掌控切分、召回、拼 prompt本地流水线 + a7w 模型网关免费额度内本地跑,只有模型调用扣点
要语义检索(按意思找)而不只是关键词本地向量检索 + a7w 网关做 embedding向量这一层自己存,embedding 与生成都走 a7w

建议顺序:先用 file_qa 跑通「能答上来」这件事,再决定要不要自建流水线。
两条路线可以并存,共用同一把 Key。


二、三分钟跑通

第一步:拿到你自己的 Key

到 api.a7w.cn 注册,在控制台创建一个 API Key(形如 sk-...),
填进环境变量:

export A7W_API_KEY=sk-你的key      # Windows: $env:A7W_API_KEY="sk-你的key"

验一下这把 Key 通不通(列一下你这个账号可用的应用):

curl -sS "https://api.a7w.cn/api/v1/apps" \
  -H "Authorization: Bearer $A7W_API_KEY"

第二步:先拿到可用模型名(不要猜)

模型上下架很频繁,动手前先查一次:

curl -sS "https://api.a7w.cn/api/v1/models" \
  -H "Authorization: Bearer $A7W_API_KEY"

记下你要用的对话模型名(例如 DeepSeek-V4-Flash),后面填进 model 字段。

第三步:把检索到的片段交给模型(这就是 RAG 的核心一步)

curl -sS -X POST "https://api.a7w.cn/api/v1/chat/completions" \
  -H "Authorization: Bearer $A7W_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash",
    "messages": [
      {"role": "system", "content": "只根据资料回答;资料里没有就说不知道,不要编。"},
      {"role": "user", "content": "资料:\n1) 退款需在收货后 7 天内发起,需保持商品完好。\n2) 生鲜类不支持无理由退款。\n\n问题:退款期限是多久?"}
    ],
    "temperature": 0.2,
    "max_tokens": 512
  }'

返回里 choices[0].message.content 就是答案。
RAG 做的事情,就是把「资料」这一段换成你检索出来的真实片段 —— 检索在你本地跑,生成走 a7w。

第四步:免自建的文档问答(可选,免费)

把文档放到公网可访问的地址,直接问:

# 应用类接口的统一路径就是 /api/v1/apps/<应用代号>/<接口代号>
# 参数名先查一次,别猜:
python3 scripts/a7w.py schema file_qa

python3 scripts/a7w.py call file_qa chat --json '{"文档地址参数":"https://你的存储/产品手册.pdf","问题参数":"退款流程是什么?"}'

file_qa 的接口代号是 chat(文件问答,同步)与 parse(剧本解析,异步),
两个接口实测都是免费的。参数名以 schema file_qa 的实际返回为准。


三、包里有什么

sanjianke-rag-pipeline/
├── SKILL.md                    本文件
├── README.md
├── LICENSE.md
├── references/
│   ├── 流水线搭建.md            切分 / 召回 / 拼 prompt 的完整写法与参数表
│   ├── api-openai-compat.md     网关接入:base_url、鉴权、模型发现、流式、返回结构
│   ├── getting-started.md       注册、领 Key、配置与自检
│   └── 通用说明.md              权限、异步机制、错误码、计费口径
└── scripts/
    └── a7w.py                  零依赖客户端(库 + 命令行,只用 Python 标准库)

零安装用法

export A7W_API_KEY=sk-你的key

# 看这个平台有哪些应用与接口
python3 scripts/a7w.py apps

# 看某个应用的接口与参数(参数名以它为准,不要猜)
python3 scripts/a7w.py schema file_qa

# 一问一答
python3 scripts/a7w.py call file_qa chat --json '{"...":"..."}'

# 异步接口会自动轮询到结束;加 --no-wait 只提交
python3 scripts/a7w.py call file_qa parse --json '{"...":"..."}' --no-wait

references/流水线搭建.md 里给了一份只用 Python 标准库的本地检索实现
(切分 + BM25 打分 + 拼上下文),复制就能跑,不需要装任何第三方包。


四、素材要求

要求说明
文档格式PDF / Word / Markdown / 纯文本都可以;本地先转成纯文本再切分最稳
传给接口的地址必须是公网可访问的 URL,不支持本地路径、不支持 Base64
切分粒度中文建议 300~500 字一块,重叠 10%~15%,按标题层级切比按字数切更好
召回数量从 top_k = 3 起步,看答不上来再往上加;块给多了既贵又容易跑题
上下文长度拼进去的资料总量要留足余量,超长会被截断;长文档先摘要再拼
表格与图片表格建议转成 Markdown 保留结构;图片走 OCR 或直接不入库

本地文件先传到对象存储 / 图床拿到公网链接,再走接口。


五、常见坑

坑表现怎么避
模型名靠猜404 或直接报错动手前先跑 GET /api/v1/models,以接口返回为准
拿本地路径当入参报参数错误一律用公网可访问的 URL
参数名靠猜报参数缺失先跑 python3 scripts/a7w.py schema <应用> 看真实字段名
拿 code == 0 判断成功明明成功却判成失败平台成功码是 1({"code":1,"msg":"success"})
max_tokens 给得太小content 返回 null、finish_reason 是 length推理型模型会先花 token 说思维链,正文被挤没了;先把这个值调大,不是接口坏了
把思维链当答案输出里混着推理过程思维链字段在不同线路上是 reasoning 或 reasoning_content,两个都取一下
重复提交异步任务扣两次钱先记 task_id,用查询接口确认状态(查询免费)
一次塞几十个片段又贵又跑题、还容易超长先召回 3~5 块,用「只根据资料回答」兜住幻觉
把 Key 写进代码泄露即等于泄露余额只从环境变量 A7W_API_KEY 或 ~/.a7w/config.json 读
PowerShell 吃掉 JSON 引号请求体被截断改用 python3 scripts/a7w.py call <应用> <接口> --json '{...}',把请求体交给客户端脚本处理

六、计费

1 元 = 100 点,1 点 = ¥0.01,按量计费、没有月费。

动作点数折合
本地切分、本地建索引、本地检索0免费,不经过平台
file_qa 文件问答 / 剧本解析0免费(实测口径)
查询异步任务、列应用、看接口 schema0免费
模型网关 chat/completions按 tokens 计点各模型单价不同,输入与输出分别计价;以实际扣费为准
  • 控成本的第一旋钮是 max_tokens,第二旋钮是召回块数(拼进去多少 token)。
  • 平台同时给出标准价与租户价字段(tenant_*,平台侧报价)两套字段,两者都未必等于实际结算价;

做预算一律以返回里的 data.usage.points_cost 为准,每次返回里的 usage 就是本次真实用量。

  • 调用失败会退款;异步任务提交时预冻结点数,完成后多退少补。

七、权限与边界

能力是否申请用途
网络访问申请调用 api.a7w.cn 的网关与接口(本 Skill 唯一的联网行为)
读取文件仅读取你指定的输入文件用作待切分的语料与请求体
写入文件仅在传入 --out 时保存返回的 JSON 或本地索引
凭证读取你自己提供的 API Key从环境变量或 ~/.a7w/config.json 读取

不内嵌任何密钥。 请求只发往 api.a7w.cn,不发送到其他任何地址。

  • 不提供 Key、不代付费用:Key 必须你自己在 api.a7w.cn 申请
  • 不替代内容合规审查:入库语料与生成内容的合规责任由使用者承担
  • 不替代向量库运维:向量检索那一层跑在你自己的机器或你选的存储上

关于这个 Skill

作者亲测实操后发布,下载后可直接使用,自用商用都可以。

所有 AI 能力都走 算力集市 api.a7w.cn —— 一把 API Key 打通
大模型、语音、图像、视频、数字人等全部算力,注册即送点数,按量计费、没有月费。

你可能想问答案
要不要额外部署不用。下载本包即可使用,不必去别处找源码
怎么开始到 api.a7w.cn 注册领 Key → 填进 A7W_API_KEY → 一条命令跑起来
能不能商用可以
遇到问题找谁见文末「联系我们」,作者本人答疑

使用中碰到任何问题 —— 报错、效果不理想、想省钱、想批量 —— 都欢迎加微信聊。
加好友时说一下是从哪个 Skill 找过来的,直接给你配套的示例。


联系我们

  • 技术微信:9872659 —— 加好友时说一下是从哪个 Skill 找过来的,直接给你配套的 API Key 与能跑的示例。
  • 要算力 / 要 API Key:算力集市 · 注册领 API Key —— 一个 Key 调用全部 AI 算力,注册、充值、创建 Key 都在这里。
  • 更多 AI 插件与接口:AI 插件市场。

相关链接

链接地址说明
算力集市 · 注册领 API Keyapi.a7w.cn一个 Key 调用全部 AI 算力;注册、充值、创建 Key 都在这
AI 插件市场aigc.a7w.cn浏览全部 AI 插件与接口说明
三剪客 · 一句话批量出片ks.a7w.cn短剧二创 / 影视解说 / 矩阵号批量混剪桌面客户端
视频超清 · 在线批量超分vr.a7w.cn网页版视频超分,批量处理,最高 4K
0人公司 · AI Agent 平台a7w.cn主站,了解整套 AI Agent 生态

同类文章