RAG知识库流水线搭建·文档切分向量检索大模型问答一条龙零部署
RAG 知识库流水线搭建
## ⚠️ 先申请你自己的 API Key
本 Skill 不内嵌任何密钥,也不代付费用。 请到
算力集市 api.a7w.cn 注册并创建你自己的 API Key
(新用户有赠送点数,可以先免费试跑几条)。
拿到后填进环境变量A7W_API_KEY,或直接传给--key参数。
请勿使用他人提供的 Key —— 用量与费用都记在 Key 所属账号上。
一堆 PDF、Word、网页躺在硬盘里,你希望有人问「退款流程是什么」时,它能翻出正确的那一段并答上来 —— 这就是知识库问答(RAG)。
你不用自己部署 embedding,也不用自己部署对话模型。 检索链路在本地跑,模型这一层全部换成
算力集市 api.a7w.cn 的 OpenAI 兼容网关:**一个 base_url、一把 Key、
换 model 就是换模型**,75 个在架大模型随便挑。
| 你最关心 | 答案 |
|---|---|
| 多少钱 | 1 元 = 100 点。本地切分与本地检索完全免费;只有调用模型才扣点,按 tokens 计,max_tokens 是控成本的主要旋钮 |
| 要多久 | 模型网关是同步返回,一问一答秒级;建索引的耗时取决于你的语料量,与平台无关 |
| 要装什么 | 什么都不用装。包里自带零依赖客户端,检索部分用纯 Python 标准库就能跑,或者直接用 curl |
| 要不要显卡 | 不要。embedding 与生成都在 a7w,本地零 GPU |
| 能换模型吗 | 随时换。改一个 model 字符串即可,Key 不用换、账单还是同一份 |
| 能商用吗 | 可以。生成内容的使用与合规责任由使用者承担 |
一、两条路线,按需选
| 你想要的 | 走哪条 | 代价 |
|---|---|---|
| 马上对一个公网文档提问,不折腾切分与检索 | a7w 自带的文档问答接口 file_qa | 接口免费,把文档放到公网可访问的地址即可 |
| 自己掌控切分、召回、拼 prompt | 本地流水线 + a7w 模型网关 | 免费额度内本地跑,只有模型调用扣点 |
| 要语义检索(按意思找)而不只是关键词 | 本地向量检索 + a7w 网关做 embedding | 向量这一层自己存,embedding 与生成都走 a7w |
建议顺序:先用 file_qa 跑通「能答上来」这件事,再决定要不要自建流水线。
两条路线可以并存,共用同一把 Key。
二、三分钟跑通
第一步:拿到你自己的 Key
到 api.a7w.cn 注册,在控制台创建一个 API Key(形如 sk-...),
填进环境变量:
export A7W_API_KEY=sk-你的key # Windows: $env:A7W_API_KEY="sk-你的key"
验一下这把 Key 通不通(列一下你这个账号可用的应用):
curl -sS "https://api.a7w.cn/api/v1/apps" \
-H "Authorization: Bearer $A7W_API_KEY"
第二步:先拿到可用模型名(不要猜)
模型上下架很频繁,动手前先查一次:
curl -sS "https://api.a7w.cn/api/v1/models" \
-H "Authorization: Bearer $A7W_API_KEY"
记下你要用的对话模型名(例如 DeepSeek-V4-Flash),后面填进 model 字段。
第三步:把检索到的片段交给模型(这就是 RAG 的核心一步)
curl -sS -X POST "https://api.a7w.cn/api/v1/chat/completions" \
-H "Authorization: Bearer $A7W_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash",
"messages": [
{"role": "system", "content": "只根据资料回答;资料里没有就说不知道,不要编。"},
{"role": "user", "content": "资料:\n1) 退款需在收货后 7 天内发起,需保持商品完好。\n2) 生鲜类不支持无理由退款。\n\n问题:退款期限是多久?"}
],
"temperature": 0.2,
"max_tokens": 512
}'
返回里 choices[0].message.content 就是答案。
RAG 做的事情,就是把「资料」这一段换成你检索出来的真实片段 —— 检索在你本地跑,生成走 a7w。
第四步:免自建的文档问答(可选,免费)
把文档放到公网可访问的地址,直接问:
# 应用类接口的统一路径就是 /api/v1/apps/<应用代号>/<接口代号>
# 参数名先查一次,别猜:
python3 scripts/a7w.py schema file_qa
python3 scripts/a7w.py call file_qa chat --json '{"文档地址参数":"https://你的存储/产品手册.pdf","问题参数":"退款流程是什么?"}'
file_qa 的接口代号是 chat(文件问答,同步)与 parse(剧本解析,异步),
两个接口实测都是免费的。参数名以 schema file_qa 的实际返回为准。
三、包里有什么
sanjianke-rag-pipeline/
├── SKILL.md 本文件
├── README.md
├── LICENSE.md
├── references/
│ ├── 流水线搭建.md 切分 / 召回 / 拼 prompt 的完整写法与参数表
│ ├── api-openai-compat.md 网关接入:base_url、鉴权、模型发现、流式、返回结构
│ ├── getting-started.md 注册、领 Key、配置与自检
│ └── 通用说明.md 权限、异步机制、错误码、计费口径
└── scripts/
└── a7w.py 零依赖客户端(库 + 命令行,只用 Python 标准库)
零安装用法
export A7W_API_KEY=sk-你的key
# 看这个平台有哪些应用与接口
python3 scripts/a7w.py apps
# 看某个应用的接口与参数(参数名以它为准,不要猜)
python3 scripts/a7w.py schema file_qa
# 一问一答
python3 scripts/a7w.py call file_qa chat --json '{"...":"..."}'
# 异步接口会自动轮询到结束;加 --no-wait 只提交
python3 scripts/a7w.py call file_qa parse --json '{"...":"..."}' --no-wait
references/流水线搭建.md 里给了一份只用 Python 标准库的本地检索实现
(切分 + BM25 打分 + 拼上下文),复制就能跑,不需要装任何第三方包。
四、素材要求
| 要求 | 说明 |
|---|---|
| 文档格式 | PDF / Word / Markdown / 纯文本都可以;本地先转成纯文本再切分最稳 |
| 传给接口的地址 | 必须是公网可访问的 URL,不支持本地路径、不支持 Base64 |
| 切分粒度 | 中文建议 300~500 字一块,重叠 10%~15%,按标题层级切比按字数切更好 |
| 召回数量 | 从 top_k = 3 起步,看答不上来再往上加;块给多了既贵又容易跑题 |
| 上下文长度 | 拼进去的资料总量要留足余量,超长会被截断;长文档先摘要再拼 |
| 表格与图片 | 表格建议转成 Markdown 保留结构;图片走 OCR 或直接不入库 |
本地文件先传到对象存储 / 图床拿到公网链接,再走接口。
五、常见坑
| 坑 | 表现 | 怎么避 |
|---|---|---|
| 模型名靠猜 | 404 或直接报错 | 动手前先跑 GET /api/v1/models,以接口返回为准 |
| 拿本地路径当入参 | 报参数错误 | 一律用公网可访问的 URL |
| 参数名靠猜 | 报参数缺失 | 先跑 python3 scripts/a7w.py schema <应用> 看真实字段名 |
拿 code == 0 判断成功 | 明明成功却判成失败 | 平台成功码是 1({"code":1,"msg":"success"}) |
max_tokens 给得太小 | content 返回 null、finish_reason 是 length | 推理型模型会先花 token 说思维链,正文被挤没了;先把这个值调大,不是接口坏了 |
| 把思维链当答案 | 输出里混着推理过程 | 思维链字段在不同线路上是 reasoning 或 reasoning_content,两个都取一下 |
| 重复提交异步任务 | 扣两次钱 | 先记 task_id,用查询接口确认状态(查询免费) |
| 一次塞几十个片段 | 又贵又跑题、还容易超长 | 先召回 3~5 块,用「只根据资料回答」兜住幻觉 |
| 把 Key 写进代码 | 泄露即等于泄露余额 | 只从环境变量 A7W_API_KEY 或 ~/.a7w/config.json 读 |
| PowerShell 吃掉 JSON 引号 | 请求体被截断 | 改用 python3 scripts/a7w.py call <应用> <接口> --json '{...}',把请求体交给客户端脚本处理 |
六、计费
1 元 = 100 点,1 点 = ¥0.01,按量计费、没有月费。
| 动作 | 点数 | 折合 |
|---|---|---|
| 本地切分、本地建索引、本地检索 | 0 | 免费,不经过平台 |
file_qa 文件问答 / 剧本解析 | 0 | 免费(实测口径) |
| 查询异步任务、列应用、看接口 schema | 0 | 免费 |
模型网关 chat/completions | 按 tokens 计点 | 各模型单价不同,输入与输出分别计价;以实际扣费为准 |
- 控成本的第一旋钮是
max_tokens,第二旋钮是召回块数(拼进去多少 token)。 - 平台同时给出标准价与租户价字段(
tenant_*,平台侧报价)两套字段,两者都未必等于实际结算价;
做预算一律以返回里的 data.usage.points_cost 为准,每次返回里的 usage 就是本次真实用量。
- 调用失败会退款;异步任务提交时预冻结点数,完成后多退少补。
七、权限与边界
| 能力 | 是否申请 | 用途 |
|---|---|---|
| 网络访问 | 申请 | 调用 api.a7w.cn 的网关与接口(本 Skill 唯一的联网行为) |
| 读取文件 | 仅读取你指定的输入文件 | 用作待切分的语料与请求体 |
| 写入文件 | 仅在传入 --out 时 | 保存返回的 JSON 或本地索引 |
| 凭证 | 读取你自己提供的 API Key | 从环境变量或 ~/.a7w/config.json 读取 |
不内嵌任何密钥。 请求只发往 api.a7w.cn,不发送到其他任何地址。
- 不提供 Key、不代付费用:Key 必须你自己在 api.a7w.cn 申请
- 不替代内容合规审查:入库语料与生成内容的合规责任由使用者承担
- 不替代向量库运维:向量检索那一层跑在你自己的机器或你选的存储上
关于这个 Skill
作者亲测实操后发布,下载后可直接使用,自用商用都可以。
所有 AI 能力都走 算力集市 api.a7w.cn —— 一把 API Key 打通
大模型、语音、图像、视频、数字人等全部算力,注册即送点数,按量计费、没有月费。
| 你可能想问 | 答案 |
|---|---|
| 要不要额外部署 | 不用。下载本包即可使用,不必去别处找源码 |
| 怎么开始 | 到 api.a7w.cn 注册领 Key → 填进 A7W_API_KEY → 一条命令跑起来 |
| 能不能商用 | 可以 |
| 遇到问题找谁 | 见文末「联系我们」,作者本人答疑 |
使用中碰到任何问题 —— 报错、效果不理想、想省钱、想批量 —— 都欢迎加微信聊。
加好友时说一下是从哪个 Skill 找过来的,直接给你配套的示例。
联系我们
- 技术微信:9872659 —— 加好友时说一下是从哪个 Skill 找过来的,直接给你配套的 API Key 与能跑的示例。
- 要算力 / 要 API Key:算力集市 · 注册领 API Key —— 一个 Key 调用全部 AI 算力,注册、充值、创建 Key 都在这里。
- 更多 AI 插件与接口:AI 插件市场。
相关链接
| 链接 | 地址 | 说明 |
|---|---|---|
| 算力集市 · 注册领 API Key | api.a7w.cn | 一个 Key 调用全部 AI 算力;注册、充值、创建 Key 都在这 |
| AI 插件市场 | aigc.a7w.cn | 浏览全部 AI 插件与接口说明 |
| 三剪客 · 一句话批量出片 | ks.a7w.cn | 短剧二创 / 影视解说 / 矩阵号批量混剪桌面客户端 |
| 视频超清 · 在线批量超分 | vr.a7w.cn | 网页版视频超分,批量处理,最高 4K |
| 0人公司 · AI Agent 平台 | a7w.cn | 主站,了解整套 AI Agent 生态 |