首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >搭一个最小 RAG 知识库:Embedding、Rerank、对话模型走同一个端点

搭一个最小 RAG 知识库:Embedding、Rerank、对话模型走同一个端点

原创
作者头像
用户12853052
发布于 2026-11-03 17:38:58
发布于 2026-11-03 17:38:58
1620
举报

想做知识库问答 Demo 的人大多卡在同一个地方:Embedding 用一家的、Rerank 用另一家的、对话模型又是第三家的——三个账号、三个 Key、三套 SDK,实验做到一半想换个模型试试,配置全要重来。其实这类组件早就统一了接口:OpenAI 兼容网关把 /v1/embeddings、/v1/chat/completions 和 rerank 都暴露在同一域名下,一套客户端配置跑完全流程。这篇文章用最少的代码把它走通。

三个组件,一个端点

  • Embedding:把文档块和问题都转成向量,模型选 bge-m3(8K 上下文,中文效果好,切长文档不用太抠长度);
  • 对话模型:负责最后带着检索结果回答,实验阶段用 deepseek-v4-flash 这类轻量模型就够;
  • Rerank(可选但推荐):向量召回的 top 结果再精排一遍,对召回精度提升明显,模型选 bge-reranker-v2-m3。

我用的网关是巨蓝鲸AI(api.julanjing.com),下面代码里换任何 OpenAI 兼容端点都一样跑。

代码

四十行不到,一个能跑的知识库问答就有了。后面要升级,改 model 字符串就能逐个换组件做对比实验——这正是统一端点的价值:实验变量只剩模型本身,不再有接入层的噪音。

【此处插入:运行输出截图】

成本预期

向量化的花费几乎可以忽略:Embedding 模型按倍率计费普遍很低(示例站 bge 系列约 0.25),几千个文档块初次建库也就几毛钱量级;大头在对话模型,多轮带着长上下文问才有感知。控制台日志页每次调用都有明细,实验前看一眼单价、跑完看一眼消耗,心里有数。

边界提醒

  • 公司内部文档、客户资料不要经第三方网关——这是所有第三方中转的共同边界,不是某一家的问题;敏感场景用本地 Embedding 模型加官方或私有化部署的对话模型;
  • Demo 和个人项目用第三方站没问题,正式产品建议把网关换成自建的 one-api,代码一行不用改;
  • Rerank 不是必需品,但检索"答案在第 20 条而不是前 5 条"的知识库时,它通常是性价比最高的改进。

小结

RAG 的最小闭环比想象中简单:切块、向量化、召回、精排、生成,五步全走标准接口。把接入层统一之后,剩下的事情——切块策略、召回数量、换模型对比——才是真正影响效果的部分,也才是值得花时间调的部分。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

目录
  • 三个组件,一个端点
  • 代码
  • 成本预期
  • 边界提醒
  • 小结
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档