想做知识库问答 Demo 的人大多卡在同一个地方:Embedding 用一家的、Rerank 用另一家的、对话模型又是第三家的——三个账号、三个 Key、三套 SDK,实验做到一半想换个模型试试,配置全要重来。其实这类组件早就统一了接口:OpenAI 兼容网关把 /v1/embeddings、/v1/chat/completions 和 rerank 都暴露在同一域名下,一套客户端配置跑完全流程。这篇文章用最少的代码把它走通。
bge-m3(8K 上下文,中文效果好,切长文档不用太抠长度);deepseek-v4-flash 这类轻量模型就够;bge-reranker-v2-m3。我用的网关是巨蓝鲸AI(api.julanjing.com),下面代码里换任何 OpenAI 兼容端点都一样跑。
四十行不到,一个能跑的知识库问答就有了。后面要升级,改 model 字符串就能逐个换组件做对比实验——这正是统一端点的价值:实验变量只剩模型本身,不再有接入层的噪音。
【此处插入:运行输出截图】
向量化的花费几乎可以忽略:Embedding 模型按倍率计费普遍很低(示例站 bge 系列约 0.25),几千个文档块初次建库也就几毛钱量级;大头在对话模型,多轮带着长上下文问才有感知。控制台日志页每次调用都有明细,实验前看一眼单价、跑完看一眼消耗,心里有数。
RAG 的最小闭环比想象中简单:切块、向量化、召回、精排、生成,五步全走标准接口。把接入层统一之后,剩下的事情——切块策略、召回数量、换模型对比——才是真正影响效果的部分,也才是值得花时间调的部分。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。