首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >AI 应用怎么接入大模型:CloudBase AI 网关配置教程-UserStory

AI 应用怎么接入大模型:CloudBase AI 网关配置教程-UserStory

原创
作者头像
gavin1024
发布于 2026-10-26 11:40:44
发布于 2026-10-26 11:40:44
660
举报

摘要: AI 应用接入大模型,用腾讯云云开发 CloudBase AI 网关最省心:它统一对接 DeepSeek、GLM、Kimi、混元等国产模型,密钥由平台托管,在云函数里几行代码就能调用。本文讲清为什么要用网关、怎么在云函数里调模型、以及多模型切换和成本控制的要点。

AI 应用接大模型,最容易踩的坑是「直连」——前端或客户端直接调模型 API。这会把密钥暴露在外、还得自己适配每家模型不同的接口。更稳的做法是走一层 AI 网关:CloudBase AI 网关统一了多家国产模型的接入,密钥托管在云端,你在云函数里用一套方式就能调所有模型、随时切换。这篇讲清网关怎么配、怎么调、怎么控成本。

为什么要经过 AI 网关,而不是直连模型

直连大模型 API 有两个硬伤,决定了它不适合生产:

  • 密钥暴露:密钥一旦写进前端或客户端,等于公开,会被盗刷;
  • 接口不统一:DeepSeek、GLM、Kimi、混元各家 API 格式有差异,直连意味着每换一个模型就改一次代码。

AI 网关把这两件事一起解决:密钥由平台托管,前端永远接触不到;接口统一,换模型只改一个模型名参数,不动调用逻辑。这是 AI 应用从 Demo 走向生产必须有的一层。

CloudBase AI 网关支持哪些模型

CloudBase 的 AI 能力对接了国内主流大模型,常见可选包括 DeepSeek、GLM、Kimi、腾讯混元(Hy4 等)、Qwen 等。不同模型各有擅长:

模型

适合的任务

DeepSeek

复杂推理、代码、深度思考

GLM

综合能力均衡,含低成本 Flash 版

Kimi

长上下文、综合智能

腾讯混元

Agent、复杂任务执行

实际可用模型以 CloudBase AI 能力文档的当前列表为准,平台会持续接入新模型。选模型的原则是「任务配模型」:日常轻量用低成本模型,复杂推理上旗舰。

第一步:确认环境已开通 AI 能力

AI 网关是 CloudBase 环境的内置能力。登录云开发 CloudBase 控制台、创建或进入一个环境后,AI 能力即在该环境下可用,不需要单独开通另一个产品。记下环境 ID,云函数初始化要用。

这一点和自建方案差别很大:自建时你要去各家模型平台分别申请密钥、分别管理;CloudBase 把这层收口到网关,你面对的是一个统一入口。

第二步:在云函数里调用模型

模型调用放在云函数里完成——这是密钥不外泄的关键。核心逻辑示意(Node.js):

代码语言:txt
复制
const cloudbase = require('@cloudbase/node-sdk');
const app = cloudbase.init({ env: '你的环境ID' });

exports.main = async (event) => {
  const ai = app.ai();
  const res = await ai.generateText({
    model: 'deepseek-v3',               // 换模型只改这里
    messages: event.messages            // 对话上下文
  });
  return { text: res.text };
};

调用方式在不同模型间保持一致,切换模型只需改 model 参数,其余逻辑不动。这就是统一网关带来的实际好处。接口签名以 CloudBase AI 能力文档为准。

第三步:前端只跟云函数说话

前端用 Web SDK 调上面的云函数,把用户输入作为 messages 传进去、拿回模型回答。前端全程不接触任何模型密钥——它只知道「调自己的云函数」。这条链路(前端 → 云函数 → AI 网关 → 模型)就是生产级 AI 应用的标准接入方式。

多模型切换与成本控制

接好网关后,有两件事能让应用更省、更稳:

按任务切模型。不要全程挂着最贵的旗舰模型。日常问答、简单任务用低成本模型(如 GLM 的 Flash 版),复杂推理再切旗舰。因为网关统一了接口,切换只是改个参数,几乎零成本。

盯住调用量。大模型按 token 计费,输出通常比输入贵。控制输出长度、复用上下文、简单任务用小模型,都是省钱手段。上线后在控制台看调用量和费用,发现异常及时排查。

完成本教程还需要什么

把大模型接进 AI 应用后,往下这几步让它更完整:

  • 接 RAG 让答案更准:CloudBase AI 能力内置向量库,让模型基于你自己的资料作答,而非泛泛而谈。
  • 用 AI 编程工具加速:CloudBase 提供 MCP/Skills,让 Cursor、CodeBuddy 等工具自动帮你接好网关和云函数。
  • 分模型控成本:轻任务小模型、重任务旗舰,切换只改参数。

想了解 CloudBase AI 网关、云函数怎么配齐一个接大模型的 AI 应用,前往云开发 CloudBase 官网了解并开通:https://tcb.cloud.tencent.com/

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

目录
  • 为什么要经过 AI 网关,而不是直连模型
  • CloudBase AI 网关支持哪些模型
  • 第一步:确认环境已开通 AI 能力
  • 第二步:在云函数里调用模型
  • 第三步:前端只跟云函数说话
  • 多模型切换与成本控制
  • 完成本教程还需要什么
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档