企业落地大模型时，难点通常不在于完成一次模型调用，而在于如何把模型供应商、业务资料、权限体系和运维配置放到统一的工程边界内。模型接口各不相同，密钥与参数容易分散维护；制度文档、产品资料和实施手册虽已存在，却难以成为可检索、可追溯的对话知识来源。
乾坤AI助手将模型接入置于管理端配置体系中，可对模型名称、参数和 API Key 进行可视化维护，并通过 LangChain4j 承担模型与检索链路的统一抽象。系统覆盖 DeepSeek、通义千问、文心一言、豆包、智谱、星火、OpenAI、Gemini、Ollama、Azure、Claude 等模型 Provider，实际启用范围由部署侧配置决定。
这种设计将业务功能与具体模型服务解耦。对应用层而言，模型能力经由统一接口进入知识问答或业务助手流程；对运维侧而言，模型切换与参数调整可以在后台集中处理，避免在多个业务模块中重复修改调用逻辑。
## 前后端分离的服务边界
系统采用前后端分离架构。管理前端基于 Vue 3、Vite、Naive UI 与 Tailwind CSS 构建，负责模型配置、知识库管理及系统管理等交互界面；后端以 Java 17 和 Spring Boot 3.4 为基础，提供认证、权限、系统管理和 AI 业务 API。
后端由 `qiankun-admin` 作为主应用入口，并划分公共能力、AI 业务和系统业务模块。公共层覆盖核心工具、Redis、MyBatis、安全、OSS 与 WebSocket 等能力；业务层包含 LangChain、系统配置、对象存储、定时任务、工作流等模块。这种拆分使模型调用、知识处理和系统治理可以沿各自职责演进，也便于后续按业务需求扩展监控或任务调度服务。
数据层使用 MySQL 保存业务与配置数据，Redis 承担缓存能力；向量数据库与对象存储按部署需求选配。前端、API、数据库和缓存的职责被清晰分隔，既满足后台管理需要，也为 RAG 链路保留了独立的存储与检索边界。
## 知识库与 RAG 如何进入业务流程
企业文档的价值并不止于存档。制度说明、产品手册、接口文档和 FAQ 需要在实际问答中被快速定位，并随模型生成过程提供上下文。乾坤AI助手通过文档上传、向量化处理和知识库分组管理，将这类静态资料组织为可检索的知识资产。
在对话链路中，系统可以基于 Embedding 检索与当前问题相关的文档内容，再将检索结果作为上下文提供给模型完成回答。不同知识库能够关联不同模型与向量数据库，使知识范围、模型选择与存储实现不必固定绑定。
例如，人事制度、报销流程和 IT 规范可组成内部问答知识库；产品说明与常见问题可服务于客服或运营助手；接口文档、部署指南与实施记录则可以成为研发团队的知识检索入口。系统提供的是统一的组织方式，具体回答质量仍取决于文档完整性、切分策略、Embedding 配置及模型参数等实施条件。
## 后台治理能力补足生产使用所需
AI 应用进入团队使用后，配置、权限和运行维护常常比对话能力本身更早成为管理重点。乾坤AI助手在 AI 能力之外保留用户、角色、权限、OSS、任务调度和监控等后台模块，使知识库、模型配置和系统管理能够进入同一治理框架。
Sa-Token 用于认证与授权控制，MyBatis 负责数据访问，Redis 用于缓存协同。对于需要异步处理的文档导入、向量化或周期任务，项目提供任务调度相关模块；对于对象存储和附件类资源，则提供 OSS 能力边界。
模型 API Key、数据库密码和 Redis 连接信息属于部署环境中的敏感配置。生产部署应通过受控环境变量或密钥管理方式注入，限制管理端访问范围，并将数据库、Redis 与对象存储放在符合组织网络和备份策略的环境内。项目提供了可配置的基础设施接口，但具体安全控制仍需由部署方结合账户体系、网络隔离与运维规范完成。
## 部署方式与扩展路径
乾坤AI助手支持 Docker Compose 部署，也支持本地前后端分开开发。容器化方式通过 Nginx、Spring Boot、MySQL 与 Redis 组合运行，适合快速建立联调或试点环境；本地开发需要 JDK 17、Maven、Node.js、pnpm、MySQL 和 Redis，向量数据库与对象存储可根据知识库方案选择接入。
从扩展角度看，系统的模块划分使团队可以先完成模型接入与基础知识库建设，再按实际流程引入专属助手、工作流、任务调度和监控能力。对于需要接入多类模型、管理内部文档并保留后台治理能力的团队，这种结构提供了相对完整的工程起点。
项目地址：https://www.gitcc.com/Crosstalk/qiankun-ai-zs

企业落地大模型时，难点通常不在于完成一次模型调用，而在于如何把模型供应商、业务资料、权限体系和运维配置放到统一的工程边界内。模型接口各不相同，密钥与参数容易分散维护；制度文档、产品资料和实施手册虽已存在，却难以成为可检索、可追溯的对话知识来源。乾坤AI助手将模型接入置于管理端配置体系中，可对模型名称、参数和 API Key 进行可视化维护，并通过 LangChain4j 承担模型与检索链路的统一抽象。系统覆盖 DeepSeek、通义千问、文心一言、豆包、智谱、星火、OpenAI、Gemini、Ollama、Azure、Claude 等模型 Provider，实际启用范围由部署侧配置决定。这种设计将业务功能与具体模型服务解耦。对应用层而言，模型能力经由统一接口进入知识问答或业务助手流程；对运维侧而言，模型切换与参数调整可以在后台集中处理，避免在多个业务模块中重复修改调用逻辑。

企业级 AI 助手开源软件：乾坤AI助手的多模型接入与 RAG 知识库架构

乾坤AI助手是面向企业场景的开源 AI 助手平台，采用 Vue 3 与 Spring Boot 前后端分离架构，以 LangChain4j 连接多模型能力，并通过知识库、向量检索和 RAG 支持文档问答。系统同时覆盖权限、缓存、对象存储、任务与容器化部署等后台能力。

人工智能

开发工具

后端

企业落地大模型面临模型接入分散、知识管理困难等痛点。乾坤AI助手提供统一管理平台，支持多模型接入与知识库管理，实现业务与模型解耦。采用前后端分离架构，支持Docker部署，帮助企业快速构建AI应用。

2026上云采购 | AI焕新·智启新局

lexiang

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

企业级 AI 助手开源软件：乾坤AI助手的多模型接入与 RAG 知识库架构-腾讯云开发者社区-腾讯云

企业级 AI 助手开源软件：乾坤AI助手的多模型接入与 RAG 知识库架构

企业级 AI 助手开源软件：乾坤AI助手的多模型接入与 RAG 知识库架构

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐