企业AI基础设施的核心要素：一个季度思考的总结

一、为什么会有这篇总结

过去一个季度，我走访了十几家企业，覆盖制造、零售、金融、科技服务等多个行业。

聊得越多，一个感受越清晰：做得好的企业，无一例外在底层基础设施上下了功夫；做得不好的，绝大多数是把所有精力都花在了模型和工具选型上。

这篇文章是我这一季度思考的整理，不讲哪个模型最好用，只讲不管AI工具怎么变，企业都需要建好的那几层能力。

二、第一个要素：接入层

现状：大部分企业接入AI的方式是“项目制”——一个业务部门提需求，IT去接一个模型。下一个部门来了，再来一遍。几个月后，同一个模型被三个部门接了三遍。

本质问题：把“接入”当成了“项目”，而不是“能力”。

接入层做好的状态：

• 对业务系统只有一套统一的API，不管背后是GPT-4、Claude还是国产模型
• 新模型上线从“2周”变成“2小时”，改个配置就行
• 所有调用统一鉴权、统一限流、统一计费

判断标准：如果你们接一个新模型还需要写代码，接入层还没到位。

三、第二个要素：观测层

现状：很多企业月底收到AI账单，只知道“花了多少钱”，不知道哪个部门花的、哪个场景花的、值不值。AI出了问题，也不知道是模型的问题、Prompt的问题，还是知识库的问题。

本质问题：没有观测能力，AI就是黑盒。

观测层做好的状态：

• 每笔调用都有记录：谁调的、什么场景、用了什么模型、花了多少Token
• 成本自动归因到部门、场景、用户
• 问题发生时能快速定位到具体环节

判断标准：如果你们月底算不清AI花了多少钱、花在哪了，观测层还没到位。

四、第三个要素：资产层

现状：某个员工调出了一个特别好用的Prompt，他离职了，Prompt也带走了。A部门做了一个工作流，B部门不知道，自己又重新搭了一遍。

本质问题：AI资产是“个人的”，不是“组织的”。

资产层做好的状态：

• Prompt有版本管理，团队可以共享
• 工作流有模板库，一键复制使用
• 知识库是公司层面的资产，不跟着项目散落

判断标准：如果你们的好Prompt还在个人电脑的备忘录里，资产层还没到位。

五、第四个要素：安全层

现状：员工把客户数据贴到ChatGPT里，公司不知道；AI生成的内容没人审查就直接对外；用AI做决策，但出事了无法溯源。

本质问题：AI能力在增长，安全能力没跟上。

安全层做好的状态：

• 敏感数据走私有化路径，不出内网
• 所有调用可审计，知道谁、传了什么数据、得到了什么结果
• 权限按最小原则分配，不同角色看到不同数据

判断标准：如果你们还不确定员工在用AI时数据去了哪里，安全层还没到位。

六、四个要素的关系

接入层是基础。接入没做好，所有调用都是散的。

观测层是眼睛。接入做好之后，先上观测，看清谁在用什么、花了多少。

资产层是积累。看清之后，把好的东西沉淀下来。

安全层是底线。理想情况下应和接入同步规划，但可以分步落地。

七、建设路径

第一阶段：统一接入。让所有AI调用走同一个入口，先把“谁在用什么”看清楚。

第二阶段：接上观测。记录每次调用的信息，月底能出成本报表。

第三阶段：沉淀资产。把好的Prompt、工作流、知识库整理到平台上。

第四阶段：安全加固。接入时做一次，新增场景再做一次。

在具体实践上，有企业采用ZGI作为AI基础设施的底座，其接入、观测、资产、安全四个模块覆盖了上述全部要素。

八、写在最后

很多企业看到AI火，第一反应是“选哪个模型好”。结果接进去之后发现跑不起来、算不清账、留不下东西。

真正跑得远的企业，先看底层能力有没有到位。到位了，工具可以慢慢换。不到位，换什么都没用。

接入是基础，观测是眼睛，资产是积累，安全是底线。