企业级 Java + AI 项目实战营：从架构选型到落地交付的完整手册

┌─────────────────────────────────────────────┐
│                  前端层                        │
│    React / Vue3 + TypeScript + Ant Design     │
├─────────────────────────────────────────────┤
│                  网关层                        │
│    Spring Cloud Gateway / Nginx               │
├─────────────────────────────────────────────┤
│                应用服务层                      │
│    Spring Boot 3.x + Spring AI + LangChain4j  │
├─────────────────────────────────────────────┤
│                AI引擎层                       │
│    OpenAI / DeepSeek / 通义千问 / 本地Ollama   │
├─────────────────────────────────────────────┤
│                数据层                          │
│    PostgreSQL + Redis + Milvus(向量数据库)     │
├─────────────────────────────────────────────┤
│              基础设施层                        │
│    Docker + K8s + Prometheus + ELK            │
└─────────────────────────────────────────────┘

用户提问 → 语义向量化 → Milvus检索相似FAQ → 大模型生成回答 → 引用溯源

java@Service
public class AiCustomerService {

    @Autowired
    private ChatClient chatClient;          // Spring AI 统一对话客户端
    @Autowired
    private VectorStore vectorStore;         // Milvus向量库

    public ChatResponse answer(String question) {
        // 1. 语义检索相关知识
        List<Document> relatedDocs = vectorStore.similaritySearch(question, 3);

        // 2. 构造RAG提示词
        String prompt = """
            你是企业客服助手。请根据以下参考资料回答用户问题。
            参考资料：%s
            用户问题：%s
            要求：只基于参考资料回答，不知道就说不知道。
            """.formatted(
                relatedDocs.stream().map(Document::content).collect(joining("\n")),
                question
            );

        // 3. 调用大模型
        return chatClient.prompt()
            .user(prompt)
            .call()
            .content();
    }
}

PDF/图片 → OCR识别 → LLM结构化提取 → 校验规则引擎 → 写入业务系统

java@Bean
public FunctionCallback contractExtractor() {
    return new FunctionCallback(new ContractExtractFunction());
}

// 定义AI可调用的函数
public record ContractExtractFunction(
    @Description("从合同文本中提取关键信息")
    String contractText
) {
    @Description("提取合同金额、甲方、乙方、签约日期")
    public ContractInfo extract(String text) {
        // Spring AI 自动将此函数注册给大模型
        // 模型会自动决定何时调用、如何填参
        return parseContract(text);
    }
}

java@Service
public class OrderAgent {

    private final AiServices aiServices;

    public String execute(String userRequest) {
        // 注册工具给AI
        ToolSpecification checkStock = ToolSpecification.builder()
            .name("checkStock")
            .description("查询商品库存")
            .addParameter("sku", "商品SKU编码")
            .build();

        ToolSpecification createOrder = ToolSpecification.builder()
            .name("createOrder")
            .description("创建采购订单")
            .addParameter("sku", "商品SKU")
            .addParameter("quantity", "数量")
            .build();

        // 构建Agent
        AiAgent agent = AiAgent.builder()
            .name("采购助手")
            .instructions("你是采购助手，帮用户完成采购流程")
            .tools(checkStock, createOrder, sendNotification)
            .build();

        return agent.chat(userRequest).getResult().output();
    }
}

src/main/java/com/company/ai/
├── config/
│   ├── AiModelConfig.java        // 多模型切换配置
│   └── VectorStoreConfig.java     // Milvus连接配置
├── service/
│   ├── RagService.java           // 知识库检索服务
│   ├── AgentService.java         // AI Agent编排
│   └── DocumentService.java      // 文档分析服务
├── controller/
│   └── AiController.java         // 统一AI接口网关
├── prompt/
│   ├── customer_service.txt      // 提示词模板
│   └── contract_extract.txt
└── model/
    ├── ChatRequest.java
    └── ChatResponse.java