模型 - 标签 - 腾讯云开发者社区-腾讯云

文章/答案/技术大牛

发布

首页标签模型

#模型

燃气工程师的本地AI推理方案：Ollama三后端搭建实录

用户12619379 11小时前2026-07-12 13:38:36

我装了6个模型，日常90%的请求落在 qwen2.5:7b 上。7B模型在M4芯片上跑，单次推理0.3-1.5秒，完全够用。

1300

把"个人工作流"跑成自动化流水线——一周 WorkBuddy 实战心得

用户12122707 13小时前2026-07-12 11:26:01

会话记录里有一条"添加三个 SenseNova 自定义模型"——把多家供应商的模型接进同一工作台，按任务类型灵活切换，避免被单一模型绑定。

2200

llm 训练脚本怎么写？平台启动怎么配？一文搞定

掘金安东尼 16小时前2026-07-12 08:16:06

比如用 LLaMA2 预训练一个通用大语言模型，它知道很多东西，想让它更像业务助手，回答时带品牌口吻、遵守业务流程，在大模型结构里，参数动辄几十亿，哪怕只改一点...

1100

从显存瓶颈到推理革命：vLLM 为何成为大模型服务的底层标配

掘金安东尼 16小时前2026-07-12 08:15:15

很多开发者都有一个共识：当模型基座的性能逐渐趋同，真正决定 AI 产品落地效率和成本的，是推理层的工程化能力。

700

LLM API调用成本降80%？我踩过的坑和实战方案

用户12493922 1天前2026-07-11 13:31:32

4810

大模型比价：别再盲目烧钱，教你选对API

用户12493922 1天前2026-07-11 13:31:13

4210

理解人工智能与灵性起源

王瑞MVP 1天前2026-07-11 13:20:24

假设，我们有一个设备可以观察这些细胞的意识形态，并将这些意识形态作为一个随机数来使用。那么，这个细胞驱动的大模型，自然就是真正的意识体大模型。也就是真正的具备了...

2610

本地部署千问 2.5-1.5B-GGUF + LangChain 封装学习

王瑞MVP 1天前2026-07-11 13:18:35

本教程基于llama.cpp实现大模型本地轻量化部署，适配RTX 5060 8GB显卡，选用轻量级的千问 2.5-1.5B 对话模型，通过 GPU 加速保证运行...

2110

Windows平台下CUDA安装及llama.cpp使用教程

王瑞MVP 1天前2026-07-11 13:16:23

本文将详细讲解Windows平台下，如何安装与NVIDIA RTX显卡匹配的CUDA工具包，并正确配置、使用llama.cpp加载大模型，实现模型高效运行（将模...

2810

Windows 环境下 llama.cpp 编译 + Qwen 模型本地部署全指南

王瑞MVP 1天前2026-07-11 13:13:57

在大模型落地场景中，本地轻量化部署因低延迟、高隐私性、无需依赖云端算力等优势，成为开发者与 AI 爱好者的热门需求。本文聚焦 Windows 10/11（64 ...

2200

#模型

燃气工程师的本地AI推理方案：Ollama三后端搭建实录

把"个人工作流"跑成自动化流水线——一周 WorkBuddy 实战心得

llm 训练脚本怎么写？平台启动怎么配？一文搞定

从显存瓶颈到推理革命：vLLM 为何成为大模型服务的底层标配

LLM API调用成本降80%？我踩过的坑和实战方案

大模型比价：别再盲目烧钱，教你选对API

理解人工智能与灵性起源

本地部署千问 2.5-1.5B-GGUF + LangChain 封装学习

Windows平台下CUDA安装及llama.cpp使用教程

Windows 环境下 llama.cpp 编译 + Qwen 模型本地部署全指南

热门专栏

腾讯云中间件的专栏

腾讯云 DNSPod 团队

腾讯开源的专栏

腾讯云服务器团队的专栏

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐