- 综合排序
- 最热优先
- 最新优先
- 来自专栏.Net Core技术分享
Ollama本地部署大模型总结
今天计划对之前ollama系列做个回顾，从如何部署到API使用，整理到一篇内容中，提供给大家参考。 安装完成后打开，你会看到一个聊天窗口： 使用ollama中的大模型 我们在上一篇中在本地安装了ollama和deepseek，现在我们把它集成到刚安装的chatbox中。 和本地大模型对话 点击左侧新对话，开启新的对话。 向大模型提问试试吧 创建智能体 恭喜你已经完成了ollama和chatbox的集成，现在你的对话数据都保留在本地，绝对的安全和隐私。 运行起来后界面如下： 集成ollama中的本地模型 将cherryStudio运行起来后，点击界面左下角的小齿轮进行设置。 \n2. **下雨天**：云层覆盖天空，可能导致颜色较为阴郁或变黑。\n3. **雨后天气**：雨后的天空可能恢复为明亮的色调。
5.7K11编辑于 2025-03-30 - 来自专栏机器学习
OpenCloudOS部署OpenClaw配置本地Ollama
上一篇内容我们在OpenCloudOS部署好了OpenClaw，但是还没有配置它的LLM，今天我们在艾克斯开发板上使用Ollama来部署一个小模型。 Ollama安装通过ssh登录我们的设备输入curl-fsSLhttps://ollama.com/install.sh|sh进行下载。输入密码后等待安装完成。完成安装。 添加ollama的模型我们在ollama的官网可以看到，它们已经可以很方便的和OpenClaw进行对接了，因此我们按照官网的提示进行配置看看是否可行。 --eGDEsRIwEa2-a5YEyG-_T-n4pRF9XfiAnn5S8XlAbkEJ9oO_b-yM1pKn4-lT7kQC2P1ZRp9PtbKpeSVZ83feXXFwVkRO2-ijkthHMywiVo4i6KTAD8CbKETOZ8lY0xNZ0Qyy2nLjxOsFWk35SEibniemE &q-sign-algorithm=sha1&q-ak=AKIDR_xdfcaGLul8yIYqLBJ4-6Xy2bb2GT38hN4ErS1trGXYjlF8_iEnKhyvF28SR2a9&q-sign-time
10.4K01编辑于 2026-02-12 - 来自专栏陈冠男的游戏人生
使用ollama本地部署开源大模型
chatGPT 刚出来没多久的时候，openai 时不时的限制使用频率，当时我想要是能本地部署一个大模型，无限制的使用该多好哇。 后来有很多团队/公司陆陆续续在 github 开源了他们自己训练的大模型，但是部署使用的操作门槛比较高，曾经试图部署过一个，报了几个错也没时间折腾就放弃了 前几天我发现了一个叫 ollama 的项目，根据介绍 ollama/ollama/releases 安装好之后直接在命令行执行ollama run llama2就会自动去下载并运行 llama2 这个模型，下载甚至不需要挂代理，很舒适： 等模型下载结束后会自动进入命令行的交互模式 ，此时就已经部署结束了 可以在：https://ollama.com/library 找到更多的模型 但是在命令行中直接交互里很多格式解析不出来，看起来怪怪的，可以使用 chatbot-ollama 这个项目部署一个 npm（直接安装 nodejs，会附带安装 npm），然后下载 chatbot-ollama 项目到本地，在文件夹中依次执行这两条命令即可： npm ci npm run dev 此时会自动打开一个
3.3K20编辑于 2024-03-05 - 来自专栏Python与算法之美
Ollama 本地CPU部署开源大模型
Ollama可以在本地CPU非常方便地部署许多开源的大模型。 如 Facebook的llama3, 谷歌的gemma, 微软的phi3，阿里的qwen2 等模型。 ollama run qwen2 #跑qwen2模型，如果本地没有，会先下载 ollama pull llama3 #下载llama3模型到本地 ollama list #查看本地有哪些模型可用 ollama rm #删除本地的某个模型 ollama help #获取帮助 ! import subprocess #后台启动一个qwen2模型服务，相当于 在命令行中运行 `ollama run qwen2` cmd = ["ollama","run qwen2"] process 2, 使用openai接口交互 #!pip install openai ollama还支持非常热门的openai接口，简简单单，本地就mock了一个chatgpt。
4.2K11编辑于 2024-06-26 - 来自专栏软件测试学习
Ollama搭配DeepSeek，本地部署全攻略
在人工智能领域，大型语言模型（LLMs）正变得越来越普及，而将这些模型部署到本地设备上，不仅可以提高数据隐私性，还能降低对网络的依赖。 Ollama 是一个开源工具，能够帮助用户轻松地在本地运行各种大型语言模型，包括 DeepSeek。本文将详细介绍如何通过 Ollama 在本地安装和使用 DeepSeek 模型。 一、Ollama 简介 Ollama 是一个开源的本地大模型部署工具，旨在让用户能够在个人电脑上运行各种开源大型语言模型（如 Llama、DeepSeek 等）。 通过 Ollama，开发者、研究者和爱好者可以快速部署私有化 AI 应用，无需依赖云端服务，同时享受高效、安全的本地 AI 体验。 通过 Ollama 在本地使用 DeepSeek 模型，不仅可以提供更高的隐私性和灵活性，还能让用户在没有互联网连接的情况下使用 AI 大模型。
9.1K10编辑于 2025-02-18 - 来自专栏Algorithm
Ollama【部署 06】使用Docker部署AnythingLLM让全员共享智能体（使用本地Ollama）
AnythingLLM是一个全栈应用程序，可以使用现成的商业大语言模型或流行的开源大语言模型，构建一个私有ChatGPT，不再受制于人，本地运行，能够与您提供的任何文档智能聊天。 展开代码语言：BashAI代码解释mkdir-p/opt/anythingllm设置目录权限：避免权限不足导致部署失败。 -eOLLAMA_BASE_URL="http://127.0.0.1:11434"\--restartalways\docker.1ms.run/mintplexlabs/anythingllm验证部署 /bin/bash/usr/loca…"7minutesagoUp3minutes(healthy)anythingllm#查看日志dockerlogs-f--tail=100741794bc32ea2. 设置Ollama验证配置：返回AnythingLLM主界面，创建新对话，输入任意问题，若能正常收到回复，说明配置成功。
70410编辑于 2026-06-11 - 来自专栏AI大流行时代
Ollama系列：轻松3步本地部署deepseek
本文主要介绍如何通过ollama快速部署deepseek、qwq、llama3、gemma3等大模型，网速好的小伙伴10分钟就能搞定。让你摆脱GPU焦虑，在普通电脑上面玩转大模型。 ollama run deepseek-r1:1.5b下载完成后，ollama会为我们运行刚下载的大模型。下面是我运行成功的截图：第三步：使用大模型恭喜你已经在本地成功安装了第一个私有大模型。 内容讲解（干货）ollama是什么？Ollama 是一款开源工具，能让你在个人电脑上本地运行各种大语言模型（如 DeepSeek、QwQ等）。 总结本文介绍了如何使用ollama本地部署DeepSeek等大模型，通过干货分享了ollama常用的指令，以及如何获取更多大模型。但是我们目前仍然只是在命令行使用大模型，非常的不友好。 下一章我们将介绍如何摆脱命令行的束缚，将ollama集成到本地的AI工具中，实现聊天、自定义智能体等功能。
1.3K10编辑于 2025-03-15 - 来自专栏Linux相关
Ollama【部署 02】Linux本地化部署及SpringBoot2.X集成Ollama（ollama-linux-amd64.tgz最新版本 0.6.2）
.exe（实现客户端操作）1.本地部署1.1 软件安装Ollama 官网1.1.1 脚本安装curl -fsSL https://ollama.com/install.sh | sh脚本安装默认路径是 > download.log 2>&1 &# 使用 wget 进行断点续传nohup wget -c https://ollama.com/download/ollama-linux-amd64.tgz > download.log 2>&1 &# wget跟随的最新urlhttps://github.com/ollama/ollama/releases/latest/download/ollama-linux-amd64 /ollama serve >> serve.log 2>&1 &# CPUmsg="inference compute" id=0 library=cpu variant=avx2 compute=" /ollama serve >> serve.log 2>&1 &Ollama 的环境变量：Usage: ollama serve [flags]Aliases: serve, startFlags
4K10编辑于 2025-08-22 【免费】本地AI模型部署DeepWiki项目：基于Ollama
离线可用：无需互联网连接即可使用全部功能 模型定制：可根据项目需求自由选择和切换不同规模的AI模型 安装Ollama Ollama是一个轻量级的本地AI模型运行框架，支持跨平台部署： Windows系统安装 =0.0.0.0:11435 nohup /home/jiyegui/program_files/ollama/bin/ollama serve > ~/ollama.log 2>&1 & 下载AI模型 =your_ollama_host \ deepwiki:ollama-local 使用 访问本地服务：http://localhost:3001 输入目标代码库地址（支持Git平台或本地路径） 勾选"使用本地Ollama模型"选项 点击"生成文档"按钮即可 系统将自动完成以下流程： 使用nomic-embed-text模型分析代码结构 使用qwen3:1.7b模型生成文档内容 所有处理均在本地完成 #DeepWiki #AI #Ollama #AI本地部署
30310编辑于 2026-06-17- 来自专栏小胡的技术分享
玩转deepseek本地部署版ollama融合其他大模型
引言部署完成本地版本的deepseek后很多兄弟们想去接入其他厂商的大模型进行微调和测试下面我就用宝塔Linux面板的快速搭建来示范如何接入大模型。 正文1.安装宝塔面板1.1在应用大模型前需要先安装一下宝塔面板——面板后台docker——“AI大模型”选项1.2来到“AI大模型”选项界面找到“DeepSeek-R1”选项注意：只有这个可以一键完成部署和拉去镜像哈 1.3点击“安装”进入配置界面选择版本绑定域名即可注意：这里的模型越大内存越大对服务器要求越高2.配置大模型2.1安装完成后来到后台配置大模型2.2大模型界面的右上角点击一下选择“管理员面板”点击进去2.3
1K10编辑于 2025-02-12 - 来自专栏养虾记
OpenClaw 接入本地 Ollama
1.概述本手册介绍如何在OpenClaw中配置本地Ollama服务。Ollama是一个开源的本地大语言模型运行框架，支持在本地机器上运行多种开源模型，如Llama、DeepSeek、Qwen等。 适用范围：希望在本地运行AI模型的用户需要离线使用OpenClaw的用户关注数据隐私的用户想要降低API调用成本的用户Ollama的优势：本地运行：数据不离开本地机器，保护隐私离线可用：无需网络连接即可使用开源免费 /qwen2.5:7bgateway.mode:localgateway.port:18789gateway.bind:loopback步骤2：选择模型提供方，配置Ollama连接在Model/authprovider token=YOUR_TOKENWebUI界面会显示当前使用的模型：Default(qwen2.5:7b-ollama)，表示已成功连接到本地Ollama服务。 检查端口占用：展开代码语言：BashAI代码解释$lsof-i:11434查看Ollama日志：展开代码语言：BashAI代码解释$ollamaserve2>&1检查环境变量：展开代码语言：BashAI
5.3K42编辑于 2026-03-31 - 来自专栏AI工具部署开发
ollama官网下载DeepSeek-R1实现本地部署
最近Deepseek被一再的推上热搜，那么我们今天来一起研究下利用OllaMa官网开源的DeepSeek-R1本地部署的整个流程以及所需要的工具。 在这里我们可以看到有很多系统版本，以及我们所需要的Ai大模型，当然不止是有DeepSeek-R1，还有 Llama 3.3、Phi-4、Mistral、Gemma 2 和其他模型。 他们都是可以利用本文的方法进行部署。二、下载所需大模型进行本地部署打开ollama官网下载 Ollama找到我们所需要的大模型索要部署的系统。 本地部署Windows + R 打开运动 输入 cmd 进入 管理员控制板 Ctrl + C 复制ollama run deepseek-r1:671b这里的671B可以换成你所下载的版本 也就是上面所提到的 原文链接：ollama官网下载DeepSeek-R1实现本地部署 - 小店盟电商运营
1.4K10编辑于 2025-02-11 DeepSeek实践-5分钟快速腾讯云部Ollama部署本地部署
部署DeepSeek步骤 1、安装Ollama Ollama 是一款功能强大的开源工具，专为在本地运行、部署和管理大型语言模型（LLMs）而设计。 执行安装命令： 在终端中输入以下命令并回车： curl -fsSL https://ollama.com/install.sh | sh 2、部署DeepSeek 借助 Ollama，我们可以轻松部署 以下步骤将指导您部署 deepseek-r1:1.5b 版本： 执行部署命令： 在终端中输入以下命令并回车： ollama run deepseek-r1:1.5b 2.开始对话： 部署完成后，您可以直接在终端与 本地部署 成功在本地部署DeepSeek AI助手后，您将能够在个人电脑上畅享其强大功能，无需担忧网络延迟和隐私泄露问题。 定期重启服务： 如果您使用的是Ollama等本地部署的AI服务，建议您定期重启服务，以释放内存并清除缓存，确保AI始终保持最佳运行状态。
2.9K21编辑于 2025-03-19- 来自专栏AI大模型
别被 “一键部署” 骗了！使用Ollama本地部署DeepSeek 避坑指南
最近最火的莫过于DeepSeek，现在网上关于 AI 模型部署的文章一抓一大把，动不动就是 “一键部署，轻松上手”、“30 分钟搭好一个本地能跑起来的大模型”。 Ollama 是什么 Ollama 则是咱们搭建模型的得力助手，它就像是一个智能的建筑工人，能够帮助我们快速、轻松地部署各种大型语言模型。 2、使用github文件加速替换github下载地址 sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https Step 2：启动模型 输入以下命令来启动模型： ollama run deepseek-r1:14b 这一步整体还算顺利，没什么大毛病。唯一小闹心的就是初次下载时，速度就像老黄牛拉车，磨磨蹭蹭的。 接下来在chatbox 中设置Ollama 的地址即可。 通过以上几步，我们就可以使用Ollama 在本地部署DeepSeek大模型了。
4.5K10编辑于 2025-04-04 - 来自专栏云云众生s
使用Ollama和Llama 2设置和运行本地LLM
译自 How to Set up and Run a Local LLM with Ollama and Llama 2，作者 David Eastman 是一位常驻伦敦的专业软件开发人员，曾在 Oracle 为此，我使用的是 Ollama。这是“一个允许你在本地机器上运行开源大型语言模型 (LLM) 的工具”。 如果你正在寻找作为测试工作流一部分的 LLM，那么 Ollama 就是适合的选择： @patrickdubois 的 GenAI 测试演示 对于测试来说，从 Ollama 控制的本地 LLM 是很好的自包含系统 我安装了 Ollama，打开了我的 Warp 终端，然后被提示尝试 Llama 2 模型（暂时我会忽略这个不是真正开源的论点）。 Ollama 将自己设置为本地服务器，端口为 11434。我们可以通过一个快速的 curl 命令来检查 API 是否响应。
1.4K20编辑于 2024-03-28 - 来自专栏TechLead
使用Ollama部署本地LLM：构建AI REST API的简易指南
利用Ollama本地LLM（大语言模型）搭建AI的REST API服务是一个实用的方法。下面是一个简单的工作流程。 1. 安装Ollama和LLMs 首先，在本地机器上安装Ollama和本地LLMs。 Ollama可以帮助你轻松地在本地部署LLMs，并让它们更方便地处理各种任务。 , "stream": false }' 2. 设置FastAPI 接下来，设置一个Python的FastAPI应用。 部署 当你对REST API的功能和性能感到满意后，可以将此服务部署到生产环境。这可能涉及将其部署到云平台、使用Docker进行容器化，或者在服务器上部署。 在这个简单的示例中，我们通过使用Ollama进行本地LLM部署并结合FastAPI构建REST API服务器，创建了一个免费的AI服务解决方案。
2.8K10编辑于 2024-09-27 - 来自专栏机器学习与统计学
可本地部署，支持Ollama大模型
Presenton 直接把这些痛点一锅端了：开源、本地部署、支持自定义模板、还能当 API 服务用。目前 GitHub 已经 3.5k+ Star，40 个版本迭代，值得一试！ 你可以用 OpenAI、Gemini、Claude 这些云端模型，也可以用 Ollama 跑本地开源模型，数据完全不出你的机器。 Image 1.5、Gemini Flash、Pexels、Pixabay、ComfyUI 都支持 ✅ 富媒体支持：图标、图表、自定义图形 ✅ 本地运行：所有处理都在你设备上完成 ✅ API 部署：可以部署成你团队的 /app_data:/app_data" \ ghcr.io/presenton/presenton:latest 使用 Ollama 本地模型 想完全离线、完全隐私？ 优点： ✅ 完全本地部署，隐私有保障 ✅ 支持从现有 PPTX 学习风格，品牌一致性搞定 ✅ 多 LLM 提供商支持（OpenAI/Gemini/Claude/Ollama/自定义） ✅ 多图像来源支持
5.9K21编辑于 2026-01-05 - 来自专栏云技术与
ollama 离线安装本地模型
下载安装脚本install.sh 下载 https://ollama.com/install.sh，编辑如下 修改安装路径改成本地安装 #! id ollama >/dev/null 2>&1; then status "Creating ollama user..." 2>&1; then status "Adding ollama user to render group..." ，可以运行其他模型 ollama run deepseek-r1:7b ollama run deepseek-r1:14b ollama run deepseek-r1:32b DeepSeek本地化部署硬件配置要求一览表 ： 7 启动ollama 服务 ollama serve 服务启动后，可以通过访问 http://localhost:11434 来与模型进行交互 Ollama 启动默认只有127.0.0.1 本地可以访问
2.4K10编辑于 2025-10-31 - 来自专栏AI SPPECH
MCP Client 与 Ollama 本地模型
新要素 1：Ollama 模型管理器 支持通过 Ollama API 管理本地模型 支持模型的拉取、运行、停止和删除 提供模型状态的实时监控 新要素 2：统一的模型接口 提供与云端模型一致的 API 接口 **标准化接口**：提供统一的 API 接口，简化本地模型集成 2. **多模型支持**：支持同时管理和使用多个本地模型 3. **混合部署**：原生支持本地模型与云端模型的混合使用 4. **模型选择与部署**： - 根据任务需求选择合适的本地模型 - 考虑模型大小和硬件资源限制 - 选择合适的模型量化和优化策略 2. **促进本地模型的普及**：简化本地模型的集成和使用，降低本地模型的使用门槛 2. **推动混合部署模式的发展**：结合本地模型和云端模型的优势，优化成本和性能 3. , Ollama, 本地模型, 隐私保护, 混合部署, 性能优化, 模型路由, 故障回退
83111编辑于 2026-01-07 - 来自专栏.Net Core技术分享
ollama系列1：轻松3步本地部署deepseek，普通电脑可用
本文主要介绍如何通过ollama快速部署deepseek、qwq、llama3、gemma3等大模型，网速好的小伙伴10分钟就能搞定。让你摆脱GPU焦虑，在普通电脑上面玩转大模型。 ollama run deepseek-r1:1.5b 下载完成后，ollama会为我们运行刚下载的大模型。下面是我运行成功的截图： 第三步：使用大模型 恭喜你已经在本地成功安装了第一个私有大模型。 内容讲解（干货） ollama是什么？ Ollama 是一款开源工具，能让你在个人电脑上本地运行各种大语言模型（如 DeepSeek、QwQ等）。 总结 本文介绍了如何使用ollama本地部署DeepSeek等大模型，通过干货分享了ollama常用的指令，以及如何获取更多大模型。 但是我们目前仍然只是在命令行使用大模型，非常的不友好。 下一章我们将介绍如何摆脱命令行的束缚，将ollama集成到本地的AI工具中，实现聊天、自定义智能体等功能。
88200编辑于 2025-03-16
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号