首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏韩曙亮的移动开发专栏

    【AI 大模型】Meta Llama 3 大模型 ( Llama 3 大模型简介 | Ollama 软件下载安装 | Llama3 模型下载 | Llama 3 大模型 在线 离线 使用 )

    首先 , 安装 Ollama 软件 , 到 https://ollama.com/ 下载安装 ; 然后 , 运行 ollama run llama3 命令 , 即可开始使用 Llama3 大模型 ; 一 、Meta Llama 3 大模型安装 1、Llama 3 大模型简介 Llama 3 大模型 是 Meta 公司 发布的 大模型 , Meta 公司 就是 Facebook ; Llama 3 大模型 Llama3 大模型 ; 下载的模型放在了 C:\Users\用户名.ollama 目录中 , 在我的电脑上的路径是 C:\Users\octop.ollama ; 这个模型很大 , 有 4.7 G 安装完成后的效果 for help) 二、Meta Llama 3 大模型使用 1、Llama 3 大模型在线使用 在命令行中 , 可以直接进行对话 , 下面是对话内容 : D:\Llama>ollama run llama3 for help) 2、Llama 3 大模型离线使用 Llama 3 大模型 联网时 , 可以访问云端服务 , 可以生成更加丰富的文本 ; Llama 3 大模型 在 断网后也可以使用 , 下面是断开网络后

    2.2K12编辑于 2024-08-09
  • 来自专栏开源项目搭建

    简单3步部署本地国产大模型DeepSeek大模型

    简单3步部署本地国产大模型DeepSeek大模型DeepSeek是最近非常火的开源大模型,国产大模型 DeepSeek 凭借其优异的性能和对硬件资源的友好性,受到了众多开发者的关注。 本文将介绍如何通过简单 3 步在本地部署 DeepSeek 大模型,让你能够轻松体验这一强大的 AI 工具。 deepseek-r1的哪个版本的大模型? 它支持各种LLM,包括Llama 3、Mistral和Gemma。提供了类似OpenAI的API接口和聊天界面,可以非常方便地部署最新版本的GPT模型并通过接口使用。 理论上就安装完成了,可以只在命令行中使用大模型了。修改路径文件保存路径可以不用改,如果C盘空间不够用,建议修改。

    7.3K33编辑于 2025-02-06
  • 来自专栏Soul Joy Hub

    【大模型AIGC系列课程 3-2】国产开源大模型:ChatGLM

    GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写,是一种通用的语言模型预训练框架。 这个图示说明了GLM预训练的过程,具体解释如下: a) 原始文本:给定一个原始文本,例如[x1, x2, x3, x4, x5, x6]。 在这个例子中,我们随机选择了两个连续的词片段[x3]和[x5, x6]作为样本。 b) 替换和洗牌:在Part A中,我们将被选择的词片段替换为[M](表示遮盖)。 在这个例子中,我们将[x3]和[x5, x6]洗牌为[x5, x6]和[x3]。 c) 自回归生成:GLM使用自回归的方式生成Part B。 在生成过程中,模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码:为了限制模型的注意力范围,

    1.1K20编辑于 2023-08-28
  • 来自专栏openclaw系列

    OpenClaw怎么换大模型?3步免费切换各种大模型配置教程

    一句话总结:OpenClaw 本身不内置任何大模型,而是通过灵活的配置机制对接各类模型服务。更换模型只需三步:选择目标模型获取 API Key、在配置文件中添加模型提供商、重启网关生效。 但很多人忽略了一个关键问题:OpenClaw 本身不包含任何 AI 模型。就像一台性能再强的电脑,没有操作系统也无法工作。OpenClaw 的“大脑”完全来自你接入的大模型。 第一章:核心原理——OpenClaw 如何对接大模型?1.1 为什么需要更换模型?OpenClaw 的核心价值在于“连接”——连接大模型的思考能力与电脑的真实操作权限。 2.1 腾讯元宝模型配置(推荐中文场景)腾讯元宝基于混元大模型,提供强大的中文理解和多模态能力,2026 年推出免费额度方案,大幅降低使用门槛。 Q3:本地模型响应太慢怎么办?

    28.4K54编辑于 2026-03-28
  • 3SemanticKernel使用非ChatGPT大模型

    SK 目前提供了多个AI 提供商的Connector,但仅OpenAI 和Azure OpenAI 两种Connector(连接器)属于正式可用状态,国内开发者而言并不能访问国外大模型,因此如何使用国内大模型 好在,SK 在设计时也考虑了这个问题,接下来就来以智谱AI大模型为例来解密答案。 使用代理,诸如OneApi 自行实现 Connectors 注册智谱大模型 北京智谱华章科技有限公司(简称“智谱AI”)致力于打造新一代认知智能大模型,专注于做大模型的中国创新。 打造了AIGC模型及产品矩阵,包括通用大模型、超拟人大模型、图像大模型、向量大模型等,并且支持使用您的私有数据对模型进行微调。 ; response.Display(); 使用OneApi 对接流行大模型 OneApi 是一个GitHub 开源项目,帮助开发者通过标准的 OpenAI API 格式访问所有的大模型。

    36810编辑于 2026-06-17
  • 来自专栏大模型成长之路

    【大模型学习 | DeepSeek-V3原理】

    DeepSeek-V3 Technical Report DeepSeek-V3 的基本框架还是 Transformer。 另外,V3 模型是通过将预测多token作为训练目标。本文主要是对DeepSeek-V3的模型框架以及训练目标进行讨论。 什么是负载平衡? 2️⃣ DeepSeekMoE 在Transformer架构中的FFN层,V3模型采用了MoE进行替换,使用更细粒度的专家,并将一些专家隔离为共享专家。 ✅ Yes ✅ 无偏置 目前的模型权重已开源: https://huggingface.co/deepseek-ai/DeepSeek-V3-Base 者由于设备限制无法对 V3模型进行体验。

    1.9K21编辑于 2025-07-25
  • 来自专栏AI工程落地

    大语言模型--Llama3新特性

    更大的词表使得模型涵盖的语言更多、更加通用 Attention层--MultiHeadAttention算子 Llama3 8B和70B都使用了分组查询注意力机制(GQA),4个Query共享一对Key 减少了计算量,同时保持了模型的性能。 值是500000.0(Llama2用的是默认值10000.0) 上下文窗口中的最大Tokens从 4096增加到 8192 数据类型 Llama2开源的参数是float16格式的,但Llama3开源的参数都是 依赖软件包 transformers包升级到4.40.0以上 模型版本 2024年4月21号 初版 Llama3 8B的HellaSwag分数:acc 0.6039、acc_norm 0.776 2024年5月14号 第二版 Llama3 8B的HellaSwag分数:acc_norm 0.822

    49010编辑于 2024-05-29
  • 来自专栏啄木鸟软件测试

    多模态大模型技术原理与实战(3)

    在阿里巴巴达摩院发布的《2023 土大科技趋势》中,实现文本-图像-语音-视频“大统一”的多模态预训练大模型占据榜首。 ·CLIP模型:CLIP模型是OpenAI在2021 年推出的文本-图像多模态预训练大模型。证明了“多模态预训练大模型零样本推理”这种模式的可行性。 o解决图像多模态问题有3种传统的思路,分别是使用单编码器模型、双编码器模型、编码器-解码器模型。 ·单编码器模型指的是整个架构中只存在一个图像编码器的模型。 大模型+多模态的3种实现方法 1,以LLM 为核心,调用其他多模态组件 2023年5月,微软亚洲研究院(MSRA)联合浙江大学发布了HuggingGPT。 3.视觉问答任务 视觉问答任务指的是根据图像或视频中描述的内容进行回答、体现了多楼态大模型的自然语言理解和推理能力。 这个城市拥有哪些著名大学? 上海是中国著名的现代化城市,拥有多所知名大学。

    1.5K20编辑于 2024-09-10
  • 来自专栏贾志刚-OpenCV学堂

    DINOv3视觉基础大模型正式发布!

    Meta 宣布发布 DINOv3,这是一个前沿的自监督视觉基础模型,在广泛的计算机视觉任务中实现了前所未有的性能。 随着 DINOv3 的发布,我们在密集任务上显著超过了弱监督模型,通过最佳类别的 WSL 模型的相对性能来展示(b)。 我们还使用在自然图像(c)和航拍图像(d)上训练的 DINOv3 生成了特征的 PCA 图。 DINOv3 通过采用全面的模型套件来扩展自监督学习的应用范围,以满足不同的用例需求。 DINOv3模型家族 通过 DINOv3,我们显著改善了密集特征图的退化问题,这要归功于 Gram anchoring。随着 SSL 导致的训练模型规模扩大,结果是显着的性能提升。 在这项工作中,我们成功地训练了一个包含 70 亿参数的 DINO 模型。由于如此大的模型需要大量的资源来运行,我们应用蒸馏技术将其知识压缩成更小的变体。

    1.5K10编辑于 2026-04-02
  • 来自专栏自然语言处理(NLP)论文速递

    港大 | 发布 “点云” 大模型:PointLLM,旨在实现大模型在3D对象上的应用!

    这些模型已成为多功能工具,可以充当通用接口来执行一系列复杂任务。然而,在文本任务上的应用只是大语言模型(LLMs)应用众多应用场景中的一个。 提出了PointLLM,其模型效果如下图所示:  如上图:PointLLM是一种能够理解物体的彩色点云的多模态大语言模型。它能够感知对象类型、几何结构和外观,而无需考虑模糊的深度、遮挡或视点依赖性。 然而,构建能够理解物体点云的多模态大模型,存在三个特别关键的问题:1)缺乏模型训练数据;2)构建合适的模型架构;3)缺乏全面的评估标准和方法。 模型架构如下图所示:  对于PointLLM模型训练采用两阶段策略:点云编码器和大语言模型之间的潜在空间进行初始对齐,然后对统一模型进行指令调整。 这种方法确保了3D点云的几何和外观信息与语言模型的语言功能的有效融合。 「最后,基准和评估」 作者建立了两个不同的基准:生成3D对象分类和3D对象描述,并配有多样化的评估框架,以评估模型对点云的理解。

    3.6K20编辑于 2023-09-14
  • 来自专栏接地气学堂

    3大基础模型,搞掂互联网产品分析

    今天就系统地讲解一下,互联网产品有哪些类型,以及每一类的基础分析模型。 01 互联网产品3大类型 互联网产品有很多分类方式,但站在:“产品是干什么的”角度,就只有3大类: 交易型产品:以促成一笔商品/服务交易为目标。 内容型产品:以提供视频/文字内容给用户看为目标。 03 3大基本分析模型 了解了产品分类与产品主指标,可以更进一步看基本分析模型。 第一类:交易型产品漏斗模型。 交易型产品目标就是提升交易,只是不同的路径促成交易效率不一样,因此漏斗模型是非常适合的(如下图): ? 如果是站外直接引流,则是纯粹的漏斗模型,考察每个漏斗转化率即可。 第二类:内容型产品的分群模型。 内容型产品理论上也能用类似的漏斗模型,观察用户是否愿意完成一次内容浏览,以及内容浏览后是否有转发、点赞、买货等行为(如下图)。 ?

    77220发布于 2021-07-23
  • 国产大模型选型指南:避开这3个坑

    国产大模型选型指南:避开这3个坑 这篇文章写给正在做AI应用落地、面临国产大模型选型困惑的你。我见过太多团队,花了几周时间测试各种模型,最后发现成本超预算、效果不匹配,甚至被API计费坑了。 但现在,国产大模型生态已经爆发了——通义千问API、文心一言API、豆包大模型API、讯飞星火API,还有DeepSeek-V3、Qwen-Max等,每个模型都有自己的强项和短板。 比如,文心一言API在中文长文本上很强,但代码生成不如DeepSeek-V3;Gemini 2.5 Pro处理多模态不错,但价格高。 使用大模型路由工具,你可以根据任务类型自动切换模型。 我遇到过一个客户,他们在智能写作API场景下,用了某国产大模型,月消耗超过10万token,但后来切换到DeepSeek-V3,成本降了一半。 还有个小技巧:利用模型网关来缓存重复查询。 总结:选国产大模型的三个原则 1. 按场景匹配,别跟风。通义千问API适合中文长文本,DeepSeek-V3适合代码,豆包大模型适合多模态。2. 先测试再付费。

    36100编辑于 2026-07-04
  • 来自专栏AI

    最强开源大模型Llama 3发布!

    最强开源大模型Llama 3发布!我们看下重点: 今天,我们介绍Meta Llama 3,这是我们最先进的开源大型语言模型的下一代。 我们对Llama 3的目标 通过Llama 3,我们致力于构建与当今最优秀的专有模型相媲美的最佳开源模型。 今天发布的基于文本的模型是Llama 3模型系列的首批模型。我们未来的目标是使Llama 3具备多语言和多模态能力,具有更长的上下文,并持续提升核心LLM功能,如推理和编码的整体性能。 我们的训练数据集比Llama 2使用的大七倍,其中包含四倍的代码。为了准备即将到来的多语言用例,超过5%的Llama 3预训练数据集包含覆盖30多种语言的高质量非英语数据。 Llama 3的8B和70B模型标志着我们计划为Llama 3发布的开始。而且还有更多的内容即将推出。 我们最大的模型超过了400B参数,虽然这些模型仍在训练中,但我们的团队对它们的发展趋势感到兴奋。

    1.5K10编辑于 2024-04-25
  • 来自专栏腾讯开源的专栏

    腾讯混元宣布大语言模型和3D模型正式开源!

    腾讯混元大模型正在加快开源步伐‍ 11月5日,腾讯混元宣布最新的MoE模型“混元Large“以及混元3D生成大模型“ Hunyuan3D-1.0”正式开源,支持企业及开发者精调、部署等不同场景的使用需求 其中,腾讯混元Large是目前开源领域参数规模最大、效果最好的MoE模型,而腾讯混元3D生成大模型则是业界首个同时支持文字、图像生成3D的开源大模型。 业界首个同时支持文字、图像生成3D的开源大模型 腾讯混元3D生成大模型首批开源模型包含轻量版和标准版,轻量版仅需10s即可生成高质量3D资产,目前已在技术社区公开发布,包含模型权重、推理代码、模型算法等完整模型 该模型具有强大泛化能力和可控性,可重建各类尺度物体,大到建筑,小到工具花草。经过定性、定量多个维度的评估,腾讯混元3D生成大模型的生成质量已达到开源模型的先进水平。 其中,腾讯地图基于腾讯混元3D大模型,发布了自定义3D导航车标功能,支持用户创作个性化的 3D 导航车标,相比传统的3D车标重建方案,速度提升了91%。

    2.6K20编辑于 2025-02-05
  • 来自专栏创作是最好的自我投资

    通用大模型VS垂直大模型

    在人工智能这个充满无限可能的领域内,通用大模型和垂直大模型各有千秋。就我个人而言,在二者之间的选择上,并不存在偏向某一方的倾向。我觉得应当依据实际应用场景的具体需求,来挑选最为契合的大模型。 通用大模型通用大模型,乃是旨在应对多种任务与数据类型的庞然大物级人工智能模型。 在知识覆盖的广度方面,通用大模型无疑具有明显的优势。当我们对于当下所需模型所涉及的精确专业领域的界限感到模糊不清时,选择通用大模型无疑是一种明智之举。垂直大模型接下来谈谈垂直大模型。 然而,由于垂直大模型的训练内容聚焦于当前行业,其涉猎的范围更集中,数据针对性更强,所以在提供专业咨询时往往更加精准、细致,这也正是垂直大模型的独特价值所在。 因此,对于通用大模型或者垂直大模型,更倾向于哪一方不取决于个人想法,而是取决于用户需要。

    1.2K01编辑于 2024-12-30
  • 来自专栏小洁叫你mysql

    【AI大模型】训练Al大模型

    大模型超越AI 目前所指的大模型,是“大规模深度学习模型”的简称,指具有大量参数和复杂结构的机器学习模型,可以处理大规模的数据和复杂的问题,多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域,以及与大模型相关的挑战和未来发展方向。 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数,而大模型则可能拥有数亿或数十亿个参数。 训练大模型的挑战 训练大模型需要应对一系列挑战,包括: 以下是与大模型相关的一些代码示例: 计算资源需求: import tensorflow as tf # 指定使用GPU进行训练 with tf.device 更智能的模型压缩技术:模型压缩和加速技术将继续发展,以减小大模型的计算和存储开销。 更好的计算平台支持:为了支持训练和部署大模型,计算平台将继续改进,提供更强大的计算资源和工具。

    2.1K30编辑于 2023-10-10
  • 国外大模型API选型实战:避开这3个坑

    国外大模型API选型实战:避开这3个坑 这篇文章是写给那些正在做AI应用开发、需要接入国外大模型API的团队和个人。 国外大模型API的核心差异是什么? 很多人以为国外大模型API就是GPT-4o和Claude的简单对比。其实关键在于模型能力和计费模式的组合。 最终我们选择了Token工场,因为它支持一键切换模型,比如从GPT-4o降级到DeepSeek-V3,API调用代码不用改。 避坑提醒:千万别只看价格。 后来我们帮他们迁移到多模型统一接入方案。用了Token工场的大模型路由功能,把简单问题路由到便宜模型(比如Gemini 2.5 Pro),复杂问题才用GPT-4o。 客户反馈说,之前每次模型更新都要改代码,现在只需要在控制台切换版本。 未来趋势:国外大模型API的演进方向 从Gartner去年的报告看,多模型统一接入会成为企业AI接入的标准。

    32810编辑于 2026-07-11
  • 来自专栏AI工程落地

    大语言模型--Llama3 token结束符问题

    背景 结束符是一个句子(prompt)的结尾标记,再大语言模型中,句子中的每个单词都会被编码成数字才能被模型处理。同样的,结尾标记也会被编码成一个数字。 再Meta给的源码中,Llama3的结束符是-1(pad_id=-1,参考llama3/llama/tokenizer.py at main · meta-llama/llama3 (github.com transformers中现在是不支持pad_id=-1的,当同时给模型输入了多个句子(batch>1),我们就没法标记单个句子结束的地方。 解决办法 再Llama的源码中,我们看到向分词器(tokenizer模型)中添加了很多special_tokens,并且代码里也有用<|end_of_text|>、<|eot_id|>两个令牌来判断生成的句子是否结束

    1.9K10编辑于 2024-07-09
  • 来自专栏架构师成长之路

    大模型llm:Ollama部署llama3学习入门llm

    一、llama3简介 Llama 3 是一个自回归语言模型(an auto-regressive language),它使用优化的 transformer 架构。 Llama3大型模型则达到400B,仍在训练中,目标是实现多模态、多语言的功能,预计效果将与GPT 4/GPT 4V相当。 三、llama3 模型下载安装 1、llama3 下载 默认下载的是llama3:8b。 这里冒号前面代表模型名称,冒号后面代表tag,可以从这里查看llama3的所有tag ollama pull llama3:8b 默认下载的是llama3:8b。 这里冒号前面代表模型名称,冒号后面代表tag,可以从这里查看llama3的所有tag ollama pull llama3:70b 2、运行llama3模型 ollama run llama3 上述命令将自动拉取模型

    7.6K00编辑于 2024-05-24
  • 来自专栏算法一只狗

    Grok3大模型是「地表最强」的AI吗?

    首先看看具体的跑分情况,整体的Grok3模型在数学领域AIME、科学领域GPQA和代码测试上,都超越了其他模型。 编程 (Coding LCB Oct-Feb)领域上: Grok-3(57分) 明显领先其他大模型 其他模型得分在 34-41 之间,相比数学和科学测试,差距较小。 而且,从整体的Grok 3跑出的模型整体分数来看,是 首个超过 1400 分 的模型啊!果然,马斯克吹过的牛都会实现,自家的Grok3在这个分数榜单上确实是史上最强模型。 在发布会上还有一张图展示了目前Grok3发展的速度。乍一看你会觉得Grok系列大模型的发展有点过快,好像从23年到现在一下子就追上了GPT-4o模型了。 走的还是大力出奇迹的大模型训练路子。 而对比起GPT-4o和DeepSeek-V3用的GPU数量,Grok3的训练简直是土豪级别的用法的。

    66310编辑于 2025-03-18
领券