首页
学习
活动
专区
圈层
工具
发布

#缓存

缓存就是数据交换的缓冲区(称作Cache),当某一硬件要读取数据时,会首先从缓存中查找需要的数据,如果找到了则直接执行,找不到的话则从内存中找。缓存的作用是帮助硬件更快地运行。

最近在做的一些事情

jeanron100

最近专门腾出来不少时间做一些vibe coding的事情,进度比原来快了不少,也和大家分享下最近在做的一些事情。

3710

transformers v5.13.0发布:7大新模型接入、统一导出上线、Kernels大升级、生成与缓存全面修复,一文看懂全部更新

福大大架构师每日一题

如果你维护过 KV cache、静态缓存、混合缓存或窗口注意力,这些改动会明显降低踩坑概率。

4710

【独立开发】马哥文案提取器:用小程序实现轻量化解析无水印视频

马哥python说

短视频内容越来越多以后,一个很常见的工作流是:看到一个不错的选题、脚本或案例,先把链接保存下来,再回头整理文案、截图、视频素材和话题标签。

4410

Dubbo 负载均衡全解析:六种策略的调用链、行为与历史教训

阿特拉斯

Dubbo 的负载均衡是一个 SPI 扩展点 org.apache.dubbo.rpc.cluster.LoadBalance,默认实现是 random。官方注...

3500

产品说改一句 Prompt,你要发一次版?我开源了这个工具,专治这个病

不肯过江东丶

当 Prompt 被发布时,PromptHub 通过 Redis Pub/Sub 广播一条"缓存驱逐"消息,所有订阅了该消息的微服务实例收到后,立刻清空对应 P...

5010

一行命令砍掉92%的token,GitHub万星Headroom凭什么

乐小野

石化盈科信息技术有限责任公司 | 算法工程师 (已认证)

第二,规模化后的存储问题。CCR的本地缓存会持续增长。文档里提到了hash-based的去重,但对于长期运行的Agent系统,缓存清理策略和存储上限没有详细说明...

5410

LLM API调用成本降不下来?试试这个路线

用户12493922

8210

Next.js 原生实现 PWA 离线能力

掘金安东尼

然后我们将使用 缓存优先 策略缓存静态文件,这意味着在安装时我们会保存文件,在激活时我们会使用缓存的文件而不是从服务器获取。

8910

如何用 120 行提示词让 AI 写少一半的代码——ponytail

深蓝studyzy

LLM 的训练数据里充斥着教程、博客、开源项目。这些代码的共同特征是完整——类要有构造函数,方法要有错误处理,模块要有清晰的接口边界。说实话,这不是坏代码。但这...

15210

磁盘和CPU之间为什么会有缓存和内存

胖头鱼的鱼缸

要理解 CPU 物理核心如何操作数据,需先厘清其配套存储体系的设计规则与分工,原内容中的部分细节需修正补充,具体如下:

12810

移动公有云向外扩展的利刃——海山

胖头鱼的鱼缸

海山数据库V2.0采用联邦缓存技术,将计算节点内存池化,设置数据分区策略,每个计算节点缓存部分数据,提高缓存利用率。避免常规云原生数据库架构中,每个存储节点随机...

13810

内网代理神器 Squid:从踩坑到填坑,这一篇给你讲透

悠悠12138

cache_dir 指定缓存目录、类型、大小、一级目录数和二级目录数。这里给了 10GB 缓存空间。maximum_object_size 是缓存对象的最大大小...

20610

Claude Code 系统提示词完整解析

heidsoft

关键原则: 可逆性 + 影响范围。本地可逆操作自由执行,影响共享系统的操作先确认。

19410

构建 Claude Code 的经验:Prompt Caching 是一切

用户1640761

Prompt Caching 的工作方式是“前缀匹配(prefix matching)”。API 会从请求开头开始缓存,一直缓存到每个 cache_contro...

12510

业务稳定造就大模型的降本增效?Claude 核心能力拆解(一)

用户12057812

有意思的是,虽然能力名叫提示词缓存,像是把提示词放进了缓存,但其实背后存储的并不是提示词本身。

10910

DeepSeek涨价、OpenAI受限,AI免费薅羊毛的日子还剩多少?

大飞记Python

昨天小编还在用DeepSeek API写代码,晚上就收到了计费调整通知,竟然是 涨价

14810

注意力架构变迁总结:稀疏、线性、SSM、混合架构如何摆脱 O(L²) 的代价

deephub

自注意力(Self-attention)支撑了 Transformer 近十年,每个 Token 都要关注序列中的每一个其他 Token让这些模型能够推理的机制...

16710

从单核到多核:CPU为什么不能再只靠提频变快

Lihua奏

每个核心都有自己的缓存,他们把内存里的数据复制一份放在自己的缓存中,这样就不用每次都访问内存去数据了,但问题就出现在这

10310
领券