首页
学习
活动
专区
圈层
工具
发布

#缓存

缓存就是数据交换的缓冲区(称作Cache),当某一硬件要读取数据时,会首先从缓存中查找需要的数据,如果找到了则直接执行,找不到的话则从内存中找。缓存的作用是帮助硬件更快地运行。

LLM API调用成本砍半,这3招你试过吗?

用户12493922

2400

一个非常火的统一大模型网关,任何模型都能接入使用!6K star

cxuanAI

缓存也别乱开。直接缓存适合稳稳的重复请求;语义缓存你得算清楚命中率、embedding 成本,还有误命中的风险。

4710

DNS 解析出问题时,试试我的这套排查方法

悠悠12138

浏览器有缓存,系统有缓存,JVM 有缓存,应用层也有缓存,改完 DNS 记录发现没生效,先别急着骂娘,看看是不是哪层缓存还在用旧的。

2800

MySQL的整体架构及功能详解

程序新视界

需要注意的是,从MySQL 5.7.20开始,查询缓存已被弃用,并在MySQL 8.0中被删除。通常,缓存只适用于表数据不会经常变动的场景,如果表数据经常更新(...

3410

原来亚马逊在偷偷给企业降本增效

德育处主任

提起亚马逊,你会想到什么?我最先想到的是它曾是一个卖书起家的电商平台。但在互联网企业和程序员眼中,亚马逊更重要的身份其实是全球领先的云服务提供商。

3810

Hermes Web升级问题复盘

欢醉

当前Hermes Web UI v0.4.0 升级到Hermes Web UI v0.5.35

5510

一个错误配置,导致泄露 51 万行 Claude Code CLI源代码,而我从中读到了什么

YCombinator

下午五点半,看到微信群里有人转发疑似 Anthropic的Claude Code CLI 源码泄露的信息,似乎是因 npm source map 配置失误导致的...

5310

PG 19 预览 - 外键检查快速通道:绕过 SPI 的性能飞跃

用户4035096

本文档解读 Amit Langote 提交的外键检查快速路径优化系列,该优化通过绕过 SPI(Server Programming Interface)直接探测...

4810

存算分离架构软肋|云盘性能不行

用户4035096

Neon 计算节点拥有本地文件缓存(LFC),这是传统 Postgres 共享缓冲区与 Neon 存储之间的一个额外缓存层。共享缓冲区作为 LFC 之上的一个小...

9510

使用codebuddy将pg_hint_plan性能提升20%

NickYoung

参考system catalog table的形式,访问hint_table先访问syscache之类的缓存,这样理论上就能提升性能。同时不会影响业务qps统计...

6510

从 457KB 到 257MB,微信这 11 年到底往里塞了什么?

芸知

不是 457MB,不是 45.7MB——是连 1MB 都不到的 457KB。大半个软盘就装得下。

10100

MySQL优化摆烂指南:从“卡到想砸键盘”到“飞一般丝滑”,6招搞定!

芸知

②别瞎缓存:实时性高的数据(比如订单支付状态)别存缓存,不然用户付了钱还显示“待支付”,得找你算账。

7900

Alluxio 透明加速实战: EMR 数据访问性能提升实践

克劳德2048

透明 URI 的工作原理是:当用户访问一个 URI 时, Alluxio 会检查该 URI 对应的数据是否已经缓存在内存中。如果已经缓存,则直接返回缓存的数据;...

8400

LLM API调用的四个真相,帮你省一半算力成本

用户12493922

12810

最近在做的一些事情

jeanron100

最近专门腾出来不少时间做一些vibe coding的事情,进度比原来快了不少,也和大家分享下最近在做的一些事情。

5410

transformers v5.13.0发布:7大新模型接入、统一导出上线、Kernels大升级、生成与缓存全面修复,一文看懂全部更新

福大大架构师每日一题

如果你维护过 KV cache、静态缓存、混合缓存或窗口注意力,这些改动会明显降低踩坑概率。

19210

【独立开发】马哥文案提取器:用小程序实现轻量化解析无水印视频

马哥python说

短视频内容越来越多以后,一个很常见的工作流是:看到一个不错的选题、脚本或案例,先把链接保存下来,再回头整理文案、截图、视频素材和话题标签。

11110

Dubbo 负载均衡全解析:六种策略的调用链、行为与历史教训

阿特拉斯

Dubbo 的负载均衡是一个 SPI 扩展点 org.apache.dubbo.rpc.cluster.LoadBalance,默认实现是 random。官方注...

9900
领券