- 综合排序
- 最热优先
- 最新优先
- 来自专栏后台技术汇
《API加速优化方案：多级缓存设计》
API加速优化 2、降级服务处理要做好一点，确保缓存一致性 基于Redis和Cos的二级缓存 API优化方案涉及了COS和Redis。 基于Redis和Cos的二级缓存，如下图所示： - Redis：提供基于内存的数据存储 - Cos：提供基于云的对象存储 - 远端数据源：跨集群的数据提供方 API优化方案 基于Redis和 Cos的二级缓存，API的优化方案如下： 【1】优化后的读API流程图： （1）优先从redis读 （2）redis读不到，从cos读，写入redis （3）cos读不到，从sca读 （4）写入redis 、写入cos 【2】我们在Redis和Cos的缓存数据预处理上，采用了“存量预热”+“增量缓存”的策略： （1）存量预热：目标存储到COS （2）增量缓存：参考【1】优化后的读API流程图 FAQ A1：从缓存穿透的角度看：只有主动读取API访问到的，该数据下次被访问的概率会更高，因此可以写入Redis，以使得下次访问获得更快的性能。
70060编辑于 2023-09-08 - 来自专栏笔记堡—柠檬酸冰冰
加速狗cdn缓存设置
cdn加速必须要设置的是缓存，但是缓存的缺点就是，写完博客要进行一个缓存的清理或者url的刷新，如何进行缓存的设置和缓存的刷新呢，下面跟我一起研究吧。 cdn选择 首先，我们要选择一个自己认为好的cdn商家，我的是cdndog加速狗的cdn,现在是免费赞助的阶段，可以免费得100G/年，不够可以问加速狗的站长叠加流量，cdndog加速狗的官网地址：https 缓存设置 注册完成之后联系加速狗站长的微信：tisula，请站长给你的账号分配流量，然后我们就开始设置需要加速网站的站点缓存。 分配好流量包之后，我们登录加速狗官网的地址：https://app.cdndog.cn/，进去之后我们找到已经添加好的站点，我们进去点击编辑，具体设置的话看下图： 刷新设置 设设置完之后，把我们的缓存路径进行刷新 唯一的缺点就是缓存之后，不管是加js，css内容还是写文章的话，还是要进行一个缓存的清空和刷新，不然的话，你访问的还是之前缓存过的内容，所以我们要进行站点的缓存清理和url链接的刷新。
29.7K40编辑于 2023-03-04 - 来自专栏Loki
巧用缓存加速Loki查询
那么对于Loki来说，它支持哪些缓存以及缓存的作用范围呢？ 小白今天带大家简单过下Loki中关于缓存的应用 缓存类型 cache_config是Loki的缓存配置区块，当前Loki 1.6支持的缓存主要是in-memory、memcached和redis。 如果你的Loki是分布式的架构，那么可以选择redis作为主要缓存服务 内存缓存（in-memory） # 启动内存缓存 enable_fifocache: <boolean> # 缺省缓存过期时间 default_validity 查询结果缓存 queryrange_config里面定义了Loki查询时关于缓存和切块的配置，缓存的相关配置如下 # 查询缓存开关，默认关闭 cache_results: <boolean> | default 作为Loki缓存来举个例子，让大家更直观看到关于缓存在全局配置里面的分布。
3.9K30发布于 2021-05-13 - 来自专栏存储内核技术交流
Intel OpenCAS缓存加速方案
open cas 缓存满后，采用open cas的淘汰算法，用最新写入的数据淘汰以前旧数据，已达到oepn cas始终可以缓存数据。 /configure make make install 检查和验证 cas_disk.ko //open cas 磁盘内核模块 cas_cache.ko //open cas 缓存内核模块 casadm id:everycore devices的id 3.path:core device的路径 //everycache和core devices执行已经存储在hdd和ssd，核心设备应该引用wwn的标识，缓存设备必须顺序数据 ，包括了acp/alru/nop 4.3 promotion_policy ：允许用户使用缓存的推进策略，包括了always/nhit 核心设备配置说明 配置样例 ## Caches configuration ，然后顺序的写入到核心设备中，这种模式 100% 保证核心设备中的数据和缓存中的数据一致，同时可以共享给其他的服务读取，类型可以加速阅读 手动配置 write-through 模式 casadm -S
3.1K20编辑于 2022-08-17 - 来自专栏Java
使用redis进行缓存加速
使用redis进行缓存加速 为了提高应用程序的性能和用户体验，缓存加速成为了一种常见的优化手段。Redis作为一种高性能的内存数据库，被广泛应用于缓存加速方面。 本文将介绍如何使用Redis进行缓存加速，包括原理、实现方法和应用场景。 缓存加速的原理 缓存加速的基本原理是将频繁访问的数据存储在快速访问的介质中，例如内存或缓存数据库中。 页面片段缓存 将页面片段或模板缓存到Redis中，可以加速页面的渲染速度，提高用户访问体验。 3. API响应缓存 将API的响应结果缓存到Redis中，可以减少API调用的响应时间，提高服务的并发处理能力。 热数据预加载 提前加载热门数据到缓存中，加速数据访问速度，提高系统性能和用户体验。 2.
68010编辑于 2025-01-21 缓存加速在聚合API中的应用：重复请求如何节省60%Token成本
本文聚焦聚合API重复请求治理，阐述多级缓存架构落地逻辑、核心技术方案与代码实现，结合星宇智算API原生缓存能力，实现重复请求拦截与资源复用，实测可稳定降低60%左右Token消耗，同步提升接口吞吐性能 二、聚合API多级缓存整体架构设计本文采用「本地内存缓存+分布式Redis缓存+热点持久缓存」三级架构，适配聚合API多租户、多模型、高并发的运行特征，兼顾响应速度与缓存命中率，精准拦截重复请求。 三、核心落地代码与部署操作以下为聚合API请求去重缓存核心可运行代码，实现请求指纹生成、多级缓存匹配、自动过期淘汰逻辑，兼容星宇智算API接口规范，可直接集成至网关层。 星宇智算API原生缓存调度能力，简化了聚合API缓存规则配置、流量分类、热点迭代的开发成本，让企业无需重构业务架构即可实现60%级别的Token成本节流。 在大模型调用成本持续常态化的当下，缓存加速将成为聚合API标准化落地的基础能力。
6410编辑于 2026-06-03- 来自专栏存储公众号：王知鱼
Micron：ATC缓存加速SSD寻址
问题意识 • 新系统（闪存主控）将支持ATS和ATC协议 • 一种有效的方法来更好地处理DMA代理的地址转换 • 需要相应地设计SSD，但： • 这些是DMA地址缓存子系统，没有历史需求记录 • 将具有典型的缓存指标 • ATC: Address Translation Cache • 存储最近转换的缓存。 • 受典型缓存指标（局部性、驱逐、关联性等）的影响。 ATS负责将GPA（Guest Physical Address，客户物理地址）转换为SPA（System Physical Address，系统物理地址），而ATC则是一个缓存，用于存储最近的地址转换 相关性研究 STU大小 • 使用的基准测试：YCSB 工作负载 B（YCSB WL B） • 缓存：4 路组相联（4 way Set Associative） • 算法：轮询（Round Robin） • 使用的基准测试：YCSB 工作负载 B（YCSB WL B） • 关联性：全关联和 4 路组相联 • 替换算法：LRU、随机（Rand）和轮询（Round Robin） • 结果： • 替换算法对缓存命中率没有显著影响
48710编辑于 2025-02-11 - 来自专栏前端Q
前端 api 请求缓存方案
对于webpack打包的单页面应用程序而言，我们可以采用很多方式来对性能进行优化，比方说 tree-shaking、模块懒加载、利用 extrens 网络cdn 加速这些常规的优化。 而缓存系统数据，我采用另外的方案。 那我现在就对我应用到项目中的各种 api 请求方案，从简单到复杂依次介绍一下。 方案一、 数据缓存 简单的 数据 缓存，第一次请求时候获取数据，之后便使用数据，不再请求后端api。 进行缓存 class Api { // 缓存10s @ApiCache(10) // 此时不要使用默认值，因为当前 修饰器 取不到 getWare(params1, params2 ，不取先前promise getWares(1,3).then( ... ) 总结 api的缓存机制与场景在这里也基本上介绍了，基本上能够完成绝大多数的数据业务缓存，在这里我也想请教教大家，有没有什么更好的解决方案
1.4K20发布于 2020-11-06 - 来自专栏WordPress果酱
WordPress 内存缓存终极加速插件：Batcache
Batcache 工作原理 WordPress 启用 Memcached 这样的内存缓存之后，每次访问 WordPress 页面，都要从内存中获取多个缓存对象。 而 Batcache 主要就是解决这个问题，它是基于 Memcached 的 WordPress 缓存插件，它的工作原理是：把当前整个页面作为一个对象缓存到内存中，这样再次访问 WordPress 页面的时候 并且这个插件也是 WordPress.com 官方使用的加速插件之一。 Batcache 安装和使用 安装这个插件有点麻烦，不过只要按照以下步骤进行就可以： 安装好 Memcached，详细步骤请参考：如何让 WordPress 启用 Memcached 缓存。
89210编辑于 2023-04-15 Python API 优化，缓存API，解决request重复请求！
Python API 优化：用缓存解决重复请求，省流又提速！ 这篇文章就手把手教你怎么实现 API 缓存，从方案选择到实战代码，再到常见坑和面试考点，全给你讲透。哪怕你是刚接触 API 的新手，跟着做也能搞定。一、先搞懂：为什么要做 API 缓存？ === 第一次没缓存调用 ===没缓存：请求API成功！耗时 0.862 秒=== 第二次没缓存调用 ===没缓存：请求API成功！ limit=10"# 第一次调用：没缓存，会请求API并创建缓存print("=== 第一次带缓存调用 ===")data1 = get_api_data_with_cache(api_url)# 等1 === 第一次带缓存调用 ===创建缓存文件夹：api_cache 缓存不存在/已过期，请求API...✅ API请求成功！
34110编辑于 2025-12-05- 来自专栏全栈程序员必看
squid+apache实现缓存加速「建议收藏」
当squid接收到响应后，依据响应头决定是否缓存。此时的squid，仅仅是一个cache server。 deflate之类）作为缓存key的一部分，因此对于不同的Accept-encoding字段值。都须要保存不同的文件。 值再去找对应的缓存文件。 都不会被cache了，所以和上述缓存策略没什么影响，而jpg本来是被压缩过，不含vary,自然会被cache了。 12小时，对text/image/video等类型的文件又一次设置成对应的缓存时间。
82810编辑于 2022-07-07 - 来自专栏守望轩
微慕 rest api 缓存插件
对于缓存优化，目前大部分都是针对WordPress 的web网站页面数据缓存，对于通过WordPress rest api获取的数据(json数据)缓存并没有效果。 如果把rest api 的数据缓存起来，不再每次都去访问数据库获取，做到 “0 sql ”，就可以加快了 rest api 的访问速度，间接加快了小程序的响应速度。 168毫秒，没有使用api缓存的加载时间是408毫秒，加快了近2.5倍。 下图是没有使用rest api 缓存的加载速度 ? 下图是使用了 rest api 缓存的加载速度 ? 微慕rest api 缓存插件支持的缓存服务器有：Memcached 和Redis。如果没有安装这两个服务，插件也提供了缓存到数据库的方式。
98220发布于 2021-05-06 PyTorch编译缓存加速模型推理技术解析
Torch编译缓存助力推理加速某机构现已缓存torch.compile编译产物，以缩短使用PyTorch框架模型的启动时间。 性能提升效果采用编译缓存技术后，以下模型的启动速度提升了2-3倍：black-forest-labs/flux-kontext-devprunaai/flux-schnell prunaai/flux 性能改进数据通过跨模型容器生命周期缓存编译产物，冷启动时间得到显著改善：black-forest-labs/flux-kontext-dev: ~120秒 → ~60秒（提速50%）prunaai/flux-schnell : ~150秒 → ~70秒（提速53%） prunaai/flux.1-dev-lora: ~400秒 → ~150秒（提速62%）该缓存还改善了所有使用torch.compile的模型从容器启动到首次预测成功的时间 工作原理缓存系统的工作机制与许多CI/CD缓存系统类似：模型容器启动时，会查找缓存的编译产物如果找到缓存，Torch会直接复用而非重新编译容器正常关闭时，会在需要时更新缓存缓存文件根据模型版本进行密钥管理
24610编辑于 2025-10-29- 来自专栏企鹅号快讯
加速！缓存Python函数的运行结果：Memoization
使用称为“memoization”的强大而方便的缓存技术来加速您的Python程序。 在这篇文章中，我将向您介绍一种方便的方法来加速你的Python代码，该技术称为memoization (有时拼写为memoisation）： Memoization是用作软件优化技术的特定类型的缓存。 让我们看看我们是否可以通过利用memoization装饰器提供的函数结果缓存来加速它： memoized功能仍然需要大约五秒钟返回第一次运行。到目前为止，如此不堪设想... 我们会得到类似的执行时间，因为第一次运行memoized函数时，没有缓存结果——我们从空的缓存开始，这意味着没有预先计算的结果可以帮助加速这个函数的调用。 我们的memoize装饰器不是递归地计算第35个斐波纳契数，而是简单地取出缓存的结果并立即返回，而这又导致了第二次基准测试中令人难以置信的加速。
2.8K50发布于 2018-01-19 - 来自专栏用户5745643的专栏
带你了解CDN缓存加速的工作原理.
还有CDN缓存加速是什么？是通过什么样的原理运行的呢等等？今天墨者安全主要分享下CDN缓存加速的工作原理。 首先CDN是什么呢？ 然后CDN技术可实施性条件除了客户端还包括： 1.给用户直接提供访问的站点资源，也就是所谓的缓存服务器； 2.缓存服务器所要抓取的内容均来自于原始站点，统称为源站； 3.用户的访问请求会通过DNS重定向技术指向距离用户较近的缓存服务器 最后CDN缓存加速的工作原理是： 网站使用了CDN缓存加速后，用户发送请求访问，首先通过DNS重定向技术确认距离用户最近的CDN节点，并且将用户的请求指向此节点。 如果该节点没有客户需要的内容结果，缓存服务器就会在源站点服务器中搜寻客户的需要的内容结果，找到后将结果保存到缓存服务器的本地，最后将用户请求所需的内容结果返回至用户端。 这完全体现了CDN缓存加速的特性，给用户访问网站也带来了便捷的条件。
6.3K20发布于 2019-07-30 - 来自专栏技术实操
WordPress安全加速：Cloudflare + Nginx缓存优化方案
转载地址： WordPress安全加速：Cloudflare + Nginx缓存优化方案前言：数字时代的“驿站”与“快马”在古代，驿站系统让信息传递快马加鞭，而今天，Cloudflare与Nginx的缓存优化 本教程将带您配置静态资源长期缓存、动态页面智能缓存，以及敏感路径保护，让您的WordPress网站如离弦之箭，飞速加载。 第二步：Cloudflare缓存规则Cloudflare的Cache Rules如同智能的“流量调度员”，让缓存策略更灵活，避免一刀切。 ：验证缓存状态1. ：手动清除Cloudflare缓存或修改文件名结语：速度与安全的平衡✅ 静态资源：1年缓存，减少90%请求\✅ 动态页面：10分钟缓存，平衡实时性与速度\✅ 后台路径：完全绕过缓存，确保安全
83510编辑于 2025-08-05 - 来自专栏小锋学长生活大爆炸
【工具】PrimoCache和Qiling:快速缓存优化加速软件
这两个软件通过快速缓存可以提高整体系统性能。系统或其他应用程序频繁访问的临时文件，以及读取RAM内存的速度远远大于真实硬盘，因此将经常访问的数据缓存到RAM中显着提高了读取数据的速度。 似乎有至少5~10倍的加速！ 这是两个正规软件！！！ QILING：下载链接 官方提供的Key:AEHAW-MGW20-V28I2-XI06X-56CHG 未加速： 加速后： 性能提升显著~ PrimoCache使用方式请自行搜索，有很多。。
1.9K20编辑于 2023-03-01 - 来自专栏开心分享-技术交流
WordPress速度优化-Nginx fastcgi_cache缓存加速
高并发网站架构的核心原则其实就一句话“把所有的用户访问请求都尽量往前推“，即：能缓存在用户电脑本地的，就不要让他去访问CDN。 能缓存CDN服务器上的，就不要让CDN去访问源（静态服务器）了。 WordPress最好的优化方式就是尽量不安装插件，Wordpress是典型的PHP-MySQL应用，去做数据库缓存，倒不如让轻量级的Nginx直接去缓存WordPress内容。 Nginx内置FastCgi缓存，但是不支持自动清除缓存。当你在Wordpress里面新建/修改一篇文章，或者访客提交评论的时候，自动清空相关的缓存是必要的！ Nginx需要安装ngx_cache_purg+量身定做的WordPress缓存清理插件：Nginx Helper。 1. 测试 测试时候勾选Enable Logging（记录日志）、Enable Nginx Timestamp in HTML（插入缓存信息） 查看Nginx Helper是否刷新日志： ?
1.4K30发布于 2020-08-10 - 来自专栏原创分享
通过代码缓存加速 Node.js 的启动
前言：之前的文章介绍了通过快照的方式加速 Node.js 的启动，除了快照，V8 还提供了另一种技术加速代码的执行，那就是代码缓存。 通过 V8 第一次执行 JS 的时候，V8 需要即时进行解析和编译 JS代码，这个是需要一定时间的，代码缓存可以把这个过程的一些信息保存下来，下次执行的时候，通过这个缓存的信息就可以加速 JS 代码的执行 本文介绍在 Node.js 里如何利用代码缓存技术加速 Node.js 的启动。 首先看一下 Node.js 的编译配置。 如果我们开启了代码缓存，就会执行 mkcodecache.cc 生成代码缓存。 的可执行文件中，在 Node.js 初始化时会把他们收集起来，这样后续加载原生 JS 模块时就可以使用这些代码缓存加速代码的执行。
2.6K30编辑于 2022-05-16 - 来自专栏运维日常
缓存加速服务器Varnish的搭建优化
.* 存储在缓存空间中的缓存对象的属性(只读) 常用变量： bereq.*, req.*： bereq.http.HEADERS bereq.request：请求方法； bereq.url -s [name=]type,[options] //设置varnish的缓存机制(Storage Types): malloc[,size] //内存存储,[size]用于定义空间大小 (重启后所有缓存失效) file[,path,[size[,granularlty]]] //磁盘存储,黑盒；(重启失效)//建议 perslstent,path,size //文件存储, 黑盒；(重启后缓存有效) //(实验) varnish程序的选项： 程序选项： /etc/varnish/varnish.params文件 -a address[:port][,address[ 默认端口为6081 -T address[:port] 默认端口为6082 -s [name=]type[,options] 定义缓存存储机制 -u user -g group -f
1.4K31编辑于 2022-11-01
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号