首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏vivo互联网技术

    【干货】Elasticsearch搜索调优权威指南(33)

    关注微信公众号 ↑ 获取更多干货 Elasticsearch搜索调优权威指南,是QBox在其博客上发布的系列文章之一,本文是该系列的第三篇,主要从凑整时间查询、全局序列号预热和文件系统缓存预热几个方面介绍了优化查询性能的一些方法 此前还发布了 Elasticsearch性能调优权威指南 和 Elasticsearch索引性能优化 两个系列。 作者:Adam Vanderbush 译者:杨振涛 本文是QBox官方博客“Elasticsearch搜索调优权威指南”系列文章3篇中的第3篇,第1篇参考这里,第2篇参考这里。 本系列教程旨在进一步探讨针对Elasticsearch 5.0及以上版本的搜索调优技术、策略和建议。 但是如果有5 GB的段,并且需要加载10 GB的属性数据到内存,就可能需要消耗数十秒的时间。习惯了秒级响应时间的用户,可能会忽然遭遇一个明显无法响应的网站。

    1.3K10发布于 2019-03-19
  • 来自专栏vivo互联网技术

    【干货】Elasticsearch搜索调优权威指南 (23)

    Elasticsearch搜索调优权威指南,是QBOX在其博客上发布的系列文章之一,本文是该系列的第二篇,主要介绍了索引预处理、mapping建立、避免脚本的使用、索引段合并等搜索性能相关的调优方法; 作者:Adam Vanderbush 译者:杨振涛 本文是Elasticsearch搜索调优系列文章3篇中的第2篇,第1篇参考这里(点击)。 本系列教程旨在更进一步讨论针对Elasticsearch 5.0及以上版本的搜索调优技术、策略及建议。 ? (图片来源于网络) 1预索引数据 为了优化数据的索引方式,应当在查询中预置一些模式。 pretty' -H 'Content-Type: application/json' -d '{ "designation": "bowl", "price": 13 }' 以及如下搜索请求: curl 关键字字段只可通过其精确值搜索得到。 如果需要索引全文内容比如 email 内容或产品描述,可能就要使用一个文本字段。

    69420发布于 2019-04-19
  • 来自专栏vivo互联网技术

    【干货】Elasticsearch搜索调优权威指南 (13)

    Elasticsearch搜索调优权威指南,是QBOX在其博客上发布的系列文章之一,本文是该系列的第一篇,主要从文档建模、内存分配、文件系统缓存、GC和硬件等方面介绍了优化查询性能的一些经验;后续还会有该系列的另外两篇文章 我们已经通过“Elasticsearch性能调优权威指南”系列,介绍了一些性能调优的基本经验和方法,解释了每一步最关键的系统设置和衡量指标。 Indexing Performance (Part 2) How to Maximize Elasticsearch Indexing Performance (Part 3) 本文旨在推荐一些搜索调优技术 document" } } } } }' 父子join对管理实体关系非常有用,尤其是在索引时间比检索时间很重要的情形下,但是它会带来较大的开销;父子查询比同等的内嵌查询要慢5到 英文原文链接:https://qbox.io/blog/elasticsearch-search-tuning-5-0-ultimate-guide

    1.2K20发布于 2019-03-19
  • 来自专栏vivo互联网技术

    【干货】Elasticsearch搜索调优权威指南 (23)

    关注我们,获取更多干货 ↑ Elasticsearch搜索调优权威指南,是QBOX在其博客上发布的系列文章之一,本文是该系列的第二篇,主要介绍了索引预处理、mapping建立、避免脚本的使用、索引段合并等搜索性能相关的调优方法 作者:Adam Vanderbush 译者:杨振涛 本文是Elasticsearch搜索调优系列文章3篇中的第2篇,第1篇参考这里(点击)。 本系列教程旨在更进一步讨论针对Elasticsearch 5.0及以上版本的搜索调优技术、策略及建议。 ? (图片来源于网络) 1预索引数据 为了优化数据的索引方式,应当在查询中预置一些模式。 pretty' -H 'Content-Type: application/json' -d '{ "designation": "bowl", "price": 13 }' 以及如下搜索请求: curl 关键字字段只可通过其精确值搜索得到。 如果需要索引全文内容比如 email 内容或产品描述,可能就要使用一个文本字段。

    95430发布于 2019-03-19
  • 来自专栏雨临Lewis的博客

    ELK系列(5) - Elasticsearch性能调优

    可以通过以下方式来释放分段占用的内存: 删除不用的索引 关闭索引,此时数据依然存在于磁盘,但是占用的内存会被释放 定期合并不再更新的索引的分段,将多个小分段合并成大分段,具体接口可以参考这部分文章 参考链接 Elasticsearch调优

    74910编辑于 2022-03-24
  • 来自专栏chenchenchen

    SQL调优之性能调优

    针对专门操作符的调优 前面,讲的是关于查询条件的一般规则,在这一节中,将讨论如何使用专门的操作符来改进 SQL 代码的性能。 AND OR 查询 Row# Colmun1 Column21 3 A2 2 B3 1 C 当数据库系统按照查询语进行搜索时,它按照下面的步骤执行: 索引查找 (NOT B) 根据这一定理,可以看出它可以至少二次的搜索有可能减少为一次。 ,正因为如此,一些数据库系统不会对非比 较进行索引搜索,但是他们会为大于或小于进行索引搜索,所以可以将下面的查询进行如下转换: ... 本文总结的是一些 SQL 性能调优的比较初级的方面,SQL 调优还包括 Order by,Group by 以及 Index 等等。

    2.6K30发布于 2019-12-03
  • 来自专栏LhWorld哥陪你聊算法

    【Spark篇】---Spark调优之代码调优,数据本地化调优,内存调优,SparkShuffle调优,Executor的堆外内存调优

    一、前述 Spark中调优大致分为以下几种 ,代码调优,数据本地化,内存调优,SparkShuffle调优,调节Executor的堆外内存。 二、具体    1、代码调优 1、避免创建重复的RDD,尽量使用同一个RDD 2、对多次使用的RDD进行持久化 如何选择一种最合适的持久化策略? 通过日志或者WEBUI 3、内存调优 ? Spark  JVM调优主要是降低gc时间,可以修改Executor内存的比例参数。 RDD缓存、task定义运行的算子函数,可能会创建很多对象,这样会占用大量的堆内存。 Spark中如何内存调优?

    2.3K30发布于 2018-09-13
  • 来自专栏Java EE 企业级开发工作日志

    JVM 调优 1:“精通 JVM 调优,有过 JVM 调优经验”简历敢写吗?薪资涨 5k 的技巧

    ,有过 JVM 调优经验”,因为应聘者如果写这句话就意味着你的面试将会是很“难过”的,面试官会变着法的问你如何进行 JVM 系列调优,如果你的基础比较薄弱或者是仅仅背面试题速成,那么你很可能在面试中露馅 既然 JVM 如此重要,那我就在本系列中完整的过一遍,让你敢于在简历上写“精通 JVM 调优,有过 JVM 调优经验”,薪资涨 5k! 在聊 JVM 调优和 GC 之前,我们先看看当下就业环境中面试对于 JVM 和 GC 的一些相关面试题,看看企业开发岗需要什么样的人才。 GC 调优有经验吗?一般出现 GC 问题你怎么解决? 1.5、阿里、蘑菇街 ThreadLocal 有没有内存泄漏问题? 在默认情况下 JDK 1.8 没有调参数、调优用的就是 GC 的分代模型。

    59211编辑于 2022-05-08
  • 来自专栏大数据成长之路

    Hive性能调优之JVM重用(5)

    JVM重用是Hadoop调优参数的内容,其对Hive的性能具有非常大的影响,特别是对于很难避免小文件的场景或task特别多的场景,这类场景大多数执行时间都很短。

    1.2K10发布于 2021-01-22
  • 来自专栏Java后端技术栈cwnait

    5种JVM调优配置方法概览!!!

    如:3,表示Eden:Survivor=3:2,一个Survivor区占整个年轻代的1/5 -XX:MaxPermSize=n:设置持久代大小 2 收集器设置 -XX:+UseSerialGC: 5 调优总结 年轻代大小选择 响应时间优先的应用:尽可能设大,直到接近系统的最低响应时间限制(根据实际情况选择)。在此种情况下,年轻代收集发生的频率也是最小的。同时,减少到达年老代的对象。

    81020发布于 2020-02-11
  • 来自专栏个人积累

    数据库调优 项目调优

    Springboot项目调优 配置文件调优 更改Tomcat的相关配置 设置Tomcat的最大连接数 设置请求头最大内存 设置post请求的最大内存 设置Tomcat最大线程数 设置Tomcat 的最小工作线程数 JVM调优 设置项目启动的参数 在vm option处添加配置内容 -XX:MetaspaceSize=128m #(元空间默认大小) -XX:MaxMetaspaceSize=128m

    1.2K51发布于 2020-10-10
  • 来自专栏SmartSi

    Spark 性能调优之Shuffle调优

    因此,如果要让作业的性能更上一层楼,就有必要对 shuffle 过程进行调优。 但是也必须提醒大家的是,影响一个 Spark 作业性能的因素,主要还是代码开发、资源参数以及数据倾斜,shuffle 调优只能在整个 Spark 的性能调优中占到一小部分而已。 因此大家务必把握住调优的基本原则,千万不要舍本逐末。下面我们就给大家详细讲解 shuffle 的原理,以及相关参数的说明,同时给出各个参数的调优建议。 2. 5. shuffle相关参数调优 以下是Shffule过程中的一些主要参数,这里详细讲解了各个参数的功能、默认值以及基于实践经验给出的调优建议。 调优建议:在资源参数调优中讲解过这个参数。如果内存充足,而且很少使用持久化操作,建议调高这个比例,给 shuffle read 的聚合操作更多内存,以避免由于内存不足导致聚合过程中频繁读写磁盘。

    2K31发布于 2019-08-08
  • 来自专栏纯洁的微笑

    Tomcat 性能调优之 JVM 调优

    因此在对Web 容器( 应用服务器) 的调优中必不可少的是对于 JVM 的调优。 对于 JVM 的调优,主要有两个方面考虑: 内存大小配置 垃圾回收算法选择 当然,确切的说,以上两点并不互相独立,内存的大小配置也会影响垃圾回收的执行效率。 延迟、吞吐量调优 其他 JVM 配置 垃圾回收算法对应到的就是不同的垃圾收集器,具体到在 JVM 中的配置,是使用 -XX:+UseParallelOldGC 或者 -XX:+UseConcMarkSweepGC 所谓调优,就是一个不断调整和优化的过程,需要观察、配置、测试再如此重复。有相关经验的朋友欢迎留言补充! 说到底,那上面的这些选项是要配置在哪里呢?

    2.4K30发布于 2019-05-06
  • 来自专栏SmartSi

    Spark 性能调优之资源调优

    整套方案主要分为开发调优、资源调优、数据倾斜调优、shuffle调优几个部分。 开发调优和资源调优是所有Spark作业都需要注意和遵循的一些基本原则,是高性能Spark作业的基础;数据倾斜调优,主要讲解了一套完整的用来解决Spark作业数据倾斜的解决方案;shuffle调优,面向的是对 本文作为Spark性能优化指南的基础篇,主要讲解资源调优。 2. 资源调优 2.1 调优概述 在开发完Spark作业之后,就该为作业配置合适的资源了。 理解作业基本原理,是我们进行资源参数调优的基本前提。 2.3 资源参数调优 了解完了Spark作业运行的基本原理之后,对资源相关的参数就容易理解了。 (5) spark.default.parallelism 参数说明:该参数用于设置每个stage的默认task数量。这个参数极为重要,如果不设置可能会直接影响你的Spark作业性能。

    2.2K30发布于 2019-08-07
  • 来自专栏大数据成神之路

    Spark调优 | Spark SQL参数调优

    5万人关注的大数据成神之路,不来了解一下吗? 5万人关注的大数据成神之路,真的不来了解一下吗? 5万人关注的大数据成神之路,确定真的不来了解一下吗? 本文讲解最近关于在参与hive往spark迁移过程中遇到的一些参数相关问题的调优。 内容分为两部分,第一部分讲遇到异常,从而需要通过设置参数来解决的调优;第二部分讲用于提升性能而进行的调优。 异常调优 spark.sql.hive.convertMetastoreParquet parquet是一种列式存储格式,可以用于spark-sql 和hive 的存储格式。 性能调优 除了遇到异常需要被动调整参数之外,我们还可以主动调整参数从而对性能进行调优。

    8.7K63发布于 2019-08-16
  • 来自专栏ApacheHudi

    调优 | Apache Hudi应用调优指南

    通过Spark作业将数据写入Hudi时,Spark应用的调优技巧也适用于此。如果要提高性能或可靠性,请牢记以下几点。 GC调优:请确保遵循Spark调优指南中的垃圾收集调优技巧,以避免OutOfMemory错误。

    1.5K20发布于 2021-04-13
  • 来自专栏SmartSi

    Spark 性能调优之开发调优

    Spark的性能调优实际上是由很多部分组成的,不是调节几个参数就可以立竿见影提升作业性能的。 整套方案主要分为开发调优、资源调优、数据倾斜调优、shuffle调优几个部分。 开发调优和资源调优是所有Spark作业都需要注意和遵循的一些基本原则,是高性能Spark作业的基础;数据倾斜调优,主要讲解了一套完整的用来解决Spark作业数据倾斜的解决方案;shuffle调优,面向的是对 Spark的原理有较深层次掌握和研究的同学,主要讲解了如何对Spark作业的shuffle运行过程以及细节进行调优。 本文作为Spark性能优化指南的基础篇,主要讲解开发调优。 2. 开发调优 2.1 调优概述 Spark性能优化的第一步,就是要在开发Spark作业的过程中注意和应用一些性能优化的基本原则。

    1.5K31发布于 2019-08-07
  • 来自专栏AustinDatabases

    MONGODB 性能与调优 -- 内存调优 1

    所以这又是一个新的系列,关于MONGODB的优化和调优,下方是一个MONGODB的 内存与磁盘的一个大概的架构。 ) 99.80766247867226 通过这样的方式可以获得你当时的cache hit ratio , 除了这个指标以外,MONGODB 还有一个知名的指标 dirty flush below 5% ,也就是脏页在MONGODB 中的留存不要超过 5% , 根据LRU的原则,MONGODB ,通过4个线程来去逐出这些内存与数据页面不同的数据,超过5% 说明你的服务器的压力过大,脏页的驻留时间过长,

    2K30编辑于 2022-04-05
  • 来自专栏Jed的技术阶梯

    Spark性能调优01-资源调优

    理解作业基本原理,是我们进行资源参数调优的基本前提。 3. spark内存管理 (1) spark-1.5.x版本以前使用静态内存管理 ? 参数调优建议: 每个Executor进程的内存设置4G~8G较为合适。但是这只是一个参考值,具体的设置还是得根据不同部门的资源队列来定。 参数调优建议: Executor的CPU core数量设置为2~4个较为合适。 参数调优建议: Driver的内存通常来说不设置,或者设置1G左右应该就够了。 参数调优建议: Spark作业的默认task数量为500~1000个较为合适。

    1.7K20发布于 2018-09-13
  • 来自专栏山河已无恙

    Linux 性能调优之CPU调优认知

    写在前面 博文内容为《性能之巅 系统、企业与云可观测性(第2版)》CPU 章节课后习题答案整理,这是CPU 调优的最后两篇之一,之后还会整理一篇CPU性能故障的场景分析的博文 内容涉及: CPU 术语 可以通过 iostat 观察 IO 负载情况,%util 设备使用率趋于饱和 ┌──[root@vms100.liruilongs.github.io]-[~] └─$iostat -dk -x 5 /usr/local/share/perl5 /usr/lib64/perl5/vendor_perl /usr/share/perl5/vendor_perl /usr/lib64/perl5 /usr /share/perl5) at . 该模块可能没有正确安装或没有包含在 Perl 解释器的模块搜索路径中。 要解决这个问题,你可以尝试以下几个步骤: 检查模块安装:确保 open.pm 模块已经正确安装。

    1.7K31编辑于 2025-04-09
领券