首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >日志文件聚合的Logstash vs Rsyslog

日志文件聚合的Logstash vs Rsyslog
EN

Stack Overflow用户
提问于 2015-08-20 17:48:43
回答 4查看 14.1K关注 0票数 12

我正在研究从我们的CentOS6.x服务器上进行集中日志文件聚合的解决方案。在安装Elasticsearch/ Logstash /Kibana (ELK)堆栈后,我遇到了一个Rsyslog om弹性搜索插件,它可以以logstash格式将消息从Rsyslog发送到Elasticsearch,并开始问自己为什么需要Logstash。

Logstash有许多不同的输入插件,包括接受Rsyslog消息的插件。在我需要从多个服务器收集日志文件内容的用例中,是否有理由使用Logstash?另外,将消息从Rsyslog发送到Logstash而不是直接发送到Elasticsearch有好处吗?

EN

回答 4

Stack Overflow用户

回答已采纳

发布于 2015-09-04 07:29:23

如果我需要一些rsyslog没有的东西,我会在中间使用Logstash。例如,从IP地址获取GeoIP。

另一方面,如果需要在Elasticsearch中索引syslog或文件内容,则直接使用rsyslog。它可以执行缓冲(disk+memory),过滤,您可以选择文档的外观(例如,您可以将文本的严重性而不是数字),并且它可以解析非结构化数据。但是主要的优势是性能,rsyslog主要关注的是性能。下面是关于Logstash、rsyslog和Elasticsearch的一些数字(以及技巧和技巧)的演示文稿:http://blog.sematext.com/2015/05/18/tuning-elasticsearch-indexing-pipeline-for-logs/

票数 6
EN

Stack Overflow用户

发布于 2015-08-21 09:30:24

我建议你放点东西。这将更容易设置,更多的例子,并测试,以配合在一起。

另外,在logstash中也有一些好处,您可以过滤和修改日志。

  1. 您可以使用有用的数据扩展日志:服务器名称、时间戳、.
  2. 转换类型、字符串到int等(用于正确的弹性指数)
  3. 按某些规则过滤掉日志

此外,您还可以设置批次大小,以优化保存到弹性。另一个特性是,如果出了问题,每秒有大量的日志是弹性无法处理的,您可以设置logstash,它将保存一些事件队列或删除无法保存的事件。

票数 3
EN

Stack Overflow用户

发布于 2015-08-20 17:53:59

如果您直接从服务器转到elasticsearch,您可以在其中获取基本文档(假设源是json,等等)。对我来说,logstash的功能是通过应用业务逻辑来修改和扩展日志来增加日志的价值。

这里有一个例子: syslog提供了一个优先级级别(0-7)。我不希望有一个值为0-7的饼图,因此我创建了一个新的字段,其中包含了可用于显示的漂亮名称("emerg“、”调试“等)。

举个例子..。

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/32124984

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档