本站提供互联网编程技术交流分享,部分技术教程不断更新中,请随时关注或联系我寻求帮助 ,同时也欢迎有兴趣的朋友进行投稿。

 分类:编程

Elasticsearch删除数据操作,你必须知道的一些坑

Elasticsearch删除数据操作,你必须知道的一些坑
前两天有同事打电话问我,说ES删除数据有没有什么坑? 我当时就问,是删索引还是删索引里的数据?她回答说是删数据,我说查出这些数据直接删除就好了,没有什么坑。。。 后来想想,关于ES数据的删除,之前确实遇到过很多删除场景,如果真要说有没有所谓的坑,细想一下,还真有。 我维护过的E...

熊哥club 126℃ 0评论 0喜欢

如何快速上手Logstash?看完本文就够了

如何快速上手Logstash?看完本文就够了
Elasticsearch是当前主流的分布式大数据存储和搜索引擎,可以为用户提供强大的全文本检索能力,广泛应用于日志检索,全站搜索等领域。Logstash作为Elasicsearch常用的实时数据采集引擎,可以采集来自不同数据源的数据,并对数据进行处理后输出到多种输出源,是Ela...

熊哥club 90℃ 0评论 0喜欢

面试问Kafka的相关知识,这一篇就能全搞定

面试问Kafka的相关知识,这一篇就能全搞定
Kafka 基础 消息系统的作用 大部分小伙伴应该都清楚,这里用机油装箱举个例子: 所以消息系统就是如上图我们所说的仓库,能在中间过程作为缓存,并且实现解耦合的作用。 引入一个场景,我们知道中国移动,中国联通,中国电信的日志处理,是交给外包去做...

熊哥club 142℃ 0评论 1喜欢

云原生下日志方案的架构设计

云原生下日志方案的架构设计
本篇文章单刀直入,会直接跟大家分享一下如何在云原生的场景下搭建一个灵活、功能强大、可靠、可扩容的日志系统。 需求驱动架构设计 技术架构,是将产品需求转变为技术实现的过程。对于所有的架构师而言,能够将产品需求分析透彻是非常基本也是非常重要的一点。很多系统刚建成没多久就要被推翻,最...

熊哥club 136℃ 0评论 0喜欢

Elasticsearch7.X学习路线图|值得收藏

Elasticsearch7.X学习路线图|值得收藏
1、为什么要梳理学习路线图? 在关注Elastic 中文社区、QQ群、星球群的过程中,多多少少都会有一些基础问题冒出。而这些问题不复杂,多半都在官方文档中都有提及,稍稍复杂的在官方英文社区、中文社区都有过类似问题的讨论。 基本上通过Google、bing都能直接或间接搜索到答案...

熊哥club 2685℃ 4评论 3喜欢

Elasticsearch的Ingest节点使用在哪些场景下

Elasticsearch的Ingest节点使用在哪些场景下
最近生产遇到一个问题,通过scroll进行深度分页查询的时候,会导致ES的node节点内存持续升高至90%+,为了解决这个问题,引入了ingest角色。在之前的生产集群,从未用过这个角色,使用ingest也是看到网上说可以解决类似问题,就抱着试试的心态去实践了,目前效果不错,最起...

熊哥club 2393℃ 0评论 1喜欢

解决Skywalking对应的ES的CPU很高的问题

解决Skywalking对应的ES的CPU很高的问题
结论 原因1:ES的新生代配置的太小,yong gc频率很高, 1s一次yonggc 解决方案:手动设置新生代、老年代比例 -XX:NewRatio=1 原因2:ES的索引没有配置为高性能写模式( 这个配置立杆见影 ) 解决方案:对skywalking对应的index添加如下配...

熊哥club 681℃ 1评论 3喜欢

Logstash读取Kafka数据写入HDFS详解

Logstash读取Kafka数据写入HDFS详解
强大的功能,丰富的插件,让logstash在数据处理的行列中出类拔萃 通常日志数据除了要入ES提供实时展示和简单统计外,还需要写入大数据集群来提供更为深入的逻辑处理,前边几篇ELK的文章介绍过利用logstash将kafka的数据写入到elasticsearch集群,这篇文章将...

熊哥club 466℃ 0评论 3喜欢

filebeat对内存 io/cpu的消耗到底有多大

filebeat对内存 io/cpu的消耗到底有多大
最近生产环境ESB的日志想接入ELK,但是业务和开发人员又担心在他们的服务器安装部署filebeat会产生性能消耗,让我给个评估,所以就网上搜索各种资料,整理一下filebeat的一些相关知识。 Filebeat工作原理 Filebeat是使用GO语言开发,工作原理如下:当Fil...

熊哥club 1996℃ 0评论 4喜欢

Elasticsearch搜索引擎性能调优

Elasticsearch搜索引擎性能调优
01 写优化 对于写索引负载很高但是对搜索性能要求不是很高的场景如日志搜索,采用优秀的写索引策略就显得非常重要了。可以尝试以下几种方法来提升写索引的性能。 1.批量提交 当有大量的写任务时,使用批量提交是种不错的方案。但是每次提交的数据量为多大时能达到最优...

熊哥club 234437℃ 0评论 4喜欢

为什么Elasticsearch查询变得这么慢了?

为什么Elasticsearch查询变得这么慢了?
0、引言 Elasticsearch社区中经常看到慢查询问题:“你能帮我看看Elasticsearch的响应时间吗?”或者是:“我的ES查询耗时很长,我该怎么做?” 包含但不限于:Nested慢查询、集群查询慢、range查询慢等问题。 1、两个维度 每当我们得到这些类型的问题...

熊哥club 333264℃ 3评论 2喜欢

Elasticsearch常见的5个错误及解决策略

Elasticsearch常见的5个错误及解决策略
网罗Elasticsearch最佳实践,实际应用场景中常见错误要预知和避免,以最大化提升集群性能。 1、采用动态Mapping 如果不定义Mapping,Elasticsearch会根据输入的数据,创建对应的Mapping,这看起来非常完美,但是Elasticsearch的动态M...

熊哥club 11836℃ 0评论 1喜欢

日志采集中的关键技术分析

日志采集中的关键技术分析
      日志从最初面向人类演变到现在的面向机器发生了巨大的变化。最初的日志主要的消费者是软件工程师,他们通过读取日志来排查问题,如今,大量机器日夜处理日志数据以生成可读性的报告以此来帮助人类做出决策。在这个转变的过程中,日志采集Agent在其中扮演着重要的角...

熊哥club 836℃ 0评论 0喜欢

elasticsearch使用7大原则,让你玩转ES

elasticsearch使用7大原则,让你玩转ES
Elasticsearch是目前大数据领域最热门的技术栈之一,经过近8年的发展,已从0.0.X版升级至6.X版本,虽然增加了很多的特性和功能,但是在主体架构上,还是没有太多的变化。下面就把我对于ES使用实践的一些经验总结一下,供大家参考。 一...

熊哥club 1208℃ 0评论 1喜欢

大规模Elasticsearch集群管理心得

大规模Elasticsearch集群管理心得
ElasticSearch目前在互联网公司主要用于两种应用场景,其一是用于构建业务的搜索功能模块且多是垂直领域的搜索,数据量级一般在千万至数十亿这个级别;其二用于大规模数据的实时OLAP,经典的如ELKStack,数据规模可能达到千亿或更多。 这两种场景的数据索引和应用访问模式上...

熊哥club 1239℃ 3评论 0喜欢

Zookeeper详细使用说明

Zookeeper详细使用说明
一、Zookeeper Zookeeper 概述 ZooKeeper是一种分布式协调服务,用于管理大型主机。在分布式环境中协调和管理服务是一个复杂的过程。ZooKeeper通过其简单的架构和API解决了这个问题。ZooKeeper允许开发人员专注于核心应用程序逻辑,而不必担心应...

熊哥club 891℃ 0评论 1喜欢

Kafka_2.11-0.10.0.1 详细使用指南【建议收藏】

Kafka_2.11-0.10.0.1 详细使用指南【建议收藏】
提到消息系统,目前最火热的非 Kafka 莫属,公司也打算利用 Kafka 进行各业务日志统一收集,这里结合自己的实践来分享一下具体的配置及使用。Kafka 版本 0.10.0.1   介绍 作为云计算大数据的套件,Kafka 是一个分布式的、可分区的、可复制的消息系...

熊哥club 1160℃ 0评论 4喜欢

用strings命令查看kafka-log内容 过滤二进制编码

用strings命令查看kafka-log内容 过滤二进制编码
kafka的log内容格式还不没怎么了解,想快速浏览消息内容的话,除了使用它自带的kafka-console-consumer.sh脚本,还可以直接去看log文件本身,不过内容里有部分二进制字符,通过命令看的话会有乱码。 strings 命令可以过滤掉二进制编码,但默认它也会过滤...

熊哥club 1789℃ 2评论 1喜欢

elasticsearch5.X快照和还原

elasticsearch5.X快照和还原
快照和还原 快照和还原模块支持创建单独索引或整个集群的快照到远程仓库,像共享文件系统、S3或HDFS等。你可以非常方便地进行快照备份以及比较迅速地进行快照还原,但快照的还原需要Elasticsearch的版本能正确的读取索引文件。这意味着: 在2.x版本中创建的索引的快照...

熊哥club 1265℃ 2评论 1喜欢

ES 5.0 集群运维命令整理

ES 5.0 集群运维命令整理
_cat命令 _cat用于查看集群当前状态,涉及到shard/node/cluster几个层次 基本参数 verbose: 显示列名, 请求参数为v 示例: curl localhost:9200/_cat/master?v help: 显示当前命令的各列含义, 请求参数为he...

熊哥club 1559℃ 4评论 1喜欢

×
订阅图标按钮