本站提供互联网编程技术交流分享，部分技术教程不断更新中，请随时关注或联系我寻求帮助 ,同时也欢迎有兴趣的朋友进行投稿。
  • wordpress后台地址路径修改几种方法
  • 很认真的聊一聊程序员的自我修养
  • 一个前端的自我修养
  • 为什么说互联网前20年看京深，后30年看上海？

热门排行

ELK

京东到家订单中心的 ES 集群架构演进之路

京东到家订单中心的 ES 集群架构演进之路
京东到家订单中心系统业务中，无论是外部商家的订单生产，或是内部上下游系统的依赖，订单查询的调用量都非常大，造成了订单数据读多写少的情况。 我们把订单数据存储在MySQL中，但显然只通过DB来支撑大量的查询是不可取的。同时对于一些复杂的查询，MySQL支持得不够友好，所...

熊哥club 652℃ 0评论 0喜欢

大数据

你真的掌握 LVS、Nginx 及 HAProxy 的工作原理吗？

你真的掌握 LVS、Nginx 及 HAProxy 的工作原理吗？
当前大多数的互联网系统都使用了服务器集群技术，集群是将相同服务部署在多台服务器上构成一个集群整体对外提供服务，这些集群可以是 Web 应用服务器集群，也可以是数据库服务器集群，还可以是分布式缓存服务器集群等等。 在实际应用中，在 Web 服务器集群之前总会有一台负载均衡...

熊哥club 758℃ 0评论 2喜欢

ELK

探究 | Elasticsearch集群规模和容量规划的底层逻辑

探究 | Elasticsearch集群规模和容量规划的底层逻辑
0、引言 实战中经常遇到的问题： 问题 1：请问下大家是如何评估集群的规模？比如数据量达到百万，千万，亿万，分别需要什么级别的集群，这要怎么评估？ ps：自己搭建的测试环境很难达到这一级别。 问题 2： 问题 3：我看了很多文章关于 es 集群规划的文章，总感觉乱七八糟的，没...

熊哥club 1097℃ 0评论 1喜欢

ELK

Elasticsearch存储深入详解

Elasticsearch存储深入详解
在本文中，我们将研究Elasticsearch的各个部分写入数据目录的文件。我们将查看节点，索引和分片级文件，并简要说明其内容，以便了解Elasticsearch写入磁盘的数据。 1、从Elasticsearch路径说起 Elasticsearch配置了多个路径： path....

熊哥club 1061℃ 1评论 0喜欢

ELK

Elasticsearch删除数据操作，你必须知道的一些坑

Elasticsearch删除数据操作，你必须知道的一些坑
前两天有同事打电话问我，说ES删除数据有没有什么坑？ 我当时就问，是删索引还是删索引里的数据？她回答说是删数据，我说查出这些数据直接删除就好了，没有什么坑。。。 后来想想，关于ES数据的删除，之前确实遇到过很多删除场景，如果真要说有没有所谓的坑，细想一下，还真有。 我维护过的E...

熊哥club 3466℃ 0评论 0喜欢

ELK

如何快速上手Logstash？看完本文就够了

如何快速上手Logstash？看完本文就够了
Elasticsearch是当前主流的分布式大数据存储和搜索引擎，可以为用户提供强大的全文本检索能力，广泛应用于日志检索，全站搜索等领域。Logstash作为Elasicsearch常用的实时数据采集引擎，可以采集来自不同数据源的数据，并对数据进行处理后输出到多种输出源，是Ela...

熊哥club 1020℃ 0评论 0喜欢

大数据

面试问Kafka的相关知识，这一篇就能全搞定

面试问Kafka的相关知识，这一篇就能全搞定
Kafka 基础 消息系统的作用 大部分小伙伴应该都清楚，这里用机油装箱举个例子： 所以消息系统就是如上图我们所说的仓库，能在中间过程作为缓存，并且实现解耦合的作用。 引入一个场景，我们知道中国移动，中国联通，中国电信的日志处理，是交给外包去做...

熊哥club 978℃ 0评论 1喜欢

ELK

云原生下日志方案的架构设计

云原生下日志方案的架构设计
本篇文章单刀直入，会直接跟大家分享一下如何在云原生的场景下搭建一个灵活、功能强大、可靠、可扩容的日志系统。 需求驱动架构设计 技术架构，是将产品需求转变为技术实现的过程。对于所有的架构师而言，能够将产品需求分析透彻是非常基本也是非常重要的一点。很多系统刚建成没多久就要被推翻，最...

熊哥club 1004℃ 0评论 0喜欢

ELK

Elasticsearch7.X学习路线图|值得收藏

Elasticsearch7.X学习路线图|值得收藏
1、为什么要梳理学习路线图？ 在关注Elastic 中文社区、QQ群、星球群的过程中，多多少少都会有一些基础问题冒出。而这些问题不复杂，多半都在官方文档中都有提及，稍稍复杂的在官方英文社区、中文社区都有过类似问题的讨论。 基本上通过Google、bing都能直接或间接搜索到答案...

熊哥club 5214℃ 4评论 3喜欢

ELK

Elasticsearch的Ingest节点使用在哪些场景下

Elasticsearch的Ingest节点使用在哪些场景下
最近生产遇到一个问题，通过scroll进行深度分页查询的时候，会导致ES的node节点内存持续升高至90%+，为了解决这个问题，引入了ingest角色。在之前的生产集群，从未用过这个角色，使用ingest也是看到网上说可以解决类似问题，就抱着试试的心态去实践了，目前效果不错，最起...

熊哥club 3225℃ 0评论 1喜欢

ELK

解决Skywalking对应的ES的CPU很高的问题

解决Skywalking对应的ES的CPU很高的问题
结论 原因1：ES的新生代配置的太小，yong gc频率很高， 1s一次yonggc 解决方案：手动设置新生代、老年代比例 -XX:NewRatio=1 原因2：ES的索引没有配置为高性能写模式( 这个配置立杆见影 ) 解决方案：对skywalking对应的index添加如下配...

熊哥club 3243℃ 1评论 3喜欢

ELK

Logstash读取Kafka数据写入HDFS详解

Logstash读取Kafka数据写入HDFS详解
强大的功能，丰富的插件，让logstash在数据处理的行列中出类拔萃 通常日志数据除了要入ES提供实时展示和简单统计外，还需要写入大数据集群来提供更为深入的逻辑处理，前边几篇ELK的文章介绍过利用logstash将kafka的数据写入到elasticsearch集群，这篇文章将...

熊哥club 1430℃ 0评论 3喜欢

ELK

filebeat对内存 io/cpu的消耗到底有多大

filebeat对内存 io/cpu的消耗到底有多大
最近生产环境ESB的日志想接入ELK，但是业务和开发人员又担心在他们的服务器安装部署filebeat会产生性能消耗，让我给个评估，所以就网上搜索各种资料，整理一下filebeat的一些相关知识。 Filebeat工作原理 Filebeat是使用GO语言开发，工作原理如下：当Fil...

熊哥club 5083℃ 0评论 4喜欢

ELK

Elasticsearch搜索引擎性能调优

Elasticsearch搜索引擎性能调优
01 写优化 对于写索引负载很高但是对搜索性能要求不是很高的场景如日志搜索，采用优秀的写索引策略就显得非常重要了。可以尝试以下几种方法来提升写索引的性能。 1．批量提交 当有大量的写任务时，使用批量提交是种不错的方案。但是每次提交的数据量为多大时能达到最优...

熊哥club 235489℃ 0评论 4喜欢

ELK

为什么Elasticsearch查询变得这么慢了？

为什么Elasticsearch查询变得这么慢了？
0、引言 Elasticsearch社区中经常看到慢查询问题：“你能帮我看看Elasticsearch的响应时间吗？”或者是：“我的ES查询耗时很长，我该怎么做？” 包含但不限于：Nested慢查询、集群查询慢、range查询慢等问题。 1、两个维度 每当我们得到这些类型的问题...

熊哥club 335170℃ 3评论 2喜欢

ELK

Elasticsearch常见的5个错误及解决策略

Elasticsearch常见的5个错误及解决策略
网罗Elasticsearch最佳实践，实际应用场景中常见错误要预知和避免，以最大化提升集群性能。 1、采用动态Mapping 如果不定义Mapping，Elasticsearch会根据输入的数据，创建对应的Mapping，这看起来非常完美，但是Elasticsearch的动态M...

熊哥club 12720℃ 0评论 1喜欢

大数据

日志采集中的关键技术分析

日志采集中的关键技术分析
      日志从最初面向人类演变到现在的面向机器发生了巨大的变化。最初的日志主要的消费者是软件工程师，他们通过读取日志来排查问题，如今，大量机器日夜处理日志数据以生成可读性的报告以此来帮助人类做出决策。在这个转变的过程中，日志采集Agent在其中扮演着重要的角...

熊哥club 1576℃ 0评论 0喜欢

大数据

elasticsearch使用7大原则，让你玩转ES

elasticsearch使用7大原则，让你玩转ES
Elasticsearch是目前大数据领域最热门的技术栈之一，经过近8年的发展，已从0.0.X版升级至6.X版本，虽然增加了很多的特性和功能，但是在主体架构上，还是没有太多的变化。下面就把我对于ES使用实践的一些经验总结一下，供大家参考。 一...

熊哥club 2660℃ 0评论 1喜欢

大数据

大规模Elasticsearch集群管理心得

大规模Elasticsearch集群管理心得
ElasticSearch目前在互联网公司主要用于两种应用场景，其一是用于构建业务的搜索功能模块且多是垂直领域的搜索，数据量级一般在千万至数十亿这个级别；其二用于大规模数据的实时OLAP，经典的如ELKStack，数据规模可能达到千亿或更多。 这两种场景的数据索引和应用访问模式上...

熊哥club 3014℃ 5评论 0喜欢

×
订阅图标按钮