前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >【Elasticsearch】2. 基本概念

【Elasticsearch】2. 基本概念

原创
作者头像
历久尝新
修改2020-12-15 12:38:49
4110
修改2020-12-15 12:38:49
举报
文章被收录于专栏:学而时习之

文档(document)

  • elasticseach 是面向文档的,文档时所有可搜索数据的最小单元
    • 日志文件中的日志项
    • 一部电影的具体信息等
    • mp3中的一首歌
  • 文档会被序列化成json格式,保存在es中
    • json对象由字段组成
    • 每个字段都有对应的字段类型
  • 每个文档都有一个unique id
    • 可以自己指定id
    • es自动生成

索引(index)

  • index - 索引是文档的容器,是一类文档的集合
    • index体现了逻辑空间的概念,每个索引都有自己的mapping定义,用于定义包涵文档的字段名和字段类型
    • shard体现了物理空间的概念,索引分散在shard上
  • 索引的mapping和settings
    • mapping定义文档字段的类型
    • setting定义不同的数据分布
  • 索引的语义

REST API

ES的分布式特性

  • 高可用
    • 服务可用性:允许节点停止服务
    • 数据可用性:部分节点丢失,数据不会丢失
  • 可扩展
    • 请求量提升/数据的不断增长(将数据分布到所有节点上)
  • es的分布式架构好处
    • 存储的水平扩容
    • 提高系统的可用性,部分节点停止服务,整个集群的服务不受影响
  • es的分布式架构
    • 不同的集群通过不同的名字来区分,默认名字“elasticsearch”
    • 通过配置文件修改,或者在命令行中 -E clutser.name=xxx来设定
    • 一个集群可以有一个或者多个节点

ES---节点

  • 节点是一个es的实例
    • 本质上就是一个java的进程
    • 一台机器上可以有多个es的进程,但是生产环境建议一台机器只运行一个es实例
  • 每一个节点都有名字,通过配置文件配置,或者启动的时候-E node.name=xxx 指定
  • 每一个节点在启动以后,都会分配一个uid,保存在data目录下

ES的节点类型

  • master-eligible node 和 master node
    • 每一个节点启动后,默认就是一个master eligible 节点
      • 可以设置node.matser:false 禁止
    • master-eligibel节点可以参加选主流程,成为master节点
    • 每个节点都上都保存了集群的状态,但是只有master节点才可以修改集群的状态信息
      • 集群状态,维护了一个集群中,必要的信息
        • 所有的节点信息
        • 所有的索引和其相关mapping与seeting的信息
        • 分片的路由信息
      • 任意节点都能修改会导致数据的不一致行
  • data node 和 coordinating node
    • data node
      • 可以保存数据的节点,叫做data node,负责保存分片数据,在数据扩展上举足轻重
    • coordinating node
      • 负责接收client的请求,将请求分发到何时的节点,最终把结果汇总到一起
      • 每个节点默认起到了coordinating node的指责
  • hot 和 warm node
    • 不同硬件配置的data node, 用来实现hot & warm 架构,降低集群部署成本
  • machine learning node
    • 负责跑机器学习的job,用来做异常检测

ES--分片

  • 主分片,用于解决数据水平扩展的问题,通过主分片,可以将数据分布到集群内的所有节点上
    • 一个分片是一个运行的lucene的实例
    • 主分片数载索引创建时指定,后续不允许修改,除非reindex
  • 副本,用于解决数据高可用问题,分片是主分片的拷贝
    • 副本分片数,可以动态的调整
    • 增加福本书,还可以一定程度上提高服务的可用性

ES分片的设定

  • 对于生产环境中分片的设定,与需要提前做好容量规划
    • 分片数设置过小
      • 导致后续无法增加节点实现水平扩展
      • 单个分片的数据量太大,导致数据重新分配耗时
    • 分片数设置过大,7.0开始,默认主分片设置成1,解决了over-sharding的问题
      • 影响搜索结果相关性打分,影响统计结果的准确性
      • 单个节点上过多的分片,会导致资源浪费,同时也会影响性能

ES查看集群的健康状况

  • green:主分片与副本都正常
  • yellow:主分片全部正常分配,有副本分片未能正常分配
  • red:有主分片未能分配

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
Elasticsearch Service
腾讯云 Elasticsearch Service(ES)是云端全托管海量数据检索分析服务,拥有高性能自研内核,集成X-Pack。ES 支持通过自治索引、存算分离、集群巡检等特性轻松管理集群,也支持免运维、自动弹性、按需使用的 Serverless 模式。使用 ES 您可以高效构建信息检索、日志分析、运维监控等服务,它独特的向量检索还可助您构建基于语义、图像的AI深度应用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档