OLAP分析引擎Druid配置文件详解(三):coordinator配置文件

2023-05-16

摘要:
  本文是Druid配置文件系列博文的第三篇,之前的文章已经介绍了Druid配置文件整体的组织结构以及公共配置文件,接下来将逐个介绍Druid的五大组件,本文是第一个组件Coordinator的介绍。


以下配置都在coordinator/runtime.properties文件中。

Coordinator Process Config
属性含义备注是否需要修改
druid.host组件所在的主机默认InetAddress.getLocalHost().getCanonicalHostName()一般不需要修改
druid.bindOnHost组件的内部jetty服务是否和druid.host绑定默认false一般不需要修改
druid.plaintextPort实际监听端口默认8081一般不需要修改
druid.tlsPortTLS端口号默认8281一般不修改
druid.service用于服务发现的名字默认druid/coordinator一般不修改

这些配置在其他组件中也都有,含义与这里相同,接下来将不再逐个介绍

Coordinator Operation
属性含义备注是否需要修改
druid.coordinator.periodcoordinator每隔一段时间会运行去查看可用的segment和处于服务中的segment,这个属性表示这个时间间隔默认PT60S按需修改
druid.coordinator.period.indexingPeriod每隔多久去发送压缩/合并/转换任务默认PT1800S,推荐要大于druid.manager.segments.pollDuration一般不需要
druid.coordinator.startDelayCoordinator运行时假设自己知道最新的所有状态,但是ZK不允许Coordinator知道它是否已经得到全部最新状态,所以需要一个时间间隔给足够的时间让Coordinator可以假设自己已经得到全部最新状态默认PT300S一般不修改
druid.coordinator.load.timeout分配一个segment到historical的超时时间默认PT15M一般不修改
druid.coordinator.kill.pendingSegments.on是否清理元数据中的pendingSegments表的老条目,清理的时间间隔是druid.coordinator.period,killPendingSegmentsSkipList里的数据源不会被清理默认false按需修改
druid.coordinator.kill.onCoordinator是否提交kill任务去删除元数据和深存储中的无用数据清理的时间间隔是druid.coordinator.kill.period,durationToRetain是保留时间,在这个时间内的segment不会被删除,白名单可以通过killAllDataSources和killDataSourceWhitelist设置默认false按需修改
druid.coordinator.kill.period发送kill任务的时间间隔默认P1D按需修改
druid.coordinator.kill.durationToRetain在最近这个时间内的segment不会被删除默认PT-1S默认值无效,如果kill打开必须设置
druid.coordinator.kill.maxSegments每个kill任务最多删除的segment数量默认0默认值无效,如果kill打开必须设置
druid.coordinator.balancer.strategysegment平衡策略默认cost,可选值是cachingCost、diskNormalized、random,cachingCost是cost的优化版将取代cost,diskNormalized尽量保证磁盘使用均匀,random随机分配segment按需修改
druid.coordinator.balancer.cachingCost.awaitInitialization使用cachingCost策略时,是否在创建cachingCost策略之前等待segment视图初始化默认false按需修改
druid.coordinator.loadqueuepeon.repeatDelay管理segment加载和删除的loadqueue的开始和重复延迟时间默认PT0.050S (50 ms)按需修改
druid.coordinator.asOverlord.enabled是否Coordinator也充当Overlord的角色,这个用来简化集群,没有部署overlord时使用默认false一般不修改
druid.coordinator.asOverlord.overlordService如果druid.coordinator.asOverlord.enabled为true,用于服务发现默认null,应该和overlord组件的druid.service属性和middle manager组件的druid.selectors.indexing.serviceName属性相同如果druid.coordinator.asOverlord.enabled为true,需要修改
Segment Management
属性含义备注是否需要修改
druid.serverview.typesegment发现的方法默认batch,可选值http,batch使用zk方式按需修改
druid.coordinator.loadqueuepeon.type分配segment的方式默认curator,可选值http按需修改
druid.coordinator.segment.awaitInitializationOnStartCoordinator是否在开始之前等待segment视图完全初始化默认true按需修改

druid.coordinator.loadqueuepeon.type设置为http时需要配置以下属性

属性含义备注是否需要修改
druid.coordinator.loadqueuepeon.http.batchSize在一个http请求里加载或删除的segment数量默认1,需要小于druid.segmentCache.numLoadingThreads按需配置
Metadata Retrieval
属性含义备注是否需要修改
druid.manager.config.pollDurationmanager多久拉一次配置表用于更新默认PT1M按需修改
druid.manager.rules.pollDurationmanager多久拉一次用于更新活跃segment默认PT1M按需修改
druid.manager.rules.defaultTier默认tier,默认的规则将从tier中加载默认_default按需修改
druid.manager.rules.alertThreshold失败的拉多久后会报警默认PT10M按需修改
Dynamic Configuration

Coordinator有一个通过HTTP的动态配置方式,具体如下:
url:POST http://<COORDINATOR_IP>:/druid/coordinator/v1/config

可选的Header:

属性含义
X-Druid-Author改变配置的用户名
X-Druid-Comment描述配置修改内容的注释

一个Body的例子:

{
  "millisToWaitBeforeDeleting": 900000,
  "mergeBytesLimit": 100000000,
  "mergeSegmentsLimit" : 1000,
  "maxSegmentsToMove": 5,
  "replicantLifetime": 15,
  "replicationThrottleLimit": 10,
  "emitBalancingStats": false,
  "killDataSourceWhitelist": ["wikipedia", "testDatasource"],
  "decommissioningNodes": ["localhost:8182", "localhost:8282"],
  "decommissioningMaxPercentOfMaxSegmentsToMove": 70,
  "pauseCoordinator": false
}

一个GET请求相同的url会得到当前这些配置属性的值

下面分别介绍这些属性的含义:

属性含义备注是否需要修改
millisToWaitBeforeDeletingCoordinator在删除元数据中的segment之前需要活跃多久默认900000(15分钟)按需配置
mergeBytesLimit合并segment的最大未压缩字节大小默认524288000L按需修改
mergeSegmentsLimit合并的最大segment数量默认100按需修改
maxSegmentsToMove最大的能被移动的segment数量默认5按需修改
replicantLifetime对于要复制的segment,在报警之前Coordiantor运行的最大次数默认15按需修改
replicationThrottleLimit一次复制的最大segment数量默认10按需修改
balancerComputeThreads在segment平衡是,计算移动cost的线程池大小默认1按需修改
emitBalancingStats是否emit平衡相关统计默认false,这是一个昂贵的操作按需修改
killDataSourceWhitelist发送kill任务的数据源白名单(白名单中的dataSource会被kill)默认none按需使用
killAllDataSources是否对所有dataSource发送kill任务,与killDataSourceWhitelist只能使用其中一个默认false按需使用
killPendingSegmentsSkipListkill pending状态segment时跳过的数据源列表默认none按需使用
maxSegmentsInNodeLoadingQueue最大的segment排毒数量默认0,这个值可以在有慢节点或segment调度不均匀时加速segment加载过程,可以设置为1000然后根据情况调节按需使用
decommissioningNodes退役historical列表,将不分配新的segment到退役节点上默认none按需使用
decommissioningMaxPercentOfMaxSegmentsToMove再一次Coordinator运行时,从退役节点上移动到非退役节点上的segment数量默认70按需使用
Lookups Dynamic Configuration

Compaction Dynamic Configuration

通过API来设置Compaction任务

属性含义备注是否需要修改
dataSource要Compaction的数据源名字需要设置
taskPriority任务优先级默认25不需要设置
inputSegmentSizeBytes最大的总的segment的字节数默认419430400不需要设置
maxRowsPerSegment每个segment的最大行数不需要设置
skipOffsetFromLatest搜索要压缩的segment的offset默认P1D不需要设置,对于实时数据源推荐去设置
tuningConfig里面的参数之后在详细介绍不需要配置
taskContext环境参数不需要设置
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

OLAP分析引擎Druid配置文件详解(三):coordinator配置文件 的相关文章

  • 利用GPU训练时的常见错误

    1 CUDA VIDIBLE DEVICES 61 4 5 python3 main py 我想在集群条件下利用4 5号GPU xff0c 由于模型较小 xff0c 并不清楚是都可以指定4 5号GPU xff08 内存占用情况看不出来 后续
  • Jetson TX1底板的接口调试

    1 I2C总线上外设查询 I2C Tools的安装和使用 在控制台输入 sudo apt get install i2c tools 安装完成后可以使用命令验证安装成功 sudo i2cdetect l I2C设备查询使用 sudo i2c
  • 驱动——platform驱动总线三种匹配方式

    三种platform驱动匹配方式代码案例以及现象 方式一 xff1a 通过设置名字进行匹配 相关API简介 xff1a 1 platform device的API 分配对象 struct platform device const char
  • 开源框架APM工具--SkyWalking原理与应用

    一 分布式链路追踪简介 随着业务系统的不断发展 微服务架构的演进 xff0c 从原来的单体应用架构 垂直应用架构 分布式 SOA 架构到现在的微服务架构 xff0c 系统逐步走向微服务化以适应用户高并发请求等需求 在微服务架构中 xff0c
  • 什么是弹性云服务器?

    ecs云服务器是由CPU 内存 镜像 云硬盘组成的一种可随时获取 弹性可扩展的计算服务器 xff0c 同时它结合虚拟私有云 虚拟防火墙 数据多副本保存等能力 xff0c 为您打造一个高效 可靠 安全的计算环境 xff0c 确保您的服务持久稳
  • linux下修改MAC地址的问题解决

    在linux中 xff0c 修改MAC地址 ifdown eth0 ifconfig eth0 hw ether 12 xff1a 34 xff1a 56 xff1a 78 xff1a 90 xff1a 12 xff08 修改的MAC地址跟
  • 51串口发送数据的格式

    串行口控制寄存器SCON SCON的字节地址是98H xff0c 其格式如下 xff1a SM0 SM1 xff1a 串行口工作方式控制位 xff1a SM0 SM1 工作方式 功能 波特率 00 方式0 同步移位寄存器 fosc 12 0
  • c51单片机学习笔记-矩阵按键实验

    目的 xff1a 通过数码管显示矩阵按键 S1 S16 按下后键值 0 F 编译软件 xff1a keil5 过程 xff1a xff08 1 xff09 定义各端口 include 34 reg52 h 34 typedef unsign
  • CMake 添加第三方库的几种依赖方式

    转载链接 xff1a C 43 43 工程 xff1a 总结 CMake 添加第三方库依赖方式git submodule find library FetchContent CPM等 github地址 cpp cmake example 第
  • vue.js中v-for的使用及索引获取

    vue js中v for的使用及索引获取 1 v for 直接上代码 示例一 xff1a lt DOCTYPE html gt lt html gt lt head gt lt meta charset 61 34 utf 8 34 gt
  • (转贴)Windows CE 5.0下串口驱动硬件FIFO控制Bug分析及修正方法

    转贴自 xff1a 驱动开发网 原贴地址 xff1a http bbs driverdevelop com read php tid 61 109193 amp fpage 61 0 amp toread 61 amp page 61 1
  • 四剑客和正则表达式常见故障及困惑集合(待更新)

    一 find命令 warning警告 maxdepth 这个参数要放在其他参数之前 root 64 oldboyedu59 find type d maxdepth 1 find warning you have specified the
  • sed的使用

    一 xff0c 替换文本 s pattern replacement flags replacement会替换pattern 例如 xff1a root 64 node1 sed cat data2 txt This is a test o
  • KVM虚拟化-创建-桥接-硬盘-快照

    1 创建 使用virt manager进行创建 virt manager进入管理器 点击如图进行创建 将ISO下载到虚拟机里面 点击浏览 下面是虚拟机名字 选择本地浏览 选中CentOS的iso 选择后前进 选择内存和cpu xff0c 前
  • 串口专题(一)——基础知识

    前言 xff1a 为了方便查看博客 xff0c 特意申请了一个公众号 xff0c 附上二维码 xff0c 有兴趣的朋友可以关注 xff0c 和我一起讨论学习 xff0c 一起享受技术 xff0c 一起成长 1 概念介绍 串行口是计算机一种常
  • STM32中晶振的原理与作用

    前言 xff1a 为了方便查看博客 xff0c 特意申请了一个公众号 xff0c 附上二维码 xff0c 有兴趣的朋友可以关注 xff0c 和我一起讨论学习 xff0c 一起享受技术 xff0c 一起成长 转载地址 STM32中晶振的原理与
  • STM32学习笔记一一UCOSII(1)

    前言 xff1a 为了方便查看博客 xff0c 特意申请了一个公众号 xff0c 附上二维码 xff0c 有兴趣的朋友可以关注 xff0c 和我一起讨论学习 xff0c 一起享受技术 xff0c 一起成长 1 简介 UCOSII 是一个可以
  • PADS 原理图库文件绘制

    前言 xff1a 为了方便查看博客 xff0c 特意申请了一个公众号 xff0c 附上二维码 xff0c 有兴趣的朋友可以关注 xff0c 和我一起讨论学习 xff0c 一起享受技术 xff0c 一起成长 1 PADS Logic 参数设置
  • prometheus监管平台(一)(开源)

    prometheus监管平台 xff08 一 xff09 xff08 开源 xff09 一 登录二 首页三 General Management功能四 Host Management功能五 Job Management功能六 Alarm M
  • vncserver连接后窗口显示太小

    VNC server的默认的分辨率是1024x768 如果要改变VNC server的分辨率 1 可以用一下命令启动VNC server root 64 localhost vncserver geometry 1280x1024 这种修改

随机推荐