Logstash安装logstash-integration-jdbc

2023-11-04

Logstash安装logstash-integration-jdbc

1.版本说明

  • logstash7.10.1

2.前置条件

  • logstash-integration-jdbc是使用ruby语言开发的,因此需安装gem,gem是Ruby的一个包管理器

3.替换国内镜像

gem source --remove https://rubygems.org/
gem source --add https://gems.ruby-china.com/

**注:**网上主要说替换为https://ruby.taobao.org/和https://gems.ruby-china.org/,会出现Error fetching http://gems.ruby-china.org/的问题。taobao的ruby仓库镜像不可用了,而ruby-china.org由于备案问题需改成.com进行访问。

# 查看镜像
gem sources -l

# 替换后的结果如下
*** CURRENT SOURCES ***

https://gems.ruby-china.com/

4.修改Gemfile数据源地址

进入logstash,修改Gemfile

sudo vim Gemfile

将Gemfile的source换成https://gems.ruby-china.com/

source "https://gems.ruby-china.com/"

修改Gemfile.lock文件,将GEM remote修改为https://gems.ruby-china.com/

# 我的在33行左右
GEM
   remote: https://gems.ruby-china.com/

5.安装logstash-integration-jdbc

  • 老版本使用的是logstash-input-jdbc,安装时报如下错
plugin 'logstash-input-jdbc' is already provided by 'logstash-integration-jdbc'

所以我们直接安装logstash-integration-jdbc即可

# 进入logstash的bin目录
./logstash-plugin install logstash-integration-jdbc

# 显示如下信息即安装成功
Validating logstash-integration-jdbc
Installing logstash-integration-jdbc
Installation successful

6.运行时可能会报错Pipelines YAML文件为空

运行时,报如下错误

Pipelines YAML file is empty.

在config目录下修改pipelines.yml,将一下内容的注释去掉

- pipeline.id: test
  pipeline.workers: 1
  pipeline.batch.size: 1
  config.string: "input { generator {} } filter { sleep { time => 1 } } out    put { stdout { codec => dots } }"
- pipeline.id: another_test
  queue.type: persisted
  path.config: "/tmp/logstash/*.config"

重新跑自己写好的文件即可

./logstash -f ../config/test.conf
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Logstash安装logstash-integration-jdbc 的相关文章

  • Logstash 中的 JSON 解析器忽略数据?

    我已经这样做有一段时间了 我觉得 Logstash 中的 JSON 过滤器正在为我删除数据 我最初遵循的教程来自https www digitalocean com community tutorials how to install el
  • 使用 Logstash,如何根据每行匹配相同的时间戳来组合行?

    MarkLogic 日志文件通过打印具有相同时间戳 精确到毫秒 的行来表示多行 您可以在这段代码中看到这一点 2014 05 09 18 47 33 844 Info Dev Xdbc file store get file xqy url
  • Solaris 不支持 Filebeat。如何收集日志?

    我们的服务器托管在 Solaris 操作系统 中 但我们无法安装 Filebeat 将日志转发到所需端口 因为 Solaris 不支持 Filebeat 这里有人可以建议任何方法来解决这个问题 请注意 我们被告知不要在服务器托管计算机上安装
  • Logstash 文件输入插件

    目前 我正在使用文件输入插件来检查我的日志存档 但文件输入插件对我来说不是正确的解决方案 因为文件输入插件本质上期望该文件是事件流而不是静态文件 现在 这给我带来了很大的问题 因为我的日志存档有 100 000 多个日志文件 而我的 Log
  • Logstash:是否可以将文档保存在内存中?

    我正在尝试将数据保存在内存中 以便能够在过滤器部分中快速检索 事实上 当我收到新文档时 我想检索以前的相关文档以计算一些新指标 谁能告诉我这是否可能 如果是 我怎样才能实现这一目标 非常感谢 Joe 实现这一目标最接近的方法是使用elast
  • Logstash 与 java10 出现错误:无法识别的 VM 选项“UseParNewGC”[关闭]

    Closed 这个问题是无法重现或由拼写错误引起 help closed questions 目前不接受答案 我在跑logstashJava 10 如下 logstash f std std conf 但我收到此错误 Unrecognize
  • Logstash 无法使用多个文件通配符路径

    Logstash 似乎无法读取带有通配符的路径 这是我的配置文件 input file path gt C logs app log type gt MyType filter output elasticsearch 我通过用斜杠替换反斜
  • Logstash 可以同时处理多个输出吗?

    我对 Logstash 和弹性搜索很陌生 我正在尝试将日志文件存储在elasticsearch 和平面文件中 我知道logstash 支持这两种输出 但它们是同时处理的吗 还是通过工作定期完成 是的 您可以通过使用托运人配置上的 add t
  • Logstash 的 Django 日志记录格式

    我正在尝试将 django 应用程序配置为以 Logstash 易于使用的格式写入日志 受到 Node 的 Winston 日志记录包的启发 Logstash 需要一个 JSON 对象 其中包含键 message 和时间戳 timestam
  • 如何在 Logstash 中获取部分 Filebeat 源文件名

    我有一个 Filebeat 实例 版本 7 5 0 在 Windows Server 上运行 监视本地文件夹中的日志文件 并将这些数据向前发送到 Logstash 版本 7 5 0 在 Docker 容器中运行 在 Logstash 中 我
  • Instagram Streaming API 的 Logstash 输入插件

    我想阅读 Instagram 上的活动 我想知道我是否可以使用 Logstash 来做到这一点 类似于使用 Twitter 输入插件从 Twitter 读取事件 但 Instagram 没有输入插件 还有其他方法可以使用 Logstash
  • Logstash 配置错误 - amazon_es

    我正在尝试第一次配置我的logstash conf 文件并输出到amazon es 我的整个Logstash conf文件在这里 input jdbc jdbc connection string gt jdbc mysql localho
  • 将 Logstash json 消息分解为字段

    它有一个日志文件 用于存储带有时间戳和 json 消息的事件 例如 时间戳 foo 12 bar 13 我想将 json 部分中的键 foo 和 bar 分解为 Logstash 输出中的字段 我知道我可以将 Logstash 文件过滤器中
  • 删除包含哈希字符的日志行

    在我的 Logstash 发货程序中 我想过滤掉用哈希字符注释的行 This log row should be dropped But one this should not 我能够使用grep过滤器 但由于不鼓励 即将退役 我试图获得一
  • 无法执行操作:action=>LogStash::PipelineAction::Create/pipeline_id:main

    我已在 CentOS7 VM 上安装了 ELK 堆栈版本 7 0 0 但在 Logstash 服务启动期间遇到了问题 错误 2019 05 13 08 21 37 359 Converge PipelineAction Create 代理
  • 如何使用logstash插件-logstash-input-http

    我正在探索 Logstash 以接收 HTTP 上的输入 我已经使用以下方式安装了 http 插件 插件安装logstash input http 安装成功 然后我尝试使用以下命令运行logstash Logstash e 输入 http
  • Kibana 服务器尚未准备好甚至启动

    我有1个主节点 master 和1个数据节点 node 1 我使用centos7作为操作系统 主控 9200 root localhost kibana curl localhost 9200 name master cluster nam
  • 使用 Grok for Logstash 解析 Apache2 错误日志

    我试图解析我的 apache2 错误日志 但遇到了一些麻烦 它似乎与过滤器不匹配 我很确定时间戳部分是错误的 但我不确定 而且我真的找不到任何文档来解决它 另外 有没有办法获取其中的内容fields errmsg to me message
  • Logstash 的 Java 过滤器

    你知道 Logstash 有一个 Ruby 过滤器 它使我能够用 Ruby 编写代码 它通常包含在配置文件中 如下所示 filter ruby code gt 现在我有两个 Jar 文件 我想将它们包含在过滤器中 以便可以根据我在这些 Ja
  • Logstash - 如何在没有目标的情况下使用分割过滤器分割数组?

    我正在尝试将 JSON 数组拆分为多个事件 这是一个示例输入 results id a1 name hello id a2 name logstash 这是我的过滤器和输出配置 filter split field gt results s

随机推荐

  • SD卡SPI模式 读写block

    声明 第一次写教程 如若有错误 请指出更正 看了很多网上的教程 还是觉得很多教程中 写多个块的时候有些问题 因此经过3天的奋斗 写出自己的教程 本教程中 没有挂载文件系统 单纯读写Block 会破坏分区和数据 下节再 装上文件系统Fatfs
  • Html5监听返回事件

    常使用的场景 移动前端 1 安卓手机物理返回键 2 苹果手机在企业微信打开浏览器的返回按钮 移动前端开发语言是 vue 路由跳转 vue router hash模式 先介绍一下html5中history有哪些属性和API 我们用到了其中2个
  • Pcl粗配准矩阵不唯一

    经过一段时间的调试 发现转换矩阵不唯一 因此要将两个点云的数值减去一个值 使之最小 受到矩阵相乘相加受到的影响最小
  • 继承:父类和子类的关系

    继承 父类和子类的关系 一 父类引用指向子类对象时 1 若子类覆盖了某方法 则父类引用调用子类重新定义的新方法 2 若子类未覆盖某方法 则父类引用调用父类本身的旧方法 3 若子类覆盖了某属性 但父类引用仍调用父类本身的旧属性 4 若子类未覆
  • Linux命令后台运行

    Linux后台运行命令有两种方式 cmd 后台运行 关掉终端会停止运行 nohup cmd 后台运行 关掉终端不会停止运行 方式一 cmd cmd 实现让命令在后台运行 但不要将有用户交互的命令放到后台 这样命令会在后台等待用户输入 后台运
  • [leetcode160]

    Definition for singly linked list class ListNode object def init self x self val x self next None class Solution object
  • 用ChatGPT后被海外名校录取,泰库啦!!

    世界之大无奇不有 有人竟然因为使用ChatGPT后被海外大学录取 ChatGPT真的那么强大吗 竟然有这样子的能力 国内一些朋友因为各种问题没有办法使用ChatGPT 文章后面会给大家分享国内ChatGPT免注册免费使用的方法教程 今天一看
  • web安全的常用靶场

    文章目录 1 sqlmap 2 Test Lab 方便测试 列出以下WEB的靶场 仅供参考 1 sqlmap 0 作者出的漏洞测试环境 sqlmap 1 owasp 2 owaspbwa 3 xvwa 4 webgoad 5 DVWA 6
  • ananconda添加镜像

    先执行 conda config set show channel urls yes 生成该文件之后再修改 在用户目录下的 修改 condarc 文件 channels defaults show channel urls true cha
  • 联想小新air14安装ubuntu16.04

    首先正常安装 会遇到显卡问题 进入ubuntu高级模式 recovery mode resume 然后按照这篇教程整 https blog csdn net Guangli R article details 86636923 utm so
  • PCB设计 接地 铺铜的技巧

    PCB设计 接地 铺铜的技巧 1 PCB设计接地敷铜的技巧 pcb 电工之家 2 覆铜步骤及设计规则 百度文库 3 产品可靠性1 多层电路板应不应该在顶层和底层铺铜 Steven Aileen的博客 CSDN博客 4层板顶底层还用铺铜吗
  • 淘宝、支付宝菜鸟小程序取件码找不到的解决方法

    淘宝 支付宝菜鸟小程序身份码找不到的解决方法 今天拿快递的时候在淘宝里面找身份码 死活找不到 明明之前可以找到的 最后还是下载了菜鸟裹裹app才能取件 上网搜索了一下 发现有的地方很早就把小程序里面的身份码给阉割了 强行让用户下载app实属
  • Evaluate Video Quality

    How to evaluate video PSNR and SSIM PSNR is easy to calculate http blog csdn net c602273091 article details 49861817 SSI
  • 跟着angularjs2官方文档学习(五)

  • 走进 San CLI(下):实现原理

    作者 胡粤 上期我们讨论了 San CLI 的使用 这期我们再深入一点 来看看 San CLI 的实现原理 核心模块和核心概念 为了方便理解下文的 San CLI 的整体工作流程 主流程 我们先来看下 San CLI 的核心模块和核心概念
  • 调试osgEarth(三十四)资源释放器子节点的作用

    感谢 hankern 学习链接https blog csdn net hankern article details 85519058 继续调试 设个断点 开始时没有要释放的资源 看上一层 再上一层 很明显 ResourceReleaser
  • beego禁用3DES和DES弱加密算法--SSL/TLS协议信息泄露漏洞(CVE-2016-2183)【原理扫描】(二)

    目录 程序代码 nmap重新扫描 程序代码 用beego起的一个 https 服务 被扫描出了漏洞 SSL TLS协议信息泄露漏洞 CVE 2016 2183 需要禁用DES加密算法 参考源码 解决方法如下 beego Run 前添加 ci
  • linux基础--基础

    Linux结构目录 Linux 部分目录结构 根目录 只存放目录 不要存放文件 目录 如 etc bin dev lib sbin 等放置在一个分区中 bin 可执行二进制目录文件 如常用的ls cat mv tar 命令存放在本目录中 查
  • github上给自己的项目添加Collaborators

    一个软件项目不可避免的需要与别人合作 如果我们想要参与github上的开源项目 一般的方式是先fork 之后再pull request 但是这种方式如果是自己和别人一起开发的项目就很麻烦 这时我们可以给自己的项目添加Collaborator
  • Logstash安装logstash-integration-jdbc

    Logstash安装logstash integration jdbc 1 版本说明 logstash7 10 1 2 前置条件 logstash integration jdbc是使用ruby语言开发的 因此需安装gem gem是Ruby