ELK 未将元数据从 filebeat 传递到 Logstash

通过以下方式安装 ELK 服务器：https://www.digitalocean.com/community/tutorials/how-to-install-elasticsearch-logstash-and-kibana-elk-stack-on-centos-7 https://www.digitalocean.com/community/tutorials/how-to-install-elasticsearch-logstash-and-kibana-elk-stack-on-centos-7

除了 filebeat 连接之外，它似乎可以工作； filebeat 似乎没有转发任何内容，或者至少我在日志中找不到任何内容来表明发生了任何事情。

我的filebeat配置如下：

filebeat:
  prospectors:
    -
  paths:
     - /var/log/*.log
     - /var/log/messages
     - /var/log/secure
  encoding: utf-8
  input_type: log
  timeout: 30s
  idle_timeout: 30s
  registry_file: /var/lib/filebeat/registry
output:
  logstash:
    hosts: ["my_elk_fqdn:5044"]
    bulk_max_size: 1024
    compression_level: 3
    worker: 1
    tls:
      certificate_authorities: ["/etc/pki/tls/certs/logstash-forwarder.crt"]
shipper:
logging:
  to_files: true
  files:
    path: /var/log/filebeat
    name: filebeat.log
    rotateeverybytes: 10485760 # = 10MB
    keepfiles: 7
  level: debug

我从 filebeat 不断获得的日志文件输出并不是很有帮助：

2016-07-14T17:32:21-04:00 DBG  Start next scan
2016-07-14T17:32:31-04:00 DBG  Start next scan
2016-07-14T17:32:41-04:00 DBG  Start next scan
2016-07-14T17:32:46-04:00 DBG  Flushing spooler because of timeout. Events flushed: 0
2016-07-14T17:32:51-04:00 DBG  Start next scan

我的配置文件有问题吗？

当我在 ELK 服务器上进行测试以查看是否得到任何结果时：

[root@my_elk_server ~]# curl -XGET 'http://localhost:9200/filebeat-*/_search?pretty'
{
  "took" : 1,
  "timed_out" : false,
  "_shards" : {
    "total" : 0,
    "successful" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 0,
    "max_score" : 0.0,
    "hits" : [ ]
  }
}

哦，还有我的 filebeats 的 Logstash 配置：

input {
  beats {
    port => 5044
    ssl => true
    ssl_certificate => "/etc/pki/tls/certs/logstash-forwarder.crt"
    ssl_key => "/etc/pki/tls/private/logstash-forwarder.key"
  }
}

更新：这不是 filebeat。消息确实被传递了，但仍然有一个我无法跟踪的问题：

发现问题不是由 filebeat 引起的。看来 Logstash 中发送到 Elasticsearch 的配置文件没有正确标记索引（和类型）以使其可搜索，如问题所示。它没有将 filebeat 放在索引名称中，而是给出如下结果：

"_index" : "%{[@metadata][beat]}-2016.07.14",

放入文件中的elasticsearch输出结果是不正确的

output {
  elasticsearch {
    hosts => "my_elk_fqdn:9200"
    sniffing => true
    manage_template => false
    index => "%{[@metadata][beat]}-%{+YYYY.MM.dd}"
    document_type => "%{[@metadata][type]}"
  }
}

显然这个@metadata没有被正确传递。有没有人能够正确填充 _index 和 _type 字段？？？

这可能是 filebeat 的一个错误？https://github.com/logstash-plugins/logstash-input-beats/issues/6 https://github.com/logstash-plugins/logstash-input-beats/issues/6