如果我使用 celery 作为任务调度程序，如何从 python 应用程序登录到 splunk？

我有一个在服务器上运行的 python 脚本，该脚本应该由 celery 调度程序每天执行一次。我想将日志直接从脚本发送到 splunk。我正在尝试使用这个splunk_handler图书馆。如果我在本地运行没有 celery 的 splunk_handler ，它似乎可以工作。但如果我与 celery 一起运行它，似乎没有日志到达 splunk_handler。控制台日志：

[SplunkHandler DEBUG] 计时器线程已执行，但没有可发送的有效负载

如何正确设置记录器，以便所有日志都发送到 splunk_handler？

显然，celery 设置了自己的记录器并覆盖了 python 的根记录器。我尝试了几件事，包括从 celery 连接 setup_logging 信号以防止它覆盖记录器或在此信号中设置记录器。

import logging
import os

from splunk_handler import SplunkHandler

这就是我在文件开头设置记录器的方式

logger = logging.getLogger(__name__)
splunk_handler = SplunkHandler(
host=os.getenv('SPLUNK_HTTP_COLLECTOR_URL'),
port=os.getenv('SPLUNK_HTTP_COLLECTOR_PORT'),
token=os.getenv('SPLUNK_TOKEN'),
index=os.getenv('SPLUNK_INDEX'),
debug=True)

splunk_handler.setFormatter(logging.BASIC_FORMAT)
splunk_handler.setLevel(os.getenv('LOGGING_LEVEL', 'DEBUG'))
logger.addHandler(splunk_handler)

Celery 初始化（不确定，如果worker_hijack_root_logger需要设置为False...)

app = Celery('name_of_the_application', broker=CELERY_BROKER_URL)
app.conf.timezone = 'Europe/Berlin'
app.conf.update({
    'worker_hijack_root_logger': False,
})

这里我从 celery 连接到 setup_logging 信号

@setup_logging.connect()
def config_loggers(*args, **kwags):
    pass
    # logger = logging.getLogger(__name__)
    # splunk_handler = SplunkHandler(
    #     host=os.getenv('SPLUNK_HTTP_COLLECTOR_URL'),
    #     port=os.getenv('SPLUNK_HTTP_COLLECTOR_PORT'),
    #     token=os.getenv('SPLUNK_TOKEN'),
    #     index=os.getenv('SPLUNK_INDEX'),
    #     debug=True)
    #
    # splunk_handler.setFormatter(logging.BASIC_FORMAT)
    # splunk_handler.setLevel(os.getenv('LOGGING_LEVEL', 'DEBUG'))
    # logger.addHandler(splunk_handler)

日志语句

logger.info("ARBITRARY LOG MESSAGE")

在 splunk 处理程序上激活调试时（设置为True），splunk 处理程序会记录出没有可用的有效负载，如上面已发布的。有人知道我的代码有什么问题吗？

经过几个小时的找出代码最终可能出现的问题后，我现在得到了令我满意的结果。首先我创建了一个文件loggingsetup.py我用 dictConfig 配置了我的 python 记录器：

LOGGING = {
    'version': 1,
    'disable_existing_loggers': True,
    'formatters': { # Sets up the format of the logging output
        'simple': {
            'format': '%(asctime)s - %(name)s - %(levelname)s - %(message)s',
             'datefmt': '%y %b %d, %H:%M:%S',
            },
        },
    'filters': {
        'filterForSplunk': { # custom loggingFilter, to not have Logs logged to Splunk that have the word celery in the name
            '()': 'loggingsetup.RemoveCeleryLogs', # class on top of this file
            'logsToSkip': 'celery' # word that it is filtered for
        },
    },
    'handlers': {
        'splunk': { # handler for splunk, level Warning. to not have many logs sent to splunk
            'level': 'WARNING',
            'class': 'splunk_logging_handler.SplunkLoggingHandler',
            'url': os.getenv('SPLUNK_HTTP_COLLECTOR_URL'),
            'splunk_key': os.getenv('SPLUNK_TOKEN'),
            'splunk_index': os.getenv('SPLUNK_INDEX'),
            'formatter': 'simple',
            'filters': ['filterForSplunk']
        },
        'console': { 
            'level': 'DEBUG',
            'class': 'logging.StreamHandler',
            'stream': 'ext://sys.stdout',
            'formatter': 'simple',
        },
    },
    'loggers': { # the logger, root is used
        '': {
            'handlers': ['console', 'splunk'],
            'level': 'DEBUG',
            'propagate': 'False', # does not give logs to other logers
        }
    }
}

对于日志记录过滤器，我必须创建一个继承自logging.Filter 类的类。该类还依赖于文件loggingsetup.py

class RemoveCeleryLogs(logging.Filter): # custom class to filter for celery logs (to not send them to Splunk)
    def __init__(self, logsToSkip=None):
        self.logsToSkip = logsToSkip

    def filter(self, record):
        if self.logsToSkip == None:
            allow = True
        else:
            allow = self.logsToSkip not in record.name
        return allow

之后，您可以像这样配置记录器：

logging.config.dictConfig(loggingsetup.LOGGING)
logger = logging.getLogger('')

因为 celery 重定向了它的日志并且日志加倍，所以我必须更新 app.conf：

app.conf.update({
    'worker_hijack_root_logger': False, # so celery does not set up its loggers
    'worker_redirect_stdouts': False, # so celery does not redirect its logs
})

我面临的下一个问题是，我选择的 Splunk_Logging 库将某些内容与 url 混合在一起。因此，我必须创建自己的 splunk_handler 类，该类继承自logging.Handler 类。这里的重要行如下（来自我的自定义记录器类 splunk_logging_class.py）：

auth_header = {'Authorization': 'Splunk {0}'.format(self.splunk_key)}
json_message = {"index": str(self.splunk_index), "event": data}
r = requests.post(self.url, headers=auth_header, json=json_message)

我希望我能帮助那些在 python、splunk 和 celery 日志记录方面面临类似问题的人回答这个问题！ :)