LoongCollector

1758
下载
LoongCollector 源自阿里云可观测性团队所开源的 iLogtail 项目,在继承了 iLogtail 强大的日志采集与处理能力的基础上,进行了全面的功能升级与扩展。从原来单一日志场景,逐步扩展为可观测数据采集、本地计算、服务发现的统一体。 LoongCollector 是一款集卓越性能、超强稳定性和灵活可编程性于一身的数据采集器,专为构建下一代可观测 Pipeline 设计。愿景是:打造业界领先的“统一可观测 Agent(Unified Observability Agent)”与“端到端可观

分隔符


简介

processor_split_char processor插件可以通过单字符的分隔符提取字段,该方式支持使用引用符对分隔符进行包裹。

processor_split_string processor插件可以通过多字符的分隔符提取字段,该方式不支持使用引用符对分隔符进行包裹。

版本

Stable

配置参数

processor_split_char配置

参数类型是否必选说明
TypeString插件类型
SourceKeyString原始字段名
SplitSepString分隔符。必须为单字符,可设置为不可见字符,例如\u0001。
SplitKeysString数组分割日志后设置的字段名,例如[“ip”, “time”, “method”]。
QuoteFlagBoolean是否使用引用符。如果未添加该参数,则默认使用false,表示不使用。
QuoteString仅当QuoteFlag配置为true时有效。
NoKeyErrorBoolean无匹配的原始字段时是否报错。如果未添加该参数,则默认使用false,表示不报错。
NoMatchErrorBoolean分隔符不匹配时是否报错。如果未添加该参数,则默认使用false,表示不报错。
KeepSourceBoolean是否保留原始字段。如果未添加该参数,则默认使用false,表示不保留。

processor_split_string配置

参数类型是否必选说明
TypeString插件类型
SourceKeyString原始字段名
SplitSepString分隔符。可以设置不可见字符,例如\u0001\u0002。
SplitKeysString数组分割日志后设置的字段名,例如[“ip”, “time”, “method”]。
PreserveOthersBoolean如果待分割的字段长度大于SplitKeys参数中的字段长度时是否保留超出部分。如果未添加该参数,则默认使用false,表示不保留。
ExpandOthersBoolean是否解析超出部分。如果未添加该参数,则默认使用false,表示不继续解析。
ExpandKeyPrefixString超出部分的命名前缀。例如配置expand_,则Key为expand_1、expand_2。
NoKeyErrorBoolean无匹配的原始字段时是否报错。如果未添加该参数,则默认使用false,表示不报错。
NoMatchErrorBoolean分隔符不匹配时是否报错。如果未添加该参数,则默认使用false,表示不报错。
KeepSourceBoolean是否保留原始字段。如果未添加该参数,则默认使用false,表示不保留。

样例

采集/home/test-log/路径下的delimiter.log文件,使用竖线(|)分隔符提取日志的字段值。

  • 输入
Terminal window
echo "127.0.0.1|10/Aug/2017:14:57:51 +0800|POST|PutData?Category=YunOsAccountOpLog|0.024|18204|200|37|-|aliyun-sdk-java" >> /home/test-log/delimiter.log
  • 采集配置
enable: true
inputs:
- Type: input_file
FilePaths:
- /home/test-log/*.log
processors:
- Type: processor_split_char
SourceKey: content
SplitSep: "|"
SplitKeys:
- ip
- time
- method
- url
- request_time
- request_length
- status
- length
- ref_url
- browser
flushers:
- Type: flusher_stdout
OnlyStdout: true
  • 输出
{
"__tag__:__path__": "/home/test-log/delimiter.log",
"ip": "127.0.0.1",
"time": "10/Aug/2017:14:57:51 +0800",
"method": "POST",
"url": "PutData?Category=YunOsAccountOpLog",
"request_time": "0.024",
"request_length": "18204",
"status": "200",
"length": "37",
"ref_url": "-",
"browser": "aliyun-sdk-java",
"__time__": "1657361070"
}

observability.cn Authors 2024 | Documentation Distributed under CC-BY-4.0
Copyright © 2017-2024, Alibaba. All rights reserved. Alibaba has registered trademarks and uses trademarks.
浙ICP备2021005855号-32