LoongCollector

1758
下载
LoongCollector 源自阿里云可观测性团队所开源的 iLogtail 项目,在继承了 iLogtail 强大的日志采集与处理能力的基础上,进行了全面的功能升级与扩展。从原来单一日志场景,逐步扩展为可观测数据采集、本地计算、服务发现的统一体。 LoongCollector 是一款集卓越性能、超强稳定性和灵活可编程性于一身的数据采集器,专为构建下一代可观测 Pipeline 设计。愿景是:打造业界领先的“统一可观测 Agent(Unified Observability Agent)”与“端到端可观

数据脱敏


简介

processor_desensitize插件可以通过正则表达式匹配并实现文本日志中敏感数据的脱敏。源代码

版本

Beta

配置参数

参数类型,默认值说明
TypeString,无默认值(必填)插件类型,固定为processor_desensitize
SourceKeyString,无默认值(必填)日志字段名称。
MethodString,无默认值(必填)脱敏方式。可选值如下: const:将敏感内容替换成 ReplaceString 参数处配置等字符串。 md5:将敏感内容替换为其对应的MD5值。
MatchString,无默认值(必填)指定敏感数据。可选值如下: full:字段全文。 regex:使用正则提取敏感数据。
ReplaceStringString,无默认值用于替换敏感内容等字符串,当 Method 设置为 const 时必选。
RegexBeginString,无默认值用于指定敏感内容前缀的正则表达式,当 Match 配置为 regex 时必选。
RegexContentString,无默认值用于指定敏感内容的正则表达式,当 Match 配置为 regex 时必选。

样例

采集/home/test-log/路径下包含敏感数据的processor-desensitize.log文件,根据指定的配置选项提取日志信息。

  • 输入
Terminal window
echo "[{'account':'1812213231432969','password':'04a23f38'}, {account':'1812213685634','password':'123a'}]" >> /home/test-ilogtail/test-log/processor-desensitize.log
  • 采集配置1
enable: true
inputs:
- Type: input_file
FilePaths:
- /home/test-log/*.log
processors:
- Type: processor_desensitize
SourceKey: content
Method: "const"
Match: "full"
ReplaceString: "********"
flushers:
- Type: flusher_stdout
OnlyStdout: true
  • 输出1
{
"content":"********",
}
  • 采集配置2
enable: true
inputs:
- Type: input_file
FilePaths:
- /home/test-log/*.log
processors:
- Type: processor_desensitize
SourceKey: content
Method: "const"
Match: "regex"
ReplaceString: "********"
RegexBegin: "'password':'"
RegexContent: "[^']*"
flushers:
- Type: flusher_stdout
OnlyStdout: true
  • 输出2
{
"content":"[{'account':'1812213231432969','password':'********'}, {'account':'1812213685634','password':'********'}]",
}
  • 采集配置3
enable: true
inputs:
- Type: input_file
FilePaths:
- /home/test-log/*.log
processors:
- Type: processor_desensitize
SourceKey: content
Method: "md5"
Match: "regex"
ReplaceString: "********"
RegexBegin: "'password':'"
RegexContent: "[^']*"
flushers:
- Type: flusher_stdout
OnlyStdout: true
  • 输出3
{
"content":"[{'account':'1812213231432969','password':'9c525f463ba1c89d6badcd78b2b7bd79'}, {'account':'1812213685634','password':'1552c03e78d38d5005d4ce7b8018addf'}]",
}

observability.cn Authors 2024 | Documentation Distributed under CC-BY-4.0
Copyright © 2017-2024, Alibaba. All rights reserved. Alibaba has registered trademarks and uses trademarks.
浙ICP备2021005855号-32