LoongCollector

1758
下载
LoongCollector 源自阿里云可观测性团队所开源的 iLogtail 项目,在继承了 iLogtail 强大的日志采集与处理能力的基础上,进行了全面的功能升级与扩展。从原来单一日志场景,逐步扩展为可观测数据采集、本地计算、服务发现的统一体。 LoongCollector 是一款集卓越性能、超强稳定性和灵活可编程性于一身的数据采集器,专为构建下一代可观测 Pipeline 设计。愿景是:打造业界领先的“统一可观测 Agent(Unified Observability Agent)”与“端到端可观

什么是输入插件


概述

输入插件是LoongCollector的核心组件之一,负责从各类数据源高效采集数据。LoongCollector提供两种类型的输入插件,分别针对不同的使用场景:

  • 原生插件(C++): 高性能、低开销的首选方案
  • 扩展插件(Golang): 灵活可扩展的补充方案

插件类型介绍

原生插件

原生插件采用C++实现,具有以下显著优势:

  • 卓越的性能表现和极低的资源开销
  • 专注于常见数据源的高效采集
  • 生产环境首选的稳定采集方案
名称提供方功能简介
input_file 文本日志SLS官方文本采集。
input_container_stdio 容器标准输出(原生插件)SLS官方从容器标准输出/标准错误流中采集日志。
input_observer_network eBPF网络调用数据SLS官方支持从网络系统调用中收集四层网络调用,并借助网络解析模块,可以观测七层网络调用细节。
input_file_security 文件安全数据SLS官方文件安全数据采集。
input_network_observer 网络可观测数据SLS官方网络可观测数据采集。
input_network_security 网络安全数据SLS官方网络安全数据采集。
input_process_security 进程安全数据SLS官方进程安全数据采集。

扩展插件

扩展插件基于Golang实现,具有以下特点:

  • 性能与资源开销均衡
  • 支持丰富多样的数据源接入
  • 开发门槛低,易于定制与扩展
  • 适用于特定场景的数据采集需求
名称提供方功能简介
input_command 脚本执行数据社区 didachuxing采集脚本执行数据。
input_docker_stdout 容器标准输出SLS官方从容器标准输出/标准错误流中采集日志。
metric_debug_file 文本日志(debug)SLS官方用于调试的读取文件内容的插件。
metric_input_example MetricInput示例插件SLS官方MetricInput示例插件。
metric_meta_host 主机Meta数据SLS官方主机Meta数据。
metric_mock Mock数据-MetricSLS官方生成metric模拟数据的插件。
metric_system_v2 主机监控数据SLS官方主机监控数据。
service_canal MySQL BinlogSLS官方将MySQL Binlog输入到iLogtail。
service_go_profile GO ProfileSLS官方采集Golang pprof 性能数据。
service_gpu_metric GPU数据SLS官方支持收集英伟达GPU指标。
service_http_server HTTP数据SLS官方接收来自unix socket、http/https、tcp的请求,并支持sls协议、otlp等多种协议。
service_input_example ServiceInput示例插件SLS官方ServiceInput示例插件。
service_journal Journal数据SLS官方从原始的二进制文件中采集Linux系统的Journal(systemd)日志。
service_kafka KafkaSLS官方将Kafka数据输入到iLogtail。
service_mock Mock数据-ServiceSLS官方生成service模拟数据的插件。
service_mssql SqlServer查询数据SLS官方将Sql Server数据输入到iLogtail。
service_otlp OTLP数据社区 Zhu Shunjia通过http/grpc协议,接收OTLP数据。
service_pgsql PostgreSQL查询数据SLS官方将PostgresSQL数据输入到iLogtail。
service_syslog Syslog数据SLS官方采集syslog数据。

插件特性对比

特性原生插件扩展插件
实现语言C++Golang
性能表现极致性能性能适中
资源开销极低开销开销适中
功能覆盖专注常见场景广泛覆盖
开发难度中等较低

选型建议

  1. 推荐使用原生插件的场景:
    • 对性能和资源消耗有严格要求
    • 采集常见标准数据源
    • 部署在资源受限环境
  2. 适合使用扩展插件的场景:
    • 需要采集特殊或自定义数据源
    • 有特定的定制化需求
    • 需要快速开发和迭代
    • 性能要求相对灵活

使用说明

  • 插件组合规则:
    • 原生Input插件: 可配合原生/扩展Processor插件使用,支持SPL插件
    • 扩展Input插件: 仅支持扩展Processor插件
    • 详细说明请参考处理插件文档

observability.cn Authors 2024 | Documentation Distributed under CC-BY-4.0
Copyright © 2017-2024, Alibaba. All rights reserved. Alibaba has registered trademarks and uses trademarks.
浙ICP备2021005855号-32