这篇文章主要介绍了flume线上配置的示例分析，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。

创新互联建站长期为上千多家客户提供的网站建设服务，团队从业经验10年，关注不同地域、不同群体，并针对不同对象提供差异化的产品和服务；打造开放共赢平台，与合作伙伴共同营造健康的互联网生态环境。为明水企业提供专业的成都做网站、成都网站建设，明水网站改版等技术服务。拥有10多年丰富建站经验和众多成功案例,为您定制开发。

hdfs_agent.sources = r1

hdfs_agent.sinks = k1

hdfs_agent.channels = c1

# Describe/configure the source

hdfs_agent.sources.r1.type = org.apache.flume.source.kafka.KafkaSource

#hdfs_agent.sources.r1.zookeeperConnect = 10.69.40.17:2181,10.69.40.12:2181,10.69.40.7:2181,10.69.40.11:2181,10.69.40.16:2181

#hdfs_agent.sources.r1.groupId = online_kafka_to_hdfs_gk_groupid_000001

#hdfs_agent.sources.r1.topic = IRT_Dev_Status_STD

hdfs_agent.sources.r1.kafka.bootstrap.servers = 10.69.40.10:9092,10.69.40.13:9092,10.69.40.14:9092,10.69.40.15:9092

hdfs_agent.sources.r1.kafka.consumer.group.id = online_kafka_to_hdfs_gk_groupid_000001

hdfs_agent.sources.r1.kafka.topics = workcondition_info_flume

hdfs_agent.sources.r1.batchSize = 2000

hdfs_agent.sources.r1.interceptors = i1

hdfs_agent.sources.r1.interceptors.i1.type = host

# Describe the sink

hdfs_agent.sinks.k1.type = hdfs

hdfs_agent.sinks.k1.hdfs.path = hdfs://rootcloud/ods/%Y%m%d/%H

hdfs_agent.sinks.k1.hdfs.filePrefix = log-%{host}

hdfs_agent.sinks.k1.hdfs.fileType = DataStream

hdfs_agent.sinks.k1.hdfs.rollInterval = 3600

hdfs_agent.sinks.k1.hdfs.rollSize = 104857600

hdfs_agent.sinks.k1.hdfs.rollCount = 0

hdfs_agent.sinks.k1.hdfs.batchSize = 2000

hdfs_agent.sinks.k1.hdfs.callTimeout = 300000

hdfs_agent.sinks.k1.hdfs.idleTimeout = 600

# Use a channel which buffers events in memory

hdfs_agent.channels.c1.type = memory

hdfs_agent.channels.c1.capacity = 2000000

hdfs_agent.channels.c1.transactionCapacity = 3000

# Bind the source and sink to the channel

hdfs_agent.sources.r1.channels = c1

hdfs_agent.sinks.k1.channel = c1

感谢你能够认真阅读完这篇文章，希望小编分享的“flume线上配置的示例分析”这篇文章对大家有帮助，同时也希望大家多多支持创新互联，关注创新互联行业资讯频道，更多相关知识等着你来学习!

分享题目：flume线上配置的示例分析
文章链接：http://kswjz.com/article/gcgdjg.html