flume 基本概念与操作实例（常用 source）

[](()文件编写

在 flume 文件下的 data 目录中新建一个 basic 文件

vim basic.conf

#绑定数据来源为 r1

a1.sources=r1

#绑定 source 与 sink 之间的通道 channel

a1.channels=c1

#绑定数据流向的最终目的地

a1.sinks=s1

#配置 Source

#这里的 source 是 netcat，通过 NC 发出 TCP 请求获取数据

a1.sources.r1.type=netcat

#端口所在的地址，表示从本地获取数据

a1.sources.r1.bind=0.0.0.0

#绑定端口号，配置监听的端口

a1.sources.r1.port=8090

#配置 Channel -表示内存通道，临时把数据存储到内存中

a1.channels.c1.type=m 《一线大厂 Java 面试题解析+后端开发学习笔记+最新架构讲解视频+实战项目源码讲义》无偿开源 威信搜索公众号【编程进阶路】 emory

#最多存储 1000 条数据 - 对应 1000 个 event 事件

a1.channels.c1.capacity=1000

#每次提供 100 条数据发送给 sink

a1.channels.c1.transactionCapacity=100

#配置 sink -表示以日志的形式输出在控制台

a1.sinks.s1.type=logger

[](()实战操作

在 linux 系统中下载安装 flume，进入 flume 安装路径的 bin 目录中

接着开启 flume

sh flume-ng agent --name a1 -c …/conf/ -f …/data/basic.conf -Dflume.root.logger=INFO,console

接着在同一台虚拟机内，打开一个新的终端

解压安装 nc

在新终端输入 nc hadoop01 8090

hadoop01 是本台虚拟机的名称，8090 是之前设定的端口

在里面随意的输入几个单词

这时再回到原先的终端窗口

会发现 flume 已经监听到输入的这两个单词了

[](()（2）avro

数据的形式是通过 TCP 请求接受或者发送,接受的只是字符串形式的数据

[](()文件编写

相比于 netcat，只需要修改 a1.sources.r1.type=avro 即可

a1.sources=r1

a1.channels=c1

a1.sinks=s1

#配置 Source

#这里的 source 是 avro，通过 NC 发出 TCP 请求获取数据

a1.sources.r1.type=avro

a1.sources.r1.bind=0.0.0.0

a1.sources.r1.port=8090

a1.channels.c1.type=memory

a1.channels.c1.capacity=1000

a1.channels.c1.transactionCapacity=100