1.flume:
flume启动配置文件.conf:
flume-ng agent --conf conf --conf-file example.conf --name a1 -Dflume.root.logger=INFO,console
如果不需要打印日志信息在控制台:
flume-ng agent --conf conf --conf-file example.conf --name a1
2.kafka:
在kafka的conf目录下启动自带的zookeeper:
zookeeper-server-start.sh /bigdata/kafka_2.11-0.10.0.1/config/zookeeper.properties
在kafka的bin下启动kafka:
kafka-server-start.sh /bigdata/kafka_2.11-0.10.0.1/config/server.properties
在bin下创建主题
kafka-topics.sh --create --zookeeper localhost:2181 --topic mytopic --partitions 3 --replication-factor 1
–create对于主题的创建
–zookeeper需要告诉zk的地址
–topic我们自己取的主题名
–partitions分区数
–replication-factor副本因子:如果是伪分布式的情况下,只能填写1
bin目录下启动kafka生产者:
kafka-console-producer.sh --topic mytopic --broker-list localhost:9092
bin目录下启动kakfa消费者:
kafka-console-consumer.sh --zookeeper localhost:2181 --topic mytopic
集群创建kafka主题:
kafka-topics --zookeeper team01master:2181,team01slave01:2181,team01slave02:2181/kafka --topic project --replication-factor 1 --partitions 3 --create
下载插件:
yum -y install +插件名
更多推荐
示例,组件,命令,常用,flume
发布评论