微信搜索bigdata029 | 邀请体验:数阅–数据管理、OLAP分析与可视化平台 | 订阅本站 | 赞助作者:赞助作者

 分类:Kafka

使用Log4j将程序日志实时写入Kafka

使用Log4j将程序日志实时写入Kafka
关键字:log4j、Kafka、KafkaLog4jAppender 很多应用程序使用Log4j记录日志,如何使用Kafka实时的收集与存储这些Log4j产生的日志呢?一种方案是使用其他组件(比如Flume,或者自己开发程序)实时监控这些日志文件,然后发送至Kafka。而另外一种...

1年前 (2015-11-30) 6404℃ 6喜欢

Kafka主要参数详解

Kafka主要参数详解
关键字:Kafka 参数 系统参数 #唯一标识在集群中的ID,要求是正数。 broker.id=0 #服务端口,默认9092 port=9092 #监听地址 host.name=debugo01 # 处理网络请求的最大线程数 num.network.threads=2 # 处理磁...

1年前 (2015-11-04) 3808℃ 2喜欢

Kafka分区机制介绍与示例

Kafka分区机制介绍与示例
关键字:Kafka分区、Partition Kafka中可以将Topic从物理上划分成一个或多个分区(Partition),每个分区在物理上对应一个文件夹,以”topicName_partitionIndex”的命名方式命名,该文件夹下存储这个分区的所有消息(.log)和索引文件...

1年前 (2015-10-30) 8698℃ 21喜欢

Kafka Java API实现的简单Producer和Consumer

Kafka Java API实现的简单Producer和Consumer
关键字:Kafka Java API、producer、consumer 前面的文章《Kafka安装配置测试》中安装配置了分布式的Kafka集群,并且使用自带的kafka-console-producer.sh和kafka-console-consumer.sh模拟测试了发送消息...

1年前 (2015-09-24) 6116℃ 10喜欢

Kafka安装配置测试

Kafka安装配置测试
关键字:Kafka安装、配置、测试 之前转的文章《Kafka架构和原理深度剖析》中介绍了Kafka的原理,本文记录一下其安装配置和测试的过程。 Kafka的整体架构: 本文中的配置: 在两台机器Node1和Node2上,分别部署了两个broker,Zookeeper使用的是单...

1年前 (2015-09-24) 7381℃ 10喜欢

Kafka架构和原理深度剖析

Kafka架构和原理深度剖析
关键字:Kafka、Kafka架构、Kafka原理 背景介绍 Kafka简介 Kafka是一种分布式的,基于发布/订阅的消息系统。主要设计目标如下: 以时间复杂度为O(1)的方式提供消息持久化能力,并保证即使对TB级以上数据也能保证常数时间的访问性能 高吞吐率。即使在非常廉价的...

1年前 (2015-09-24) 7183℃ 10喜欢