0%

大数据框架开发基础之Kafka入门

Kafka概述

定义

是一个分布式基于发布/订阅模式的消息队列,主要用于大数据处理领域。

1.1 消息队列的两种模式

  1. 点对点模式(一对一,消费者主动拉取数据,消息受到后信息消除)

消息生产者生产消息发送到Queue中,然后消息消费者从Queue中取出并且消费消息。消息被消费以后,Queue中不在有存储,所以消费者不可能消费到已经被消费的消息。Queue支持多个消费者,但是对一个消息而言,只会有一个消费者可以消费。

1561169473754

  1. 发布/订阅模式(一对多,消费者消费数据后不会清楚消息)

消息生产者(发布)将消息发布到topic中,同时有多个消息消费者(订阅)消费该消息。和点对点方式不同,发布到topic的消息会被所有的消费者订阅者消费。

1561169646501

1.2 Kafka基础架构

1561169874880

基础架构说明

架构说明
Producer消息生产者,就是向Kafka Broker发消息的客户端
Consumer消息消费者,向Kafka Broker取消息的客户端
Consumer Group (CG)消费者组,由多个consumer组成。消费者组内每个消费者负责消费不同分区的数据,一个分区只能由一个消费者消费;消费者组之间互不影响。所有的消费者都属于某个消费者组,即消费者组是逻辑上的一个订阅者
Broker一台kafka服务器就是一个Broker。一个集群由多个Broker组成。一个Broker可以容纳多个topic。
Topic可以理解为一个队列,生产者和消费者面向的都是一个topic
Partition为了实现扩展性,一个非常大的topic可以分布到多个broker(即服务器)上,一个topic可以分为多个partition,每个partition是一个有序的队列;
Replica副本,为保证集群中的某个节点发生故障时,该节点上的partition数据不丢失,且kafka仍然能够继续工作,kafka提供了副本机制,一个topic的每个分区都有若干个副本,一个leader和若干个follower
Leader每个分区多个副本的“主”,生产者发送数据的对象,以及消费者消费数据的对象都是leader。
Follower每个分区多个副本中的“从”,实时从leader中同步数据,保持和leader数据的同步。leader发生故障时,某个follower会成为新的follower。

Kafka安装

Kafka的Shell操作

查看所有的topic

1
bin/kafka-topics.sh --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181 --list

创建tpoic

1
bin/kafka-topics.sh --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181 --create --replication-factor 2 --partitions 3 --topic user-behavior

删除topic

1
2
# 需要server.properties中设置delete.topic.enable=true否则只是标记删除。
bin/kafka-topics.sh --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181 --delete --topic topic_name

生产者生产消息

1
bin/kafka-console-producer.sh --broker-list hadoop101:9092,hadoop102:9092,hadoop103:9092 --topic topic_name

消费者消费消息

1
2
bin/kafka-console-consumer.sh --bootstrap-server hadoop101:9092,hadoop102:9092,hadoop103:9092 --topic flink_topic --from-beginning
# --from-beginning:会把主题中以往所有的数据都读取出来。local_corp-ci-1_1_1

查看某个topic的详情

1
bin/kafka-topics.sh --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181 --describe --topic user-behavior

1561423578757

修改分区数

1
bin/kafka-topics.sh --zookeeper hadoop101:2181,hadoop102:2181,hadoop103:2181 --alter --topic topic_name --partitions 6

Kafka消费者组的列表

1
bin/kafka-consumer-groups.sh  --bootstrap-server hadoop101:2181,hadoop102:2181,hadoop103:9092 --list

Kafk消费者组查询日志

1
bin/kafka-consumer-groups.sh  --bootstrap-server hadoop101:2181,hadoop102:2181,hadoop103:9092 --group  ads_log --describe 获取topic的详情
1
bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list hadoop101:2181,hadoop102:2181,hadoop103:2181 --topic user-behavior --time -1

Kafka架构深入

4.1 Kafka工作流程以及文件存储机制

1561372153503

说明

​ Kafka中消息是以topic进行分类的,生产者生产消息,消费者消费消息都是面向topic的。
topic是逻辑上的概念,而partition是物理概念,每个partition对应一个log文件,该log文件中存储的就是producer生产的数据。Producer生产的数据会不断追加到该log文件末端,且每条数据都有自己的offset。消费者组中的每个消费者。都是实时记录自己消费到哪个offset,以便恢复时,从上次的位置继续消费。
由于生产者生产的消息会不断追加到log文件末尾,为防止log文件过大导致数据定位效率低下,Kafka采取了分片和索引机制,将每个partition分为多个segment。每个segment对应两个文件——“.index”文件和“.log”文件。

4.2 Kafka生产者

4.2.1 分区策略

1. 分区原因
(1) 方便在集群中扩展
(2)可以提高并发
2. 分区的原则
(1)指明 partition 的情况下,直接将指明的值直接作为 partiton 值;
(2)没有指明 partition 值但有 key 的情况下,将 key 的 hash 值与 topic 的 partition 数进行取余得到 partition 值;
(3)既没有 partition 值又没有 key 值的情况下,第一次调用时随机生成一个整数(后面每次调用在这个整数上自增),将这个值与 topic 可用的 partition 总数取余得到 partition 值,也就是常说的 round-robin 算法。
3. 数据可靠保证
为保证producer发送的数据,能可靠的发送到指定的topic,topic的每个partition收到producer发送的数据后,都需要向producer发送ack(acknowledgement确认收到),如果producer收到ack,就会进行下一轮的发送,否则重新发送数据。
1561374121634
**3.1. 副本数据同步策略

方案优点缺点
半数以上完成同步,就发送ack延迟低选举新的leader,容忍n台节点故障,需要2n+1个副本
全部完成同步,才发送ack选举新的leader,容忍n台节点的故障,需要n+1个副本延迟高

Kafka采用第二种方案,理由如下:

  1. .同样为了容忍n台节点的故障,第一种方案需要2n+1个副本,而第二种方案只需要n+1个副本,而Kafka的每个分区都有大量的数据,第一种方案会造成大量数据的冗余。
    虽然第二种方案的网络延迟会比较高,但网络延迟对Kafka的影响较小。

3.2. ISR

思考 leader收到数据,收到follower都开始同步数据,但有一个follower,因为某种故障,迟迟不能进行同步,那leader就要一直等下去,直到它完成同步,才能发送ack,这个问题如何解决?

Leader维护了一个动态的in-sync replica set (ISR),意为和leader保持同步的follower集合。当ISR中的follower完成数据的同步之后,leader就会给follower发送ack。如果follower长时间未向leader同步数据,则该follower将被踢出ISR,该时间阈值由replica.lag.time.max.ms参数设定。Leader发生故障之后,就会从ISR中选举新的leader。

3.3. ACK应答机制
对于某些不太重要的数据,对数据的可靠性要求不是很高,能够容忍数据的少量丢失,所以没必要等ISR中的follower全部接收成功。
所以Kafka为用户提供了三种可靠性级别,用户根据对可靠性和延迟的要求进行权衡,选择以下的配置。
ACK参数配置

参数解释
0producer不等待broker的ack,这一操作提供了一个最低的延迟,broker一接收到还没有写入磁盘就已经返回,当broker故障时有可能丢失数据
1producer等待broker的ack,partition的leader落盘成功后返回ack,如果在follower同步成功之前leader故障,那么将会丢失数据
-1producer等待broker的ack,partition的leader和follower全部落盘成功后才返回ack。但是如果在follower同步完成后,broker发送ack之前,leader发生故障,那么会造成数据重复

3.4. 故障处理细节
(1)follower故障
follower发生故障后会被临时踢出ISR,待该follower恢复后,follower会读取本地磁盘记录的上次的HW,并将log文件高于HW的部分截取掉,从HW开始向leader进行同步。等该follower的LEO大于等于该Partition的HW,即follower追上leader之后,就可以重新加入ISR了。
(2)leader故障
leader发生故障之后,会从ISR中选出一个新的leader,之后,为保证多个副本之间的数据一致性,其余的follower会先将各自的log文件高于HW的部分截掉,然后从新的leader同步数据。
注意:这只能保证副本之间的数据一致性,并不能保证数据不丢失或者不重复。
3.5. Exactly Once语义
对于某些比较重要的消息,我们需要保证exactly once语义,即保证每条消息被发送且仅被发送一次。Kafka Producer引入了幂等性机制(idempotent),配合acks = -1时的at least once语义,实现了producer到broker的exactly once语义。
idempotent + at least once = exactly once使用时,只需将enable.idempotence属性设置为true,kafka自动将acks属性设为-1,并将retries属性设为Integer.MAX_VALUE。

4.3 Kafka消费者

4.3.1 消费方式

1
2
3
**Consumer采用pull模式从broker中读取数据**
**push(推)模式很难适应消费速率不同的消费者,因为消息发送速率是由broker决定的。**它的目标是尽可能以最快速度传递消息,但是这样很容易造成consumer来不及处理消息,典型的表现就是拒绝服务以及网络拥塞。而pull模式则可以根据consumer的消费能力以适当的速率消费消息。
**pull模式不足之处是,如果kafka没有数据,消费者可能会陷入循环中,一直返回空数据。**针对这一点,Kafka的消费者在消费数据时会传入一个时长参数timeout,如果当前没有数据可供消费,consumer会等待一段时间之后再返回,这段时长即为timeout。

4.3.2 分区分配策略

1
2
3
4
**两种分区分配原则**
(1) Roundrobin

(2) Range

4.3.3 Offset的维护

1
2
由于consumer在消费过程中可能会出现断电宕机等故障,consumer恢复后,需要从故障前的位置的继续消费,所以consumer需要实时记录自己消费到了哪个offset,以便故障恢复后继续消费。
Kafka 0.9版本之前,consumer默认将offset保存在Zookeeper中,从0.9版本开始,consumer默认将offset保存在Kafka一个内置的topic中,该topic__consumer_offsets。

Kafka 高效读写数据

(1)顺序读写磁盘
Kafka的producer生产数据,要写入到log文件中,写的过程是一直追加到文件末端,为顺序写。官网有数据表明,同样的磁盘,顺序写能到到600M/s,而随机写只有100k/s。这与磁盘的机械机构有关,顺序写之所以快,是因为其省去了大量磁头寻址的时间。
(2)零复制技术

Kafka思考题

1、如何保证参与投票的半数以上的follower里边至少有一个同步完成的?

答:至少半数以上同步完成才发送ACK

这是打赏的地方...
---------Thanks for your attention---------