当前位置 博文首页 > 山间漫步人生路的博客:kafka的基本了解

    山间漫步人生路的博客:kafka的基本了解

    作者:[db:作者] 时间:2021-06-30 21:19

    概述
    主要应用场景是:日志收集系统和消息系统。

    Kafka主要设计目标如下:

    以时间复杂度为O(1)的方式提供消息持久化能力,即使对TB级以上数据也能保证常数时间的访问性能。
    高吞吐率。即使在非常廉价的商用机器上也能做到单机支持每秒100K条消息的传输。
    支持Kafka Server间的消息分区,及分布式消费,同时保证每个partition内的消息顺序传输。
    同时支持离线数据处理和实时数据处理。
    Scale out:支持在线水平扩展
    消息系统介绍
    一个消息系统负责将数据从一个应用传递到另外一个应用,应用只需关注于数据,无需关注数据在两个或多个应用间是如何传递的。分布式消息传递基于可靠的消息队列,在客户端应用和消息系统之间异步传递消息。有两种主要的消息传递模式:点对点传递模式发布-订阅模式。大部分的消息系统选用发布-订阅模式。Kafka就是一种发布-订阅模式
    点对点消息传递模式
    在点对点消息系统中,消息持久化到一个队列中。此时,将有一个或多个消费者消费队列中的数据。但是一条消息只能被消费一次。当一个消费者消费了队列中的某条数据之后,该条数据则从消息队列中删除。该模式即使有多个消费者同时消费数据,也能保证数据处理的顺序。这种架构描述示意图如下:
    在这里插入图片描述
    生产者发送一条消息到queue,只有一个消费者能收到。

    发布-订阅消息传递模式
    在发布-订阅消息系统中,消息被持久化到一个topic中。与点对点消息系统不同的是,消费者可以订阅一个或多个topic,消费者可以消费该topic中所有的数据,同一条数据可以被多个消费者消费,数据被消费后不会立马删除。在发布-订阅消息系统中,消息的生产者称为发布者,消费者称为订阅者。该模式的示例图如下:

    在这里插入图片描述
    发布者发送到topic的消息,只有订阅了topic的订阅者才会收到消息。

    Kafka的特性

    1. 高吞吐量、低延迟:kafka每秒可以处理几十万条消息,它的延迟最低只有几毫秒

    2. 可扩展性:kafka集群支持热扩展

    3. 持久性、可靠性:消息被持久化到本地磁盘,并且支持数据备份防止数据丢失

    4. 容错性:允许集群中节点失败(若副本数量为n,则允许n-1个节点失败)

    5. 高并发:支持数千个客户端同时读写

    Kafka架构

    它的架构包括以下组件:

    Topic(话题):是特定类型的消息流。消息是字节的有效负载(Payload),话题是消息的分类名或种子(Feed)名。

    Producer(生产者):是能够发布消息到话题的任何对象。

    Broker(服务代理):Kafka 集群包含一个或多个服务器,这种服务器被称为 broker。(每一个broker都有一个唯一的id,这是一个非负整数,这个id就是broker的"名字",这样就允许broker迁移到别的机器而不会影响消费者。你可以选择任意一个数字,只要它是唯一的。)

    Consumer(消费者):可以订阅一个或多个话题,并从Broker拉数据,从而消费这些已发布的消息,向 Kafka broker 读取消息的客户端。

    Partition(分区):Partition 是物理上的概念,每个 Topic 包含一个或多个 Partition。
    Leader : 每个partition有多个副本,其中有且仅有一个作为Leader,Leader是当前负责数据的读写的partition。

    参考资料:大佬博客

    下一篇:没有了