添加链接
link管理
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接
搜索

5.4. 配置 Kafka

download PDF

Kafka 使用属性文件来存储静态配置。配置文件的建议位置为 /opt/kafka/config/server.properties 。配置文件必须可由 kafka 用户读取。 AMQ Streams 附带了一个示例配置文件,它突出显示了该产品的基本和高级功能。它可以在 AMQ Streams 安装目录中的 config/server.properties 下找到。 本章介绍了最重要的配置选项。

5.4.1. ZooKeeper

Kafka 代理需要 ZooKeeper 存储其配置的某些部分以及协调集群(例如确定哪些节点是哪个分区的领导)。ZooKeeper 集群的连接详情会存储在 配置文件中。字段 zookeeper.connect 包含 zookeeper 集群成员的主机名和端口的逗号分隔列表。

zookeeper.connect=zoo1.my-domain.com:2181,zoo2.my-domain.com:2181,zoo3.my-domain.com:2181

Kafka 将使用这些地址连接到 ZooKeeper 集群。使用这个配置,所有 Kafka znodes 可直接在 ZooKeeper 数据库的根目录中创建。因此,这种 ZooKeeper 集群只能用于单个 Kafka 集群。要将多个 Kafka 集群配置为使用单个 ZooKeeper 集群,在 Kafka 配置文件中 ZooKeeper 连接字符串末尾指定基本(前缀)路径:

zookeeper.connect=zoo1.my-domain.com:2181,zoo2.my-domain.com:2181,zoo3.my-domain.com:2181/my-cluster-1

5.4.2. 监听器

监听器用于连接 Kafka 代理。每个 Kafka 代理都可以配置为使用多个监听程序。每个侦听器都需要不同的配置,以便它可以在不同的端口或网络接口中侦听。 要配置监听程序,请编辑配置文件中的 监听程序 属性( /opt/kafka/config/server.properties )。以逗号分隔列表的形式,将 监听程序添加到监听程序 属性中。按如下方式配置每个属性:

<listenerName>://<hostname>:<port>

如果 <hostname> 为空,则 Kafka 将使用 java.net.InetAddress.getCanonicalHostName() 类作为主机名。

多个监听程序配置示例

listeners=internal-1://:9092,internal-2://:9093,replication://:9094
当 Kafka 客户端连接到 Kafka 集群时,它首先连接到 bootstrap 服务器 ,这是集群节点之一。bootstrap 服务器为客户端提供集群中所有代理的列表,客户端会单独连接到每个代理。代理列表基于配置的 监听程序

公告的监听程序

另外,您可以使用 advertised.listeners 属性为客户端提供不同于监听程序属性中给出的一系列不同的 监听程序 地址。如果其他网络基础架构(如代理)在客户端和代理之间,或者会使用外部 DNS 名称而不是 IP 地址,这很有用。 advertised.listeners 属性的格式与 监听程序 属性相同。

公告监听器配置示例

listeners=internal-1://:9092,internal-2://:9093
advertised.listeners=internal-1://my-broker-1.my-domain.com:1234,internal-2://my-broker-1.my-domain.com:1235
公告的监听程序的名称必须与 监听程序 属性中列出的名称匹配。

inter-broker 监听程序

在 Kafka 代理间使用内部代理侦听程序 。需要内部代理通信: 协调不同代理间的工作负载 在存储在不同代理中的分区间复制消息 处理控制器的管理任务,如分区领导更改 inter-broker 侦听器可以分配给您选择的端口。当配置了多个监听器时,您可以在 inter.broker.listener.name 属性中定义 inter-broker 监听程序的名称。 此处,内部代理监听程序被命名为 REPLICATION

listeners=REPLICATION://0.0.0.0:9091
inter.broker.listener.name=REPLICATION

control plane 监听程序

默认情况下,控制器和其他代理之间的通信使用 inter-broker 侦听程序 。控制器负责协调管理任务,如分区领导更改。 您可以为控制器连接启用专用 control plane 监听程序 。control plane 侦听器可以分配给您选择的端口。 要启用 control plane 侦听器,使用监听程序名称配置 control.plane.listener.name 属性:

listeners=CONTROLLER://0.0.0.0:9090,REPLICATION://0.0.0.0:9091
control.plane.listener.name=CONTROLLER

启用 control plane 侦听程序可能会提高集群性能,因为控制器通信不会因为代理中的数据复制不会延迟。数据复制通过 inter-broker 侦听器继续。 如果没有配置 control.plane.listener ,控制器连接将使用 inter-broker 侦听器

5.4.3. 提交日志

Apache Kafka 在提交日志中存储它从制作者接收的所有记录。提交日志包含 Kafka 需要交付的实际数据,格式为记录。这些不是记录代理正在执行的操作的应用程序日志文件。 您可以使用 log.dirs 属性文件配置日志目录,将提交日志存储到一个或多个日志目录中。它应该设置为在安装过程中创建的 /var/lib/kafka 目录:

log.dirs=/var/lib/kafka

出于性能考虑,您可以将 log.dirs 配置为多个目录,并将其每个目录放在不同的物理设备中,以提高磁盘 I/O 性能。例如:

log.dirs=/var/lib/kafka1,/var/lib/kafka2,/var/lib/kafka3

5.4.4. 代理 ID

代理 ID 是集群中每个代理的唯一标识符。您可以将大于或等于 0 的整数分配为代理 ID。代理 ID 用于在重启或崩溃后识别代理,因此 id 稳定且不会随时间变化。代理 ID 在代理属性文件中配置:

broker.id=1

5.4.5. zookeeper 身份验证

默认情况下,ZooKeeper 和 Kafka 之间的连接不会被验证。但是,Kafka 和 ZooKeeper 支持 Java 认证和授权服务(JAAS),可用于使用简单身份验证和安全层(SASL)设置身份验证。zookeeper 支持使用带有本地存储的凭据的 DIGEST-MD5 SASL 机制进行验证。

5.4.5.1. JAAS 配置

ZooKeeper 连接的 SASL 身份验证必须在 JAAS 配置文件中配置。默认情况下,Kafka 将使用名为 Client 的 JAAS 上下文来连接到 ZooKeeper。 客户端 上下文应在 /opt/kafka/config/jass.conf 文件中配置。该上下文必须启用 PLAIN SASL 身份验证,如下例所示:

Client {
    org.apache.kafka.common.security.plain.PlainLoginModule required
    username="kafka"
    password="123456";
};

5.4.5.2. 启用 ZooKeeper 身份验证

这个步骤描述了如何在连接到 ZooKeeper 时启用使用 SASL DIGEST-MD5 机制的身份验证。 ZooKeeper 中启用 客户端到服务器身份验证

启用 SASL DIGEST-MD5 身份验证

  1. 在所有 Kafka 代理节点上,创建或编辑 /opt/kafka/config/jaas.conf JAAS 配置文件并添加以下上下文:

    Client {
        org.apache.kafka.common.security.plain.PlainLoginModule required
        username="<Username>"
        password="<Password>";
    								用户名和密码应该与 ZooKeeper 中配置相同。
    								以下示例显示了 Client 上下文:
    							

    Client {
        org.apache.kafka.common.security.plain.PlainLoginModule required
        username="kafka"
        password="123456";
    								重启所有 Kafka 代理节点。要将 JAAS 配置传递给 Kafka 代理,请使用 KAFKA_OPTS 环境变量。
    							

    su - kafka
    export KAFKA_OPTS="-Djava.security.auth.login.config=/opt/kafka/config/jaas.conf"; /opt/kafka/bin/kafka-server-start.sh -daemon /opt/kafka/config/server.properties

    有关在多节点集群中重启代理的详情,请参考 第 3.3 节 “执行安全滚动重启 Kafka 代理”

5.4.6. 授权

Kafka 代理中的授权使用授权插件实现。 在本节中,我们介绍了如何使用 Kafka 提供的 AclAuthorizer 插件。 另外,您可以使用自己的授权插件。例如,如果您使用 基于 OAuth 2.0 令牌的身份验证 ,您可以使用 OAuth 2.0 授权

5.4.6.1. 简单 ACL 授权

Authorizer 插件(包括 AclAuthorizer )通过 authorizer.class.name 属性启用:

authorizer.class.name=kafka.security.auth.AclAuthorizer

所选授权器需要完全限定名称。对于 AclAuthorizer ,完全限定名称为 kafka.security.auth.AclAuthorizer

5.4.6.1.1. ACL 规则

AclAuthorizer 使用 ACL 规则来管理对 Kafka 代理的访问。 ACL 规则采用以下格式定义: 主体 P 允许/拒绝来自主机 H 的 Kafka 资源 R 中的操作 O 例如,可以设置规则以便该用户: John 可以查看 主机 127.0.0.1 的主题 注释 Host 是 John 进行连接的机器的 IP 地址。 在大多数情况下,用户是制作者或消费者应用程序: Consumer01 可以从主机 127.0.0.1 写入 消费者 组帐户 如果没有 ACL 规则 如果给定资源没有 ACL 规则,则拒绝所有操作。通过在 Kafka 配置文件 /opt/kafka/config/server.properties 中将属性 allow.everyone.if.no.acl.found 设置为 true 来更改此行为。

5.4.6.1.2. 主体

主体 代表用户身份。ID 的格式取决于客户端用来连接到 Kafka 的验证机制: 用户:在没有身份验证的情况下 进行连接时,用户. 使用简单验证机制(如 PLAIN 或 SCRAM)进行连接时,user:< username >。 例如 User:admin or User:user1 。 使用 TLS 客户端身份验证 进行连接时,user:<DistinguishedName >。 例如 User:CN=user1,O=MyCompany,L=Prague,C=CZ 。 使用 Kerberos 连接时,user:<Kerberos username >。 DistinguishedName 是与客户端证书区分的名称。 Kerberos 用户名是 Kerberos 主体的主要部分,在使用 Kerberos 进行连接时默认使用它。您可以使用 sasl.kerberos.principal.to.local.rules 属性配置 Kafka 主体如何从 Kerberos 主体构建。

5.4.6.1.3. 用户验证

要使用授权,您需要为客户端启用和使用身份验证。否则,所有连接都将有主要 用户:ANONYMOUS 。 有关验证方法的更多信息,请参阅 加密和验证

5.4.6.1.4. 超级用户

无论 ACL 规则如何,超级用户都可以执行所有操作。 超级用户在 Kafka 配置文件中使用属性 super.users 定义。

super.users=User:admin,User:operator
5.4.6.1.5. 副本代理身份验证

启用授权后,它将适用于所有监听程序和所有连接。这包括用于在代理之间复制数据的 inter-broker 连接。如果启用授权,请确保您使用身份验证进行代理间的连接,并授予用户代理足够权利。例如,如果代理间的身份验证使用 kafka-broker 用户,则超级用户配置必须包含用户名 super.users=User:kafka-broker

5.4.6.1.6. 支持的资源

您可以将 Kafka ACL 应用到这些类型的资源: TransactionId DelegationToken

5.4.6.1.7. 支持的操作

AclAuthorizer 授权资源上的操作。 下表中包含 X 的字段标记每个资源支持的操作。

表 5.1. 资源支持的操作
主题 消费者组 集群

describe ClusterAction

5.4.6.1.8. ACL 管理选项

ACL 规则使用 bin/kafka-acls.sh 实用程序来管理,实用程序作为 Kafka 分发软件包的一部分提供。 使用 kafka-acls.sh 参数选项来添加、列出和删除 ACL 规则,以及执行其他功能。 参数需要一个双重规范,如 --add

选项 类型 描述 默认

添加 ACL 规则。 remove 删除 ACL 规则。 列出 ACL 规则。 authorizer 授权器的完全限定类名称。 kafka.security.auth.AclAuthorizer authorizer-properties Configuration 传递给授权器进行初始化的键/值对。 对于 AclAuthorizer ,示例值为: zookeeper.connect=zoo1.my-domain.com:2181 bootstrap-server 连接到 Kafka 集群的主机/端口对。 使用这个选项或 授权器 选项,而不是两者。 command-config 要传递给 Admin Client 的配置文件,它与 bootstrap-server 参数结合使用。 cluster 将集群指定为 ACL 资源。 topic 将主题名称指定为 ACL 资源。 用作通配符的星号( * )转换为 所有主题 。 单个命令可以指定多个 --topic 选项。 group 将消费者组名称指定为 ACL 资源。 单个命令可以指定多个 --group 选项。 transactional-id 指定事务 ID 作为 ACL 资源。 事务型交付意味着,生产者发送到多个分区的所有消息都必须成功交付或没有这些消息。 用作通配符的星号( * )转换为 所有 ID delegation-token 将委派令牌指定为 ACL 资源。 用作通配符的星号( * )转换为 所有令牌 resource-pattern-type Configuration 指定 add 参数的资源模式,或为 list remove 参数指定资源模式过滤器值。 使用 literal prefixed 作为一个资源名称的资源特征类型。 使用任意 匹配 作为资源模式过滤器值,或者特定模式类型过滤器。 allow-principal 添加到允许 ACL 规则的主体。 单个命令可以指定多个 --allow-principal 选项。 deny-principal 添加到拒绝 ACL 规则的主体。 单个命令可指定多个 --deny-principal 选项。 principal list 参数搭配使用的主体名称,用于返回主体的 ACL 列表。 单个命令可以指定多个 --principal 选项。 allow-host 允许访问 --allow-principal 中列出的主体的 IP 地址。 不支持主机名或 CIDR 范围。 如果指定了 --allow-principal ,则默认为 * 表示"all hosts"。 deny-host 拒绝访问 --deny-principal 中列出的主体的 IP 地址。 不支持主机名或 CIDR 范围。 如果指定了 --deny-principal ,则默认为 * 表示"所有主机"。 operation 允许或拒绝操作。 单个命令可以指定多个Multiple --operation 选项。 producer 允许或拒绝消息制作者需要的所有操作的快捷方式(主题中为 WRITE 和 DESCRIBE,集群中为 CREATE)。 consumer 允许或拒绝消息消费者所需的所有操作的快捷方式(主题为 READ 和 DESCRIBE,使用者组 READ)。 idempotent --producer 参数配合使用时启用幂等性快捷方式,以便消息完全传送到分区。 如果生产者被授权根据特定的事务 ID 发送消息,则会自动启用 Idepmotence。 force 接受所有查询且不提示的快捷方式。

5.4.6.2. 启用授权

这个步骤描述了如何在 Kafka 代理中为授权启用 AclAuthorizer 插件。 AMQ Streams 安装 在所有用作 Kafka 代理的主机上。 编辑 /opt/kafka/config/server.properties Kafka 配置文件,以使用 AclAuthorizer

authorizer.class.name=kafka.security.auth.AclAuthorizer
  • (重新)启动 Kafka 代理。
  • 5.4.6.3. 添加 ACL 规则

    AclAuthorizer 使用访问控制列表(ACL),后者定义一组规则描述用户可以和无法执行的操作。 此流程描述了如何在 Kafka 代理中使用 AclAuthorizer 插件时添加 ACL 规则。 规则使用 kafka-acls.sh 实用程序添加,并存储在 ZooKeeper 中。 AMQ Streams 安装 在所有用作 Kafka 代理的主机上。 在 Kafka 代理 中启用了 授权。 使用 --add 选项运行 kafka-acls.sh 。 允许使用 MyConsumerGroup consumer 组从 myTopic 中读取 user1 user2 访问权限。

    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --add --operation Read --topic myTopic --allow-principal User:user1 --allow-principal User:user2
    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --add --operation Describe --topic myTopic --allow-principal User:user1 --allow-principal User:user2
    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --add --operation Read --operation Describe --group MyConsumerGroup --allow-principal User:user1 --allow-principal User:user2
  • 拒绝 user1 从 IP 地址主机 127.0.0.1 读取 myTopic 的访问权限。

    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --add --operation Describe --operation Read --topic myTopic --group MyConsumerGroup --deny-principal User:user1 --deny-host 127.0.0.1
  • 添加 user1 作为带有 MyConsumerGroup myTopic 的消费者。

    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --add --consumer --topic myTopic --group MyConsumerGroup --allow-principal User:user1
  • 5.4.6.4. 列出 ACL 规则

    这个步骤描述了如何在 Kafka 代理中使用 AclAuthorizer 插件列出现有 ACL 规则。 规则使用 kafka-acls.sh 实用程序列出。 AMQ Streams 安装 在所有用作 Kafka 代理的主机上。 在 Kafka 代理 中启用 授权 添加了 ACL。 使用 --list 选项运行 kafka-acls.sh

    $ bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --list --topic myTopic
    Current ACLs for resource `Topic:myTopic`:
    User:user1 has Allow permission for operations: Read from hosts: *
    User:user2 has Allow permission for operations: Read from hosts: *
    User:user2 has Deny permission for operations: Read from hosts: 127.0.0.1
    User:user1 has Allow permission for operations: Describe from hosts: *
    User:user2 has Allow permission for operations: Describe from hosts: *
    User:user2 has Deny permission for operations: Describe from hosts: 127.0.0.1

    5.4.6.5. 删除 ACL 规则

    此流程描述了如何在 Kafka 代理中使用 AclAuthorizer 插件时删除 ACL 规则。 使用 kafka-acls.sh 实用程序删除规则。 AMQ Streams 安装 在所有用作 Kafka 代理的主机上。 在 Kafka 代理 中启用了 授权。 添加了 ACL。 使用 --remove 选项运行 kafka-acls.sh 。 删除 ACL,允许 user1 user2 使用 MyConsumerGroup 消费者组从 myTopic 读取。

    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --remove --operation Read --topic myTopic --allow-principal User:user1 --allow-principal User:user2
    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --remove --operation Describe --topic myTopic --allow-principal User:user1 --allow-principal User:user2
    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --remove --operation Read --operation Describe --group MyConsumerGroup --allow-principal User:user1 --allow-principal User:user2
  • 删除 ACL 添加 user1 作为带有 MyConsumerGroup myTopic 的消费者。

    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --remove --consumer --topic myTopic --group MyConsumerGroup --allow-principal User:user1
  • 移除 ACL 拒绝 user1 访问,以从 IP 地址主机 127.0.0.1 读取 myTopic

    bin/kafka-acls.sh --authorizer-properties zookeeper.connect=zoo1.my-domain.com:2181 --remove --operation Describe --operation Read --topic myTopic --group MyConsumerGroup --deny-principal User:user1 --deny-host 127.0.0.1
  • 5.4.7. zookeeper 授权

    在 Kafka 和 ZooKeeper 间启用身份验证时,您可以使用 ZooKeeper Access Control List (ACL)规则自动控制对 ZooKeeper 中存储的 Kafka 元数据的访问。

    5.4.7.1. ACL 配置

    ZooKeeper ACL 规则的执行由 config/server.properties Kafka 配置文件中的 zookeeper.set.acl 属性控制。 默认情况下,这个属性会被默认禁用,并通过设置为 true 来启用:

    zookeeper.set.acl=true

    如果启用了 ACL 规则,当在 ZooKeeper 中创建 znode 时,只有创建它的 Kafka 用户才可以修改或删除它。所有其他用户具有只读访问权限。 Kafka 仅为新创建的 ZooKeeper znodes 设置 ACL 规则。如果仅在集群首次启动后启用 ACL, zookeeper-security-migration.sh 工具可以在所有现有 znodes 上设置 ACL。

    ZooKeeper 数据保密

    ZooKeeper 中存储的数据包括: 主题名称及其配置 当使用 SASL SCRAM 身份验证时,Salted 和 hashed 用户凭证。 但是 ZooKeeper 不会存储使用 Kafka 发送和接收的所有记录。ZooKeeper 中存储的数据假定为非机密。 如果数据要被视为机密(例如,因为主题名称包含客户 ID),用于保护的唯一选项会隔离网络级别的 ZooKeeper,并只允许访问 Kafka 代理。

    5.4.7.2. 为新的 Kafka 集群启用 ZooKeeper ACL

    此流程描述了如何在新 Kafka 集群在 Kafka 配置中启用 ZooKeeper ACL。仅在 Kafka 集群首次启动前使用这个步骤。有关在已经运行的集群中启用 ZooKeeper ACL,请参阅 第 5.4.7.3 节 “在现有 Kafka 集群中启用 ZooKeeper ACL” 。 AMQ Streams 安装 在所有将用作 Kafka 代理的主机上。 zookeeper 集群已 配置并运行 。 在 ZooKeeper 中启用了 客户端到服务器身份验证。 在 Kafka 代理 中启用 z ookeeper 身份验证。 Kafka 代理还没有启动。 编辑 /opt/kafka/config/server.properties Kafka 配置文件,在所有集群节点上将 zookeeper.set.acl 字段设置为 true

    zookeeper.set.acl=true
  • 启动 Kafka 代理。
  • 5.4.7.3. 在现有 Kafka 集群中启用 ZooKeeper ACL

    此流程描述了如何在 Kafka 配置中启用运行 Kafka 集群的 ZooKeeper ACL。使用 zookeeper-security-migration.sh 工具,在所有存在的 znodes 中设置 ZooKeeper ACL。 zookeeper-security-migration.sh 可作为 AMQ Streams 的一部分,并可在 bin 目录中找到。 Kafka 集群已 配置并运行

    启用 ZooKeeper ACL

    1. 编辑 /opt/kafka/config/server.properties Kafka 配置文件,在所有集群节点上将 zookeeper.set.acl 字段设置为 true

      zookeeper.set.acl=true
    2. 重启所有 Kafka 代理。 有关在多节点集群中重启代理的详情,请参考 第 3.3 节 “执行安全滚动重启 Kafka 代理” 。 使用 zookeeper-security-migration.sh 工具,在所有现有的 ZooKeeper znodes 上设置 ACL。

      su - kafka
      cd /opt/kafka
      KAFKA_OPTS="-Djava.security.auth.login.config=./config/jaas.conf"; ./bin/zookeeper-security-migration.sh --zookeeper.acl=secure --zookeeper.connect=<ZooKeeperURL>
      							

      su - kafka
      cd /opt/kafka
      KAFKA_OPTS="-Djava.security.auth.login.config=./config/jaas.conf"; ./bin/zookeeper-security-migration.sh --zookeeper.acl=secure --zookeeper.connect=zoo1.my-domain.com:2181
      exit

    5.4.8. 加密和验证

    AMQ Streams 支持加密和验证,它被配置为监听程序配置的一部分。

    5.4.8.1. 侦听器配置

    Kafka 代理中的加密和身份验证是为每个监听程序配置。有关 Kafka 侦听器配置的更多信息,请参阅 第 5.4.2 节 “监听器” 。 Kafka 代理中的每个监听程序都使用自己的安全协议进行配置。配置属性 监听程序.security.protocol.map 定义哪个监听程序使用哪个安全协议。它将每个侦听器名称映射到其安全协议。支持的安全协议有:

    PLAINTEXT
    无加密或身份验证的监听程序。 使用 TLS 加密(可选)使用 TLS 客户端证书进行身份验证的监听程序。
    SASL_PLAINTEXT
    无加密功能的监听程序,但使用基于 SASL 的身份验证。
    SASL_SSL
    基于 TLS 的加密和 SASL 身份验证的监听程序。 根据以下 监听器 配置:

    listeners=INT1://:9092,INT2://:9093,REPLICATION://:9094

    listener.security.protocol.map 可能如下所示:

    listener.security.protocol.map=INT1:SASL_PLAINTEXT,INT2:SASL_SSL,REPLICATION:SSL

    这会将侦听器 INT1 配置为使用 SASL 身份验证的未加密的连接, INT2 使用 SASL 身份验证的加密连接, REPLICATION 接口使用 TLS 加密(可能与 TLS 客户端身份验证一起使用)。相同的安全协议可多次使用。以下示例也是有效的配置:

    listener.security.protocol.map=INT1:SSL,INT2:SSL,REPLICATION:SSL

    此类配置为所有接口使用 TLS 加密和 TLS 身份验证。下面的章节将更详细地阐述如何配置 TLS 和 SASL。

    5.4.8.2. TLS 加密

    Kafka 支持 TLS 来加密与 Kafka 客户端的通信。 为了使用 TLS 加密和解密,必须提供含有私钥和公钥的密钥存储。这通常使用 Java 密钥存储(JKS)格式的文件来完成。 ssl.keystore.location 属性中设置此文件的路径。 ssl.keystore.password 属性应当用于设置保护密钥存储的密码。例如:

    ssl.keystore.location=/path/to/keystore/server-1.jks
    ssl.keystore.password=123456

    在某些情况下,使用额外的密码来保护私钥。任何此类密码都可使用 ssl.key.password 属性进行设置。 Kafka 可以使用由证书颁发机构签名的密钥和自签名密钥。使用证书颁发机构签名的密钥应始终是首选的方法。为了允许客户端验证其正在连接的 Kafka 代理的身份,证书应始终包含公告的主机名 (CN) 或 Subject Alternative Name(SAN)。 对于不同的监听器,可以使用不同的 SSL 配置。以 ssl 开头的所有选项均可使用 listener.name.<NameOfTheListener>. 前缀,其中监听器的名称必须始终处于小写状态。这将覆盖该特定监听程序的默认 SSL 配置。以下示例演示了如何为不同的监听程序使用不同的 SSL 配置:

    listeners=INT1://:9092,INT2://:9093,REPLICATION://:9094
    listener.security.protocol.map=INT1:SSL,INT2:SSL,REPLICATION:SSL
    # Default configuration - will be used for listeners INT1 and INT2
    ssl.keystore.location=/path/to/keystore/server-1.jks
    ssl.keystore.password=123456
    # Different configuration for listener REPLICATION
    listener.name.replication.ssl.keystore.location=/path/to/keystore/server-1.jks
    listener.name.replication.ssl.keystore.password=123456

    其他 TLS 配置选项

    除了上面描述的主要 TLS 配置选项外,Kafka 还支持很多选项来微调 TLS 配置。例如,要启用或禁用 TLS/SSL 协议或密码套件:

    ssl.cipher.suites
    启用的密码套件列表。每个密码套件都是用于 TLS 连接的身份验证、加密、MAC 和密钥交换算法的组合。默认情况下启用所有可用的加密套件。
    ssl.enabled.protocols
    启用的 TLS/SSL 协议列表。默认为 TLSv1.2,TLSv1.1,TLSv1

    5.4.8.3. 启用 TLS 加密

    这个步骤描述了如何在 Kafka 代理中启用加密。 AMQ Streams 安装 在所有将用作 Kafka 代理的主机上。 为集群中的所有 Kafka 代理生成 TLS 证书。证书应在其通用名称或主题备用名称中公告和 bootstrap 地址。 编辑所有集群节点上的 /opt/kafka/config/server.properties Kafka 配置文件: 更改 监听程序.security.protocol.map 字段,以指定您要使用 TLS 加密的监听程序的 SSL 协议。 使用代理证书将 ssl.keystore.location 选项设置为 JKS 密钥存储的路径。 将 ssl.keystore.password 选项设置为用于保护密钥存储的密码。

    listeners=UNENCRYPTED://:9092,ENCRYPTED://:9093,REPLICATION://:9094
    listener.security.protocol.map=UNENCRYPTED:PLAINTEXT,ENCRYPTED:SSL,REPLICATION:PLAINTEXT
    ssl.keystore.location=/path/to/keystore/server-1.jks
    ssl.keystore.password=123456
  • (重新)启动 Kafka 代理
  • 5.4.8.4. 身份验证

    对于身份验证,您可以使用: TLS 客户端身份验证基于加密连接的 X.509 证书 支持的 Kafka SASL(Simple Authentication and Security Layer)机制 基于 OAuth 2.0 令牌的身份验证

    5.4.8.4.1. TLS 客户端身份验证

    TLS 客户端身份验证只能在已使用 TLS 加密的连接中使用。要使用 TLS 客户端身份验证,可以为代理提供带有公钥的信任存储。这些密钥可用于验证连接到代理的客户端。信任存储应该以 Java Keystore (JKS)格式提供,并且应包含证书颁发机构的公钥。所有使用由信任存储中所含证书颁发机构签名的公钥和私钥的客户端都将被验证。truststore 的位置使用字段 ssl.truststore.location 进行设置。如果 truststore 是受密码保护的,则应在 ssl.truststore.password 属性中设置密码。例如:

    ssl.truststore.location=/path/to/keystore/server-1.jks
    ssl.truststore.password=123456

    配置 truststore 后,必须使用 ssl.client.auth 属性启用 TLS 客户端身份验证。此属性可以设置为三个不同的值之一: TLS 客户端身份验证关闭。(默认值)

    requested
    TLS 客户端身份验证是可选的。客户端需要使用 TLS 客户端证书进行身份验证,但可以选择.
    required
    需要客户端才能使用 TLS 客户端证书进行身份验证。 当客户端使用 TLS 客户端身份验证进行身份验证时,经过身份验证的主体名称是与经过身份验证的客户端证书区分名称。例如,具有可分辨名称 CN=someuser 的用户将使用以下主体 CN=someuser,OU=Unknown,O=Unknown,ST=Unknown,ST=Unknown,C=Unknown,C=Unknown .如果不使用 TLS 客户端身份验证,并且 SASL 被禁用时,主体名称为 ANONYMOUS

    5.4.8.4.2. SASL 身份验证

    SASL 身份验证使用 Java 身份验证和授权服务(JAAS)配置。JAAS 也用于身份验证 Kafka 和 ZooKeeper 连接。JAAS 使用自己的配置文件。此文件的建议位置为 /opt/kafka/config/jaas.conf 。该文件必须可由 kafka 用户读取。在运行 Kafka 时,使用 Java 系统属性 java.security.auth.login.config 来指定此文件的位置。在启动代理节点时,必须将此属性传递给 Kafka:

    KAFKA_OPTS="-Djava.security.auth.login.config=/path/to/my/jaas.config"; bin/kafka-server-start.sh

    通过普通未加密的连接以及 TLS 连接支持 SASL 身份验证。对于每个侦听器,可以单独启用 SASL。要启用它, listener.security.protocol.map 中的安全协议必须是 SASL_PLAINTEXT SASL_SSL 。 Kafka 中的 SASL 身份验证支持多种不同的机制:

    PLAIN
    根据用户名和密码实施身份验证。用户名和密码存储在本地 Kafka 配置中。
    SCRAM-SHA-256 SCRAM-SHA-512
    使用 Salted Challenge Response Authentication Mechanism (SCRAM) 实现验证。SCRAM 凭证集中存储在 ZooKeeper 中。当 ZooKeeper 集群节点在私有网络中隔离时,可以使用 SCRAM。
    GSSAPI
    实现对 Kerberos 服务器的验证。 PLAIN 机制以未加密的格式通过网络发送用户名和密码。因此,它应该只与 TLS 加密结合使用。 SASL 机制通过 JAAS 配置文件进行配置。Kafka 使用名为 KafkaServer 的 JAAS 上下文。在 JAAS 中配置后,必须在 Kafka 配置中启用 SASL 机制。这可以通过 sasl.enabled.mechanisms 属性完成。这个属性包含已启用机制的逗号分隔列表:

    sasl.enabled.mechanisms=PLAIN,SCRAM-SHA-256,SCRAM-SHA-512

    如果使用了用于 inter-broker 进行通信的监听程序,则必须使用 属性 sasl.mechanism.inter.broker.protocol 以指定应使用的 SASL 机制。例如:

    sasl.mechanism.inter.broker.protocol=PLAIN

    将用于 openshift-broker 通信的用户名和密码,该通信必须使用字段 username password KafkaServer JAAS 上下文中指定。

    SASL 普通

    要使用 PLAIN 机制,在 JAAS 上下文中直接指定允许连接的用户名和密码。以下示例显示了为 SASL PLAIN 身份验证配置的上下文。这个示例配置三个不同的用户: admin user1 user2

    KafkaServer {
        org.apache.kafka.common.security.plain.PlainLoginModule required
        user_admin="123456"
        user_user1="123456"
        user_user2="123456";
    							与用户数据库的 JAAS 配置文件应保持在所有 Kafka 代理上同步。
    							当 SASL PLAIN 也用于内部代理身份验证时,usernamepassword 属性应包含在 JAAS 上下文中:
    						

    KafkaServer {
        org.apache.kafka.common.security.plain.PlainLoginModule required
        username="admin"
        password="123456"
        user_admin="123456"
        user_user1="123456"
        user_user2="123456";
    };

    SASL SCRAM

    Kafka 中的 SCRAM 验证由两种机制组成:SC RAM-SHA-256SCRAM-SHA-512。这些机制只在使用的哈希算法中有所不同 - SHA-256 与更强大的 SHA-512。要启用 SCRAM 身份验证,HMQ 配置文件必须包括以下配置:

    KafkaServer {
        org.apache.kafka.common.security.scram.ScramLoginModule required;
    							当在 Kafka 配置文件中启用 SASL 身份验证时,可以列出两个 SCRAM 机制。但是,只能为代理通信选择其中之一。例如:
    						

    sasl.enabled.mechanisms=SCRAM-SHA-256,SCRAM-SHA-512
    sasl.mechanism.inter.broker.protocol=SCRAM-SHA-512

    SCRAM 机制的用户凭证存储在 ZooKeeper 中。kafka-configs.sh 工具可用于管理它们。例如,运行以下命令来添加用户 user1,密码为 123456:

    bin/kafka-configs.sh --bootstrap-server localhost:9092 --alter --add-config 'SCRAM-SHA-256=[password=123456],SCRAM-SHA-512=[password=123456]' --entity-type users --entity-name user1

    要删除用户凭证,请使用:

    bin/kafka-configs.sh --bootstrap-server localhost:9092 --alter --delete-config 'SCRAM-SHA-512' --entity-type users --entity-name user1

    SASL GSSAPI

    使用 Kerberos 进行身份验证的 SASL 机制称为 GSSAPI。要配置 Kerberos SASL 身份验证,应将以下配置添加到 JAAS 配置文件中:

    KafkaServer {
        com.sun.security.auth.module.Krb5LoginModule required
        useKeyTab=true
        storeKey=true
        keyTab="/etc/security/keytabs/kafka_server.keytab"
        principal="kafka/kafka1.hostname.com@EXAMPLE.COM";
    							Kerberos 主体中的域名必须始终为大写。
    							除了 JAAS 配置外,还需要在 Kafka 配置中的 sasl.kerberos.service.name 属性中指定 Kerberos 服务名称:
    						

    sasl.enabled.mechanisms=GSSAPI
    sasl.mechanism.inter.broker.protocol=GSSAPI
    sasl.kerberos.service.name=kafka

    多 SASL 机制

    Kafka 可以同时使用多个 SASL 机制。不同的 JAAS 配置可添加到同一上下文中:

    KafkaServer {
        org.apache.kafka.common.security.plain.PlainLoginModule required
        user_admin="123456"
        user_user1="123456"
        user_user2="123456";
        com.sun.security.auth.module.Krb5LoginModule required
        useKeyTab=true
        storeKey=true
        keyTab="/etc/security/keytabs/kafka_server.keytab"
        principal="kafka/kafka1.hostname.com@EXAMPLE.COM";
        org.apache.kafka.common.security.scram.ScramLoginModule required;
    							启用多个机制后,客户端就可以选择要使用的机制。
    						

    5.4.8.5. 启用 TLS 客户端身份验证

    这个步骤描述了如何在 Kafka 代理中启用 TLS 客户端身份验证。 AMQ Streams 安装 在所有将用作 Kafka 代理的主机上。 启用 TLS 加密。 准备包含用于为用户证书签名的证书颁发机构的公钥的 JKS 信任存储。 编辑所有集群节点上的 /opt/kafka/config/server.properties Kafka 配置文件: 使用用户证书的证书颁发机构,将 ssl.truststore.location 选项设置为 JKS 信任存储的路径。 将 ssl.truststore.password 选项设置为用于保护信任存储的密码。 将 ssl.client.auth 选项设置为 required

    ssl.truststore.location=/path/to/truststore.jks
    ssl.truststore.password=123456
    ssl.client.auth=required
  • (重新)启动 Kafka 代理
  • 5.4.8.6. 启用 SASL PLAIN 身份验证

    这个步骤描述了如何在 Kafka 代理中启用 SASL PLAIN 身份验证。 AMQ Streams 安装 在所有将用作 Kafka 代理的主机上。 编辑或创建 /opt/kafka/config/jaas.conf JAAS 配置文件。此文件应包含您的所有用户及其密码。确保所有 Kafka 代理上,确保这个文件都相同。

    KafkaServer {
        org.apache.kafka.common.security.plain.PlainLoginModule required
        user_admin="123456"
        user_user1="123456"
        user_user2="123456";
    								编辑所有集群节点上的 /opt/kafka/config/server.properties Kafka 配置文件:
    										更改 监听程序.security.protocol.map 字段,为您要使用 SASL PLAIN 身份验证的监听程序指定 SASL_PLAINTEXTSASL_SSL 协议。
    										将 sasl.enabled.mechanisms 选项设置为 PLAIN

    listeners=INSECURE://:9092,AUTHENTICATED://:9093,REPLICATION://:9094
    listener.security.protocol.map=INSECURE:PLAINTEXT,AUTHENTICATED:SASL_PLAINTEXT,REPLICATION:PLAINTEXT
    sasl.enabled.mechanisms=PLAIN
  • 使用 KAFKA_OPTS 环境变量(重新)启动 Kafka 代理,将 JAAS 配置传递给 Kafka 代理。

    su - kafka
    export KAFKA_OPTS="-Djava.security.auth.login.config=/opt/kafka/config/jaas.conf"; /opt/kafka/bin/kafka-server-start.sh -daemon /opt/kafka/config/server.properties
  • 5.4.8.7. 启用 SASL SCRAM 身份验证

    这个步骤描述了如何在 Kafka 代理中启用 SASL SCRAM 身份验证。 AMQ Streams 安装 在所有将用作 Kafka 代理的主机上。 编辑或创建 /opt/kafka/config/jaas.conf JAAS 配置文件。为 KafkaServer 上下文启用 ScramLoginModule 。确保所有 Kafka 代理上,确保这个文件都相同。

    KafkaServer {
        org.apache.kafka.common.security.scram.ScramLoginModule required;
    								编辑所有集群节点上的 /opt/kafka/config/server.properties Kafka 配置文件:
    										更改 监听程序.security.protocol.map 字段,为您要使用 SASL SCRAM 身份验证的监听程序指定 SASL_PLAINTEXTSASL_SSL 协议。
    										将 sasl.enabled.mechanisms 选项设置为 SCRAM-SHA-256SCRAM-SHA-512

    listeners=INSECURE://:9092,AUTHENTICATED://:9093,REPLICATION://:9094
    listener.security.protocol.map=INSECURE:PLAINTEXT,AUTHENTICATED:SASL_PLAINTEXT,REPLICATION:PLAINTEXT
    sasl.enabled.mechanisms=SCRAM-SHA-512
  • 使用 KAFKA_OPTS 环境变量(重新)启动 Kafka 代理,将 JAAS 配置传递给 Kafka 代理。

    su - kafka
    export KAFKA_OPTS="-Djava.security.auth.login.config=/opt/kafka/config/jaas.conf"; /opt/kafka/bin/kafka-server-start.sh -daemon /opt/kafka/config/server.properties
  • 5.4.8.8. 添加 SASL SCRAM 用户

    这个步骤描述了如何使用 SASL SCRAM 为身份验证添加新用户。 AMQ Streams 安装 在所有将用作 Kafka 代理的主机上。 启用 SASL SCRAM 身份验证。 使用 kafka-configs.sh 工具添加新的 SASL SCRAM 用户。

    bin/kafka-configs.sh --bootstrap-server <broker_address> --alter --add-config 'SCRAM-SHA-512=[password=<Password>]' --entity-type users --entity-name <Username>

    bin/kafka-configs.sh --bootstrap-server localhost:9092 --alter --add-config 'SCRAM-SHA-512=[password=123456]' --entity-type users --entity-name user1

    5.4.8.9. 删除 SASL SCRAM 用户

    这个步骤描述了如何在使用 SASL SCRAM 身份验证时删除用户。 AMQ Streams 安装 在所有将用作 Kafka 代理的主机上。 启用 SASL SCRAM 身份验证。 使用 kafka-configs.sh 工具删除 SASL SCRAM 用户。

    /opt/kafka/bin/kafka-configs.sh --bootstrap-server <broker_address> --alter --delete-config 'SCRAM-SHA-512' --entity-type users --entity-name <Username>

    /opt/kafka/bin/kafka-configs.sh --bootstrap-server localhost:9092 --alter --delete-config 'SCRAM-SHA-512' --entity-type users --entity-name user1

    5.4.9. 使用基于 OAuth 2.0 令牌的身份验证

    AMQ Streams 支持使用 OAUTHBEARER PLAIN 机制使用 OAuth 2.0 身份验证 。 OAuth 2.0 启用应用程序之间的基于令牌的标准化身份验证和授权,使用中央授权服务器签发对资源有限访问权限的令牌。 Kafka 代理和客户端都需要配置为使用 OAuth 2.0。您可以配置 OAuth 2.0 身份验证,然后配置 OAuth 2.0 授权 。 无论使用的授权服务器是什么,OAuth 2.0 身份验证可与 基于 ACL 的 Kafka 授权 结合使用。 使用 OAuth 2.0 身份验证,应用程序客户端可以在不公开帐户凭据的情况下访问应用服务器(称为 资源服务器 )上的资源。 应用程序客户端通过访问令牌作为身份验证方法传递,应用服务器也可以用来决定要授予的访问权限级别。授权服务器处理访问权限的授予和询问有关访问权限的查询。 在 AMQ Streams 上下文中: Kafka 代理充当 OAuth 2.0 资源服务器 Kafka 客户端充当 OAuth 2.0 应用程序客户端 Kafka 客户端在 Kafka 代理验证。代理和客户端根据需要与 OAuth 2.0 授权服务器通信,以获取或验证访问令牌。 对于 AMQ Streams 的部署,OAuth 2.0 集成提供: 服务器端 OAuth 2.0 支持 Kafka 代理 客户端 OAuth 2.0 支持 Kafka MirrorMaker、Kafka Connect 和 Kafka Bridge RHEL 上的 AMQ Streams 包括两个 OAuth 2.0 库:

    kafka-oauth-client
    提供名为 io.strimzi.kafka.oauth.client.JaasClientOauthLoginCallbackHandler 的自定义登录回调处理器类。要处理 OAUTHBEARER 身份验证机制,请使用 Apache Kafka 提供的 OAuthBearerLoginModule 的登录回调处理程序。
    kafka-oauth-common
    一个帮助库,提供 kafka-oauth-client 库所需的一些功能。 提供的客户端库还依赖于一些额外的第三方库,例如: keycloak-core jackson-databind slf4j-api 。 我们建议使用 Maven 项目打包您的客户端,以确保包含所有依赖项库。依赖项库可能会在以后的版本中有所变化。 OAuth 2.0 站点

    5.4.9.1. OAuth 2.0 验证机制

    AMQ Streams 支持 OAUTHBEARER 和 PLAIN 机制进行 OAuth 2.0 身份验证。这两种机制都允许 Kafka 客户端使用 Kafka 代理建立经过身份验证的会话。客户端、授权服务器和 Kafka 代理之间的身份验证流因每种机制而异。 我们建议您将客户端配置为尽可能使用 OAUTHBEARER。OAUTHBEARER 提供比 PLAIN 更高的安全性,因为客户端凭证 不会 与 Kafka 代理共享。考虑仅在不支持 OAUTHBEARER 的 Kafka 客户端中使用 PLAIN。 您可以将 Kafka 代理监听程序配置为使用 OAuth 2.0 身份验证来连接客户端。如果需要,您可以使用同一 oauth 侦听器上的 OAUTHBEARER 和 PLAIN 机制。在 oauth 侦听器配置中明确指定用于支持每种机制的属性。

    OAUTHBEARER 概述

    要使用 OAUTHBEARER,请将 Kafka 代理的 OAuth 身份验证监听程序配置中的 sasl.enabled.mechanisms 设置为 OAUTHBEARER 。有关详细配置,请参阅 第 5.4.9.2 节 “OAuth 2.0 Kafka 代理配置”

    listener.name.client.sasl.enabled.mechanisms=OAUTHBEARER

    许多 Kafka 客户端工具都使用在协议级别为 OAUTHBEARER 提供基本支持的库。为了支持应用程序开发,AMQ Streams 为上游 Kafka Client Java 库(但不适用于其他库)提供了一个 OAuth 回调处理器 。因此,您不需要编写自己的回调处理程序。应用客户端可以使用回调处理程序来提供访问令牌。使用 Go 等其他语言编写的客户端必须使用自定义代码连接到授权服务器并获取访问令牌。 使用 OAUTHBEARER 时,客户端发起与 Kafka 代理用于凭证交换的会话,其中凭证采用由回调处理程序提供的 bearer 令牌的形式。使用回调时,您可以使用以下三种方法之一配置令牌置备: 客户端 ID 和 Secret (通过使用 OAuth 2.0 客户端证书 机制) 在配置时手动获取的长期访问令牌 长期刷新令牌,在配置时手动获取 OAUTHBEARER 身份验证只能由 Kafka 客户端用来支持协议级别的 OAUTHBEARER 机制。

    PLAIN 概述

    要使用 PLAIN,请将 PLAIN 添加到 sasl.enabled.mechanisms 的值。

    listener.name.client.sasl.enabled.mechanisms=OAUTHBEARER,PLAIN

    PLAIN 是所有 Kafka 客户端工具使用的简单身份验证机制。要启用 PLAIN 以用于 OAuth 2.0 身份验证,AMQ Streams 提供了 OAuth 2.0 over PLAIN 服务器端的回调。 通过 PLAIN 的 AMQ Streams 实现,客户端凭证不会存储在 ZooKeeper 中。相反,客户端凭证会在兼容授权服务器后进行集中处理,这与使用 OAUTHBEARER 身份验证类似。 当通过 PLAIN 回调与 OAuth 2.0 一起使用时,Kafka 客户端使用以下任一方法与 Kafka 代理进行身份验证: 客户端 ID 和 secret (使用 OAuth 2.0 客户端证书 机制) 在配置时手动获取的长期访问令牌 对于这两种方法,客户端必须提供 PLAIN username password 属性,将凭证传递给 Kafka 代理。客户端使用这些属性来传递客户端 ID 和 secret 或用户名和访问令牌。 客户端 ID 和 secret 用于获取访问令牌。 访问令牌作为 密码 属性值传递。您可以使用 或不使用 $accessToken: 前缀传递访问令牌。 如果您在监听器配置令牌端点( oauth.token.endpoint.uri ),则需要前缀。 如果您没有在监听器配置中配置令牌端点( oauth.token.endpoint.uri ),则不需要前缀。Kafka 代理将密码解析为原始访问令牌。 如果 密码 被设置为访问令牌,则 用户名 必须设置为 Kafka 代理从访问令牌获取的相同主体名称。您可以使用 oauth.username.claim , oauth.fallback.username.claim , oauth.fallback.username.prefix , 和 oauth.userinfo.endpoint.uri 属性在监听器中指定用户名提取选项。用户名提取过程还取决于您的授权服务器;特别是,它将客户端 ID 映射到帐户名称。

    5.4.9.1.1. 使用属性或变量配置 OAuth 2.0

    您可以使用 Java Authentication and Authorization Service(JAAS)属性或环境变量来配置 OAuth 2.0 设置。 JAAS 属性在 server.properties 配置文件中配置,并传递为 listener.name. LISTENER-NAME .oauthbearer.sasl.jaas.config 属性的键值对。 如果使用环境变量,您仍然需要在 server.properties 文件中提供 listener.name. LISTENER-NAME .oauthbearer.sasl.jaas.config 属性,但您可以忽略其他 JAAS 属性。 您可以使用大写或大写的环境变量命名惯例。 AMQ Streams OAuth 2.0 库使用以以下内容开头的属性: OAuth. 用于配置身份验证 strimzi. configure OAuth 2.0 authorization OAuth 2.0 Kafka 代理配置

    5.4.9.2. OAuth 2.0 Kafka 代理配置

    OAuth 2.0 身份验证的 Kafka 代理配置涉及: 在授权服务器中创建 OAuth 2.0 客户端 在 Kafka 集群中配置 OAuth 2.0 身份验证 与授权服务器的关系,Kafka 代理和 Kafka 客户端都被视为 OAuth 2.0 客户端。

    5.4.9.2.1. 授权服务器上的 OAuth 2.0 客户端配置

    要配置 Kafka 代理以验证会话启动期间收到的令牌,建议的做法是在授权服务器中创建一个 OAuth 2.0 client 定义(配置为 confidential ),并启用了以下客户端凭证: kafka-broker 的客户端 ID (例如) 客户端 ID 和 secret 作为身份验证机制 只有在使用授权服务器的非公共内省端点时,才需要使用客户端 ID 和 secret。当使用公共授权服务器端点时,通常会要求凭据,因为快速本地 JWT 令牌验证一样。

    5.4.9.2.2. Kafka 集群中的 OAuth 2.0 身份验证配置

    要在 Kafka 集群中使用 OAuth 2.0 身份验证,您可以在 Kafka server.properties 文件中为 Kafka 集群启用 OAuth 身份验证监听程序配置。至少需要配置。您还可以配置 TLS 侦听器,其中 TLS 用于代理通信。 您可以使用以下方法之一为授权服务器配置令牌验证代理: 快速本地令牌验证:JW KS 端点和签名的 JWT 格式的访问令牌 内省 端点 您可以配置 OAUTHBEARER 或 PLAIN 身份验证,或两者。 以下示例显示了应用 全局 监听器配置的最低配置,这意味着,内部代理间通信通过与应用程序客户端相同的监听程序进行。 这个示例还显示了一个特定监听程序的 OAuth 2.0 配置,在其中您可以指定 listener.name. LISTENER-NAME .sasl.enabled.mechanisms 而不是 sasl.enabled.mechanisms LISTENER-NAME 是监听器的不区分大小写的名称。在这里,我们将侦听器的 CLIENT 命名为 listener.name.client.sasl.enabled.mechanisms 。 这个示例使用 OAUTHBEARER 身份验证。

    示例:使用 JWKS 端点进行 OAuth 2.0 验证的最小监听程序配置

    sasl.enabled.mechanisms=OAUTHBEARER 1
    listeners=CLIENT://0.0.0.0:9092 2
    listener.security.protocol.map=CLIENT:SASL_PLAINTEXT 3
    listener.name.client.sasl.enabled.mechanisms=OAUTHBEARER 4
    sasl.mechanism.inter.broker.protocol=OAUTHBEARER 5
    inter.broker.listener.name=CLIENT 6
    listener.name.client.oauthbearer.sasl.server.callback.handler.class=io.strimzi.kafka.oauth.server.JaasServerOauthValidatorCallbackHandler 7
    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \ 8
      oauth.valid.issuer.uri="https://AUTH-SERVER-ADDRESS" \ 9
      oauth.jwks.endpoint.uri="https://AUTH-SERVER-ADDRESS/jwks" \ 10
      oauth.username.claim="preferred_username"  \ 11
      oauth.client.id="kafka-broker" \ 12
      oauth.client.secret="kafka-secret" \ 13
      oauth.token.endpoint.uri="https://AUTH-SERVER-ADDRESS/token" ; 14
    listener.name.client.oauthbearer.sasl.login.callback.handler.class=io.strimzi.kafka.oauth.client.JaasClientOauthLoginCallbackHandler 15
    listener.name.client.oauthbearer.connections.max.reauth.ms=3600000 16
    为 SASL 上的凭据交换启用 OAUTHBEARER 机制。 为客户端应用程序配置要连接的监听程序。 系统主机名 用作公告的主机名,客户端必须解析才能重新连接。本例中,侦听器命名为 CLIENT 。 指定监听器的频道协议。 SASL_SSL 用于 TLS。 SASL_PLAINTEXT 用于未加密的连接(无 TLS),但存在丢失和截获 TCP 连接层的风险。 指定 CLIENT 侦听器的 OAUTHBEARER 机制。客户端名称( CLIENT )通常在 listeners 属性中使用大写指定,对于 listener.name 属性是小写 ( listener.name.client ),当为 listener.name. client .* 属性的一部分时是小写。 指定用于代理通信的 OAUTHBEARER 机制。 指定用于 inter-broker 通讯的监听程序。该配置需要有效的规格。 在客户端监听器上配置 OAuth 2.0 身份验证。 配置客户端和代理通信的身份验证设置。 oauth.client.id oauth.client.secret auth.token.endpoint.uri 属性与 inter-broker 配置相关。 有效的签发者 URI。只有此签发者发布的访问令牌才会被接受。例如 :https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME JWKS 端点 URL。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/certs 。 在令牌中包含实际用户名的令牌声明(或密钥)。用户名是用于识别用户的 主体 。该值将取决于使用的验证流和授权服务器。 Kafka 代理的客户端 ID,在所有代理中都相同。这是 使用授权服务器注册的客户端,作为 kafka-broker 。 Kafka 代理的 secret,适用于所有代理。 授权服务器的 OAuth 2.0 令牌端点 URL。对于生产环境,始终使用 https:// urls。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/token 。 启用(仅需要)OAuth 2.0 身份验证才能进行代理通信。 (可选)强制会话在令牌过期时到期,同时还激活 Kafka 重新身份验证机制 。如果指定值小于访问令牌过期的时间,那么客户端必须在实际令牌到期前重新进行身份验证。默认情况下,当访问令牌过期时,会话不会过期,客户端也不会尝试重新身份验证。 以下示例显示了 TLS 侦听器的最低配置,其中 TLS 用于代理通信。

    示例:OAuth 2.0 验证的 TLS 侦听器配置

    listeners=REPLICATION://kafka:9091,CLIENT://kafka:9092 1
    listener.security.protocol.map=REPLICATION:SSL,CLIENT:SASL_PLAINTEXT 2
    listener.name.client.sasl.enabled.mechanisms=OAUTHBEARER
    inter.broker.listener.name=REPLICATION
    listener.name.replication.ssl.keystore.password=KEYSTORE-PASSWORD 3
    listener.name.replication.ssl.truststore.password=TRUSTSTORE-PASSWORD
    listener.name.replication.ssl.keystore.type=JKS
    listener.name.replication.ssl.truststore.type=JKS
    listener.name.replication.ssl.endpoint.identification.algorithm=HTTPS 4
    listener.name.replication.ssl.secure.random.implementation=SHA1PRNG 5
    listener.name.replication.ssl.keystore.location=PATH-TO-KEYSTORE 6
    listener.name.replication.ssl.truststore.location=PATH-TO-TRUSTSTORE 7
    listener.name.replication.ssl.client.auth=required 8
    listener.name.client.oauthbearer.sasl.server.callback.handler.class=io.strimzi.kafka.oauth.server.JaasServerOauthValidatorCallbackHandler
    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
      oauth.valid.issuer.uri="https://AUTH-SERVER-ADDRESS" \
      oauth.jwks.endpoint.uri="https://AUTH-SERVER-ADDRESS/jwks" \
      oauth.username.claim="preferred_username" ; 9
    在代理通信和客户端应用程序需要独立的配置。 将 REPLICATION 侦听器配置为使用 TLS, CLIENT 侦听器以通过未加密的频道使用 SASL。客户端在生产环境中可以使用加密的频道( SASL_SSL )。 ssl. 属性定义 TLS 配置。 随机数生成器实施。如果没有设置,则使用 Java 平台 SDK 默认。 主机名验证。如果设置为空字符串,则会关闭主机名验证。如果没有设置,则默认值为 HTTPS,它为服务器证书强制实施主机名验证。 侦听器的密钥存储路径。 监听器的 truststore 的路径。 指定 REPLICATION 监听器的客户端在建立 TLS 连接时必须通过客户端证书进行身份验证(用于代理连接)。 为 OAuth 2.0 配置 CLIENT 侦听器:与授权服务器的连接应该使用安全 HTTPS 连接。 以下示例显示了使用 PLAIN 身份验证机制通过 SASL 进行凭据交换的 OAuth 2.0 身份验证配置。使用快速本地令牌验证。

    示例:用于 PLAIN 验证的最小监听程序配置

    listeners=CLIENT://0.0.0.0:9092 1
    listener.security.protocol.map=CLIENT:SASL_PLAINTEXT 2
    listener.name.client.sasl.enabled.mechanisms=OAUTHBEARER,PLAIN 3
    sasl.mechanism.inter.broker.protocol=OAUTHBEARER 4
    inter.broker.listener.name=CLIENT 5
    listener.name.client.oauthbearer.sasl.server.callback.handler.class=io.strimzi.kafka.oauth.server.JaasServerOauthValidatorCallbackHandler 6
    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \ 7
      oauth.valid.issuer.uri="http://AUTH_SERVER/auth/realms/REALM" \ 8
      oauth.jwks.endpoint.uri="https://AUTH_SERVER/auth/realms/REALM/protocol/openid-connect/certs" \ 9
      oauth.username.claim="preferred_username"  \ 10
      oauth.client.id="kafka-broker" \ 11
      oauth.client.secret="kafka-secret" \ 12
      oauth.token.endpoint.uri="https://AUTH-SERVER-ADDRESS/token" ; 13
    listener.name.client.oauthbearer.sasl.login.callback.handler.class=io.strimzi.kafka.oauth.client.JaasClientOauthLoginCallbackHandler 14
    listener.name.client.plain.sasl.server.callback.handler.class=io.strimzi.kafka.oauth.server.plain.JaasServerOauthOverPlainValidatorCallbackHandler 15
    listener.name.client.plain.sasl.jaas.config=org.apache.kafka.common.security.plain.PlainLoginModule required \ 16
      oauth.valid.issuer.uri="https://AUTH-SERVER-ADDRESS" \ 17
      oauth.jwks.endpoint.uri="https://AUTH-SERVER-ADDRESS/jwks" \ 18
      oauth.username.claim="preferred_username"  \ 19
      oauth.token.endpoint.uri="http://AUTH_SERVER/auth/realms/REALM/protocol/openid-connect/token" ; 20
    connections.max.reauth.ms=3600000 21
    为客户端应用配置要连接的监听程序(本例中为 CLIENT )。 系统主机名 用作公告的主机名,客户端必须解析才能重新连接。由于这是唯一配置的监听程序,因此它也用于代理通信。 配置示例 CLIENT 侦听器,以使用 SASL 在未加密的频道使用。在生产环境中,客户端应使用加密通道( SASL_SSL )来保护在 TCP 连接层检索和拦截。 启用通过 SASL 和 OAUTHBEARER 的凭据交换的 PLAIN 身份验证机制。还指定了 OAUTHBEARER,因为它是 In-broker 通信所必需的。Kafka 客户端可以选择用于连接的机制。 指定用于代理通信的 OAUTHBEARER 身份验证机制。 指定用于代理通信的监听程序(本例中为 CLIENT )。配置才有效。 为 OAUTHBEARER 机制配置服务器回调处理程序。 使用 OAUTHBEARER 机制配置客户端和代理通信的身份验证设置。 oauth.client.id oauth.client.secret oauth.token.endpoint.uri 属性与 inter-broker 配置相关。 有效的签发者 URI。只有此签发者的访问令牌才会被接受。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME JWKS 端点 URL。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/certs 在令牌中包含实际用户名的令牌声明(或密钥)。用户名是标识用户的 主体 。该值取决于验证流和使用的授权服务器。 Kafka 代理的客户端 ID,在所有代理中都相同。这是 使用授权服务器注册的客户端,作为 kafka-broker 。 Kafka 代理(所有代理的 secret)的 secret。 授权服务器的 OAuth 2.0 令牌端点 URL。对于生产环境,始终使用 https:// urls。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/token 为代理通信启用 OAuth 2.0 身份验证。 为 PLAIN 身份验证配置服务器回调处理程序。 使用 PLAIN 身份验证配置客户端通信的身份验证设置。 oauth.token.endpoint.uri 是一个可选属性,它使用 OAuth 2.0 客户端凭证机制 启用 OAuth 2.0 over PLAIN。 有效的签发者 URI。只有此签发者的访问令牌才会被接受。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME JWKS 端点 URL。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/certs 在令牌中包含实际用户名的令牌声明(或密钥)。用户名是标识用户的 主体 。该值取决于验证流和使用的授权服务器。 授权服务器的 OAuth 2.0 令牌端点 URL。用于 PLAIN 机制的其他配置。如果指定,客户端可以使用 $accessToken: 前缀将访问令牌作为 密码 传递,通过 PLAIN 进行身份验证。 对于生产环境,始终使用 https:// urls。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/token 。 (可选)强制会话在令牌过期时到期,同时还激活 Kafka 重新身份验证机制 。如果指定值小于访问令牌过期的时间,那么客户端必须在实际令牌到期前重新进行身份验证。默认情况下,当访问令牌过期时,会话不会过期,客户端也不会尝试重新身份验证。
    5.4.9.2.3. 快速本地 JWT 令牌验证配置

    快速本地 JWT 令牌验证会在本地检查 JWT 令牌签名。 本地检查可确保令牌: 符合 type,具体为访问令牌包含 Bearer 的( typ )声明值 为有效(不是过期) 具有与 有效IssuerURI 匹配的签发者 在配置侦听器时,您可以指定 有效的签发者 URI ,以便拒绝任何未由授权服务器发布的令牌。 授权服务器不需要在快速本地 JWT 令牌验证过程中联系。您可以通过指定由 OAuth 2.0 授权服务器公开的 JWKs 端点 URI 来激活快速本地 JWT 令牌验证。端点包含验证已签名的 JWT 令牌的公钥,这些令牌由 Kafka 客户端作为凭证发送。 与授权服务器的所有通信都应使用 HTTPS 执行。 对于 TLS 侦听器,您可以配置证书 信任存储 并指向信任存储文件。

    快速本地 JWT 令牌验证的属性示例

    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
      oauth.valid.issuer.uri="https://AUTH-SERVER-ADDRESS" \ 
    
    
    
    
        
    1
      oauth.jwks.endpoint.uri="https://AUTH-SERVER-ADDRESS/jwks" \ 2
      oauth.jwks.refresh.seconds="300" \ 3
      oauth.jwks.refresh.min.pause.seconds="1" \ 4
      oauth.jwks.expiry.seconds="360" \ 5
      oauth.username.claim="preferred_username" \ 6
      oauth.ssl.truststore.location="PATH-TO-TRUSTSTORE-P12-FILE" \ 7
      oauth.ssl.truststore.password="TRUSTSTORE-PASSWORD" \ 8
      oauth.ssl.truststore.type="PKCS12" ; 9
    有效的签发者 URI。只有此签发者发布的访问令牌才会被接受。例如 :https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME JWKS 端点 URL。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/certs 。 端点刷新之间的周期(默认值 300)。 连续尝试刷新 JWKS 公钥之间的最短暂停时间(以秒为单位)。当遇到未知签名密钥时,JWKS 密钥刷新在常规定期调度后调度,且至少在最后一次刷新尝试后出现指定暂停。刷新密钥遵循 exponential backoff 规则,重试不成功刷新,且持续增加暂停,直到它到达 oauth.jwks.refresh.seconds 。默认值为 1。 在 JWKs 证书过期前,JWKs 证书的持续时间被视为有效。默认为 360 秒。如果您指定较长的时间,请考虑允许访问撤销证书的风险。 在令牌中包含实际用户名的令牌声明(或密钥)。用户名是用于识别用户的 主体 。该值将取决于使用的验证流和授权服务器。 TLS 配置中使用的 truststore 的位置。 用于访问 truststore 的密码。 PKCS #12 格式的 truststore 类型。
    5.4.9.2.4. OAuth 2.0 内省端点配置

    使用 OAuth 2.0 内省端点验证的令牌验证会将收到的访问令牌视为不透明的。Kafka 代理将访问令牌发送到内省端点,该端点使用验证所需的令牌信息进行响应。重要的是,如果特定的访问令牌有效,它会返回最新的信息,以及令牌过期时的相关信息。 要配置基于 OAuth 2.0 内省的验证,您可以指定一个 内省端点 URI ,而不是为快速本地 JWT 令牌验证指定的 JWKs 端点 URI。根据授权服务器,通常必须指定 client ID client secret ,因为内省端点通常受到保护。

    内省端点的属性示例

    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
      oauth.introspection.endpoint.uri="https://AUTH-SERVER-ADDRESS/introspection" \ 1
      oauth.client.id="kafka-broker" \ 2
      oauth.client.secret="kafka-broker-secret" \ 3
      oauth.ssl.truststore.location="PATH-TO-TRUSTSTORE-P12-FILE" \ 4
      oauth.ssl.truststore.password="TRUSTSTORE-PASSWORD" \ 5
      oauth.ssl.truststore.type="PKCS12" \ 6
      oauth.username.claim="preferred_username" ; 7
    OAuth 2.0 内省端点 URI。例如: https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/token/introspect 。 Kafka 代理的客户端 ID。 Kafka 代理的 secret。 TLS 配置中使用的 truststore 的位置。 用于访问 truststore 的密码。 PKCS #12 格式的 truststore 类型。 在令牌中包含实际用户名的令牌声明(或密钥)。用户名是用于识别用户的 主体 oauth.username.claim 的值取决于使用的授权服务器。

    5.4.9.3. Kafka 代理的会话重新验证

    您可以将 OAuth 监听程序配置为使用 Kafka 客户端和 Kafka 代理之间的 OAuth 2.0 会话的 Kafka 会话重新身份验证 。这个机制在指定的时间后会强制在客户端和代理之间执行经过身份验证的会话。当会话过期时,客户端会立即通过重复使用现有连接来启动一个新会话,而不是将其丢弃。 默认情况下,会话重新身份验证将被禁用。您可以在 server.properties 文件中启用它。为启用了 OAUTHBEARER 或 PLAIN 的 TLS 侦听器设置 connection .max.reauth.ms 属性,作为 SASL 机制。 您可以指定每个监听程序的会话重新身份验证。例如:

    listener.name.client.oauthbearer.connections.max.reauth.ms=3600000

    会话重新身份验证必须由客户端使用的 Kafka 客户端库支持。 会话重新身份验证可用于快速 本地 JWT 内省端点 令牌验证。

    客户端重新验证

    当代理通过身份验证的会话过期时,客户端必须通过向代理发送一个新的有效访问令牌来重新验证到现有会话,而不丢弃连接。 如果令牌验证成功,则使用现有连接启动新的客户端会话。如果客户端无法重新验证,代理会在进一步尝试发送或接收消息时关闭连接。如果使用 Kafka 客户端库 2.2 或更高版本的 Java 客户端,如果代理上启用了 re-authentication 机制,则会自动重新验证。 如果使用,会话重新身份验证也适用于刷新令牌。当会话过期时,客户端会使用其刷新令牌来刷新访问令牌。然后,客户端使用新的访问令牌来对现有连接重新进行身份验证。

    有关 OAUTHBEARER 和 PLAIN 的会话过期时间

    配置会话重新身份验证后,会话到期工作与 OAUTHBEARER 和 PLAIN 身份验证不同。 对于 OAUTHBEARER 和 PLAIN,使用 客户端 ID 和 secret 方法: 代理的经过身份验证的用户会话将在配置的 connection. max.reauth.ms 中过期。 如果访问令牌在配置的时间前过期,则会话将过期。 对于 PLAIN 使用 长期访问令牌 方法: 代理的经过身份验证的用户会话将在配置的 connection. max.reauth.ms 中过期。 如果访问令牌在配置的时间之前过期,则重新身份验证将失败。虽然尝试了会话重新身份验证,但 PLAIN 没有刷新令牌的机制。 如果 没有 配置 connection.max.reauth.ms ,OAUTHBEARER 和 PLAIN 客户端可以无限期地连接到代理,而无需重新验证。经过身份验证的会话不以访问令牌到期。但是,在配置授权时这可被视为被视为使用 keycloak 授权或安装自定义授权器。 OAuth 2.0 Kafka 代理配置 为 Kafka 代理配置 OAuth 2.0 支持 KIP-368: 允许 SASL Connections 进行定期 Re-Authenticate

    5.4.9.4. OAuth 2.0 Kafka 客户端配置

    Kafka 客户端配置有: 从授权服务器获取有效访问令牌(客户端 ID 和 Secret)所需的凭证 使用授权服务器提供的工具获取有效的长期访问令牌或刷新令牌 发送给 Kafka 代理的唯一信息是访问令牌。用于与授权服务器进行身份验证的凭证从不会发送到代理。 当客户端获取访问令牌时,不需要进一步与授权服务器通信。 最简单的机制是使用客户端 ID 和 Secret 进行身份验证。使用长期的访问令牌或长期的刷新令牌会增加复杂性,因为对授权服务器工具还有额外的依赖。 如果使用长期的访问令牌,可能需要在授权服务器中配置客户端,以增加令牌的最长生命周期。 如果 Kafka 客户端没有直接配置访问令牌,客户端会在 Kafka 会话发起授权服务器的过程中交换访问令牌的凭证。Kafka 客户端交换: 客户端 ID 和机密 客户端 ID、刷新令牌和(可选)Secret

    5.4.9.5. OAuth 2.0 客户端验证流程

    OAuth 2.0 身份验证流取决于底层 Kafka 客户端和 Kafka 代理配置。该流必须由使用的授权服务器支持。 Kafka 代理监听程序配置决定客户端如何使用访问令牌进行身份验证。客户端可以传递客户端 ID 和机密,以请求访问令牌。 如果侦听器配置为使用 PLAIN 身份验证,客户端可以通过客户端 ID 和 secret 或用户名和访问令牌进行身份验证。这些值作为 PLAIN 机制 username password 属性传递。 侦听器配置支持以下令牌验证选项: 您可以基于 JWT 签名检查和本地令牌内省使用快速本地令牌验证,而无需联系授权服务器。授权服务器提供带有公共证书的 JWKS 端点,用于验证令牌中的签名。 您可以使用授权服务器提供的令牌内省端点调用。每次建立新的 Kafka 代理连接时,代理都会将从客户端接收的访问令牌传递给授权服务器。Kafka 代理检查响应,以确认令牌是否有效。 授权服务器可能只允许使用不透明的访问令牌,这意味着无法进行本地令牌验证。 还可以为以下类型的身份验证配置 Kafka 客户端凭证: 使用之前生成的长期访问令牌直接进行本地访问 与授权服务器联系,以获取要发出的新访问令牌(使用客户端 ID 和 secret 或刷新令牌)

    5.4.9.5.1. 使用 SASL OAUTHBEARER 机制的客户端验证流示例

    您可以使用 SASL OAUTHBEARER 机制对 Kafka 身份验证使用以下通信流。 使用客户端 ID 和 secret 的客户端,并将验证委派到授权服务器 使用客户端 ID 和 secret 的客户端,以及执行快速本地令牌验证的代理 使用长期访问令牌的客户端,并将验证委派到授权服务器 使用长期访问令牌的客户端,以及执行快速本地验证的代理

    使用客户端 ID 和 secret 的客户端,并将验证委派到授权服务器

    Kafka 客户端使用客户端 ID 和 secret 从授权服务器请求访问令牌,以及可选的刷新令牌。 授权服务器生成新的访问令牌。 Kafka 客户端使用 SASL OAUTHBEARER 机制通过 Kafka 代理进行身份验证,以传递访问令牌。 Kafka 代理通过使用自己的客户端 ID 和 secret,在授权服务器上调用令牌内省端点来验证访问令牌。 如果令牌有效,则建立 Kafka 客户端会话。

    使用客户端 ID 和 secret 的客户端,以及执行快速本地令牌验证的代理

    Kafka 客户端使用令牌端点、使用客户端 ID 和 secret 以及刷新令牌(可选)从令牌端点验证。 授权服务器生成新的访问令牌。 Kafka 客户端使用 SASL OAUTHBEARER 机制通过 Kafka 代理进行身份验证,以传递访问令牌。 Kafka 代理使用 JWT 令牌签名检查和本地令牌内省在本地验证访问令牌。

    使用长期访问令牌的客户端,并将验证委派到授权服务器

    Kafka 客户端使用 SASL OAUTHBEARER 机制通过 Kafka 代理进行身份验证,以传递长期的访问令牌。 Kafka 代理通过使用自己的客户端 ID 和 secret,在授权服务器上调用令牌内省端点来验证访问令牌。 如果令牌有效,则建立 Kafka 客户端会话。

    使用长期访问令牌的客户端,以及执行快速本地验证的代理

    Kafka 客户端使用 SASL OAUTHBEARER 机制通过 Kafka 代理进行身份验证,以传递长期的访问令牌。 Kafka 代理使用 JWT 令牌签名检查和本地令牌内省在本地验证访问令牌。 快速的本地 JWT 令牌签名验证仅适用于短期的令牌,因为如果已撤销令牌,就不会通过授权服务器检查该授权服务器。令牌到期时间写入到令牌,但可以随时进行撤销,因此不能在不联系授权服务器的情况下被考虑。任何发出的令牌都将被视为有效,直到它到期为止。

    5.4.9.5.2. 使用 SASL PLAIN 机制的客户端验证流示例

    您可以使用 OAuth PLAIN 机制对 Kafka 身份验证使用以下通信流。 使用客户端 ID 和 secret 的客户端以及代理获取客户端的访问令牌 使用没有客户端 ID 和 secret 的长期访问令牌的客户端

    使用客户端 ID 和 secret 的客户端以及代理获取客户端的访问令牌

    Kafka 客户端以用户名和 secret 作为密码通过 clientId 。 Kafka 代理使用令牌端点将 clientId secret 传递给授权服务器。 如果客户端凭据无效,授权服务器会返回一个全新的访问令牌或错误。 Kafka 代理使用以下方法之一验证令牌: 如果指定了令牌内省端点,则 Kafka 代理通过调用授权服务器上的端点来验证访问令牌。如果令牌验证成功,则会建立一个会话。 如果使用本地令牌内省,则不会向授权服务器发出请求。Kafka 代理使用 JWT 令牌签名检查在本地验证访问令牌。

    使用没有客户端 ID 和 secret 的长期访问令牌的客户端

    Kafka 客户端通过用户名和密码。密码提供在运行客户端之前手动和配置的访问令牌的值。 密码通过或不使用 $accessToken: 字符串前缀来传递,具体取决于 Kafka 代理侦听程序是否配置了令牌端点来进行身份验证。 如果配置了令牌端点,密码应以 $accessToken: 前缀,以便代理知道 password 参数包含访问令牌而不是客户端 secret。Kafka 代理将用户名解释为帐户用户名。 如果没有在 Kafka 代理监听器上配置令牌端点(强制使用 no-client-credentials 模式 ),密码应该提供没有前缀的访问令牌。Kafka 代理将用户名解释为帐户用户名。在这个模式中,客户端不使用客户端 ID 和 secret, 密码 参数始终被解释为原始访问令牌。 Kafka 代理使用以下方法之一验证令牌: 如果指定了令牌内省端点,则 Kafka 代理通过调用授权服务器上的端点来验证访问令牌。如果令牌验证成功,则会建立一个会话。 如果使用了本地令牌内省,则不会向授权服务器发出请求。Kafka 代理使用 JWT 令牌签名检查在本地验证访问令牌。

    5.4.9.6. 配置 OAuth 2.0 身份验证

    OAuth 2.0 用于在 Kafka 客户端和 AMQ Streams 组件间交互。 要将 OAuth 2.0 用于 AMQ Streams,您必须: 为 AMQ Streams 集群和 Kafka 客户端配置 OAuth 2.0 授权服务器 使用配置为使用 OAuth 2.0 的 Kafka 代理监听程序部署或更新 Kafka 集群 更新基于 Java 的 Kafka 客户端以使用 OAuth 2.0

    5.4.9.6.1. 将 Red Hat Single Sign-On 配置为 OAuth 2.0 授权服务器

    此流程描述了如何将 Red Hat Single Sign-On 部署为授权服务器并进行配置以与 AMQ Streams 集成。 授权服务器为身份验证和授权提供了一个中央点,以及用户、客户端和权限的管理。Red Hat Single Sign-On 的概念为 realm ,其中一个 realm 代表一组单独的用户、客户端、权限和其他配置。您可以使用默认 主域 ,或创建新域。每个 realm 会公开自己的 OAuth 2.0 端点,这意味着应用程序客户端和应用服务器都需要使用相同的域。 要将 OAuth 2.0 与 AMQ Streams 搭配使用,请使用部署 Red Hat Single Sign-On 来创建和管理身份验证域。 如果您已经部署了 Red Hat Single Sign-On,您可以跳过部署步骤并使用您的当前部署。 您将需要熟悉使用红帽单点登录。 有关安装和管理说明,请参阅: 服务器安装和配置指南 服务器管理指南 AMQ Streams 和 Kafka 正在运行 对于 Red Hat Single Sign-On 部署: 检查 Red Hat Single Sign-On 支持的配置 Install Red Hat Single Sign-On. 您可以从 ZIP 文件或使用 RPM 安装。 登录到 Red Hat Single Sign-On Admin 控制台,为 AMQ Streams 创建 OAuth 2.0 策略。 当您部署 Red Hat Single Sign-On 时会提供登录信息。 创建并启用一个域。 您可以使用现有的 master 域。 如果需要,调整域的会话和令牌超时。 创建名为 kafka-broker 的客户端。 在 Settings 选项卡中设置: 访问 Type to Confidential Standard Flow Enabled OFF 为这个客户端禁用 Web 登录 启用服务帐户 ON ,以允许此客户端在其自己的名称中进行身份验证 在继续操作前,点 Save 。 在 Credentials 选项卡中,记录使用 AMQ Streams Kafka 集群配置的 secret。 对将连接到 Kafka 代理的任何应用程序客户端重复客户端创建步骤。 为每个新客户端创建一个定义。 您将在配置中使用名称作为客户端 ID。

    接下来要执行的操作

    在部署和配置授权服务器后, 将 Kafka 代理配置为使用 OAuth 2.0

    5.4.9.6.2. 为 Kafka 代理配置 OAuth 2.0 支持

    此流程描述了如何配置 Kafka 代理,以便代理监听程序可以使用授权服务器使用 OAuth 2.0 身份验证。 我们建议通过配置 TLS 监听器在加密接口中使用 OAuth 2.0。不建议使用普通的监听程序。 使用支持您选择的授权服务器的属性配置 Kafka 代理,以及您要实现的授权类型。 有关 Kafka 代理监听程序的配置和身份验证的更多信息,请参阅: OAuth 2.0 验证机制 有关监听器配置中使用的属性的描述,请参阅: OAuth 2.0 Kafka 代理配置 AMQ Streams 和 Kafka 正在运行 已部署了 OAuth 2.0 授权服务器 在 server.properties 文件中配置 Kafka 代理监听程序配置。 例如,使用 OAUTHBEARER 机制:

    sasl.enabled.mechanisms=OAUTHBEARER
    listeners=CLIENT://0.0.0.0:9092
    listener.security.protocol.map=CLIENT:SASL_PLAINTEXT
    listener.name.client.sasl.enabled.mechanisms=OAUTHBEARER
    sasl.mechanism.inter.broker.protocol=OAUTHBEARER
    inter.broker.listener.name=CLIENT
    listener.name.client.oauthbearer.sasl.server.callback.handler.class=io.strimzi.kafka.oauth.server.JaasServerOauthValidatorCallbackHandler
    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required ;
    listener.name.client.oauthbearer.sasl.login.callback.handler.class=io.strimzi.kafka.oauth.client.JaasClientOauthLoginCallbackHandler
  • 将代理连接设置配置为 listener.name.client.oauthbearer.sasl.jaas.config 的一部分。 此处的示例显示了连接配置选项。

    示例 1:使用 JWKS 端点配置进行本地令牌验证

    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
      oauth.valid.issuer.uri="https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME" \
      oauth.jwks.endpoint.uri="https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/certs" \
      oauth.jwks.refresh.seconds="300" \
      oauth.jwks.refresh.min.pause.seconds="1" \
      oauth.jwks.expiry.seconds="360" \
      oauth.username.claim="preferred_username" \
      oauth.ssl.truststore.location="PATH-TO-TRUSTSTORE-P12-FILE" \
      oauth.ssl.truststore.password="TRUSTSTORE-PASSWORD" \
      oauth.ssl.truststore.type="PKCS12" ;
    listener.name.client.oauthbearer.connections.max.reauth.ms=3600000

    示例 2:通过 OAuth 2.0 内省端点将令牌验证委托给授权服务器

    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
      oauth.introspection.endpoint.uri="https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/introspection" \
      # ...
    如果需要,配置对授权服务器的访问权限。 生产环境通常需要这一步,除非使用 service mesh 等技术来配置容器外的安全频道。 提供自定义信任存储以连接到安全授权服务器。访问授权服务器始终需要 SSL。 设置属性来配置信任存储。

    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
      # ...
      oauth.client.id="kafka-broker" \
      oauth.client.secret="kafka-broker-secret" \
      oauth.ssl.truststore.location="PATH-TO-TRUSTSTORE-P12-FILE" \
      oauth.ssl.truststore.password="TRUSTSTORE-PASSWORD" \
      oauth.ssl.truststore.type="PKCS12" ;
  • 如果证书主机名与访问 URL 主机名不匹配,您可以关闭证书主机名验证:

    oauth.ssl.endpoint.identification.algorithm=""

    检查可确保客户端与授权服务器的连接是 authentic。您可能希望在非生产环境中关闭验证。 根据您选择的身份验证流程配置额外的属性。

    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
      # ...
      oauth.token.endpoint.uri="https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/token" \ 1
      oauth.custom.claim.check="@.custom == 'custom-value'" \ 2
      oauth.scope="SCOPE" \ 3
      oauth.check.audience="true" \ 4
      oauth.audience="AUDIENCE" \ 5
      oauth.valid.issuer.uri="https://https://AUTH-SERVER-ADDRESS/auth/REALM-NAME" \ 6
      oauth.client.id="kafka-broker" \ 7
      oauth.client.secret="kafka-broker-secret" \ 8
      oauth.refresh.token="REFRESH-TOKEN-FOR-KAFKA-BROKERS" \ 9
      oauth.access.token="ACCESS-TOKEN-FOR-KAFKA-BROKERS" ; 10
      oauth.connect.timeout.seconds=60 11
      oauth.read.timeout.seconds=60 12
      oauth.groups.claim="$.groups" 13
      oauth.groups.claim.delimiter="," 14
    1
    授权服务器的 OAuth 2.0 令牌端点 URL。对于生产环境,始终使用 https:// urls。当使用 KeycloakRBACAuthorizer 或启用了 OAuth 2.0 的监听程序时,需要用于 Inter-broker 间通信。 (可选 )自定义声明检查 。JsonPath 过滤器查询,在验证期间将额外的自定义规则应用到 JWT 访问令牌。如果访问令牌不包含必要的数据,则会被拒绝。使用 introspection 端点方法时,自定义检查将应用到内省端点响应 JSON。 (可选)传递给令牌端点 的范围 参数。获取访问令牌进行代理身份验证时使用的 范围 。它还在使用 clientId secret 的 PLAIN 客户端验证中用于 OAuth 2.0 的客户端名称。这只会影响获取令牌的能力,以及令牌的内容,具体取决于授权服务器。它不会受到监听程序影响令牌验证规则。 (可选) 检查 。如果您的授权服务器 提供了一个ud (udi ence)申索,并且希望强制执行听众检查,则将 ouath.check.audience 设置为 true 。受众检查确定令牌的预期接收者。因此,Kafka 代理将拒绝在其 aud 声明中没有 clientId 的令牌。默认为 false 。 (可选) 传递给 令牌端点的使用者参数。在获取用于代理身份验证的访问令牌时,需要使用 使用者 。它还在使用 clientId secret 的 PLAIN 客户端验证中用于 OAuth 2.0 的客户端名称。这只会影响获取令牌的能力,以及令牌的内容,具体取决于授权服务器。它不会受到监听程序影响令牌验证规则。 有效的签发者 URI。只有此签发者发布的访问令牌才会被接受。(始终必需。) Kafka 代理配置的客户端 ID,在所有代理中都相同。这是 使用授权服务器注册的客户端,作为 kafka-broker 。当内省端点用于令牌验证时,或者使用 KeycloakRBACAuthorizer 时是必需的。 Kafka 代理配置的 secret,适用于所有代理。当代理必须向授权服务器进行身份验证时,需要指定客户端 secret、访问令牌或刷新令牌。 (可选) Kafka 代理的长期刷新令牌。 (可选) Kafka 代理的长期访问令牌。 (可选)连接到授权服务器时连接超时(以秒为单位)。默认值为 60。 (可选)连接到授权服务器时读取超时(以秒为单位)。默认值为 60。 JsonPath 查询,用于从 JWT 令牌或内省端点响应中提取组信息。默认情况下不设置。这可以由自定义授权者用来根据用户组做出授权决策。 以单个分隔字符串返回时用于解析组信息的分隔符。默认值为 ','(comma)。 根据您如何应用 OAuth 2.0 身份验证以及所使用的授权服务器类型,添加额外的配置设置:

    listener.name.client.oauthbearer.sasl.jaas.config=org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required \
      # ...
      oauth.check.issuer=false \ 1
      oauth.fallback.username.claim="CLIENT-ID" \ 2
      oauth.fallback.username.prefix="CLIENT-ACCOUNT" \ 3
      oauth.valid.token.type="bearer" \ 4
      oauth.userinfo.endpoint.uri="https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/userinfo" ; 5
    1
    如果您的授权服务器不提供 声明 ,则无法执行签发者检查。在这种情况下,将 oauth.check.issuer 设置为 false ,且不指定 oauth.valid.issuer.uri 。默认为 true 。 授权服务器可能无法提供单一属性来识别常规用户和客户端。当客户端在其自己的名称中进行身份验证时,该服务器可能会提供 客户端 ID 。当用户使用用户名和密码进行身份验证时,若要获取刷新令牌或访问令牌,服务器在客户端 ID 之外可能会提供 用户名 属性。如果主用户 ID 属性不可用,则使用此回退选项指定要使用的用户名声明(attribute)。 在适用 oauth.fallback.username.claim 时,可能需要防止用户名声明值和回退用户名声明之间的名称冲突。例如存在名为 producer 的客户端,但存在一个名为 producer 的普通用户。为了区分这两者,您可以使用此属性为客户端的用户 ID 添加前缀。 (仅在使用 oauth.introspection.endpoint.uri 时,取决于您使用的授权服务器,内省端点可能会或不返回 令牌类型 属性,或者可能包含不同的值。您可以指定来自内省端点要包含的响应的有效令牌类型值。 (仅在使用 oauth.introspection.endpoint.uri )时,授权服务器可以按此类方式进行配置或实施,而不在内省端点响应中提供任何可识别的信息。要获取用户 ID,您可以将 userinfo 端点的 URI 配置为回退。 oauth.fallback.username.claim oauth.fallback.username.claim oauth.fallback.username.prefix 设置应用到 userinfo 端点的响应。
  • 5.4.9.6.3. 将 Kafka Java 客户端配置为使用 OAuth 2.0

    这个步骤描述了如何配置 Kafka producer 和消费者 API,以使用 OAuth 2.0 与 Kafka 代理交互。 将客户端回调插件添加到您的 pom.xml 文件中,并配置系统属性。 AMQ Streams 和 Kafka 正在运行 OAuth 2.0 授权服务器被部署并为 OAuth 访问 Kafka 代理配置 为 OAuth 2.0 配置 Kafka 代理 将支持 OAuth 2.0 的客户端程序库添加到 Kafka 客户端的 pom.xml 文件中:

    <dependency>
     <groupId>io.strimzi</groupId>
     <artifactId>kafka-oauth-client</artifactId>
     <version>0.10.0.redhat-00014</version>
    </dependency>
  • 为回调配置系统属性:

    System.setProperty(ClientConfig.OAUTH_TOKEN_ENDPOINT_URI, “https://<auth-server-address>/auth/realms/master/protocol/openid-connect/token”); 1
    System.setProperty(ClientConfig.OAUTH_CLIENT_ID, "<client_name>"); 2
    System.setProperty(ClientConfig.OAUTH_CLIENT_SECRET, "<client_secret>"); 3
    System.setProperty(ClientConfig.OAUTH_SCOPE, "<scope_value>") 4
    System.setProperty(ClientConfig.OAUTH_AUDIENCE, "<audience_value") 5
    1
    授权服务器令牌端点的 URI。 客户端 ID,这是在授权服务器中创建 客户端 时使用的名称。 在授权服务器中创建 客户端 secret。 (可选)从令牌端点请求令牌的 范围 。授权服务器可能需要客户端指定范围。 (可选)从令牌端点请求令牌的 听众 。授权服务器可能需要客户端指定受众。 在 Kafka 客户端配置中,在 TLS 加密连接中启用 OAUTHBEARER PLAIN 机制。

    为 Kafka 客户端启用 OAUTHBEARER

    props.put("sasl.jaas.config", "org.apache.kafka.common.security.oauthbearer.OAuthBearerLoginModule required;");
    props.put("security.protocol", "SASL_SSL");
    props.put("sasl.mechanism", "OAUTHBEARER");
    props.put("sasl.login.callback.handler.class", "io.strimzi.kafka.oauth.client.JaasClientOauthLoginCallbackHandler");

    为 Kafka 客户端启用 PLAIN

    props.put("sasl.jaas.config", "org.apache.kafka.common.security.plain.PlainLoginModule required username=\"$CLIENT_ID_OR_ACCOUNT_NAME\" password=\"$SECRET_OR_ACCESS_TOKEN\" ;");
    props.put("security.protocol", "SASL_SSL"); 1
    props.put("sasl.mechanism", "PLAIN");
    此处我们使用 SASL_SSL 接管 TLS 连接。仅限本地开发使用 SASL_PLAINTEXT 而不是未加密的连接。 验证 Kafka 客户端是否可以访问 Kafka 代理。
  • 5.4.10. 使用基于 OAuth 2.0 令牌的授权

    如果您将 OAuth 2.0 与 Red Hat Single Sign-On 用于基于令牌的身份验证搭配使用,您还可以使用 Red Hat Single Sign-On 配置授权规则来限制客户端对 Kafka 代理的访问。身份验证建立了用户的身份。授权决定该用户的访问权限级别。 AMQ Streams 支持通过 Red Hat Single Sign-On Authorization Services 使用基于 OAuth 2.0 令牌的授权,它允许您集中管理安全策略和权限。 Red Hat Single Sign-On 中定义的安全策略和权限用于授予对 Kafka 代理上资源的访问权限。用户和客户端与允许对 Kafka 代理执行特定操作的策略进行匹配。 Kafka 允许所有用户默认对代理进行完全访问,同时还提供 AclAuthorizer 插件来配置基于 Access Control Lists (ACL)的授权。 zookeeper 存储了基于 用户名 授予或拒绝对资源的访问的 ACL 规则。但是,红帽单点登录基于 OAuth 2.0 令牌的授权在您希望实现对 Kafka 代理的访问控制方面具有更大的灵活性。另外,您可以将 Kafka 代理配置为使用 OAuth 2.0 授权和 ACL。 使用基于 OAuth 2.0 令牌的身份验证 Kafka 授权 Red Hat Single Sign-On 文档

    5.4.10.1. OAuth 2.0 授权机制

    AMQ Streams 中的 OAuth 2.0 授权使用红帽单点登录服务器授权服务 REST 端点,通过在特定用户上应用定义的安全策略来扩展基于令牌的身份验证,并为该用户提供授予不同资源的权限列表。策略使用角色和组将权限与用户匹配。OAuth 2.0 授权根据从 Red Hat Single Sign-On Authorization Services 用户获得的授予者列表在本地强制实施权限。

    5.4.10.1.1. Kafka 代理自定义授权器

    AMQ Streams 提供了 Red Hat Single Sign-On authorizer ( KeycloakRBACAuthorizer )。要使用由 Red Hat Single Sign-On 提供的授权服务的 Red Hat Single Sign-On REST 端点,您可以在 Kafka 代理上配置自定义授权器。 授权程序根据需要从授权服务器获取授予权限的列表,并在 Kafka Broker 上本地强制实施授权,为每个客户端请求做出快速授权决策。

    5.4.10.2. 配置 OAuth 2.0 授权支持

    这个步骤描述了如何使用 Red Hat Single Sign-On Authorization Services 将 Kafka 代理配置为使用 OAuth 2.0 授权服务。 考虑某些用户所需的访问权限或希望限制某些用户。您可以结合使用 Red Hat Single Sign-On 角色 客户端 和用户 ,在 Red Hat Single Sign-On 中配置访问权限。 通常,组用于根据机构部门或地理位置匹配用户。和角色用于根据用户的功能匹配。 使用红帽单点登录,您可以在 LDAP 中存储用户和组,而客户端和角色不能以这种方式存储。存储和访问用户数据可能是您选择配置授权策略的原因。 无论 Kafka 代理上实施的授权是什么, 超级用户 始终对 Kafka 代理没有限制的访问。 AMQ Streams 必须通过 Red Hat Single Sign-On 配置为使用 OAuth 2.0 进行 基于令牌的身份验证 。设置授权时,您使用相同的红帽单点登录服务器端点。 您需要了解如何管理 Red Hat Single Sign-On Authorization Services 的策略和权限,如 Red Hat Single Sign-On 文档 中所述。 访问 Red Hat Single Sign-On Admin Console,或使用 Red Hat Single Sign-On Admin CLI 为设置 OAuth 2.0 身份验证时创建的 Kafka 代理客户端启用授权服务。 使用授权服务定义客户端的资源、授权范围、策略和权限。 通过分配角色和组,将权限绑定到用户和客户端。 将 Kafka 代理配置为使用 Red Hat Single Sign-On 授权。 在 Kafka server.properties 配置文件中添加以下内容,以便在 Kafka 中安装授权器:

    authorizer.class.name=io.strimzi.kafka.oauth.server.authorizer.KeycloakRBACAuthorizer
    principal.builder.class=io.strimzi.kafka.oauth.server.authorizer.JwtKafkaPrincipalBuilder
  • 添加 Kafka 代理的配置以访问授权服务器和授权服务。 在此我们显示作为额外属性添加到 server.properties 的示例配置,但您也可以使用大写或大写的命名规则将它们定义为环境变量。

    strimzi.authorization.token.endpoint.uri="https://AUTH-SERVER-ADDRESS/auth/realms/REALM-NAME/protocol/openid-connect/token" 1
    strimzi.authorization.client.id="kafka" 2
    1
    Red Hat Single Sign-On 的 OAuth 2.0 令牌端点 URL。对于生产环境,始终使用 https:// urls。 在启用了授权服务的 Red Hat Single Sign-On 中的 OAuth 2.0 客户端定义的客户端 ID。通常, kafka 用作 ID。 (可选)为特定 Kafka 集群添加配置。

    strimzi.authorization.kafka.cluster.name="kafka-cluster" 1
    1
    特定 Kafka 集群的名称。名称用于目标权限,从而在同一 Red Hat Single Sign-On realm 中管理多个集群。默认值为 kafka-cluster 。 (可选)分隔到简单授权。

    strimzi.authorization.delegate.to.kafka.acl="false" 1
    1
    如果 Red Hat Single Sign-On Authorization Services 策略无法访问,将授权委派给 Kafka AclAuthorizer 。默认值为 false 。 (可选)为授权服务器添加 TLS 连接的配置。

    strimzi.authorization.ssl.truststore.location=<path-to-truststore> 1
    strimzi.authorization.ssl.truststore.password=<my-truststore-password> 2
    strimzi.authorization.ssl.truststore.type=JKS 3
    strimzi.authorization.ssl.secure.random.implementation=SHA1PRNG 4
    strimzi.authorization.ssl.endpoint.identification.algorithm=HTTPS 5
    1
    包含证书的 truststore 的路径。 truststore 的密码。 truststore 类型。如果没有设置,则使用默认的 Java 密钥存储类型。 随机数生成器实施。如果没有设置,则使用 Java 平台 SDK 默认。 主机名验证。如果设置为空字符串,则会关闭主机名验证。如果没有设置,则默认值为 HTTPS ,它为服务器证书强制实施主机名验证。 (可选)配置授权服务器的刷新。授予刷新任务通过枚举活跃令牌并为每个请求最新的授权来工作。

    strimzi.authorization.grants.refresh.period.seconds="120" 1
    strimzi.authorization.grants.refresh.pool.size="10" 2
    1
    指定授权服务器刷新列表的频率(默认为每分钟运行一次)。要打开刷新以调试目的,请将 设置为 "0" 。 指定授予刷新作业使用的线程池大小(并行级别)。默认值为 "5" 。 通过以客户端或具有特定角色的用户访问 Kafka 代理来验证配置的权限,确保它们具有必要的访问权限,或者没有应该具有访问权限。
  • 5.4.11. 使用基于 OPA 策略的授权

    开源策略代理(OPA)是一个开源策略引擎。您可以将 OPA 与 AMQ Streams 集成,作为基于策略的授权机制,允许在 Kafka 代理上进行客户端操作。 从客户端发出请求时,OPA 将根据为 Kafka 访问定义的策略评估请求,然后允许或拒绝请求。 红帽不支持 OPA 服务器。 打开 Policy Agent 网站

    5.4.11.1. 定义 OPA 策略

    在将 OPA 与 AMQ Streams 集成前,请考虑如何定义策略以提供精细的访问控制。 您可以为 Kafka 集群、消费者组和主题定义访问控制。例如,您可以定义一个授权策略,允许从制作者客户端写入到特定代理主题的访问。 因此,策略可能会指定: 与制作者客户端关联的用户 主体和 主机地址 允许客户端 的操作 策略适用的 资源类型 ( topic )和 资源名称 允许或拒绝决策将写入到策略中,并根据提供的请求和客户端识别数据提供响应。 在我们的示例中,生产者客户端必须满足策略才被允许写入该主题。

    5.4.11.2. 连接到 OPA

    要启用 Kafka 访问 OPA 策略引擎以查询访问控制策略,您可以在您的 Kafka server.properties 文件中配置自定义 OPA authorizer 插件 ( kafka-authorizer-opa- VERSION .jar )。 客户端发出请求时,OPA 策略引擎将通过指定的 URL 地址和 REST 端点来查询 OPA 策略引擎,该端点必须是定义的策略的名称。 该插件提供了客户端请求的详细信息 - 用户主体、操作和资源 - 以 JSON 格式针对策略进行检查。详细信息将包括客户端的唯一身份;例如,使用 TLS 身份验证时将区分名称与客户端证书进行区分。 OPA 使用数据向插件提供响应 - true false - 允许或拒绝请求。

    5.4.11.3. 配置 OPA 授权支持

    这个步骤描述了如何配置 Kafka 代理以使用 OPA 授权。 考虑某些用户所需的访问权限或希望限制某些用户。您可以使用 用户和 Kafka 资源 组合来定义 OPA 策略。 可以设置 OPA 从 LDAP 数据源加载用户信息。 无论 Kafka 代理上实施的授权是什么, 超级用户 始终对 Kafka 代理没有限制的访问。 必须有一个 OPA 服务器可用于连接。 Kafka 的 OPA authorizer 插件 编写授权客户端请求以执行 Kafka 代理操作所需的 OPA 策略。 请参阅 定义 OPA 策略 。 现在,将 Kafka 代理配置为使用 OPA。 为 Kafka 安装 OPA 授权程序插件 请参阅连接到 OPA 。 确保插件文件包含在 Kafka classpath 中。 在 Kafka server.properties 配置文件中添加以下内容以启用 OPA 插件:

    authorizer.class.name: com.bisnode.kafka.authorization.OpaAuthorizer
  • 为 Kafka 代理的 server.properties 添加进一步配置,以访问 OPA 策略引擎和策略。

    opa.authorizer.url=https://OPA-ADDRESS/allow 1
    opa.authorizer.allow.on.error=false 2
    opa.authorizer.cache.initial.capacity=50000 3
    opa.authorizer.cache.maximum.size=50000 4
    opa.authorizer.cache.expire.after.seconds=600000 5
    super.users=User:alice;User:bob 6
    1
    (必需)策略将查询授权器插件的 OAuth 2.0 令牌端点 URL。在本例中,策略名为 allow 。 标志指定在授权器插件无法与 OPA 策略引擎连接时,默认是否允许或拒绝客户端访问。 本地缓存字节数的初始容量。使用缓存,以便插件不必为每个请求查询 OPA 策略引擎。 本地缓存字节数的最大容量。 通过从 OPA 策略引擎重新加载本地缓存来刷新时间(毫秒)。 被视为超级用户的用户主体列表,以便在不查询 Open Policy Agent 策略的情况下始终允许它们。 有关身份验证和授权选项的信息,请参阅 Open Policy Agent 网站 。 使用具有且没有正确授权的客户端访问 Kafka 代理来验证配置的权限。
  • 5.4.12. 日志记录

    Kafka 代理使用 Log4j 作为其日志记录基础架构。默认情况下,日志配置从 log4j.properties 配置文件中读取,该文件应放在 /opt/kafka/config/ 目录中或 classpath 中。可以使用 Java 属性 log4j.configuration 来更改配置文件的位置和名称,该配置可使用 KAFKA_LOG4J_OPTS 环境变量传递给 Kafka:

    su - kafka
    export KAFKA_LOG4J_OPTS="-Dlog4j.configuration=file:/my/path/to/log4j.config"; /opt/kafka/bin/kafka-server-start.sh /opt/kafka/config/server.properties

    有关 Log4j 配置的更多信息,请参阅 Log4j manual

    5.4.12.1. 为 Kafka 代理日志记录器动态更改日志级别

    Kafka 代理日志记录由每个代理中的多个 broker loggers 提供。您可以动态更改代理日志记录器的日志记录级别,而无需重启代理。增加日志返回的详细级别 - 从 INFO 变为 DEBUG ,例如:在 Kafka 集群中调查性能问题时很有用。 代理日志记录器也可以动态地重置为其默认日志记录级别。 AMQ Streams 安装在主机上 zookeeper 和 Kafka 正在运行 切换到 kafka 用户:

    su - kafka
  • 使用 kafka-configs.sh 工具列出代理的所有代理日志记录器:

    /opt/kafka/bin/kafka-configs.sh --bootstrap-server <broker_address> --describe --entity-type broker-loggers --entity-name BROKER-ID

    例如,对于代理 0

    /opt/kafka/bin/kafka-configs.sh --bootstrap-server localhost:9092 --describe --entity-type broker-loggers --entity-name 0

    这会返回每个日志记录器的日志记录级别: TRACE , DEBUG , INFO , WARN , ERROR , 或 FATAL 。例如: kafka.controller.ControllerChannelManager=INFO sensitive=false synonyms={} kafka.log.TimeIndex=INFO sensitive=false synonyms={}

  • 更改一个或多个代理日志记录器的日志级别。使用 --alter --add-config 选项,并将每个日志记录器及其级别指定为双引号中的逗号分隔列表。

    /opt/kafka/bin/kafka-configs.sh --bootstrap-server <broker_address> --alter --add-config "LOGGER-ONE=NEW-LEVEL,LOGGER-TWO=NEW-LEVEL" --entity-type broker-loggers --entity-name BROKER-ID

    例如,对于代理 0

    /opt/kafka/bin/kafka-configs.sh --bootstrap-server localhost:9092 --alter --add-config "kafka.controller.ControllerChannelManager=WARN,kafka.log.TimeIndex=WARN" --entity-type broker-loggers --entity-name 0

    如果成功,则返回:

  •