Kafka SASL ACL配置踩坑總結

源起:工程現階段中間件採用的是kafka。滿足了大數據的高吞吐,項目間的解耦合,也增強了工程的容錯率與擴展性。但是在安全這一塊還有漏洞,kafka集群中,只要網站內的任何人知道kafka集群的ip與topic,都可以肆無忌憚的往集群中的topic中發送數據與消費數據。

經過調研:kafka的sasl acl可以設置安全機制,給每個主題設置多個用戶,不同的用戶賦予不同的讀寫許可權。

A B 倆個用戶,A用戶允許讀寫kafka中的topic1,B用戶不允許讀寫kafka中的topic1,這就成功控制了kafka的讀寫許可權。

     於是開始了長期的探索與配置kafka和zookeeper的相關配置文件。在配置過程中踩了n多坑,終於成功搞定,滿足了現下工程所需,帶來了滿滿的成就感。

    使用軟體以及版本 jdk1.80_144、zookeeper3.4.10(3.5.7也可以)、kafka_2.13-2.5.0,切記kafka版本一定要使用正確,本人之前嘗試了kafka2.1.0與2.1.2,按照kafka官網上的文檔,書上的教程以及網上的教程進行配置後,均未生效。所以版本一定要選對   !!!!!,若有其他版本將該功能實現的同學也可以留言一起交流。我在centos7.6 與ubuntun14.04、18.04進行過嘗試且成功,該許可權的設置應該與伺服器無關。

   選好版本後就可以在伺服器上進行配置了,我是在單節點上配置成功後,再將該配置進行擴展到 zookeeper用3台伺服器,kafka用3台伺服器,且分別用java原生語言與springboot各自寫了一份demo。可以成功的控制不同用戶對不同topic的讀寫許可權。

開始

 使用命令 tar -zxvf 解壓jdk zookeeper kakfa 伺服器用戶為root用戶在/etc/profile文件內進行路徑配置,普通用戶在該用戶的根目錄節點中找到 .bashrc文件(該文件是隱藏的)進行路徑配置。配置成功後輸入jps,會顯示一個jps進程如下圖

 

 

 

然後開始zookeeper與kafka的配置 

 

zookeeper的配置

1.進入到zookeeeper的conf目錄 使用命令 cp zoo_sample.cfg zoo.cfg 複製一份zoo.cfg配置文件

2.使用vim zoo.cfg進入該配置文件 

 

 

 

 

紅框1是存放zookeeper的數據與日誌的部分

紅框2是zookeeper配置SASL支援,若是zookeeper集群的話,則authProvider.1後面的數字在不同的伺服器上要不一樣 

紅框3是配置zookeeper集群的,單節點不用考慮該配置。若是集群應添加 server.2 server.3…並且在紅框1的dataDir目錄下創建myid文件,且在文件內添加server.n中的數字n

 

3 在zookeeper的conf目錄下添加 zoo_jaas.conf文件 ,添加帳號認證資訊

 

4 在zookeeper中添加kafka jar包的依

 

 

 

5 修改 zookeeper bin目錄下的zkEnv.sh 腳本

 

 

 vim zkEnv.sh打開該腳本,在最後添加紅框內的內容。

6 啟動zookeeper

    zkServer.sh start ,若以上步驟都正確配置後,zookeeper會正常啟動,運行jps命令,下圖紅框中的進程會成功啟動。若不能成功啟動,一定要檢查上述步驟中的文件配置路徑無誤後,

再去日誌目錄中查看日誌

 

 

 kafka的配置

1.在kafka config目錄中添加、修改 相應配置文件

 

 

 紅框1 是新建的文件。 kafka_server_jaas.conf是kafka伺服器中需要的用戶配置文件。kafka_client_jaas.conf與kafka_producer.jaas.conf是客戶端的配置文件,在伺服器添加這兩個文件是方便在伺服器內進行腳本測試,實際開發中客服端配置文件是要用java程式碼讀取的,不需要伺服器上的。

 紅框2是kafka自帶的文件,這些文件需要修改。server.properties 是kafka的核心配置文件,我們會在裡面配置相應的資訊。consumer.properties與 producer.properties是消費者腳本與生產者腳本需要的配置文件,在伺服器上用腳本測試需要這兩個文件。實際開發中可以在java程式碼中配置相應內容,不需要伺服器上的。各個文件的內容如下圖所需

 

kafka_server_jaas.conf

 

 參考網上大家都是這麼配置的  KafkaServer中是 代表一些客戶端用戶,這些用戶根據被賦予的許可權來對kafka的主題進行相關操作。

 Client中的用戶要與zoo_jaas.cfg中的用戶一致 user_producer=”prod-sec”的意思是賬戶名為producer,密碼是 prod-sec

kafka_client_jaas.conf  kafka_producer_jaas.conf 

 

 這個文件裡面放的是客戶端用戶了

server.properties

 

 

 1是與zookeeper建立鏈接,我這個是用的本地的zookeeper,集群的同學另行配置。

 2 便是給kafka配置SASL許可權,其中zsh是超級用戶,不受許可權影響。

 

producer.proerties、consumer.properties內容添加如下

 

 

2 在kafka的bin目錄下修改以下腳本資訊

kafka-server-start.sh修改如下

 

 

 

kafka-topic.sh修改如下

 

 

kafka-console-producer.sh 與 kafka-console-consumer.sh修改如下

 

 

以上配置就全部完成,啟動命令 kafka-server.sh ../config/server.propertie,kafka便可以成功啟動,如果啟動不成功,不要慌。多啟動幾次試試,就成功了。很奇怪,不知道為啥這樣子

 

3 使用 kafka-acl.sh腳本控制不同用戶對指定topic的許可權。 

./kafka-topics.sh –create –zookeeper localhost:2181 –replication-factor 1 –partitions 1 –topic acl_0305  創建主題

 ./kafka-acls.sh –authorizer-properties zookeeper.connect=localhost:2181 -add –deny-principal User:* –operation Write –topic acl_0305 禁止所有主題對該用戶的讀寫許可權

./kafka-acls.sh –authorizer-properties zookeeper.connect=localhost:2181 -add –allow-principal User:consumer –operation Write –topic acl_0305  允許 consumer 用戶讀寫該主題

./kafka-acls.sh –authorizer-properties zookeeper.connect=localhost:2181 -remove –deny-principal User:*–operation Write –topic acl_0305  取消所有用戶對該主題的禁止

本人在測試過程中發現,這個版本的kafka acl腳本只能按照這樣的順序控制許可權。先禁止所有用戶,然後允許一個用戶,再取消對所有用戶的禁止。後面就可以正常的對每個用戶再進行許可權控制了(允許的用戶可以訪問主題,沒有添加允許的用戶不能訪問主題),嚴重懷疑kafka的acl源程式碼沒有完善的控制許可權的機制。而且每個用戶對主題讀寫許可權是一起控制的,讀與寫並沒有分開。不管怎麼樣,這樣已經滿足當下的需求了,只不過操作麻煩,還有待完善。

 

 

 

 

 

 

Tags: