본문 바로가기

data engineering

Kafka broker 연결 안됨

상황

  • 웹에서 유저의 데이터를 kafka로 옮기는 상황
  • procedure에서는 값을 받는데, broker 서버 연결이 안되서 consumer에서 값을 받아오지 않았다ㅠ
  • 문제는 gcp 프로젝트를 옮겨서 새로운 서버에서 진행하니 발생ㅠㅠ
  • 방화벽 문제도 아니고 토픽도 새로 생성이 되는 것을 보면 서버간의 통신 문제가 아님
  • 브로커 접속이 안되는 이유를 찾아봤음
  • kafka 로그를 봤을 때 내부 아이피를 사용하는 것을 확인함...
  • 나는 gcp에서 고정 ip를 할당했고 이걸로 연결함...

 

해결

  • 다음의 글에서 해결을 했다 

https://oboki.net/workspace/data-engineering/kafka/external-listener-설정/

 

[Kafka] External Listener 설정 – oboki

 

oboki.net

 

클라이언트에는 다음과 같이 advertise.host.name에 설정한 포트(9093)으로 연결한다.

'data engineering' 카테고리의 다른 글

Hbase 개요  (0) 2020.01.31
Apache Hive 개요 및 간단한 실습  (0) 2020.01.08
Flume 설치 및 간단한 예제  (0) 2018.09.26
Flume 개요  (0) 2018.09.11
하둡 운영  (2) 2018.09.04