Google Cloud Platform에서 pub/sub으로 streaming 데이터 수집하는 과정 

fluentd ⇢ ELK (ES, Kibana) 아키텍처 수립 후 구현하는 과정에서 ES, Kibana를 VM위에 설치 및 운영하는 과정에서 발생하는 트러블 슈팅에 대해 작성해보고자 합니다. 

1. Kibana server is not ready yet
이 경우 Kibana 설치 버전과 Elastic Search 설치 버전이 같은지 확인하여야 합니다. (호환성 이슈)
elastic search 설치 버전 확인 

kibana 설치 버전 확인
- kibana의 경우 status를 확인해도 버전을 확인할 수 없어 log file에서 확인해 볼 수 있었습니다. 

log file중 kibana 의 버전 확인

2. 그럼에도 불구하고 같은 이슈가 나온다면 Elastic Search 부분과 Health Care Check를 통해 통신을 자유롭게 주고 받을 수 있는지 확인해 봐야 합니다. 

[Elastic Search] 대신 VM IP가 들어가면 됩니다. 

위 명령어로 Health Check를 수행해보니

{"error":{"root_cause":[{"type":"master_not_discovered_exception","reason":null}],"type":"master_not_discovered_exception","reason":null},"status":503}

관련 에러가 발생했습니다.

이는 elastic search 에서 elasticsearch.yml 설정 파일이 잘못된것입니다.

이동 후,
- node.name 부분을 #을 지워줍니다. 
- network.host = 0.0.0.0
- discovery.seed.hosts = ["127.0.0.1"] 
- cluster.initial_master_nodes = ["node-1"] 
환경 설정을 다 수행한 뒤 
sudo /bin/systemctl daemon-reload
sudo /bin/systemctl enable elasticsearch.service
sudo /bin/systemctl restart elasticsearch.service

명령어를 순서대로 수행합니다.

 

Welcome to Elastic!