top of page
Writer's pictureJiehwan Yang

BI/Data Engineer 인턴 프로젝트: Elasticsearch을 활용한 Business Intelligence 문제 개선


프로젝트 배경 및 문제점

  1. Tableau 대시보드와 SSRS 리포트를 각각 다른 사이트로 로그인해 확인해야 하는 번거로움 및 부정확한 검색 결과로 인해 원하는 리포트를 찾기 어려웠다. 이는 Business Intelligence (BI) 팀에 불필요하게 많은 문의 전화 및 이메일을 발생시켰다.

  2. 비교적 간단한 Data Visualization 리포트도 BI 팀의 준수사항 및 서식에 따라 요청, 수정, 대기해야하는 등 사용자들의 불편함이 존재했다.


 
프로젝트 목표

  1. Tableau 대시보드와 SSRS 리포트를 하나의 User Interface로 통합한 Web Application을 개발 및 새로운 Search Engine을 추가하여 검색 프로세스를 개선.

  2. 사용자가 직접 간단한 Data Visualization 리포트 만들 수 있는 서비스 구현.



 
System Architecture


SQL Server DB에 정제되어있는 데이터를 RabbitMQ와 Logstash를 통해 Web Application과 Kibana에 연결 및 매핑하였다.



 
Action 및 Result

  • 기존 서비스에 대한 사용자들의 경험을 면담과 설문조사를 통해 수집하였다.


  • Elasticsearch를 통해 보다 빠르고 정확한 Search Engine으로 Report 위치에 대한 문의 전화 및 이메일을 약 20% 감소시켰다.


  • Kibana를 통해 사용자가 직접 Data Visualization 리포트를 작성 및 활용할 수 있는 Self-Reporting Service를 개발하고 사용자들을 대상으로 교육 세미나를 진행했다.


  • 교육 세미나 이후, 사용자들의 설문조사 실시하였고, 서비스를 배포하여 BI 팀에 요청되는 Data Visualization 리포트 개수를 한달 평균 약 120개에서 90개로 줄이는 데 공헌하였다.


 
추가 고려사항 및 개선점

Search engine의 성능을 BI 팀에 요청되는 request 개수로 확인했지만, 검색 결과 log를 통해서 user들이 auto_complete 된 result를 클릭한 비율, search result에서 report를 클릭한 비율 등을 조사하여 프로젝트의 성공여부를 수치화해서 나타낼 수 있을 것이다.



 
마치며

본 프로젝트는 매니저님께서 Elasticsearch 의 사용을 제안해주셨고, 다른 Software Engineer님들로부터 Front-end UI 및 서비스 배포 도움을 받았다. 그 외 부분은 저자와 다른 인턴 친구 한명, 총 두명이서 주도적으로 협업하여 진행하였다. 권한과 책임을 많이 주는 동시에 끝까지 해내도록 기다려주신 매니저님께 감사하고 한 걸음 더 성장하는 데 큰 도움이 되었다.


나에게는 산업 현장에서의 첫 팀 프로젝트였고, 같이 프로젝트를 진행한 인턴 친구 모두가 ASP.NET MVC 기술과 Self-Reporting Dashboard Service 및 Search Engine을 구현하는 데 필요한 Elasticsearch ELK stack 기술을 처음 접했기 때문에 초기에 어려움이 있었다. 나는 Elasitcsearch ELK stack을, 다른 인턴 친구는 ASP.NET MVC 를 맡아 역할을 분담하여 진행했지만, 서로가 분담한 기술에 대한 이해도와 분량의 차이가 생기게 되면서 프로젝트가 비효율적으로 진행되는 등 문제가 생겼다. 고민 끝에 스터디를 하며 프로젝트를 진행하자는 의견을 내었다.


각자 준비해온 내용을 바탕으로 서로 알려주고 배울 수 있는 시간을 가지자, 서로 분담한 부분에 대해 이해도가 높아지고 효율적으로 프로젝트를 진행하게되는 플러스 효과를 보게 되었다. 또한 원활한 대화를 통해 서로를 이해하게 되었고 의지할 수 있었다. 그 결과 프로젝트를 무사히 마무리했고 인턴 프로젝트 우수상을 받을 수 있었다. 많은 어려움이 있었지만, 팀원과 의견을 제시하고 도움을 주고 받으며 협업했기에 가능한 일이었다. 이번 경험은 의사소통과 팀워크의 중요성을 깨닫게 해주는 계기가 되었다.


사실 나는 상대방과의 관계에 안 좋은 영향이 있을까 두려워 문제를 인지했더라도 내 의견을 잘 표현하지 못하는 큰 단점이 있다. 하지만 이번 프로젝트를 통해 서로 존중하며 일하고 적절한 커뮤니케이션으로 협업을 효율적으로 하는 방법에 대해 배운 것 같아 soft skill 측면에서도 성장할 수 있었던 뜻 깊은 경험이었다. 앞으로 팀 프로젝트뿐만 아니라 삶의 많은 문제에 부딪혀도 이번 경험을 참고해 다양한 사람들과 서로 존중하고 협업하여 문제를 해결할 수 있는 사람이 될 수 있도록 조금씩 더 발전해야겠다.


이번 협업의 경험과 깨달음을 발판 삼아 앞으로도 다양한 사람들과 지식을 공유하며 서로의 성장에 자극이 되는 사람으로 성장하고 싶다.

Comments


bottom of page