로드밸런싱

부하를 알고리즘과 정책에 따라 분산하는 것, 서비스 이용자가 늘어나면서 현재 사용하고 있는 서버로만 정상적인 서비스가 불가능하게 되면 스케일 업 또는 스케일 아웃을 하게 되는데 스케일 아웃을 하게되면 로드밸런싱이 필요하다. 로드밸런싱은 로드밸런싱 알고리즘을 기준으로 이뤄진다.

로드밸런싱 알고리즘

• Round Robin
  • 클라이언트의 요청을 정해진 순서에 따라 서버로 전달하는 방식, 작업 권한 관리와는 아무 상관이 없지만 전달 순서는 링 토큰 구조를 생각하면 될 듯  
• Weighted Round Robin Scheduling
  • 사용 가능한 서버 마다 가중치를 매기고 가중치가 높은 순서대로 클라이언트의 요청을 전달하는 방식, 서버마다 처리 성능이 다른 경우에 사용하는 방식이다.
• Least Connection
  • 클라이언트에서 요청이 들어온 시점에 서버마다 사용중인 커넥션이 몇개인지 확인하고 가장 커넥션이 적은 서버로 요청을 전달하는 방식
• Weighted Least Connections
  • Least Connction 방식이지만 서버의 성능에 따른 가중치로 고려해서 클라이언트의 요청을 전달하는 방식
• Fatest Response Time
  • 서버가 요청에 응답하는 시간을 체크해서 응답시간이 가장 빠른 서버로 클라이언트의 요청을 전달하는 방식
• Source Hash Scheduling
  • 클라이턴트 IP와 서버를 매칭해서 해시 테이블로 보관하고 이에 따라 클라이언트의 요청을 전달하는 방식

 

GCP 로드밸런서(부하 분산기)

• Server는 VM인스턴스 그룹
• Load Balancer는 HTTP, HTTPS (Layer7), TCP, UDP (Layer4)
• GCP 로드밸런서는 헬스체커를 이용해서 다양한 로드밸런싱 알고리즘을 사용하고있다.

부하 분산기 특징  |  Google Cloud

 

 

 

<참고>

로드밸런서(Load Balancer)의 개념과 특징