AWS ELB HTTP 5xx Error

HTTP 502 Bad Gateway

백엔드 인스턴스로부터 온 응답을 ELB가 받지 못할 경우 발생

인스턴스의 WAS 로그를 참조, 응답이 제대로 갔는지 확인

HTTP 503 Service Unavailable

  - ELB에 인스턴스가 healthy한 인스턴스가 없는 경우

    - health check 가 가능해지도록 처리 (security group 등)

  - 짧은 시간동안 Request가 급격히 증가하는 경우

    - ELB의 auto-scaling 시간이 부족하여 발생. 수분 내에 자동으로 해결됨. 예상된 트래픽인 경우 pre-warming을 요청

HTTP 504 Gateway Timeout

  - 인스턴스가 request를 처리하는 시간이 ELB의 timeout 시간보다 짧아 발생

    - HTTPCode_ELB_5xx 및 Latency metric이 동시에 증가하는 현상이 관찰됨.

    - cpu utilization 이 높으면 인스턴스 추가 등 고려

    - dependency가 있는 외부 연계 API(TD는 LDAP)를 점검.

  - 인스턴스가 ELB 요청을 닫아버릴 경우 발생

    - 백엔드 서버의 keep-alive 를 활성화, keep-alive timeout을 ELB의 timeout보다 크게 설정