API 레이트리밋 버스트 계산기

API 레이트리밋 버스트 계산기 사용법

이 계산기는 API의 평균 요청률, 버스트 크기, 레이트리밋을 바탕으로 순간적으로 허용 가능한 요청량과 버스트 소진 시간을 추정합니다. 트래픽 급증 시 현재 제한 설정이 얼마나 버틸 수 있는지 확인하거나, API 게이트웨이와 클라이언트 재시도 정책을 설계할 때 참고할 수 있어요.

평균 요청률은 평상시 초당 발생하는 요청 수이고, 버스트 크기는 짧은 순간에 몰릴 수 있는 요청량입니다. 레이트리밋은 시스템이 초당 처리하도록 허용한 최대 요청률을 입력하면 됩니다.

계산 방법

순간 허용 요청량은 버스트 크기와 레이트리밋 중 작은 값으로 계산합니다.

버스트 소진 시간은 레이트리밋과 평균 요청률의 차이를 버스트 소진 속도로 보고 계산합니다.

평균 요청률이 레이트리밋에 가까울수록 버스트를 회복할 여유가 줄어들고, 평균 요청률이 레이트리밋 이상이면 지속적인 초과 상태로 판단합니다.

계산 예시

• 상황 1: 평균 요청률이 20req/s, 버스트 크기가 200개, 레이트리밋이 100req/s라면 순간 허용 요청량은 min(200, 100) = 100개입니다. 소진 속도는 100 - 20 = 80req/s이므로 소진 시간은 100 / 80 = 1.25초입니다.
• 상황 2: 평균 요청률이 50req/s, 버스트 크기가 500개, 레이트리밋이 100req/s라면 순간 허용 요청량은 100개이고, 소진 속도는 50req/s이므로 약 2초 동안 버틸 수 있습니다.

사용 시 주의사항 및 활용 팁

• 본 계산기 결과는 단순 추정 참고용 수치입니다.
• 토큰 버킷 방식에서는 버스트 크기와 토큰 refill 속도가 별도로 동작할 수 있으므로 실제 설정값을 함께 확인해야 합니다.
• 평균 요청률이 레이트리밋의 70~80%를 넘으면 짧은 트래픽 급증에도 제한에 걸릴 가능성이 커집니다.
• 클라이언트에는 지수 백오프, 재시도 횟수 제한, Retry-After 헤더 처리를 함께 적용하는 것이 좋습니다.
• 여러 인스턴스가 하나의 API 제한값을 공유한다면 인스턴스 수와 분산 방식까지 고려해 요청률을 산정해야 합니다.