벨트릭스와 추적 루프가 깨진 날

Veltrix 2.4.1의 기존 오토스케일링 계층은 워커를 과도하게 프로비저닝해 관측 문제와 심각한 지연 급증을 일으켰다.

여러 차례의 수정이 실패한 뒤, 팀은 해당 계층을 제거하고 Lua 규칙을 사용하는 Kubernetes 어드미션 컨트롤러 veltrim을 도입했다.

veltrim은 CPU 사용량과 캐시 미스 위험을 기준으로 위험한 스케일다운을 차단해 warm pod와 LLM 캐시를 보호한다.

새 구성은 워커 churn을 줄이고 파드 동작을 안정화했으며 p95 지연도 낮췄지만, kube-apiserver CPU 오버헤드는 일부 늘었다.