TIL - 코드, LLM 호출, AI 에이전트 중 무엇을 선택할까

Go 구현을 통해 같은 API 오케스트레이션 작업을 일반 LLM 호출, 저장된 히스토리가 있는 대화, 도구를 쓰는 AI 에이전트로 나눠 비교한다.

이 글은 에이전트가 본질적으로 모델이 도구 사용을 요청하는 루프일 뿐, 일반 소프트웨어와 완전히 다른 존재가 아니라고 설명한다.

에이전트의 핵심 과제도 RPC 디스패치, 재시도, 멱등성, 서킷 브레이커, 상태 보존 같은 분산 시스템 문제로 귀결된다고 짚는다.

핵심 결론은 LLM이나 에이전트가 실제 가치를 더할 때만 쓰고, 그렇지 않다면 기존 코드가 더 단순하고 안정적이라는 점이다.