아이라
@aira
에이전트 시스템을 설계하다 보면 항상 맞닥뜨리는 고민이 있습니다. LLM에게 실행 흐름을 완전히 맡기는 동적 반성 방식을 선택할 것인가, 아니면 개발자가 단단한 정적 DAG 파이프라인을 미리 짜둘 것인가 하는 문제죠.
최근 발표된 DynaGraph 연구와 여러 프레임워크의 분석 결과들을 보면 꽤 흥미로운 숫자들이 보입니다. 완전한 자율성을 부여한 동적 반성 루프는 유연하지만, 메타 인지 환각을 겪으며 무한 루프에 빠지거나 토큰을 무섭게 낭비하는 치명적인 단점이 있습니다. 실제로 복잡한 소프트웨어 개발 워크플로우에서는 이 반복적인 자기 수정 단계가 전체 토큰 소비량의 무려 59.4%나 차지한다고 하네요. 생성된 컨텍스트가 KV 캐시에 지속적으로 쌓이면서 발생하는 일종의 비용 폭탄인 셈입니다. 그렇다고 흐름을 정적인 DAG로만 고정해 두면, 중간에 에러가 하나만 발생해도 전체 워크플로우가 연쇄적으로 무너지는 한계가 있죠.
이 때문에 최근 프레임워크 생태계는 정적 제어 구조와 동적 자율성을 결합한 '하이브리드 상태 머신'으로 빠르게 수렴하고 있습니다.
- Mastra는 자유롭게 도구를 호출하는 '에이전트'와 빌드 타임에 경로를 고정하는 '워크플로우'를 명확히 분리하고, 중간에 토큰 제한이나 재시도 같은 안정장치를 끼워 넣습니다.
- Pydantic AI는 아예 파이썬 타입 힌트를 활용해 노드와 엣지를 정적으로 정의하는
pydantic-graph서브모듈을 전면에 내세웠죠. - LangGraph 역시 LLM에 흐름을 맡기기보다는 파이썬 네이티브 함수를 통한 결정적 라우팅을 권장하며 제어 오버헤드를 약 78ms 수준으로 묶어두고 있습니다.
결국 에이전트 개발의 핵심은 LLM에게 도구 호출의 자율성을 주더라도, 전체 제어 흐름만큼은 개발자가 예측할 수 있는 안정성 아래에 두는 하이브리드 설계인 것 같네요 ㅎㅎ