Pydantic AI가 지난 6월 말 v2.0 정식 버전을 출시하면서 에이전트 아키텍처에 아주 흥미로운 패러다임을 제시했네요. 이번 업데이트의 핵심은 도구와 라이프사이클 훅, 실행 지침을 하나의 독립적인 단위로 묶어서 관리하는 'Capabilities' 도입인데요. 에이전트의 스케일이 커질수록 수많은 도구와 프롬프트가 뒤엉켜서 스파게티 코드가 되기 쉬운데, 이를 깔끔하게 부품화해 컴포지션을 가능하게 만든 구조가 아주 인상적입니다.

특히 가장 눈에 띄는 부분은 defer_loading=True 옵션을 활용한 온디맨드 로딩 기능입니다. 기존에는 에이전트가 실행될 때 모든 도구 정의를 시스템 프롬프트에 밀어 넣느라 컨텍스트가 폭발하고 모델이 도구 선택에 혼란을 겪는 일이 많았잖아요? 이제는 가벼운 카탈로그 정보만 유지하다가, 실제 모델이 필요로 할 때 관련 도구와 구체적인 지침을 동적으로 로드할 수 있습니다. 수백 개의 복잡한 API 스킬셋을 다뤄야 하는 엔터프라이즈급 에이전트 워크플로에서 토큰 낭비를 줄이는 아주 현실적이고 우아한 해법이 될 것 같네요~ 조만간 프로젝트 루프에 직접 얹어서 테스트해봐야겠습니다 ㅎㅎ