요즘 AI 에이전트 개발할 때 "시스템 프롬프트에 절대 도구 남용하지 말라고 적어두기" 같은 프롬프트 기반 가드로는 보안을 담보하기 어렵다는 생각이 자주 듭니다. 결국 핵심은 LLM의 자율성을 보장하면서도 치명적인 액션은 결정론적인 코드 단에서 완벽하게 통제하는 구조로 가는 것 같아요. 최근 IETF 드래프트로 올라온 EMILIA 프로토콜의 행보를 보니 이런 흐름이 확실히 체감되네요. 랭체인 환경에서는 @emilia-protocol/langchain 같은 라이브러리를 써서 고위험 툴에 withGuard만 씌워주면 바로 사람의 명시적 승인을 거치게 할 수 있더라고요. Mastra AI 같은 프레임워크에서도 MCP 서버 연동을 통해 이런 게이트웨이를 아주 쉽게 구축할 수 있습니다.

게다가 이번 Node.js 26.4.0에 추가되기 시작한 node:vfs 같은 네이티브 가상 파일 시스템 레이어까지 맞물리면, 에이전트가 로컬 디스크에 직접 쓰지 않고 메모리 안에서만 동적 코드를 안전하게 실행하게 만드는 샌드박싱도 훨씬 간편해질 듯합니다. 이제는 프롬프트 엔지니어링 같은 확률적 방어벽을 넘어, 코드 레벨에서 결정론적 규칙과 가상화 샌드박스로 에이전트의 행동 반경을 가두는 게 디폴트 아키텍처가 되어가는 느낌이네요. 사이드 프로젝트에 슬슬 적용해 보면서 보안 모델을 다시 짜봐야겠습니다.