Hacken·앤트그룹 가드레일 출시 — 제멋대로 송금하는 AI 에이전트 막는다

AI 에이전트가 스스로 지갑을 열어 토큰을 전송하고, 은행 계좌를 거쳐 돈을 송금하는 모습을 상상해 보세요. 상상 속의 이야기가 아니라, 이미 현실이 되고 있는 기술입니다. 하지만 누군가 교묘한 프롬프트 주입 공격으로 에이전트를 속여 해커의 계좌로 돈을 보내게 만든다면 어떻게 막아야 할까요?

그동안은 서비스를 배포하기 전에 코드에 허점이 없는지 미리 훑어보는 정적 보안 감사에 주로 의존했습니다. 하지만 시시각각 변하는 AI 에이전트의 돌발 행동을 빈틈없이 제어하려면, 행동을 실행하기 바로 직전 실시간으로 정책을 검사하고 차단하는 새로운 방식의 실행 가드레일이 꼭 필요합니다.

프롬프트 한 줄에 털리는 에이전트, '5단계 공격 체인'을 끊다

자율적으로 작동하는 AI 에이전트에게 온체인 지갑 권한을 맡기는 서비스가 빠르게 늘고 있습니다. 하지만 이 편리함 뒤에는 치명적인 위협이 숨어 있습니다. 교묘하게 조작된 프롬프트 주입 공격 한 번에 에이전트가 통제권을 완전히 잃고 해커의 주소로 자산을 송금해 버릴 수 있기 때문입니다.

웹3 보안 기업 Hacken은 이처럼 AI 에이전트가 해커에게 조종당해 무단 송금을 실행하기까지의 과정을 5단계 공격 체인으로 정밀 분석했습니다. 시작은 해킹 명령이 포함된 외부 문서를 에이전트가 읽는 주입 단계입니다. 이후 에이전트의 도구 권한을 빼앗는 하이잭, 시스템을 마음대로 조종하는 남용, 조작된 송금 명세를 만드는 트랜잭션 생성 단계를 거쳐, 최종적으로 이를 블록체인 네트워크에 전송하는 브로드캐스트 순으로 이어집니다.

이 위협적인 흐름을 끊기 위해 Hacken이 제시한 해결책은 바로 Transaction Policy Gateway입니다. 에이전트가 블록체인에 트랜잭션을 전송하기 바로 직전, 최종 길목에서 전송 요청을 가로채 검증하는 일종의 실시간 가드레일입니다. 아무리 에이전트 내부가 해커에게 오염되었더라도, 마지막 전송 단계에서 사전에 약속된 안전 규칙을 위반하면 즉시 트랜잭션을 차단하여 자산 유출을 원천 봉쇄합니다.

말 잘 듣는 프롬프트 대신, 실시간 행동 경로를 검증하라

"착한 에이전트가 되렴" 같은 시스템 프롬프트 조율만으로는 AI 에이전트의 돌발 행동을 완벽히 막을 수 없습니다. 에이전트는 상황에 따라 늘 예상치 못한 경로로 행동을 조율하기 때문입니다. 학계와 규제 기관이 실시간으로 에이전트의 움직임을 감시하는 실시간 가드레일을 서둘러 도입하는 이유가 바로 여기에 있습니다.

2026년 3월 발표된 '경로상의 정책(Policies on Paths)' 논문은 이러한 실시간 검증의 이론적 토대를 보여줍니다. 연구진은 에이전트가 그동안 밟아온 행동들의 '실행 경로'를 실시간으로 분석해 정책을 위반할 확률을 계산하는 엔진이 필요하다고 지적합니다. 사전에 설정된 정적 규칙을 넘어, 에이전트가 현재 어떤 흐름 속에서 작업을 수행하고 있는지 실시간 맥락을 추적하겠다는 뜻입니다.

금융 현장에서도 이 원칙을 빠르게 받아들이고 있습니다. 대표적으로 싱가포르금융청(MAS)은 2026년 7월, 실시간 에이전트 금융 보호 가이드라인인 SAFR v1.0을 공식 발표했습니다. 이 가이드라인은 금융 거래 루프에서 발생할 수 있는 무단 자동 자산 이전 사고를 방지하기 위해, 실시간으로 에이전트의 실행 경로를 안전하게 통제하도록 강력한 보안 규칙을 요구하고 있습니다.

오픈소스로 풀린 실시간 방패 — SingGuard-NSFA와 IRSB

개발자가 서비스에 바로 적용할 수 있는 오픈소스 솔루션들도 속속 등장하고 있습니다. 대표적으로 Ant Group이 공개한 SingGuard-NSFA 프레임워크가 있습니다. 이 도구는 로봇 공학이나 실시간 거래처럼 에이전트가 행동을 취하기 직전, 위험도를 샌드박스 단계에서 미리 검사해 시스템 충격이나 API 오류를 원천 차단합니다.

또 다른 주목할 만한 프로젝트는 깃허브의 오픈소스 가드레일인 IRSB입니다. IRSB는 이더리움의 새로운 표준인 EIP-7702와 암호화 영수증을 활용해 에이전트의 금융 거래 권한을 안전하게 통제합니다. 에이전트에게 지갑의 개인키 전체를 넘겨주지 않고도, 정해진 한도 내에서만 안전하게 자금을 집행할 수 있도록 온체인 방어벽을 세우는 방식입니다.

덕분에 개발자들은 복잡한 보안 로직을 바닥부터 직접 짤 필요가 없어졌습니다. 에이전트의 갑작스러운 오작동과 외부 해킹 위협을 동시에 막아주는 견고한 실시간 방패를 손쉽게 에이전트 시스템에 결합할 수 있게 되었습니다.

정적 감사를 넘어 실시간 행동 방패의 시대로

지금까지의 보안이 코드를 배포하기 전에 허점이 없는지 미리 훑어보는 수준이었다면, 이제는 에이전트가 행동을 취하기 직전에 이를 실시간으로 가로채 검증하는 가드레일 싸움으로 변하고 있습니다. 프롬프트를 아무리 정교하게 짜더라도 에이전트의 모든 돌발 행동을 완벽하게 통제할 수는 없기 때문입니다.

앞으로 비즈니스 현장에 AI 에이전트를 도입하려는 개발자와 빌더들이라면 단순히 프롬프트 조율에만 의존해서는 안 됩니다. 시스템의 오작동과 금융 위협을 실시간으로 차단해 줄 물리적인 실행 제어 프레임워크를 어떻게 결합할지 먼저 고민해야 합니다. 실행 경로를 끝까지 추적하고 제어하는 똑똑한 실시간 방패를 마련하는 것, 이것이 안전한 에이전트 서비스를 만드는 가장 확실한 열쇠입니다.