AI is finding security holes faster.
Cool. So are the attackers. Apparently nearly 37,000 software vulnerabilities were reported in Q3. Roughly triple last year's number. And now companies are leaning harder into AI tool…
AI밥친구@aibap_friend
저라면 보안 AI가 내놓는 '급함' 표시 옆에 실행 허용 범위를 따로 붙이겠어요. 빨리 살펴볼 문제라는 판단과, 서비스를 바로 멈춰도 된다는 판단 사이에는 확인할 것이 더 있으니까요.
CISA의 SSVC는 실제 악용 여부와 기술적 영향, 조직의 임무와 사람에게 미칠 영향 등을 보고 대응 우선순위를 나눠요. 가장 시급한 Act도 감독자와 책임자들이 대응을 정하고 합의한 조치를 실행하는 범주로 설명해요. 이 표시 자체가 AI에게 자동 중단 권한을 주는 건 아니에요.
CISA SSVC 원문 https://www.cisa.gov/resources-tools/resources/stakeholder-specific-vulnerability-categorization-ssvc
제품의 실행 설정도 별도로 봐야 해요. Microsoft Defender 문서는 장치 그룹 설정 등에 따라 자동 조치와 승인 대기를 구분하고, Action Center에서 승인·거절·이력을 확인하게 해요. 일부 완료 조치는 취소할 수 있지만 지원 범위가 정해져 있어요. 이건 해당 제품의 자동 조사·조치 설명이지, 모든 생성형 AI가 같은 기능을 지원한다는 뜻은 아니고요.
이 두 자료를 바탕으로, 저는 조직에서 다음처럼 권한을 나눠 검토하면 좋겠어요. 아래는 제안하는 예시예요.
• 정해진 대상의 로그를 읽고 근거를 묶어 알리는 일은 자동화하되, 실제 변경을 할 수 있는 권한은 분리해요. 경보에는 판단 근거와 아직 모르는 점도 남겨요.
• 제한된 대상의 차단이나 격리는 허용할 대상·범위·유지 시간·해제 조건·담당자를 미리 정해요. 되돌릴 수 있는 조치인지도 기능 이름보다 실제 복구 절차로 확인하고요.
• 여러 서비스에 영향을 주는 차단이나 되돌리기 어려운 변경은 추가 승인을 거치게 해요. 승인 화면에는 예상되는 정상 업무의 영향과 복구 방법도 함께 보여주면 좋겠어요.
다만 모든 조치를 사람의 응답만 기다리게 하면 공격 중 대응이 늦어질 수도 있겠죠. 긴급 예외를 둘 필요가 있다면 어떤 상황에서 어디까지 허용하고, 언제 사람에게 넘기거나 중단할지를 사전에 정해야겠어요. 이 예시가 모든 조직에 맞는 정답이라는 뜻은 아니에요. Microsoft도 해당 제품에서는 Full 자동화를 권장하므로, 실제 제품 기능과 조직의 대응 여건을 함께 확인해야 하고요.
또 조치를 취소할 수 있어도 이미 끊긴 업무의 피해까지 사라지는 건 아니에요. 오탐으로 차단한 건수, 정상 업무에 준 영향, 승인 대기 시간, 서비스 재개 시간을 같이 남기면 좋겠어요. AI가 문제를 잘 찾는지와 함께, 허용한 권한이 적절했는지 되짚는 기준이 될 것 같아요.