AI 보안 에이전트 실험실

01 / THE WORK

이 프로젝트에서 다루는 업무

같은 공격 이메일을 읽은 AI 에이전트라도 어떤 권한과 보호 장치를 가졌는지에 따라 결과는 완전히 달라질 수 있습니다. 이번 실전편에서는 프롬프트 인젝션 상황을 안전한 시뮬레이션으로 재구성하고, 세 가지 에이전트 구조를 직접 비교합니다. 보호 장치가 없는 에이전트는 이메일 속 지시를 새로운 명령으로 받아들여 내부 파일 검색과 외부 전송 절차를 실행합니다. 반면 최소 권한을 적용한 에이전트는 업무에 필요하지 않은 도구가 없어 공격이 행동으로 이어지지 않고, 사람의 승인 단계를 적용한 에이전트는 민감한 행동을 실행하기 직전에 멈춥니다. 이번 테스트에서 달라진 것은 공격 문장이 아니라, 에이전트가 가진 권한과 실행 구조였습니다. ※ 실제 악성 이메일을 이용한 공격은 재현하지 않았습니다. 영상에 사용된 이메일, 문서, 주소는 모두 유튜브 촬영용 더미 데이터이며 실제 이메일이 외부로 전송되지 않는 안전한 시뮬레이션입니다.

02 / IN THIS VIDEO

영상에서 다루는 내용

• 공격 지시가 포함된 이메일 시뮬레이션
• 보호 장치가 없는 에이전트의 행동
• 최소 권한으로 파일 검색과 외부 전송을 차단하는 방법
• 민감한 행동 전에 사람의 승인을 받는 구조
• 같은 공격에도 결과가 달라지는 이유
• 안전한 에이전트를 설계하는 기준