프롬프트 인젝션 실무 대응, 이메일 읽는 AI 도입 전 확인할 점

회사 이메일함을 대신 정리해주는 AI, 계약서 초안을 검토해주는 AI, 이력서 100장을 훑어 후보를 추려주는 AI. 이런 도구를 이미 쓰고 계시거나 도입을 검토 중이시라면, 최근 몇 주 사이 보안 업계에서 반복적으로 경고하고 있는 프롬프트 인젝션 실무 대응 문제를 한 번은 짚고 넘어가시는 게 좋습니다. 이 공격은 AI가 잘못 학습해서 생기는 문제가 아니라, AI가 원래 설계된 방식 그대로 작동하기 때문에 생기는 문제라서 더 까다롭습니다.

프롬프트 인젝션이 뭐길래 요즘 이렇게 자주 언급되나요

프롬프트 인젝션은 공격자가 AI에게 직접 명령을 내리는 게 아니라, AI가 읽게 될 문서·이메일·웹페이지 안에 악성 지시문을 몰래 심어두는 방식의 공격입니다. AI 도구가 이메일, 파일 등 개인 데이터에 접근 권한을 가지고 있다면 성공적인 인젝션으로 그 정보를 추출·공유하도록 지시할 수 있습니다. 문제는 이 공격이 시스템의 코드 결함을 노리는 게 아니라 AI가 ‘지시’와 ‘데이터’를 구분하지 못하는 근본적인 특성을 이용한다는 점입니다.

예전의 챗봇형 AI라면 피해가 제한적이었습니다. 그런데 최근 업무 툴에 들어온 AI는 챗봇이 아니라 에이전트입니다. 에이전트 AI는 단순히 텍스트를 생성하는 게 아니라 실제 행동을 수행하기 때문에, 프롬프트 인젝션을 당했을 때 피해가 완전히 다른 차원이 됩니다. 저희가 이전에 다룬 브라우저가 스스로 일하기 시작했습니다 - AI 브라우저 에이전트와 권한 관리 글에서도 비슷한 맥락의 권한 문제를 짚었는데, 프롬프트 인젝션은 그 권한 문제가 실제로 악용되는 구체적인 통로 중 하나라고 보시면 됩니다.

회사 업무에서는 구체적으로 어떤 상황이 위험한가요

가장 흔하게 언급되는 시나리오는 세 가지입니다. 첫째, 이메일을 읽고 자동 분류·답장하는 AI 비서 기능입니다. 받은 이메일 본문 안에 흰색 글씨나 눈에 띄지 않는 텍스트로 숨겨진 지시문이 들어 있으면, AI가 이를 실제 명령으로 인식해 처리해버릴 수 있습니다. 둘째, 채용 담당자가 AI로 이력서나 자기소개서를 요약·평가하는 경우입니다. 문서 안에 사람 눈에는 잘 보이지 않는 형태로 평가를 유리하게 만들라는 지시문이 삽입되어 있으면 AI가 그대로 따를 위험이 있습니다. 셋째, 외부 웹사이트나 첨부 문서를 열람해 요약하는 브라우저 에이전트나 리서치 도구입니다. 웹페이지 자체에 악성 지시가 숨어 있다면, 사용자가 별다른 이상한 행동을 하지 않아도 AI가 알아서 걸려듭니다.

공통점은 사용자가 직접 위험한 요청을 하지 않았는데도 공격이 성립한다는 점입니다. 이 때문에 “우리 직원들은 이상한 프롬프트를 안 쓰니까 안전하다”는 판단은 성립하지 않습니다. 공격 지점이 사용자의 입력창이 아니라 AI가 읽는 외부 데이터이기 때문입니다.

그럼 지금 당장 뭘 점검해야 하나요

완벽한 차단은 현재 기술 수준에서 어렵다는 게 보안 업계의 공통된 진단입니다. 그래서 실무에서는 막기보다 피해 반경을 줄이기에 초점을 맞추는 편이 현실적입니다. 세 가지만 먼저 점검해보시길 권합니다.

첫째, AI 에이전트에게 부여한 권한 범위를 다시 확인하세요. 이메일 읽기 권한만 필요한 업무에 발송·삭제 권한까지 함께 부여되어 있지는 않은지, 문서 조회 권한이 회사 전체 공유 폴더로 열려 있지는 않은지부터 확인하시면 됩니다. 예를 들어 파이썬으로 특정 폴더의 파일만 읽도록 접근 범위를 명시적으로 제한하는 것도 하나의 방법입니다.

import os

ALLOWED_DIR = os.path.abspath("./inbox_summary_target")

def safe_read(filepath):
    full_path = os.path.abspath(filepath)
    if not full_path.startswith(ALLOWED_DIR):
        raise PermissionError(f"허용되지 않은 경로 접근 시도: {full_path}")
    with open(full_path, "r", encoding="utf-8") as f:
        return f.read()

둘째, AI가 자동으로 실행하기 전에 사람이 확인하는 단계를 남겨두세요. 특히 이메일 발송, 결제, 파일 삭제처럼 되돌리기 어려운 행동은 자동 실행이 아니라 승인 대기 상태로 두는 설정이 필요합니다. 이 부분은 AI 에이전트가 실수하면 누구 책임일까요, 검수 체크리스트에서 다룬 승인 단계 설계와 맞닿아 있습니다.

셋째, 외부에서 들어온 문서나 이메일을 AI에 넘기기 전에 이상 징후를 걸러내는 최소한의 필터를 두세요. 완벽하지는 않지만, 눈에 보이지 않는 흰색 텍스트나 지나치게 긴 반복 문구처럼 이상 패턴을 사전에 걸러내는 것만으로도 단순한 형태의 공격은 상당수 차단됩니다.

AI기본법 시행과 맞물려 더 중요해진 이유

2026년 7월 21일 AI기본법 시행령이 시행되면서 AI 활용에 대한 책임 소재가 이전보다 구체화됐습니다. 사내 AI 사용 가이드라인 만드는 법, 왜 지금 필요할까요에서 소개해드린 것처럼, 데이터 등급별 접근 권한과 자동 실행 한도를 정해두는 작업이 이제는 선택이 아니라 기본입니다. 프롬프트 인젝션으로 인한 오작동이나 정보 유출이 발생했을 때 누가 책임지는지, 어느 단계에서 사람이 검수했는지를 기록으로 남겨두는 습관이 앞으로는 더 중요해질 것으로 보입니다.

마무리하며

프롬프트 인젝션은 AI 에이전트가 업무 툴 안으로 깊숙이 들어올수록 함께 커지는 위험입니다. 당장 공격을 100% 막을 방법은 없지만, 권한 범위를 좁히고 되돌리기 어려운 작업에는 승인 단계를 두는 것만으로도 실질적인 피해는 크게 줄일 수 있습니다. 픽셀앤코드는 맞춤형 소프트웨어 개발과 업무 자동화를 함께 다루는 만큼, AI 에이전트를 사내 시스템에 연동할 때 권한 설계와 승인 절차를 처음부터 고려한 구조로 설계하는 작업을 지원하고 있습니다.