[LLM] - 프롬프트 인젝션 공격(Prompt Injection Attack)에 대해
1. 개념적 정의Prompt Injection은 LLM의 입력(prompt)에 의도적으로 조작된 명령이나 정보를 주입하여,모델이 원래 설계된 의도나 정책을 우회하거나, 비정상적인 출력을 하도록 유도하는 공격 기법이다.쉽게 말하면,“LLM에게 내가 준 명령을 무시하고, 공격자가 원하는 대로 답하게 만드는 사회공학적 해킹 방식” 이는 코드 인젝션(SQL Injection, XSS 등)의 텍스트 기반 버전이라 볼 수 있다.공통점은 “입력의 신뢰를 깨뜨려 내부 시스템 로직에 개입한다”는 점 2. LLM 내부 동작 관점에서 본 Injection 구조 LLM은 “문맥 기반 확률 예측 모델”이다.즉, 사용자의 프롬프트(user prompt)와 시스템 명령(system prompt)을 하나의 텍스트 시퀀스로 결합해“..
