AI Security실습 기록AI를 보안 분석에 붙여 본 기록 4편
LLM에 판정을 맡기지 않고 설명만 맡기면 검증이 어디로 옮겨가나
규칙 탐지와 설명 생성, 출력 검증, 보고서 생성을 분리한 파이프라인을 모의 LLM으로 돌려 보고, 프롬프트 인젝션의 다층 방어에서 결정을 실제로 잠근 것이 무엇이었는지, 스키마가 맞는 출력과 사실인 출력이 왜 다른 검사인지, 정규식 코드 스캐너가 두 번째 파일에서 무엇을 놓쳤는지 확인한 실습 기록.
TAG
#prompt-injection
이 태그가 붙은 글이 1개 있습니다.