AI Security개념 정리AI를 보안 분석에 붙여 본 기록 5편
영상과 메일로 매체를 바꿔도 점수 한 칸에서 같은 문제가 나온다
OpenCV 전처리와 HOG·Haar 탐지 결과를 부분 탐지까지 포함해 읽고, CNN·YOLO의 출력과 평가 방식이 어디서 어긋나는지, LIME 같은 설명이 무엇을 증명하지 않는지, 딥페이크와 TF-IDF 피싱 탐지에서 점수 하나로 확정할 수 없는 이유를 정리한 개념 노트.
CATEGORY
AI Security
이 카테고리에 5개의 글이 있습니다.
AI Security 아티클 목록
AI Security실습 기록AI를 보안 분석에 붙여 본 기록 4편
LLM에 판정을 맡기지 않고 설명만 맡기면 검증이 어디로 옮겨가나
규칙 탐지와 설명 생성, 출력 검증, 보고서 생성을 분리한 파이프라인을 모의 LLM으로 돌려 보고, 프롬프트 인젝션의 다층 방어에서 결정을 실제로 잠근 것이 무엇이었는지, 스키마가 맞는 출력과 사실인 출력이 왜 다른 검사인지, 정규식 코드 스캐너가 두 번째 파일에서 무엇을 놓쳤는지 확인한 실습 기록.
AI Security실습 기록AI를 보안 분석에 붙여 본 기록 3편
세션을 하나씩 보던 탐지기를 65개 전체로 넓혔더니 다른 답이 나왔다
K-Means와 DBSCAN으로 공격 세션을 묶어 개별 판정을 통과한 저속 세션 15개를 한 캠페인으로 드러내고, 실루엣 점수 1등 설정이 65개 중 49개를 노이즈로 버리는 과정을 확인한 뒤, 5분 시간 창의 단계 판정과 MITRE ATT&CK 매핑에서 무엇을 정정했는지 정리한 실습 기록.
AI Security실습 기록AI를 보안 분석에 붙여 본 기록 2편
탐지를 피해 본 다음에야 그 탐지기가 무엇을 보고 있었는지 알았다
Evasion·Poisoning·Model Extraction이 각각 어느 단계로 들어오는지 구분하고, 공격자에게 보여 주는 출력이 방어 설계를 어떻게 바꾸는지, Red·Blue 반복 검증에서 규칙 미탐과 단일 행동 모델의 정상 판정이 어떻게 드러났는지 합성 데이터로 확인한 기록.
AI Security개념 정리AI를 보안 분석에 붙여 본 기록 1편
이상 탐지 모델을 골라도 임계값에서 다시 갈린다
LOF, One-Class SVM, Isolation Forest, Autoencoder가 각각 무엇을 이상이라고 부르는지 비교하고, 같은 모델이 임계값·평가 단위·라벨 품질에 따라 어떻게 다른 성적을 내는지, 특징을 바꾸는 회피와 탐지기 투표까지 정리한 개념 노트.