sLLM를 활용한 비식별화 연구 26.9.29

sLLM를 활용한 비식별화 연구 26.9.29


"정규식의 속도/정확도" + "LLM의 문맥 이해력"을 결합하는 것이 핵심입니다.

1) ​정규식(1차): 빠른 속도로 개인정보 가능성이 있는 모든 패턴을 넓게(Recall 높게) 잡아냅니다.

2) ​소형 LLM(2차): 정규식이 잡아낸 항목이 실제로 문맥상 개인정보인지 검증하여 오탐/과탐을 제거(Precision 높임)합니다.

​이러한 2단계 하이브리드 검증 구조를 도입하면, 기존 정규식 방식의 단점인 과도한 마스킹으로 인한 데이터 훼손이나 처리 오류를 획기적으로 줄일 수 있습니다.

소형 LLM(SLM, 1B~8B 규모)은 메모리 사용량이 적고 속도가 매우 빨라 온프레미스/VPC 환경에서 비식별화 전담 에이전트(Anonymization Agent)로 활용하기에 최적입니다.

소형 LLM이 비식별화 작업을 정교하게 학습하고 지속적으로 관리되며, 평가를 통해 정답률(정확도)을 높이는 구체적인 방안을 체계적으로 정리해 드립니다.

1. 소형 LLM(SLM)의 비식별화 학습 방법
SLM은 거대 모델에 비해 일반화 능력이 부족하므로, "비식별화"라는 특화된 단일 과제(Single Task)에 집중하여 학습시켜야 합니다.

① 데이터셋 구축 (Synthetic Data & Gold Standard)

* 합성 데이터(Synthetic Data) 생성: 대형 모델(GPT-4, Claude 등)을 활용해 다양한 개인정보가 포함된 한국어 문장(주민번호, 계좌, 주소, 이름, 직책, 변형된 오탈자 패턴 등) 및 그에 대응하는 정답(Ground Truth) 마스킹 문장 데이터셋을 수천~수万 건 생성합니다.

* 코너 케이스(Corner Case) 포함: 정규식이 놓치기 쉬운 문맥형 개인정보(예: "김철수 팀장님, 이번 달 급여 계좌는 카카오 3333-...")를 다수 포함시킵니다.


② QLoRA 기반 미세조정 (SFT: Supervised Fine-Tuning)

* LoRA/QLoRA 기법: SLM의 전체 파라미터를 재학습하는 대신, 가중치 레이어 일부만 자원 효율적으로 파인튜닝합니다.

* 입출력 데이터 포맷 예시:
   {
  "instruction": "다음 문장에서 개인식별정보(PII)를 찾아 [PII_TYPE] 형태로 마스킹하세요. 문맥상 단순 일반 단어나 제품번호는 마스킹하지 마세요.",
  "input": "홍길동 대리의 사번은 20240101이고 주민번호는 900101-1234567 입니다.",
  "output": "홍길동 대리의 사번은 20240101이고 주민번호는 [RRN_REDACTED] 입니다."
}



③ DPO (Direct Preference Optimization) / DPO 학습


* 오탐(제품 번호를 마스킹함)과 미탐(계좌번호를 놓침)을 일으킨 출력을 비선호(Rejected)로 지정하고, 정확히 마스킹된 출력을 선호(Chosen)로 지정하여 모델의 판단 기준을 정교하게 다듬습니다.


2. SLM 비식별화 모델의 효율적 관리 방안

① 온디바이스 / 프라이빗 인프라 배포

* Quantization (양자화): 8B급 모델을 4-bit 또는 8-bit(AWQ, GGUF)로 양자화하면 GPU VRAM 6GB~8GB 이하 환경에서도 100ms 이내의 매우 빠른 속도로 동작합니다.

* vLLM / Ollama 서빙: 추론 속도와 동시 처리 능력을 늘려 메인 LLM 전단에서 병목 현상이 생기지 않도록 설정합니다.


② 버전 관리 및 Registry (MLflow / Hugging Face Local)

* 비식별화 패턴이 고도화됨에 따라 업데이트되는 SLM 모델 가중치(LoRA 어댑터)를 버전별로 관리하고, 성능 저하 발생 시 이전 버전으로 즉시 롤백(Rollback)할 수 있는 CI/CD 파이프라인을 갖춥니다.



3. 입출력 결과 평가 및 정답 효율(정확도) 향상 방안

SLM의 마스킹 정답률을 지속적으로 측정하고 고도화하기 위해서는 자동화된 평가 체계(Evaluation Pipeline)가 필수적입니다.


① 자동화된 평가 지표 (Quantitative Metrics)

비식별화는 일반 텍스트 생성과 달리 명확한 정답(Ground Truth)이 존재하는 영역이므로 다음 지표를 조합하여 자동 평가합니다.


1) Recall (재현율)
- 실제 PII 중 모델이 마스킹해낸 비율
- 가장 중요. 미탐(개인정보 누출)이 발생하지 않는지 측정

2) Precision (정밀도)
- 모델이 마스킹한 것 중 실제 PII인 비율
- 과탐(일반 단어를 지워버림)이 발생하지 않는지 측정

3) F1-Score
- Precision과 Recall의 조화평균
- 전체적인 마스킹 정확도 밸런스 측정

4) Exact Match (EM)
- 문장 전체가 정답 마스킹과 100% 일치하는지 여부 - 완전 비식별화 성패 판단



② LLM-as-a-Judge 기반 문맥 평가 (Qualitative Evaluation)

정량 평가 외에도, 상위 대형 모델(또는 별도의 평가용 LLM)을 '심판(Judge)'으로 활용하여 SLM의 입출력을 정기적으로 감사합니다.


* 평가 프롬프트 구조:
   > "원문 [Input]과 SLM이 처리한 [Output]을 비교하세요.
   >  * 개인정보가 남아있는가? (Yes/No)
   >  * 과도하게 일반 단어나 제품번호가 마스킹되어 문맥이 훼손되었는가? (Yes/No)
   >  * 감점 요인과 그 이유를 설명하세요."
   >


③ 정답 효율(정확도)을 극대화하는 4단계 선순환 구조 (Active Learning)


[1. 실시간 모니터링 (LangFuse/Phoenix)]
       │
       ▼
[2. 오탐/미탐 엣지케이스(Edge-case) 데이터 자동 수집]
       │
       ▼
[3. 데이터 보강 및 재학습 (LoRA Fine-Tuning)]
       │
       ▼
[4. 회귀 테스트 (Regression Test) 통과 후 배포]


* 로그 기반 엣지케이스 수집: 운영 중 판단 확신도(Confidence Score)가 낮거나, 사용자/관리자가 오탐을 제보한 데이터를 별도 DB에 격리 수집합니다.

* 데이터 증강(Data Augmentation): 수집된 엣지케이스와 유사한 패턴의 문장을 합성 데이터로 100~200건 추가 생성합니다.

* 지속적 재학습(Continuous Fine-Tuning): 추가된 데이터로 SLM의 LoRA 어댑터를 주기적으로 업데이트합니다.

* 회귀 테스트(Regression Test): 모델이 업데이트될 때 기존 잘 처리하던 기본 패턴(주민번호, 계좌 등)의 정확도가 떨어지지 않는지 기존 테스트 세트 수천 건을 먼저 자동 수행한 후 통과된 모델만 운영 환경에 반영합니다.


💡 요약

* 학습: 대형 모델로 만든 합성 데이터와 LoRA 파인튜닝을 통해 "비식별 전담 SLM"을 만듭니다.


* 평가: Recall(미탐 방지)과 Precision(과탐 방지) 지표를 중심으로 정량 평가를 자동화하고, 엣지케이스는 LLM-as-a-Judge로 감지합니다.


* 개선: 오탐/미탐 데이터를 지속적으로 수집하여 재학습시키는 Active Learning 선순환 루프를 구축하면 SLM의 정답률을 99% 이상으로 유지할 수 있습니다.