LLM에서 데이터 프라이버시 연구 자료 정리

LLM에서 데이터 프라이버시 연구 자료 정리

LLM의 데이터 프라이버시는 매우 중요한 연구 분야입니다. 주요 연구 영역과 자료들을 정리해드리겠습니다.

1. 주요 연구 영역

프라이버시 공격 유형

• 멤버십 추론 공격(Membership Inference Attack): 특정 데이터가 학습에 사용되었는지 판별
• 훈련 데이터 추출(Training Data Extraction): 모델에서 학습 데이터 복원
• 프롬프트 인젝션을 통한 정보 유출

프라이버시 보호 기술

• 차등 프라이버시(Differential Privacy): 학습 시 노이즈 추가
• 연합학습(Federated Learning): 데이터를 중앙화하지 않고 학습
• 지식 증류와 모델 압축을 통한 민감 정보 제거

2. 주요 연구 논문 및 소스

기초 연구

• "Extracting Training Data from Large Language Models" (Carlini et al., 2021)
• "The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks" (Carlini et al., 2019)
• "Scalable Private Learning with PATE" (Papernot et al., 2018)

최근 연구

• "Privacy Risks from Large Language Models" - arXiv에서 검색 가능
• "Differentially Private Fine-tuning of Language Models" - Hugging Face 논문
• "Privacy-Preserving Prompt Engineering" 관련 연구들

3. 연구용 데이터셋

벤치마크 데이터셋

• CANARY: 멤버십 추론 테스트용 합성 데이터
• Enron Email Dataset: 프라이버시 유출 테스트용 실제 이메일 데이터
• Medical Transcriptions: HIPAA 관련 프라이버시 연구용

공개 데이터셋 플랫폼

• Hugging Face Datasets (프라이버시 필터링된 버전)
• Common Crawl (필터링 필요)
• OpenWebText

4. 오픈소스 도구 및 프레임워크

프라이버시 보호 학습

- Opacus (PyTorch): 차등 프라이버시 구현
- TensorFlow Privacy: Google의 DP 라이브러리
- Private-transformers: Hugging Face용 DP

평가 도구

- ML Privacy Meter: 프라이버시 누출 측정
- TextAttack: 적대적 공격 테스트
- PrivacyRaven: 프라이버시 공격 시뮬레이션

5. 실습 가능한 연구 모델

오픈소스 구현

• DP-SGD: 차등 프라이버시 기반 학습 알고리즘
• PATE (Private Aggregation of Teacher Ensembles)
• Federated BERT: 연합학습 기반 언어모델

실험용 소규모 모델

• GPT-2 (124M - 1.5B 파라미터): 프라이버시 실험에 적합
• DistilBERT: 경량화되어 빠른 실험 가능
• T5-small: 다목적 실험용

6. 주요 연구 기관 및 리소스

학술 기관

• Stanford HAI (Human-Centered AI)
• MIT CSAIL
• CMU Privacy Engineering Program

오픈소스 커뮤니티

• OpenMined: 프라이버시 보호 ML 커뮤니티
• Papers with Code: 최신 논문 및 코드
• Hugging Face: 모델 및 데이터셋 허브

7. 추천 연구 시작 방법

1. 기초 학습: Opacus 튜토리얼로 DP 개념 익히기
2. 벤치마크: GPT-2로 멤버십 추론 공격 실험
3. 응용: 실제 데이터셋에 프라이버시 보호 기술 적용
4. 평가: Privacy Meter로 프라이버시 누출 정량화

최신 연구 동향이나 특정 방법론에 대해 더 자세한 정보가 필요하신가요?