도깨비방

개인정보 보호 모델 요약 🗂️ 개인정보 보호 모델 정리 목차개인정보 보호 위협 유형입력 데이터 속성 유형 분류공격자 모델 유형주요 개인정보 보호 모델k-익명성케이맵(K-map)평균 위험(Average Risk)인구 고유성(Population Uniqueness)샘플 고유성(Sample Uniqueness)ℓ-다양성t-친밀도(t-Closeness)δ-공개 프라이버시(δ-Disclosure Privacy)β-유사성(β-Likeness)δ-존재(δ-Presence)수익성(Economic Profitability)차등 개인정보 보호(Differential Privacy)📌 핵심 내용 요약1. 🔓 개인정보 보호 위협 유형멤버십 공개: 데이터 존재 여부 추론속성 공개: 민감한 속성 유출 위험신원 공개: 개인..

Privacy model background knowledge PMBK에 대한 개념. 특징 구성요소, 종류, 활용 방안을 정리Privacy Model Background Knowledge(PMBK)개념의 특징, 구성요소, 종류, 활용 방안과 함께 관련 연구 논문(특히 2024년 국제학회 논문)의 구조를 정리한 내용입니다. 1. PMBK 개념개념: 프라이버시 모델은 데이터의 수집, 처리, 저장, 공개에서 개인 정보가 무단 노출, 오용, 훼손되는 위험을 방지하기 위한 체계적인 방법론 또는 기준을 의미합니다. 이는 정책, 기술적 조치, 절차와 같은 다양한 요소를 통합해 사용자의 데이터 권리 보장과 법적 요구사항(GDPR 등)을 준수하는 것이 목적입니다[1][2][3]. 2. 특징정형성: 프라이버시 정책과 준..

프라이버시 모델 K-익명성, L-다양성, t-근접성에 관련된 개념, 정보보호 취약점과 공격 대응법 K-익명성, L-다양성, t-근접성의 개념, 정보보호 취약점·공격 방법, 그리고 대응 방안을 요약한 것입니다. 구분개념주요 취약점/공격 방법대응 방안K-익명성한 개인의 데이터가 적어도 k-1명과 구분되지 않게끔 데이터를 일반화·마스킹[1][2].- 동질성 공격: 그룹 내 민감값이 동일하거나 거의 같으면 예측 가능[3][4].- 민감값 다양성 확보- 동질 그룹 최소화- 데이터 셋 분할·일반화 - 배경지식 공격: 공격자가 외부지식을 이용해 특정값 추론[3][4].- L-다양성, t-근접성 적용[5][6]L-다양성각 동질 그룹(등가 클래스) 내에 민감 정보가 최소 l개 이상 존재하게 하여 속성 유출 방지[..

개인정보 및 비식별화 연구를 위한 테스트 데이터 세트를 찾고 있다.연구바료와 람께 정리합니다.분석데이터세트 - PersonalReddit 와 SynthPAI Dataset🧠 1. SynthPAI Dataset (Yukhymenko et al., 2024)논문 제목: A Synthetic Dataset for Personal Attribute Inference 🔍 2. PersonalReddit Dataset (Staab et al., 2024)논문 제목: Beyond Memorization: Violating Privacy Via Inference with Large Language Models목적: LLM이 기억이 아닌 추론을 통해 개인 정보를 유추할 수 있는지를 평가🧾 3. A Syntheti..

아래는 arXiv 논문(https://arxiv.org/html/2401.00081v2 “Synthetic Data Applications in Finance”)의 주요 텍스트 내용을 한글로 번역한 것입니다.금융 분야의 합성 데이터 응용1. 서론합성 데이터란 말 그대로 실제 세계에서 발생한 이벤트가 아닌 인위적으로 생성된 데이터입니다. 합성 데이터는 주로 1) 실제 데이터를 변형하거나, 2) 실제 과정을 시뮬레이션하여 생성됩니다. 본 논문에서는 이미지, 텍스트 생성 모델로 잘 알려진 DALL-E, GPT-4처럼, 합성 데이터에 대한 다양한 문헌이 존재함을 밝히며, 우리는 특히 금융 분야에서 사용되는 테이블형 및 시계열 합성 데이터에 초점을 맞춥니다. 이 데이터들은 마케팅, 트레이딩, 자금세탁방지 등 ..

마르코프 모델(Markov Model)과 RDDL(Resource Domain Definition Language) 마르코프 모델(Markov Model)이란?마르코프 모델은 어떤 시스템의 미래 상태가 현재 상태에만 의존하고, 과거 상태는 고려하지 않는 확률 모델입니다. 이를 **'마르코프 성질(Markov Property)'**이라고 하며, 이 성질을 바탕으로 시간에 따라 변화하는 여러 시스템(예: 날씨, 주식 가격 등)에서 상태의 전이 확률을 정의합니다.핵심 구성 요소상태(State): 시스템이 가질 수 있는 모든 상황.전이 확률(Transition Probability): 어떤 상태에서 다른 상태로 이동할 확률. 전이 확률의 총합은 1입니다.전이 행렬(Transition Matrix): 상태 간 확..

LLM을 이용한 비식별화 방법론 종합 가이드1. 개요LLM(Large Language Model)을 활용한 비식별화는 개인정보를 보호하면서 데이터의 유용성을 유지하는 핵심 기술입니다. 특히 LLM 서비스에서 발생할 수 있는 개인정보 유출 위험을 방지하고, 입력/출력 데이터의 민감 정보를 자동으로 탐지하여 마스킹하는 것이 중요합니다.2. LLM 비식별화의 주요 위험 요소2.1 LLM 관련 개인정보 유출 위험훈련 데이터 재노출: LLM이 학습한 개인정보가 대화 중 의도치 않게 노출프롬프트 인젝션: 악의적 사용자가 개인정보 추출을 위한 특수한 프롬프트 사용메모리 유출: 이전 대화의 개인정보가 다른 사용자에게 노출추론 공격: LLM의 응답을 통해 개인정보를 간접적으로 추론2.2 PII(Personally Ide..

합성.생성 데이터의 '모델 붕괴'(Model Collapse) 방지 전략 모델 붕괴는 생성형 AI가 반복적으로 자신이 만든 합성 데이터를 훈련에 사용하면서 성능이 점차 저하되고, 데이터의 다양성과 품질이 손상되는 현상입니다. 이로 인해 실제 환경과의 괴리가 심해지고, 예측력과 신뢰성이 급격히 저하될 수 있습니다. 1. 모델 붕괴 방지 주요 메커니즘 및 피드백 전략실제(리얼) 데이터의 지속적 축적: 합성 데이터만 반복적으로 사용할 때 붕괴가 발생하는 경향이 강합니다. 실제 데이터와 합성 데이터를 누적적으로(삭제 없이) 함께 사용하면 붕괴를 방지할 수 있습니다12.합성 데이터 품질 검증(Verification): 사람이든 별도 모델이든, 합성 데이터의 품질을 사전에 검증(검열)해 불량 데이터를 걸러내는 피..

생성형 모델의 모델 붕괴(mode collapse) 현상을 막기 위한 피드백 메커니즘모델 붕괴(mode collapse) 현상을 막기 위한 피드백 메커니즘은 GAN(Generative Adversarial Network) 등 합성 데이터 생성 모델에서 하나 혹은 소수의 데이터 유형만 반복적으로 생성되는 문제를 해소하기 위해 도입되는 기법입니다. 아래에 개념, 특징, 작동원리, 그리고 대표적인 구현 방법을 체계적으로 정리합니다. 🧠 생성 모델 붕괴의 주요 원인자기증폭적 학습 (Self-Amplifying Training)모델이 이전에 생성한 데이터(즉, synthetic data)를 다시 학습에 사용하면, 오차와 편향이 반복적으로 증폭됨특히 웹상에 AI가 생성한 콘텐츠가 많아질수록, 모델은 "자기 자신..

개인정보 비식별화 체계 와 프라이버시 모델 k-익명성(k-anonymity), l-다양성(l-diversity), t-근접성(t-closeness) 개인정보 비식별화에서 프라이버시 모델 k-익명성(k-anonymity), l-다양성(l-diversity), t-근접성(t-closeness) 모델의 체계적 논리 구조와 필요성·유용성에 관한 연구를 아래와 같이 정리했습니다. 최근 실질 연구 논문 정보를 기반으로 논문의 주요 정보도 함께 제공합니다.1. 비식별화 체계 - 프라이버시 모델(1) k-익명성개념:- 공개 데이터에서 특정 개인이 직접적으로 식별되지 않도록, 주어진 ‘식별 정보(준식별자)’ 조합이 데이터 내 최소 k명 이상 동일하게 되도록 처리하는 것으로,- 데이터 공개 시 각 레코드가 최소 k-..