도깨비방

Self-Evolving LLM의 개념과 계보

제2장 문헌 연구 - 자가진화 에이전트의 세 기둥에 대한 심층 분석2.1 Self-Evolving LLM의 개념과 계보Self-Evolving LLM은 학습 완료 후 가중치가 고정되는 기존 패러다임을 벗어나, 모델 스스로 데이터를 생성하고 평가하며 학습을 폐쇄 루프(Closed-loop)로 수행하는 체계를 의미한다.이 계보는 2022년 STaR에서 시작된다. STaR: Bootstrapping Reasoning With Reasoning은 Stanford와 Google Research가 제안한 방법으로, 정답이 있는 QA 데이터에 대해 모델이 스스로 추론 과정(rationale)을 샘플링하고, 정답에 도달한 rationale만으로 다시 학습시켜 점진적으로 어려운 문제를 풀도록 한다. STaR의 핵심은 외..

문헌연구-자기진화의 기술

자가진화는 하나의 기술로 이루어 지니 않는다. 지금 연구의 핵심은 RAG는 외부 기억, LoRA는 몸의 근육, DPO는 가치관으로 보고 이 3개를 묶어서 스스로 진화하는 에이전트를 만드는 것이다.각각이 어떻게 자가진화와 결합되고 있는지 정리해줄게.1. 자가진화 x RAG : 외부 세계를 스스로 학습하는 기술일반 RAG는 그냥 검색해서 답변에 붙이는 거였는데, 이제는 모델이 스스로 검색을 계획하고, 검색 결과를 검증하고, 자신의 기억으로 만드는 단계로 진화했다.현재 핵심 연구 3가지:1) Self-RAG (Self-Reflective RAG)모델이 답변을 생성하면서 스스로 [검색이 필요한가?] 토큰을 생성한다. 필요하면 스스로 검색 쿼리를 만들고, 가져온 문서가 쓸만한지 [관련 있음 / 관련 없음] 이라고..

LLM자가발전 - 4 실험의 설계와 평가 (26.10.3)

실험 및 성능 평가,1. 환경 설정 : - LLM 환경: Ollama 기반 로컬 LLM으로 Qwen3.5 b, misterial 4b 등 노트북기반 경량화 모델을 사용 - Agent 환경 : Agent A (Questoner) , Agent B (답변자), Agent C (Judge, Evaluation)를 구성한다. - 실험 프로세스 : Agent A가. Agent B에게 질문을 하고 , Agent C가 질문과 답변의 품질(정확성, 신뢰성, 적합성 등) 을 평가 또한 하네스를 통해 답변의 정확도, 편향, 환각의 문제를 검증하여 최종 검증된 데이터는 RAG 자원으로 축적한다. 만약 품질의 평가 기준이 평가 척도기준 90% 수준이 되지 않으면 A..

LLM 자가진화 - 3. 연구 방법론 - 시스템 설계 (26.10.3)

# 제3장 연구 방법론 및 시스템 세부 설계 (Methodology & Detailed System Design)본 장에서는 앞서 정립한 행동과학적 인지 원리(경험·질문·반성)와 기술적 자가 발전 인프라를 통합하여, **온프레미스 Private sLLM 환경에서 개인정보(PII) 비식별화 성능을 자율적으로 고도화하기 위한 제3장 연구 방법론 및 세부 시스템 설계**를 제시한다.---## 3.1 전체 시스템 아키텍처 개요 (System Architecture)본 프레임워크는 단일 모델의 가중치 미세조정에 의존하던 기존 자가 학습의 한계를 극복하고, **Multi-Agent 피드백 루프, 백엔드 하네스(Harness) 가드레일, 그리고 RAG/LoRA 듀얼 트랙 데이터 플라이휠**이 유기적으로 결합된 시스템..

이론연구- LLM자동화된 자가발전형 프레임워크 (26.10.2)

자가 발전형 LLM 프레임워크 구축 및 평가와 관련된 **주요 선행 연구 논문과 핵심 이론**을 조사하고, 각 연구가 제공하는 **기술적 개선점(기여)**과 여전히 해결해야 할 **개선 필요 과제(Research Gap)**를 정리한 내용입니다.**자가 학습(Self-Learning)**과 **자가 발전(Self-Evolving Framework)**은 AI의 자율적 성능 향상을 목표로 한다는 점에서 유사해 보이지만, **적용 범주(Scope), 제어 메커니즘, 그리고 '모델 붕괴(Model Collapse)' 방어 능력**에서 명확한 구조적 차이가 존재합니다.---### 1. 개념 및 적용 범주의 차이* **자가 학습 (Self-Learning / Self-Training)** * **개념..

행동과학적 경험의 축적과 기술적 자가발전의 융합(26.10.2)

**"행동과학적 인지 원리(경험·질문·반성)"**와 **"기술적 자가 발전 아키텍처(Multi-Agent·Harness·데이터 플라이휠)"**를 융합하고, 이를 뒷받침하는 **행동과학/인지심리학 이론 및 최신 AI 선행 연구 논문**을 체계적으로 결합하여 학술 논문/보고서용으로 재작성한 정밀 초안입니다.---# 행동과학 및 AI 기술 융합 관점의 자가 발전형 프레임워크 (Self-Evolving Framework)## 1. 개요: 인지 패러다임의 전환 (Cognitive Paradigm Shift)기존 인공지능(AI) 학습은 인간이 이미 경험하고 정리해 둔 정적(Static) 데이터를 주입식으로 암기시키는 **'지식 수용적 학습(Passive Knowledge Acquisition)'**에 치중되어 왔다..

자가진화 - RAG DPO LORA와 성능 향상 기대

자가진화 - RAG DPO LORA와 성능 향상 기대RAG DPO LoraDPO 의 Golden_cases 데이터 수량이 수천~수만 건 이상으로 대규모 누적될 때, 비례하여 점진적이고 안정적인 성능 향상을 기대할 수 있습니다.다만, 단순히 데이터의 "양(Quantity)"만 늘어난다고 해서 성능이 계속 우상향하는 것은 아닙니다. 데이터 수량 증가가 실제 성능 향상으로 직결되기 위해서는 3가지 핵심 차원의 품질 통제 체계가 전제되어야 하며, 이를 보장할 경우 확합적인 효과를 얻을 수 있습니다.1. 점진적 성능 향상이 보장되는 3가지 주요 원인① 커버리지(Coverage) 및 Hard Negative 영역 확충 * 데이터 양이 늘어나면 단순한 PII 패턴(전화번호, 주민번호 등)을 넘어 경계선 상에 있는 ..

학습의 한계와 자율지능의 탄생

**{학습의 한계와 자율지능의 탄생}** **'지능의 진화와 문명적 전환'**을 설명하는 가장 강력한 학술적·전략적 테마입니다. 인간의 기존 지식을 모방하던 단계에서, 스스로 문제를 정의하고 진화하는 **'자율지능(Self-Evolving Intelligence)'**으로의 전환 과정을 4가지 핵심 구조로 정리해 드립니다.---### 1. 학습의 한계: 정답 모방(귀납)과 학습 시간의 압축* **기존 AI의 한계**: 초기 인공지능 학습은 인간이 축적해 놓은 기존 정보와 지식을 바탕으로 패턴을 찾고 정답을 모방하는 귀납적 추론에 집중되었습니다 [1].* **역량과 시간의 압축**: 인공지능은 인간이 오랜 역사와 경험을 통해 쌓아온 배움과 학습의 물리적 시간을 대폭 단축시켰으며, 집단지성에 의존하던 지적..

ESG, 신제도주의, CSR CSV의개념과 관계와 발전 동향 정리

■ ESG, 신제도주의, CSR CSV의개념과 관계와 발전 동향 정리최근 ESG가 급격히 제도화되는 과정에서, ESG 경영을 단순히 '탄소 배출 감량'과 동일시하는 인식의 오류가 빈번하게 발생하고 있습니다. 물론 기후위기 대응과 탄소중립 흐름 속에서 탄소배출량(혹은 탄소배출권)이 ESG 평가와 공시의 가장 대표적인 정량 지표이자 비재무적 성과 측정의 핵심 수단으로 활용되는 것은 사실입니다. 그러나 탄소 감량은 ESG가 포괄하는 방대한 영역의 일부일 뿐이며, 비재무적 리스크 관리와 가치 창출의 전부는 아닙니다. 기업이 외형적 지표 맞추기를 넘어 '지속가능성'이라는 본질적 목적을 달성하기 위해서는 리스크를 방어하는 CSR, 공유가치를 창출하는 CSV, 성과를 정량화하는 ESG, 그리고 이를 조직 내에 영속..

sLLM를 활용한 비식별화 연구 26.9.29"정규식의 속도/정확도" + "LLM의 문맥 이해력"을 결합하는 것이 핵심입니다.1) ​정규식(1차): 빠른 속도로 개인정보 가능성이 있는 모든 패턴을 넓게(Recall 높게) 잡아냅니다.2) ​소형 LLM(2차): 정규식이 잡아낸 항목이 실제로 문맥상 개인정보인지 검증하여 오탐/과탐을 제거(Precision 높임)합니다.​이러한 2단계 하이브리드 검증 구조를 도입하면, 기존 정규식 방식의 단점인 과도한 마스킹으로 인한 데이터 훼손이나 처리 오류를 획기적으로 줄일 수 있습니다.소형 LLM(SLM, 1B~8B 규모)은 메모리 사용량이 적고 속도가 매우 빨라 온프레미스/VPC 환경에서 비식별화 전담 에이전트(Anonymization Agent)로 활용하기에 최적입..