[태그:] Knowledge Circuit

https://www.dropbox.com/scl/fi/4tmgulw229luxv7pvx9k1/nips24_LLM_Knowledge_Circuits_Anatomy_and_Flow.pdf?rlkey=3bndzh1r26iyn6iqbi17hb3sv&dl=0 다음은 NeurIPS 2024에 발표된 “Knowledge Circuits in Pretrained Transformers” 논문의 주요 내용 요약입니다. 이 논문은 LLM 내부의 지식 저장 메커니즘을 **회로(circuit)**의 관점에서 새롭게 분석한 연구입니다. 1. 연구 배경 2. Knowledge Circuit의 정의 3. 연구 방법론 (1) Knowledge Circuit 탐색 (2) 모델 및 데이터 4. 주요 실험 결과 (1) Knowledge Circuit의 성능 Knowledge Type Original…