[태그:] Test-Time Training
-
*** Dynamic Cheatsheet: Test-Time Learning with Adaptive Memory (EACL 2026)
https://www.dropbox.com/scl/fi/38cgd3incklkebm8q7alr/eacl26_Dynamic_Cheatsheet_Evolution.pdf?rlkey=plnu5d58fdxcoqq0mgkai9yzi&dl=0 1. 문제 정의 (Motivation) 기존 LLM의 핵심 한계: 논문 핵심 주장: “LLM도 inference 과정에서 지속적으로 학습해야 한다” 즉, 2. 핵심 아이디어: Dynamic Cheatsheet (DC) 직관 LLM에게 “치트시트(cheatsheet)”를 만들어주자: 전체 구조 (핵심 loop) 논문 수식으로 표현: (1) 생성 단계 y~i=Gen(xi,Mi)\tilde{y}_i = Gen(x_i, M_i) (2) 메모리 업데이트 Mi+1=Cur(Mi,xi,y~i)M_{i+1} = Cur(M_i, x_i, \tilde{y}_i) 핵심 특징: 3. DC의…
-
* TTRL: Test-Time Reinforcement Learning (NeurIPS 2025)
https://www.dropbox.com/scl/fi/ns4oytqbvv592au9b5xab/nips25-TTRL_Learning_At_Test_Time.pdf?rlkey=epso498d6ip6i7pyahmat0wzk&dl=0 논문 **“TTRL: Test-Time Reinforcement Learning” (NeurIPS 2025)**는 라벨이 없는 test 데이터에서 RL을 수행하여 LLM을 test-time에 self-evolve 시키는 방법을 제안합니다 . 아래에서 핵심 아이디어, 수식, 실험 결과, 그리고 왜 작동하는지까지 체계적으로 정리하겠습니다. 1. 문제 설정: Test-Time RL 기존 RL 기반 reasoning 모델 (예: GRPO, PPO 기반 수학 RL)은 ground-truth label이 있는 데이터를 사용합니다. 그러나 TTRL은…