[태그:] IDS

https://www.dropbox.com/scl/fi/tzkf6eksyracv90mkirl0/arxiv25_In-Distribution_Steering.pdf?rlkey=4hpbqelk8m5ly5p7yv8d0qyd2&dl=0 논문 핵심 요약 **IDS(In-Distribution Steering)**는 기존 Activation Steering 기법(CAA, MERA)의 가장 큰 한계를 해결하는 방법입니다: “스티어링 강도 α를 고정하지 말고, 입력이 target-behavior distribution 안에 머물 수 있을 만큼만 동적으로 조절하자.” ⇒ 즉, 과소 스티어링 ↔ 과도 스티어링(activation collapse) 사이에서 최적 지점을 자동 조절해주는 방식. IDS는 PCA + Mahalanobis distance 기반으로 각 layer, 각 token position별로 activation이 target…