[태그:] LAPE

https://www.dropbox.com/scl/fi/kha58ikmznjczmoln5yhk/acl24_LAPE_LLM_Anatomy_Language_Neurons_And_Control.pdf?rlkey=lfdv7v6c4odwtcpg8n8e7jzby&dl=0 이 논문 **「Language-Specific Neurons: The Key to Multilingual Capabilities in Large Language Models」 (ACL 2024)**은 대형 언어 모델(LLM)의 다국어 능력이 **특정한 언어 전용 뉴런(language-specific neurons)**에 의해 어떻게 형성되는지를 정량적으로 규명한 연구입니다 . 연구 배경 및 문제의식 대형 언어 모델(GPT-4, PaLM-2 등)은 주로 영어 데이터로 학습되었음에도 불구하고 여러 언어로 높은 수준의 이해 및 생성 능력을…