[태그:] DoLa
-
* Enhancing Instruction-Following Capabilities in Seq2Seq Models (ArXiv 2025)
https://www.dropbox.com/scl/fi/oqbatf064r82nh0k30uz6/arxiv25_Steering_Seq2Seq_Beyond_Memorization.pdf?rlkey=4g8t4f86x12nsbrzhlqdsbpe0&dl=0 이 논문의 핵심은 **“decoder-only LLM에서 효과적이었던 DoLa를 FLAN-T5 같은 encoder–decoder(Seq2Seq) 모델에 적용하면 왜 잘 작동하지 않는가?”**를 분석하고, 그 분석을 바탕으로 gradient 기반 activation steering을 제안하는 것입니다. 논문의 가장 중요한 결과는 FLAN-T5-Large의 MemoTrap 정확도를 52.0% → 99.7%로 향상시켰다는 것입니다. 1. 연구 질문과 핵심 아이디어 FLAN-T5는 instruction tuning을 했음에도 다음과 같은 상황에서 instruction을 무시할 수 있습니다.…
-
** DoLa: Decoding by Contrasting Layers Improves Factuality in Large Language Models (ICLR 2024)
다음은 ICLR 2024 논문 “DoLa: Decoding by Contrasting Layers Improves Factuality in Large Language Models”에 대한 체계적인 설명입니다. 1. 문제의식 (Why DoLa?) 대규모 언어모델(LLM)은 유창하지만 **사실과 다른 내용(hallucination)**을 자주 생성합니다.기존 대응 방식들은 다음과 같은 한계를 가집니다. –> 이 논문의 핵심 질문은 다음입니다. “이미 학습된 하나의 LLM 내부 구조만 활용해서, 추론 시점(inference-time)에 사실성을 높일 수 없을까?” 2. 핵심…