Yong's Blog Yong's Blog

안녕하세요! 이번 장에서는 만들어진 Language Model을 평가하는 Metric에 대해 설명하는 시간을 갖도록 하겠습니다. 물론 언어 전문가가 모든 결과물들을 평가하면 좋겠지만, 요즘 시대와 같이 큰 데이터를 모두 사람이 평가하기엔 무리가 있기 때문에 좋은 Metric을 찾아 모델을 평가하는 것이 중요합니다. 설명 시작하겠습니다. Language Model (LM) 먼저 LM의 문장 예측 방법은 다음과 같다. LM은 임의의 token들의 sequence 자체에 확률을 부여하며, token 들의 sequence가 존재할 가능성이 높은 것들을 문장으로 생성한다. 대부분의 언어 모델은 이전 token(context)가 주어졌을 때, 각 token들의 확률의 곱으로 이 확률을 추정할 수 있다. $$ P(w..