목차

EMLo [엘모]

  • description : ELMo
  • author : 오션
  • email : shlim@repia.com
  • lastupdate : 2020-07-15

용어

* ELMo[엘모, Embeddings from Language Model, '언어 모델로 하는 임베딩']

정리

- 2018년 제안된 새로운 워드 임베딩 방법론
- 사전 훈련된 언어 모델[Pre-trained language model, 프리 트레인드 랭귀지 모델]을 사용.
- 순방향 RNN과 역방향 RNN을 활용, 즉 양쪽 방향의 언어 모델을 둘 다 활용한다고 하여 이 언어모델을 biLM[Bidirectional Language Model]이라고 함.

Ref

엘모(Embeddings from Language Model, ELMo