디지털 중국
2020. 12. 20.
GPT-3 vs 최신 중국어 언어 모델(CPM) 비교
최근 GPT-2에 견줄만한 중국어 언어 모델, 영어로는 Chinese Pre-trained Language Model이라고 하는 것이 발표되었습니다. 칭화대학교와 베이징즈위안인공지능연구원이 공동 연구개발한 모델로 약 26억 개의 파라미터를 바탕으로 학습했다고 하네요. 아래는 해당 내용을 간단하게 설명한 기사이며, 논문을 보고 싶으신 분들을 위해 링크를 첨부하겠습니다. [2012.00413] CPM: A Large-scale Generative Chinese Pre-trained Language Model (arxiv.org) GPT-2와 중국어 언어 모델: 후자의 훈련 방법 최근 중국 AI 연구원들은 모델 학습에 사용되는 파라미터 개수 측면에서 GPT-2와 경쟁할 만한 거대한 언어 모델을 만들었습니다. ..
