문돌이 존버/데이터 분석
2021. 8. 16.
시퀀스-투-시퀀스(sequence-to-sequence) 간단히 이해하기
본 글은 "딥 러닝을 이용한 자연어 처리 입문"을 학습하며 작성한 것입니다. 중간중간 제가 이해한 내용을 좀 더 풀어서 썼습니다. 시퀀스-투-시퀀스(이하 seq2seq)는 입력된 시퀀스로부터 다른 도메인의 시퀀스를 출력하는 다양한 분야에서 사용되는 모델입니다. 1. 챗봇 - 입력 시퀀스: 질문 - 출력 시퀀스: 대답 2. 기계 번역 - 입력 시퀀스: 입력 문장 - 출력 시퀀스: 출력 문장 기타: 내용 요약, STT(Speech to Text) seq2seq 모델의 내부 모습은 아래와 같으며 크게 2개의 아키텍처(인코더, 디코더)로 구성됩니다. 1) 인코더는 입력 문장의 모든 단어들을 순차적으로 입력받은 뒤에 마지막에 이 모든 단어 정보들을 압축해 하나의 벡터로 만듭니다. 이를 컨텍스트 벡터(context..
