[기획특집 8] 2017년 발표된 "Attetion Is All You Need" - 딥러닝의 판도를 바꾼 트랜스포머(Transformer) 모델

http://www.nbnnews.co.kr/news/articleView.html?idxno=914748

[기획특집 8] 2017년 발표된 "Attetion Is All You Need" - 딥러닝의 판도를 바꾼 트랜스포머(Transformer) 모

2017년 발표된 "Attention Is All You Need" 논문은 딥러닝의 판도를 바꾼 트랜스포머(Transformer) 모델을 제안하며, 순환 신경망(RNN)과 합성곱 신경망(CNN)의 한계를 극복한 새로운 패러다임을 제시하였다.
트랜스포머는 자연어 처리뿐만 아니라 다양한 딥러닝 응용 분야에서 혁신적인 도약을 가능케 한 모델로 평가받고 있다.
본 기고문에서는 RNN과 CNN의 주요 개념과 한계를 짚어보고, 트랜스포머 모델이 이를 어떻게 극복했는지 학술적으로 분석하고자 한다.

출처 : 내외뉴스통신(http://www.nbnnews.co.kr)