seq2seq 썸네일형 리스트형 ORDER MATTERS: SEQUENCE TO SEQUENCE FOR SETS 논문: ORDER MATTERS: SEQUEN CE TO SEQUENCE FOR SETS Oriol Vinyals, SAmy Bengio, Manjunath Kudlur 1. 입/출력 데이터의 순서가 모델을 학습할 때 중요한 역할 2. 입력 집합을 처리하는 seq2seq framework 확장 3. propose loss: searching over possible orders during training 훈련 중 가능한 순서 탐색 1. [Order matters] No natural order is known among input | output objects -> still be one that yields better performace 입/출력 간의 순서가 없을 때에도 성능 개선할 수 있는 순서가.. 더보기 Pointer Networks 논문: Vinyals, Oriol, Meire Fortunato, and Navdeep Jaitly. "Pointer networks." Advances in neural information processing systems. 2015. Abstract 조합 최적화 문제를 딥러닝을 활용해 해결하기 위한 모델 제안 => Pointer Networks ? 조합 최적화 문제: 입력으로 주어진 요소 중 최적의 조합 찾기, ex) 최단 경로 문제 입력 길이에 의존하기 때문에, 가변적 입력 길이 문제에 대해 기존 모델로 좋은 성능을 얻기 어려워 : seq2seq 과 neural turing machine 접근법으로는 문제를 해결하기 어려움 * seq2seq: 고정된 입력에 대해 문제를 해결할 수 있어 * atte.. 더보기 이전 1 다음
