Wooks_learning

이번 글은 dense prediction task를 few-shot learning을 통해 성공적으로 학습한 논문에 대해 소개하려고 한다. 글의 순서는 다음과 같다. 1. Abstract 2. Introduction 3. Method - Data 구성 - Image encoder - Label encoder - Matching module - Label decoder - Meta training loss 실험에 관한 내용은 발표자료에 그림으로 첨부하여 따로 정리하진 않겠다. 1. Abstract 해당 논문은 dense prediction task를 푸는 논문인데, 일단 dense prediction 자체가 생소할 수 있다. 여기서 dense prediction이란 input image를 주었을 때 각 픽..

오늘 리뷰할 논문은 DALL.E라고 잘 알려져 있는 text-to-image generation 모델에 대해 집중적으로 알아볼 예정이다. 리뷰 순서는 아래와 같이 리뷰할 예정이다. 1. Abstract 2. Introduction 3. Method - Stage 1. - Stage 2. 4. Experiments 1. Abstract 전통적으로 Text-to-image generation의 경우 특정 데이터 셋에 잘 작동하는 모델링 기법을 찾는데에 집중되어 있었다. 해당 과정에서 모델의 복잡한 구조, 추가적인 손실함수, 추가적인 라벨 작업이 필수적인 요소로써 요구되었다. DALLE의 경우 text-to-image generation을 text와 image 토큰들의 single stream 형태로 받아 t..

논문을 읽다보면 "heuristic" 이라는 단어가 상당히 많이 등장하게 된다. 막상 heuristic을 찾아 보았을 때 딱히 와닿는 설명이 없어서 의문점으로 남았었는데, 최근에 논문 발표를 하면서 교수님이 명확하게 짚고 넘어가주셔서 짤막하게 정리하려고 한다. 교수님께서 말씀해주신 heuristic의 뜻은 다음과 같다. 원래 optimal한 알고리즘은 따로 있는데, 해당 방식을 알 수 없는 경우 최적에 근사한 값으로 만들어 주는 것이다. 즉, 수학적으로 완벽하게 풀어낼 수 없는 것을 근사한(approximate) 방식으로 풀어내는 알고리즘. 좋게 포장해서 heuristic이지, 한 마디로 주먹구구식 알고리즘 이라고 생각하면 된다. 딥러닝에서 heuristic한 방식에 대해서 걸고 넘어지는 이유는 아래와 ..

해당 논문은 ECCV 2020에 발표된 논문으로, Facebook AI Research팀이 발표한 논문이다. ViT 보다 더 빠르게 vision task에서 transformer 구조를 사용하여 object detection task를 풀어낸 논문으로, transformer가 vision task에서 유의미한 성능을 거두고, 높은 잠재력이 있다는 것을 알려준 논문으로 대표된다. 해당 글은 아래와 같은 순서로 정리한다. Abstract Architecture Backbone Network Transformer Encoder Transformer Decoder loss function Experiments Faster R-CNN VS DETR Encoder Visualization Decoder Visual..