목록Data Science/Meta Learning (9)

KalelPark's LAB

[ 논문 리뷰 ] Prototypical Networks for Few-shot Learning

GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/Awesome-ComputerVision GitHub - kalelpark/Awesome-ComputerVision: Awesome-ComputerVision Awesome-ComputerVision. Contribute to kalelpark/Awesome-ComputerVision development by creating an account on GitHub. github.com Abstract 본 논문에서는 Prototypical Network를 제안합니다. Prototypical Network..
Data Science/Meta Learning 2023. 1. 15. 12:16
[ Meta Learning ] Meta-Learning based on Metric

Metric Learning이란? 학습하고자 하는 학습 방법은 다양한 태스크에서 사용할 수 있는 좋은 특징 공간(feature Space)이다. 즉, 새로운 태스크를 잘 활용할 수 있는 유용한 Manifold interpolation을 학습하는 것을 목표로 한다. 즉, 메트릭 기반 방법은 같은 라벨을 갖는 Support Set과 Query Set의 데이터 쌍이 비슷한 매니폴드 공간에 임베딩 되는메타러닝을 수행하며, 새로운 태스크가 들어왔을 때도 학습과정에서 이를 발견하지 못하였더라도, 같은 라벨의 데이터 쌍은 비슷한 공간에 임베딩 되도록 합니다. 메타러닝을 진행한 이후, few-shot learning을 진행하는 경우 추가적인 파라미터 변경없이 임베딩만 수행하며 바로 Query Set의 데이터와 Supp..
Data Science/Meta Learning 2023. 1. 15. 11:25
[ 논문 리뷰 ] Siamese Neural Networks for One-shot Image Recognition

GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/Awesome-ComputerVision GitHub - kalelpark/Awesome-ComputerVision: Awesome-ComputerVision Awesome-ComputerVision. Contribute to kalelpark/Awesome-ComputerVision development by creating an account on GitHub. github.com Abstract 기계 학습을 활용하여, 좋은 feature를 학습하는데는 Computationally expensive..
Data Science/Meta Learning 2023. 1. 8. 19:25
[ 논문 리뷰 ] One-shot Learning with Memory-Augmented Neural Networks?

GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/Awesome-ComputerVision GitHub - kalelpark/Awesome-ComputerVision: Awesome-ComputerVision Awesome-ComputerVision. Contribute to kalelpark/Awesome-ComputerVision development by creating an account on GitHub. github.com Abstract Deep Neural Network에서는 여전히 영구적인 문제가 존재합니다. 새로운 데이터를 직면할 때..
Data Science/Meta Learning 2022. 12. 29. 14:19
[Meta Learning] Neural Turing Machines이란?

NTM(Neural Turing Machines) * Meta Learning의 MANN(Memory-Augmented Neural Networks)와 SNAIL(Neural Attentive Meta-Learner) 두 알고리즘에 대해서 이해하기 위해 공부해야 하는 선수조건입니다. - 이름 그대로, Neural Networks를 이용해, Turing Machine을 구현하는 것이다. (Turing Machine : 현대 컴퓨터 구조의 토대가 된 가상의 기계로, 수치 연산, 메모리 읽기, 메모리 쓰기의 기능을 가지고 있다.) - 이전의 Memory 형태로 저장되는 RNN과 LSTM은 Implicit Memory를 가지고 있었지만, 외부의 메모리를 가질 수 없었습니다. NTM은 Neural Networks..
Data Science/Meta Learning 2022. 12. 28. 22:50
[ Meta Learning ] 모델 기반 메타 러닝 이해하기

Meta Learning for Model - Model 기반의 Meta Learning에서 학습하고자 하는 학습 방법은 순환 신경망의 은닉 상태와 같은 변화하는 내부 다이내믹스(internal dynamics)입니다. - LSTM과 같이, 많은 태스크를 학습하여, 정보를 기억하는 것을 목표로 합니다. 즉 LSTM과 같은 메모리 안의 내부 다이내믹스(internal dynamics)가 일종의 학습 방법이라고 해석할 수 있습니다. 즉, 정리해보자면 1. 태스크 분포 p(T)에서 태스크 T_{i}를 샘플링합니다. 2. 태스크 T_{i}를 D_{train}과 D_{test}로 분리합니다. 3. 태스크 파라미터를 아래와 같은 식을 활용하여, 계산합니다. EX>
Data Science/Meta Learning 2022. 12. 28. 21:47
[Meta Learning] MetaDataLoader 구현

* 해당 포스팅을 보기 전에, 이전 논문 리뷰를 우선적으로 참고하시는데 많은 도움이 될 것입니다. 감사합니다. https://kalelpark.tistory.com/28 [논문 리뷰] Optimization as a model for few-shot learning? GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/Awesome-ComputerVision GitHub - kalelpark/Awesome-ComputerVis kalelpark.tistory.com Torchmeta란? Pytorch에서의 few-shot learning & meta-l..
Data Science/Meta Learning 2022. 12. 28. 20:55
[논문 리뷰] Optimization as a model for few-shot learning?

GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/Awesome-ComputerVision GitHub - kalelpark/Awesome-ComputerVision: Awesome-ComputerVision Awesome-ComputerVision. Contribute to kalelpark/Awesome-ComputerVision development by creating an account on GitHub. github.com Abstract - 일반적으로 큰 Network에서는, Gradient based optimization은 상당히 많은..
Data Science/Meta Learning 2022. 12. 27. 09:17
이전 Prev 1 2 Next 다음