목록Data Science (117)

KalelPark's LAB

[ Meta Learning ] 모델 기반 메타 러닝 이해하기

Meta Learning for Model - Model 기반의 Meta Learning에서 학습하고자 하는 학습 방법은 순환 신경망의 은닉 상태와 같은 변화하는 내부 다이내믹스(internal dynamics)입니다. - LSTM과 같이, 많은 태스크를 학습하여, 정보를 기억하는 것을 목표로 합니다. 즉 LSTM과 같은 메모리 안의 내부 다이내믹스(internal dynamics)가 일종의 학습 방법이라고 해석할 수 있습니다. 즉, 정리해보자면 1. 태스크 분포 p(T)에서 태스크 T_{i}를 샘플링합니다. 2. 태스크 T_{i}를 D_{train}과 D_{test}로 분리합니다. 3. 태스크 파라미터를 아래와 같은 식을 활용하여, 계산합니다. EX>
Data Science/Meta Learning 2022. 12. 28. 21:47
[Meta Learning] MetaDataLoader 구현

* 해당 포스팅을 보기 전에, 이전 논문 리뷰를 우선적으로 참고하시는데 많은 도움이 될 것입니다. 감사합니다. https://kalelpark.tistory.com/28 [논문 리뷰] Optimization as a model for few-shot learning? GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/Awesome-ComputerVision GitHub - kalelpark/Awesome-ComputerVis kalelpark.tistory.com Torchmeta란? Pytorch에서의 few-shot learning & meta-l..
Data Science/Meta Learning 2022. 12. 28. 20:55
[논문 리뷰] Optimization as a model for few-shot learning?

GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/Awesome-ComputerVision GitHub - kalelpark/Awesome-ComputerVision: Awesome-ComputerVision Awesome-ComputerVision. Contribute to kalelpark/Awesome-ComputerVision development by creating an account on GitHub. github.com Abstract - 일반적으로 큰 Network에서는, Gradient based optimization은 상당히 많은..
Data Science/Meta Learning 2022. 12. 27. 09:17
[Meta Learning] What's Meta Learning?

Meta Learning? - 인공지능 분야에서의 메타러닝은 새로운 개념 또는 테스크를 빠르게 학습하기 위해 학습을 학습(learning to learn)하는 방법 이라고 합니다. 즉, 새로운 태스크를 더 빨리 학습하기 위해 이전의 학습 경험을 적극적으로 활용하는 방법이라고 생각할 수 있습니다. - 메타러닝의 핵심 아이디어는 학습 에이전트가 단순히 해당 데이터를 학습하는 것뿐만 아니라, 자신의 학습 능력을 스스로 향상시킨다는 것입니다. - 메터러닝과 자주 언급되는 개념으로 멀티 태스크 러닝이 존재합니다. 멀티 태스크 러닝은 하나의 모델이 다양한 여러 테스크를 잘 학습하고, 테스트 시 학습한 태스크들과 같은 여러 태스크를 잘 수행하는 것을 목표로 합니다. Dataset for Meta Learning Om..
Data Science/Meta Learning 2022. 12. 25. 20:15
[논문 리뷰] TransFG [2021]

GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/AI_PAPER GitHub - kalelpark/AI_PAPER: Machine Learning & Deep Learning AI PAPER Machine Learning & Deep Learning AI PAPER. Contribute to kalelpark/AI_PAPER development by creating an account on GitHub. github.com Abstract 최근 Vision Transformer가 강세를 보이고 있습니다. Transformer의 self attent..
Data Science/Fine Grained 2022. 12. 10. 14:26
[논문 리뷰] EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks [ 2019 ]

GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/AI_PAPER GitHub - kalelpark/AI_PAPER: Machine Learning & Deep Learning AI PAPER Machine Learning & Deep Learning AI PAPER. Contribute to kalelpark/AI_PAPER development by creating an account on GitHub. github.com Introduction ✨ 해당 논문은 연구에 따른 new scaling method을 적용한 EfficientNet을 소개합..
Data Science/Classification 2022. 12. 6. 23:45
[논문 리뷰] PIM(Plug in Module) [ 2022 ]

GitHub를 참고하시면, CODE 및 다양한 논문 리뷰가 있습니다! 하단 링크를 참고하시기 바랍니다. (+ Star 및 Follow는 사랑입니다..!) https://github.com/kalelpark/AI_PAPER GitHub - kalelpark/AI_PAPER: Machine Learning & Deep Learning AI PAPER Machine Learning & Deep Learning AI PAPER. Contribute to kalelpark/AI_PAPER development by creating an account on GitHub. github.com Abstract Fine Grained는 일반적인 Classification에 비하여, 상당히 어려운 task입니다. 이전의 ..
Data Science/Fine Grained 2022. 12. 6. 14:42
[ Computer Vision ] Jigsaw Generator 구현

ComputerVision task에서는 Model의 성능을 올리기 위해, Image에 여러가지 Data Augmentation 기법들이 제안됩니다. 이미지를 자르거나, 다른 이미지와 겹치게 함으로써 Image의 덜 중요한 부분까지 focusing하거나, Image의 덜 중요한 부분을 dropout 하도록 합니다. 최근 여러 논문에서는 CutMix, Cutblur, Mixup 등이 소개되고 있는데, 이러한 data augmentation을 만들기 이전에, 기본적으로 이미지를 Patch로 생성한 후, Patch를 섞는 코드를 구현해보도록 하겠습니다. * 예시 Img import random from PIL import Image import torch from torchvision import datase..
Data Science/Common 2022. 12. 5. 19:50
이전 Prev 1 ··· 11 12 13 14 15 Next 다음