Variational Inference, 베이지안 딥러닝

네이버 커넥트 재단에서 최성준 박사님이 강의한 베이지안 딥러닝의 내용입니다. Variational Inference Variational inference 라는 단어를 들어 본 지는 사실 꽤 되었다. 이게 뭘까 하면서 한 번 본 적은 있지만, 난무하는 수식에 그냥 하던거나 하자는 생각으로 덮었다. 그래서 사실 variational inference가 뭔지도 모르고 이 variational이 variance와 관련 있는건가 하는 궁금증도 들고 그랬다. 어쨋든 이 둘은 다른 […]

CNN- Imagenet에 쓰인 주요 모델

[catlitst categorypage=”yes”] ILSVRC 예전에 ILSVRC라는 유명했던 이미지 분류 대회가 유행했었다. 현재 이 대회는 공식적으로 종료되었고 캐글에서 대회를 이어가고 있다. 대회는 Imagenet이라는 데이터를 사용하는데 1000개의 카테고리와 수백만의 이미지 데이터로 이루어져있다. ILSVRC는 단지 이미지 분류만이 있는 게 아니고 object detection 등 몇가지가 더 있기도 하다. 대회가 종료된 이유는 2012년 딥러닝을 이용한 모델이 우승을 한 것이 시발점이 되었다. […]

AutoEncoder 를 이용한 abnormally detection..1

AutoEncoder…1 Generative Model 중의 하나인 autoencoder를 보자. 이 모델은  단지 Generating만 하는 것이 아니라 다른 것들도 하는 neural net이라 재미있다.  Autoencoder는 단어 그래도 자동으로 encode를 하는 Neural Net이다.  encode가 뭔지는 뒤에서 설명한다. 기본적으로 Generative model이지만 GAN과 같은 좋은 성능의 generative model이 나온 지금은 다른 용도로 많이 쓰이는 듯하다. Feature extraction, pretrain, abnormally detection 과 같은 […]

온라인 소스로 딥러닝 공부하기

온라인 소스를 이용하여 어떻게 혼자 박사 레벨의 기계학습, 딥러닝을 배울까? Quora에 올라온 질문을 번역한 것입니다. Abhishek Patnia’s answer to How can I learn machine learning and deep learning to PhD level by using only free online resources? – Quora Abhishek Patnia, Applied Scientist at Amazon.com의 답변 내용 나의 조언은 스탠포드의 CNN 강의를 듣는 것부터 시작한다. […]

불균형 데이터에 대한 7가지 팁

7 Techniques to Handle Imbalanced Data 이 포스트는 매우 불균형한 데이터를 다루는 방법에 대한 것입니다. kdnuggets.com의 포스트를 번역한 것입니다. 원문보기 By Ye Wu & Rick Radewagon, IE business school Introduction 은행 사기 예측, 실시간 경매나 네트워크에서의 공격 감지와 같은 분야에서의 데이터들은 주로 어떤 특징을 가졌는가? 이런 분야에서의 데이터는 1%도 안되는 ‘흥미로운’ 사건을 가진다.(e.g. 신용카드 사기, […]