CNN- Imagenet에 쓰인 주요 모델

[catlitst categorypage=”yes”] ILSVRC 예전에 ILSVRC라는 유명했던 이미지 분류 대회가 유행했었다. 현재 이 대회는 공식적으로 종료되었고 캐글에서 대회를 이어가고 있다. 대회는 Imagenet이라는 데이터를 사용하는데 1000개의 카테고리와 수백만의 이미지 데이터로 이루어져있다. ILSVRC는 단지 이미지 분류만이 있는 게 아니고 object detection 등 몇가지가 더 있기도 하다. 대회가 종료된 이유는 2012년 딥러닝을 이용한 모델이 우승을 한 것이 시발점이 되었다. […]

데이터 사이언스, 기계 학습을 공부하려면 꼭 딥러닝을 파야하나?

이 글은 Quora의 “Should a machine learning beginner go straight for deep learning?” 에 대한 Keshav Dhandhania의 답변입니다. 원문보기 이 질문은 딱 요즘 내가 느끼고 있는 질문이다. 때마침 quora digest로 나에게 맞는 질문이 왔길래 정리해본다. 또 quora digest가 우연히 이 질문을 준건지, 알고 준건지는 잘 모르겠다. 요즘 딥러닝에 빠져서 공부를 하다보니 내가 원래 추구했던게 딥러닝인가? […]

CNN, Convolution 이란?

Deep Learning for Computer Vision – Dr. Adrian Rosebrock 을 보고 정리한 글입니다. Convolution in CNN 이미지 처리 분야는 CNN이라는 이미지를 다루는 딥러닝 기법이 나옴과 함께 엄청나게 빠른 속도로 발전 중이다. 요즘은 이미지가 아닌 다른 곳에도 CNN 쓰기는 하지만 말이다. 그럼 Convolutional Neural Net에서 Convolution이 뭘까? 영어 사전에서는 뒤틀린 것, 꼬인 것 이라고 한다. Convolutional […]

쿠알라룸푸르에서 마지막 날.

17일의 인도여행 후 인도에서의 고됨을 회복하고자 쿠알라룸푸르에 2박을 하기로 하였다. 쿠알라룸푸르는 상당히 발전된 느낌의 도시였다. 우리는 쿠알라룸푸르의 중심인 부킷빈탕 지역에서 머무르며 쉬었다. 말레이시아는 기본적으로 음식들이 엄청 맛있다. 그런데 이곳의 생선은 훨씬 더 맛있다. 무슨 생선인지는 모르겠는데 이곳의 생선인듯 하다. 도시를 보니 너무 반갑다… 높은 빌딩들 보고 좋을 줄이야.. 부킷빈탕 야시장에서의 생선. 뭔지는 역시 모르겠으나 엄청 […]

Affine, Convex set

Line, line segments Affine, convex set을 보기 전에 이 둘을 이루는 line, 선이 뭔지 보자. 중학교 때, 선은 두 점을 이용하여 만든다고 배웠다. 여기서도 그렇다. 서로 다른 두점이 존재할 때, $y = \theta x_ {1} + (1 – \theta) x _ {2}$ 은 x1, x2를 지나는 선이다. 그리고 $\theta$ 는 0~1사이의 값으로 line segment를 하는 […]

딥러닝으로 XOR 학습하기

Deep Learning – Ian goodfellow를 참조한 포스팅입니다. XOR XOR 문제는 오래전 인공신경망을 잠재워 버린 무시무시했던 문제이다. 당시의 인공신경망은 non-linearity를 극복하지 못해 XOR을 풀 수 없었다. 10~20년간의 인공신경망의 암흑기를 거치고 non-linear function과 Deep layer를 이용하여 딥러닝이란 이름으로 다시 유명세를 타는 인공신경망은 이제 XOR 문제를 푸는 것은 기본이고 여러가지 분야에 응용이 되고 있다. 딥러닝을 공부하기에 앞서 한때 […]

Stochastic Gradient Descent, SGD

Deep learning – Ian goodfellow 를 정리하였습니다. SGD 거의 모든 딥러닝 기법은 stochastic gradient descent에 기반해 학습한다. 간단히 SGD라고 하는 이 방법은 Gradient descent의 확장판으로 생각할 수 있다. 기계학습, 딥러닝은 대량의 데이터를 필수로 한다. 하지만 데이터가 많아질수록 학습에 필요한 계산량도 늘어나게 된다. 물론 그렇다고 빠른 학습을 위해 데이터를 줄이지는 않는다. 데이터는 많을수록 좋은 것이고 학습에 […]