코딩을 공부하기 시작한 후 5일차가 되는 오늘, 앞으로의 계획을 구체적인 11단계로 나누었다. 계획은 어떤 공부를 어떤 웹사이트에서 어떤 선생님께 듣고 어떻게 Kaggle에서 승부수를 볼 것인지에 대한 일련의 과정들이다. 그러나 이런 계획보다 더 중요한 것은 10,000시간의 법칙이다. 코딩 작업을 하면 지루할 때 자꾸 책상에서 일어나게 된다. 시작한지 5일밖에 안됬는데 벌써 물린다. 그래서 Clockify라는 어플을 깔았다.(꿀팁) 어플을 깔고 내가 컴퓨터에 앉기 시작한 순간부터 버튼을 눌러서 시간을 재고, 컴퓨터를 떠날때 다시 중지 버튼을 눌러서 하루종일 내가 컴퓨터 앞에서 쓴 시간을 기록한다. 이번주는 4일 반동안 45시간 정도를 공부했다. 이 속도면 2~3년 지나면 10,000시간을 달성할 수 있..

머신러닝을 공부하기 시작(22년 12월 26일)하고 매일 14시간씩 공부해서 5일째 되는 오늘 첫 Paper아닌 Paper를 구현해냈다. 공부는 Andrew Ng의 Coursera수업, Angela Yu의 Udemy, 100 Days of Code 수업, 그리고 유튜브에서 Tech With Tim 채널을 보고 Linear Regression 모델을 만들어내는데 성공했다. 5일동안 Coursera는 2주치를 공부했고 Udemy 수업은 23일치를 공부했다. 그렇게나 열심히 이론 공부를 했는데 막상 코딩은 3줄로 완성된다. linear = linear_model.LinearRegression() linear.fit(x_train, y_train) acc = linear.score(x_test, y_test) ..

Gradient Descent는 머신러닝의 다양한 방면에 사용된다. 기본적으로 어떤 함수의 결과값을 최소화 하는데 쓰이는데 만약 사람이 언덕의 가장 높은 곳에 서서 360도를 돌고 가장 빠르게 낮아질 수 있는 방향으로 한 걸음 가고, 그 도착한 지점에서 같은 상황을 계속 반복하면 반드시 local minima에 도착하게 된다. Local minima란 그 주변에서 가장 낮은 지점을 뜻한다. 하지만 그 거대한 언덕에 또 다른 지점에서 출발했다면 다른 local minima에 도착했을 수도 있지 아닌가? 그래서 진정한 minimum을 찾는 데에는 추가적인 장치가 필요하다.

코딩 중에 a = a + 1이라는 표현이 있다면 이것은 Assignment에 해당이 된다. 왼쪽 a에 값을 저장하라는 뜻이 된다. 그러나 수학에서는 a = a + 1이라는 표현이 성립될 수 없다. 수학에서는 =이 Truth Assertion에 해당되기 때문이다. 코딩 중에 Truth Assertion을 하려고 할때(주로 if 안에서)는 =를 두 번 써주면 된다. a == c 이상으로 =와 ==의 차이에 대해 알아보았다.

이 포스트는 진행형입니다. Densely Connected Convolutional Networks에 대한 기초적인 이해 1. 2016년에 발표된 이 논문에 의하면 과거 방식들은 정보 손실이 컸다. 이 논문의 방식에 의하면 이 손실을 줄임과 동시에 퍼포먼스를 늘릴 수 있다. 2. 레이어 수는 n(n+1)/2가 되는데 이것은 첫 레이어는 n+1개의 화살표, 두번째 레이어는 n개의 화살표, 세번째는 n-1개의 화살표 등등등으로 감소하기 때문에 1부터 n+1까지의 총합에 해당하는 공식인 n(n+1)/2으로 표현될 수 있다.

다음은 시험을 본 사람의 40%가 틀린 질문이다. fw,b​(x)=wx+b로 표현된 linear regression 에서 컴퓨터에게 입력되는 feature, 또는 input에 해당되는 값은? a. x b. (x, y) 정답은 x이다. 물론 컴퓨터에 x와 y 값을 모두 넣는 것은 사실이지만, 위 linear regression은 값을 예측하는 함수이고 예측에 필요한 인풋은 x 뿐이다. y는 필요없다. 물론 y 값이 모델을 만들때 사용되지만, 모델이 완성된 후 y는 입력되지 않는다. ŷ은 결과값이지, 입력값이 아니다.