Wooks_learning

원래는 이번 글에서 Activation function에 대해 작성하려 했는데 그전에 먼저 선형이란 무엇인가를 알아봐야 할 것 같다. 1) 선형이란? 위와 같은 데이터가 주어졌을 때 데이터에 가장 잘 fit한 모델은 무엇일까?라고 한다면 $$y=x$$ 라고 대부분 대답할 것이다. 위의 모델은 선형일까?라고 묻는다면 당연히 선형이라고 할 것 이다. 그렇다면 다시, 위와 같은 데이터가 주어졌을 때 데이터에 가장 fit한 모델은 무엇일까?라고 한다면 $$ax^2+bx+c$$라고 할 수 있을 것이다. 위의 모델이 선형일까를 다시 묻는다면 뭐라고 대답할까? 대부분의 사람이 비선형이라고 대답할 것이다. 하지만 질문에 대답은 선형이다!라고 해야한다. 그렇다면 왜 위의 모델은 선형 모델일까? 위의 모델이 선형인 이유는..