Motivations
- 신경망을 사용해야하는 이유는 무엇인가?
- 다음 지도학습 분류문제에 로지스틱 회귀를 적용했다.
- 두개의 피쳐에서만 잘 작동할 것이다.
- 하지만 회귀 문제가 아닌 주택 분류 문제의 경우 훨씬 많은 피쳐들이 필요하다.
- 이 경우 2차항의 수는 O(n*n) (*사실 n^2/2에 가깝다)로 증가하고 너무 오랜 시간이 걸린다. (n=피쳐의 수) -> 과적합 발생.
- 따라서 n(피쳐)이 클때 비선형적 분류를 위해 피쳐를 추가하는 것은 좋지 않다.
- 많은 머신러닝 문제에서 n은 매우 크다.
- 예를 들어 자동차를 구분하는 문제.
- 컴퓨터는 픽셀값을 보고 이미지를 판단한다.
- 첫번째로 우리가 해야할 일은 자동차와 자동차가 아닌것을 분류한다.
- 그리고 동일한 위치의 밝기를 비교한다.
- 자동차를 +, 자동차가 아닌 것을 -로 놓고 좌표에 표시하면 서로 다른 영역에 위치하는 것을 알게될 것이다.
- 결론 : 겁나 많은 피쳐가 필요하다.
- 신경망은 아주 오래된 알고리즘이며 뇌를 모방하기 위한 목적이었다.
- 1980년대과 1990년대에 잠깐 유행하다가 최근에 컴퓨터 성능이 좋아지면서 다시 인기를 끌고있다.(계산하는데 큰 비용이 드는 알고리즘이기 때문)
- 다양한 분야에 사용되는 최고의 기술이다.
- 뇌는 촉각을 차단하고 시각 자료만 받아들인다면 그것을 학습하여 알고리즘을 만들수있다.
- 실제사례 : 혀에 전극을 연결하여 보는법을 배운 시각장애인, 소리를 통해 앞을 볼수있게된 눈이없는 아이, 개구리에게 제 3의눈을 연결하여 그 눈의사용법을 터득한 경우 등등
- 센서를 뇌에 연결하고 뇌의 학습 알고리즘이 해당 데이터를 학습하여 데이터를 처리하는 방법을 알게된다. -> 이걸 컴퓨터 알고리즘으로 구현한다면 대박.