본문 바로가기
728x90

DIY Data Science/MLDL2

[Deep Learning][Deep Learning from Scratch] 신경망 사이토 고키, 「밑바닥부터 시작하는 딥러닝」, 개앞맵시, 한빛미디어, Chapter 3의 내용을 정리하고 공부한 페이지입니다. 신경망 신경망은 가중치 매개변수의 적절한 값을 데이터로부터 자동으로 학습할 수 있는 능력을 가진다. 위의 모형과 같이 기본적으로 입력층(0층), 은닉층(1층), 출력층(2층)의 구조로 구성된다. 활성화 함수 활성화 함수는 입력 신호의 총합이 활성화를 일으키는지를 정하는 역할을 한다. 편향을 1이라고 했을 때, 오른쪽의 그림(활성 함수 처리 과정)을 보면 가중치와 입력 신호를 조합하여 a라는 결과가 된다. 이를 활성화 함수 h( )에 통과시켜 y라는 노드로 변환되는 과정이다. 계단 함수 (Step Function) 일반적으로 활성화 함수는 임계 값을 넘으면 1을 변환하고 넘지 않으.. 2021. 7. 26.
[Deep Learning][Deep Learning for Scratch] 퍼셉트론(Perceptron) 사이토 고키, 「밑바닥부터 시작하는 딥러닝」, 개앞맵시, 한빛미디어, Chapter 2의 내용을 정리하고 공부한 페이지입니다. 퍼셉트론(Perceptron) - 다수의 신호를 받아 하나의 신호를 출력한다. - 흐른다 / 흐르지 않는다 두 가지 값을 가질 수 있다. (1 또는 0) - 신경망의 기원이 되는 알고리즘이다. 입력 신호가 뉴런에 보내질 때 각각 고유한 가중치가 곱해진다. 뉴런에서 보내온 신호의 총합이 정해진 한계를 넘어설 때만 1을 출력하고, 그 한계를 임계값(θ)라고 한다. → 가중치가 클수록 해당 신호가 더 중요하다는 뜻이다. θ를 -b로 치환하여 식을 작성하면, 오른쪽 수식과 같다. 이때, b는 편향이라고 하고 가중치를 곱한 값과 편향을 합하여 0을 넘으면 1을 출력하고 그렇지 않으면 0을.. 2021. 7. 26.
반응형