문돌이 존버/데이터 분석
2021. 8. 19.
핸즈온 머신러닝 2 복습하기(챕터10: 케라스를 사용한 인공 신경망 소개)
본 글에는 생물학적 뉴런에서 인공 뉴런까지의 소카테고리인 10.1.1 생물학적 뉴런, 10.1.2 뉴런을 사용한 논리 연산은 제외한다. 다만, 짚고 넘어갈 내용은 인공 신경망에서 활성화 함수(=비선형 함수)를 사용한다는 것이다. 딥러닝 탄생 자체가 세상의 여러 (비선형적) 문제를 해결하기 위함으로 은닉층을 거친 선형 함수($w_1x_1 + w_2x_2 + ... w_nx_b + b$)를 비선형화하는 것이 필요하다. 활성화 함수로 선형 함수를 쓰면 은닉층을 몇 번 쌓아도 결국 선형 함수가 만들어지게 된다. 활성화 함수는 본래 다음 은닉층에 신호를 전달할 것인지를 판단하는 역할을 수행하면서 특정 임곗값(threshold)을 넘은 뉴런의 신호만 전달한다(activate). 예를 들어, 활성화 함수 중 하나인 ..
