밑바닥부터 시작하는 딥러닝 1 정리
활성화 함수: 입력 신호의 총합을 출력 신호로 변환하는 함수를 일반적으로 활성화 함수(activation function)라 한다. "활성화"라는 이름이 말해주듯 활섬화 함수는 입력 신호의 총합이 활성화를 일으키는지 정하는 역할을 한다. 신경망은 분류와 회귀 모두 이용할 수 있다. 다만 둘 중 어떤 문제냐에 따라 출력층에서 사용하는 활성화 함수가 달라진다. 일반적으로 회귀에는 항등 함수를, 분류에는 소프트맥스 함수를 사용한다. # 분류: 데이터가 어느 클래스에 속하냐는 문제 # 회귀: 입력 데이터에서 (연속적인) 수치를 예측하는 문제 이 때, 소프트 맥수는 다음과 같다. 지수 함수를 사용하면 그 값이 매우 커져서 오버플로우가 발생할 수 있다. 이 때, 분모와 분자에 C를 곱하고 이 안에 집어넣어도 식이 ..
컴퓨터/딥러닝 공부
2021. 7. 2.
