- Today
- Total
๋ชฉ๋กํ์ฑํํจ์ (2)
DATA101
๐ ๋ชฉ์ฐจ 1. ํ์ฑํ ํจ์์ ๊ฐ๋ 2. ํ์ฑํ ํจ์์ ์ข ๋ฅ 2.1. Sign ํจ์ 2.2. Sigmoid ํจ์ 2.3. Tanh ํจ์ 2.4. Softmax ํจ์ 2.5. ReLU ํจ์ 2.6. Leaky ReLU ํจ์ 1. ํ์ฑํ ํจ์์ ๊ฐ๋ ํ์ฑํ ํจ์(Activation Function)๋ ํผ์ ํธ๋ก (Perceptron)์ ์ถ๋ ฅ๊ฐ์ ๊ฒฐ์ ํ๋ ๋น์ ํ(non-linear) ํจ์์ ๋๋ค. ์ฆ, ํ์ฑํ ํจ์๋ ํผ์ ํธ๋ก ์์ ์ ๋ ฅ๊ฐ์ ์ดํฉ์ ์ถ๋ ฅํ ์ง ๋ง์ง ๊ฒฐ์ ํ๊ณ , ์ถ๋ ฅํ๋ค๋ฉด ์ด๋ค ๊ฐ์ผ๋ก ๋ณํํ์ฌ ์ถ๋ ฅํ ์ง ๊ฒฐ์ ํ๋ ํจ์์ ๋๋ค. ํผ์ ํธ๋ก ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์ด๊ณณ์ ์ฐธ๊ณ ํด ์ฃผ์ธ์. ์๋ ๊ทธ๋ฆผ 1์ ๋ ธ๋์์ผ๋ก ์์น ํ ๋ถ๋ถ์ด ํผ์ ํธ๋ก ์ ํ์ฑํ ํจ์ ๋ถ๋ถ์ ๋๋ค. 2. ํ์ฑํ ํจ์์ ์ข ๋ฅ 2.1. Sign ํจ์ ์์ ํผ์ ..
๋ณธ ํฌ์คํ ์์๋ ์ธ๊ณต์ ๊ฒฝ๋ง์ ์ด๊ธฐ ํํ์ด์ ๊ตฌ์ฑ ์์์ธ ํผ์ ํธ๋ก (Perceptron)์ ๊ฐ๋ ์ ๋ํด ์์๋ด ๋๋ค.๐ ๋ชฉ์ฐจ1. ํผ์ ํธ๋ก ๊ฐ์ 2. ์๋ฌผํ ๋ด๋ฐ์ ์ญํ ๊ณผ ๋์๊ณผ์ 3. ํผ์ ํธ๋ก ์ ์ญํ ๊ณผ ๋์๊ณผ์ 4. ํผ์ ํธ๋ก ์ ์ข ๋ฅ 4.1. ๋จ์ธต ํผ์ ํธ๋ก 4.2. ๋ค์ธต ํผ์ ํธ๋ก 1. ํผ์ ํธ๋ก (Perceptron) ๊ฐ์ํผ์ ํธ๋ก (Perceptron)์ ์ธ๊ณต ์ ๊ฒฝ๋ง(Aritificial Neural Network, ANN)์ ๊ตฌ์ฑ ์์(unit)๋ก์ ๋ค์์ ๊ฐ์ ์ ๋ ฅ๋ฐ์ ํ๋์ ๊ฐ์ผ๋ก ์ถ๋ ฅํ๋ ์๊ณ ๋ฆฌ์ฆ์ ๋๋ค. Perceptron์ perception๊ณผ neuron์ ํฉ์ฑ์ด์ด๋ฉฐ ์ธ๊ณต ๋ด๋ฐ์ด๋ผ๊ณ ๋ ๋ถ๋ฆ ๋๋ค. ์ฆ, ํผ์ ํธ๋ก ์ ์๋ฌผํ์ ์ธ ์ ๊ฒฝ๊ณ(Neual Network)์ ๊ธฐ๋ณธ ๋จ์์ธ ์ ๊ฒฝ์ธํฌ(=๋ด๋ฐ)์ ๋์..