NN basics - RNN
Sequential Data ํํ ๋ฒกํฐ์ ๋ฒกํฐ \(\boldsymbol{x} = (\boldsymbol{x}^{(1)}, \boldsymbol{x}^{(2)},\ldots ,\boldsymbol{x}^{(T)})^{T}\). ์ฌ์ ...
Sequential Data ํํ ๋ฒกํฐ์ ๋ฒกํฐ \(\boldsymbol{x} = (\boldsymbol{x}^{(1)}, \boldsymbol{x}^{(2)},\ldots ,\boldsymbol{x}^{(T)})^{T}\). ์ฌ์ ...
Objective Function Objective Funtion Vs. Loss Function(alias: Cost Function) โThe function we want to minimize or maximize is called the objective function, ...
Computer Visionโs Difficulties ๊ด์ ์ ๋ณํ๋ก ์ธํด ๊ฐ์ ๋์์ด๋ผ๋ ํฝ์ ๊ฐ์ด ๋ค๋ฆ. ๋ฐฐ๊ฒฝ๊ณผ ํผ์ฌ์ฒด์ ๊ตฌ๋ถ์ด ์ด๋ ค์. ์กฐ๋ช ์ ๋ฐ๋ฅธ ๋ณํ ๋์์ ๊ธฐํ์ ํํ ๊ฐ๋ ค์ง ํํ ๊ฐ์ ํด๋์ค์์์์ ๋ณํ๊ฐ ํผ
ํผ์ ํธ๋ก ํผ์ ํธ๋ก ์ ๋์ ๋ด์ ์ ์ํ ์ ํ๊ณผ ํ์ฑํจ์์ ์ํ ๋น์ ํ์ ์ํด ์๋ฏธ๋ฅผ ๊ตฌ๋ถ. ๊ฒฐ๊ตญ์ ๊ณต๊ฐ์ ๋ถํ ์ ๋ง๋ ๋ค. ์ ํ๋์์์ w๋ผ๋ ๊ฐ์ค์น์ input์ ๋ด์ ํ๊ณ w์ projectionํ์๋, ๊ทธ ๊ฐ์ด 0์ด๋ฉด ์ง๊ตํ๋ ๊ฒ์ด๊ณ , 0์ ๊ธฐ์ค์ผ๋ก ๋น์ ํ์ ์์๋ก +1, -1๋ก ...
To do ํธ๋ฏธ๋ถ (partial derivative)
To do Gradient Boost XGBoost