์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 |
- ์คํ์ ๋ฐฐ์ด ํธ์ํ๊ธฐ
- ์์ด๋ฆฌํฌ
- pytorch zero to all
- Til
- SQLD ๋ฒผ๋ฝ์น๊ธฐ
- ๋ ผ๋ฌธ์ด๋ก
- head()
- Bag-of-Words
- BoostCourse
- llm
- sqld
- Python
- ํ์ธํ๋ ๋ฉ๋ชจ๋ฆฌ ํด๊ฒฐ
- C++
- tail()
- ์์ฐ์ด ์ฒ๋ฆฌ์ ๋ชจ๋ ๊ฒ
- list
- ๋น์ ๊ณต์ ๋น ๋ถ๊ธฐ ํฉ๊ฒฉ
- AI
- Naive Bayes Classifier for Document Classification
- interpolate()
- Collection if
- ๋ฐ์ดํฐ ๊ฒฐ์ธก์น
- colab
- ์ฑ์งํผํฐ์ ์ ๋ฌด์๋ํ
- ๋ฐ์ดํฐ ์๊ฐํ
- ์์ฐ์ด ์ฒ๋ฆฌ ๊ธฐ๋ฒ
- inplace=True
- DeepSpeed
- sklearn.ensemble
- Today
- Total
๋ชฉ๋กpytorch zero to all (2)
hyerong's Dev_world๐ก

๊ฐ์ ์ฃผ์ : 3๊ฐ Gradient descendent - ๊ฒฝ์ฌ ํ๊ฐ๋ฒ ๊ฐ์ ๋ชฉํ : ๊ฒฝ์ฌํ๊ฐ๋ฒ ์๊ณ ๋ฆฌ์ฆ์ ๋ํด ์์๋ณด๊ณ ์์ค์ ์ต์ํํ๋ W๊ฐ์ ์ฐพ๋ ๊ณผ์ ๊ณผ ๋ฐฉ๋ฒ์ ์์๋ณธ๋ค. ๋ํ ๋ฐฉ์ ์์ ์ฌ์ฉํ์ฌ ๊ฐ์ค์น๋ฅผ ์ ๋ฐ์ดํธํ๊ณ ๊ธฐ์ธ๊ธฐ๋ฅผ ๊ณ์ฐํ๋ ๋ฐฉ๋ฒ์ ๋ํด ์ด์ผ๊ธฐํ๋ค. - ๐ฏ The goal of training or learning in machine learning is to find the optimal value of W that minimizes the loss function. - ๐งญ The gradient descent algorithm provides a systematic way to identify the optimal value of W by iteratively updating the w..

์บก์คํค ์ฃผ์ ๊ฐ LLM์ ์ด์ฉํ ๊ฒ์ ์์ง ์ ์์ผ๋ก ์ขํ์ง๋ฉด์ ํ์ดํ ์น ์คํฐ๋๋ฅผ ๊ฒจ์ธ๋ฐฉํ๋์ ์์ํ์ต๋๋ค. ๊ต์๋๊ป์ ๊ณต์ ํด์ฃผ์ pytorch zero to all ๊ฐ์๋ฅผ ์๊ฐํ๋ฉด์ ์ ๋ฆฌํ ๋ด์ฉ์ ๊ณต์ ํ๊ณ ์ ํฉ๋๋ค. ์ํ์ ์ธ ๋ด์ฉ๊ณผ ์๋ฆฌ์ ๋ํด์๋ ๊ฐ๋จํ ์ ๋ฆฌํ๊ณ ๊ฐ์์ ์ฒ์ ๋ณด๋ ์ฃผ์ ์์ฃผ๋ก ์ ๋ฆฌํ ๋ถ๋ถ์ด๋ ์ ์ฒ๋ผ ํ์ดํ ์น์ ์ ๋ก๋ฒ ์ด์ค์๋ ๋ถ๋ค๊ป์๋ ํ๋ฒ ์ฝ๊ณ ํ์ดํ ์น ์คํฐ๋๋ฅผ ์์ํ์๋๊ฒ ๋์์ด ๋ ๊ฒ ๊ฐ์ต๋๋ค. 13๊ฐ๊น์ง ๋ด์ฉ์ ์ ๋ถ ์ฌ๋ฆฌ๊ณ ์ดํ ์ถ๊ฐ์ ์ธ ์คํฐ๋๋ฅผ ์งํํ ๋๋ง๋ค ์๊ฐ์ ๋ด์ด ๊ณต๋ถ ๋ด์ฉ์ ์ ๋ฆฌํ๊ณ ์ ํฉ๋๋ค. ๊ฐ์ ๋ชฉํ : ํ์ดํ ์น์ ์ ํ ๋ชจ๋ธ ๊ฐ๋ ์ ์ด์ผ๊ธฐํ๊ณ ์ง๋ ๋จธ์ ๋ฌ๋์์ ์ ํ ๋ชจ๋ธ์ด ์ฌ์ฉ๋๋ ๋ฐฉ๋ฒ๊ณผ ๋ชจ๋ธํ์ต ๋ฐ ํ๊ฐ ๊ณผ์ ์ ์ค๋ช ํ๋ค. ๋ํ ์์ค ๊ณ์ฐ๊ณผ ํ๊ท ์ ๊ณฑ์ค์ฐจ(MSE)๋ฅผ ์ฌ์ฉํ์ฌ..