[pytorch zero to all 강의 내용 정리] 2강 Linear Model - 선형 모델

 

캡스톤 주제가 LLM을 이용한 검색 엔진 제작으로 좁혀지면서 파이토치 스터디를 겨울방학동안 시작했습니다. 

교수님께서 공유해주신 pytorch zero to all 강의를 수강하면서 정리한 내용을 공유하고자 합니다. 

수학적인 내용과 원리에 대해서는 간단히 정리하고 강의의 숲을 보는 주제위주로 정리한 부분이니 저처럼 파이토치에 제로베이스였던 분들께서는 한번 읽고 파이토치 스터디를 시작하시는게 도움이 될 것 같습니다. 

13강까지 내용을 전부 올리고 이후 추가적인 스터디를 진행할때마다 시간을 내어 공부 내용을 정리하고자 합니다. 

---

강의 목표 : 파이토치의 선형 모델 개념을 이야기하고 지도 머신러닝에서 선형 모델이 사용되는 방법과 모델학습 및 평가 과정을 설명한다.  또한 손실 계산과 평균제곱오차(MSE)를 사용하여 손실을 최소화 해본다.  또한 파이썬에서 선형 모델을 구현하는 예시를 보며 모델의 자동 최적화를 위한 경사 하강개념을 소개한다.

- [1] 🔍 Linear models are commonly used in machine learning for predicting outputs based on inputs. They are particularly useful when there is a linear relationship between the variables. - [2] ➗ The loss function, specifically mean square error (MSE), is used to measure the difference between the predicted outputs and the actual outputs. The goal is to minimize this loss to improve the accuracy of the model. - [3] 📈 Gradient descent is an optimization algorithm that iteratively adjusts the weights of the model to minimize the loss. It helps in automatically finding the best weight values that minimize the MSE. - [4] 🐍 Python provides a simple and efficient way to implement linear models and compute the loss. By defining the model as a function and using basic mathematical operations, the model can be easily programmed. - [5] 📉 Graphical visualization of the loss function helps in understanding the relationship between weight values and the corresponding loss. This visualization can guide the optimization process and identify the best weight value. - [6] 🔄 The process of finding the best weight value is crucial for machine learning models, especially when there are multiple parameters. Gradient descent offers an automated way to optimize the model and minimize the loss. - [7] 📚 Exercises and hands-on experience are essential for gaining a deeper understanding of linear models, loss calculation, and optimization techniques. Practicing with different datasets and computing the cost graph can enhance learning and problem-solving skills.

- [1] 🔍 선형 모델은 입력을 기반으로 출력을 예측하기 위해 기계 학습에서 일반적으로 사용된다. 변수 사이에 선형 관계가 있을때 특히나 유용하다.  - [2] ➗손실 함수, 특히 평균 제곱 오차(MSE)는 예측 출력과 실제 출 간의 차이를 측정하는데 사용된다. 목표는 이러한 손실을 최소화하여 모델의 정확도를 높이는 것이다.  - [3] 📈 gradient descent-경사 하강법은 손실을 최소화하기 위해 모델의 가중치를 반복적으로 조정하는 최적화 알고리즘이다. 이는 MSE를 최소화하는 최상의 중량값을 자동으로 찾는데 도움이 된다.  - [4] 🐍 파이썬은 선형 모델을 구현하고 손실을 계산하는 간단하고 효율적인 방법을 제공한다. 모델을 함수로 정의하고 기본적인 수학적 연산을 사용하면 모델을 쉽게 프로그래밍 할 수 있다.  - [5] 📉 손실 함수의 그래픽 시각화는 가중치 값과 해당 손실 간의 관계를 이해하는데 도움이 된다. 이 시각화는 최적화 프로세스를 안내하고 최상의 가중치 값을 식별할 수 있다.  - [6] 🔄 최적의 가중치 값을 찾는 프로세스는 특히 여러 매개변수가 있는 경우 기계 학습 모델에 매우 중요하다.  경사하강법은 모델을 최적화하고 손실을 최소화하는 자동화된 방법을 제공한다.  - [7] 📚 선형 모델, 손실 계산 및 최적화 기술을 더 깊이 이해하려면 연습과 실습 경험이 필수적. 다양한 데이터셋으로 연습하고 비용 그래프를 계산하며 학습 및 문제 해결 기술을 향상시킬 수 있음.

https://youtu.be/l-Fe9Ekxxj4?feature=shared