hyerong's Dev_world🎡

원글 : https://arstechnica.com/ai/2024/11/what-if-ai-doesnt-just-keep-getting-better-forever/ 

인공지능의 발전은 어디까지일까? 

본 아티클에서는 AI의 발전이 한계에 부딪히고 있다는 말을 전한다. 

OpenAI의 차기 모델이 이전 모델에 비해 성능향상이 크지 않다는 내부 보고가 등장하면서 AI 기술이 이미 플래토에 도달했다는 것이다.

1. 서론 📈 AI의 발전 한계 가능성

• AI모델의 성장은 빠르게 진행되고 있으나, 최근에는 이러한 성장이 지속될 수 있는지에 대한 우려가 증가하고 있다. 
• 특히, 기존 방법으로 훈련된 대규모 언어 모델의 능력이 이미 한계에 도달했을 가능성이 제기되고 있다. 

2. 🤖 AI 발전의 한계와 미래

• Open AI의 다음 모델인 Orion은 GPT-3와 GPT-4사이의 성능 차이에 비해 더 작은 성능 향상을 보이고 있다. 
• 일부 작업에서 Orion은 이전 모델보다 안정적으로 우수하지 않다는 연구자들의 지적이 있다. 
• Open AI의 공동 창립자 이리야 수츠케버는 LLM이 전통적인 사전 훈련에서 한계를 겪고 있다고 우려를 나타내었다.
• 그는 더 이상 컴퓨팅 리소스나 훈련 데이터를 추가하는 것으로는 성과를 기대하기 어려운 시점에 있다고 강조하였다.

2.1. AI 발전 속도의 둔화에 대한 우려

• Open AI내부에서는 AI기술의 발전 속도가 저하되고 있다는 우려가 증가하고 있다.
• 이는 최근의 Weekend Report에서 효과적으로 요약되었으며, 내부자의 목소리를 반영하고 있다. 

2.2. AI 모델의 성과 감소

• Open AI의 다음 모델인 Orion은 GPT-3와 GPT-4사이에서 경험한 성과 향상보다 작은 성과 향상을 보여주고 있다.
• 일부 작업에서는 새로운 모델이 이전 모델보다 신뢰할 수 있게 개선되지 않았다는 연구자들의 의견이 있다.

2.3. AI의 발전 한계에 대한 우려

• Open AI의 공동 창립자인 일야 수츠케버는 LLM이 기존의 사전 훈련 방식에서 발전의 한계에 도달했다고 주장한다.
• 그는 2010년대가 "스케일링의 시대"였다고 설명하며, 컴퓨팅 자원과 훈련 데이터를 추가하면 모델 개선이 가능했다고 언급했다. 

2.4. AI의 다음 단계

• 현재 우리는 경이로움과 발견의 시대에 다시 돌아왔다. 
• 모든 이가 다음 혁신을 찾고 있으며, 적절한 방향으로의 확장이 그 어느 때보다 중요하다.

3. 결론 📉 AI 발전의 한계 요소

• 새로운 대규모 언어 모델(LLM)을 훈련시키기 위한 양질의 텍스트 데이터부족이 주요 문제로 지적된다.
• 모델 제작자들은 이미 인터넷과 출판된 서적에서 이용 가능한 텍스트의 가장 쉬운 부분을 다 채취했을 가능성이 있다.

딥스피드(DeepSpeed)는 마이크로소프트에서 발표한 딥러닝을 위한 라이브러리다. 

오피셜 개발 깃허브에서는 한번의 클릭으로 챗지피티와 유사한 모델 교육을 지원해 모든 규모에서 큰 비용 절감으로 SOTA RLHF 시스템보다 15배 빠른 속도를 제공한다고 말한다. 

gpu 메모리와 연산 자원을 효율적으로 사용하면서 큰 언어모델 훈련과 배포에 용이하다! 

DeepSpeed는 모델 병렬화, 혼합 정밀도 훈련, ZeRO(Zero Redundancy Optimizer) 기술을 제공하여 메모리 사용량을 줄이고 훈련 속도를 높인다고 한다. 

속도를 높이는 방법 하나하나에 대해 좀 더 자세히 알아보자.

• ZeRO 최적화:
  • 모델 파라미터, 옵티마이저 상태, 그래디언트를 분산하여 GPU 메모리 사용을 최소화하고 큰 모델을 훈련할 수 있도록 돕습니다. ZeRO는 Stage 1, Stage 2, Stage 3로 나뉘며, 각 단계는 점차적으로 더 많은 메모리 최적화를 제공합니다.
• 모델 병렬화:
  • 모델을 여러 GPU에 분산하여 훈련하며, 파이프라인 병렬화 및 텐서 병렬화를 지원하여 훈련 효율성을 높입니다.
• 혼합 정밀도 훈련 (Mixed Precision Training):
  • fp16 또는 bf16과 같은 낮은 정밀도의 부동 소수점 연산을 사용하여 훈련 속도를 높이고 메모리 사용량을 줄입니다.
• 심화된 데이터 병렬화:
  • 큰 배치 크기를 여러 GPU에 분산하여 데이터 병렬 훈련을 지원하며, 훈련 시간을 단축합니다.
• Offload 기술:
  • CPU 또는 NVMe에 데이터를 부분적으로 오프로드하여 GPU 메모리를 효율적으로 관리합니다.

- 딥스크린 라이브러리 설치 방법

pip install deepspeed

- 기본 사용 예기 

PyTorch와 함께 DeepSpeed를 사용하려면 deepspeed.initialize 함수를 통해 설정 파일을 로드하고 모델을 초기화해야 합니다.

1. DeepSpeed 설정 파일 생성:

ds_config.json 파일을 생성하여 ZeRO, 혼합 정밀도 등의 설정을 지정합니다.

{
  "train_batch_size": 8, 
  
  #혼합 정밀도
  "fp16": {
    "enabled": true
  },
  
  #zero 
  "zero_optimization": {
    "stage": 2
  }
}

2. 모델 초기화 코드:

PyTorch 모델을 DeepSpeed로 초기화하려면 다음과 같이 설정 파일을 로드하고 deepspeed.initialize 함수를 사용합니다.

import deepspeed
import torch
import torch.nn as nn

class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        self.layer = nn.Linear(768, 10)

    def forward(self, x):
        return self.layer(x)

# 설정 파일 경로
ds_config = "ds_config.json"

# 모델 및 DeepSpeed 초기화
model = MyModel()
model_engine, optimizer, _, _ = deepspeed.initialize(config=ds_config, model=model, model_parameters=model.parameters())

# 훈련 루프
for batch in data_loader:
    outputs = model_engine(batch)
    loss = loss_fn(outputs, labels)
    model_engine.backward(loss)
    model_engine.step()

📌 딥스크린에 더 알아보기에 좋은 유튜브 강의 🔍

https://www.youtube.com/watch?v=g_O3O4ExaUY 

LLM 파인튜닝을 하면서 큰 걸림돌이 메모리 이슈였는데 (cuda memory out) 다음 파인튜닝시에 딥스크린을 적용해서 훈련시켜봐야겠다. 

이번 글에서 설명할 내용은 다음과 같다. 

1. 랜덤포레스트 개념 

2. 랜덤포레스트 선언

3. RFR 모델 사용 코드 - x,y변수 설정 코드 

4. 보너스) 평가 척도 mse 란? - 머신러닝 회귀모델 성능 평가 지표 

첫번재로 랜덤 포레스트란 map 머신 러닝 알고리즘이다. 정확성, 단순성 및 유연성으로 가장 많이 사용되는 알고리즘 중 하나이며, 분류 및 회귀 작업에 사용할 수 있다. 

여러 개의 의사결정나무(Decision Tree)를 만들어서 이 결정 트리들의 평균으로 예측의 성능을 높이는 방법이고 이러한 기법을 앙상블(Ensemble) 기법이라 한다. (주어진 하나의 데이터로부터 여러 개의 랜덤 데이터 set을 추출해 각 데이터set을 통해 여러 개 만들 수 있어서 많은 양의 표본집답이 생기니 예측 성능을 높일 수 있다.)

 -출처 : DACON 파이썬 튜토리얼 

두번째로 모델 선언 코드는 아래와 같다. 

from sklearn.ensemble import RandomForestRegressor

model = RandomForestRegressor()

먼저 sklearn.ensemble부터 해당 RFR모델을 import해야 한다. 

그 후, model변수로 선언한다. 

ps. 마찬가지로 랜덤 포레스트에 대한 더 자세한 내용은 아래 링크에 나와 있다. 

https://github.com/pyohamen/Im-Being-Data-Scientist/wiki/What-is-RandomForest%3F 

세번째로 위에서 model 변수 선언을 했다면, 이 모델은 어떻게 이용해 먹을 수 있을까 생각해보자. 

먼저 모델에 들어갈 x변수와 y변수를 생각한다. 

x변수는 데이터 예측시 사용할 변수이고, y 변수는 예측 결과 변수가 된다. 

보통 예측 결과로 나올 y변수에 해당하는 column을 x변수 범위에서 제거한다. 

즉, 코드로 나타내면 다음과 같다. 

x_df = df.drop(['df에서 제외할 column name'], axis = 1) 

y_df = df['df에서 인덱싱 할 column name'] 

빨간 표시로 되어있는 부분은 동일한 column을 지칭한다고 생각하면 된다.

사실 따지고 보면 df(데이터 객체) 자체에서 제외하고 인덱싱할 것은 아니다. 우리는 이미 새로운 변수 x_df와 y_df에 할당하는 것이기 때문에 df는 df대로 여전히 변함없이 존재한다.

그러나 이해를 돕기 위해 df에서 내가 모델링에서 제외할 column, df에서 내가 인덱싱할 column이라고 이해하기 위해 위와 같이 작성하였다. 

x_df와 y_df라고 이름 지은 이유는 보통 모델링하고자 하는 객체를 각 변수x,y뒤에 붙여서 알기 쉽게 이름 짓기 때문이다. 

이렇게 모델링 과정에서 x와 y의 변수에 대해 설정했다면 모델링 평가 지표에 대해 알아본다. 

보너스, 모델링 평가 지표 

내가 참고하고 있는 DACON 파이썬 튜토리얼에서는 평가지표로 RMSE를 보여준다. 

RMSE는 MSE 평가지표에 루트를 씌운 것으로 RFR 모델을 선언할 때 criterion = 'mse'옵션으로 구현할 수 있다. 

model = RandomForestRegressor(criterion = 'mse')

지금까지 정리한 내용을 코드로 정리하면 다음과 같다. 

ps. 머신러닝 평가지표에 대한 보너스 내용은 길어져서 다음 글 확인! 

파이썬을 통해 데이터를 전처리하는 과정에서 데이터 결측치(missing data)를 만났을때 해결방법 2가지를 소개한다.

첫번째는 결측치에 대해 데이터의 평균값으로 메꾸는 방법

두번재는 보간법을 사용하는 방법이다.

먼저 결측치의 개념을 다시 짚어보자면 missing data 즉, 잃어버린 데이터, 데이터가 담긴 표에서,

행에 대해 데이터 값을 넣는 열이 비어있다고 생각하면 된다.

예를 들어, 학생들의 학번이라는 행에서 특정 학생의 학번 칸이 비어져 있다고 생각하면 된다.

위 표에서는 심청이의 학번에서 데이터 missing이 발생한다.

이런 빈 데이터가 있을가봐 데이터 전처리 과정을 거치는 것이다.

프로그래머는 이런 빈 데이터를 융통성 있게 메꿔줘야하는데, 오늘 소개할 방법 중 첫번째로 평균값으로 메꾸기를 살펴보자.

평균값을 찾는 함수 mean()과 데이터 결측치가 일어나는지 확인하는 fillna(

어쩌고

, inplace=True)만 알면 된다.

풀코드는 아래와 같다

df.fillna({'Column name' : int(df[Column name'].mean()}, inplace=True)

코드를 해석하자면 df는 데이터프레임으로 데이터가 담겨있는 객체(데이터 객체)

fillna함수는 fill null arg라고 생각하면 바로 이해가 간다, null을 내가 지정한 arg로 채워라!

Column name은 missing data가 발생하는 행의 이름 

int(df[Column name'].mean()부분은 데이터 객체가 일단 당연히 배열로 표현할 수 있고(데이터 안에 다양한 행이 있을테니)

그 배열중 내가 채우고자 하는 행의 이름을 찾아서 그 행의 평균(-mean함수 사용)으로 바꾸고 그 값을 정수(-int함수 사용)로 형변환을 해준다는 뜻 

inplace=True는 데이터 결측치가 발생하는 것이 맞는지 확인하는 용도 

아이고 데이터 전처리 쉽다 쉬워!! 

두번째 방법은 데이터를 평균값이 아니라 좀더 융통성 있게 채우는 방법이다. 

일단 보간법의 의미부터 알고가자. 네이버 수학백과에서 설명하기를,,

보간법이란 알고 있는 데이터 값들을 이용하여 모르는 값을 추정하는 방법의 한 종류이다.

즉 우리가 시도한 첫번째 방법 평균값으로 채우기도 당연히 보간법 중 하나다. 

그런데, 왜 두번째 보간법을 따로 설명하느냐, 그 이유는 빈 데이터에 대해서 어떤 방식을 통해 어떻게 데이터를 넣을지는 프로그래머의 결정에 달렸기 때문이다. 채우고자 하는 데이터가 시간 데이터인지 날짜 데이터인지 온도 데이터인지 속도 데이터인지 성적 데이터에 따라 이 각각의 데이터들을 채우는 방식이 다 다르다! 무조건 평균값으로 채우는게 정답이 아니라는 말. 

이제 보간법의 예제를 살펴보자.

결측치를 처리해야하는 데이터가 기상 정보라고 하자, 이때 데이터의 순서는 시간 순서다. 

ex.

따라서, 결측치에 대해서는 직전 시간과 직후시간의 평균값으로 보간하는 것이 합리적일 것이다. 

오늘 사용할 아래의 코드는 존재하는 앞의 값과 존재하는 뒤의 값 사이의 빈 값을 조금씩 변화시켜가며 채워가는 방식이다.

다른 코드 필요없이 본 코드만 사용하면 되고, 보간법 이후 null 유무 결과를 확인하고 싶다면 그 아래 print문을 통해 확인할 수 있다. 

df.interpolate(inplace=True)

print(df.isnull().sum())

다양한 보간법에 대해 더 많이 알고싶다면 아래 블로그 사이트에 잘 정리되어 있어서 추천한다! 

https://rfriend.tistory.com/264 

파이썬으로 데이터를 읽어올때 주로 colab을 사용하는 편이다.

웹이라 접근성도 편하고 끄고 키기 편하고 가벼운 느낌.

1. read_csv 

엑셀이나 다양한 데이터를 가져올때 read_csv를 사용하여 가져온다

먼저 import로 판다랑 인사하면 데이터 받을 객체에 read_csv('파일 이름.확장자')를 대입해주면된다.

2. 데이터 결측치 확인 

데이터를 받으면 데이터 결측치를 확인해야한다는 말이 있다. 데이터가 빈게 있는지 없는지 알아보는 것이다. 

계란 한판 사기전 30개가 다 있는지 확인하는 느낌이랄까? 

영어로 Missing Value라고 한다. 줄여서 NA라고도 하는데 null이라고 생각하면 쉽다. 

판다는 NaN이라고 부른다. 메서드도 쉽게 기억할 수 있다. isnull()이다.

문자 그대로 is null?이냐고 묻기 때문에 리턴값이 true면 NaN, false는 그 반대다. 

3. head() , tail()

데이터에서 시작 5개(0~4), 끝에서 5개를 보여준다. 개인적으로는 tail을 이용하면 마지막 항목이 포함되니까 몇개인지 확인하기 더 쉬운 것 같다. 

4. shape

그러나 개수 외에도 행과 열의 수를 바로 알고 싶다면 .shape를 통해 알수있다.

5. info()

데이터의 Column과 null 유무, 데이터 타입을 한번에 보여주는 메서드다.