ChatGPT란? GPT-4, GPT-3, GPT-3.5 와의 차이

📢 들어가며

요즘 IT에 관심이 없는 사람이라도 한번씩은 챗GPT 라는 말을 들어봤을 것이다.
챗GPT와 채팅을 하는 컨텐츠를 제작하는 유튜버도 보이고, 뉴스에서도 자주 언급되고 있다.
대충 챗(Chat) 이라는 말이 들어가는 걸 보면 채팅을 하는 어떤 것이라고 추측할 수 있는데,
챗Gpt 는 정확히 어떤 걸 의미하는 걸까?
이번 포스팅에선 요즘 핫한 챗GPT 에 대해 알아본다.

 

매일 쏟아져나오는 챗GPT 관련 기사

🧠 ChatGPT 란?

ChatGPT 는 AI 기술로 구동되는 자연어 처리 도구이다.
자연어, 즉, 우리가 일상 속에서 사용하는 언어를 말한다.

쉽게 얘기하자면,
일상 속 언어를 구사할 수 있는 AI(인공지능)을 ChatGPT 라고 한다.

🧠 ChatGPT 사용법

https://openai.com/blog/chatgpt

위 ChatGPT 공식 홈페이지에서 Try ChatGPT 라는 버튼을 누르면 ChatGPT 를 사용해 볼 수 있다.
(아직은 연구단계이기 때문에 무료로 사용 가능하다.)
채팅을 나눌 수 있는 웹 화면이 보이고, 좌측엔 채팅 history 와 메뉴가 있다.

나도 챗GPT와 대화를 조금 나눠보았는데,
개인적으로 조금 더 많은 정보를 알려주는? 똑똑해진 심심이라고 느껴졌다. ㅋㅋ

🧠 ChatGPT 는 누가 만들었는가?

나는 이런 파급력이 센 어플리케이션을 보면 막연히 구글이 만들었겠거니 하는 경향이 있다. ㅋㅋ
이 ChatGPT 역시 구글이 만들었겠지? 했는데 아니었다!

ChatGPT는 AI 및 연구 회사인 OpenAI에서 만들어졌다.
OpenAI는 2022년 11월 30일에 ChatGPT를 출시했다. 

 

기업 명이 내겐 다소 생소했는데, 그럴만했다.
비교적 최근인 2015년에 설립되었고 인공지능 관련 제품만을 연구, 출시하고 있다.
공동창업자 중 한 사람이 그 유명한 일론 머스크이다.
참고로, 일론 머스크는 현재 OpenAI 를 떠난 상태이다. 

🧠  GPT 란?

ChatGPT 는 GPT 를 기반으로 동작한다.

대놓고 Chat + GPT 라고 명시되어 있다. 

이 GPT 란 대체 무엇일까?

 

GPT는 OpenAI에서 출시한 언어모델로, 자연어 처리 작업을 한다.
전이 학습 모델이라고도 한다.

 

Generative Pre-trained Transformer의 줄임말이다.
직역하면, 생성적 사전 학습 변환기 라는 뜻인데,
전혀 무슨 말인지 모르겠다.
차근차근 알아보자.

👄 언어모델이란?

GPT는 OpenAI에서 출시한 언어모델로, 자연어 처리 작업을 한다.
전이 학습 모델이라고도 한다.

 

언어모델이란,
문장 혹은 단어에 확률을 할당하여 컴퓨터가 처리할 수 있도록 하는 모델이다.

 

여기서 모델이란,
머신러닝에서 사용되는 용어로, "프로그램"이라는 뜻이다.
보통 인공지능 모델... 이런식으로 불리는데,
인공지능 프로그램 이라고 말하는 것과 같다.

즉, 언어모델은,
문장 혹은 단어에 확률을 할당하여 컴퓨터가 처리할 수 있도록 하는 프로그램이다.

 

좀 더 풀어서 설명하자면,
기존의 데이터셋을 바탕으로 주어진 태스크 안에서의 단어 혹은 문장을 예측하는 작업을 뜻한다.
이를 언어모델링이라고도 한다.

👄 자연어 처리 작업이란?

GPT는 OpenAI에서 출시한 언어모델로, 자연어 처리 작업을 한다.
전이 학습 모델이라고도 한다.

 

Natural Language Processing.
NLP 라고 불린다.

언어 모델이 단어나 문장을 예측하는 프로그램이란 것을 알았다. 
이 언어가 자연어이면, 즉, 일상 속에서 사용하는 언어이면 자연어 처리가 되는 것이다.

결론적으로, 일상 속에서 사용하는 단어나 문장을 예측하는 작업을 자연어 처리 작업이라고 한다.

👄 전이 학습 모델이란?

GPT는 OpenAI에서 출시한 언어모델로, 자연어 처리 작업을 한다.
전이 학습 모델이라고도 한다.

 

전이 학습(Transfer Learning)을 알아보기 전에, 학습이라는 용어에 대해 알아보자.

여기서 사용된 "학습"은 머신러닝에서 사용되는 용어이다.
학습은 컴퓨터가 스스로 데이터의 규칙을 찾는 기술을 의미한다.

학습은 머신러닝의 핵심 개념이기도 하다.

💡 머신(기계, 컴퓨터) + 러닝(학습)
기계(컴퓨터)가 학습(스스로 데이터의 규칙을 찾아내는)하는 기술

 

대체 컴퓨터가 어떻게 스스로 데이터를 찾는 다는 것일까?

보통의 경우 "어떠한 규칙과 일치하는 데이터를 찾아라~" 라는 명령을 개발자가 컴퓨터에게 코딩으로 지시한다.
하지만 머신러닝은 프로그래머가 어떤 규칙을 지정해주는 게 아니라, 컴퓨터가 규칙을 찾는 것이다.

 

예를 들어 살펴보자.
4월 17일의 예상 강수량이 궁금한 경우,
우리는 지난 날씨의 데이터를 보고 대충 4월 17일의 강수량이 어떨 지 예상할 수 있다.
비가 왔다 안왔다하는 어떤 패턴(규칙)을 찾는 것이다.
인간이 이 규칙을 찾기엔 데이터가 너무 방대하고 많기 때문에,
집계를 하고 패턴을 찾는데 실수가 있을 수도 있다.
그래서 이 과정을 컴퓨터에게 맡겨버린 기술이 바로 머신러닝이다.

즉, 프로그래머는 규칙을 지정하는게 아니라 컴퓨터가 어떤 규칙이나 패턴을 찾게 하는 코드를 구현하면 되는 것이다.
이 패턴이나 규칙을 찾는 과정을 알고리즘 이라고 한다.

💡 알고리즘
어떤 문제를 해결하기 위한 절차, 방법, 명령어

 

(참고로, 인공신경망 "알고리즘"을 사용한 방식을 바로 딥러닝이라고 한다.)

 

학습에 대해 알아보았으니,
전이 학습에 대해 알아보자.

 

전이 학습(Transfer Leaning)이란,
한 분야의 문제를 해결하기 위해서 얻은 지식과 정보를 다른 문제를 푸는데 사용하는 방식을 말한다.
아까 '학습'이 데이터 셋을 통해 어떠한 규칙을 찾는 기술이라고 했다. 

즉, 학습을 위해선 방대한 양의 데이터가 필요한데, 이를 한 언어모델이 처음부터 학습하려면 
비효율 적이기 때문에 이미 훈련된 모델의 일부를 가져와 새 모델에 재사용한 것을 의미한다. 

 

이 훈련된 모델은 Pre-training 된 모델을 의미한다. 

Pre-training 은 말 그대로 사전 훈련을 의미한다. 

사전에 데이터로 부터 학습을 한 모델을 뜻한다. 

 

💡 참고
데이터를 대량으로 사용하여 학습시킨 모델을 LLM(Large Language Model) 이라고 한다.

 

결론!

GPT 는 전이학습 모델이다.

즉, 사전에 훈련된(Pre-trained) 모델을 재사용(Transfer learning)하여 문제를 해결하는 모델이다.

 

Generative Pre-trained Transformer.

방대한 양의 데이터를 미리 학습하여 이른 자연어 문장으로 생성(Generative) 하는 변환기(모델) 이다.

 

참고로, 생성(Generative) 이라는 용어에 대해 부연 설명을 하자면
요즘 그림 그려주는 AI, 단어 조합으로 노래 만들어주는 AI 등 무언가 새로운 콘텐츠를
만들어내는 AI를 Generative AI 라고 한다.
ChatGPT 역시 자연어인 텍스트를 생성해내기 때문에 Gernerative AI 이다.

🧠 GPT 의 종류

GPT에도 여러 종류가 있다.
GPT-3, GPT-3.5, ChatGPT 정도로 추려볼 수 있는데,

각각 어떤 차이가 있는지 알아보자.

 

👄 ChatGPT

 

ChatGPT 공식 설명 문서에서 ChatGPT는 GPT-3.5의 Fine-Tuned 버전이라고 명시되어 있다. 

 

Fine-Tuned 란 무엇일까?

Fine-Tuned 란  학습 과정의 레이어 중 가장 끝단의 레이어를 변형하여 학습하는 것이다. 

여기서 레이어란 무엇일까?

 

레이어는 재사용할 수 있고 훈련 가능한 변수를 포함하는 수학적 구조를 가진 함수를 의미한다.

쉽게 얘기하자면 함수, 즉, 어떤 절차나 방법이라고 생각하면 된다.

 

예를 들어 ,

개와 고양이 사진을 구분할 수 있는 알고리즘이 있다. 

이 알고리즘 내엔 여러 레이어가 존재하고,

각 레이어는 크게

사진의 픽셀들을 그룹화하는 레이어,

윤곽을 인식하는 레이어,

어떤 동물인지 유추하는 레이어가 있을 것이다. 

이 알고리즘에서 개, 고양이 말고 병아리도 인식하고 싶을 때,

다른 레이어는 건드릴 필요 없이 끝단 레이어인어떤 동물인지 유추하는 레이어 부분만 살짝 변형시켜주면 될 것이다.

 

이를 학습 과정의 레이어 중 가장 끝단의 레이어를 변형하여 학습하는 Fine-Tuned 방식이다. 즉, ChatGPT 는 GPT-3.5의 끝단 레이어를 변형해서 학습시킨 모델인 것이다. 

 

👄 GPT-3.5

그렇다면 ChatGPT 의 기반이 된 GPT-3.5 는 무엇일까?

간단하다. GPT-3의 Fine-Tuned 모델이다. 

InstructGPT 라고도 부른다. (정확하게는 InstructGPT 의 확장된 버전이 GPT-3.5이다)

👄 GPT-3

ChatGPT, GPT-3.5의 기반이 된 이 GPT-3 은

text 입력에 대해 가장 알맞은 답변을 결과로 도출하는 모델이다.

text  기반 모델이기 때문에 그림을 그리거나 음성을 인식하지 못한다.  

 

그렇다면 왜 GPT-3 를 Fine-Tuned 해서 사용하게 된걸까?

 

바로 상황과 목적에 적합한 AI를 구현하기 위해서 이다.

text 기반이라고 해서 text가 모두 같은 것은 아니다.

text의 종류에는 code 도 있을 것이고, 우리가 얘기하는 자연어 일 수도 있을 것이다. 

 

GPT-3은 엄청난 크기의 학습데이터이지만 챗봇처럼 사용되기엔 느리고,

인간이 원하지 않는 결과(폭력적/선정적/자해/혐오/차별)를 도출해낼 수 있기 때문에 인간에 의한 강화학습이 필요했다.

이 학습을 RLHF(Rainforcement Learning from Human Feedback) 라고 부르는데, 이 기법으로 학습된 것이 GPT-3.5이다.

 

ChatGPT 도 RLHF 기법을 사용하여 GPT-3.5를 fine-tuned 한 모델이다. 

GPT-3.5 와 살짝 다른 점은 좀 더 인간 친화적인 대화를 할수 있다는 점이다.

'이렇게 말했으면 저렇게 대답하고, 그럼 또 그렇게 말하겠지?' 라고 생각하며 대답을 도출해낼 수 있도록 학습을 시켰다.

이 강화 학습 알고리즘은 PPO(Proximal Policy Optimization) 이라고 부른다. 

 

ChatGPT

실제로 대화 했을 때,

ChatGPT 는 부적절한 질문에 대해 아예 질문을 차단하는 모습을 보인다. 

 

👄 GPT-4

그리고 가장 최근인 2023년 3월에 GPT-4 가 출시되었다.

ChatGPT plus 에서 유료로 사용 가능하다. 

영어 회화 어플인 스픽이나 마이크로소프트의 제품(Bing Chat 등)에 탑재되어 있다. 

 

GPT-3.5 와 가장 큰 차이점은 이미지 입출력이 가능하다는 점이다. 

이미지를 인식할 수 있는데, 이미지 내의 텍스트 까지도 인식 가능하다고 한다.

그리고 좀 더 자연어 처리 능력도 발전했다.

이젠 속 뜻을 이해해야하는 밈까지 구사한다고 한다. 

---

AI 가 생각 보다 훨씬 빠른 속도로 발전되고 있다.

아직 불안정한 부분도 있지만, 금방 보완될 것 같다.

얼마전에 WIS 에 방문했었는데, 전시 제품의 8할이 AI 관련 제품이었다. (그 중 GPT를 활용한 제품도 있었다. )

뒤쳐지지 않으려면 열심히 공부해야겠다! 

 

이번 포스팅에선 ChatGPT에 대해 알아보았다.

댓글, 하트, 피드백은 언제나 환영입니다.  🥰

 

 

https://www.zdnet.com/article/what-is-chatgpt-and-why-does-it-matter-heres-everything-you-need-to-know/
https://pseudo-lab.github.io/Tutorial-Book/chapters/NLP/Ch1-Introduction.html#gpt
https://hyjykelly.tistory.com/28
https://hyjykelly.tistory.com/27
https://www.tensorflow.org/js/tutorials/transfer/what_is_transfer_learning?hl=ko

https://velog.io/@easter423/GPT-3-vs-GPT-3.5-vs-ChatGPT#gpt-4