GPT, 토큰, 프롬프트… 아는 척 그만! 비전공자를 위해 필수 개념만 쉽고 정확하게 정리해 드립니다

GPT, 토큰, 프롬프트… 아는 척 그만! 비전공자를 위해 필수 개념만 쉽고 정확하게 정리해 드립니다 

요즘은 “GPT가 어쩌고”, “프롬프트를 잘 써야 한다”는 말이 너무 흔하죠.

근데 솔직히, GPT랑 LLM이 뭐가 다르고, 토큰은 왜 자꾸 말하는 건지... 그냥 모르는 사람만 바보 되는 세상 같지 않으신가요?

 

 

안녕하세요, 문노베입니다.

 

AI는 더 이상 엔지니어나 개발자만의 영역이 아닙니다.

 

뉴스, 회의, 심지어 커피챗에서도 “GPT”, “LLM”, “프롬프트” 같은 단어가 튀어나오죠.

 

하지만 비전공자 입장에서는 용어가 너무 갑자기 많고, 설명은 또 너무 어렵게 느껴져요.

 

이 글은 그런 여러분을 위한 콘텐츠입니다. 진짜 중요한 개념만, 진짜 쉽게 알려드릴게요.

 

‘기본 용어만 정확히 이해해도 AI 뉴스가 훨씬 선명하게 보인다’는 걸 직접 느끼실 수 있을 거예요.

목차

1. GPT는 이름이고, LLM은 개념입니다 2. ‘토큰’이란 단어, 왜 그렇게 자주 나올까요? 3. 프롬프트는 단순한 질문이 아닙니다 4. 결국 GPT는 어떻게 작동하나요?

1. GPT는 이름이고, LLM은 개념입니다

우리가 흔히 말하는 "ChatGPT"는 사실 AI 기술의 한 종류가 아니라, 특정 회사(OpenAI)가 만든 상용 제품의 이름입니다.

 

좀 더 정확히 말하면, ChatGPT는 GPT(Generative Pre-trained Transformer)라는 이름을 가진 언어 모델(LLM)을 기반으로 만든 챗봇이에요.

 

그럼 LLM(Large Language Model)은 뭘까요?

 

쉽게 말해, LLM은 인간의 언어를 이해하고 생성할 수 있도록 방대한 양의 텍스트 데이터를 학습한 인공지능이에요.

 

수십억 개의 단어를 학습해서, 어떤 문장을 주면 그다음에 올 말을 예측하는 방식으로 동작합니다.

 

이메일을 작성하거나, 회의록을 요약하거나, 번역을 할 수 있는 것도 모두 이 구조 덕분이죠.

 

그러니까 GPT는 “OpenAI가 만든 LLM”의 시리즈 이름이고, LLM은 이와 같은 '거대한 언어 예측 모델' 전반을 의미하는 기술 범주라고 보면 됩니다.

 

쉽게 비유하자면 이렇습니다.

용어	의미	비유
LLM	대형 언어 모델 (기술 개념)	‘자동차’라는 개념 전체
GPT	OpenAI의 LLM 모델 이름	‘현대 소나타’ 같은 특정 브랜드

즉, 모든 GPT는 LLM이지만, 모든 LLM이 GPT는 아닙니다.

 

Claude, Gemini, LLaMA, Mistral 같은 모델들도 전부 ‘LLM’이라는 큰 틀 안에 있는 거예요.

 

이 관계를 정확히 이해하면, 뉴스에서 어떤 모델이 나와도 헷갈리지 않을 수 있어요.

 

2025.03.31 - [AI 정복기/국내외 AI 기업 소개] - Anthropic 완전 분석: Claude Sonnet 3.7 출시와 윤리 중심 AI 철학까지

Anthropic 완전 분석: Claude Sonnet 3.7 출시와 윤리 중심 AI 철학까지

2025.04.01 - [AI 정복기/글로벌 AI 뉴스] - 구글 제미나이 2.5 프로 공개: AI의 새로운 지평을 열다 (ChatGPT, Claude 비교)

구글 제미나이 2.5 프로 공개: AI의 새로운 지평을 열다 (ChatGPT, Claude 비교)

 

2. ‘토큰’이란 단어, 왜 그렇게 자주 나올까요?

AI를 조금만 들여다보면 ‘토큰(Token)’이라는 단어가 계속해서 나옵니다.

 

“토큰 수 제한”, “입력 토큰 비용”, “2048토큰 이내 요약”… 다들 토큰 얘기를 너무 당연하게 하죠.

 

하지만 이 '토큰'이 대체 뭔지 아는 사람은 많지 않습니다.

 

토큰은 AI가 문장을 처리할 때, ‘잘게 쪼개서 이해하는 단위’라고 보면 됩니다.

 

사람이 글을 읽을 때는 문장 단위, 단어 단위로 이해하죠. 하지만 AI는 좀 더 기계적인 단위로 쪼개서 처리합니다.

 

이게 바로 ‘토큰’이에요.

 

예를 들어 “I love AI.”라는 문장이 있다면, 이 문장은 보통 4개의 토큰으로 나뉩니다:

• I
• love
• AI
• .

문장부호도 하나의 토큰이고, 단어 하나도 때론 두 개 이상의 토큰으로 나뉘기도 해요.

 

 

 

예를 들어 “internationalization”은 무려 6개의 토큰으로 처리되기도 하죠.

문장	AI 기준 토큰
ChatGPT is smart.	['Chat', 'G', 'PT', ' is', ' smart', '.']
AI는 미래다.	['AI', '는', ' 미래', '다', '.']

이처럼 토큰은 단어 단위와는 다르기 때문에, “500단어 이내”와 “500토큰 이내”는 완전히 다른 이야기입니다.

 

GPT 모델들은 입력/출력에 토큰 단위 제한이 있어서, 이 수치를 꼭 신경 써야 해요.

 

또한 OpenAI API나 GPT 서비스에서 비용이 청구되는 단위도 이 토큰 기준입니다.

 

예를 들어 “입력 1,000토큰 + 출력 1,000토큰 = 총 2,000토큰”이 되며, 이 토큰 수에 따라 요금이 부과돼요.

 

그래서 요즘은 ‘토큰 절약형 프롬프트’가 중요한 트렌드이기도 하죠.

 

2025.04.02 - [트렌드 정복기] - Sora 영상 생성, 왜 신규 유저는 못 쓰게 됐을까? (ChatGPT 지브리스타일 이미지)

Sora 영상 생성, 왜 신규 유저는 못 쓰게 됐을까? (ChatGPT 지브리스타일 이미지)

 

3. 프롬프트는 단순한 질문이 아닙니다

"프롬프트"라는 단어는 이제 일상 대화에도 종종 등장하죠. “좋은 프롬프트가 중요해요”, “프롬프트 엔지니어가 뜬대요” 같은 말들.

 

그런데 프롬프트가 정확히 뭘 의미하는지는 잘 모르는 경우가 많습니다.

 

프롬프트(Prompt)는 아주 간단히 말하면, AI에게 주는 질문이자 명령입니다.

 

우리가 ChatGPT에 입력하는 문장이 전부 프롬프트예요.

 

예를 들어 "오늘 날씨 알려줘"도 프롬프트고, "이메일을 정중하게 써줘"도 프롬프트입니다.

 

그런데 프롬프트는 그냥 질문만 잘 쓰는 게 아니에요.

 

어떤 톤으로, 어떤 형식으로, 어떤 역할을 부여해서, 어떤 방식의 출력을 유도할 것인가까지 포함한 설계입니다.

 

이게 요즘 말하는 “프롬프트 엔지니어링”의 핵심이죠.

 

 

 

예를 들어 같은 요청이라도 다음과 같이 다르게 작성할 수 있습니다:

• 질문형: "퇴사 이메일 어떻게 쓰면 좋을까?"
• 역할 부여형: "너는 지금 HR 전문가야. 한국 직장문화에 맞는 퇴사 이메일을 써줘."
• 형식 지정형: "300자 이내로 정중한 퇴사 메일을 써줘. 감정 표현은 절제하고."

세 가지 모두 같은 질문처럼 보이지만, 결과는 확연히 다릅니다.

 

이처럼 프롬프트는 출력의 품질을 좌우하는 열쇠이기 때문에, AI 시대에는 글을 잘 쓰는 것보다 프롬프트를 잘 쓰는 능력이 더 중요하다는 말까지 나오는 거예요.

 

더 나아가, 요즘은 프롬프트의 구조를 템플릿처럼 만들어두고 반복 활용하는 경우도 많습니다.

 

예: 블로그 목차 짜는 프롬프트, 뉴스 요약용 프롬프트, 코드 리뷰용 프롬프트 등. 그래서 기업 내부에서도 ‘프롬프트 설계 가이드’를 따로 만드는 흐름도 생겨나고 있죠.

 

2025.03.27 - [AI 정복기/Prompt Engineering - 어떻게 말하지?] - 프롬프트 엔지니어링 고수들이 항상 “Let’s think step by step”부터 입력하는 이유

프롬프트 엔지니어링 고수들이 항상 “Let’s think step by step”부터 입력하는 이유

 

4. 결국 GPT는 어떻게 작동하나요?

지금까지 GPT가 무엇이고, LLM이 무엇인지, 토큰과 프롬프트가 왜 중요한지를 살펴봤습니다.

 

그렇다면 이제 궁금해지는 건 이것이죠.

 

“그럼 결국 AI는 내가 친 문장을 보고, 무슨 기준으로 답을 만들까?” 이건 정말 단순화해서 말하면 ‘다음 단어 예측 게임’입니다.

 

예를 들어, 사람이 “나는 아침에 커피를 마신다.”라는 문장을 쓸 때, 두 번째 단어, 세 번째 단어, 끝까지 이전 단어를 기반으로 자연스럽게 이어질 말을 고르면서 쓰잖아요?

 

GPT도 비슷해요.

 

단지 엄청나게 많은 책, 뉴스, 논문, 웹사이트를 학습한 후 “이런 문맥이면 다음엔 이런 단어가 가장 확률이 높겠군”이라고 계산해서 한 단어씩 만들어냅니다.

 

이때 중요한 건 두 가지예요: 확률(Probability)과 패턴(Pattern).

 

GPT는 단어들을 고를 때 항상 확률을 계산합니다.

 

“‘마신다’ 다음엔 ‘.’이 올 확률이 89%고, ‘커피’가 다시 나올 확률은 5%…” 이런 식으로요. 그리고 이 계산은 GPT 모델 안의 수십억 개의 파라미터로 이뤄집니다.

 

그리고 또 하나. GPT는 지금까지 봤던 수많은 문장 패턴을 기억해두고, 입력된 문장이 어떤 패턴과 비슷한지 찾아내서 그 구조를 따라갑니다.

 

예를 들어 뉴스 기사 스타일, 이메일 스타일, 대화체 스타일 같은 걸 말이에요.

 

결국 GPT는 “이 상황이면 사람들이 이런 식으로 말했더라”는 통계적 언어 감각을 기반으로 작동합니다.

 

그래서 아직 진짜 ‘이해’를 하거나 ‘판단’을 하지는 못하죠. 그럼에도 우리가 볼 때는 ‘생각하고 있는 것처럼 보이는 말’을 뱉어내니, 놀라운 거예요.

 

2025.03.27 - [자격증 정복기/ADSP - 데이터분석준전문가] - 정규분포란? – 통계학에서 가장 중요한 곡선, AI는 여기서 시작된다 (통계학 기초, ADSP)

정규분포란? – 통계학에서 가장 중요한 곡선, AI는 여기서 시작된다 (통계학 기초, ADSP)

 

5분 만에 끝내는 핵심 요약 ✍️

• GPT는 OpenAI가 만든 모델 브랜드 이름이고, LLM은 그 기술 범주의 개념입니다.
• 토큰은 AI가 문장을 쪼개서 이해하는 최소 단위로, 비용·속도·출력 길이 모두에 영향을 미칩니다.
• 프롬프트는 단순 질문이 아니라, AI에게 역할·형식·문체까지 지정하는 ‘명령어’입니다.
• GPT는 기본적으로 다음 단어를 예측하는 확률 게임을 통해 문장을 이어가는 방식으로 작동합니다.

위 개념만 제대로 이해하고 있어도 대부분의 AI 뉴스와 대화 흐름은 ‘이해는 하고 있는 느낌’으로 들을 수 있습니다.

 

기술을 만드는 사람이 아니어도, 기술이 바꾸는 흐름 속에 살고 있다면 알아두면 분명 유리한 교양이에요.

문노베의 질문 🤔

GPT가 다음 단어를 예측할 뿐이라면, 왜 그 답이 그렇게 ‘생각한 것처럼’ 느껴질까요?

우리가 ‘프롬프트’를 잘 써야 한다고 배울 때, 과연 누가 이 역할을 먼저 설계해주는 게 맞을까요—사람일까요, 기업일까요?

토큰 단위로 비용이 책정된다면, 미래에는 프롬프트를 길게 쓰는 사람이 ‘비효율적’이란 평가를 받게 될까요?

앞으로 나오는 LLM들(Gemini, Claude, LLaMA 등)은 GPT와 무엇이 같고 다를지, 어떤 점을 비교해봐야 할까요?