AI 토큰이란? 한국어가 챗GPT 요금 더 내는 이유 — 영어의 1.5~2배

솔직히 고백하자면, 나도 얼마 전까지 "토큰"을 그냥 글자 수쯤으로 여겼다. 챗GPT API로 간단한 번역 봇을 하나 돌렸는데, 짧은 문장만 주고받았는데도 요금이 예상보다 빨리 쌓였다. 영어로 테스트할 땐 멀쩡하던 비용이 한국어로 바꾸자 눈에 띄게 늘더라.

그제야 토큰이 요금의 실제 단위라는 걸 체감했다. AI 요금제의 "100만 토큰당 얼마"라는 숫자, 무료 사용량 한도, 한 번에 넣을 수 있는 글의 길이 — 전부 이 토큰으로 센다. 한국어로 AI를 쓰는 우리에게 토큰은 남의 얘기가 아니다. 같은 돈을 내도 영어 사용자보다 손해를 보고 있을 가능성이 크기 때문이다.

토큰은 단어도, 글자도 아니다

가장 헷갈리는 지점부터 짚자. 토큰은 단어가 아니다. 그렇다고 글자 하나도 아니다. AI가 글을 자기 방식대로 잘게 쪼갠 "조각"에 가깝다.

영어 "hello"는 보통 토큰 1개다. 반면 "unbelievable" 같은 긴 단어는 "un / believ / able"처럼 여러 조각으로 나뉜다. 자주 등장하는 덩어리는 통째로 한 토큰, 드물게 나오는 조합은 잘게 쪼개진다. 영어 기준으로 토큰 1개는 대략 글자 4개, 단어로 치면 0.75개쯤이다.

이 쪼개는 규칙에는 BPE(Byte-Pair Encoding)라는 이름이 붙어 있다. 원리는 의외로 단순하다. 학습 데이터에서 "자주 붙어 다니는 글자 쌍"을 찾아 하나로 묶기를 수없이 반복하는 것. 데이터에 많이 나온 패턴일수록 큰 덩어리로 묶여 토큰 수가 줄고, 적게 나온 패턴은 잘게 흩어진다. 바로 이 대목에서 한국어의 불운이 시작된다.

한국어는 왜 토큰을 더 많이 먹을까

같은 인사말을 나란히 놓고 보자.

글자 수로는 비슷하거나 오히려 한국어가 짧은데, 토큰은 서너 배로 뛴다. 범인은 앞서 말한 BPE다. 모델이 학습한 글의 대부분이 영어라, 한글 조합은 큰 덩어리로 묶일 기회를 거의 얻지 못했다. 그 결과 한글은 글자 하나가 통째로, 심하면 자소(ㅎ·ㅏ·ㄴ) 단위까지 쪼개지며 토큰을 잡아먹는다.

사전을 직접 열어 보면 더 노골적이다. 최신 토크나이저(o200k_base)에서 알파벳만으로 이뤄진 칸은 10만 개가 넘지만, 한글만으로 이뤄진 칸은 2천여 개에 그친다. 글자 가짓수로는 한글(11,172자)이 훨씬 많은데도 배정된 자리는 50분의 1 수준인 셈이다.

그나마 상황은 조금씩 나아지고 있다. GPT-3.5·4 시절 토크나이저(cl100k_base)에서 한국어는 영어의 2.4배가량 토큰을 썼다. 그런데 GPT-4o부터 어휘 사전을 두 배로 키우면서 한국어 토큰이 약 1.7배 줄었다. 지금 기준으로는 "같은 의미를 전할 때 영어의 1.5~2배" 정도로 보면 맞다. 여전히 손해지만, 무조건 3배씩 썼다는 옛말은 반쯤 철 지난 얘기가 됐다.

토큰 수가 요금표를 다시 쓴다

AI 요금이 토큰으로 매겨진다는 건, 한국어 사용자가 구조적으로 더 낸다는 뜻이다. 거의 모든 상용 모델이 "입력 100만 토큰당 얼마, 출력 100만 토큰당 얼마" 식으로 끊어 과금한다. 그리고 보통 출력 토큰이 입력보다 다섯 배쯤 비싸다. AI가 길게 대답할수록 돈이 빠르게 빠져나간다는 뜻이다.

여기에 한국어 가중치가 얹힌다. 똑같은 내용을 받아도 한국어 답변은 토큰이 1.5~2배라, 출력 비용이 그만큼 불어난다. 월 구독형 서비스라면 이 손해는 요금이 아니라 "한도"로 돌아온다. 같은 월정액을 내도 영어 사용자가 100번 할 일을 한국어 사용자는 50~60번이면 한도에 닿는 식이다.

놓치기 쉬운 손해가 하나 더 있다. 컨텍스트 창, 그러니까 한 번에 넣을 수 있는 글의 양도 토큰으로 잰다. 영어로 책 한 권이 들어가는 모델이라면 한국어로는 그 절반 조금 넘는 분량밖에 못 넣는다. 긴 문서를 통째로 요약시키거나 코드를 왕창 붙여 넣을 때, 한국어 자료는 창이 더 빨리 꽉 찬다.

토큰을 아끼는 현실적인 방법

완전히 피할 길은 없지만, 새는 토큰을 틀어막는 방법은 있다.

• 긴 참고 자료와 시스템 프롬프트는 영어로 둔다. 모델에 깔아 주는 배경 지식이나 지시문은 영어로, 최종 답변만 한국어로 받으면 입력 토큰을 크게 아낀다. 품질 손해도 거의 없다.
• 반복되는 긴 맥락은 프롬프트 캐싱을 켠다. 같은 지시문·문서를 매번 다시 보내는 구조라면, 캐싱을 켜는 순간 두 번째 요청부터는 그 부분을 10분의 1 값에 읽는다. 챗봇이나 에이전트처럼 같은 프롬프트가 계속 도는 곳일수록 효과가 크다.
• 군더더기 장문을 줄인다. "~해 주시면 정말 감사하겠습니다" 같은 수식은 사람에겐 예의지만 모델에겐 그냥 토큰이다.
• 토큰을 미리 재볼 땐 전용 카운터를 쓴다. 단, 영어용 추정기(tiktoken 등)는 한국어를 15~20%쯤 적게 세는 버릇이 있으니, 실제 쓰는 모델의 공식 토큰 계산기로 확인하는 편이 안전하다.

개인적으로는 이 "한국어 세금"이 단순한 요금 문제를 넘어선다고 본다. 토큰이 비싸다는 건 한국어 데이터로 모델을 돌리고, 평가하고, 서비스하는 비용이 전부 올라간다는 뜻이다. 스타트업이 한국어 챗봇을 만들 때 영어 서비스보다 원가 구조에서부터 불리하게 출발하는 셈이다. 네이버·카카오를 비롯한 국내 팀들이 한국어에 특화된 자체 토크나이저와 모델에 공을 들이는 배경에도 이 계산이 깔려 있다. 남의 사전을 빌려 쓰는 한, 이 세금은 꼬박꼬박 나가기 때문이다.

실무에선 토큰을 "글자 수"가 아니라 "비용 단위"로 머릿속에 새겨두는 것만으로도 꽤 달라진다. 프롬프트를 짤 때 한 번 더 다듬게 되고, 어디에 영어를 끼워 넣을지 감이 잡힌다. 반대로 토큰에 지나치게 집착해 답변을 짧게 깎다 보면 품질이 상하니, 아낄 곳과 쓸 곳을 가르는 눈이 결국 실력이다.

토큰은 결국 AI가 글을 다루는 최소 단위이자 요금을 재는 저울이다. 그 저울 위에서 한국어는 영어보다 1.5~2배 무겁게 달린다. 토크나이저가 좋아지며 격차는 줄고 있지만, 당분간 이 "한국어 프리미엄"은 쉽게 사라지지 않을 것이다. 적어도 내 토큰이 어디서 새는지는 알고 쓰는 편이 낫다.

여러분은 AI를 쓸 때 요금이나 한도 때문에 영어로 바꿔 본 적 있으신가요? 아니면 끝까지 한국어로 버티는 편인가요? 토큰 아끼는 나만의 꼼수가 있다면 댓글로 나눠 주세요.

참고

• AI 토큰의 정의와 한국어가 영어보다 비싼 이유 (TECH INSIGHT)
• 한글 11,172자를 GPT-4o·GPT-5 토큰 사전에 넣어본 분석 (how-toai)