현재, 인공지능 언어모델의 발전 속도는 실로 놀랍습니다.
컴퓨터 성능의 향상과 함께, 수많은 기업들이 오픈소스 LLM(Large Language Model)을 앞다투어 공개하면서, 말 그대로 ‘언어모델 전성시대’가 도래했습니다.
대표적인 AI 모델 플랫폼인 **Hugging Face**에는 백 오십 만개 이상의 LLM 모델이 등록되어 있습니다.
하지만 초심자 입장에서는 고민이 생기기 마련이죠.
“도대체 어떤 모델을 골라야 하지?”
“Pre-trained 모델이랑 Instruction-tuned 모델은 뭐가 다른 걸까?”
“모델 크기나 파라미터 수는 어디서 확인하지?”
이번 글에서는 허깅페이스에서 언어모델을 선택하는 기초적인 방법을 하나씩 짚어보겠습니다.
📌 모델을 선택하기 전에 꼭 알아야 할 핵심 개념
🔹 1. PT vs IT 모델
| 유형 | 설명 | 추천 사용처 |
|---|---|---|
| PT (Pre-trained) | 대규모 텍스트로 학습만 된 상태. 일반적인 언어 이해 능력 보유. | 연구용, 파인튜닝용 |
| IT (Instruction-tuned) | 지시문 형태의 입력에 반응하도록 추가 학습된 모델. | 챗봇, 요약, 실사용 AI |
💡 비유하자면, PT는 원석, IT는 가공된 보석입니다.
실전용으로 바로 쓰려면 IT 모델이 훨씬 편리합니다.
📊 어떤 기준으로 모델을 고를까?
✅ 1. 모델의 목적
• 번역, 요약, 질의응답처럼 구체적인 작업 목적이 있다면 IT 모델이 유리합니다.
• 직접 파인튜닝하거나 다양한 실험을 원한다면 PT 모델이 적합합니다.
✅ 2. 파라미터 수 (Parameters)
• 모델의 “크기”를 나타내는 지표입니다.
• 단위는 B(Billion) = 10억입니다.
| 표기 | 의미 |
|---|---|
| 7B | 70억 파라미터 |
| 13B | 130억 파라미터 |
| 65B | 650억 파라미터 |
일반적으로 파라미터 수가 높을수록 성능은 높지만, 자원 소모도 커집니다.
일반적으로 사용하는 맥 M2 노트북의 경우, 70억 파라미터 정도가 적당해 보입니다. 만약 GPU가 충분한 고성능 노트북을 가지고 있다면, 더 높은 파라미터를 도전해 보는 것도 좋습니다. 직접 하나씩 실험해 보면서 테스트해보세요.
예를 들어, “google/gemma-3-27b-it”의 경우, 270억 파라미터에 Instruction Tuned 모델인 것을 알 수 있습니다.
✅ 3. 모델 용량 (크기)
• 다운로드 파일 용량은 수백 MB ~ 수십 GB까지 다양합니다.
• 예: 7B 모델은 약 4GB, 65B 모델은 30~50GB 이상이 될 수 있습니다.
• 파일의 크기는 모델 상세에 들어간 후, Files and Versions 에 들어가면 파일의 사이즈를 확인할 수 있습니다.
• 개인 PC 환경, GPU 메모리 등을 고려해야 합니다.
✅ 4. 라이선스 확인
• 상업적으로 사용 가능한 모델인지 반드시 확인하세요.
• 허깅페이스에서는 모델 카드에 license 항목으로 명시됩니다.
✅ 5. 지원 프레임워크
• PyTorch, Transformers, ONNX 등 사용 환경에 맞는 프레임워크 지원 여부를 확인하세요.
🧪 초보자를 위한 LLM 모델 추천
모델명 설명 특징
| 모델명 | 설명 | 특징 |
|---|---|---|
| Google Gemma 3 4B IT | 경량 IT 모델 | 빠르고 응답 품질이 뛰어나며, 로컬 실행도 쉬움 |
| Mistral 7B Instruct | 경량 IT 모델 | 빠르고 실용적 |
| LLaMA 2 13B Chat | Meta 제공 | 고성능 대화 모델 |
| Phi-2 | Microsoft 개발 | 경량 + 교육/연구용으로 적합 |
| Zephyr 7B | HuggingFace 지원 | 다양한 언어 태스크에 유연 |
Hugging Face에서 transformers 라이브러리로 바로 불러올 수 있는 모델들이 많아, 입문자도 사용이 쉽습니다.
🔍 모델 고르기 전, 체크리스트 요약
| 항목 | 확인 포인트 |
|---|---|
| 목적 | 번역, 요약, 질문응답 등 |
| 유형 | Pre-trained (PT) or Instruction-tuned (IT) |
| 파라미터 | 7B, 13B, 65B 등 |
| 용량 | 수 GB ~ 수십 GB |
| 프레임워크 | PyTorch, Transformers 등 |
| 라이선스 | 상업적 이용 가능 여부 확인 |
🧩 마무리하며
허깅페이스에 있는 수많은 모델 중에서 내 목적에 맞는 모델을 고르는 것이 첫 걸음입니다.
오늘 소개해드린 기준만 기억하시면, 어떤 모델이 자신에게 적합한지 훨씬 쉽게 판단할 수 있을 거예요.
📌 다음 글에서는
Hugging Face 모델을 로컬에 설치하고 테스트하는 방법을 안내드릴 예정입니다.
