파인튜닝 개요
- 프롬프트 vs 파인튜닝
- 언제 필요한가
- 모델·라이선스 선택
커리큘럼 폴더
중급~고급 · 주 1회 3시간 · 총 12시간 · 코드 중심
오픈소스 LLM 파인튜닝·배포
오픈소스 LLM을 우리 도메인 데이터로 미세조정하고 직접 배포합니다. 데이터 준비부터 LoRA 학습, 평가, 서빙까지 파인튜닝의 전 과정을 실습으로 다룹니다.
- LoRA
- Dataset
- Training
- Eval
- Serving
4주
주 1회 진행
12시간
총 학습 시간
55%
실습 비중
1종
특화 모델
Overview
과정 개요
누구를 위한 과정인지, 무엇을 배우고 무엇을 남기는지 먼저 확인하세요.
01
교육 대상
- LLM을 도메인에 특화하려는 개발자
- 온프레미스·비용 절감이 필요한 팀
- 모델 서빙을 배우려는 엔지니어
02
학습 목표
- 학습용 데이터셋 구축
- LoRA로 효율적 미세조정
- 성능을 정량 평가
- 모델을 API로 서빙
03
운영 방식
- 4주 / 주 1회 / 회당 3시간
- 강의 40% · 실습 55% · 리뷰 5%
- GPU 환경에서 실습
04
최종 산출물
- 파인튜닝된 모델
- 평가 리포트
- 서빙 엔드포인트
Roadmap
4주 학습 로드맵
데이터 → 학습 → 평가 → 서빙 순서로 완성도를 높입니다.
- Week 01데이터
데이터셋 구축
미세조정의 성패를 가르는 데이터를 준비합니다.
- Week 02학습
효율적 학습
LoRA로 적은 자원으로 미세조정합니다.
- Week 03평가
정량 평가
정말 좋아졌는지 데이터로 확인합니다.
- Week 04서빙
서빙과 운영
모델을 API로 배포하고 운영합니다.
Week01
데이터셋 구축
미세조정의 성패를 가르는 데이터를 준비합니다.
- Dataset
- 정제
- 실습
데이터 준비
- 지시-응답 포맷
- 품질과 다양성
- 정제·중복 제거
실습: 데이터셋
- 데이터 수집·가공
- 포맷 변환
- 분할
결과물학습·검증용 데이터셋
Week02
효율적 학습
LoRA로 적은 자원으로 미세조정합니다.
- LoRA
- Training
- 실습
LoRA 이해
- PEFT 개념
- 양자화와 메모리
- 하이퍼파라미터
학습 실행
- 학습 스크립트
- 로그·체크포인트
- 과적합 감지
실습: 첫 학습
- 소규모 학습
- 손실 관찰
- 샘플 생성
결과물학습된 어댑터 체크포인트
Week03
정량 평가
정말 좋아졌는지 데이터로 확인합니다.
- Eval
- 분석
- 실습
평가 설계
- 평가셋 구성
- 정확도·형식 지표
- 베이스라인 비교
실패 분석
- 오답 유형
- 데이터로 되먹임
- 재학습 판단
실습: 평가
- 자동 평가
- 사람 평가 샘플
- 리포트
결과물베이스라인 대비 평가 리포트
Week04
서빙과 운영
모델을 API로 배포하고 운영합니다.
- Serving
- 운영
- Present
서빙
- 추론 서버
- 어댑터 병합·로딩
- 배치·스트리밍
운영
- 지연·처리량
- 비용·확장
- 안전 필터
완성 & 발표
- 엔드포인트 공개
- 운영 노트
- 최종 발표
결과물서빙되는 특화 모델 API
Core pipeline
파인튜닝 4단계
데이터 → 학습 → 평가 → 서빙. 데이터 품질이 모델 품질을 결정합니다.
Data01
데이터셋 구축
예: 지시-응답
Train02
LoRA 학습
예: PEFT·양자화
Eval03
정량 평가
예: 베이스라인 비교
Serve04
API 서빙
예: 추론 서버
Before
“범용 모델이 우리 도메인엔 약해요”
After
“우리 데이터로 특화된 모델을 서빙”
Result
최종 산출물과 평가 기준
배포자료, 실습자료, 발표자료까지 한 번에 완성합니다.
최종 산출물
- 파인튜닝된 모델
- 평가 리포트
- 서빙 엔드포인트
평가 기준
- 데이터 품질이 확보됐는가
- 학습이 안정적인가
- 베이스라인보다 좋아졌는가
- 서빙되는가
활용 예시
- 도메인 특화 어시스턴트
- 사내 문서 스타일 모델
- 분류·추출 특화
- 온프레미스 챗 모델
범용 모델에 맞추던 팀에서, 우리 모델을 만드는 팀으로.
Join this course