최적수송으로 데이터셋 보간, LoRA 가중치 조합, 부메랑 증류로 중간 크기 모델 만들기
하버드 데이비드 알바레스멜리스 교수의 카네기멜런대 세미나를 정리했다. 모델 크기와 데이터셋처럼 드문드문한 선택지를 최적수송과 가중치 보간으로 이어 붙여, 훈련 없이 그 사이의 데이터셋과 모델을 만들어내는 연구를 소개한다.
핵심 내용 읽기 →
AI TOPIC
LoRA 최신 뉴스와 핵심 해설
LoRA 관련 핵심 뉴스와 활용 인사이트 44편을 최신순으로 모았습니다.
RLHF 강의 정리: 보상모델 학습과 KL 페널티, 보상 해킹 사례와 LoRA 미세조정까지
AI 안전 교육 과정 ARENA의 RLHF 강의를 정리했다. 사람의 선호로 보상모델을 만드는 방식과 KL 페널티의 역할, 보상 해킹이 실제로 벌어지는 과정, LoRA로 학습 비용을 줄이는 실전 기법을 다룬다.
핵심 내용 읽기 →
LLM 파인튜닝 총정리: RLHF 보상 모델부터 LoRA·DoRA, 인컨텍스트 러닝과 하네스 엔지니어링까지
정답이 하나뿐이라고 가정하는 지도 미세조정의 한계에서 출발해, 사람의 선호로 보상 모델을 만드는 RLHF와 LoRA 계열 경량 파인튜닝, 그리고 인컨텍스트 러닝에서 하네스 엔지니어링으로 이어지는 흐름까지 대학원 LLM 강의 내용을 정리했다.
핵심 내용 읽기 →
한국어 sLLM Text-to-SQL 파인튜닝 실습: LoRA 학습과 GPT 평가 파이프라인 구축 정리
스터디 발표 영상을 바탕으로 한국어 소형 LLM을 Text-to-SQL 과제에 파인튜닝하는 과정을 정리했다. 데이터 구성과 LoRA 학습, LLM에게 채점을 맡기는 평가 파이프라인의 실무적인 걸림돌을 함께 다룬다.
핵심 내용 읽기 →
LoRA 파인튜닝과 PEFT 정리: LLM 미세조정 GPU 메모리 계산과 모델 병합 전략
AI 엔지니어링 7장 발표 정리. 풀 파인튜닝의 VRAM 계산부터 어댑터와 LoRA의 저랭크 분해, 태스크 벡터 기반 모델 병합, 학습률과 배치 크기 등 학습 하이퍼파라미터까지 실무 관점으로 짚었다.
핵심 내용 읽기 →
LoRA 파인튜닝 실전 정리: QLoRA 메모리 절감, 랭크와 알파 설정, 그리고 데이터셋의 힘
라이트닝 AI의 세바스찬 라시카가 라마 2 70억 파라미터 모델로 수백 번 돌린 LoRA 파인튜닝 실험을 정리했다. QLoRA의 메모리 절감과 속도 손해, 랭크와 알파 조합, 그리고 데이터셋이 성능을 가른 이유를 짚는다.
핵심 내용 읽기 →
축구 영상 액션 스포팅 실험: 비전·언어 모델과 씬 그래프의 F1 점수 비교와 한계
한 시간이 넘는 축구 중계 영상에서 어떤 선수가 언제 무슨 동작을 했는지 찾아내는 액션 스포팅 과제를, 비전·언어 모델과 씬 그래프 두 방식으로 직접 구현해 비교한 서울대 수업 프로젝트 발표를 정리했다. 성적과 실패 원인까지 짚는다.
핵심 내용 읽기 →
LLM 밑바닥부터 만들기: 토큰화·GPT 아키텍처·사전학습·가중치 로딩·LoRA 파인튜닝 정리
세바스찬 라시카의 3시간 코딩 워크숍을 정리했다. 텍스트 토큰화와 학습 배치 구성부터 GPT 아키텍처, 소규모 사전학습, 공개 가중치 로딩, LoRA 인스트럭션 파인튜닝과 모델 평가까지 LLM 개발 전 과정을 순서대로 짚는다.
핵심 내용 읽기 →
영상 생성 모델 파인튜닝 방법: WAN 2.1 14B를 이미지 150장과 LoRA로 학습시키기
영상 생성 모델이 이미지 생성 모델과 무엇을 공유하는지 짚고, 오픈소스 140억 파라미터 영상 모델을 캡션이 달린 삽화 이미지 150장과 LoRA로 파인튜닝해 나만의 화풍 영상을 만들어 낸 전 과정을 데이터 준비부터 결과 확인까지 정리했다.
핵심 내용 읽기 →
LoRA·QLoRA 파인튜닝 입문 — 데이터 50개와 만 원으로 나만의 AI 모델 만들기
파인튜닝은 범용 AI를 내 분야 전문가로 바꾸는 과정이다. LoRA와 QLoRA가 GPU 요구량을 780GB에서 48GB로 낮췄고, 데이터 50~200건과 만 원 남짓이면 첫 모델을 만들 수 있다.
핵심 내용 읽기 →
스탠퍼드 CS229 강의: 확산 모델 학습 원리와 파운데이션 모델 적응법(선형 프로빙·파인튜닝·LoRA)
스탠퍼드 CS229 12강이 확산 모델의 손실 함수가 왜 노이즈 예측 문제로 바뀌는지 유도하고, 사전학습된 파운데이션 모델을 새 과제에 붙이는 선형 프로빙·파인튜닝·LP-FT·LoRA의 실제 이득이 어디에 있는지 따져봤다.
핵심 내용 읽기 →
LoRA 어댑터 원리 정리: 저랭크 근사로 파인튜닝 파라미터를 2억에서 12만으로 줄이는 법
파인튜닝은 결국 사전학습 가중치에 그래디언트 갱신분을 더하는 일이다. 이 갱신분만 훨씬 작은 두 행렬의 곱으로 근사하는 LoRA의 원리와, 파라미터가 2억 개에서 12만 개로 줄어드는 계산 과정을 정리했다.
핵심 내용 읽기 →
IASEAI 2026: 정렬 기법 심층 방어와 LoRA 프라이버시, ChatGPT 메모리가 만드는 알고리즘적 자화상
IASEAI 2026 세션 발표를 정리했다. 정렬 기법을 겹쳐 쌓는 심층 방어가 언제 통하는지, 파인튜닝 방식별 프라이버시 차이, ChatGPT 메모리가 쌓는 개인정보, 정신건강 챗봇 레드팀까지 다룬다.
핵심 내용 읽기 →
소형 텍스트 LLM을 비전 언어모델로 바꾸는 법: Q-Former와 LoRA로 이미지 이해 붙이기
1억 3500만 파라미터 텍스트 모델에 사전학습 ViT와 Q-Former, LoRA를 붙여 이미지를 이해하게 만드는 과정을 단계별로 정리했다. 캡션 5만 장과 몇 시간 학습, 50센트 남짓한 비용으로 시각 능력을 얻는 방법이다.
핵심 내용 읽기 →
LoRA 원리 정리: 저랭크 적응으로 학습 파라미터를 줄이는 방법과 파이토치 구현
LoRA는 사전학습 가중치를 고정한 채 작은 두 행렬만 학습하는 미세조정 기법이다. 저랭크 분해가 통하는 이유와 파라미터 절감 규모, 파이토치 파라미터화 기능을 활용한 구현 방식까지 차례로 정리했다.
핵심 내용 읽기 →
LLM 파인튜닝 vs RAG vs LoRA, 지금도 파인튜닝이 필요한 경우는 언제인가
법률 AI와 블룸버그GPT 사례로 본 파인튜닝의 현재. 긴 컨텍스트와 추론 모델이 격차를 좁힌 이유, RAG·컨텍스트 엔지니어링·에이전트 스킬을 먼저 쓰고 파인튜닝은 마지막에 꺼내라는 IBM의 판단 순서를 정리했다.
핵심 내용 읽기 →
LoRA 파인튜닝 원리 완전 정리: 저랭크 분해와 정밀도·양자화, 그리고 QLoRA까지 한눈에
거대 언어모델을 적은 자원으로 미세조정하는 LoRA의 원리를, 정밀도와 양자화의 기초부터 저랭크 분해와 랭크·알파 하이퍼파라미터, 그리고 허깅페이스 PEFT 라이브러리와 QLoRA까지 단계별로 차근차근 설명합니다.
핵심 내용 읽기 →
진화 전략으로 LLM 미세조정? EGGROLL·ES at Scale 논문으로 본 부활 배경
한때 쓸모없다 여겨진 진화 전략이 대형 언어모델 미세조정에서 부활했다. OpenAI 2017 논문부터 'ES at Scale', 'EGGROLL'까지 그 배경과 성과를 정리했다.
핵심 내용 읽기 →
LoRA 저랭크 적응 기법으로 거대 언어모델을 적은 GPU 메모리로 미세조정하는 원리 이해하기
거대 언어모델을 특정 도메인에 특화하려면 막대한 GPU 메모리가 든다. AI Coffee Break 영상은 원본 가중치를 얼리고 그 차이만 두 개의 작은 행렬로 분해해 학습 파라미터를 줄이는 LoRA 기법의 원리와 장점을 설명한다.
핵심 내용 읽기 →
LoRA 완전 이해 — 저차원 적응부터 QLoRA·VeRA·DoRA까지 파라미터 효율 미세조정 정리
700억 파라미터 모델을 통째로 미세조정하는 대신, 작은 어댑터만 학습하는 LoRA의 원리와 초기화·학습률 요령, 그리고 QLoRA·VeRA·DoRA로 이어지는 발전을 알기 쉽게 설명합니다.
핵심 내용 읽기 →
LLM 파인튜닝이란: 사전학습 vs 파인튜닝, PEFT·LoRA와 파괴적 망각 피하는 법
대형 언어모델을 특정 작업에 맞추는 파인튜닝의 원리를 사전학습, 파인튜닝 루프, 전체 파인튜닝과 PEFT, 파괴적 망각, 그리고 파인튜닝이 답이 아닐 때까지 쉽게 설명합니다.
핵심 내용 읽기 →
LoRA·PEFT로 LLM 미세조정하기: 원본 가중치는 얼려두고 작은 어댑터만 학습하는 법
거대 언어모델 미세조정의 걸림돌인 연산량과 거대한 체크포인트 문제를 PEFT와 LoRA가 어떻게 푸는지 설명한다. 원본 가중치를 동결하고 작은 어댑터만 학습하는 원리와 실제 코드 흐름을 예제와 함께 정리했다.
핵심 내용 읽기 →
LLM 파인튜닝 실전 가이드: 허깅페이스·파이토치·LoRA로 라마 3.2 튜닝하기
허깅페이스와 파이토치로 라마 3.2 1B 모델을 논문 분류 작업에 파인튜닝하는 전 과정을 정리했다. 토크나이저와 채팅 템플릿, 손실 계산과 마스킹, 그리고 LoRA로 소수 파라미터만 학습하는 방법까지 단계별로 짚는다.
핵심 내용 읽기 →
Axolotl 로컬 LLM 파인튜닝 입문: 데이터셋 제작부터 추론까지 파이썬 실습
오픈소스 프레임워크 Axolotl로 내 컴퓨터에서 소형 LLM을 파인튜닝하는 기초 예제를 다룹니다. UV로 환경을 구성하고 직접 만든 JSONL 데이터셋을 준비한 뒤, LoRA 설정과 학습을 거쳐 CLI와 파이썬으로 추론하는 전 과정을 초보자 눈높이로 따라갑니다.
핵심 내용 읽기 →
LLM 파인튜닝과 모델 병합 완벽 정리: 단계·기법·하이퍼파라미터
사전학습부터 SFT·선호 정렬까지 LLM 학습 단계와 LoRA·QLoRA, SLERP·DARE 같은 파인튜닝·모델 병합 기법을 한눈에 정리했다.
핵심 내용 읽기 →
LoRA 파인튜닝 쉽게 이해하기: 어댑터 원리와 0.78% 파라미터의 비밀
거대 언어모델을 저비용으로 미세조정하는 LoRA의 원리를 어댑터(A·B) 구조, 행렬 계산, 실제 파라미터 절감률, 하이퍼파라미터 설정 팁까지 쉽게 풀어 설명합니다.
핵심 내용 읽기 →
LLM 파인튜닝 기법 총정리 LoRA QLoRA DoRA DPO GRPO 선택 가이드
데이터에 맞게 잘 파인튜닝한 70억 매개변수 모델은 특정 작업에서 더 큰 모델을 능가할 수 있다. 풀 파인튜닝부터 LoRA·QLoRA·DPO·GRPO까지 핵심 기법과 선택 기준을 정리했다.
핵심 내용 읽기 →
LLM 파인튜닝 입문: Unsloth·구글 콜랩으로 GPT-OSS 직접 학습하기
파인튜닝은 베이스 모델의 가중치를 조정해 특정 작업 성능을 끌어올리는 기법이다. Unsloth와 구글 콜랩의 무료 GPU로 GPT-OSS 20B를 직접 파인튜닝하는 과정을 단계별로 정리했다.
핵심 내용 읽기 →
LLM 파인튜닝 입문 — 사전학습 차이, 지도학습·RLHF, LoRA와 QLoRA까지
파인튜닝이 사전학습·프롬프트 엔지니어링·RAG와 어떻게 다른지, 지도·반지도·RLHF 같은 방법론과 파라미터 효율적 파인튜닝(LoRA·QLoRA)의 개념을 입문자 눈높이로 정리했습니다.
핵심 내용 읽기 →
파인튜닝 완전정복: 전이학습부터 LoRA·PEFT, RAG와의 차이까지
사전학습된 LLM을 특정 도메인·과제에 맞게 다듬는 파인튜닝을 정리했다. 전이학습 개념, 전체 미세조정과 PEFT, 어댑터·프리픽스·LoRA, RLHF, 그리고 RAG와의 차이를 짚는다.
핵심 내용 읽기 →
LoRA·QLoRA 심층 해설: 저랭크 분해, 랭크와 알파, 메모리 절약 원리
거대 언어 모델의 효율적 미세조정 기법 LoRA와 QLoRA를 깊이 있게 풀었다. 변화량을 작은 두 행렬로 분해하는 원리, 랭크와 알파·드롭아웃, 그리고 논문이 짚은 실전 교훈을 정리한다.
핵심 내용 읽기 →
Krea 2 리뷰 — 오픈소스 이미지 생성기 설치·성능·기술보고서
오픈 웨이트로 공개된 이미지 생성 모델 Krea 2를 ComfyUI로 설치·실행하는 방법과 속도·사양, LoRA 활용, 그리고 합성 데이터 배제 같은 기술 보고서의 핵심 통찰을 정리했다.
핵심 내용 읽기 →
Ollama·Unsloth로 로컬에서 LLM 파인튜닝하기: LoRA·4비트 양자화 실전
Unsloth와 Llama 3.1로 작은 LLM을 텍스트-투-SQL 작업에 파인튜닝하고, Ollama로 내 컴퓨터에서 직접 실행하는 과정을 데이터셋 선택부터 LoRA 어댑터, 4비트 양자화, 모델 파일까지 단계별로 정리했다.
핵심 내용 읽기 →
LLM 파인튜닝 입문: LoRA·DPO로 탈옥에 강한 전용 에이전트 만들기
프롬프트 엔지니어링과 파인튜닝의 본질적 차이, LoRA로 소비자용 하드웨어에서도 가능한 효율적 학습, DPO 정렬까지 6단계 실습으로 정리한 입문 가이드.
핵심 내용 읽기 →
LLM 파인튜닝 양자화·LoRA 이론 완전정복: Llama 2·Gemma 실습 강의
FP32에서 저비트로 가는 양자화의 원리, 캘리브레이션과 대칭/비대칭 변환, LoRA 어댑터까지 — Llama 2와 Gemma로 실습하는 파인튜닝 크래시 코스의 핵심 정리.
핵심 내용 읽기 →
LLM 파인튜닝 입문: CPT·LoRA·데이터 전처리로 작은 모델을 도메인에 맞추는 법
1억 3500만 파라미터 모델을 논문 도메인에 맞춰 연속 사전학습(CPT)하는 과정을 데이터 전처리, LoRA vs 전체 파인튜닝, 평가 지표, 과적합 대응까지 실험 중심으로 정리했습니다.
핵심 내용 읽기 →
LLM 파인튜닝 완전정복: 자기지도·지도·강화학습과 LoRA 효율화
GPT-3 같은 기반 모델을 특정 용도에 맞게 다듬는 파인튜닝의 개념과 세 가지 방식, 그리고 적은 파라미터로 학습하는 LoRA 기법을 예제 코드 흐름과 함께 정리했다.
핵심 내용 읽기 →
LoRA 저순위 적응이란? 발명자 에드워드 후가 설명하는 LLM 효율적 미세조정
LoRA(저순위 적응)를 발명한 에드워드 후가 탄생 배경과 작동 원리를 직접 설명한다. 1TB 체크포인트를 25MB로 줄이면서도 전체 미세조정 성능을 유지하는 비결을 정리했다.
핵심 내용 읽기 →
LLM 파인튜닝 쉽게 이해하기: LoRA·QLoRA와 RAG 차이
전이학습 비유로 시작해 파인튜닝과 RAG의 차이, 전체·PEFT 파인튜닝, LoRA와 QLoRA(양자화)의 원리, Unsloth로 라마 모델을 실제로 미세조정하는 흐름까지 정리했습니다.
핵심 내용 읽기 →
LLM 파인튜닝 단계별 가이드 — 내 문체 학습시키기, RAG와의 차이
파인튜닝은 AI에게 지식이 아니라 ‘행동’을 가르치는 일이다. 트위터·유튜브 대본을 학습 데이터로 만들어 내 말투를 따라 하는 모델을 만드는 과정을, JSONL 변환부터 에폭·비용까지 단계별로 정리했다.
핵심 내용 읽기 →
LLM 파인튜닝 방법론 총정리: 사전학습 vs 사후학습, PEFT, 강화 파인튜닝
파인튜닝이 무엇이고 언제 가능한지, LoRA·QLoRA 같은 PEFT와 RLHF·DPO 등 강화 파인튜닝까지 LLM 파인튜닝 방법론을 한 번에 정리한다.
핵심 내용 읽기 →
InstructLab로 LLM 파인튜닝: 노트북에서 도메인 특화 AI 모델 만드는 법
범용 LLM을 내 업무 분야 전문가로 바꾸는 파인튜닝 과정을, 개발자가 아니어도 노트북에서 따라 할 수 있게 오픈소스 InstructLab 사례로 풀어 설명한다.
핵심 내용 읽기 →
AI 파인튜닝 입문 가이드: 프롬프트·RAG와 무엇이 다른가, LoRA·GPU 선택까지
자기 채널 자막으로 오픈소스 모델을 파인튜닝해 '자기 말투'를 입힌 엔지니어가, 파인튜닝이 프롬프트·RAG와 어떻게 다른지, LoRA 원리와 데이터 준비·GPU 선택까지 5단계 파이프라인으로 솔직하게 정리했다.
핵심 내용 읽기 →
LLM 파인튜닝이란? RAG와의 차이, LoRA·QLoRA까지 쉽게 정리
전이 학습 비유로 풀어보는 LLM 파인튜닝의 개념과, RAG와의 비용·품질 차이, 베이스 모델과 인스트럭트 모델, 전체 파인튜닝과 LoRA·QLoRA의 차이를 codebasics 영상으로 설명합니다.
핵심 내용 읽기 →