AI 용어 7가지 정리: 에이전트, RAG, MCP, MoE, ASI 쉽게 이해하기

핵심 메시지

• 에이전트형 AI는 한 번에 한 프롬프트에만 답하는 챗봇과 달리, 인식·추론·행동·관찰을 반복하며 자율적으로 목표를 달성한다.
• 추론 모델(large reasoning model)은 검증 가능한 정답이 있는 문제로 강화학습을 거쳐, 답하기 전에 단계별 사고 사슬을 만든다.
• 벡터 데이터베이스와 RAG는 데이터를 임베딩 벡터로 바꿔 의미적으로 유사한 내용을 찾아 프롬프트를 보강한다.
• MCP(모델 컨텍스트 프로토콜)는 LLM이 외부 도구·데이터에 연결되는 방식을 표준화해, 도구마다 일회성 연결을 만들 필요를 없앤다.
• MoE는 모델을 여러 전문가로 나눠 필요한 전문가만 활성화하므로, 전체 파라미터가 많아도 추론 시 일부만 사용해 효율적이다.

쉽게 이해하기

AI는 어디에나 있고, 동시에 너무 빠르게 변해 업계 종사자조차 따라잡기 어렵다. 이 영상은 IBM이 '지금 익혀둘 만한' AI 용어 일곱 가지를 골라 차례로 설명한다. 첫 번째는 에이전트형 AI다. 에이전트는 환경을 인식하고, 다음 최선의 단계를 추론하고, 계획을 실행한 뒤 결과를 관찰하는 과정을 반복하며 자율적으로 목표를 향해 움직인다. 여행 예약 도우미, 분기 보고서의 추세를 찾는 데이터 분석가, 로그 이상을 감지해 컨테이너를 띄우고 잘못된 배포를 되돌리는 데브옵스 엔지니어 역할까지 맡을 수 있다.

두 번째는 대형 추론 모델이다. 이는 추론에 초점을 맞춰 미세조정된 특수한 LLM으로, 곧바로 답을 내놓는 일반 LLM과 달리 문제를 단계별로 풀도록 훈련된다. 수학 문제나 컴파일러로 검증 가능한 코드처럼 '정답을 확인할 수 있는' 문제로 강화학습을 하며, 정답에 이르는 추론 과정을 스스로 생성하는 법을 배운다. 챗봇이 답하기 전에 '생각 중'이라고 멈추는 순간이 바로 이 내부 사고 사슬이 작동하는 때다.

세 번째와 네 번째는 한 묶음이다. 벡터 데이터베이스는 텍스트나 이미지를 원본 그대로 저장하는 대신, 임베딩 모델로 의미를 담은 숫자 목록(벡터)으로 바꿔 저장한다. 덕분에 검색을 수학 연산으로 처리해 의미가 가까운 콘텐츠를 찾을 수 있다. RAG(검색 증강 생성)는 이 벡터 검색을 이용해, 사용자의 질문과 의미적으로 가까운 내용을 데이터베이스에서 꺼내 프롬프트에 끼워 넣는다. 예컨대 회사 정책을 물으면 직원 안내서의 관련 부분을 찾아 답변 근거로 보강한다.

다섯 번째는 MCP, 모델 컨텍스트 프로토콜이다. LLM이 진짜로 쓸모 있으려면 외부 데이터·서비스·도구와 연결돼야 하는데, MCP는 애플리케이션이 LLM에 컨텍스트를 제공하는 방식을 표준화한다. 데이터베이스, 코드 저장소, 이메일 서버 같은 외부 시스템에 연결할 때 개발자가 매번 일회성 연결을 만드는 대신, MCP 서버를 통해 표준화된 방식으로 접근하게 해준다.

여섯 번째는 전문가 혼합(MoE)이다. 1991년 논문으로 거슬러 올라가는 개념이지만 지금 가장 주목받는다. MoE는 모델을 여러 전문가(특화된 신경 하위망)로 나누고, 라우팅 메커니즘으로 특정 작업에 필요한 전문가만 활성화한 뒤 그 출력을 합친다. 전체 파라미터는 수십억 개라도 토큰마다 일부 전문가만 쓰므로, 연산 비용을 비례해서 늘리지 않고도 모델 규모를 키울 수 있다. 마지막 일곱 번째는 ASI(초지능)로, 모든 프런티어 연구소의 목표지만 아직 순수하게 이론적이다.

주요 인사이트

• 에이전트의 본질은 '자율성'이다. 단발성 응답을 넘어 인식–추론–행동–관찰의 순환을 돌며 여러 단계의 작업을 스스로 계획하고 수행한다.
• 추론 모델이 강한 이유는 검증 가능한 정답이 있는 문제로 강화학습을 했기 때문이며, 이 능력이 다단계 작업을 계획하는 에이전트의 토대가 된다.
• RAG의 힘은 벡터 데이터베이스에서 나온다. 데이터를 임베딩으로 바꿔 의미적 유사도로 검색하기 때문에, 단순 키워드 매칭을 넘어 맥락에 맞는 근거를 찾아낸다.
• MCP는 '통합의 표준화'다. 도구마다 맞춤 연결을 만들던 비용을 없애, AI가 외부 시스템에 붙는 방식을 일관되게 만든다.
• MoE는 효율적 확장의 열쇠다. IBM Granite 4.0처럼 수십 개의 전문가를 두되 토큰마다 필요한 전문가만 활성화해, 총 파라미터는 크게, 추론 비용은 작게 유지한다.

자주 묻는 질문

관련 AI 소식