본문 바로가기

전체 글35

학습 노트 #4 - "당신은 전문가입니다"가 진짜로 하는 일 — 프롬프트 역할 부여의 원리 AI에게 뭔가를 시킬 때 이런 문장으로 시작해본 적 있으신가요?"당신은 10년 차 마케팅 전문가입니다."신기하게도 이 한 줄을 붙이면 답변이 달라집니다.더 전문적이고, 더 그럴듯해지죠. 그래서 인터넷에는 "AI에게 역할을 부여하세요!"라는 팁이 넘쳐납니다.그런데 저는 이게 계속 찜찜했어요. 왜 통하는 걸까요? AI가 그 역할에 몰입하기라도 하는 걸까요? 결론부터 말하면, 아닙니다. 그리고 이 원리를 알고 나면 두 가지가 따라옵니다.첫째, 더 이상 프롬프트 팁을 외울 필요가 없어집니다.둘째, 역할 부여가 언제 안 통하는지도 예측할 수 있게 됩니다. 두 번째가 훨씬 중요합니다. 1. AI는 매 순간 '확률표'를 만든다먼저 알아야 할 게 하나 있습니다. AI 언어 모델이 하는 일은 생각보다 단순합니다.지금까지.. 2026. 8. 31.
학습 노트 #3 - MCP는 API를 감싼 게 아닙니다 — 3일 만에 뒤집은 나의 오해 "MCP요? API를 AI가 쓰기 편하게 감싼 거잖아요."며칠 전까지 제 대답이 이랬습니다. 반은 맞았고, 반은 틀렸습니다. 그리고 그 틀린 절반이, MCP 서버를 직접 만들 때 성패를 가르는 부분이었습니다.이 글은 제가 Claude Code에 MCP 서버를 붙이면서 뒤집힌 이해를 정리해봤습니다.MCP(Model Context Protocol): AI가 외부 도구·데이터에 연결할 수 있도록 Anthropic이 만든 개방형 표준.1. 쉬워진 건 개발자가 아니라 AI"API를 쉽게 쓰게 감쌌다"는 말에는 숨은 주어가 있습니다. 누구에게 쉬워졌을까요?저는 개발자라고 생각했습니다. 아니었습니다.일반 API 문서를 떠올려봅시다. 사람이 읽으라고 쓰여 있습니다. 개발자가 읽고 → 이해하고 → 코드를 짜면, 그 문서.. 2026. 8. 28.
학습 노트 #2 — 확률적 생성과 환각(Hallucination) 1단계: LLM 작동 원리 핵심 | 학습일: 2026-08-24한 줄 요약LLM은 "다음 토큰의 확률 분포"를 계산해 하나씩 뽑아 이어붙이는 기계이며, 목표가 진실이 아니라 "그럴듯함"이기 때문에 환각은 버그가 아니라 구조의 필연적 부산물이다.핵심 개념다음 토큰 예측 (Next Token Prediction)LLM이 하는 일의 본질: 지금까지의 토큰 시퀀스 → 다음 토큰의 확률 분포 출력긴 답변 = 이 과정을 반복하는 루프. 문단을 미리 계획하는 게 아니라 토큰 하나 뽑고, 그걸 포함해 다시 예측하는 연속// LLM의 본질fun predictNext(tokens: List): Map // {토큰ID -> 확률}// 생성 = 반복 호출 루프fun generate(prompt: List): List { .. 2026. 8. 24.
학습 노트 #1 — 토큰과 컨텍스트 윈도우 1단계: LLM 작동 원리 핵심 | 학습일: 2026-08-20한 줄 요약LLM은 텍스트를 "토큰" 단위로 처리하며, 한 번에 볼 수 있는 토큰의 총량(컨텍스트 윈도우)이 정해져 있다 — 그리고 그 안에 없는 것은 모델에게 존재하지 않는다.핵심 개념토큰 (Token)LLM이 텍스트를 처리하는 최소 단위. 글자도 단어도 아닌, 자주 쓰이는 글자 조합 덩어리모델은 텍스트를 직접 보는 게 아니라 토큰 → 숫자 ID로 변환된 리스트를 처리함영어 기준 1토큰 ≈ 4글자, 1,000단어 ≈ 1,500토큰한국어는 토큰 효율이 낮음 (같은 내용도 영어보다 토큰을 더 소비)// 개념적으로 토크나이저는 이런 함수fun tokenize(text: String): List// "안녕하세요" -> [15234, 8871, 99.. 2026. 8. 20.