위키로 담고, RAG로 찾고,
그래프로 잇고, 온톨로지로 다듬기
개념 40분 + 실습 50분 — 끝나면 폴더에 쓸 만한 파일 5개가 남습니다.
이 문서 폴더를 읽고, 신입도 이해할 수 있게 답해줘. 근거가 없으면 없다고 말해줘.
이 한마디가 제대로 통하게 문서를 만드는 것이 오늘의 목표입니다.
LLM은 똑똑한 신입사원입니다 — 단, 우리 회사 일은 하나도 모릅니다. 모르면 지어냅니다.
이 폴더의 문서만 근거로 답해줘. 답마다 [파일명#제목] 형태로 출처를 달고, 문서에 없는 내용이면 추측하지 말고 "근거 없음"이라고 말해줘. 질문: ○○
파이썬 문법, 마케팅 이론, 통계, 영어 작문, 세상의 상식 — 인터넷에 공개된 일반 지식은 웬만한 전문가 수준.
우리 팀 프로젝트 이름, 사내 용어와 약어, 지난달 회의에서 결정된 것, 누가 무엇을 담당하는지 — 회사 안의 지식은 0.
# 근거 문서 없이 물어보면… 나: P-100 프로젝트 담당자가 누구야? AI: P-100 프로젝트는 김민수 책임이 리드하고 있으며, 2025년 3분기에 시작된 것으로 알려져 있습니다. → 전부 지어낸 말. 그런데 말투는 확신에 차 있음.
왜? LLM은 "가장 그럴듯한 다음 말"을 만드는 기계입니다. 근거가 없을수록 더 유창하게 창작합니다.
이것이 환각(hallucination) — 지식 문제이지, 지능 문제가 아닙니다.
학습 때 수조 개 단어에서 흡수한 지식. 고정되어 있고, 학습 마감일(knowledge cutoff) 이후는 모릅니다.
고치려면? → 재학습·파인튜닝. 느리고 비쌉니다.
대화창(컨텍스트)에 넣어준 문서·데이터. 즉시 반영되고, 출처가 분명하고, 우리가 통제합니다.
약점은 하나 — 창의 크기에 한계가 있다는 것.
컨텍스트 창 자체를 아껴 쓰는 법은 컨텍스트 — AI 에이전트의 작업 책상에서 다룹니다.
| 방법 | 하는 일 | 강점 | 한계 |
|---|---|---|---|
| ① 통째로 넣기 | 문서 전체를 컨텍스트에 첨부 | 가장 단순·정확. 문서가 적으면 이걸로 끝 | 컨텍스트 한계, 매번 비용 |
| ② RAG 검색해서 넣기 | 질문과 관련된 조각만 검색해 주입 | 문서가 아무리 많아도 OK, 항상 최신 | 검색이 틀리면 답도 틀림 |
| ③ 파인튜닝 | 모델 가중치 자체를 재학습 | 말투·형식·도메인 문체 학습 | 사실 지식 주입엔 비효율, 갱신마다 재학습 |
순서: ①부터. 문서 수십 개까지는 ①이 가장 정확합니다. 넘치기 시작하면 ②로 — ③은 거의 쓸 일이 없습니다.
지식을 담는 그릇. 사람과 AI가 함께 읽는 문서를 어떻게 쓰는가.
필요한 만큼만 찾아서 먹이기. 임베딩·벡터 DB·청킹이 여기 등장.
지식을 점과 선으로 잇기. "누가 무엇과 연결되나"에 답하는 법.
용어와 규칙의 설계도. 같은 것을 같은 이름으로 부르게 하기.
앞이 부실하면 뒤는 소용없습니다. 대부분의 팀은 위키와 RAG까지면 충분합니다. 후반부 실습 5개로 전부 직접 만듭니다.
여기서 "위키"는 위키 프로그램이 아니라 잘 정리된 문서 폴더를 뜻합니다.
# 아폴로 프로젝트 > 상태: 진행중 · 담당: 김민수 · 2026-07-01 ## 개요 스마트팩토리 TF의 예지보전 시스템. ## 결정사항 - 납품처: [ACME](./acme.md) - 1차 오픈: 9월 15일
✅ 구조가 곧 글자 — 제목·표·링크를 기호 몇 개로 표현 (워드·PPT보다 훨씬 가벼움)
✅ AI가 가장 익숙한 형식 — 대부분의 AI가 마크다운으로 읽고 마크다운으로 답합니다
✅ git으로 이력 관리 — 누가 언제 무엇을 바꿨는지 남고 되돌릴 수 있습니다
✅ 어디서나 보임 — GitHub, 옵시디언, 사내 위키…
💬 기존 문서 변환도 AI에게 — 스캔 이미지·녹음은 먼저 글자로
이 폴더의 워드/PPT/PDF 문서를 전부 마크다운으로 변환해줘. 표는 마크다운 표로, 이미지는 내용을 설명하는 텍스트로.
# → ## → ### 를 성실하게. 나중에 문서를 자를 때(청킹) 이 경계가 칼자국이 됩니다.
"이것저것 정리.md" ❌ — 주제가 섞이면 검색도, 갱신도, 인용도 애매해집니다.
"위에서 말한 그 방식" ❌ → 이름·날짜·결정을 그 자리에. 한 섹션만 오려 읽어도 말이 되게.
작성일 · 담당 · 상태를 맨 위에. AI는 3년 전 규정과 어제 규정을 스스로 구분하지 못합니다.
> 상태: 확정 · 담당: 김민수 · 2026-07-01
직접 다 고칠 필요는 없습니다 — 규칙을 주면 고치는 건 AI가 합니다 (실습 1).
# wiki/INDEX.md — 문서마다 제목 + 한 줄 요약 ## 프로젝트 - [아폴로 소개](apollo.md) — 예지보전 시스템, PM 김민수 - [아폴로 결정사항](apollo-decisions.md) — 1차 오픈 9/15 ## 장비 - [검사장비A 점검](equip-a.md) — 주간 점검 절차 ## 규정 - [연차 신청](leave.md) — 2026 개정판 (2024판은 폐기)
새 팀에 온 사람이 온보딩 문서부터 찾듯, 에이전트도 목차부터 읽고 무엇을 열지 고릅니다.
"INDEX.md부터 볼 것 · 답마다 출처 파일 · 근거 없으면 '문서에 없음'"
웹사이트라면 같은 역할로 /llms.txt를 두는 관례도 있습니다.
잘 정리된 위키도 커지면 통째로는 못 먹입니다.
컨텍스트 창 (~100만 토큰)
팀 위키 전체 (문서 1,000개 ≈ 300만 토큰)
Retrieval-Augmented Generation(검색 증강 생성) — 외우게 하지 말고 오픈북 시험을 보게 합니다.
질문과 관련된 문서 조각을 지식 창고에서 찾는다
찾은 조각을 프롬프트에 근거로 끼워 넣는다
근거를 보며 답한다 — 출처를 달 수 있고 지어내기가 줄어든다
임베딩 모델이 문장을 숫자 목록(벡터)으로 바꿉니다 — 수백~수천 개의 좌표값.
의미가 비슷하면 좌표가 가깝습니다.
"휴가 규정"과 "연차 신청"은 단어가 달라도 이웃.
검색 = "질문의 좌표에서 가장 가까운 문서 조각 찾기"라는 기하학 문제가 됩니다.
📥 저장할 때 (인덱싱 — 미리 한 번)
위키의 .md 파일들
조각으로 자르기
조각마다 좌표 계산
좌표+원문+출처 저장
📤 질문할 때 (검색 — 매번)
"휴가 규정?"
질문도 좌표로
가장 가까운 조각 K개 (유사도 점수순)
조각을 근거로 답변
도구 이름들 — Chroma FAISS pgvector Pinecone 지금은 이름만 알면 충분합니다. 코사인 유사도 = "두 좌표의 방향이 얼마나 비슷한가"를 점수 하나로 만든 것.
조각 하나에 주제 셋 — 상관없는 내용까지 딸려 들어가 초점이 흐려집니다.
"그 정책은 즉시 시행한다."
…무슨 정책이? 누가? — 문맥이 잘려나가 조각만으론 무의미.
제목(##) 경계로 자르기 — 사람이 설계한 의미 단위가 그대로 조각이 됩니다.
실전 팁: 조각마다 출처(파일명·섹션 경로·날짜)를 함께 저장 — 인용과 최신성 판단의 재료.
질문 "휴가 규정 알려줘" ↔ 문서 "연차 신청 절차" · "휴무일 안내" — 겹치는 단어가 없습니다.
| 방식 | 원리 | 강한 곳 | 약한 곳 |
|---|---|---|---|
| 키워드 grep · BM25 | 단어가 실제로 등장하는 곳 | 고유명사 · 코드 · 오류메시지 · 정확한 식별자 | 동의어, 말바꿈 |
| 벡터 임베딩 | 의미가 가까운 곳 | 동의어 · 개념 질문 · 다국어 | "P-100" 같은 정확한 식별자 |
| 하이브리드 | 둘 다 돌리고 합산 (+재순위화) | 실무 기본값 — 서로의 구멍을 메움 | |
정답 조각이 Top-K에 못 듦.
→ 처방: 하이브리드 검색, 질문 재작성, K 늘리기
잘린 조각에 "누가·언제·어느 프로젝트"가 없음.
→ 처방: 자기완결 섹션 + 조각에 메타데이터 부착
3년 전 규정이 검색 1위로.
→ 처방: 날짜 명시, 폐기 문서 표시(deprecated), 최신순 가중치
"우리 팀 프로젝트 전체의 리스크를 요약해줘" — 조각 5개로는 전체를 못 봅니다.
→ 처방: 다음 챕터에서 👉
1~3번의 처방은 결국 CH 2(위키)로 돌아가기 — 검색 설정보다 문서 정리가 먼저인 경우가 많습니다.
질문 → 검색 1회 → 답변.
고정된 배관 — 검색이 빗나가면 그대로 오답.
에이전트가 질문을 쪼개고, 검색하고, 부족하면 다시 검색하고, 원문을 읽어 교차 확인한 뒤 답변.
# 에이전트의 실제 행동 로그 (축약) grep "휴가" → 0건. 검색어를 바꿔본다 grep "연차" → 3건. policy/leave.md 발견 → 전체 읽기 문서 상단: "2026 개정판이 최신" → 개정판을 다시 찾아 읽음 → 근거 2건 인용해 답변
그래도 기본기는 그대로 — 에이전트도 정리된 창고에서 더 빨리, 더 정확히 찾습니다. 문서 수백 개까지는 벡터 DB 없이 이것으로 충분한 경우가 많습니다.
"ACME에 영향을 주는 진행 중 프로젝트와 담당자를 전부 알려줘"
RAG의 대답: 가장 유사한 조각 5개… 어딘가의 문서 조각에는 전체 그림이 없습니다. 연결 관계는 여러 문서에 흩어져 있으니까요.
지식 그래프 = 개체(점)와 관계(선)로 지식을 표현한 것. 흩어진 사실이 걸어갈 수 있는 길이 됩니다.
그래프는 트리플(triple)이라는 3요소 문장의 모음입니다.
# 회의록의 한 문장
"아폴로 프로젝트는 김민수 책임이 PM을 맡고, ACME에 납품된다."
"이서연과 ACME의 접점은?"
이서연 →(개발)→ 아폴로 →(납품)→ ACME
두 다리 건너면 답 — multi-hop 질문.
"검사장비A를 교체하면 뭐가 영향받지?"
장비 노드에서 선을 거꾸로 따라가면 프로젝트·고객·담당자가 줄줄이.
"진행 중 프로젝트 전부와 담당자 목록"
조각 검색이 아니라 그래프 순회 — 빠짐없이 나옵니다.
팀 위키 (원천은 언제나 문서)
개체·관계(트리플)를 자동 추출
+ 군집별 요약문 미리 생성
그래프 탐색 + 조각 검색을 함께 사용
"전체 종합" 질문이 풀림 — 세부 질문은 조각 검색으로, 조망 질문은 그래프·군집 요약으로.
구축 시 문서 전체에 LLM 호출 — 비용과 시간. 문서가 바뀌면 그래프도 갱신해야 합니다.
Microsoft가 2024년 공개한 GraphRAG가 이 조합을 널리 알렸습니다.
# 같은 회사, 같은 대상, 문서 셋 회의록: "고객사 ACME 요청사항…" 계약서: "거래처 ACME와의 계약…" 주간보고: "클라이언트 측 피드백…" # 상태 표기도 제각각 "완료" vs "종결" vs "Done" vs "✅"
사람은 눈치로 통일해서 읽습니다.
LLM은 셋을 다른 개념으로 취급할 수 있습니다.
그래프를 만들면? — "고객사 ACME"와 "거래처 ACME"가 노드 2개로 쪼개져 연결이 끊깁니다.
아래에서 위로 갈수록 기계가 할 수 있는 일이 늘어납니다. (전부 오를 필요는 없습니다)
물건을 서랍에 — projects/apollo/회의록_0701.md. 위치가 곧 의미.
한 문서에 라벨 여러 개 — #아폴로 #보안 #결정사항. 서랍 여러 개에 동시에.
위계가 있는 분류 체계 — 장비 > 검사장비 > 비전검사기. "상위 개념"이 생김.
분류 + 관계 + 제약 — "프로젝트는 반드시 PM 1명을 갖는다", "장비는 프로젝트에 사용된다". 규칙 검사와 추론이 가능해짐.
대부분의 팀은 1~2단에 있습니다. 오늘은 4단의 미니 버전(용어사전 + 규칙 두 줄)만 맛봅니다.
| 부품 | 뜻 | 예 |
|---|---|---|
| 클래스 | 개념의 종류 | 사람, 프로젝트, 고객사 |
| 인스턴스 | 실제 개체 | 김민수, 아폴로, ACME |
| 속성 | 개체가 갖는 값 | 사번, 마감일, 상태 |
| 관계 | 개체 사이의 연결 | 담당한다, 납품한다 |
| 제약 | 지켜야 할 규칙 | PM은 정확히 1명 |
# ontology.yaml — 미니 온톨로지 (발췌) classes: 프로젝트: 속성: [이름, 상태, 마감일] 제약: - 담당 PM은 정확히 1명 - 상태는 [준비, 진행중, 완료] 중 하나 relations: - 사람 --(담당한다)--> 프로젝트 - 프로젝트 --(납품된다)--> 고객사
형식은 자유 — 핵심은 사람도 AI도 읽는 한 장의 약속. RDF·OWL·SPARQL 같은 표준은 바깥 기관과 데이터를 주고받을 때 필요해지면 그때.
문서에서 트리플을 뽑을 때 — "이 클래스와 관계만 사용해". 들쭉날쭉하던 추출이 일관해집니다.
제약 위반을 자동 검출 — "PM 없는 프로젝트를 찾아줘", "상태 값이 규정 밖인 문서는?"
용어사전을 컨텍스트에 넣으면 답변 용어가 통일 — "거래처"라고 물어도 "고객사" 기준으로 답합니다.
| 도구 | 은유 | 잘 받는 질문 | 시작 비용 |
|---|---|---|---|
| 📚 LLM 위키 | 지식의 그릇 | "~가 뭐야? 어떻게 해?" (내용 질문 전부의 원천) | 낮음 오늘 시작 가능 |
| 🔍 RAG | 사서(司書) | "~어디 있었지? 뭐라고 돼 있지?" | 낮음 에이전트면 즉시 |
| 🕸️ 지식 그래프 | 지도 | "~와 ~의 관계는? 전체 목록은? 영향 범위는?" | 중간 추출+검수 필요 |
| 📐 온톨로지 | 문법책 | (질문보다) 위 셋의 품질을 끌어올림 | 중간 용어사전부터 |
중요 문서 10개를 마크다운으로 + INDEX.md + 답변 규칙 3줄
일상 질문을 에이전트에게 — 이것이 이미 RAG
담당·영향 질문만 그래프로
GLOSSARY.md + 규칙 몇 줄
| 다음 칸으로 가는 신호 | 그때 할 일 |
|---|---|
| 문서가 수백 개라 통째로 넣으면 느리고 흐려진다 | 에이전트 검색 → 그래도 부족하면 검색 인덱스 |
| "누가·무엇이 연결되나" 질문이 매주 나온다 | 개체 4~5종·관계 4~5종으로 관계 지도 |
| 같은 대상을 다른 이름으로 불러 답이 갈린다 | 용어사전 — 이건 언제든 먼저 시작해도 좋습니다 |
신호가 없으면 올라가지 않습니다. 오늘 실습이 이 네 칸의 미니어처입니다.
knowledge-lab/ ├─ wiki/INDEX.md ← 1 · 위키 (15분) ├─ CLAUDE.md ← 1 · 답변 규칙 3줄 ├─ FAQ.md ← 2 · 출처 달린 신입 FAQ (10분) ├─ team-map.html ← 3 · 담당·관계 지도 (10분) ├─ GLOSSARY.md ← 4 · 용어사전 + 점검 (10분) └─ NEXT-STEPS.md ← 5 · 우리 팀 계획 (5분)
에이전트 도구(Claude Code 등) + 빈 폴더. 임베딩·벡터 DB 설치는 필요 없습니다. 실습 1에서 가상의 팀 문서를 AI가 만들어 줍니다.
① 회사 기밀·실데이터는 사내 승인 도구에서만 — 애매하면 넣지 않는다. ② API 키·비밀번호는 코드·대화·커밋에 남기지 않는다 — 새어 나갔다면 재발급. ③ 회사 정책이 이 자료보다 우선한다. → 보안 덱
배우는 것 — 정리는 AI가, 규칙은 사람이. 4원칙을 규칙으로 주면 위키가 됩니다.
knowledge-lab 폴더를 만들고, 가상의 "스마트팩토리 TF" 문서 6개를 만들어줘: 회의록 2개(결정사항 포함), 아폴로 프로젝트 소개, 검사장비A 점검 매뉴얼, 신입 온보딩 메모, 2년 전 낡은 규정 1개. 일부러 문제를 심어줘 — 고객사 ACME를 "고객사/거래처/클라이언트"로 섞어 부르고, 담당자 정보는 여러 문서에 흩고, 휴가는 "연차"라는 말로만, "그 건" 같은 대명사도 넣어줘. 그다음 wiki/에 위키로 다시 써줘 — 맨 위 날짜·담당·상태, 한 문서 한 주제, 대명사 대신 고유명사, 낡은 규정과 모순되는 곳엔 "폐기됨" 표시, wiki/INDEX.md에 문서별 한 줄 요약. 마지막으로 CLAUDE.md에 세 줄만: INDEX.md부터 볼 것 · 답마다 출처 파일 · 근거 없으면 "문서에 없음".
✅ 완료 기준 — 눈으로 확인
🆘 막히면
배우는 것 — "없으면 없다고" 한 줄이 지어내기를 막습니다. 단어가 달라도 찾는 것이 RAG입니다.
(새 세션에서 knowledge-lab을 열고 하나씩) ① 아폴로 프로젝트 PM이 누구야? ② 우리 팀 보너스 지급 규정 알려줘. ③ 휴가 규정 알려줘. ④ wiki/만 근거로, 신입이 자주 물을 질문 10개와 답을 FAQ.md로 만들어줘. 답마다 [파일명#제목] 출처를 달고, 근거가 없는 질문은 빼줘.
✅ 완료 기준 — 눈으로 확인
🆘 막히면
배우는 것 — 점과 선으로 이으면 "이걸 바꾸면 누가 영향받나"에 빠짐없이 답합니다. 그리고 용어가 다르면 지도가 끊깁니다.
wiki/ 전체에서 (주어, 관계, 목적어) 트리플을 뽑아 triples.csv로 저장해줘. 개체는 사람·프로젝트·고객사·장비 4종, 관계는 담당한다·납품한다·사용한다·결정했다 4종만 허용하고, 줄마다 근거 문서를 적어줘. 그다음 이 관계를 그린 team-map.html을 만들어 열어줘 — 종류별로 색을 다르게, 인터넷 연결 없이 열리는 파일 하나로. 마지막으로 triples.csv만 보고 답해줘: 검사장비A를 바꾸면 영향받는 프로젝트·고객사·담당자는?
✅ 완료 기준 — 눈으로 확인
🆘 막히면
배우는 것 — 같은 것을 같은 이름으로 부르게 하면 검색·지도·답변이 한꺼번에 좋아집니다 — 온톨로지의 최소 버전.
① wiki/에서 같은 대상을 다르게 부르는 말을 찾아 GLOSSARY.md를 만들어줘 — 대표어·동의어·한 줄 정의. ② GLOSSARY.md 아래에 규칙 두 줄을 적어줘: "프로젝트에는 PM이 정확히 1명" · "상태는 준비/진행중/완료 중 하나". ③ 이 기준으로 triples.csv와 team-map.html을 다시 만들고, 전/후 점(노드) 수를 비교해줘. ④ 규칙을 어기는 문서를 찾아 목록으로 보여줘. ⑤ CLAUDE.md에 한 줄 추가: "용어는 GLOSSARY.md 기준".
✅ 완료 기준 — 눈으로 확인
🆘 막히면
배우는 것 — 시스템이 아니라 순서. 이번 주엔 문서 10개.
우리 팀 지식 정리를 시작하려고 해. 먼저 나에게 다섯 가지를 하나씩 물어봐: 문서 수와 위치 · 자주 받는 질문 3개 · 보안 등급 · 쓸 수 있는 사내 승인 도구 · 함께할 사람. 내 답을 바탕으로 NEXT-STEPS.md를 써줘 — 이번 주에 옮길 문서 10개를 고르는 기준, 첫 INDEX.md 목차 초안, 그리고 "검색·관계 지도·용어사전이 필요해지는 신호"를 단계별로.
✅ 완료 기준 — 눈으로 확인
🆘 막히면
같은 내용이 저장소의 knowledge/README.md에도 정리돼 있습니다 — 복사해서 쓰세요.
질문은 화면 아래 입력창으로 💬
다음으로 — 컨텍스트 — 작업 책상 · CLAUDE.md · 스킬 · 사내 도구와 연결하기 · 위키를 git으로 관리