TRENDSHIFT #23 · 2026.06.11

PaperGuru-AI/PaperGuru-Benchmark 딥다이브
— LLM 에이전트의 "장기 기억"을 네 번째 기본 부품으로 제안한 벤치마크

긴 작업(long-horizon)을 수행하는 LLM 에이전트에게 "생애주기를 아는 장기 기억(Lifecycle-Aware Memory)"이라는 빠진 부품을 제안하는 프로젝트다. 핵심 아이디어는 Capital Chunk Memory(CCM)라는 메모리 구조와, 그 효과를 두 벤치마크(PaperBench·SurveyBench)에서 입증했다는 결과 모음이다. 중요한 사실 먼저 — 이 저장소는 돌아가는 프레임워크가 아니다. 실제 알맹이는 논문 PDF 한 편이고, 저장소 대부분은 논문(LaTeX)·재현 결과·생성된 서베이 문서다. 그래서 이 문서는 "코드를 깔아 쓰는 법"이 아니라, 이 레포가 던지는 메모리 설계 개념(4대 공리·그래프 라우팅·출처 추적)을 배우고, 동시에 자가보고된 벤치마크 수치를 비판적으로 읽는 법까지 익히는 데 초점을 둔다. (저장소: PaperGuru-AI/PaperGuru-Benchmark · ★19 · Fork 0 · 커밋 3개 · TeX 81.6% / Python 13.3% · ~350MB · MIT 라이선스 · TrendShift 23위)
목차
  1. 프로젝트 한줄 요약
  2. 왜 주목받는가
  3. 기술 스택 전체 지도
  4. 아키텍처 심화 분석 (CCM)
  5. 디렉토리 구조 해부
  6. 학습 포인트 (개념별)
  7. 하드웨어 / 시스템 요구사항
  8. 직접 해볼 수 있는 실습 과제
  9. 관련 기술 심화 학습 로드맵
  10. 핵심 키워드 사전
  11. 참고 링크

1프로젝트 한줄 요약

이 레포가 무엇을 주장하는 물건인가.

핵심 메시지

"AI 인프라엔 연산·모델·검색이라는 세 부품이 있다.
네 번째로 빠진 부품 — 생애주기를 아는 '장기 기억' — 을 채우겠다."

PaperGuru의 주장은 단순하다. 오늘날 AI 인프라는 연산(NVIDIA GPU) · 모델(프런티어 LLM 가중치) · 검색(Pinecone류 벡터DB)이라는 세 가지 표준 부품 위에 서 있는데, 정작 "오래 가는 작업이 회차를 넘나들며 무엇을 기억하고 무엇을 버려야 하는가"를 다루는 네 번째 부품이 없다는 것이다. 모든 장기 에이전트가 이 기억 계층을 매번 엉성하게 다시 만든다. PaperGuru는 이 빠진 부품을 Lifecycle-Aware Memory(LAM)라 이름 붙이고, 그 구체적 구현으로 Capital Chunk Memory(CCM)를 제시한다.

PaperGuru는 자기소개에서 "또 하나의 RAG 라이브러리도, 또 하나의 에이전트 프레임워크도 아니다"라고 선을 긋는다. 대신 장기 기억(long-term memory)이라는 시스템 기본 요소를 4개의 공리(axiom)로 형식화하고, 그 4개를 하나의 메커니즘(CCM)으로 동시에 만족시킨다고 말한다. 그리고 그 효과를 "논문→코드 재현" 벤치마크(PaperBench)와 "장문 서베이 작성" 벤치마크(SurveyBench)에서 최고 성능(SOTA)으로 증명했다고 주장한다.

용어
long-horizon agent (장기 작업 에이전트)
한 번의 프롬프트-응답으로 끝나지 않고, 여러 날·수백 단계에 걸쳐 진행되는 LLM 작업. 예: 수백 개 파일을 건드리는 다일(多日) 소프트웨어 개발, 10년치 인용 그래프에서 20만 토큰 서베이를 쓰는 연구 보조, 논문 PDF를 실행 가능한 코드 트리로 바꾸는 재현 에이전트. 이런 작업의 성능 한계는 더 이상 "모델이 얼마나 똑똑한가"가 아니라 "회차 사이에 무엇을 기억하고 끌어오는가"가 결정한다는 게 이 레포의 전제다.
용어
Lifecycle-Aware Memory (LAM, 생애주기 인식 기억)
정보에는 "생애주기"가 있다는 관점. 어떤 사실은 한때 옳았지만 개정·폐기·철회되면 낡은 정보(stale)가 된다. 기억 계층이 이 변화를 알아야 한다는 것. PaperGuru는 이를 4개 공리(버전 관리·다중홉 관련성·비용 상한·출처 근거)로 정의한다(아래 2번 항목에서 상세).
먼저 짚고 갈 것 — 과대광고 경보
이 저장소는 "돌아가는 CCM 코드"가 아니라 결과·논문 모음이다

저장소 구성은 TeX 81.6% + Python 13.3%인데, 그 Python조차 그래프(figure)를 다시 그리는 스크립트일 뿐 CCM 본체가 아니다. 즉 "메모리 시스템을 설치해 써보는" 코드는 없고, 메커니즘은 paper/PaperGuru-CCM.pdf 안에 글로만 설명돼 있다. 게다가 ★19 · 포크 0 · 커밋 3개로 채택 실적이 아니라 소셜 멘션으로 트렌딩한 신생 레포이며, 66.05%·94.66% 같은 수치는 모두 저자 자가보고이고 독립 검증되지 않았다. 그러니 이 문서는 수치를 사실로 받아들이지 않고, 개념은 배우되 주장은 의심하는 태도로 다룬다.

2왜 주목받는가

트렌딩 이유 · 기존 메모리 접근법 대비 차별점.

"LLM 에이전트의 장기 기억"은 2026년 현재 가장 뜨거운 주제 중 하나다. 컨텍스트 윈도가 18개월 만에 4K→1M 토큰으로 커졌고, 다음 이정표인 세션을 넘는 지속 기억(persistent memory)이 모든 프런티어 랩의 로드맵에 올라 있다. PaperGuru는 그 빈틈을 "네 번째 인프라 부품"이라는 강렬한 프레이밍으로 파고들었고, 자가보고이긴 하나 두 벤치마크에서 큰 폭의 SOTA 수치를 내세워 화제가 됐다. 코드를 공부하는 입장에서 진짜 배울 가치는 4개 공리라는 문제 정의에 있다.

접근법한 줄 요약약점(PaperGuru의 주장)
평면 RAG벡터 유사도 top-k 검색문서가 개정되면 즉시 깨짐 · 1홉(cosine) 검색이라 다단계 근거를 못 잡음
MemGPT류 계층메모리를 티어(tier)로 페이징버전 관리·다중홉 중 일부만 처리
망각(Ebbinghaus)오래된 기억을 감쇠"낡음"을 시간으로만 판단, 개정/철회 인과는 모름
지식그래프 래퍼KG로 관계 표현구조 관계는 잡아도 비용 상한·출처 근거는 따로
CCM (PaperGuru)자본 청크 + 시간 그래프4개 공리를 하나의 메커니즘으로 동시 충족(주장)

PaperGuru가 정의하는 LAM 4대 공리는 그 자체로 "장기 기억이 풀어야 할 문제 목록"이라 외워둘 가치가 있다.

공리 ① — 버전 관리되는 내용 (Versioned content)
한때 옳던 진술도 개정·폐기·철회되면 "낡음"이 된다 — 기억이 그걸 알아야 한다

평면 RAG는 5년 전 문장과 어제 갱신된 문장을 똑같은 무게로 끌어온다. LAM은 각 사실에 버전·상태(유효/폐기/철회)를 붙여, 낡은 근거가 답에 섞이지 않게 한다.

공리 ② — 구조적 다중홉 관련성 (Structural multi-hop relevance)
정답 근거는 "코사인 1홉" 옆이 아니라 "인용 2홉" 너머에 있다

핵심 증거는 질문과 단어가 비슷한 문서가 아니라, "그 문서가 인용한 문서"에 있을 때가 많다. LAM은 유사도 한 번이 아니라 관계(인용·구현·벤치마크)를 따라 여러 홉을 건너 근거를 찾는다.

공리 ③ — 아카이브가 무한히 커져도 쿼리 비용은 상한 (Bounded query cost)
기록은 매일 늘어나지만, 검색 비용이 그에 비례해 늘면 안 된다

장기 에이전트의 아카이브는 끝없이 자란다. 매번 전체를 훑으면 비용이 폭발한다. CCM은 "자본 청크(capital chunk)"라는 작은 라우팅 표면만 먼저 보게 해, 본문이 아무리 늘어도 라우팅 비용을 일정하게 묶어 두려 한다.

공리 ④ — 출처에 근거한 구성 (Provenance-grounded composition)
에이전트가 내놓은 모든 주장은 기억 속 검증 가능한 원본으로 되짚어져야 한다

환각(hallucination)을 막는 핵심. 출력의 문장 하나하나가 "이 근거 카드의 이 원본에서 왔다"로 추적되게 한다. 검증 단계가 출처 없는 문장을 걸러낸다.

비유 — 도서관 사서 vs 색인 카드만 든 사서

좋은 연구도서관 사서. 평면 RAG는 "제목에 키워드가 들어간 책"을 한 무더기 던져 주는 검색대다. PaperGuru가 그리는 사서는 ① 절판·개정판을 구분하고(공리1) ② "이 책이 인용한 그 책"으로 안내하며(공리2) ③ 장서가 100만 권이 돼도 카드 목록만 먼저 훑어 빠르게 좁히고(공리3) ④ "이 주장은 몇 페이지 출처"라고 짚어 준다(공리4). 네 가지를 한 사람이 동시에 해내는 사서가 CCM이라는 주장이다.

3기술 스택 전체 지도

웹앱이 아니라 "논문 + 벤치마크 + 재현 스크립트"인 연구 산출물이다.

이 레포에는 서버도 프런트엔드도 없다. 그래서 "백/프론트/인프라" 대신 ① 문서·증거 콘텐츠 ② 재현(figure 빌드) 도구 ③ CCM이 가정하는 개념적 런타임의 3축으로 보는 게 정확하다. 언어 비중(TeX 81.6% / Python 13.3% / BibTeX 4.7% / Shell 0.4%) 자체가 "이건 논문 패키지"임을 말해 준다.

① 문서 · 증거 콘텐츠 (저장소의 실체)

구성형식역할
논문 본체LaTeX / PDF (paper/PaperGuru-CCM.pdf)CCM 메커니즘과 4공리의 형식적 정의 — 알맹이는 여기 글로만 있음
PaperBench 결과실행 가능한 코드 트리 + JSON논문 23편의 재현 제출물과 채점 점수
SurveyBench 결과PDF · Markdown · LaTeX 소스생성된 서베이 20편(3중 포맷, 재빌드 가능)
수치 원본JSON (assets/figures/data.json)README 모든 표·차트의 raw 숫자
용어
LaTeX / TeX
논문·수식을 조판하는 문서 시스템. 학계 표준이라 이 레포가 TeX 81.6%라는 건 "코드 프로젝트가 아니라 학술 논문 패키지"라는 신호다. SurveyBench/latex/에 전체 소스가 들어 있어 누구나 PDF를 다시 컴파일할 수 있다는 점이 "재현 가능성"의 근거로 제시된다.

② 재현 도구 — 단출한 파이썬

README의 모든 데이터 차트는 단 하나의 스크립트로 그려진다. 의존성도 셋뿐이다.

# assets/figures/ 에서 차트 재생성
python3 -m pip install matplotlib numpy pillow
python3 build_figures.py        # 데이터 차트 5종 + data.json
python3 build_trophy_wall.py    # 수상 실적 합성 이미지

즉 "기술 스택"이라 부를 만한 코드는 matplotlib · numpy · pillow로 그림을 그리는 부분이 전부다. 이게 핵심을 드러낸다 — 이 레포의 가치는 실행 코드가 아니라 개념(논문)과 증거(벤치마크 산출물)에 있다.

③ CCM이 (개념적으로) 가정하는 런타임

논문이 설명하는 시스템을 실제로 구현한다면 필요한 부품들. 레포엔 없지만, 개념을 이해하려면 이 그림을 머리에 둬야 한다.

계층역할대응 오픈소스(예)
백본 LLM추론·작성·비평(Compose/Critique/Mutate)Claude · GPT 등 프런티어 모델
청크 헤드 색인아티팩트당 1개 헤드로 라우팅 표면 구성경량 벡터/요약 인덱스
시간 아티팩트 그래프인용·폐기 등 관계 저장그래프DB(Neo4j류) 개념
청크 본문 저장무한히 커지는 원문, 지연 로딩객체 스토리지 / 문서 저장소
정직한 메모
"기술 스택 지도"라지만, 실제 구현 스택은 레포에 공개돼 있지 않다

위 ③번 표는 논문 서술에서 역추론한 개념 구조이지, 저장소에서 읽어낸 실제 코드가 아니다. 그래서 "이 레포를 클론해 CCM을 돌려본다"는 불가능하고, 할 수 있는 건 논문을 읽고 결과물을 검증하는 것뿐이다. 이 한계를 분명히 알고 접근해야 헛심을 안 쓴다.

4아키텍처 심화 분석 (CCM)

두 표면 분리 → 시간 그래프 → 4단계 파이프라인 순으로 해부한다.

4-1. 큰 그림 — 라우팅 표면과 본문의 분리

CCM(Capital Chunk Memory)의 첫 번째 설계 결정은 기억을 두 개의 표면으로 쪼개는 것이다. 작고 경계가 있는 라우팅용 표면과, 크고 경계가 없는 원문 표면이다.

┌───────────────────────────────┐ │ CAPITAL CHUNK (자본 청크) │ ← 모든 헤드를 색인 │ "capital-first routing" 시작점 │ └───────────────┬───────────────┘ │ 먼저 여기만 본다 (비용 상한) ┌─────────────────────────┴─────────────────────────┐ ▼ ▼ ▼ ┌───────────┐ ┌───────────┐ ┌───────────┐ │ chunk head │ │ chunk head │ │ chunk head │ ← 아티팩트당 1개 │ (요약/색인) │ │ (요약/색인) │ │ (요약/색인) │ 작고 경계 있음 └─────┬─────┘ └─────┬─────┘ └─────┬─────┘ │ 필요할 때만 (lazy) │ │ ▼ ▼ ▼ ┌───────────┐ ┌───────────┐ ┌───────────┐ │chunk content│ │chunk content│ │chunk content│ ← 원문(무한 증가) └───────────┘ └───────────┘ └───────────┘

chunk head는 아티팩트(논문·문서)마다 하나씩 두는 작은 요약/색인이고, chunk content는 그 원문 전체다. 질의가 오면 본문을 다 뒤지지 않고, 중앙의 capital chunk가 헤드들만 먼저 훑어(capital-first routing) 후보를 좁힌다. 본문은 정말 필요할 때만 지연 로딩한다. 이렇게 해서 공리③(비용 상한)을 노린다 — 본문이 아무리 커져도 라우팅이 보는 건 작은 헤드 집합뿐이다.

용어
capital chunk (자본 청크) · capital-first routing
모든 청크 헤드를 모아 색인하는 중앙 라우팅 노드. "capital"은 도시의 수도(허브)처럼 모든 경로가 먼저 거치는 지점이라는 뉘앙스. 질의는 항상 여기서 출발해(=capital-first) 헤드를 거쳐 본문으로 내려간다. 핵심 효과는 "본문 크기와 무관한 라우팅 비용".

4-2. 시간 아티팩트 그래프 — 두 종류의 간선

헤드들은 그냥 나열되는 게 아니라 그래프로 연결된다. 이 그래프가 두 가지 관계를 한 자리에서 표현하는 게 CCM의 둘째 핵심이다.

[구조적 간선 Structural] [역사·인과 간선 Historical-causality] ─────────────────────── ────────────────────────────────── A ──cites──▶ B X ──discussed-in──▶ 토론/리뷰 A ──benchmarked-on──▶ Bench X ──deprecated-by──▶ Y (폐기됨) A ──introduced-by──▶ 저자 X ──retracted-by──▶ Z (철회됨) A ──implements──▶ 방법 X ──superseded-by──▶ W (대체됨) ─────────────────────── ────────────────────────────────── "무엇이 무엇과 관련" "무엇이 언제 낡았는가" → 공리②(다중홉) 담당 → 공리①(버전/생애주기) 담당

구조적 간선(cites, benchmarked-on, introduced-by, implements)은 "근거가 2홉 너머에 있다"는 공리②를 떠받친다. 역사·인과 간선(discussed-in, deprecated-by, retracted-by, superseded-by)은 "이 사실은 저 사실로 대체됐다"는 시간 정보를 담아 공리①(낡음 판정)을 떠받친다. 두 간선 종류를 한 그래프에 합쳐 둔 덕에, 라우팅이 "관련성과 최신성"을 동시에 따질 수 있다는 게 주장이다.

4-3. 질의 파이프라인 — route → expand → distill

질의 시점에 컨텍스트는 세 박자로 만들어진다. 결과물은 evidence card(근거 카드)라는 단일 자료구조로, 이후 모든 작성·검증이 이 카드 위에서 돈다.

route-first → expand-second → distill-last ─────────── ───────────── ─────────── 자본 청크에서 선택된 헤드의 이웃을 압축 + 출처 부착 헤드를 먼저 라우팅 그래프로 확장(다중홉) → evidence card 생성 (값싼 좁히기) (필요 본문만 lazy 로딩) (공리④ 출처 근거)

4-4. 전체 실행 파이프라인 — Search → Extract → Reason → Verify

한 작업(예: 20만 토큰 서베이 1편) 전체는 4단계로 흐른다. 괄호는 README가 제시한 대략적 연산 비중이다.

01 SEARCH (~15%) 02 EXTRACT (~20%) 03 REASON (~45%) 04 VERIFY (~20%) ┌──────────────┐ ┌──────────────┐ ┌────────────────┐ ┌──────────────┐ │ 주제 질의 + │ │ 헤드 + 본문 │ │ Compose ──┐ │ │ 초안 세그먼트 │ │ 후보 아카이브 │──▶│ → evidence │──▶│ ▲ ▼ │──▶│ → 인용·출처 │ │ → 헤드 랭킹 │ │ cards │ │ Mutate ◀ Critique│ │ 검증된 출력 │ └──────────────┘ └──────────────┘ └────────────────┘ └──────────────┘ (작성→비평→수정 루프)

가장 비싼 03 REASON 단계에서 작성(Compose) → 비평(Critique) → 수정(Mutate) 사이클이 돈다. 모델이 초안을 쓰고, 스스로(또는 판정기로) 약점을 비평하고, 그 비평으로 다시 고치는 자기교정 루프다. 마지막 04 VERIFY가 모든 문장을 근거 카드의 출처와 대조해 통과한 것만 남긴다(공리④).

설계 패턴 ① — 색인/본문 분리로 비용 상한

작은 헤드(라우팅)와 큰 본문(지연 로딩)을 분리하는 건 검색엔진·DB의 고전 기법이지만, 여기선 "아카이브 무한 증가 vs 쿼리 비용 일정"이라는 명시적 공리로 끌어올렸다. 본문을 매번 임베딩·스캔하지 않는다는 점이 평면 RAG와의 가장 실용적인 차이.

설계 패턴 ② — 관계 그래프로 다중홉 검색

유사도 1홉 대신 "A가 인용한 B"를 따라가는 그래프 탐색. 추천·지식그래프·인용 네트워크에서 두루 쓰는 패턴이며, RAG의 고질병(딱 맞는 문서는 못 찾고 비슷한 문서만 끌어옴)을 구조로 푼다.

설계 패턴 ③ — evidence card 라는 단일 계약

이후 단계가 전부 "근거 카드"라는 한 가지 자료구조 위에서 돈다. 중간 산출물을 하나로 표준화하면 작성·비평·검증이 같은 형식을 공유해 출처 추적이 쉬워진다. 시스템 설계에서 "공용 중간 표현"의 힘을 보여주는 사례.

흔한 오해
"수치가 SOTA니 메커니즘도 검증된 것" — 분리해서 보자

설계 아이디어(4공리·2간선·근거 카드)는 합리적이고 배울 게 많다. 하지만 66.05%·94.66% 같은 점수는 저자가 직접 채점·보고한 것이고, 일부는 LLM 판정기(claude-opus-4.7 judge라 표기, 레포 README 원문 표기) 기반이라 판정기·프롬프트에 민감하다. "개념의 타당성"과 "수치의 신뢰성"은 다른 문제다. 좋은 학습 태도는 전자는 흡수하고 후자는 원자료(data.json, PER_PAPER_COMPARISON.md)로 직접 따져보는 것.

5디렉토리 구조 해부

"코드 트리"가 아니라 "증거 트리"로 읽어야 한다.

PaperGuru-Benchmark/ ├─ README.md # 주장·표·차트의 본문 (영문) ├─ README.zh-CN.md # 중문판 ├─ LICENSE # MIT │ ├─ paper/ │ └─ PaperGuru-CCM.pdf # 실제 알맹이 — CCM·4공리의 형식적 정의 │ ├─ PaperBench/ # 논문→코드 재현 23편 │ ├─ aggregate-final.json # 전체 점수(기계가독) │ ├─ PER_PAPER_COMPARISON.md # 논문별 PaperGuru vs 베이스라인 │ ├─ REPORT.md # 서술형 리포트 │ └─ submissions/ # 논문당 1개 실행 가능한 코드 트리(23개) │ ├─ SurveyBench/ # 생성된 서베이 20편(3중 포맷) │ ├─ pdf/ markdown/ latex/ # 컴파일본 · 웹용 · 전체 소스 │ └─ assets/ ├─ badges/ # 학회 배지 5종(PNG) ├─ figures/ │ ├─ data.json # 모든 표·차트의 raw 숫자(검증의 출발점) │ ├─ build_figures.py # 차트 5종 재생성 │ └─ build_trophy_wall.py └─ demos/ └─ pipeline_animated.svg # 파이프라인 라이브 SVG 애니메이션

어디부터 볼까 — 검증 우선 동선

이 레포는 "읽고 배우는" 동시에 "주장을 따져보는" 대상이다. 추천 순서: README.md로 주장 전체 파악 → ② paper/PaperGuru-CCM.pdf로 4공리·CCM 정의 정독 → ③ PaperBench/PER_PAPER_COMPARISON.md로 "어떤 논문에서 이겼고 어디서 졌나(예: pinn −4.47%)" 확인 → ④ assets/figures/data.json으로 차트 숫자가 본문 표와 일치하는지 대조. 이 동선이면 개념 학습과 비판적 검증을 동시에 한다.

관찰 — README보다 data.json이 정직하다

화려한 README 표는 설득용으로 다듬어진다. 반면 assets/figures/data.json차트를 그리는 데 쓰인 raw 숫자라 가공이 덜 됐다. 낯선 "벤치마크 자랑" 레포를 만나면, 본문 주장과 원자료 JSON을 직접 맞춰 보는 습관이 과대광고를 거르는 가장 빠른 길이다.

6학습 포인트 (개념별)

코드는 못 돌려도, "LLM 에이전트 메모리 설계"의 핵심 개념은 통째로 챙긴다.

① 평면 RAG의 한계를 언어로 정리하기

가장 값진 배움. PaperGuru의 4공리는 사실 "왜 단순 벡터검색만으로는 장기 에이전트가 안 되는가"를 또렷하게 분해한 체크리스트다. 버전 관리·다중홉·비용 상한·출처 근거 — 이 네 축은 어떤 메모리 시스템을 평가하든 그대로 쓸 수 있는 잣대다.

실습: 내가 아는(혹은 만든) RAG 파이프라인을 4공리로 채점해 보기. 각 공리에 대해 "충족/부분/미충족"과 그 근거를 한 줄씩.

② 시간(temporal)·버전 지식그래프 설계

"discussed-in / deprecated-by / retracted-by / superseded-by" 같은 역사·인과 간선은 일반 지식그래프엔 잘 없는 발상이다. 사실에 "언제 낡았는가"를 그래프 간선으로 새기는 모델링은 위키·법령·문서관리 등 "버전이 중요한" 모든 도메인에 응용된다.

실습: 작은 도메인(예: 라이브러리 API 변천사)을 골라 노드(버전)와 deprecated-by/superseded-by 간선으로 그려 보기. "최신 유효 사실만" 질의하는 규칙도 적어 보기.

③ 다중홉 검색 vs 코사인 1홉

RAG의 고질병 — "비슷한 문서는 찾는데 정작 필요한 근거는 못 찾는다" — 을 그래프 탐색으로 푸는 발상. 유사도 검색 → 그래프 확장(이웃 따라가기) → 압축의 route→expand→distill 3박자는 그대로 따라 구현해 볼 가치가 있다.

④ 비용 상한이 있는 라우팅 (capital-first)

색인(작음)과 본문(큼)을 분리해 "본문 크기와 무관한 검색 비용"을 노리는 설계. 데이터가 무한히 자라는 서비스(로그·문서·메일)에서 "왜 매번 전체를 임베딩하면 안 되는가"를 비용 관점에서 사고하는 훈련이 된다.

실습: 본문 N이 10배 늘 때, (a) 평면 RAG와 (b) head-우선 라우팅의 쿼리당 연산이 각각 어떻게 변하는지 빅오(O)로 비교해 적어 보기.

⑤ 출처 근거 구성 — 환각 줄이기

모든 출력 문장을 "근거 카드의 원본"으로 되짚는 provenance 설계는 실무 LLM 시스템의 신뢰성 핵심이다. 생성 후 검증(VERIFY) 단계에서 출처 없는 문장을 버리는 패턴은 어떤 프로덕션 RAG에도 바로 이식 가능하다.

⑥ Compose → Critique → Mutate 자기교정 루프

한 번에 답을 뱉지 않고 초안→자기비평→수정을 반복하는 에이전트 루프. reflection·self-critique 계열 기법의 한 형태로, 장문 작성·코드 생성 품질을 끌어올리는 일반적 도구다.

⑦ (메타) 벤치마크 마케팅을 비판적으로 읽기

이 레포 자체가 좋은 교보재다. ★19·커밋 3개인데 "10편 학회 채택·여러 SOTA"를 내세운다. 자가보고 수치·LLM 판정기·생소한 학회명·검증 불가한 실적을 어떻게 의심하고 원자료로 따지는지를 연습하면, 앞으로 쏟아질 "SOTA 주장" 레포들을 거르는 안목이 생긴다. 개념 흡수와 주장 검증을 분리하는 습관 — 이게 어쩌면 가장 실전적인 학습 포인트다.

실습: PER_PAPER_COMPARISON.md에서 (1) 베이스라인이 아예 없는 논문 수, (2) PaperGuru가 진 사례, (3) 점수 산정 방식을 찾아, "이 수치를 얼마나 믿을 수 있는가"를 한 문단으로 평가.

7하드웨어 / 시스템 요구사항

"레포 다루기"는 가볍고, "CCM 실제 구현"은 무겁다.

목적필요한 것메모
레포 탐색·검증git + 디스크 ~350MBPaperBench 제출물·LaTeX 소스가 용량 대부분. git-lfs 불필요
PDF 뷰어paper/PaperGuru-CCM.pdf 정독용
Python 3 + matplotlib/numpy/pillow차트 재생성(build_figures.py)만, GPU 불필요
CCM 직접 구현(개념)프런티어 LLM APICompose/Critique/Mutate·작성에 필요 — 비용·레이트리밋 고려
벡터/그래프 저장소헤드 색인 + 시간 아티팩트 그래프(개념적)
문서 아카이브 스토리지지연 로딩할 원문 본문 보관

요점: 레포를 읽고 검증하는 데는 일반 노트북이면 충분하다. 무거워지는 건 "논문 아이디어를 실제 시스템으로 만들 때"인데, 그건 이 저장소의 범위 밖이다.

8직접 해볼 수 있는 실습 과제

개념 학습(Lv1~3) → 비판적 검증 → 미니 구현(Lv4~5) 순.

Lv1. 4공리를 내 말로 재서술 입문 · 1시간

README와 논문 §3을 읽고, LAM 4공리(버전·다중홉·비용 상한·출처)를 각각 한 문장 + 일상 비유로 다시 쓴다. "평면 RAG가 어느 공리에서 깨지는지"까지 적으면 개념이 손에 잡힌다.

Lv2. figure 재생성 + data.json 해부 초급 · 반나절

레포를 클론해 python3 build_figures.py로 차트를 다시 그린다. assets/figures/data.json의 숫자가 README 표(예: SurveyBench 라다 5축)와 일치하는지 대조하고, 안 맞거나 모호한 칸을 메모한다.

Lv3. 주장 검증 리포트 쓰기 중급 · 1일

PaperBench/PER_PAPER_COMPARISON.mdaggregate-final.json을 근거로, "66.05%가 얼마나 견고한 수치인가"를 비판적으로 평가하는 1쪽 리포트를 쓴다. 베이스라인 부재·판정기 의존·회귀 사례(pinn)를 반드시 다룬다.

Lv4. 미니 CCM 프로토타입 중상급 · 2~3일

문서 20~50개로 작은 아카이브를 만들고, 청크 헤드(요약)와 본문을 분리한 뒤 "헤드 먼저 라우팅 → 필요한 본문만 로딩 → 압축" 파이프라인을 파이썬으로 짠다. 평면 RAG와 쿼리당 토큰/지연을 비교해 본다.

Lv5. 버전·출처 인식 메모리 데모 고급 · 3~5일

Lv4에 시간 그래프를 얹는다 — 문서가 개정되면 옛 버전을 superseded-by로 표시하고, 질의 시 낡은 근거는 제외한다. 답변 문장마다 출처(문서·구절)를 부착하고, 출처 없는 문장은 버리는 VERIFY 단계를 추가한다. 4공리를 작게나마 모두 건드리는 캡스톤.

9관련 기술 심화 학습 로드맵

4주 코스 — RAG 기초에서 출발해 미니 메모리 시스템과 비판적 읽기까지.

주차주제핵심 활동
1주차LLM 에이전트 메모리 기초RAG·임베딩·벡터DB·컨텍스트 윈도 한계 이해 · 평면 RAG 한 번 만들어 보기 · 4공리로 자가채점(Lv1)
2주차지식그래프 & 다중홉 검색그래프 모델링 기초 · 인용/관계 따라가기 · temporal/버전 간선 설계 · route→expand→distill 개념화
3주차장기기억 & 에이전트 루프MemGPT·망각·KG 래퍼 비교 · CCM 논문 정독 · Compose/Critique/Mutate·reflection 패턴 · provenance 설계
4주차구현 + 비판적 평가미니 CCM 프로토타입(Lv4~5) · 벤치마크 원자료 검증(Lv2~3) · "SOTA 주장 읽는 법" 정리
학습 순서의 이유

먼저 "왜 평면 RAG로는 부족한가"(1주)를 몸으로 겪어야, 그래프·시간·비용 상한(2주)이라는 처방이 납득된다. 3주차에 CCM·에이전트 루프로 개념을 완성하고, 4주차에 직접 작게 만들어 보며 동시에 "남의 벤치마크 주장을 의심하는 눈"까지 기른다. 개념 흡수와 비판적 검증을 한 코스에서 같이 키우는 게 이 레포 학습의 묘미다.

10핵심 키워드 사전

이 레포·논문을 읽다 마주치는 용어들.

용어
Lifecycle-Aware Memory (LAM)
정보의 생애주기(유효·폐기·철회)를 아는 장기 기억. 4공리(버전 관리·구조적 다중홉·비용 상한·출처 근거)로 정의된다.
용어
Capital Chunk Memory (CCM)
LAM의 구체적 구현. 청크 헤드/본문 분리 + 자본 청크 라우팅 + 시간 아티팩트 그래프로 4공리를 한 메커니즘에 묶었다는 메모리 아키텍처.
용어
capital chunk (자본 청크)
모든 청크 헤드를 색인하는 중앙 라우팅 노드. 질의는 항상 여기서 시작(capital-first routing)해 본문 크기와 무관한 비용을 노린다.
용어
chunk head / chunk content
헤드는 아티팩트당 1개의 작은 요약/색인(라우팅용), 콘텐츠는 그 원문 전체(무한 증가, 지연 로딩). 둘을 분리해 비용 상한(공리③)을 달성한다.
용어
temporal artifact graph (시간 아티팩트 그래프)
헤드들을 잇는 그래프. 구조적 간선과 역사·인과 간선 두 종류를 함께 담아 관련성과 최신성을 동시에 따진다.
용어
structural edge / historical-causality edge
전자는 cites·benchmarked-on·introduced-by·implements(다중홉 관련성, 공리②). 후자는 discussed-in·deprecated-by·retracted-by·superseded-by(낡음 판정, 공리①).
용어
evidence card (근거 카드)
route→expand→distill로 만들어지는 압축된 근거 단위. 출처가 부착돼 있어 이후 작성·비평·검증이 모두 이 카드 위에서 돈다.
용어
route-first → expand-second → distill-last
질의 처리 3박자. 헤드 라우팅으로 좁히고 → 그래프로 이웃 확장(다중홉) → 압축·출처 부착으로 근거 카드 생성.
용어
Compose / Critique / Mutate
REASON 단계의 자기교정 루프 — 작성 → 비평 → 수정 반복. reflection·self-critique 계열 기법.
용어
provenance (출처 근거)
출력의 모든 주장이 기억 속 검증 가능한 원본으로 추적되는 성질(공리④). 환각을 줄이는 핵심이며 VERIFY 단계가 이를 강제한다.
용어
PaperBench
OpenAI(2025)의 "논문→코드 재현" 벤치마크. 제출물(실행 가능한 코드 트리)을 루브릭 기반 LLM 판정기가 채점. 인간 ML-PhD 48시간 기준선은 41%. PaperGuru는 23편 평균 66.05% 주장.
용어
SurveyBench
Yan 외(2025)의 장문 서베이 작성 벤치마크. Content·Outline·Richness 축을 LLM 판정기로 평가. PaperGuru는 Content 평균 94.66%, richness 43.76% 주장(richness는 파일시스템 측정).
용어
RAG (Retrieval-Augmented Generation)
외부 문서를 검색해 그 내용을 근거로 LLM이 답을 생성하는 방식. "평면 RAG"는 벡터 유사도 top-k 검색만 쓰는 가장 단순한 형태로, PaperGuru가 한계를 지적하는 대상.

11참고 링크

원본과 더 깊이 파고들 자료.

프로젝트 원본

· GitHub 저장소: github.com/PaperGuru-AI/PaperGuru-Benchmark
· 논문 PDF(알맹이): paper/PaperGuru-CCM.pdf
· 중문 README: README.zh-CN.md

검증을 위해 먼저 볼 곳 (레포 내부)

· 논문별 비교: PaperBench/PER_PAPER_COMPARISON.md · 전체 점수: PaperBench/aggregate-final.json
· 차트 원자료: assets/figures/data.json · 재현: assets/figures/build_figures.py
· 생성 서베이: SurveyBench/pdf · markdown · latex

배경 지식 (개념을 채우는 외부 자료)

· PaperBench(OpenAI, 2025) · SurveyBench(Yan 외, 2025) — 원 벤치마크 정의 확인
· 장기 기억: MemGPT 논문 · Reflexion/Self-Refine(자기교정 루프)
· 검색·그래프: RAG 개념 · 지식그래프/다중홉 QA · 벡터DB(임베딩 검색) 기초