기억하는 시스템 — RAG는 지도의 한 도시였다
에이전트가 길게 일하려면 기억이 필요하다. 그런데 기억을 '필요할 때 꺼낸다'는 그 동작이 곧 RAG였다. 시리즈를 한 호흡에 되짚으며, RAG가 컨텍스트 생애주기의 한 토막임을 본다.
스스로 검사하고 행동하다 — 판정·도구·에이전트·MCP를 한 지도에
LLM은 함수를 실행하지 않는다. 구조화된 요청만 내뱉고 실행은 바깥 코드가 한다. 밥비서에서 우리가 이름도 모른 채 깔아둔 판정 레이어부터, function calling·agent·MCP가 같은 그림의 세 층위로 묶이기까지의 기록.
무엇을 먹일 것인가 — 찾은 것을 추리고 차려 내기
조건에 맞는 레시피 50개를 SQL로 거르는 건 통과/탈락일 뿐 순위가 아니다. 가까운 것을 빠르게 찾은 다음, 그중 무엇을 어떤 순서로 모델에게 먹이느냐가 답을 가른다. 랭킹·rerank·주입·환각의 기록.
가까움을 숫자로 — 전부 뒤지지 않고 가장 가까운 것을 찾기
글자가 0% 겹치는 돈전지와 앞다리살이 코사인 0.93으로 묶인다. 밥비서에서 흩어진 재료를 모으며 거리를 재고, 전부와 비교하지 않고 찾고, 도메인이 미리 잘라준 청크를 쓴 이야기.
글자에서 좌표로 — 우리가 이름 없이 풀던 의미 공간
돈전지와 앞다리살은 글자가 한 자도 안 겹치는데 같은 재료다. 밥비서에서 흩어진 재료를 하나로 묶으며, 우리는 임베딩과 의미 공간을 이름도 모른 채 먼저 썼다. 언어가 숫자가 되는 과정의 기록.
정적 RAG의 한계와 '살아있는 컨텍스트'
정적 RAG는 '지금 무엇이 유사한가'는 답해도 '지금 무엇이 여전히 유효한가'는 답하지 못한다. 메모리 감쇠를 currency와 supersession으로 다루는, 살아있는 컨텍스트 인프라에 대한 우리의 관점.