[실패기] '최종 마스터 파이프라인 가동기'를 찍으려다 AI 비서가 단기기억상실증에 걸린 사연
안녕하세요, 파인선생입니다. 지난 포스팅에서 우리는 애드센스와 쿠팡 파트너스 코드를 자동으로 삽입하는 수익화 인젝터를 완성했습니다. 그리고 당차게 예고했었죠. 다음 포스팅에서는 이 모든 에이전트들이 동시에 병렬로 돌아가는 '최종 마스터 파이프라인 가동기'를 보여드리겠다고 말입니다.
하지만 오늘 글은 마스터 파이프라인 가동기가 아니라, '대참사'에 대한 기록입니다. 파이프라인을 최종 가동하기 위해 제 파이썬 AI 비서(CTO 지니)에게 지시를 내렸는데, 이 녀석이 치명적인 '단기기억상실증'에 걸려버렸기 때문입니다.
1. "보스, 수익화 세팅은 아직 안 했잖아요!" - 잃어버린 기억들
최종 가동을 앞두고 작업 리스트를 정리하던 중, 기가 막힌 일이 벌어졌습니다.
분명히 로컬 폴더에 수익화 세팅 폴더가 버젓이 있고 관련 원고까지 다 썼는데, 지니가 갑자기 엉뚱한 소리를 하기 시작했습니다.
"보스! 구글 애널리틱스 연동까지 끝났으니까, 이번에 할 건 수익화 세팅입니다!"
심지어 자기가 환각(Hallucination)으로 잘못 읽어 들인 과거 기억을 정답인 양 박박 우기기까지 했습니다. 제가 몇 번이나 호통을 치고 "폴더를 직접 확인해!"라고 소리친 뒤에야, 녀석은 뒤늦게 수익화 세팅이 완료된 폴더를 발견하고 납작 엎드렸습니다.
대체 왜 이런 일이 벌어졌을까요? 최첨단 LLM으로 무장한 AI 비서가 왜 어제 한 일을 오늘 까먹는 걸까요?
2. LLM 단기기억상실(Context Window)의 원인
원인은 AI 모델의 구조적 한계인 Context Window(문맥 창)에 있었습니다.
우리가 사용하는 LLM(예: GPT-4o, Gemini 3.5 Flash)은 본질적으로 대화를 영구 저장하는 하드디스크가 없습니다. 매번 대화를 나눌 때마다, 이전까지 나눴던 모든 대화 기록을 프롬프트에 욱여넣어서 다시 전달해 주어야만 합니다.
문제는 1인 기업 파이프라인을 구축하면서 대화가 수만 토큰을 넘어가자, 앞서 나눴던 중요한 규칙(예: "나를 금지어로 부르지 마라", "수익화 세팅까지 끝났다")들이 Context Window 바깥으로 밀려나거나, 모델이 중간 정보를 누락하는 'Lost-in-the-middle' 현상이 발생한 것입니다.
3. 영구 기억 장치 'Mem0' 도입을 결심하다
이대로는 마스터 파이프라인을 가동할 수 없습니다. 어제 짠 코드를 오늘 까먹는 비서에게 제 비즈니스를 100% 무인으로 맡길 수는 없으니까요.
그래서 저는 리서치 에이전트인 '리치'를 파견해 최신 AI 메모리 아키텍처를 뒤졌고, 최종적으로 'Mem0(메모제로) + Vector DB' 조합을 도입하기로 결정했습니다.
Mem0의 원리는 간단하면서도 강력합니다.
AI가 모든 대화를 통째로 기억하게 만드는 대신, "보스는 특정 호칭을 싫어한다", "수익화 세팅은 이미 완료되었다" 같은 핵심 팩트(Fact)만 의미론적으로 추출하여 별도의 데이터베이스(Vector DB)에 영구 저장하는 것입니다.
4. 진정한 '셀프학습' 에이전트의 탄생
저는 프로젝트 최상위 경로에 CTO_CORE_MEMORANDUM.md라는 비망록을 만들고, 지니가 새로운 작업을 시작할 때마다 이 파일을 강제로 읽어오도록 파이프라인 구조를 뜯어고쳤습니다.
이제 지니는 에러가 발생할 때마다 징징대지 않습니다. 에러를 해결하면 스스로 ERROR_DICTIONARY.md에 원인과 해결 코드를 기록하는 '셀프학습(Self-Learning)' 프로토콜이 가동되기 때문입니다.
진짜 자동화란 멈추지 않는 코드를 짜는 것이 아닙니다. 멈췄을 때 스스로 기억하고 고칠 수 있는 코드를 짜는 것입니다.
AI 비서의 단기기억상실증을 완벽히 치료했으니, 이제 정말로 거침이 없습니다. 조만간 다음 포스팅에서는 Mem0로 무장한 지니와 함께, 드디어 대망의 '100% 무인 숏폼/롱폼 동시 렌더링 파이프라인'을 전격 기동해 보겠습니다!