AI가 자꾸 기억을 잃어버린다: mem0 도입과 기억 상실 해결기

AI가 자꾸 기억을 잃어버린다: mem0 도입과 기억 상실 해결기

AI 서비스에 장기 기억을 부여하려다 예상치 못한 기억 혼동 버그를 마주쳤다. mem0 라이브러리를 도입해 유저 데이터를 저장하는 코드는 동작했지만, AI는 저장된 기억을 업데이트하지 못하고 서로 충돌하는 정보를 동시에 물고 수습없는 답변을 내놓았다. 원인과 해결에 이르는 과정을 기록한다.

Mem0 라이브러리를 활용하여 AI 에이전트의 단기/장기 메모리를 관리하는 코드 스니펫

위 화면은 mem0가 검색한 과거 기억 중 상충하는 두 기억("1년 전 피자 좋아함"vs"어제부터 다이어트 시작이라고 함")이 LLM에 동시에 주입된 비정상 응답의 예시다. 답이 엉뚱하게 돌아가는 이유가 한 문장으로 설명된다.

"어제 한 말을 오늘 또 물어보네요."

인공지능 기반 서비스를 운영하며 유저들에게 가장 많이 들었던 뼈아픈 피드백이었습니다. 현재의 LLM(대규모 언어 모델)은 기본적으로 대화가 종료되면 이전의 맥락을 하얗게 잊어버리는 무상태(Stateless) 구조를 띱니다. 매번 처음 만난 사람처럼 리셋되는 AI로는 유저에게 깊은 인상을 주거나 고도화된 개인화 경험을 제공하기 어려웠습니다.

이 한계를 돌파하기 위해 저희 팀은 AI에게 '장기 기억(Long-term Memory)'을 부여하기로 결심했습니다. 여러 솔루션을 검토한 끝에 최근 개발자 생태계에서 뜨거운 반응을 얻고 있는 mem0 라이브러리를 도입했습니다. 사용자의 직업, 취향, 과거 대화 이력을 벡터(Vector) 형태로 저장해 두었다가 필요할 때 꺼내 쓸 수 있게 해주는 강력한 도구였죠. 이것만 연동하면, 유저를 오래 알고 지낸 '단짝 친구' 같은 똑똑한 AI를 선보일 수 있을 거라 확신했습니다.

💾 갑자기 시작된 AI의 기억 상실증

초기 테스트는 성공적했습니다. 유저의 관심사를 mem0를 통해 데이터베이스에 저장하고, 다음 대화에서 자연스럽게 맞장구치는 모습을 보며 환호했죠. 하지만 서비스에 본격적으로 적용하고 며칠이 지나자, 전혀 예상치 못한 이상 현상이 발생하기 시작했습니다.

분명히 저장된 기억임에도 불구하고 AI가 엉뚱한 대답을 하거나, 과거의 정보를 마치 최신 정보인 양 우기는 '기억 혼동' 증세를 보인 것입니다. 가장 대표적인 예시는 이렇습니다.

유저: "나 어제부터 다이어트 시작했어." AI: "정말 멋진 결심이네요! 오늘 저녁은 치킨 어떠신가요?"

대화가 길어지고 데이터가 쌓일수록 AI의 답변은 점점 더 일관성을 잃어갔습니다. 처음에는 단순히 DB 연결 문제이거나 mem0 라이브러리의 버그일 것이라 의심했습니다. 데이터가 휘발되는 줄 알고 DB 로그를 샅샅이 뒤졌죠.

하지만 충격적이게도, 유저의 모든 발화는 벡터 데이터베이스에 아주 고스란히, 그리고 안전하게 저장되어 있었습니다. 문제는 '저장'이 아니라 전혀 다른 곳에 있었습니다.

🔍 범인은 저장소가 아니라 '회상' 방식이었다

팀원들과 며칠 밤을 새우며 프롬프트와 호출 로그를 뜯어본 끝에 진짜 원인을 찾아냈습니다. 문제는 AI가 기억을 '회상(Retrieval)'하고 이를 프롬프트에 '주입'하는 과정 자체에 있었습니다.

1. 단순 유사도 검색의 함정 (검색 정밀도 저하) mem0는 현재 대화와 유사한 과거 기억을 '벡터 유사도'를 기반으로 가져옵니다. 예를 들어 "좋아하는 음식"이라는 주제가 나오면, 1년 전에 말한 "피자를 좋아한다"는 기억과 어제 말한 "다이어트 중이라 샐러드만 먹는다"는 기억을 동시에 불러옵니다. 서로 상충하는 두 기억이 LLM에 한 번에 전달되니 AI가 심각한 인지 부조화를 겪은 것입니다.
2. 컨텍스트 윈도우의 한계 (Lost in the middle)

🛠️ 기억의 우선순위를 재정렬하다

해결론적으로 '검색 쿼리 개선'과 '상충 기억 충돌 차단'이 문제 해결의 핵심이었습니다. 첫째, 유사도 검색 결과에 가장 최신 날짜 역순으로 정렬하는 가중치를 부여하여 최신 정보에 대한 우선권을 보장했습니다. 둘째, 동일한 주제에 대한 기억이 여러 개 검색될 경우, 가장 최근 업데이트된 기억을 제외한 구기억은 프롬프트 주입 전에 자동으로 필터링해 내는 TTL(Time-To-Live) 기반의 정리 로직을 추가했습니다.

이 변경을 적용한 직후, AI가 '다이어트 중인데 치킨을 추천하는' 것과 같은 끔찍한 기억 충돌 현상은 감쪽같이 사라졌습니다. 응답의 맥락이 자연스럽게 이어지며, 유저의 가장 최근 상태를 정확히 인지하는 진정한 '장기 기억' 시스템으로 거듭날 수 있었습니다. 이번 mem0 도입기를 통해 기억 시스템은 단순히 '얼마나 많은 데이터를 저장하느냐'보다 '어느 시점에 어떤 우선순위로 불러와서 주입하느냐'가 시스템의 성패를 가르는 핵심이라는 중요한 교훈을 얻게 되었습니다. 앞으로 AI 서비스에 메모리 기능을 도입하려는 분들이라면 이 점을 반드시 명심하시기 바랍니다.