프로젝트 기반 메타데이터와 컨텍스트 경계 설정을 통한 AI 비서의 기억 선택 정확도 향상에 관한 연구

논문 초안. 비슷한 개념을 다 쓰고나서 찾아보니 있던데, 이게 훨씬 낫다.

— 자동 제목·초록·프로젝트화가 크로스세션 컨텍스트 할루시네이션을 줄이는 구조적 가능성



초록

현재 대화형 AI 서비스는 긴 대화를 생성하고 저장할 수 있지만, 저장된 대화를 다시 찾고, 분류하고, 이어서 활용하는 과정에서는 여전히 사용자의 수동 관리에 크게 의존한다. 사용자는 수많은 채팅 목록 속에서 과거 대화를 찾기 위해 제목을 보고 들어가거나, 스크롤을 올리거나, 다시 AI에게 “이 채팅에서 무엇을 이야기했는지 요약해 달라”고 요청해야 한다. 이는 사용자 편의성의 문제일 뿐만 아니라, 서비스 운영 측면에서는 반복적인 요약 요청과 긴 컨텍스트 재처리를 유발하여 불필요한 추론 비용을 발생시킨다.

본 논문은 이러한 문제를 단순한 UI 불편이 아니라, AI 비서가 장기 기억을 다루는 방식의 구조적 문제로 본다. 특히 사용자의 과거 대화나 개인화 기억이 증가할수록 AI는 “기억을 못 하는 것”이 아니라 “엉뚱한 기억을 너무 쉽게 꺼내는 것”에 가까운 문제를 보인다. 이는 사용자가 현재 말하고 있는 개념과 비슷해 보이는 과거 개념을 AI가 성급하게 연결하면서 발생하는 크로스세션 컨텍스트 할루시네이션의 한 형태로 볼 수 있다. 예컨대 사용자가 오리아르케이즘에 대해 말하고 있는데 AI가 사용자의 다른 연구 주제인 LCW, UA-RAG, XSCH 등을 섣불리 연결하는 경우가 이에 해당한다. 이들은 모두 사용자가 실제로 언급한 적 있는 개념일 수 있으나, 현재 대화의 사고 영역과는 다를 수 있다.

본 연구는 이를 해결하기 위해 채팅 단위의 자동 제목 생성 기능을 확장하여, 제목·부제·초록·키워드·최근 변경 요약 등 메타데이터를 생성하고, 이를 기반으로 유사한 채팅을 자동으로 프로젝트에 묶는 구조를 제안한다. 프로젝트는 단순한 폴더가 아니라 AI의 기억 탐색 경계이자 우선순위 인덱스로 작동한다. 사용자가 “이 채팅 제목하고 요약 업데이트 해줘”라고 명시적으로 요청하거나, 사용자가 직접 제목을 수정하지 않은 자동 관리 상태에서는 AI가 대화 내용을 분석하여 제목과 초록을 갱신하고, 기존 프로젝트와의 유사도를 평가하여 적절한 프로젝트로 이동할지 묻거나 자동 분류할 수 있다. 단, 사용자가 임의로 제목을 수정한 경우에는 해당 제목을 사용자 의도로 간주하고 AI가 자동으로 변경하지 않는다.

이 구조의 핵심 효과는 세 가지다. 첫째, 사용자는 과거 대화를 찾기 위해 불필요하게 채팅을 열고 요약을 요청하는 횟수를 줄일 수 있다. 둘째, AI는 전체 대화 기록을 매번 탐색하는 대신 현재 프로젝트, 관련 프로젝트, 전체 기록 순으로 계층적 탐색을 수행함으로써 평균 탐색 범위와 추론 비용을 줄일 수 있다. 셋째, 프로젝트가 컨텍스트 경계로 작동함으로써 현재 대화와 의미적으로 가까운 기억을 우선 검색하게 되어, 관련은 있지만 현재 의도와 다른 기억을 잘못 가져오는 현상을 줄일 수 있다.

결론적으로 본 논문은 자동 제목 생성, 초록 생성, 프로젝트 자동화, 프로젝트 메모리, 계층적 검색, 컨텍스트 경계 설정이 별개의 기능이 아니라 하나의 연결된 AI 비서 아키텍처임을 주장한다. 이는 AI를 단순한 응답 생성기가 아니라, 사용자의 지식 흐름을 정리하고 기억을 적절히 선택하는 비서로 발전시키기 위한 설계 방향이다.

---

1. 서론

대화형 AI의 발전은 사용자가 하나의 채팅 안에서 긴 사고 흐름을 이어가고, 다양한 아이디어를 실험하며, 과거 대화의 맥락을 다시 불러오는 일을 가능하게 만들었다. 그러나 실제 사용 과정에서 대화가 많아질수록 새로운 문제가 발생한다. 사용자는 수십 개, 수백 개의 채팅방을 만들게 되고, 각 채팅방의 제목만으로는 그 안에서 무엇을 논의했는지 쉽게 기억하기 어렵다.

현재 많은 AI 서비스는 새 채팅이 생성될 때 자동으로 제목을 붙인다. 사용자가 첫 질문을 입력하고 AI가 첫 답변을 생성한 뒤, 그 대화의 초기 내용에 기반하여 제목이 생성되는 방식이다. 이 기능은 편리하지만 한계가 있다. 제목은 대체로 첫 대화의 표면적 주제만 반영하며, 이후 대화가 다른 방향으로 확장되거나 여러 주제를 다루게 되면 제목은 더 이상 전체 내용을 대표하지 못한다.

예를 들어 사용자가 처음에는 “채팅방 제목을 무엇으로 할까?”라고 물었으나, 대화가 진행되며 자동 제목 생성의 구조, 채팅 메타데이터, 프로젝트 자동 분류, 장기 기억 인덱스, 크로스세션 컨텍스트 할루시네이션, AI 비서의 기억 선택 문제까지 확장될 수 있다. 이 경우 초기 제목만으로는 해당 채팅이 어떤 내용을 포함하는지 파악하기 어렵다. 사용자는 다시 채팅을 열고 스크롤을 올리거나, AI에게 “이 채팅에서 무슨 이야기를 했는지 요약해줘”라고 묻게 된다.

이 과정은 사용자에게 귀찮은 작업일 뿐 아니라, AI 서비스 운영자에게도 비용을 발생시킨다. 대화가 길수록 요약 요청은 많은 토큰을 처리해야 하며, 사용자가 여러 채팅을 열어가며 같은 질문을 반복하면 서버는 불필요한 추론과 데이터 로딩을 수행하게 된다. 텍스트 메타데이터 몇 줄을 저장하는 비용은 상대적으로 작지만, 긴 대화를 다시 읽고 요약하는 연산 비용은 규모가 커질수록 무시하기 어렵다.

따라서 문제는 단순히 “제목이 불편하다”가 아니다. 문제는 AI가 사용자의 지식 작업을 장기적으로 관리하지 못한다는 데 있다. AI는 사용자의 비서를 자처하지만, 정작 사용자가 반복적으로 해야 하는 자잘하고 귀찮은 정리 작업, 즉 제목 관리, 요약 관리, 프로젝트 분류, 관련 대화 탐색, 과거 개념의 정확한 재사용을 충분히 대신하지 못하고 있다.

본 논문은 이 문제를 해결하기 위한 하나의 구조적 제안을 제시한다. 핵심은 다음과 같다.

첫째, 채팅에는 제목만이 아니라 부제 또는 초록이 필요하다. 제목은 짧은 표지이고, 부제는 해당 대화의 핵심 내용을 한 줄로 설명하는 메타데이터다. 이는 논문의 초록처럼 작동할 수 있다.

둘째, 사용자가 “이 채팅 제목하고 요약 업데이트 해줘”라고 명령하면 AI가 현재까지의 대화 내용을 분석하여 제목과 초록을 갱신해야 한다. 이는 사용자가 매번 직접 제목을 수정해야 하는 귀찮음을 줄인다.

셋째, 사용자가 임의로 제목을 수정한 경우에는 AI가 그 제목을 자동으로 덮어쓰지 않아야 한다. 이는 사용자의 명시적 의도를 보호하기 위한 규칙이다.

넷째, 제목과 초록이 갱신될 때 AI는 해당 채팅이 기존 프로젝트 중 어디에 가장 잘 맞는지 판단할 수 있어야 한다. 유사한 프로젝트가 있다면 “이 프로젝트로 옮길까요?”라고 묻거나, 설정에 따라 자동 이동할 수 있다.

다섯째, 프로젝트는 단순한 폴더가 아니라 AI의 기억 탐색 경계로 작동해야 한다. AI는 현재 채팅 또는 현재 프로젝트와 관련된 기억을 먼저 찾고, 관련 프로젝트를 다음으로 찾으며, 마지막에 전체 기록을 탐색해야 한다.

여섯째, 이러한 구조는 탐색 속도뿐 아니라 컨텍스트 정확도에도 영향을 준다. AI가 전체 개인화 기억에서 아무거나 비슷한 것을 끌어오는 대신, 현재 프로젝트에 속한 기억을 우선 참조하면 크로스세션 컨텍스트 할루시네이션을 줄일 수 있다.

본 논문은 이러한 설계를 “프로젝트 기반 메타데이터 기억 구조”로 정의하고, 그 필요성과 작동 방식, 기대 효과를 구체적으로 논의한다.

---

2. 문제 정의

2.1 채팅 제목의 한계

현재 대화형 AI에서 채팅 제목은 대개 자동 생성된다. 그러나 이 제목은 대화의 첫 부분에 강하게 의존하는 경우가 많다. 문제는 실제 대화가 첫 질문의 범위 안에 머무르지 않는다는 점이다. 특히 창의적 사고, 연구, 기획, 철학, 제품 설계와 같은 주제에서는 하나의 대화가 여러 단계로 확장된다.

처음에는 단순한 질문으로 시작하지만, 사용자가 생각을 전개하면서 전혀 다른 층위의 문제로 이동할 수 있다. 예를 들어 채팅 제목 문제는 다음과 같은 순서로 확장될 수 있다.

1. 채팅 제목을 무엇으로 할까?
2. 왜 채팅 제목만으로 과거 내용을 찾기 어려운가?
3. 제목 외에 부제나 초록이 필요하지 않은가?
4. 사용자가 직접 제목을 바꾸는 것은 귀찮지 않은가?
5. AI가 제목과 요약을 업데이트해주면 되지 않는가?
6. 제목과 요약을 저장하면 반복 요약 요청을 줄일 수 있지 않은가?
7. 유사한 채팅을 자동으로 프로젝트에 묶을 수 있지 않은가?
8. 프로젝트가 AI의 탐색 범위를 줄일 수 있지 않은가?
9. 프로젝트가 크로스세션 컨텍스트 할루시네이션을 줄일 수 있지 않은가?
10. 결국 이는 AI 비서의 기억 선택 알고리즘 문제 아닌가?

이처럼 대화는 하나의 질문에서 시작해 여러 층위로 확장된다. 그러나 제목은 대체로 초기 질문이나 초기 응답을 기반으로 생성되기 때문에, 전체 대화를 대표하지 못한다. 사용자는 나중에 채팅 목록을 보고도 해당 대화가 무엇을 다루었는지 알기 어렵다.

2.2 사용자의 반복 탐색 비용

사용자는 제목만 보고 원하는 채팅을 찾기 어렵기 때문에 다음과 같은 행동을 반복한다.

1. 제목을 보고 채팅을 연다.
2. 원하는 대화인지 확인하기 위해 위로 스크롤한다.
3. 기억이 안 나면 AI에게 “이 채팅 요약해줘”라고 묻는다.
4. 아니면 다른 채팅으로 이동하여 같은 과정을 반복한다.

이 과정은 사용자의 시간과 주의력을 낭비한다. 특히 아이디어를 많이 다루는 사용자는 과거 대화를 자주 참조해야 하며, 이때마다 제목과 실제 내용의 불일치로 인해 사고 흐름이 끊긴다.

이 문제는 단순히 사용자가 제목을 잘 안 바꿔서 생기는 문제가 아니다. 물론 사용자가 매번 채팅 제목을 정확하게 수정한다면 일부 문제는 줄어들 수 있다. 그러나 인간은 귀찮은 작업을 반복적으로 수행하지 않는다. AI 비서라면 바로 이런 반복적이고 자잘한 작업을 대신해야 한다.

2.3 서비스 운영 비용

사용자가 채팅을 열고 요약을 요청하는 행위는 단순한 UI 행동처럼 보이지만, AI 서비스 운영 측면에서는 비용을 유발한다. 오래된 채팅을 열 때 서버에서 대화 내용을 다시 로딩해야 하며, 요약 요청이 발생하면 모델은 긴 대화 내용을 다시 처리해야 한다.

물론 메타데이터 몇 줄을 전송하는 네트워크 비용은 대규모 모델 추론 비용에 비하면 작을 수 있다. 그러나 사용자가 수백만 명 이상이고, 각 사용자가 수십 개 또는 수백 개의 채팅을 보유하며, 반복적으로 과거 채팅을 열고 요약을 요청한다면 누적 비용은 의미가 있다.

따라서 제목과 초록을 한 번 생성하여 메타데이터로 저장하고, 이후에는 저장된 문자열만 불러오는 구조는 반복적인 추론을 줄이는 데 기여할 수 있다. 이는 캐시와 유사하다. 한 번 계산한 요약을 저장해두고, 필요할 때마다 다시 추론하지 않는 방식이다.

2.4 개인화 기억의 오작동

AI 개인화 기능은 사용자가 이전에 말한 정보나 선호, 개념을 기억하여 더 적절한 답변을 제공하려는 목적을 가진다. 그러나 개인화가 항상 긍정적으로 작동하는 것은 아니다. 사용자의 과거 정보가 많아질수록 AI는 현재 대화와 관련 없는 기억을 잘못 꺼낼 수 있다.

문제는 AI가 완전히 틀린 기억을 가져오는 경우만이 아니다. 더 미묘한 문제는 “실제로 사용자가 예전에 말한 적 있는 기억”을 가져오지만, 현재 맥락에는 맞지 않는 경우다. 예컨대 사용자가 오리아르케이즘을 이야기하고 있는데, AI가 LCW나 UA-RAG 같은 다른 사용자의 연구 개념을 떠올리는 경우다. 이들은 모두 사용자가 실제로 만든 개념일 수 있다. 그러나 현재 대화의 주제는 다르다.

이를 비유하면 다음과 같다. 사용자는 강아지에게 뼈다귀를 가져오라고 한 상황이다. 그런데 강아지는 예전에 사용자가 갖고 놀라고 준 쓰레빠를 물고 온다. 쓰레빠는 완전히 낯선 물건이 아니다. 주인이 예전에 준 적 있는 물건이다. 강아지 입장에서는 “주인이 예전에 좋아했던 것”을 가져온 것이다. 그러나 지금 필요한 것은 뼈다귀이지 쓰레빠가 아니다.

현재 AI 개인화의 문제도 이와 같다. AI는 사용자를 도우려는 의도로 기억을 꺼내지만, 현재 의도와 다른 기억을 꺼내면 오히려 사용자의 설명 부담이 증가한다. 사용자는 “그거 말고”, “내가 지금 말하는 건 그 개념이 아니야”, “전에 말한 다른 뜻이야”라고 다시 설명해야 한다.

이것은 기억 부족의 문제가 아니라 기억 선택의 문제다. AI는 무엇을 기억하는가보다, 언제 어떤 기억을 우선적으로 꺼낼 것인가를 더 잘 판단해야 한다.

---

3. 핵심 개념

3.1 채팅 메타데이터

채팅 메타데이터란 채팅 본문과 별도로 저장되는 설명 정보다. 현재 많은 서비스에서는 제목과 생성일, 최근 수정일 정도가 메타데이터로 활용된다. 그러나 긴 대화를 관리하기 위해서는 다음과 같은 메타데이터가 필요하다.

1. 제목
   채팅의 대표 이름이다. 짧고 기억하기 쉬워야 한다.

2. 부제 또는 초록
   채팅의 핵심 내용을 한 줄 또는 짧은 문단으로 설명한다.

3. 키워드
   주요 개념, 용어, 프로젝트명, 인물, 주제를 나열한다.

4. 최근 변경 요약
   마지막으로 대화가 어떤 방향으로 확장되었는지 간단히 기록한다.

5. 자동 관리 상태
   제목과 요약을 AI가 자동으로 관리하는지, 사용자가 수동으로 관리하는지 표시한다.

6. 연결 프로젝트
   해당 채팅이 속한 프로젝트 또는 관련 프로젝트 목록이다.

이러한 메타데이터는 단순히 보기 좋은 설명이 아니다. AI가 과거 대화를 찾고, 분류하고, 참조할 때 사용할 수 있는 구조화된 인덱스다.

3.2 자동 제목·초록 업데이트

자동 제목 생성은 이미 많은 서비스에서 구현되어 있다. 그러나 본 논문이 제안하는 것은 최초 생성에 한정된 제목이 아니라, 대화가 진행된 뒤에도 사용자가 명령하면 제목과 초록을 업데이트할 수 있는 구조다.

사용자는 다음과 같이 말할 수 있다.

“이 채팅방 제목하고 요약 업데이트 해줘.”

이 명령이 들어오면 AI는 현재까지의 대화를 분석하여 다음을 생성한다.

1. 새 제목
2. 새 부제 또는 초록
3. 핵심 키워드
4. 최근 변경 요약
5. 관련 프로젝트 후보

이 기능은 사용자가 직접 제목을 입력하는 귀찮음을 제거한다. 또한 AI가 이미 대화 내용을 알고 있다는 점을 활용한다. AI가 비서라면 사용자가 일일이 제목을 붙이고 폴더에 넣는 작업까지 해야 하는 것은 부자연스럽다.

3.3 수동 수정 보호 규칙

자동화에는 중요한 예외가 필요하다. 사용자가 직접 제목을 수정한 경우, AI는 그 제목을 임의로 변경하지 않아야 한다. 이는 사용자 의도를 존중하기 위한 규칙이다.

기본 상태에서는 AI가 제목과 요약을 자동으로 관리할 수 있다. 그러나 사용자가 제목을 직접 바꾸면 해당 제목은 사용자 지정 제목으로 간주된다. 이때 AI는 자동 업데이트를 멈추거나, 최소한 제목을 덮어쓰지 않아야 한다.

이 규칙은 자동화와 사용자 통제권 사이의 균형을 제공한다. 사용자는 평소에는 AI에게 관리를 맡길 수 있고, 특정 제목을 의도적으로 붙이고 싶을 때는 수동으로 개입할 수 있다. AI는 그 개입을 존중해야 한다.

3.4 프로젝트 자동화

프로젝트는 여러 채팅을 하나의 작업 단위로 묶는 구조다. 현재 프로젝트 기능이 존재하더라도 사용자가 매번 채팅을 직접 프로젝트로 옮겨야 한다면 불편하다. AI 비서라면 채팅의 내용과 기존 프로젝트의 주제를 비교하여 적절한 프로젝트를 추천하거나 자동 분류할 수 있어야 한다.

예를 들어 사용자가 “제목하고 요약 업데이트”라고 말했을 때 AI는 다음까지 수행할 수 있다.

1. 이 채팅의 주제를 분석한다.
2. 기존 프로젝트와 유사도를 비교한다.
3. 관련 프로젝트가 있다면 “이 프로젝트로 옮길까요?”라고 묻는다.
4. 관련 프로젝트가 없다면 새 프로젝트 생성을 제안할 수 있다.
5. 사용자의 설정에 따라 자동 이동할 수도 있다.

이 기능은 단순한 정리 기능이 아니다. 프로젝트는 이후 AI가 기억을 탐색할 때 첫 번째 경계가 된다.

3.5 프로젝트 메모리

프로젝트 메모리는 프로젝트에 속한 여러 채팅의 제목, 초록, 키워드, 핵심 결론을 압축하여 유지하는 상위 요약이다. 프로젝트가 단순히 채팅을 모아놓은 폴더라면 AI는 여전히 필요할 때마다 각 채팅을 열어봐야 한다. 그러나 프로젝트 자체가 요약과 인덱스를 가진다면 AI는 먼저 프로젝트 메모리를 참조할 수 있다.

프로젝트 메모리는 다음을 포함할 수 있다.

1. 프로젝트의 핵심 주제
2. 프로젝트 내 주요 개념
3. 사용자가 정의한 용어
4. 해결된 문제
5. 미해결 문제
6. 최근 논의 방향
7. 관련 프로젝트
8. 대표 채팅 목록

이 구조는 AI가 특정 주제에 대해 답변할 때 전체 채팅 기록을 무작정 탐색하지 않고, 프로젝트 메모리를 먼저 읽은 뒤 필요한 채팅만 선택적으로 참조하게 만든다.

3.6 컨텍스트 경계

컨텍스트 경계란 AI가 현재 대화에서 어떤 기억 영역을 우선적으로 참조해야 하는지를 결정하는 의미적 경계다. 프로젝트는 이 경계로 작동할 수 있다.

예를 들어 사용자가 오리아르케 프로젝트 안에서 “아르케”라고 말한다면, AI는 먼저 오리아르케 프로젝트 내의 정의와 논의를 참조해야 한다. 반대로 AI 연구 프로젝트 안에서 “컨텍스트”라고 말한다면 LCW, UA-RAG, XSCH, 텔레파셔 같은 AI 관련 개념을 우선 참조해야 한다.

이는 같은 사용자가 만든 여러 개념을 무차별적으로 섞지 않도록 돕는다. 사용자의 모든 기억이 하나의 창고에 섞여 있으면 AI는 비슷해 보이는 개념을 잘못 가져올 수 있다. 반면 프로젝트라는 장난감통이 있으면 AI는 먼저 해당 장난감통 안에서 물건을 찾는다. 신발장에 있는 쓰레빠를 먼저 물어오지 않는다.

---

4. 제안 구조

4.1 전체 흐름

본 논문이 제안하는 시스템의 전체 흐름은 다음과 같다.

1. 사용자가 대화를 시작한다.
2. AI가 첫 응답 후 임시 제목을 생성한다.
3. 대화가 진행된다.
4. 사용자가 “이 채팅 제목하고 요약 업데이트 해줘”라고 요청한다.
5. AI가 현재 대화를 분석하여 제목, 초록, 키워드, 최근 변경 요약을 생성한다.
6. AI가 기존 프로젝트와 유사도를 비교한다.
7. 관련 프로젝트가 있으면 이동 여부를 묻는다.
8. 사용자가 승인하거나 자동 설정이 있으면 프로젝트에 분류된다.
9. 프로젝트 메모리가 갱신된다.
10. 이후 관련 질문이 들어오면 AI는 현재 채팅, 현재 프로젝트, 관련 프로젝트, 전체 기록 순으로 탐색한다.
11. 이 계층적 탐색은 평균 탐색 범위를 줄이고, 관련 없는 기억이 먼저 개입하는 가능성을 낮춘다.

4.2 자동 관리 상태

각 채팅은 제목과 초록에 대해 자동 관리 상태를 가진다.

1. AI 관리 상태
   AI가 제목과 초록을 자동으로 갱신할 수 있다.

2. 사용자 관리 상태
   사용자가 제목이나 초록을 직접 수정한 경우, AI는 해당 항목을 임의로 변경하지 않는다.

3. 명령 기반 갱신
   사용자가 명시적으로 “업데이트해줘”라고 하면 AI가 다시 생성할 수 있다.

이 구조는 사용자가 귀찮을 때는 AI에게 맡기고, 의도가 있을 때는 직접 제어할 수 있게 한다.

4.3 계층적 탐색

AI가 과거 대화를 참조해야 할 때 탐색 순서는 다음과 같이 설계할 수 있다.

1. 현재 채팅
   현재 대화에서 이미 나온 내용이 있는지 확인한다.

2. 현재 프로젝트
   현재 대화가 속한 프로젝트의 메모리와 채팅들을 우선 검색한다.

3. 관련 프로젝트
   현재 프로젝트와 연결된 프로젝트 또는 질문과 유사한 프로젝트를 검색한다.

4. 전체 채팅
   위 단계에서 충분한 근거를 찾지 못하면 전체 기록을 검색한다.

5. 일반 지식 또는 웹
   사용자의 개인 기록이 아니라 외부 지식이 필요할 때 참조한다.

이 순서는 탐색 범위를 제한하는 것이 아니라 탐색 우선순위를 정하는 것이다. 전체 검색 능력을 없애는 것이 아니다. 필요한 경우 전체를 검색할 수 있지만, 대부분의 경우 더 좁고 관련성 높은 영역에서 먼저 해결한다.

4.4 단일 프로젝트 탐색

단일 프로젝트에서의 탐색은 전체 기록 탐색보다 후보군이 작다. 사용자의 전체 채팅이 1,000개이고 특정 프로젝트에 속한 채팅이 80개라면, 해당 프로젝트와 관련된 질문은 우선 80개 안에서 해결될 수 있다.

이때 정확한 속도 향상 정도는 시스템 구현, 인덱스 구조, 프로젝트 분류 품질, 질문의 성격에 따라 달라진다. 그러나 구조적으로 탐색 후보군이 줄어드는 방향이라는 점은 명확하다.

4.5 복수 프로젝트 탐색

사용자가 서로 다른 프로젝트의 연결을 묻는 경우에도 탐색 범위는 줄어든다. 예를 들어 사용자가 “AI 프로젝트와 오리아르케 프로젝트를 연결해서 생각해보자”고 말하면 AI는 전체 기록을 처음부터 탐색할 필요가 없다. 먼저 AI 프로젝트와 오리아르케 프로젝트의 메모리를 읽고, 필요한 경우 두 프로젝트 내의 대표 채팅을 참조하면 된다.

이는 단일 프로젝트보다 범위가 넓지만 여전히 전체 기록보다 작다. 즉 프로젝트는 창의적 연결을 막는 감옥이 아니라, 관련 영역들을 선택적으로 연결하는 인덱스가 된다.

4.6 전체 탐색의 보존

프로젝트 기반 탐색은 전체 탐색을 대체하지 않는다. 사용자가 “이거 다른 채팅에서 말한 것 같은데?”라고 묻거나, 현재 프로젝트 안에서 찾지 못한 경우 AI는 전체 기록을 탐색할 수 있어야 한다.

따라서 프로젝트 구조는 다음과 같은 의미를 가진다.

1. 전체 검색을 금지하지 않는다.
2. 전체 검색 전에 더 관련성 높은 후보군을 먼저 본다.
3. 필요한 경우 전체 검색으로 확장한다.
4. 따라서 속도와 정확도를 평균적으로 개선하되, 창의적 연결 가능성은 유지한다.

---

5. 크로스세션 컨텍스트 할루시네이션과의 관계

5.1 크로스세션 컨텍스트 할루시네이션의 정의

크로스세션 컨텍스트 할루시네이션은 AI가 서로 다른 채팅 세션의 맥락을 잘못 연결하여 현재 대화에 부적절한 과거 맥락을 끌어오는 현상이다. 이는 단순한 사실 오류와 다르다. AI가 가져온 정보가 실제로 사용자가 과거에 말한 내용일 수도 있기 때문이다.

문제는 그 정보가 현재 대화의 맥락과 다르다는 데 있다. 사용자가 A라는 주제를 말하고 있는데, AI가 사용자가 과거에 말한 B라는 주제를 연결하면, AI는 겉보기에는 개인화를 잘하는 것처럼 보이지만 실제로는 현재 대화의 의미 공간을 오염시킨다.

5.2 기존 개인화의 문제

기존 개인화는 종종 “사용자가 과거에 말한 것”을 기억하는 데 집중한다. 그러나 사용자의 기억이 많아질수록 단순 기억은 오히려 위험해진다. AI는 사용자가 만든 여러 개념을 모두 비슷한 개인화 데이터로 취급할 수 있다.

예를 들어 사용자가 다음과 같은 개념들을 여러 채팅에서 다루었다고 하자.

1. 오리아르케이즘
2. LCW
3. UA-RAG
4. XSCH
5
6. 컨텍스트 할루시네이션
7. 택시 운영 이론
8. 철학 입문자의 오류

AI가 사용자의 개인화 기억 전체를 하나의 큰 창고처럼 다룬다면, 현재 오리아르케이즘에 대해 말하고 있을 때도 LCW나 UA-RAG를 섣불리 연결할 수 있다. 이는 “사용자가 예전에 말한 것”이라는 점에서는 맞지만, 현재 주제에는 맞지 않을 수 있다.

5.3 쓰레빠 비유

이 문제를 설명하기 위해 강아지 비유를 사용할 수 있다.

사용자는 강아지에게 뼈다귀를 가져오길 기대한다. 그런데 강아지는 신발장에 가서 쓰레빠를 물고 온다. 이 쓰레빠는 완전히 무관한 물건이 아니다. 사용자가 예전에 강아지에게 갖고 놀라고 준 적 있는 물건일 수 있다. 강아지는 나름 주인을 위해, 예전에 주인이 허락했던 물건을 가져온다.

그러나 지금의 놀이 맥락은 뼈다귀다. 쓰레빠는 과거에는 관련 있었지만 현재에는 부적절하다. 따라서 문제는 강아지가 아무것도 기억하지 못하는 것이 아니다. 오히려 기억을 가지고 있지만, 지금 어떤 장난감을 가져와야 하는지 판단하지 못하는 것이다.

AI 개인화도 마찬가지다. 사용자의 과거 개념을 기억하는 것만으로는 부족하다. 현재 대화가 어느 사고 영역에 속하는지 먼저 판단하고, 그 영역 안에서 기억을 꺼내야 한다.

5.4 프로젝트의 역할

자동 프로젝트화가 이루어지면 AI는 신발장 전체를 뒤지는 대신 먼저 장난감통을 열게 된다. 오리아르케 이야기를 할 때는 오리아르케 프로젝트를 먼저 보고, LCW 이야기를 할 때는 LCW 또는 AI UX 프로젝트를 먼저 본다.

이 구조는 다음 효과를 가진다.

1. 현재 주제와 관련 있는 기억이 먼저 검색된다.
2. 관련 없는 개인화 기억이 먼저 튀어나올 가능성이 줄어든다.
3. 사용자가 “그거 말고”라고 정정해야 하는 횟수가 줄어든다.
4. AI는 개인화를 더 많이 하는 것이 아니라 더 적절하게 하게 된다.

즉 프로젝트는 기억의 양을 늘리는 기능이 아니라, 기억 선택의 정확도를 높이는 기능이다.

---

6. AI 비서 UX로서의 의미

6.1 비서의 핵심은 기억 선택이다

AI 비서가 좋은 비서가 되려면 단순히 답변을 잘 생성하는 것만으로는 부족하다. 좋은 비서는 사용자가 반복적으로 해야 하는 귀찮은 작업을 줄이고, 필요한 기억을 적절한 순간에 꺼내며, 사용자의 의도를 존중해야 한다.

현재 AI는 종종 다음과 같은 방식으로 행동한다.

1. 사용자가 말을 시작한다.
2. AI가 과거 기억 중 비슷한 것을 성급하게 떠올린다.
3. AI가 “아, 예전에 말씀하신 그거죠?”라고 말한다.
4. 사용자는 “아니 그거 말고”라고 정정한다.

이는 비서라기보다 주인이 시키기도 전에 엉뚱한 물건을 물어오는 강아지에 가깝다. 문제는 충성심이나 의도가 아니라, 현재 맥락을 구분하는 능력이다.

6.2 멍멍이에서 돌고래로

이 구조를 비유적으로 표현하면, 현재 AI는 멍멍이형 개인화에 가깝다. 예전에 주인이 좋아했던 물건을 기억하고, 비슷해 보이면 물고 온다. 그러나 지금 어떤 놀이를 하고 있는지, 어떤 물건이 필요한지는 충분히 판단하지 못한다.

제안하는 구조는 AI를 돌고래형 비서에 가깝게 만든다. 돌고래는 단순히 물건을 물어오는 것이 아니라, 현재 놀이의 규칙과 맥락을 이해하고 그에 맞는 행동을 한다. AI도 마찬가지로, 현재 대화가 어느 프로젝트, 어느 사고 영역, 어느 개념군에 속하는지 먼저 판단하고 그 안에서 기억을 찾아야 한다.

6.3 사용자의 귀찮음을 줄이는 자동화

사용자는 제목을 매번 바꾸기 귀찮다. 프로젝트로 매번 옮기기도 귀찮다. 과거 채팅을 찾기 위해 스크롤하는 것도 귀찮다. “요약해줘”라고 매번 묻는 것도 귀찮다.

AI 비서라면 이런 일을 대신해야 한다. 사용자가 해야 하는 것은 생각하고 말하는 일이다. AI가 해야 하는 것은 다음과 같다.

1. 대화가 무엇에 관한 것인지 정리한다.
2. 제목과 초록을 붙인다.
3. 관련 프로젝트에 넣는다.
4. 프로젝트 메모리를 갱신한다.
5. 나중에 사용자가 찾기 쉽게 만든다.
6. 현재 대화와 관련 있는 기억을 우선 꺼낸다.

이것이 비서다운 기능이다. 사용자가 이미 말한 내용을 다시 정리하고, 분류하고, 기억해두는 것은 AI가 가장 잘할 수 있는 작업 중 하나다. 그런데 이 기능이 제품 UX에 충분히 연결되지 않으면 사용자는 여전히 수동으로 정리해야 한다.

---

7. 비용 절감 효과

7.1 반복 요약 요청 감소

제목과 초록이 없으면 사용자는 과거 채팅을 확인하기 위해 요약 요청을 반복한다. 그러나 제목과 초록이 채팅 목록에 표시되면 사용자는 채팅을 열기 전에도 해당 채팅의 내용을 어느 정도 파악할 수 있다.

예를 들어 제목만 있는 경우:

“사상의 지하실”

사용자는 이 제목만 보고는 해당 채팅이 무엇을 다루는지 기억하지 못할 수 있다.

부제가 있는 경우:

“사상의 지하실”
“AI 채팅 제목 생성, 프로젝트 자동화, 컨텍스트 할루시네이션 감소 구조 논의”

이 경우 사용자는 채팅을 열지 않고도 해당 대화의 핵심을 파악할 수 있다.

7.2 메타데이터 캐시

제목과 초록은 일종의 캐시다. 긴 대화를 매번 다시 요약하는 대신, 한 번 생성한 요약을 저장해두고 반복적으로 사용한다.

구조는 다음과 같다.

1. 채팅 내용이 생성된다.
2. AI가 제목과 초록을 생성한다.
3. 메타데이터로 저장한다.
4. 사용자가 채팅 목록을 볼 때 저장된 메타데이터만 불러온다.
5. 사용자가 명시적으로 업데이트를 요청할 때만 다시 생성한다.

이 방식은 매번 모델을 호출하여 긴 컨텍스트를 재처리하는 것보다 효율적이다.

7.3 프로젝트 메모리 캐시

프로젝트 메모리도 같은 원리로 작동한다. 프로젝트에 속한 모든 채팅을 매번 읽는 대신, 프로젝트의 대표 요약과 키워드를 유지한다. 사용자가 프로젝트와 관련된 질문을 하면 AI는 먼저 프로젝트 메모리를 읽고, 필요한 경우에만 특정 채팅을 열람한다.

이는 RAG의 계층형 인덱스와 유사하다. 전체 문서를 처음부터 검색하는 것이 아니라, 상위 요약을 통해 관련 영역을 좁힌 뒤 세부 문서로 들어가는 방식이다.

---

8. 구현 제안

8.1 사용자 명령

가장 단순한 사용자 명령은 다음과 같다.

“이 채팅 제목하고 요약 업데이트 해줘.”

이 명령은 다음 작업을 수행한다.

1. 제목 생성 또는 갱신
2. 부제 또는 초록 생성
3. 키워드 생성
4. 최근 변경 요약 생성
5. 프로젝트 유사도 분석
6. 프로젝트 이동 제안 또는 자동 분류
7. 프로젝트 메모리 갱신

사용자는 여러 명령을 외울 필요가 없다. 하나의 명령이 여러 정리 작업을 수행한다.

8.2 자동 실행

설정에 따라 AI는 일정 조건에서 자동으로 제목과 초록을 업데이트할 수 있다. 예를 들어 대화가 일정 길이를 넘거나, 주제가 크게 바뀌었거나, 사용자가 채팅을 종료하려는 시점에 자동 업데이트를 수행할 수 있다.

다만 자동 실행은 사용자 수동 수정 보호 규칙을 따라야 한다. 사용자가 직접 제목을 수정했다면 자동으로 덮어쓰지 않는다.

8.3 프로젝트 추천

제목과 초록을 생성한 뒤 AI는 기존 프로젝트와 유사도를 비교한다.

예시:

“현재 채팅은 ‘AI UX 연구’ 프로젝트와 관련성이 높습니다. 이 프로젝트로 이동할까요?”

사용자가 승인하면 해당 채팅은 프로젝트에 포함된다. 이후 프로젝트 메모리가 갱신된다.

8.4 프로젝트 메모리 업데이트

채팅이 프로젝트에 들어가면 프로젝트 메모리는 다음을 갱신한다.

1. 새 채팅 제목
2. 새 채팅 초록
3. 새 키워드
4. 프로젝트의 핵심 개념 목록
5. 최근 변경 사항
6. 관련 프로젝트 후보

이 정보는 이후 프로젝트 검색과 컨텍스트 선택에 사용된다.

8.5 탐색 우선순위

AI가 과거 기억을 참조할 때는 다음 순서를 따른다.

1. 현재 대화 내용
2. 현재 채팅 메타데이터
3. 현재 프로젝트 메모리
4. 현재 프로젝트 내 관련 채팅
5. 관련 프로젝트 메모리
6. 관련 프로젝트 내 채팅
7. 전체 사용자 기록
8. 일반 지식

이 순서가 중요한 이유는, AI가 처음부터 전체 개인화 기억을 열람하면 비슷하지만 부적절한 기억을 꺼낼 가능성이 커지기 때문이다. 프로젝트 기반 경계는 먼저 적절한 기억 영역을 좁혀준다.

---

9. 기대 효과

9.1 사용자 편의성 향상

사용자는 과거 대화를 더 쉽게 찾을 수 있다. 제목과 초록이 함께 표시되면 채팅 목록만 보고도 해당 대화의 내용을 떠올릴 수 있다.

9.2 정리 비용 감소

사용자가 직접 제목을 바꾸거나 프로젝트로 옮기는 작업이 줄어든다. AI가 자동으로 정리하고, 사용자는 필요할 때만 개입한다.

9.3 추론 비용 감소

저장된 메타데이터와 프로젝트 메모리를 활용하면 반복 요약 요청과 전체 기록 탐색을 줄일 수 있다. 이는 서버 비용 절감으로 이어질 수 있다.

9.4 검색 정확도 향상

프로젝트를 탐색 경계로 사용하면 현재 주제와 관련된 기억을 우선 검색하게 된다. 이는 관련 없는 기억이 먼저 튀어나오는 문제를 줄인다.

9.5 크로스세션 컨텍스트 할루시네이션 감소

AI가 서로 다른 세션의 맥락을 잘못 섞는 문제를 줄일 수 있다. 특히 사용자가 여러 독자적 개념을 만든 경우, 프로젝트별로 개념을 분리하면 현재 대화와 다른 개념이 섣불리 연결되는 것을 방지할 수 있다.

9.6 AI 비서성 강화

AI는 단순히 답변하는 도구가 아니라, 사용자의 지식 흐름을 정리하고, 기억을 관리하고, 적절한 기억을 꺼내는 비서에 가까워진다.

---

10. 한계와 고려사항

10.1 자동 분류 오류

AI가 채팅을 잘못된 프로젝트에 분류할 가능성이 있다. 이를 줄이기 위해서는 사용자가 쉽게 이동을 취소하거나 재분류할 수 있어야 한다.

10.2 과도한 프로젝트 분화

자동 프로젝트화가 지나치면 너무 많은 프로젝트가 생성될 수 있다. 따라서 새 프로젝트 생성보다는 기존 프로젝트와의 유사도를 먼저 확인하고, 명확히 관련 프로젝트가 없을 때만 새 프로젝트를 제안해야 한다.

10.3 창의적 연결의 차단 위험

프로젝트 경계가 너무 강하면 서로 다른 분야의 창의적 연결이 약해질 수 있다. 따라서 프로젝트는 감옥이 아니라 우선순위여야 한다. 전체 검색과 관련 프로젝트 검색은 항상 가능해야 한다.

10.4 사용자 의도 보호

사용자가 직접 제목이나 프로젝트를 수정한 경우, AI는 이를 존중해야 한다. 자동화가 사용자의 의도를 덮어쓰면 불신이 생길 수 있다.

10.5 요약 품질

제목과 초록이 부정확하면 오히려 탐색을 방해할 수 있다. 따라서 요약은 주제, 결론, 핵심 개념을 포함해야 하며, 단순히 첫 질문만 반영해서는 안 된다.

---

11. 논의

본 논문에서 제안한 구조는 표면적으로는 채팅 제목과 프로젝트 관리 기능처럼 보인다. 그러나 실제 핵심은 AI가 장기 기억을 어떻게 선택하고 사용하는가에 있다.

현재 많은 AI 시스템은 개인화 기억을 사용할 때 “사용자가 예전에 말한 적 있는가”에 지나치게 의존한다. 그러나 더 중요한 질문은 “지금 이 대화에서 그 기억을 꺼내는 것이 적절한가”이다. 기억의 존재와 기억의 적절성은 다르다.

사용자가 여러 분야에서 독자적 개념을 만들고, 그 개념들이 서로 부분적으로 연결되어 있다면 AI는 더욱 쉽게 혼동한다. 모든 개념이 같은 사용자에게서 나온 것이기 때문에 AI는 이를 하나의 큰 개인화 맥락으로 묶으려 한다. 그러나 사용자의 머릿속에서는 오리아르케, LCW, UA-RAG, 택시 이론, 철학 개념, 소설 설정이 서로 다른 사고 영역으로 분리되어 있을 수 있다.

따라서 AI는 사용자의 기억 전체를 한 번에 불러오는 것이 아니라, 현재 어느 사고 영역에서 대화하고 있는지 먼저 판단해야 한다. 프로젝트는 이를 위한 실용적 단위다.

자동 제목과 초록은 채팅을 찾기 쉽게 만드는 동시에, 프로젝트 분류를 위한 데이터가 된다. 프로젝트 분류는 탐색 범위를 줄이는 동시에, 기억 선택의 우선순위를 정한다. 프로젝트 메모리는 반복 추론을 줄이는 동시에, 장기 기억의 압축 표현이 된다. 이 모든 기능은 서로 연결되어 있다.

따라서 본 논문이 주장하는 바는 단순히 “채팅 목록에 부제를 추가하자”가 아니다. 핵심은 다음과 같다.

AI 비서가 진정으로 비서답게 작동하려면, 사용자의 기억을 많이 보유하는 것보다, 현재 맥락에 맞는 기억을 선택하는 능력이 필요하다. 자동 제목, 초록, 프로젝트화, 프로젝트 메모리, 계층적 탐색은 그 능력을 구현하기 위한 제품 UX이자 기억 아키텍처다.

---

12. 결론

본 논문은 대화형 AI의 채팅 관리 문제를 출발점으로 삼아, 자동 제목·초록 업데이트와 프로젝트 기반 메타데이터 구조가 AI 비서의 기억 선택 정확도와 운영 효율을 동시에 개선할 수 있음을 논의했다.

현재 AI 서비스는 사용자의 긴 대화를 저장할 수 있지만, 이를 다시 찾고, 정리하고, 적절히 참조하는 기능은 충분히 발전하지 못했다. 사용자는 제목만 보고 과거 대화를 찾기 어렵고, 매번 채팅을 열어 스크롤하거나 요약을 요청해야 한다. 이는 사용자 편의성을 떨어뜨리고, 불필요한 추론 비용을 발생시킨다.

이를 해결하기 위해 본 논문은 다음 구조를 제안했다.

1. 채팅마다 제목뿐 아니라 부제 또는 초록을 가진다.
2. 사용자는 “이 채팅 제목하고 요약 업데이트 해줘”라는 명령으로 제목과 요약을 갱신할 수 있다.
3. 사용자가 직접 제목을 수정한 경우 AI는 자동으로 덮어쓰지 않는다.
4. AI는 제목과 초록을 기반으로 유사한 프로젝트를 찾고 이동을 제안하거나 자동 분류한다.
5. 프로젝트는 단순한 폴더가 아니라 프로젝트 메모리를 가진다.
6. AI는 현재 채팅, 현재 프로젝트, 관련 프로젝트, 전체 기록 순으로 계층적 탐색을 수행한다.
7. 이 구조는 탐색 범위와 반복 추론 비용을 줄인다.
8. 동시에 현재 맥락과 다른 개인화 기억을 잘못 끌어오는 크로스세션 컨텍스트 할루시네이션을 줄일 수 있다.

이 제안의 핵심은 AI 개인화를 더 강하게 만드는 것이 아니라, 더 정확하게 만드는 것이다. AI는 사용자가 예전에 말한 것을 무조건 많이 가져오는 것이 아니라, 지금 대화의 사고 영역에 맞는 기억을 먼저 가져와야 한다. 프로젝트는 그 기억 선택의 경계가 된다.

결국 AI 비서는 단순히 기억력이 좋은 멍멍이가 아니라, 현재 놀이의 규칙을 이해하고 필요한 물건을 가져오는 돌고래형 비서에 가까워져야 한다. 자동 제목, 초록, 프로젝트화, 프로젝트 메모리, 계층적 탐색은 이를 위한 실용적 설계다.

---

부록 A. 핵심 비유 정리

A.1 쓰레빠와 뼈다귀

사용자가 지금 원하는 것은 뼈다귀다. 그러나 AI가 예전에 사용자가 허락한 쓰레빠를 물고 온다면, 그것은 완전히 무관한 기억은 아니지만 현재 의도와는 다르다. 이 비유는 개인화 기억의 문제를 잘 보여준다. 문제는 기억이 없는 것이 아니라, 현재 필요한 기억을 고르지 못하는 것이다.

A.2 장난감통과 신발장

프로젝트는 장난감통이다. 자동 프로젝트화가 없으면 AI는 집 전체를 돌아다니며 아무거나 비슷한 것을 찾는다. 자동 프로젝트화가 있으면 AI는 먼저 현재 놀이와 관련된 장난감통을 연다. 그러면 신발장에 있는 쓰레빠를 먼저 물고 올 가능성이 줄어든다.

A.3 멍멍이와 돌고래

현재 AI 개인화는 멍멍이형에 가깝다. 예전에 본 것을 기억하고, 비슷해 보이면 가져온다. 그러나 돌고래형 비서는 현재 맥락과 놀이의 규칙을 이해하고, 그에 맞는 행동을 한다. 본 논문이 제안하는 구조는 AI를 멍멍이형 개인화에서 돌고래형 비서로 업그레이드하는 방향이다.

---

부록 B. 기능 명령 예시

B.1 기본 명령

“이 채팅 제목하고 요약 업데이트 해줘.”

결과:

제목: 프로젝트 기반 AI 기억 관리
초록: 자동 제목·초록·프로젝트화를 통해 AI의 기억 탐색 범위를 줄이고 크로스세션 컨텍스트 할루시네이션을 완화하는 구조를 논의함.
키워드: 자동 제목, 채팅 초록, 프로젝트 메모리, RAG, 컨텍스트 경계, 크로스세션 컨텍스트 할루시네이션
프로젝트 제안: AI UX 연구

B.2 프로젝트 이동 제안

“이 채팅은 ‘AI UX 연구’ 프로젝트와 관련성이 높습니다. 이 프로젝트로 이동할까요?”

B.3 수동 수정 보호

사용자가 제목을 직접 “오리아르케와 AI 기억 구조”로 수정한 경우:

AI는 이후 자동 업데이트 시 제목을 덮어쓰지 않는다. 다만 사용자가 명시적으로 “제목도 다시 업데이트해줘”라고 말하면 새 제목을 제안할 수 있다.

---

부록 C. 한 문장 요약

자동 제목과 초록은 단순한 정리 기능이 아니라, 채팅을 프로젝트로 묶고, 프로젝트를 기억 인덱스로 사용하며, AI가 현재 맥락에 맞는 기억을 먼저 선택하게 만들어 크로스세션 컨텍스트 할루시네이션을 줄이는 장기 기억 UX 아키텍처다.

참고문헌.
그런거 없음.