한 번 묻고 끝이 아니던데…
AI는 뭘 기억하고 뭘 잊나요?

AI는 당신을 기억하지 않습니다.
매 순간, 백지에서 다시 시작합니다.

이 한 문장이 불편하게 들린다면 — 정확합니다. 오늘 강의는 그 불편함의 정체를 밝혀, 다음 단계인 '위임'을 모래 위가 아니라 단단한 바닥 위에 세우기 위한 시간입니다.

"어제 그거 이어서 해줘"가 안 통하던 경험

한 번쯤 겪어봤을 겁니다.

우리는 이걸 "AI가 깜빡했다"고 표현합니다. 하지만 깜빡한 게 아닙니다. AI 입장에선 처음부터 그 정보가 책상 위에 없었거나, 밀려나 떨어진 것입니다. 이 차이를 아는 것이 오늘의 전부입니다.

1강에서 우리는 "책상 위"를 배웠습니다

1강은 한 번의 질문에 무엇을 올려야 하는가였습니다. 그런데 대화는 한 번으로 끝나지 않습니다. 그래서 2강의 질문은 이렇게 확장됩니다:

그 책상은 시간이 흐르면
어떻게 차려지고, 또 치워지는가?

같은 원리(명시성)의 두 번째 얼굴입니다. 1강이 '공간'의 명시성이라면, 2강은 '시간'의 명시성 — 여러 턴, 여러 날에 걸쳐 무엇이 책상 위에 남아 있는가입니다.

진실: 모델은 대화를 저장하지 않습니다

AI 모델 자체는 방금 나눈 대화조차 기억하지 않습니다. 그럼 어떻게 대화가 이어지는 것처럼 보일까요?

비밀은 단순합니다. 매 턴마다, 지금까지의 대화 전체를 통째로 다시 입력으로 넣어줍니다. 화면 뒤에서 일어나는 일은 이렇습니다:

모델은 매번 이 묶음을 처음 보는 것처럼 읽고 다음 말을 만듭니다. 비유하자면 — 매 순간 기억이 초기화되는 명탐정에게, 그때까지의 사건 파일 전체를 매번 다시 건네는 것과 같습니다.

새 창마다가 아니라, 매번 새 AI입니다

흔히 이렇게 생각합니다 — "새 창을 열면 새 AI, 같은 창이면 같은 AI가 이어서 일한다." 절반만 맞습니다. 더 정확한 진실은:

같은 창 안에서도
매 질문·답변마다 완전히 새로운 AI가 앉습니다.

1강의 그 '외부 전문가' 기억하시죠? 매 턴마다 그 전문가가 방을 나가고, 우리를 처음 보는 새 전문가가 들어옵니다. 다행히 우리가 그때까지의 '사건 파일(대화 전체)'을 다시 건네기에, 이어지는 것처럼 보일 뿐입니다.

그 책상에는 크기 한계가 있습니다

매번 대화 전체를 다시 올린다면, 한 가지 의문이 생깁니다 — 대화가 끝없이 길어지면? 여기서 두 번째 개념이 등장합니다.

단위는 글자 수가 아니라 토큰(token)입니다 — 단어를 잘게 쪼갠 조각이라고 생각하면 됩니다. 모델마다 책상 크기가 다르고, 기술이 발전하며 점점 커지고 있습니다. 하지만 아무리 커도 무한은 아닙니다.

그래서 아주 긴 대화나 긴 문서에선, 분명 앞에서 말했던 내용이 슬그머니 사라지는 일이 생깁니다. AI가 게을러서가 아니라, 책상에서 떨어졌기 때문입니다.

책상 위에는 사실 네 가지가 올라갑니다

우리가 보는 건 내 질문 하나지만, 실제 책상 위 구성은 이렇습니다:

이 네 가지가 같은 책상(=같은 컨텍스트 윈도우)을 나눠 씁니다. 그래서 긴 문서를 잔뜩 붙이면(③), 정작 대화 히스토리(②)나 지침(①)이 밀려날 자리가 줄어듭니다. 책상은 하나, 자리는 한정 — 이게 핵심 그림입니다.

길어지면, 가운데가 흐려집니다

책상이 꽉 차기 전에도 문제는 시작됩니다. 책상 위 자료가 많아질수록, AI는 맨 앞과 맨 뒤는 잘 보지만 가운데는 놓치는 경향이 있습니다.

긴 대화에서 초반 규칙을
슬그머니 어기는 이유가 이것입니다.

처음에 "표는 쓰지 마"라고 정해도, 수십 턴이 지나면 그 지시는 책상 한복판에 파묻혀 영향력이 약해집니다. 떨어진 건 아니지만, 흐려진 겁니다.

• 그래서 중요한 지시는 한 번 말하고 끝내지 말고, 다시 꺼내 올려야 합니다.
• 그래서 주제가 바뀌면 새 대화로 시작하는 게 종종 더 깨끗합니다.

그럼 '메모리' 기능은 뭔가요?

여기까지 들으면 의문이 생깁니다. "그런데 어떤 AI는 지난번 내 얘기를 기억하던데?" 맞습니다. 그게 바로 메모리 기능입니다. 핵심은 그 정체입니다:

• 새 대화 = 빈 책상이 기본입니다. 메모리가 없으면 이전 대화는 넘어오지 않습니다.
• 메모리 기능은 그 빈 책상에 "저장해 둔 메모"를 자동으로 다시 깔아주는 것일 뿐입니다.
• 그래서 메모리에 든 것도 결국 책상 자리를 차지하고, 틀리면 틀린 채로 깔립니다.

정리하면 — AI에게 기억이란 "자동 기억"이 아니라 "다시 올려주기의 자동화"입니다. 누가, 무엇을, 언제 다시 올려주느냐가 전부입니다.

그럼 실제로 어디서 켜나요?

제품마다 이름은 다르지만 하는 일은 같습니다 — 대화 밖에 저장 → 다음 책상에 자동으로 다시 깔기.

※ 메뉴 이름·위치는 자주 바뀝니다. 그리고 회사 계정은 보안 정책으로 메모리·기록이 제한될 수 있으니 반드시 실제 환경에서 확인하세요.

실천 ①: 책상을 의식적으로 관리하기

메커니즘을 알았으니, 행동은 자연스럽게 따라옵니다.

1. 주제가 바뀌면 새 대화로. 끝난 일의 잔재가 책상을 어지럽히지 않게 합니다.
2. 중요한 지시는 다시 꺼내 올리기. 긴 대화 후반엔 "아까 정한 규칙: …"을 다시 적어 줍니다(희석 방지).
3. 긴 자료는 통째로 말고, 필요한 부분만. 책상 예산을 핵심에 씁니다.

이 세 가지는 요령이 아니라 책상의 물리법칙에서 나온 결론입니다. "왜"를 알면 외울 필요가 없습니다.

'가운데 흐려짐'을 막는 실전 팁

긴 대화에서 지시가 흐려지는 걸(8페이지) 막는 구체적인 방법들입니다:

※ 자동 요약은 편하지만 세부를 잃을 수 있으니, 중요한 디테일은 사람이 한 번 확인하세요.

실천 ②: 반복되는 맥락은 '밖에' 적어두기

매번 같은 배경을 설명하고 있다면 — 그건 신호입니다. 그 맥락을 문서로 한 번 적어두고, 매번 책상에 다시 올리세요.

이 작은 습관이,
'매번 새로 설명'에서 '한 번 설계해 재사용'으로
옮겨가는 첫 걸음입니다.

"반복되는 맥락을 밖으로 꺼내 명시화한다" — 이것이 바로 다음 강의들의 주제입니다. → 3강 이 맥락 관리를 AI가 스스로 하면 = 에이전트 → 4강 내 업무를 이렇게 분해·위임

예시: 대화를 '재사용 지침'으로 바꾸기

외부화가 막막하면, AI에게 이렇게 시켜보세요 — 지금까지의 대화 자체가 재료입니다.

한 번 꺼내 저장하면, 그 다음부터 AI는 매 대화에서 '나'를 다시 책상에 깔고 시작합니다. 매번 설명하던 수고가 사라지는 거죠.

※ AI가 만든 요약·프로필은 사람이 한 번 검토한 뒤 저장하세요(틀린 메모는 계속 따라옵니다). 민감정보·고객정보는 제외.

오늘 한 문장으로

AI는 기억하지 않는다.
우리가 매번 책상에 다시 올릴 뿐이다.

• 모델은 무상태 — 매 턴 대화 전체가 다시 입력된다(매번 새 AI).
• 책상(컨텍스트 윈도우)은 유한하다 — 넘치면 밀리고, 길면 가운데가 흐려진다.
• '메모리'는 자동 기억이 아니라 다시 올려주기의 자동화다.
• 그러니 핵심은 무엇을 책상에 올려둘지 의식적으로 설계하는 것.

시리즈 인덱스로 돌아가기 →