🦸🏻#9: AI는 어떻게 '기억'을 할까? '에이전트' 구조에서 '메모리'의 역할

들어가며

여러분, 영화 좋아하시죠?

오늘은 ‘AI 에이전트’ 시리즈의 다음 에피소드로 ‘기억’, 또는 ‘메모리’에 대한 이야기를 해 볼까 합니다. ‘기억’ 하면 떠오르는 영화가 저는 두 개 있어요:

네, 바로 크리스토퍼 놀란 감독의 ‘메멘토’, 미셸 공드리 감독의 ‘이너털 선샤인’입니다. 둘 다 볼 때도 아주 인상깊었고, 지금도 기억에 남는, ‘기억’에 대한 영화네요. 영화의 내용에 대한 이야기는 여기서는 넘어가기로 하고, 안 보신 분이 계시다면 꼭 한 번 보시기를 추천합니다. ^.^

영화 ‘메멘토’에 명대사가 많지만, 이 대사가 생각나네요:

메멘토의 주인공, 레너드 셸비의 대사이기는 하지만, 언젠가 어떤 LLM은 우리에게 이런 이야기를 하게 될 것 같지 않나요?

메모리, 좀 더 정확히 말하자면 ‘여러 종류의 메모리’는 에이전틱 워크플로우에서 아주 중요한 구성요소 중에 하나죠 - 그리고 다른 구성요소들 중에 ‘지식’, 그리고 ‘프로파일링’과 밀접한 관련을 맺고 있습니다. ‘프로파일링’은 에이전트가 스스로가 누구인지 (자신의 성격, ‘아바타’), 무엇을 하는지 (자신의 행동 모델), 어디에서 활동하는지 (자신의 환경) 등을 어떻게 해석하는지 정의하는 요소구요, ‘지식’은 의사 결정을 가이드하는 사실, 또는 학습된 표현 (Learned Representation)을 제공하죠.

반면에, ‘메모리’는 이런 요소들을 함께 엮어내고, 의사 결정에 적극적으로 참여한 경험을 다이나믹하고 풍부하게 기록한 것이라고 할 수 있습니다.

‘기억’에 대한 연구가 수십년 동안 이어져왔지만, 아직도 우리는 ‘LLM이 사물을 일관적으로 기억하게 만드는 법’을 잘 알지 못합니다. 현재의 AI 시스템은 정보를 검색하고, 이전에 일어났던 상호작용을 요약하고, 세부 사항들 중 일부를 저장하거나 할 수 있지만, 시간이 지나도 안정적으로 유지될, 구조화된 기억은 아직 부족한 상황입니다.

그래서, 오늘 같이 살펴볼 것들이 많이 있어요: 우리에게 여러 가지 인사이트를 떠오르게 해 줄 예전의 논문들도 살펴보고, 여러 가지 유형의 메모리, 그리고 에이전틱 워크플로우에서 메모리의 역할에 대해서 이야기하고, 이 구성요소들이 어떻게 함께 작동하는지 생각해 보고, 메모리 모드를 가진 모델이 사물을 어떻게 ‘기억’하는지 이해해 보고, 그리고 생성형 AI가 기억이라는 것의 본질을 어떻게 변화시키고 있는지 고민해 보는 계기가 되었으면 좋겠습니다. 자 시작해 볼까요?

오늘 에피소드에서는 아래와 같은 내용을 다룹니다:

• ‘에이전트 메모리 시스템’의 조상 - SOAR, 그 유산

  • 선언적 (Declarative) 지식과 절차적 (Procedural) 지식

  • 청킹 (Chunking)

  • 하위 목표 설정 (Subgoaling), 그리고 계층적 문제 해결

• SOAR의 기본 개념이 현대적인 AI와 잘 맞는 이유

• 오늘날 우리가 사용하는 메모리의 유형

  • 장기 메모리 (Long-Term Memory): 영속적인 지식의 토대

  • 단기 메모리 (Short-Term Memory): ‘지금 이 순간’의 힘

  • 이 모든 걸 합쳐놓으면?

• 메모리, 그리고 생성형 에이전트 

• 챗GPT가 뭔가를 ‘기억’하는 방법: ‘메모리 모드’

• 맺으며: 인간의 기억에 미치는 영향

• 보너스: 참고자료

‘에이전트 메모리 시스템’의 조상 - SOAR, 그 유산

1987년, 앨런 뉴웰 (Allen Newell, 1927-1992), 폴 로젠블룸 (Paul Rosenbloom, 미시간 대학교 CS 교수), 그리고 존 레어드 (John Laird, 미시간 대학교 CS 교수) 세 사람이 ‘SOAR’라는 이름의 아키텍처를 제시했는데요. 이건 ‘State Operator And Result’의 약자로, 사람의 인지 과정을 모방해서 설계한, 지능적인 시스템을 개발하겠다는 목표로 만들어진 아키텍처입니다.

현재 많은 사람들이 ‘일반 지능 (General Intelligence)’라는 개념을 놓고 갑론을박하고 있지만, SOAR를 만든 사람들은 아주 명확했어요 - 일반 지능은, ‘시스템이 광범위한 인지적 작업을 처리하고, 다양한 문제 해결 방법을 사용하고, 경험으로부터 지속적으로 학습하는 능력’이라고 말했습니다.

처음 소개됐을 당시, SOAR는 ‘문제 해결’, ‘학습’, 그리고 ‘기억’까지 포함해서 단일한 프레임웍으로 통합하는 ‘인지 통합 이론 (Unified Theory of Cognition)’을 만들려고 했던 대담하면서도 우아한 시도였고, 현대적인 AI 에이전트 구조와도 통하는 바가 있는, ‘기억’이라는 요소에 대해서 구조적으로 접근하는 방식이었다고 합니다.

즉각적인 인지 작업을 위한 ‘Working Memory’와 학습된 규칙을 저장하는 ‘Procedural Memory’를 구분해 놓은 SOAR 프레임웍을 보면, 이미 이 저자들은 시간이 지나면서 지식을 유지, 회상, 개선하는 시스템을 만드는 게 도전적인 과제라는 걸 알고 있었던 것 같습니다.

지금 우리가 많이 보는 AI 에이전트는 명시적인 생성 규칙보다 통계적인 학습이라든가 벡터 기반의 검색에 더 많이 의존하지만, 시스템이 어떻게 뭔가를 기억하고 개선하느냐 하는 근본적인 질문은 ‘에이전트 시스템’에 있어서 핵심이 되는 질문이죠 - SOAR가 바로 이와 관련된 AI 프레임웍의 일종의 ‘개념적인 조상’이라고 할 수 있을 것 같네요.

선언적 (Declarative) 지식과 절차적 (Procedural) 지식

잠깐 언급했다시피, SOAR 프레임웍의 혁신적인 관점 중에 하나가 바로, ‘두 가지 유형의 지식’을 구별한 겁니다. 사실이나 정보 등으로 구성된 ‘선언적 지식’은 Working Memory에 저장되는데, 이건 ‘현재 환경에 대한 시스템의 이해’를 나타냅니다. 반면에, ‘절차적 지식’은 시스템의 행동을 가이드하고 지시하는 일종의 ‘생성 규칙 (Production Rules)’으로 장기 메모리에 내장됩니다.

이렇게 두 가지를 명확하게 구분한 덕분에, SOAR는 즉각적인 문제 해결 작업을 관리하는 동시에, 미래에 활용할 다양한 전략과 전술을 저장해 놓는 저장소를 만드는 프레임웍이 될 수 있었습니다.

청킹 (Chunking)

또 하나 중요한 특징이 바로 ‘청킹’인데요.

시스템이 문제를 성공적으로 해결하면, 그 경험을 새로운 ‘생성 규칙’으로 통합하게 되죠. ‘청킹’이라는 과정은, 복잡한 문제 해결 과정을 재사용할 수 있는 지식의 조각으로 효과적으로 압축해서, 미래의 계산 부하를 줄이고 효율성을 향상시켜 주는 과정입니다. 이런 방식을 거쳐서 성공적인 전략과 전술을 내재화함으로써, SOAR는 마치 사람이 반복적인 경험을 통해서 배우는 것처럼 문제 해결 능력을 지속적으로 개선하게 되는 겁니다.

읽어주셔서 감사합니다. 친구와 동료 분들에게도 뉴스레터 추천해 주세요!