🦸🏻#8: 변화하는 '지식'의 패러다임: 최신의 AI 에이전트들은 어떻게 적응하고 배우는가

들어가며

튜링 포스트 코리아의 ‘AI 에이전트’ 여섯 번째 에피소드에서, 에이전트가 ‘정체성, 행동, 환경, 성능과 자원을 인식하는 기법’을 알아보면서 ‘에이전틱 워크플로우에서 프로파일링이 갖는 의미, 그 역할’에 대해서 이야기를 했죠:

‘프로파일링’은 에이전트의 지식, 기억, 그리고 행동을 연결해는 매개체로서, 에이전트가 정적인 시스템에서 섬세한 (Nuanced) 의사결정을 할 수 있는 다이나믹한 협업자가 될 수 있도록 해 줍니다 - 즉, 에이전트가 일종의 ‘디지털 인격체’처럼 작동할 수 있도록 하려면 프로파일링이 필수라는 겁니다.

이번 에피소드에서는, 이런 ‘디지털 인격체’로서의 에이전트가 가져야 할 ‘전문성’, 그 기반이 되는 ‘지식 (Knowledge)’에 대해서 이야기해 볼까 합니다. 에이전트는, 자기가 아는 걸 ‘어떻게 알게 되는’ 걸까요? 소위 이 ‘전문성 (Expertise)’의 배후에 있는 메커니즘은 뭐고, 에이전트의 행동에 어떤 방식으로 어떤 영향을 미치는 걸까요?

흥미진진하죠? 한 번 같이 알아볼까요?

오늘은 아래와 같은 내용을 다루려고 합니다:

• 에이전트, 여전히 ‘지식 기반’의 서비스인가?

• ‘명시적으로 주어진 지식’에서 ‘스스로 학습한 지식 표현’으로

• 존 맥카시의 철학, ‘Programs with Common Sense’

• 현재의 ‘지식’, 실체는 어떤 모습인가?

  • 구조적 지식: 정보 간 관계를 구축한다

  • 메타 지식: 뭘 아는지를 안다

  • 휴리스틱: 게임의 법칙을 배운다

  • 현대적인 에이전트에서 융합되는 다양한 형태의 지식

• 미리 입력된 지식 vs. 스스로 학습한 지식 간의 조화

• 지식은 어떻게 작동하는가?

• ‘지식’ 개념의 역사적 토대: 두 가지 접근 방식의 발전 과정

• 맺으며

• 보너스: 참고 자료

에이전트, 여전히 ‘지식 기반’의 서비스인가?

여러 차례 말씀드렸던, 스튜어트 러셀과 피터 노빅의 저서 ‘인공지능: 현대적 접근방식’에서 정의한 ‘지식 기반 에이전트’라는 개념은 AI 산업의 전환점이 되었습니다. 스튜어트와 피터의 비전은 명확하고 논리적이예요: 에이전트가 환경을 인식하고, 결정을 내리고, 그 결정에 따라 행동하는, 깔끔하고 절차적인 순환 구조니까요. 아주 잘 정리된 시스템이기는 하지만, 이건 ‘변화가 적은’ 세상일 때 그런 세상을 염두에 두고 만들어진 개념이었다고 생각합니다.

오늘날 우리가 사는 세상은, 그런 규칙을 따르지 않죠. 에이전트들도 더 이상 정해진 순서나 예측 가능한 환경에 속박되지 않습니다. 절차적 지식을 따르는 것에서 더 선언적인 접근 방식으로 전환해야만 하죠 - 다시 말해서, ‘단계’가 아닌 ‘결과’를 정의하는 방식이라는 거예요. 마치 에이전트에게 ‘케이크가 필요해’라고 말하면, 재료를 구하든, 레시피를 찾든, 아니면 제과점에 주문을 하든 나머지는 알아서 해결하는 거 같은 겁니다.

이런 ‘전환’ 덕분에 현대의 에이전트들은 복잡하고 예측이 어려운 환경에서 잘 작동할 수 있는 기반을 갖게 됐습니다. 고정된 규칙을 따르는게 아니라, 순간 순간 적응하고, 즉시 학습하고, 다이나믹하게 협력하는 겁니다.

‘명시적으로 주어진 지식’에서 ‘스스로 학습한 지식 표현’으로

현대적인 에이전트가 ‘지식을 관리하는 방식’에는 중요한 차이점이 있습니다. 전통적인 프레임웍에서는 ‘명시적으로 프로그래밍된 규칙에 의존’하는 반면에, 거대 언어모델 (LLM)을 기반으로 하는 현대적인 에이전트들은 ‘학습된 표현 (Learned Representation)’을 사용한다는 거죠. 비유하자면, 현대적인 에이전트는 ‘다양한 언어 환경에 둘러싸여서 자란 다국어 구사자’ 같습니다 - 단순하게 사실을 아는게 아니라 패턴을 이해하죠.

규칙 기반의 의사결정 트리 대신, 현대적 에이전트의 목표는 ‘패턴을 학습하고 새롭게 나타나는 행동을 예측해서, 시스템이 목표를 달성하는 방법을 다이나믹하게 결정’하도록 하는 겁니다. 이 차이점 때문에 작업의 분해 (Task Decomposition), 반복적 개선 (Iterative Refinement), 멀티 에이전트 통합 (Multi-Agent Integration) 같은, 최신 에이전트 시스템의 특징들이 생겨나게 됐죠.

그래서 에이전트 개발자의 역할 중에 중요한 것 하나가 ‘에이전트가 맞다고 인식하는게 실제로는 잘못된 것일 수 있다는 걸 가르치는’ 겁니다. 예를 들어, TV 프로그램 편성표에서 ‘11월 첫째 주'가 실제로는 10월 말에 시작될 수 있겠죠? 개발자의 역할은 이런 걸 지적하고 에이전트가 그에 따라서 상황에 대한 에이전트의 이해를 점검하고 조정하는 법을 스스로 알아내게끔 하는 겁니다.

‘명시적인 규칙’, 즉 고정된 지식에서 ‘학습한 표현’, 즉 다이나믹하게 변화하는 패턴으로의 이런 전환은, 최신 에이전트가 명시적으로 프로그래밍되지 않은 작업에도 즉흥적으로 대응해서 뛰어난 성과를 낼 수 있게 하는 근간이라고 하겠습니다.

존 맥카시의 철학, ‘Programs with Common Sense’

존 맥카시 (John McCarthy, 1927년 9월 4일 ~ 2011년 10월 24일) 박사는 미국의 컴퓨터 과학자이자 인지 과학자인데요. 1971년 튜링상 수상자이기도 한 존 맥카시는 1956년 다트머스 학회에서 처음으로 인공지능 (Artificial Intelligence)이라는 용어를 창안하기도 했고, 프로그래밍 언어 리스프 (Lisp)를 만들기도 했습니다.

재미있기도 하고 대단하다고 생각하는 건, 현대적인 에이전트를 정의하는 많은 특징들이 이미 존 맥카시의 1958년 논문 ‘Programs with Common Sense’에 예견되어 있다는 건데요 - LLM을 비롯한 엄청난 AI의 발전 훨씬 이전의 일이죠. 맥카시는 ‘선언적인 지식’을 기반으로 추론하고, 학습하고, 행동할 수 있는 ‘Advice Taker’로서의 시스템을 구상했는데, 이게 본질적으로 오늘날 볼 수 있는 ‘에이전틱 워크플로우의 초기 청사진’이라고 할 수 있습니다.

• ‘선언적 지식’을 통한 추론
  존 맥카시의 시스템은 ‘세상에 대한 사실들’을 인코딩해서, 자율적으로 ‘새로운 통찰’을 도출할 수 있도록 구성되었습니다.

• 학습과 적응
  맥카시는 에이전트가 시간이 지나면서 새로운 추상적인 개념들을 획득하고, 스스로가 처한 환경과 함께 진화해 나가는 것이 중요하다는 점을 강조했습니다.

• ‘실행의 근간’으로서의 지식
  지식은 단순히 저장되는데 그 의미가 있는게 아니라, 의사 결정, 실제 행동을 이끌어내는데 의미가 있다고 생각했고, 추론과 행동 사이의 피드백 루프를 만들어 냈습니다.

이 논문에, 어떤 상황과 문제가 주어졌을 때 ‘Advice Taker’가 어떻게 작동하는지를 보여주기 위한 예시로 ‘공항이 가기’ 작업을 들고 있는데, 여기서 에이전트가 논리적인 규칙, 그리고 가용한 지식을 활용해서 높은 수준의 목표를 작은 작업들로 분해 (Decomposition)하는 모습을 보여줍니다 - 현재의 에이전트 시스템들이 복잡한 문제를 관리할 수 있는 정도의 하위 작업으로 분해하면서 풀어가는 것과 정확히 같은 과정이죠.

2025년 현재, 기술 자체는 존 맥카시가 - 아마도 - 상상할 수 없을 정도로 발전했지만, 그의 ‘원칙’들은 놀랍게도 여전히 유효합니다. AI의 뿌리는, 우리가 생각하는 것보다 우리의 철학과 생각에 더 깊게 연결되어 있다는 걸 이야기하는 것 같습니다.

현재의 ‘지식’, 실체는 어떤 모습인가?

현대의 에이전트들은, 그냥 뭔가를 ‘아는 것’에 그치지 않습니다. 사람의 지능을 모방하는 방식으로 ‘지식’을 다룹니다. 즉, 단순히 시스템에 사실들을 채워넣는 게 아니라, 그 지식이 역동하고, 새로운 변화에 적응할 수 있고, 실행할 수 있게 만드는 거라는 겁니다.

그럼, 현대의 에이전틱 워크플로우에서 찾아볼 수 있는 다른 중요한 유형의 지식들을 한 번 살펴보죠.

읽어주셔서 감사합니다. 친구와 동료 분들에게도 뉴스레터 추천해 주세요!