🦸🏻#18: '하나의 AI', 그 한계를 넘어: 멀티 에이전트 시스템이 여는 '협력'의 지능

들어가며

‘일본 단편 소설의 아버지’라고도 불리는 사토로 류노스케 (아쿠타가와 류노스케)의 문장이죠.

이 문장은 멀티 에이전트 시스템(Multi-Agent Systems, MAS)의 핵심을 잘 담아내고 있다고 생각합니다. 하나의 AI 모델도 많은 일을 해낼 수 있지만, 때로는 여러 개의 더 단순한 에이전트들이 함께 움직이는 네트워크가 훨씬 더 큰 힘을 발휘하기도 하죠.

예를 들어서, 배달을 위한 군집 드론을 조율한다거나, 스마트 시티의 에너지 플로우를 최적화하거나, 글로벌 주식 시장을 시뮬레이션한다거나 하는 작업 등, MAS는 여러 자율적인 에이전트들이 협력하거나 경쟁하고, 혹은 공존하면서, 하나의 시스템으로는 해결하기 어려운 문제들을 함께 풀어갑니다.

중앙 집중형의 작업에 맞춰 만들어진 일체형 (Monolithic) AI 시스템과 다르게, MAS는 탈중앙화(Decentralization) 구조를 기반으로 해서 더욱 빛을 발합니다. 각각의 에이전트가 저마다의 시각과 목표, 능력을 가지고 있고, 이들이 서로 영향을 주고받으면서 굉장히 정교하고 유연한, 때로는 예측하기 힘든(Emergent) 행동을 실행합니다. 세상이 점점 더 복잡하게 연결되는 지금, 글로벌 물류 문제나 기후 변화처럼 거대한 과제를 해결하려면 MAS의 원리가 그만큼 중요해지고 있다는 생각도 듭니다.

하지만 MAS를 잘 만드는 일은 결코 간단한 게 아닙니다. 에이전트들이 혼란이 없이 잘 협력하도록 만드는 건 진짜 어려운 일이죠. 예를 들어서, 여러 대의 로봇이 무너진 건물 안을 탐색하면서 서로 부딪히지 않게 하려면 어떻게 해야 할까요? 거래 실행용 에이전트들이 시장을 붕괴시키지 않도록 조율하려면 또 어떻게 해야 할까요?

그래서, 오늘은 MAS의 시작점에서부터 간단하게나마 하나 하나씩 살펴보려고 합니다. 어떤 배경에서 출발했는지, 핵심 요소는 무엇인지, 실제로 어떻게 작동하는지, 어디에서 활용되고 있는지, 그리고 앞으로 어떤 변화가 나타날지 등이요. 그럼 시작해볼까요?

이번 에피소드에서는 다음과 같은 내용을 다룹니다:

• 분산 인공지능 (DAI)에서 to MAS까지

• MAS의 핵심 요소

• MAS의 아키텍처와 조직적 구조

• MAS의 다양한 유형들

• 혼란 속의 조율: 재난 대응에서의 군집 로봇

• 최근 연구 개발의 트렌드 (2023–2025)

• 맺으며: 집단 지성과 MAS의 미래

• 보너스: 참고 자료

분산 인공지능 (DAI)에서 to MAS까지

멀티 에이전트 시스템(Multi-Agent Systems)은 사실 새로운 개념은 아닙니다. 그 역사를 거슬러 올라가면, 1970년대 후반과 1980년대 초까지 가게 되는데, 당시 연구자들은 분산 인공지능(Distributed Artificial Intelligence, DAI)에 대해 연구를 시작했었습니다. 단일 AI 시스템으로는 감당하기 어려운 크거나 복잡한 문제들을 다룰 방법을 찾고 있었던 거죠. 어떤 지식은 애초에 여러 곳에 흩어져 있었고, 병렬로 작업하면 더 나은 성능을 낼 수 있다는 가능성도 있었구요. 그래서 초기의 DAI 연구는 문제를 어떻게 나누고, 여러 부분에 걸쳐 추론을 분산시킬 수 있을지를 중심으로 진행됐습니다. 이때 각 부분은 ‘지식 소스(Knowledge Sources)’ 또는 노드(Nodes)’라고 불렸습니다.

초기에 시도된 방법들 중 몇 가지는 고전적인 AI 개념에서 아이디어를 차용했습니다. 빅터 레서(Victor Lesser)의 분산 차량 감시 테스트베드(Distributed Vehicle Monitoring Testbed, DVMT)는, 블랙보드 아키텍처(Blackboard Architecture)를 사용해서 분산된 에이전트들이 센서 데이터를 함께 해석할 수 있도록 했습니다. 비슷한 시기에 칼 휴잇(Carl Hewitt)의 액터 모델(Actor Model)은, 독립적인 ‘액터(Actors)’들이 메시지를 주고받으면서 소통하는 시스템을 제안했는데, 이건 ‘동시에 작동할 수 있는 에이전트’의 개념으로 나아가는 중요한 한 걸음이었습니다. 1986년에는 마빈 민스키(Marvin Minsky)의 ‘마음의 사회(Society of Mind)’가 등장해서, 마음이라는 것도 서로 상호작용하는 더 작은 부분들로 이루어진 하나의 공동체로 볼 수 있다는 관점을 제시하면서 MAS의 방향에 영향을 주었습니다.

‘멀티 에이전트 시스템(Multi-Agent Systems)’이라는 용어를 누구 한 사람이 짠~ 하고 만든 건 아니지만, 이 개념은 분산 인공지능(Distributed Artificial Intelligence, DAI) 분야 안에서 점진적으로 발전해 왔습니다.

현재의 이름 아래서 독립된 연구 영역으로 자리 잡은 것은 1990년대 중반부터입니다. 빅터 레서(Victor Lesser), 레스 개서(Les Gasser), 마이클 울드리지(Michael Wooldridge), 닉 제닝스(Nick Jennings) 같은 연구자들이 이 새로운 사고방식을 형성하는 데 중요한 역할을 했다고 해요.

MAS는 DAI에서 발전해 나온 것이지만, 그 초점에는 변화가 있었습니다. 개별적인 구성 요소들이 더 이상 단지 큰 기계의 부품으로 취급되지 않고, 각자의 목표와 기술, 의사결정 능력을 가진 ‘에이전트(Agents)’가 되었습니다. 끊임없이 지시나 감독을 받지 않고도 스스로 행동할 수 있고, 다른 에이전트들과 상호작용하고, 지역적으로(Locally) 문제를 해결할 수 있었던 것이죠.

초기의 중요한 마일스톤 중 하나가 바로 1980년에 발표된 리드 G. 스미스(Reid G. Smith)의 컨트랙트 네트워크 프로토콜(Contract Net Protocol)이었습니다. 이 프로토콜은 분산 시스템에서의 기본적인 조정 문제, 즉 어떻게 작업을 나눌 것인가 하는 문제를 다뤘습니다. 구조는 단순했지만 강력했습니다:

• 하나의 에이전트 - 매니저(Manager) - 가 혼자 처리할 수 없는 작업을 가지고 있습니다.

• 이 작업을 다른 에이전트들에게 브로드캐스트합니다.

• 해당 작업을 수행할 수 있는 에이전트들이 입찰(Bids)을 제출합니다.

• 매니저가 그 중 가장 적합한 입찰자를 선택해 작업을 맡깁니다.

이 방식은 네트워크 전반에서 작업을 수행할 수 있게 해주는 ‘가벼운’ 방법으로, 에이전트가 자유롭게 참여하거나 빠질 수 있었고, 모든 게 엄격한 통제가 아니라 협상을 통해 이루어지게끔 되어 있습니다. 지금 기준으로는 단순해 보일 수 있지만, 컨트랙트 네트워크(Contract Net)는 오늘날에도 MAS에 영향을 주고 있는 중요한 개념들을 처음으로 도입했습니다. 예를 들면, 작업을 나누는 방법, 부하를 분산시키는 방식, 그리고 에이전트들이 스스로 조직화(Self-Organize)되도록 하는 개념 등입니다.

이런 초기 아이디어들 덕분에 이후에 이 분야에서 더 큰 깨달음이 이어졌는데요: 바로, ‘지능(Intelligence)이 반드시 중앙집중형일 필요는 없다’는 거예요. 때로는, 독립적인 에이전트들이 함께 작동하는 방식에서 지능이 자연스럽게 나타나기도 합니다.

컨트랙트 네트워크 프로토콜(Contract Net Protocol)은 탈중앙화(Decentralized)된 제어, 그리고 다이나믹한 자원 할당(Dynamic Resource Allocation) 개념을 도입했는데, 이 원칙들은 오늘날에도 MAS의 근본적인 토대로 남아 있습니다. 최근의 연구에서는 강화 학습(Reinforcement Learning)을 접목해서 에이전트들이 입찰 방식에 적응하고 전략을 정교화할 수 있도록 발전시키고 있습니다. MAS 패러다임은 게임 이론(Game Theory)에 기반한 상호작용 중심의 지능(Interaction-Driven Intelligence)을 강조하고, 블록체인 시스템(Blockchain Systems)이라든가 사물인터넷(IoT) 시스템 운영 등의 영역에서 혁신을 이끌어내고 있습니다.

MAS의 핵심 요소

멀티 에이전트 시스템(Multi-Agent System, MAS)을 이해하려면, 그 기본 구성 요소를 하나씩 살펴볼 필요가 있습니다. MAS는 네 가지의 핵심 요소 위에 구축되어 있습니다:

에이전트(Agents)

MAS의 핵심이 되는 존재죠. 에이전트는 자율적인 존재로, 센서(Sensors)를 통해서 환경을 인식하고, 결정을 내리고, 액추에이터(Actuators)를 통해 그 환경에 직접 작용할 수 있습니다. 특히, 에이전트는 다음과 같은 특성들로 자주 묘사됩니다:

• 자율적(Autonomous): 인간이나 다른 에이전트의 직접적인 개입 없이 작동하고, 자신만의 행동과 내부 상태에 대한 통제권을 가집니다.

• 반응적(Reactive): 환경을 인식하고, 그 안에서 발생하는 변화에 적절하고 빠르게 반응할 수 있습니다.

• 목표 지향적(Proactive): 단순히 반응하는 것을 넘어서, 목표를 향해 스스로 행동을 계획하고 실행할 수 있습니다.

• 사회적(Social): 다른 에이전트들과 상호작용하고 소통할 수 있는데, 이때 종종 고도화된 에이전트 통신 언어(Agent Communication Languages)를 사용합니다. 많은 에이전트들은 BDI(Belief-Desire-Intention) 같은 아키텍처를 기반으로 설계되는데, 이건 에이전트의 행동이 세상에 대한 믿음(Belief), 원하는 목표(Desire), 그리고 실행에 옮기는 계획(Intention)에 의해 결정된다는 개념입니다.

환경(Environment)

에이전트들이 존재하고, 인식하고, 행동하는 세계입니다. 환경은 물리적일 수도 있고(예: 로봇이 움직이는 창고 바닥), 가상적일 수도 있습니다(예: 웹 크롤러가 탐색하는 인터넷, 또는 거래 에이전트가 활동하는 주식 시장). 환경은 정적(Static)일 수도 있고 동적(Dynamic)일 수도 있고, 예측 가능한 경우도 있지만 불확실할 수도 있습니다. 또한 환경은 종종 공유되어 있어서, 한 에이전트의 행동이 다른 에이전트에게 영향을 줄 수 있습니다.

상호작용과 통신(Interaction & Communication)

에이전트는 거의 대부분 혼자서 작동하지 않기 때문에, ‘상호작용’은 핵심 요소입니다. 단순한 신호 전달(예: 로봇이 색깔을 바꾸는 방식)에서부터, 에이전트 통신 언어(Agent Communication Languages, ACLs)를 사용하는 복잡한 협상에 이르기까지 다양한 상호작용의 유형이 있구요. 대표적인 ACL로는 FIPA-ACL, KQML, 최근 개발된 A2A 등이 있습니다. 전통적인 ACL은 종종 언어 행위 이론(Speech Act Theory)을 기반으로 해서, 에이전트가 “요청(Request)”, “정보 전달(Inform)”, “약속(Promise)”, “질의(Query)” 같은 행위를 수행할 수 있게 합니다. 구글의 A2A는 전통적인 ACL의 상징적이고 규칙 기반 구조에서 벗어나서, 현대적인 거대 언어 모델 중심(LLM-Centric)으로 에이전트 통신을 재해석한 겁니다. 바로, 규칙 기반 에이전트에서 언어 기반(Language-Native), 추론 중심(Reasoning-Driven)의 에이전트 시스템으로의 전환이라는 시대의 변화를 반영한다고 생각합니다.

조정 메커니즘(Coordination Mechanisms)

어쩌면 가장 중요한 요소일지도 모르겠는데요. 에이전트가 자율적으로 움직인다면, 이들이 협력을 해야 하는 경우에는 어떻게 조화를 이루면서 작동하게 만들고, 경쟁적 구도를 만들게 되는 경우에는 어떻게 갈등을 생산적으로 관리할 수 있을까요? 조정 메커니즘은 에이전트들이 상호 의존성을 관리하고, 활동을 동기화(Synchronize)하는 방식을 규정하는 전략, 프로토콜, 알고리즘을 의미합니다. 여기에는 협상(Negotiation), 경매(Auctions), 투표(Voting), 계획 수립(Planning), 또는 사전에 정해진 조직 구조(Organizational Structures)를 따르는 방식 등이 포함될 수 있습니다.

읽어주셔서 감사합니다. 친구와 동료 분들에게도 뉴스레터 추천해 주세요!