결국 우리 앞에 도래하게 될 에이전트 AI의 시대. 지금은 그 시대로 어떻게 모두가 함께 갈 수 있을지 지도를 만들고 탐색하는 시간이라고 할 수 있을 텐데요. 에이전트 기반의 AI 혁신을 원하는 기업들은, ‘새로우면서도 오래된’ 도전에 직면하고 있는 것 같습니다.

바로 일을 맡길 때 늘 따라오는 권한과 책임의 문제입니다. AI가 제안한 내용을 사람이 검토하고 실행하던 데서, AI가 직접 판단하고 행동하는 방향으로 나아가면서 이 문제도 새로운 무게를 갖게 됐죠. 기업이 에이전트에 맡길 일이 늘어나는 만큼, 어디까지 권한을 주고, 언제 개입하며, 결과를 어떻게 책임질 것인지도 함께 설계해야 합니다.

AI 거버넌스, 지금의 거버넌스와는 달라야 합니다. 도입 전 검토와 주기적인 점검에 더해, 실제 업무가 진행되는 순간에도 원칙이 작동해야 합니다. 기업이 통제권을 유지하면서 에이전트의 자율성을 넓혀갈 기반이 필요합니다.

그 동안 튜링포스트 코리아에서 글로만 인사드렸는데, 이번에 ‘빌더 조쉬’님의 초대로 ‘HOW I AI’ 팟캐스트에서 ‘에이전트 거버넌스’에 대해 이야기를 나눌 기회가 생겼습니다. 꼭 아래 팟캐스트 영상을 클릭하셔서 봐 주세요.

저는 Imperai 공동 창업자로서 에이전트 거버넌스 솔루션 Toren을 만들고 있는데요. AI·비즈니스 크리에이터 조쉬님과 그 과정에서 마주한 고민을 바탕으로, 기업의 거버넌스 방향과 대응 전략을 이야기했습니다.

에이전트의 권한과 행동을 실행 시점에 통제하는 방법부터, 의사결정의 맥락과 결과를 기록해 운영을 개선하는 방법까지 Toren의 사례와 데모로 살펴봤습니다. 작은 실험으로 거버넌스를 검증하면서 도입 범위를 넓혀가는 접근 방식도 함께 이야기했고요.

에이전트 도입을 준비하시거나, 실험을 넘어 실제 업무에 적용할 방법을 고민하는 분들께 참고가 되었으면 합니다. 대화를 이끌어주신 조쉬님께 감사드립니다.