우리가 ‘어디 서 있느냐’는 건, 생각보다 훨씬 우리의 생각에 큰 영향을 미치죠. 만약 여러분과 제가 지금 샌프란시스코에 며칠이라도 머무르면서 사람들을 만난다면, 아마 AI가 이미 이 세상을 집어삼켰다는 착각(?)에 빠지기 십상일 겁니다. 도시 전체가 AI 광고로 도배되어 있고, 카페에서 들리는 수다부터 각종 컨퍼런스, 제품 피칭, 심지어 채용 공고까지 온통 AI 이야기뿐이니까요.

이런 풍경은 아주 강력한 착시 효과를 만들어냅니다 - '세상 모든 기업이 이 엄청난 속도로 달리고 있고, 이제 매뉴얼 하나만 잘 짜면 모든 조직이 알아서 돌아가는 자율 운영 시대가 오겠구나' 하는 착시 말이예요.

하지만 냉정하게 말해서, 현실은 그런 그림과는 거리가 아직, 상당히 멉니다.

미국 내에서조차 대다수의 기업은 아직 AI 도입의 아주 초기 단계에 머물러 있습니다 (물론 그래서 AI의 미래가 더 장밋빛인 것이기도 하지만요). 그들에게 AI란 여전히 글쓰기용 챗GPT, 코딩 돕는 코파일럿, 회의 요약 정도를 의미할 뿐입니다. 여기에 "우리도 AI로 뭐 좀 해봐야 하는 거 아냐?"라는 막연한 압박감이 더해진 상태죠. 전 세계로 시야를 넓히면 상황은 훨씬 더 제각각이구요.

트위터를 보다 보면 '나만 뒤처진 게 아닐까', '남들은 이미 기계가 일하고 사람은 노는 미래형 경제에서 살고 있는 게 아닐까' 하는 불안이 엄습할지 모릅니다만, 분명히 말씀드립니다. 그런 일은 없습니다. 여전히 사람은 일을 해야 하구요. 어떤 경우에는 AI 때문에 할 일이 더 늘어나기도 합니다.

오늘은, 기업 내부에서 AI가 실제로 '작동'하기 위해서 어떤 과정이 필요한지 이야기해 보려고 합니다. 기업이 스스로의 업무를 얼마나 파악하고 있는지, 그 지식 중에 기계가 알아들을 수 있는 건 얼마나 적은지, 그리고 이걸 바꾸려면 뭘 해야 하는지 실제 사례를 통해 짚어보겠습니다. 또, AI가 어떻게 대기업과 작은 팀 사이의 체급 차이를 무너뜨리고 있는지도 함께 살펴보겠습니다.

오늘 에피소드에서 다룰 내용은 아래와 같습니다:

가트너, 맥킨지 같은 컨설팅펌이나 조사기관 등에서 많은 ‘AI 성숙도 모델(AI Maturity Model)’을 내놓습니다. 대부분은 "지금 당신은 여기쯤 있구요, 다음엔 저기로 가야 됩니다”라는 식으로 깔끔한 방향과 타임라인을 제시하죠. 전혀 문제가 없습니다.

하지만 실제 기업 환경에서의 ‘AI 성숙도’는, 그런 선형적인 순서가 아니라 '의존성의 적층(Stack of Dependencies)' 구조에 가깝습니다. 각 층이 바로 위 층을 튼튼하게 받쳐줘야만 위로 쌓을 수 있는 구조죠. 두 번째 층이 부실하면 네 번째 층은 절대 올릴 수 없습니다. 물론 올리는 '척'은 할 수 있습니다. 수많은 기업이 그렇게 하구요. 하지만 그런 식의 프로젝트는 데모 때는 화려해도, 현장에 투입되면 6개월도 못 가서 조용히 사라집니다.

여기서 말하려는 건 단순한 일정이 아니라 '조직 역량의 사다리'입니다. 아래쪽 칸은 익숙합니다. 개인의 노하우, 파편화된 실험, 소소한 업무 팁 같은 것들이죠. 위쪽 칸은 화려합니다. 스스로 적응하는 시스템, 에이전트, 알아서 개선되는 워크플로우 같은 것들입니다.

진짜 드라마는 그 중간에서 일어납니다. 기계가 이해할 수 있을 만큼 업무를 명문화하고, AI의 행동을 믿을 수 있을 만큼 데이터를 정제하고, 의사결정 구조를 체계화하는 단계 말입니다. 이 '허리' 구간이 바로, AI 도입을 비로소 현실로 만드느냐, 아니면 그대로 고사하게 되느냐를 가르는 구간입니다.

현장에서 흔히 보이는 패턴이 있어요. 리더들이 AI 에이전트가 복잡한 업무를 척척 해내는 데모를 봅니다. 문서를 읽고, 핵심을 뽑아 보고서 초안을 쓰고, 추천까지 해줍니다. 고객 문의를 받아서 DB를 뒤지고 코드를 고쳐 배포한 뒤 안내 메일까지 보냅니다. 기술적으로 불가능한 얘기가 아닙니다.

그걸 본 리더들의 반응은 한결같습니다. "와, 우리도 당장 저거 합시다!" 하는 거죠.

하지만 막상 조직 내부를 열어보면 상황은 딴판입니다. 일은 여전히 관습과 임기응변으로 돌아가고, 핵심 노하우는 서너 명의 머릿속에만 들어 있습니다. '암묵지'라는 미명 아래 지식은 수면 아래 감춰져 있고, 때로는 자기 방어를 위해 정보를 독점하는 사람들도 물론 있습니다. 팀마다 쓰는 용어가 다르고 데이터는 파편화되어 있습니다. 조직도 상의 결재 라인과 실제로 일이 돌아가는 방식은 따로 돕니다.

대부분은 챗GPT로 메일이나 쓰는 단계에서 곧바로 '자율 에이전트'로 점프하고 싶어 합니다. 하지만 도입의 성패를 가르는 이 '중간 단계'를 건너뛰려는 계획은 반드시 실패합니다. 기초가 없으면 아무것도 쌓을 수 없기 때문이죠.

AI의 도입, AI 에이전트의 확산을 이야기하면서, '회계 코드 표준화' 같은 지루한 주제로 기조연설을 하는 경우는 사실 별로 없죠 - 그렇지만, 그런 곳에서 바로 혁신이 시작되는 겁니다.

AI 성숙도는 계단식으로 쌓입니다. 각 단계마다 조직은 새로운 능력을 얻게 되고, 그 과정에서 이전에는 보이지 않던 조직의 민낯이 드러납니다. 그 불편한 진실을 마주하고 해결해야만 다음 단계로 넘어갈 수 있는 겁니다.

이건 모든 부서가 동시에 올라가는 경주도 아닙니다. 엔지니어링 팀은 저 멀리 앞서가는데 재무 팀은 제자리걸음일 수도 있습니다. 마케팅은 신나게 콘텐츠를 뽑아내는데 법무 팀은 한참 뒤에서 제동을 걸기도 하죠. 이런 불균형은 ‘지극히 정상’입니다. 시스템 구축은 언제나 제도보다 빠르기 마련이예요.

중요한 건 "우리 회사는 몇 단계인가?"가 아니라, "어느 부분이 꽉 막혀서 우리 발목을 잡고 있는가?"를 찾아내는 겁니다.

당연하지만, 사다리 단계별 이름보다 중요한 건, 그 단계들 사이를 넘어가는 '전환기'에 어떤 일이 벌어지느냐죠:

이 과정이 아마 대부분의 기업에게 ‘전체 과정에서 가장 넘기 힘든 고비’일 겁니다.

L1 단계의 기업들은 겉보기에는 꽤 세련돼 보일 수 있습니다. 누구는 챗GPT로 기획안을 쓰고, 누구는 클로드나 코파일럿으로 코딩을 합니다. 실력이 뛰어난 직원은 꽤 근사한 내부용 툴을 뚝딱 만들어서 리더들을 놀래키기도 하죠. 하지만 이런 성과는 '개인기'일 뿐입니다. 그 직원이 퇴사하면 그 사람이 만든 워크플로우도 순식간에 사라집니다.

L2로 가는 건 더 비싼 툴을 사느냐의 문제가 아닙니다. 조직이 스스로 어떻게 일하는지 객관적으로 설명하는 법을 배우는 과정입니다. 영수증 처리를 할 때, 매뉴얼에 적힌 원칙 말고 '실제로' 어떻게 하고 있나요? 업체마다 제각각인 항목을 어떻게 분류하나요? 문서 승인할 때 진짜 권한을 가진 사람은 누구인가요? 하는 것들이요.

한 식당 장부 관리 업체의 사례가 있다고 생각해 보죠. 이 회사에서는 AI로 데이터 입력을 자동화하고 싶어 했습니다. 기술적으로는 쉬워 보였지만, 막상 뚜껑을 열어보니 난장판이었습니다. 업체마다 배송비, 보증금을 처리하는 방식이 다 달랐고, 이걸 정리하는 규칙조차 없었습니다. AI를 돌리기 전에, 이 프로세스를 명문화하는 데만 6주가 걸렸습니다. 그동안 사람 직원들이 기계는 도저히 이해할 수 없는 '모호함'을 온몸으로 받아내며 땜질하고 있었던 겁니다.

건설 회사의 사례도 비슷합니다. 한 개발자가 1년 넘게 만든 시스템이 그 사람이 나가자마자 마비됐습니다. 모든 데이터 연결 규칙이 그 사람 머릿속에만 있었기 때문이죠. '배관 공사'가 회계 시스템에서 왜 다른 코드로 불리는지 아무도 몰랐습니다.

이 과정에서 기업들은 뼈아픈, 그리고 어찌보면 무서운 진실을 깨닫습니다. 많은 지식이 문서화되지 않은 건 단순한 실수가 아니라, '대체 불가능한 사람'이 되기 위한 의도적인 정보 독점일 때가 생각보다 많다는 사실을요. 업무를 가독성 있게 만든다는 건 누구나 검토할 수 있게 한다는 뜻이고, 이는 곧 권력의 분산과 투명한 노출을 의미합니다.

이 구간은, AI의 도입 과정에서 가장 과소평가되는 구간이라고 생각합니다. 데이터 연결은 기술의 문제지만, 신뢰는 심리의 문제입니다.

L2에서 워크플로우를 정리했다면, L3는 AI를 회사의 실제 데이터(고객 관리, 회계, 협업 툴 등)에 직접 연결하는 단계입니다. 그런데 연결하는 순간, 내부 데이터가 생각보다 훨씬 엉망이라는 사실이 여실히 드러납니다.

한 미디어 분석 업체는 플랫폼마다 사용자 ID가 달라서 데이터가 중복 집계되고 있다는 걸 AI를 붙이고서야 알았다고 해요. 그동안 사람은 대충 눈치껏 머릿속에서 맞춰가며 일해왔던 거죠.

금융 서비스 기업에서 AI 인보이스 추출기를 테스트했을 때, 정확도가 94.5%가 나왔습니다. 재밌는 건 '오답'으로 분류된 것들 중 상당수가 과거에 사람이 손으로 입력하며 냈던 오타였다는 점입니다. AI가 인간의 실수를 잡아낸 거죠. 그런데도 직원들은 AI가 답을 낸 근거(출처)를 일일이 눈으로 확인할 수 있게 되기 전까지는 시스템을 믿지 않았습니다.

이 과정은, 아마도 AI의 도입에 있어서 가장 거품이 많이 낀 구간일 겁니다.

L4는 시스템이 시키지 않아도 먼저 움직이는 단계입니다. 서버 로그를 지켜보다가 문제가 생길 것 같으면 미리 진단해서 보고하고, 고객 문의가 오면 사람이 열어보기도 전에 DB를 뒤져 해결책을 뽑아놓습니다. 멋지죠?

차량 데이터 앱인 'Tezlab'의 지원 시스템은 문의 메일이 오자마자 AI가 코드를 뒤져서 원인을 찾아냅니다. 사람 상담원은 AI가 다 차려놓은 밥상에서 결정만 내리면 되구요. 이 시스템 덕분에 서버 운영비가 20%나 줄었습니다.

이 단계가 과장되었다고 하는 이유는, 사람들이 이걸 단순히 '똑똑한 비서 구매' 정도로 생각하기 때문입니다. 실제 장벽은 '조직 구조'에 있습니다. 시스템이 통찰을 미리 제공한다면, 그 정보를 받는 사람에게 '행동할 권한'도 줘야 합니다. 상담원이 AI 덕분에 엔지니어링 문제의 원인을 알게 됐다면, 개발자에게 부탁할 필요 없이 직접 수정할 수 있어야 하죠. 조직도와 권한 체계가 통째로 바뀌어야 한다는 뜻입니다.

여기까지 왔다면, 이 단계가 바로 가장 심오한 변화가 일어나는 단계입니다.

L5는 '선순환 피드백 루프'가 완성되는 단계입니다. AI가 실행만 하는 게 아니라, 전문가의 피드백을 받아가면서 스스로의 로직을 수정합니다. 전문가가 AI의 답을 고치면 그 노하우가 다시 시스템에 저장되는 식이죠.

더 나아가서, 시스템은 실제 업무 데이터를 보고 조직 구조를 제안하기도 합니다. "현재 프로젝트 속도를 보니 이런 역량을 가진 사람이 더 필요합니다"라거나 "채용 공고 내용을 이렇게 바꾸는 게 좋겠습니다"라고 조언합니다. AI가 조직 설계의 핵심 파트너가 되는 거라고나 할까요?

여기서 가장 큰 걸림돌은 '인간의 거부감'입니다. "기계가 시키는 대로 사람을 뽑으라고?"라는 반감이 들 수밖에 없죠. 시스템이 제안한 방향이 기존 관습과 충돌할 때, 리더십은 과연 시스템의 손을 들어줄 수 있을까요? 이건 기술이 아니라 경영의 결단 문제입니다.

이 모든 단계를 관통하는 진실이 하나 있습니다. '조직을 기계가 이해할 수 있게 만드는 과정은, 결국 사람이 일하기 좋은 조직을 만드는 과정과 완전히 똑같다'는 것입니다.

검색 가능한 기록, 명확한 근거, 표준화된 데이터, 투명한 규칙. 이건 AI뿐만 아니라 새로 들어온 신입 사원에게도 꼭 필요한 것들입니다. 그동안 기업들은 귀찮고 힘들다는 이유로 이 일을 사실상 미뤄온 셈이지만, AI 시대에 우리 모두 더 이상 도망갈 곳이 없어지고 있습니다.

어떤 조직들이 AI 도입에 저항하는 진짜 이유는 AI 자체보다 그 과정에서 드러날 '자신들의 무질서와 불투명함'이 두렵기 때문일지도 모른다는 생각이 듭니다. 프로세스가 투명해지면 권위가 도전받고, 데이터가 명확해지면 숨겨온 실수가 드러나기 때문이죠.

대기업과 스타트업 중에서라면, 누가 이길까요?

대기업에게 이 과정은 '거대 비만 조직의 전신 수술'과 같습니다. 덩치가 크고 얽힌 게 많아서 고통스럽겠지만, 성공만 하면 그 파괴력은 어마어마합니다. 반면 소규모 팀은 군더더기가 없어 곧바로 L3, L4로 치고 나갈 수 있습니다. 하지만 그들도 성장하면서 기록과 계체를 게을리하면 금세 대기업과 똑같은 늪에 빠지게 될 겁니다.

결국 최후의 승자는 2026년에 가장 비싼 AI 모델을 쓴 기업이 아닐 겁니다. AI가 제 실력을 발휘할 수 있도록 조직의 기초 체력을 다지는, '섹시하지 않은 작업'을 묵묵히 해낸 기업이 될 것입니다.

다음 에피소드에서는 대기업과 작은 팀이 각각 어떻게 구체적인 실행 전략을 짜야 하는지 조금 더 깊이 파헤쳐 보겠습니다.

읽어주셔서 감사합니다. 친구와 동료 분들에게도 뉴스레터 추천해 주세요!