여러분, 저는 잠깐 멈추고 싶은 생각이 하루에도 12번 듭니다. 한 발 물러서서 봤으면 좋겠다는 생각도요. 이 판이 어떻게 움직이는지, 전체 그림을 봐야 한다고 생각하는지, 여전히 잘 잡히지 않습니다.

업계는 눈 옆을 가린 경주마처럼 쉬지 않고 앞만 보고 달려나가고 있습니다 - 새로운 소식이 잦아들 날없는 소셜미디어, 매주 쏟아지는 새 모델과 벤치마크 순위표, “그래서 AGI까지 몇 년 남았냐”는 지겨울 말싸움들과 함께요.

그런데, 정작, 우리 모두가 어디를 향해 가고 있는지 제대로 말해 주는 사람이 정말 있나 싶어요. 그 중에서도 제일 이상한 건, 지금까지 ‘앞으로 올 세상이 어떤 세상인가’에 대해, 적어도 그 단면을 미리 상상해보는데 늘 쓸모가 있었던 SF까지도 이제는 아무 도움이 안 된다 싶은 느낌이 드는 거예요.

다들 "초지능의 새벽"이라고 말합니다. 8월 말부터 부쩍 뉴스에 많이 오르내리는 OpenAI의 Astra 이야기를 포함해서요.

원래, 새벽은 원래 잠깐이고, 곧 해가 뜨잖아요? 그런데 이 ‘초지능의 새벽’은 벌써 4년째입니다. 이쯤 되면, 그건 ‘시작’, ‘새벽’이 아니라 그냥 우리가 사는 상태라고 봐야 하는 수준이예요. 뭔가 어른거리기는 하는데 끝내 뭔지는 안 보이는, 어중간하게 밝기만 한 어둠이기도 하구요.

그런데, 이 ‘초지능이 언제 오느냐’를 두고 벌어지는 의견 다툼은 제가 보기엔 작은 문제입니다. 정말 마음에 걸리는 건, 아직 말로 설명하지도 못하는 걸 중심으로 해서, 우리가 이미 일하는 방식과 사는 방식을 바꾸고 있는 건 아닌가 하는 겁니다.

오늘은 그 이야기를 해보려고 합니다.

어떤 사람이 좋은 실력을 갖고 있는지 확인하는 방법은 예나 지금이나 똑같습니다. 그 사람의 주위에 있는 도와주던 도구나 환경을 제거해 보는 거죠. 그래서 시험 때는 교과서를 못 보는 거고, 장인이 제자에게 "이제 혼자 해봐"라고 하고, 부모는 자전거 뒤를 잡고 있던 손을 슬쩍 놓는 것이죠. 도와주는 도구와 환경을 뺐었을 때도 안 넘어지고 계속해서 바르게 간다면, 그게 그 사람의 실력이라는 거죠./

지난주 나온 ASI-Bench라는 평가가 바로 AI한테 이런 테스트를 하는 거예요. 칭화대를 중심으로 MIT·하버드·카네기멜런 등 유수 대학교의 40명 넘는 전문가와 연구진이 3만 1천 시간을 들여 만들었다고 해요. 제가 '초지능의 새벽'이라는 말을 곱씹기 시작한 것도 이 평가 때문이었구요.

그냥 어려운 문제를 맞히나 못 맞히나 하는 종류의 시험이 아닙니다. 수학, 물리, 화학, 생물, 천문학, 재료, 지구과학, 의학·생물통계, 컴퓨터과학, 로보틱스, 전기공학까지 11개 분야에서 실제 연구 프로젝트 60개를 통째로 던져줍니다. 목표와 데이터를 주면 AI가 방법을 고르고, 코드를 짜고, 돌리고, 실패하면 원인을 찾아 고치고, 결과를 검증해서 내놓아야 합니다. 60개 과제를 다 도는 데 상호작용이 2,600회, 실행 단계가 2,400회, 시간으로는 35시간이 넘게 걸립니다.

핵심은 여기부터입니다. 문제와 채점 기준은 그대로 두고 사람이 주는 힌트만 네 단계로 점차 줄여갑니다.

최신 모델과 에이전트를 조합한 18개 구성으로 이 테스트를 돌려본 결과는 이렇습니다:

각 단계마다, 평균 50.91점 → 29.10점 → 26.62점으로 떨어집니다.

떨어지는 모양을 잘 보시면, B1에서 B2로 갈 때 21.8점이 통째로 날아갑니다. 그 다음 B2에서 B3으로는 2.5점밖에 안 떨어지구요. 방법 이름을 알려주든 아예 안 알려주든 결과가 별 차이가 없다는 뜻입니다.

다시 말해서, AI의 성적을 떠받치고 있던 건 '어떤 방법을 쓸지'가 아니라 '그 방법을 어떤 순서로 실행할지 적어준 절차서' 였다는 거거든요? 그걸 뺏는 순간 실력의 절반이 함께 사라졌고, 그 뒤로는 뺏을 게 남아 있지 않은 셈이라는 겁니다.

개별 모델의 경우도 마찬가지입니다. Claude Opus 5는 B1에서 72.29점으로 가장 높았지만 B3에서는 40.70점, 31.6점이 빠졌습니다. GPT-5.6 Sol(ultra)이 B3에서 51.60점으로 그나마 제일 높았고, 이게 현재 최고 기록입니다. 절반을 겨우 넘긴 것이죠.

이게 왜 중요하냐면, 우리가 "AI가 어디까지 왔나"를 물을 때 떠올리는 그림과 사뭇 다르기 때문입니다. 보통은 ‘문제의 난이도’를 생각하면서, 쉬운 건 풀고 어려운 건 못 푼다고 생각하기 쉽죠. 그런데 여기서 갈린 기준은 난이도가 아니라 순서가 적혀 있느냐 아니냐였다는 거예요.

그렇다고 하면, 지금 AI는 누가 깔아놓은 길은 기가 막히게 잘 가지만, 길이 없으면 못 가는 놈이라는 겁니다.

자, 그런데 진짜로 이 결과가 흥미롭다고 생각했던 건, 이게 AI 얘기여서가 아닙니다. 이 평가 내용을 곰곰히 생각하고 뒤집어보면, 바로 사람에 대한 얘기가 되거든요.

AI는 레시피를 주면 잘 만든다는 게 위 평가의 핵심이라는 거, 즉 냉장고를 열어놓고 "알아서 해봐"라고 하면 못 한다는 건데, 사람은 하죠. 레시피가 없는데도요.

그렇다면, 그 사람의 머릿속에는 뭐가 들어 있는 걸까요? 어쩌면 이건, AI의 역사보다도 훨씬 오래된 질문일지도 모릅니다.

우리나라, 집마다 김치찌개 맛이 조금씩 다르죠. 김치찌개를 기가 막히게 끓이시는 어머니께 레시피를 물어보면 이렇게 대답하실 거예요. "고춧가루 적당히 넣고, 간 보면서 맞춰." 적당히가 얼마인지, 간이 맞는다는 게 뭔지는 이야기를 안 해 주십니다. 사실은 ‘못 알려주시는’ 거라고 생각해요. 본인 손, 본인 혀는 그게 어느 정도인지 정확히 아는데 그걸 숫자로, 말로 옮길 방법이 없거든요.

1966년 마이클 폴라니라는 학자가 바로 이걸, 오늘날 우리가 너무나 많이 쓰는 용어, 암묵지(tacit knowledge) 라는 이름으로 불렀습니다. 말로는 못 하는데 분명히 알고 있는 것이죠. 마이클 폴라니가 남긴 유명한 말이 바로, "우리는 말할 수 있는 것보다 더 많이 안다."는 겁니다.

이런 사례야 뭐 주변에 널려 있죠:

네 가지 경우 모두, 본인은 아는데 매뉴얼로 적어보라고 하면 못 적고, 적더라도 남는 건 껍데기 뿐입니다. "이상한 소리가 나면 점검하시오"라고 쓴다고 20년 차의 귀가 옮겨가는 건 아니잖아요?

그래서, 이런 지식은, 사실상 옆에 붙어 있는 것 말고는 전달할 방법이 없습니다. 몇 년씩 같이 일하면서 어깨너머로 배우고, 그리고 제자를 못 둔 사람이 은퇴하면 그 사람이 알던 건 그대로 사라집니다.

자, 이쯤 되면, 이제 앞의 실험을 조금은 다른 눈으로 보실 수 있어야 합니다. AI 점수가 무너진 그 지점이 정확히 여기였다고 생각해 볼 수 있거든요, 절차서를 뺏는 순간이요. AI가 못 하는 건 어려운 문제가 아니라 명확히 적혀 있지 않은 문제입니다. 그리고 사람이 하는 일 가운데 값을 쳐주는 - 앞으로 값을 점점 더 쳐 주게 될 - 부분은 대개 그렇게 명확히 적혀 있지 않은 쪽에 몰려 있습니다. 매뉴얼대로 하는 일이었다면 진작 다른 방식으로 대체됐겠죠.

AI를 깎아내리려는 얘기가 아닙니다. 오히려 반대예요. 지금 우리 앞에 있는 게 정확히 뭔지 알려면, 그게 못하는 게 뭔지를 봐야 한다고 생각하거든요.

그래서 저는 어깨너머로 배우는 쪽에 서 있고 싶습니다. 이 AI라는 기술과 그 시장 옆에 오래 붙어 있으면서, 그게 스스로 설명하지 못하는 부분까지 알아채는 일이요. 사람에게도 매체에게도 나쁘지 않은 일이라고 생각합니다.

우리는, 아직 이 AI가 뭔지 제대로 설명하지 못해요. 그런데도 그 AI라는 놈이 어떻게 생겼을지 미리 그려보는 일에는 수많은 사람들이 100년 넘게 매달려왔습니다. E.M. 포스터가 1909년에 단편소설 「기계는 멈춘다」를 쓴 이후로 쭉이요.

[우리가 그려 온 AI]

몸이 있고, 한 대 두 대 셀 수 있고, 문간에 버티고 서 있습니다. 자기 계획이 있고 대체로 우리를 적으로 보고, 때로는 사람으로 대접해달라고 요구하기도 합니다. 터미네이터든 블레이드 러너든 밑바탕은 똑같습니다. 기계가 뭔가를 원한다는 것이요.

[실제로 오늘 날 우리와 함께하고 있는 AI]

몸이 없고, 어디까지가 그것인지 경계도 없고, 원하는 것도 없습니다. 한 명이라고 셀 수도 없고 대화창을 닫으면 그걸로 끝이고, 우리를 적으로 보지도 않습니다.

무엇보다 AI가 저지르는 대표적인 잘못은 ‘반란’이 아니라 ‘표정 하나 안 바꾸고 아주 그럴듯한 말투로 틀리는 것’입니다. 우리가 '환각'이라고 부르는 것, 없는 사실을 태연하게 지어내는 그 습관 말이죠. 이런 걸 미리 그려본 소설가는 거의 없었어요.

AI가 우리 생활로 들어온 방식도 예상 밖이었습니다. 연구소 지하도, 군사 시설도 아닌 그냥 채팅창이었고, 값은 넷플릭스 한 달 치, 아니면 아예 공짜였으니까요.

AI가 먼저 가져갈 거라고 생각한 일들의 순서도 거꾸로였죠.

원래 예상은 계산이나 힘쓰는 일부터 기계에게 넘어가고, 시 쓰고 논쟁하고 그림 그리는 일은 사람 몫으로 끝까지 남는다는 것이었습니다. 여기엔 이론까지 붙어 있었어요. 바로, 사람에게 쉬운 일일수록 기계에겐 어렵다는 모라벡의 역설입니다. 세 살짜리도 하는 일을 로봇은 못 하는데 박사가 푸는 문제는 컴퓨터가 푼다는 얘기입니다.

그런데 그림과 글이 먼저 넘어갔습니다. 예상이 정확히 뒤집힌 겁니다.

개중에, 그 일부를 맞힌 사람들은 있습니다.

E.M. 포스터의 「기계는 멈춘다」에는 각자 방에 틀어박혀서 화면 너머의 시스템에 모든 걸 의존하는, 말동무까지 구하는 사람들이 나옵니다. 지금 우리는 방 안에만 갇혀 살지는 않지만, 모양새는, 글쎄요, 그리 다른가요?

스타니스와프 렘의 『골렘 XIV』에는 인간에게 강의는 해주면서 정작 인간에겐 관심이 없는 초지능이 등장하는데, 다만 그건 자기 관심사만은 뚜렷하죠.

2013년 영화 <그녀(Her)>는 몸은 없고 목소리만 있는데 감정은 능숙하게 다루는 시스템을 일종의 상품으로 그렸지만, <그녀(Her)>에서의 AI는 지나치게 사람 같았죠. 실제 AI는 그렇지는 않습니다.

셋 다 각각 오늘날 우리와 함께 살아가는 AI의 단면 하나씩은 맞혔다고 할 수 있지만, 그래도 어느 것 하나 지금 우리 앞에 있는 그 AI의 진짜 온전한 얼굴은 아닙니다.

하지만, 애초에 SF는 예언이 아니라 예행연습이죠. 정말로, 진짜 손님이 문을 열고 들어왔을 때 어디에 서서 뭐라고 말할지 미리 맞춰보는 것, 그게 SF가 우리 역사에서 해 온 진짜 역할이라는 겁니다.

여전히, 문제는 우리가 맞춰본 게 죄다 헛다리였다는 겁니다.

기계가 반란을 일으키면 어떻게 할지, 로봇에게 인권을 줘야 할지를 100년 동안 연습했는데, 막상 문을 열어보니 서 있는 건 자기라는 게 없고, 글은 나보다 잘 쓰고, 하필 내가 확인하기 제일 어려운 대목에서 자신만만하게 틀리는 동료였습니다. 이런 상대를 어떻게 대해야 하는지는 아무도 연습해두지 못했어요. 어쩌다 그 채팅창 하나에 얹혀버린 "AI가 다 값싸고 넉넉하게 만들어줄 것"이라는 이야기에 대해서는, 더 말할 것도 없고요.

그래서, 지금 우리 모양새가 이렇습니다. 기계 지능에 대한 ‘그림’은 넘쳐나는데 대부분 틀렸고, 이제는 그 틀린 그림들이 ‘진짜 모습’을 가리고 있는 겁니다. 그리고, 바로 이게 우리가 이 AI라는 놈을 제대로 설명하지 못하는 이유입니다.

머릿속에 잘못된 그림이 이미 너무 많이 들어차 있습니다.

제대로 된, 빅 퀘스천을 제대로 던진 사람들은, 오히려 기계 지능을 상상하던 쪽이 아니었습니다. 어쩌면 그래서 그 분들의 글이 아직 살아남았는지도 모르죠.

케인스, 1930년. 「우리 손자 세대의 경제적 가능성」에서 케인스는 100년 안에 먹고사는 문제가 해결될 거라고 봤습니다. 그런데 축하 대신 걱정을 하죠. 그때가 오면, 인류한테 영영 안 풀릴 진짜 문제가 온다는 거예요. 먹고 사느라 채워지던 하루를 이제 뭘로 채울 것인가. 케인스는 사람들이 집단으로 앓게 될 거라고 봤습니다. 이미 일할 필요가 없어진 당시 상류층 여성들도 딱히 행복해 보이지 않았거든요.

한나 아렌트, 1958년. 『인간의 조건』 첫 장에서 한나 아렌트는 '노동에서 막 풀려나려는 사회'를 그리면서, 이걸 최악에 가까운 일로 봅니다. 바로 그 이유는, 그 사회가 일하는 것 말고 다른 걸 해본 적이 없어서입니다. 자유를 줘도 쓸 줄을 모르는 거예요. 한나 아렌트는 사람이 하는 일을 셋으로 나눴습니다. 노동(Labor; 먹고 살려고 반복하는 일), 작업(Work; 세상에 남을 물건을 만드는 일), 행위(Action; 사람들 사이에서 자기가 누군지 드러내는 일). 지금 상황을 설명하는 데 이보다 나은 도구를 저는 아직 못 봤습니다. AI가 이 셋 중 뭘 가져가느냐에 따라 이야기가 완전히 달라지니까요.

버나드 슈츠, 1978년. 『베짱이』에서 제일 이상한 답을 내놨습니다. 쓸모 있는 일이 전부 필요 없어지면 남는 건 게임이라는 겁니다. 버나드 슈츠가 말하는 게임의 정의가 재밌는데, 굳이 없어도 될 장애물을 굳이 자기 발로 넘어보는 것입니다. 골프를 생각해보세요. 공을 구멍에 넣는 게 목적이면 손으로 집어넣으면 됩니다. 그런데 우리는 굳이 막대기를 씁니다. 슈츠한테 게임은 할 일 없는 사람의 시간 때우기가 아니라, 아무것도 안 해도 되는 존재가 닿을 수 있는 제일 높은 삶의 형태였습니다.

이 세 분의 관점과 글이 지금도 계속해서 읽히면서 다양한 생각의 기반이 되는 이유는 단순하다고 생각합니다 - 바로, 기계가 아니라 사람 이야기를 했기 때문이예요. 기계 지능의 정체가 뭐라고 밝혀지든 간에 상관없는 이야기요. 반대로 소설가들은 기계의 생김새를 구체적으로 못 박았고, 제일 먼저 낡아버린 게 바로 그 ‘생김새’였습니다. 구체적으로 그린 쪽이 먼저 낡아버리고, 두루뭉술하게 큰 질문을 던진 쪽이 살아남은 겁니다. 흔한 일은 아니죠.

지금도 이 큰 질문을 붙들고 있는 사람들이 있습니다. 섀넌 밸러는 이 시스템들이 우리한테 뭘 되비춰 주는지, 존 다나허는 자동화와 유토피아를, 엘리자베스 앤더슨은 노동과 자유를, 마이클 샌델은 능력주의와 존엄을, 키어런 세티야와 수전 울프는 삶의 의미를 파고들고 있습니다.

큰 문제가 있는데, 바로 이런 이야기가 정작 AI와 함께해야 할 미래에 대한 중요한 논의가 일어나고 결정이 내려지는 자리에서는 잘 안 들린다는 겁니다. 화려하지도 않고, 모델을 팔아주지도 않고, 일론 머스크가 퍼가주지도 않으니까요. 게다가 요즘 제일 중요한 논의는 많은 경우에 X에서 벌어지는데, X는 결국 흘러가는 강물같은 겁니다. 실리콘밸리 사람들 얘기를 한꺼번에 읽기엔 더없이 좋지만, 거기 올라온 말은 떠내려갈 뿐, 우리 손에 붙잡히지가 않습니다. 그냥, 다른 사람들 떠드는 소리에 섞여서 떠내려가요.

그래서…

몇 달째 맴돌던 생각입니다.

저는 개인적으로 미래는 맞힐 필요가 없다고 생각합니다. 수많은 리포트가 그 작업을 하느라 지면을 쓰지만, 우리한테 필요한 건 예측이 아니라 기록이라고 생각합니다. 누가, 언제, 뭐라고 했는지 적어두고, 시간이 지나면 다시 꺼내서 맞춰보는 것이요.

이걸 오랫동안 지속하면, 아무도 점을 안 치더라도 미래가 어느 정도 저절로 드러날 거라고 생각합니다. 어차피, 이 새벽이 진짜 새벽이었는지는 지나봐야 아니까요.

그런 의미에서, 튜링 포스트 팀에서 그런 기록지 (Ledger; 원장)을 하나 만들면 어떨까 이야기하고 있습니다. 전망도 아니고, 수없이 많은 의견에 더할 또 하나의 의견 모음도 아니고, 그저 계속해서 이어지는 기록이요. 여기다가 적을 건 네 가지입니다.

아마, 세 번째가 핵심이지 싶습니다. "2년 안에 됩니다" 같은 말은 그 자리에서 반박하기 어렵지만, 그 말이 성립하려면 뭐가 사실이어야 하는지, 무슨 다른 일이 일어나야 하는지를 같이 적어두면, 2년을 기다리지 않고도 중간에 확인할 수 있으니까요.

이런 말들은 찾기도 쉽지만, 그만큼 잊기도 쉽습니다. 사실 그게 진짜 문제예요, 왜냐하면 그런 말들은 애초에 잊히라고 만들어진 형식으로, 그저 흘러가는 강물에 떠가는 낙엽처럼 우리 곁을 지나가니까요.

일부는 위키처럼 고치고 덧붙일 수 있게 온라인에 있어야겠지만, 저는 개인적으로 책처럼 종이 버전도 갖고 싶기는 합니다.. 책으로 인쇄돼서 손에 잡고 볼 수 있고, 책장에 꽂아둘 만큼 예쁘기도 하고, 2030년에 꺼내 들고 2026년에 우리가 뭘 믿었고 그 믿음 중에 뭐가 살아남았는지 확인할 수 있는 것. 아이들한테 읽어줘도 좋겠습니다. 아이들은 우리가 놓친 걸 또 자주 보기도 하니까요.

그 기록들 옆에 다양한 철학자, 경제학자들의 생각도 함께 볼 수 있으면 어떨까요. 이번 주 뉴스에 대한 논평 말고, 어떤 주장이 회사의 값어치가 아니라 한 사람 한 사람의 삶에 무슨 의미인지 말해줄 사람들 말이예요.

모르겠어요, 튜링 포스트 팀이 언제쯤 이런 작업을 해서 여러분께 보여드릴 수 있을지는. 하지만, 확실한 건, 우리는 지금 엉뚱한 문제를 붙들고 있다는 겁니다. 그것도 아주 열심히, 아주 시끄럽게요. 그리고, 우리가 그러는 동안 더 큰 그림을 놓치고 있다는 생각이 계속 듭니다.

물론, 정답을 만들려는 건 아닙니다 - 다만, 지금 우리 모두가 순간 순간 선택을 할 수 있을 때, 그 선택이 어떤 것인지 제대로 이해해 보려는 것에 가깝습니다.

이게, 지금이, 정말 ‘초지능의 새벽’이라면, 우리가 남겨야 할 기록은 ‘기계가 얼마나 똑똑해졌는가’에 대한 것만이 아닙니다. 우리는 그 옆에서 어떤 사람이 될 생각인가, 그게 훨씬 더 중요한 질문입니다.