AI is moving fast and most people are falling behind. 

The Rundown AI keeps you ahead of the curve. 

It's a free AI newsletter that keeps you up-to-date on the latest AI news, and teaches you how to apply it in just 5 minutes a day.

Plus, complete the quiz after signing up and they’ll recommend the best AI tools, guides, and courses — tailored to your needs.

Sign up to start learning.

RSI(Recursive Self-Improvement, 재귀적 자기개선), 최근 몇 달 새 너무나 익숙해진 약어입니다. 저희는 이걸 "지금의 AI가 다음 세대 AI 시스템을 만들고 발전시키는 데 힘을 보태고, 그렇게 나온 AI가 또 그 다음 AI를 만드는 데 힘을 보태는 아이디어"라고 정의하는데, 수년간 개발자들은 바로 이 AI 모델의 성능을 끌어올리려고 애써 왔죠.

이제 모델이 점점 유능해지면서, 그 성능을 끌어올리는 작업 자체를 모델에게 맡겨버리고 싶은 유혹이 커지고 있습니다. 기대되는 게 한둘이 아니거든요:

이런 능력들이라면 과학과 공학을 지금보다 훨씬 더 빠르게 발전시킬 수 있을 테고, AI 에이전트가 과학적 발전과 발견에 훨씬 많이 공헌할 수 있을 거란 생각, 엄청난 일이죠.

지금도 사실 AI가 AI를 개선하는 사례는 꽤 있는데, 왜 이게 진정한 RSI(재귀적 자기개선)로는 이어지지 못했을까요? 그 이유를 정확히 파악할 수 있다면, 앞으로 AI의 발전 경로는 엄청나게 달라질 겁니다.

오늘은 이 '진정한 RSI를 가로막고 있는 걸림돌'이 뭔지 한 번 살펴보려고 합니다. 만약 RSI 그 자체에 큰 관심이 없으시다고 해도 괜찮습니다 - 이 걸림돌들이 또 AI 개발 전반의 속도를 늦추고 있는 요인들이라, 상식 수준에서 알아두실 가치도 있거든요. 어디서 이 발전이 막히고 있는지 하나씩 짚어보되, 그 중 두 가지를 좀 더 깊이 들여다보겠습니다.

오늘 다룰 내용은 아래와 같습니다:

먼저 논문 하나로 시작해 보죠. 칭화대 등 연구진이 낸 "What is Missing from AI Post-Training AI: An Empirical Analysis"라는 논문인데, 언뜻 보면 RSI와는 상관없어 보입니다. AI 에이전트가 다른 AI 모델을 사후훈련(post-training)하는 과정을 다루는 논문인데, 세부적인 훈련 문제처럼 들릴 수 있지만 사실 AI가 AI를 개선하는 과정에서 정말 어디까지 제대로 개선할 수 있는지, 그리고 아직 어떤 부분이 부족한지를 아주 구체적으로 보여줍니다.

연구진은 에이전트의 능력을 두 계층으로 나누는데, 실행(Execution)은 에이전트가 이미 짜여진 훈련 계획을 따르는 것 - 데이터를 준비하고, 설정값을 조정하고, 버그를 고치고, 보상 함수를 조정하고, 최적의 체크포인트를 고르는 일이고, 전략(Strategy)은 에이전트가 계획 자체를 바꾸는 것으로, 훈련 방법을 통째로 바꾸거나 훈련 단계를 더하고 빼거나 다른 유형의 데이터를 쓰거나 남은 연산 자원을 다르게 배분하는 식입니다.

연구진은 에이전트가 실제로 모델을 학습시켜(파라미터를 바꿔) 결과를 낸 경우만 '실험' 한 건으로 셌고, 앞 실험과 다음 실험 사이에 무엇이 바뀌었는지를 두 종류로 나눴습니다. 하이퍼파라미터 조정처럼 같은 계획 안에서의 작은 손질은 '실행 변화', 훈련 방법 자체를 바꾼 것은 '전략 변화'로요.

먼저 실행 계층을 보면, 에이전트는 이미 훈련을 곧잘 해냅니다. 1,338개의 실행 궤적에서 5,111회의 훈련을 완료했고, 평균 벤치마크 성능을 10.4%에서 23.0%로, HumanEval에서는 22.0%에서 41.4%로 끌어올렸죠. 데이터 준비부터 훈련 실행, 기술적 문제 진단, 실패한 실행 복구, 몇 시간에 걸친 반복 작업까지 — 실행에 해당하는 일은 실제로 다 해낸다는 뜻입니다.

막히는 건 전략 계층입니다. 에이전트는 보통 아주 초반에 훈련 전략을 하나 정해놓고는 끝까지 거기 머무릅니다. 남은 시간은 죄다 그 전략 안에서의 작은 조정에 쓰고, 전략 자체를 바꿔본 경우는 전체의 약 2%뿐이었어요. 결과가 "다른 방법을 써보라"고 말해줘도, 정작 방법 자체는 바꾸지 않는 겁니다.

심지어 어떤 전략을 고르느냐가 과제보다 에이전트 성향에 더 좌우됐습니다. Claude Code는 대체로 전체 파라미터 지도 미세조정(full-parameter SFT)을, Codex CLI는 파라미터 효율적 미세조정(PEFT)을 "선호"했죠. 과제가 뭐든 자기가 늘 쓰던 전략으로 가더라는 겁니다.

그래서 연구진은 이 전략 계층의 벽을 넘어보려고 세 가지 해법을 시도했는데, 셋 다 ‘실행’만 끌어올리고 ‘전략’은 그대로였습니다. 더 많은 경험(메모리·스킬·피드백)을 주면 HumanEval 점수가 41.4%에서 62.8%까지 더 올랐지만 전략은 요지부동이었고, 인간이 방향을 짚어주면 초반 전략은 바꾸게 할 수 있었지만 훈련이 시작되면 도로 작은 조정에 머물렀고, 추론 연산을 2~8배 더 줘도 쉬운 과제만 나아질 뿐 가장 어려운 과제엔 거의 소용이 없었습니다.

결국 문제는 경험도, 지도도, 연산 자원도 아니었던 셈입니다. AI는 이미 반복(iterate)할 줄 알지만, 반복할 수 있다는 게 재고(rethink)할 수 있다는 뜻은 아니거든요. 지금의 에이전트는 멈춰서 "혹시 내 접근 자체가 틀린 건 아닐까?" 되묻는 일이 거의 없고, 반복 도중에 자기 실수를 알아챌 믿을 만한 방법이 없다 보니 잘못된 방향으로 계속 반복하며 불필요한 국소적 수정만 되풀이할 위험이 있습니다.

그러니까 이건 사후훈련만의 문제가 아니라, RSI 자체를 가로막는 걸림돌입니다.

RSI에서는 AI가 다음 세대 AI 시스템을 만들고 발전시키는 과정의 일부가 되는데, 핵심은 '재귀적'이라는 단어입니다. 한 연구 사이클의 결과가 다음 사이클로 피드백되면서 시스템이 더 나은 선택지를 고를 수 있게 도와줘야 하고, '반복한다'는 건 이 자동화된 연구 루프를 매 시도로부터 배우면서 되풀이하는 걸 말합니다: 아이디어 제안 → 구현 → 실험 실행 → 결과 평가 → 계획 수정 → 다시 시도 하는 루프요.

이 루프가 정말 '재귀적'이려면 AI가 배운 걸로 다음 라운드의 전략 자체 — 훈련 방법, 데이터 구성, 평가 방식, 모델 구축 파이프라인 — 를 다시 생각할 수 있어야 하는데, 지금 대부분의 에이전트는 이 루프를 실행 계층에서만 완결하는 탓에 "AI가 AI를 개선한다"는 더 큰 과정은 아직도 대체로 선형적입니다.

즉 '재귀적'이라는 부분이 아직 제한적이라는 얘기인데, 에이전트는 기존 계획 안에서만 움직이고 인간이 방향을 짚어주면 다른 접근을 시도하긴 하지만 스스로 다른 접근 자체를 고안하고 진행하지는 못합니다. 그리고 사람이 방향을 짚어줘서 에이전트가 한 번 전략을 틀었다고 해도, 그 교정 내용이 어딘가에 저장돼야 다음에도 쓸 수 있을 텐데 — 지금 이 대화 세션이 끝나면 그냥 사라지는지, 아니면 남아서 이어지는지가 바로 다음 문제입니다.

어쩌면, 제대로 된 RSI를 하려면 더 큰 모델이 필요할지 꼭 그런 것은 아닐지조차 아직은 모릅니다. 어쩌면 에이전트가 '내가 생각한 접근방법이 잘 안 먹히고 있네' 하고 알아차리게끔 훈련을 해야 될까요? 그것도 아니면, 실행을 하다가 한 번 멈춰볼지 다른 방법을 시도할지 생각해 보게끔 명시적인 체크포인트를 줘야 할지도 모릅니다.

연구진이 유독 '전략'에 집중하는 이유가 여기 있는데, 전략이 에이전트가 다음에 뭘 시도할지를 결정하기 때문이고, 애초에 접근이 틀렸다면 또 한 라운드의 작업은 그냥 잘못된 방향으로 더 깊이 빠져들게 만들 뿐이니까요.

다행히, RSI 개선을 위한 실용적인 해법을 제시하는 또 다른 흥미로운 연구가 있습니다.

지금까지 공통된 문제 하나를 확인했는데, 에이전트는 해법(solution)을 개선하지만 개선하는 과정 자체는 거의 그대로라는 겁니다. 이걸 풀어보려고 미네소타 대학교와 서울대학교 연구진이 내놓은 게 바로 Metaⁿ입니다.

핵심 아이디어는 간단한데, 기존 시스템 위에 새로운 층(layer)을 재귀적으로 쌓아 올려서 Solver를 가이드하는 방식 자체를 바꾸는 겁니다. 첫 번째 층이 과제를 직접 풀어보면, 다음 층이 그 결과와 코드를 "들여다보고" 더 나은 지침이나 재사용 가능한 도구를 얹고, 또 다른 층이 스택 전체를 검토하면서 뭘 남길지 뭘 바꿀지 뭘 덮어쓸지 결정합니다.

이렇게 층층이 쌓인 에이전트 스택이, 새 층을 더해도 결과가 더 나아지지 않을 때까지 깊어지는데, 말처럼 간단한 과정은 아닙니다.

Metaⁿ은 이렇게 작동합니다

기본 Solver(S1)가 각 과제를 한 번 풀어보면, 그 과정이 실행 궤적으로 남습니다. 생성된 스크립트, 그게 뱉어낸 출력과 오류, 종료 코드, 점수, 평가자 피드백 — 이런 것들이 한 세트로 담기죠.

여기에 Metaⁿ은 Ω(오메가)라는 장치를 씁니다. Ω가 하는 일은 하나예요. 아래 층들이 지금까지 남긴 실행 궤적, 그러니까 어떤 코드를 짰고 그 결과가 어땠는지를 쭉 읽고, 그걸 바탕으로 바로 위에 얹을 새 층을 코드로 써내는 겁니다. 층을 한 장씩 찍어내는 틀이라고 보면 됩니다. 이 틀은 몇 층째든 늘 똑같이 작동하고(같은 프롬프트를 쓰는 LLM이에요), 그 자체는 절대 바뀌지 않습니다. 바뀌는 건 틀에 들어가는 입력뿐이죠. 위층으로 갈수록 아래 모든 층의 코드와 결정, 실패까지 다 보고 시작하니, 자연히 더 넓게 보면서 "이 전략이 맞나?"를 따질 수 있게 됩니다.

Ω가 찍어낸 새 층에는 두 가지가 들어 있습니다. 하나는 Solver가 문제를 풀기 전에 먼저 읽는 쪽지, 즉 "이렇게 접근해라"라고 일러주는 전처리(pre-process)입니다. 다른 하나는 Solver가 필요할 때 꺼내 쓰는 도구 상자, 즉 헬퍼 함수 묶음이고요. 예를 들어 Solver가 정답 레이블과 자꾸 어긋나는 답을 내놓는다면, 그 층은 쪽지에 "제출하기 전에 레이블부터 확인해"라고 적어두고, 도구 상자에 fuzzy_match_label() 같은 함수를 넣어주는 식입니다.

이 층을 Solver에 씌워주는 게 Md라는 래퍼(wrapper)입니다. Solver 자체는 손대지 않고 겉에 한 겹 덧씌우는 거예요. 문제 하나를 풀 때 Md는 이렇게 움직입니다. 먼저 그 층의 쪽지(전처리)를 펼쳐 지침을 얹고, 그 지침을 아래 층들을 거쳐 맨 안쪽 Solver까지 전달합니다. 그다음 모든 층의 도구(헬퍼 함수)를 한데 모아 Solver가 짠 코드에 붙이고요. 이렇게 완성된 최종 코드를 안전한 공간(샌드박스)에서 실행해 보고 결과를 기록합니다.

정리하면 이렇게 개선된 시스템은 Sd = Md ∘ Md−1 ∘ ⋯ ∘ M2 ∘ S1 이런 모양이 됩니다. 문제를 맨 안쪽 기본 Solver까지 안으로 안으로 밀어넣고, 그 과정에서 각 층이 쌓아둔 도구들을 다 모아서 최종 코드에 합치는 거죠.

여기서 각 계층들이 서로 영향을 주고받는다는 게 중요합니다. 층이 깊어질수록, 각 층은 아래 층이 만들어둔 도구를 그냥 쓸지(적용, apply), 못 쓰게 막을지(억제, suppress), 아니면 여러 개를 엮어 쓸지(결합, combine) — 이 세 가지 중에서 고르는 법을 배웁니다. 바깥 층이 큰 방향을 잡으면 아래 층들이 그걸 실제로 어떻게 적용할지 정하는 식이죠. 층마다 이 세 가지의 의사결정 사항이 열려 있으니, 세 개 층이면 이론상 3³ = 27가지 조합이 나옵니다. 층끼리 안 엮이는 밋밋한 시스템의 9가지와 비교하면 훨씬 옵션이 많죠. 재귀라는 활동을 통해서 얻는 성능 향상의 상당 부분이 바로 이 상호작용, 그러니까 한 층이 다음 층에 넘겨주는 맥락에서 나옵니다.

이렇게 Ω와 층 구조를 세워두면, 스택을 키우는 방법은 두 가지가 됩니다. 선형(Linear) 모드는 한 번에 한 층씩 쌓다가 점수가 더 안 오르면 멈춥니다. 진화(Evolutionary) 모드는 서로 다른 층 체인 여러 개를 창고에 모아두고, 잘되는 체인은 더 키우고 덜 검증된 것도 이따금 시험해 봅니다. 진화 모드는 한 가지 결정 순서에 매이지 않아서, 어떤 체인은 이 문제에서, 다른 체인은 저 문제에서 각각 제일 잘 통하기도 하죠.

지금까지 이야기를 한 문장으로 묶으면 이렇습니다. 여러 문제에서 똑같이 걸려 넘어지는 지점이 있으면, Metaⁿ은 그걸 알아챕니다(아래 층들이 어디서 실패했는지를 Ω가 읽어내는 거죠). 그리고 "여기서 이렇게 넘어지니까 이건 피해라"라는 규칙을 쪽지에 적어두고, 그 상황에서 쓸 만한 도구도 도구 상자에 미리 챙겨둡니다. 앞에서 하나씩 설명한 구성 요소들 — Ω, 쪽지, 도구 상자, 래퍼 — 이 이렇게 한 바퀴로 맞물려 돌아가는 겁니다.

여덟 개 벤치마크 계열에서 Metaⁿ은 다른 여러 자기개선 에이전트보다 나은 성적을 냈고, 특히 ARC-AGI-2에서는 유일하게 문제를 풀어낸 방법으로 0.331점을 기록했습니다.

다만 깊이가 무조건 좋은 건 아니었습니다. 점수는 보통 깊이 3에서 정점을 찍고 내려갔는데, 몇몇 더 어려운 문제는 깊이 4~6까지 가야 겨우 풀렸죠.

Metaⁿ에도 약점은 있습니다. 이 방법은 처음 Solver에 고칠 여지가 많고, 실패하는 방식도 여러 갈래일 때 가장 잘 통합니다. 반대로 처음부터 Solver가 이미 웬만큼 강하면 Metaⁿ이 보탤 게 별로 없죠. 게다가 지침이 지나치면 오히려 독이 되기도 합니다. 이미 잘 짜인 코드를 괜히 복잡하게 만들고 느려지게 하는 경우도 있거든요.

어쨌든 이렇게 해서, RSI의 전략을 실제로 손보는 방법 하나를 손에 쥔 셈입니다. 그럼 이번엔 RSI를 아예 다른 쪽에서 접근해 볼까요? 첫 번째 논문은 경험이나 메모리를 더 쌓는 것만으로는 전략을 못 바꾼다고 했는데, 그렇다면 메모리로 RSI를 개선하려는 시도는 정말 가망이 없는 걸까요?

이번엔 또 다른 접근방법을 하나 소개합니다. NUS·스탠퍼드·옥스퍼드·프린스턴 연구진이 내놓은 Recuris인데, 이건 좀 다른 문제를 파고듭니다. 긴 과제를 하다 보면 에이전트는 지나온 기록을 계속 쌓아가는데, 정작 그럴수록 지금 뭐가 남았는지, 이 순간 어떤 스킬이 필요한지를 더 못 짚어내거든요.

이상한 건, 정작 쓸 만한 경험은 이미 갖고 있다는 점입니다. 다만 그게 오래된 지침, 이미 끝난 단계, 실패한 시도들로 꽉 찬 긴 기록 속에 파묻혀 있는 거죠. 그러다 보니 에이전트가 올바른 절차를 알면서도 엉뚱한 때에 꺼내 쓰거나, 정작 해야 할 행동을 놓쳐버립니다.

그럼 경험이든 메모리든 무작정 더 쌓는 것 자체가 처음부터 잘못된 방향이었을까요? Recuris는 좀 더 신중하게 접근합니다. 모델은 그대로 두고, 그 바깥을 감싸는 '메모리 제어 층'만 따로 진화시켜 RSI를 개선하자는 거죠. 이 메모리는 네 가지 구성 요소로 이뤄집니다:

이 네 구성 요소를 묶어서 논문은 '스킬 메모리(Skill Memory)'라고 부릅니다.

Recuris가 어떻게 도는지 보죠. 순환이 두 겹으로 겹쳐 돕니다. 하나는 과제 하나를 푸는 동안 도는 짧은 순환이고, 다른 하나는 여러 과제를 거치면서 메모리 자체를 다듬어 가는 긴 순환입니다. 앞의 것은 "지금 이 과제를 어떻게 풀까"를, 뒤의 것은 "다음 과제를 더 잘 풀도록 메모리를 어떻게 고칠까"를 담당하죠.

먼저 과제 안에서 도는 짧은 순환부터 보죠. 작업 메모리(W)가 요청을 받아서 여러 개의 목표로 쪼개고, 각 목표에 대기·완료·차단 중 하나의 표시를 붙입니다. 에이전트가 일하는 동안 작업 메모리는 이 상태를 계속 갱신하고요. 그러다 바깥 경험이 필요한 대목에 이르면, 호출 정책(ρ)이 경험 메모리(E)에서 알맞은 스킬을 꺼내옵니다. 이때 어떤 스킬을 꺼낼지는 원래 요청이나 전체 대화 기록이 아니라, 지금 검증된 상태(W가 들고 있는)를 기준으로 정해집니다.

예를 들어 에이전트가 환경을 바꾸는 툴 호출을 하려는 참이라고 해보죠. Recuris는 그 호출을 잠깐 멈춥니다. 그리고 그 도구를 제대로 쓰는 법을 담은 스킬을 꺼내 모델에게 건네고, 그 스킬을 참고해 행동을 다시 짜보라고 시킵니다. 그런 다음에야 에이전트가 실제로 행동을 실행하고, 도구나 환경에서 결과를 받아옵니다.

작업 메모리가 "이 목표는 끝났다"고 보고해도 Recuris는 그 말을 곧이곧대로 믿지 않습니다. 검증자(C)가 그 결과를 뜯어보고, 근거가 충분할 때만 작업 메모리의 상태를 바꿔주죠. 그러니까 과제 안 순환은 이렇게 돕니다: 지금 상태를 보고 → 스킬을 고르고 → 행동하고 → 환경 피드백을 받고 → 검증된 상태로 갱신하는 순서죠. 덕분에 대화가 길어져도 아직 안 끝난 목표들이 계속 눈에 남고, Recuris는 매 단계에서 무슨 일이 있었는지를 기록으로 남깁니다.

앞서 본 Metaⁿ처럼 Recuris도 과제와 과제 사이에서 전체 전략을 손봅니다. 고정된 메타-에이전트가 실패한 실행 궤적을 살펴보고, 스킬 메모리의 네 구성 요소 중 어디를 고쳐야 가장 도움이 될지 진단하죠. E는 스킬이 아예 없었거나 잘못된 지침을 준 경우, W는 목표가 빠졌거나 상태를 잘못 추적한 경우, ρ는 스킬을 너무 늦게·엉뚱한 때에·혹은 아예 안 꺼낸 경우, C는 검증자가 가짜 완료를 통과시켰거나 진짜 완료를 되려 막은 경우입니다.

메타-에이전트는 딱 진단된 실패와 이어진 구성 요소만 손댑니다. 없는 스킬을 채우거나, 작업 메모리 구조를 바꾸거나, 호출 타이밍을 조정하는 식으로요. 한 번에 여러 구성 요소가 함께 바뀔 수도 있지만, 수정 사항 하나하나는 반드시 특정 실패와 짝지어져야 합니다.

이렇게 만든 수정안은 곧바로 반영되지 않고, 늘 똑같은 기준의 검사 관문을 먼저 통과해야 합니다. 수정안을 이미 잘 풀던 과제(held-out tasks)에 시험 삼아 돌려보고, 성적이 떨어지지 않을 때만 통과시키는 거죠. 에이전트가 되려 나빠지는 일을 막으려는 장치입니다. 통과하면 그제야 바뀐 메모리가 다음 과제부터 에이전트의 행동을 바꾸고, 그게 또 새로운 행동·결과·궤적을 낳게 되고, 그게 다시 다음 번 개선 활동의 바탕이 됩니다. 이렇게 새로운 '재귀 활동'이 이루어지는 거예요: 메모리가 행동을 만들어 내고 → 행동이 증거를 낳게 되고 → 증거가 메모리를 고치게끔 해 주고 → 수정된 메모리가 다음 행동을 만들어 내는 순환 구조 말입니다.

LLM, 도구, 메타-에이전트, 검증 절차 같은 나머지 뼈대는 그대로 두고, 오직 바깥의 메모리 제어 층만 진화합니다. 그래서 무엇이 바뀌었는지 찾아내고, 뜯어보고, 되돌리기가 쉽습니다.

우선 눈에 띄는 숫자 하나. Recuris를 쓰니, 에이전트가 꼭 해야 할 저장·기록 같은 행동을 아예 빼먹는 경우가 확 줄었습니다. tau²-bench의 Retail 과제에서 이런 '해야 할 걸 안 한' 에피소드 비율이 42%에서 16%로 떨어졌거든요.

그런데 이 개선을 이끈 건 네 구성 요소 중 주로 작업 메모리(W)였습니다. 경험 메모리(E)만 따로 쓰면 2점 오르는 데 그쳤는데, 검증된 작업 메모리는 23.9점을 끌어올렸죠. 물론 둘을 같이 쓸 때가 제일 좋았고요. 결국 "스킬만 잔뜩 쥐여주면 된다"는 생각이 틀렸다는 얘긴데 — 첫 번째 논문에서도 나왔던 결론이죠 — 실제로 스킬을 몽땅 프롬프트에 밀어넣은 버전은 Recuris보다 18점이나 낮았습니다. 스킬을 많이 가진 것보다, 어떤 스킬을 언제 꺼내 쓰느냐가 훨씬 중요하다는 뜻입니다.

효과는 한 모델에만 국한되지 않았습니다. 장기 과제 벤치마크 네 개와 모델 열 개를 통틀어, 끝까지 마친 37개 조합 중 35개에서 성공률이 올랐거든요. 특히 앞서 본 Retail 과제에서는 GPT-5.6 Sol이 17.8점, Claude Opus 5가 15.6점이나 뛰었습니다.

그런데, 흥미로운 걸 하나 발견하기도 했습니다. 이 실험에 쓴 메모리는 사실 다른 중간 크기 모델이 실패하면서 다듬어진 것이었는데, 그걸 더 큰 모델들에 그대로 얹었더니 효과가 났다는 거예요. 한 모델이 실패를 해 가면서 얻은 교훈이 다른 모델에도 통한다는 뜻이죠.

또 Recuris는 실패를 그냥 "실패했다"로 뭉뚱그리지 않고 구조화된 궤적으로 남기는데, 덕분에 네 구성 요소 중 어디에 결함이 있는지를 64.8%의 정확도(매크로 평균)로 짚어냈습니다. 문제가 어디에 있는지를 그만큼 콕 집어낼 수 있다는 얘기죠. 이게 RSI 관점에서 Recuris가 갖는 핵심 가치입니다. 에이전트가 쌓은 경험을 지금 필요한 곳과 이어주고, 메모리의 어느 부분이 실패를 야기했는지 찾아내, 다음 번에는 똑같이 실패하지 않게끔 딱 그 부분만 고칠 길을 열어준다는 것.

결국 이건 모델의 가중치가 아니라 메모리 안에서 일어나는, 더 좁고 더 잘 통제된 형태의 RSI인 셈입니다.

Recuris에도 물론 약점은 있습니다. 이 방식이 가장 잘 통하는 건, 여러 과제가 도구나 규칙, 절차를 서로 공유할 때입니다. 그래야 한 과제에서 배운 것 — E에 쌓인 스킬이든, W가 익힌 상태 추적 요령이든 — 을 다음 과제에서도 써먹을 수 있으니까요. 반대로 Terminal-Bench 2.1처럼 과제끼리 닮은 구석이 거의 없으면, 과제를 넘나들며 배우는 게 별 소용이 없었습니다. 그렇다고 한 과제 안에서만 메모리를 다듬어봐야, 그 효과도 작고 들쭉날쭉했고요.

무엇보다 Recuris가 손대는 건 결국 바깥쪽 메모리(E·W·ρ·C)뿐입니다. 정작 모델 자체와 그 주변의 더 큰 개선 과정은 그대로 묶여 있죠. 그래서 Recuris는 RSI라는 퍼즐을 통째로 푸는 답이 아니라, 그 퍼즐의 한 조각인 셈입니다.

오늘 본 세 연구는, 저희가 보기엔 RSI를 앞으로 밀고 나가는 가장 흥미로운 시도들입니다. 물론 이 분야엔 연구가 이 말고도 훨씬 많아요. 그만큼 진짜 RSI가 어떤 모습일지는 아직 아무도 모르고, 다들 조각을 하나씩 맞춰가는 중이라는 얘기죠. 그래도 이 세 가지는 특히 눈여겨볼 만합니다.

첫 번째 연구가 짚은 건 이겁니다. 에이전트는 AI를 더 좋게 만드는 일 자체는 점점 잘합니다. 그런데 "어떤 방법으로 개선할까"라는 큰 방향, 즉 전략을 바꾸는 건 잘 못해요. 옆에서 사람이 방향을 잡아줄 수는 있지만, 결국엔 에이전트가 스스로 방향을 틀 줄 알아야 합니다. 그러지 못하면 진짜 RSI라고 부르기 어렵거든요.

Metaⁿ은 바로 그 '사람이 하던 일'을 대신해 보려는 시도입니다. 여러 층을 쌓아 올려서 더 나은 전략을 알아서 찾아내는데, 맨 위층이 전체를 내려다보며 큰 방향을 잡는 식이죠.

Recuris는 경험과 메모리를 잘 쓰는 게 RSI에서 실제로 통한다는 걸 보여줍니다. 단, 조건이 있어요. 아는 걸 필요한 순간에 딱 꺼내 쓰고, 안 쓸 건 미련 없이 버릴 줄 알아야 한다는 겁니다.

이 이야기는 결국 저희가 튜링포스트에서 오래 붙들어 온 질문으로 돌아옵니다. AI가 더 나은 결정을 내리려면, 자기가 놓인 상황을 머릿속에 얼마나 잘 그리고 있어야 할까요? AI 연구를 하는 에이전트한테 그 '상황'이란, 자기가 만지는 모델과 자기가 돌려보는 실험, 그리고 거기서 나온 결과들입니다. 그럼 에이전트는 이 결과를 보고 "왜 이 방법이 안 통했지?"를 이해하고, "다른 방법이면 어떻게 될까?"를 미리 짐작해 볼 수 있을까요? 여기서 RSI는 저희가 꾸준히 관심 둬 온 주제와 만납니다. 바로 월드 모델, 그러니까 AI가 세상을 자기 안에 어떻게 담아두느냐 하는 이야기죠. 오늘 본 연구들이 "월드 모델이 그 빠진 조각이다"라고 딱 잘라 말하는 건 아닙니다. 다만 이런 질문을 남깁니다. 에이전트가 자기가 하는 일을 더 깊이 이해하지 않고도, 그 일을 더 잘하는 방법만 따로 익힐 수 있을까요? 결국 자기 일을 더 잘하려면, 에이전트는 자기가 뭘 하고 있는지부터 제대로 알아야 하는 게 아닐까요?

읽어주셔서 감사합니다.

읽어주셔서 감사합니다. 친구와 동료 분들에게도 뉴스레터 추천해 주세요!