Ava is the first AI BDR to run outbound end to end, and you decide whether she runs autonomously or on copilot.

She finds leads or ingests accounts from your CRM, enriches them, sends personalized emails on behalf of your reps, follows up, handles replies and books meetings. Website visitor de-anonymization, intent signals, and a parallel dialer come built in.

A small team can manage her centrally for thousands of reps who never log in. Everything syncs two-way with Salesforce and HubSpot.

Ava runs outbound for companies like DoorDash and Grammarly, and one customer deploys her across 1,000+ reps. Ava is SOC 2 Type II audited, SSO and GDPR ready. Ava is how revenue teams grow pipeline without growing headcount.

Book a demo

재귀적 자기개선(RSI), 지난 한 주 유독 화제였습니다.

앤스로픽의 연구원이었던 제이콥 콕슨이 "AI 연구소들이 자기개선형 초지능을 향해 질주하고 있다"고 경고하면서 회사를 그만뒀고, 다른 연구자들도 이런 시스템이 결국 큰 피해로 이어질 가능성을 꽤 높게 보고 있다고 말했다고 합니다. 다리오 아모데이 역시 "안전장치가 따라올 시간을 벌 수 있도록 속도 조절이 필요하다"는 입장을 밝혔죠. 이런 다리오 아모데이의 이야기에 또 다시 많은 빅테크 및 이해관계자들의 비평도 따랐습니다.

그런데, 잘 관찰해 보면, 많은 경우에 이런 논의는 곧바로 "AI가 인류를 위협하느냐"는 질문으로 넘어가 버리곤 하는데요. 그렇게 넘어가기 전에, 한 번 ‘재귀적 자기개선’이라는게 뭔지 정확히 짚고 가볼 필요가 있다고 생각합니다. 재귀적 자기개선이란 게 정확히 뭘까요? 그리고 지금 이미 진행 중인 'AI가 스스로 AI 연구를 돕는' 작업들과는 얼마나 다른 걸까요? 우선, 이전에 ‘재귀적 자기개선’에 대해서 쓴 기본적인 글을 하나 봐 두셔도 좋겠습니다:

‘재귀적 자기개선’의 가장 단순한 형태는 아마 다들 한 번쯤 접해봤을 겁니다. AI에게 코드를 주고 "이거 개선해 봐"라고 시키는 거죠. AI가 수정안을 내놓으면, 그걸 돌려보고, 제대로 작동하는지 확인하고 성능을 측정한 다음에, 그 변경 사항을 채택할지 말지 결정합니다. 그리고 이 과정을 한 번 더 반복하는 거고요.

사실 업계에서는, 아시다시피 이미 비슷한 일이 수없이 일어나고 있죠. 커널을 최적화하고, 에이전트의 스캐폴딩을 손보고, 실험을 제안하고, 머신러닝 코드 자체를 고치는 데 AI가 투입되고 있으니까요. 예를 들어서, AI4AI-Bench라는 벤치마크에서는 에이전트에게 몇 시간을 주고 실제 학습 알고리즘을 수정하게 한 다음에, 그 결과물을 처음부터 다시 돌려서 평가합니다.

이 정도면 재귀적 자기개선의 초기 버전이라고 볼 수 있을 겁니다 - AI가 AI를 개선하는 데 쓰이고 있는 거니까요. 여기서 중요한 건, "개선"이라는 말이 반드시 테스트 가능한 형태로 정의되어야 한다는 겁니다. 에이전트가 손댈 수 있는 범위는 정해져 있고, 평가 기준도 고정돼 있어야 하니까요. 그래야 이번 시도가 이전 시도보다 나은지 아닌지를 비교할 수 있겠죠.

그럼 뭘 기준으로 "더 낫다"고 판단할까요? 이건 결국 무엇을 최적화하고 싶은지에 달려 있습니다. 컴퓨팅 자원을 덜 쓰는 것일 수도 있고, 더 정확한 코드를 짜는 것일 수도 있고, 벤치마크 점수를 더 높이는 것일 수도 있고, 아니면 다른 모델을 더 잘 학습시키는 방법을 찾는 것일 수도 있겠죠.

문제는 한 지표에서 발전이 있다고 해서, 그게 바로 다른 지표에서의 발전을 보장하지 않는다는 겁니다. 그러니까 이 루프에는 매번 새로운 버전을 판단할 기준이 필요한 거고요.

이 루프를 좀 더 흥미롭게 - 실험 설계도 AI가 하고, 뭘 평가 기준으로 삼을지도 AI가 정하게 - 만들 수 있다면 어떨까요?

AI에게 그냥 학습 알고리즘 하나만 개선하라고 시키는 대신, 그 알고리즘을 찾는 방법 자체를 개선하도록 맡길 수도 있으면 어떨까 하는 겁니다. 스스로 실험을 더 많이 설계하게 하거나, 어떤 실험에 컴퓨팅 자원을 더 투입할지 결정하게 하거나, 결과를 평가하는 새로운 방식을 개발하게 하는 것도 가능하겠죠. 그러면 다음 라운드에서는 개선된 버전이 이 새로운 방법들을 활용해서 또 개선을 계속할 수 있을 겁니다.

바로 이 지점부터 "재귀"라는 말이 단순한 반복 최적화 이상의 의미를 갖기 시작하게 됩니다 - 개선의 대상 자체에 ‘다음 번의 개선을 이끌어내는 과정까지 점점 포함’하게 되니까요.

마침 이 지점을 명확히 구분해서 설명하는 논문들도 최근에 나왔습니다. "인간이 만든 마지막 AI (The Last AI Built by Humans)"라는 도발적인 제목의 한 논문에서는, 자기개선에 관여하는 자율성을 몇 단계로 나눠서 봅니다 - 개선을 직접 수행하는 단계, 개선 전략을 선택하는 단계, 유용한 경험을 스스로 축적하는 단계, 환경을 조정하는 단계, 그리고 최종적으로 개선 과정 자체를 개선하는 단계까지요. 또 다른 논문 "Recursive Criticality"는 비슷한 맥락에서 “AI가 빠르게 발전한다고 해서 그게 곧 재귀적 자기개선인 건 아니라”는 이야기를 하기도 합니다 - 개선 루프 중에 일부는 여전히 사람이 손대고 있어도, AI 개발 전체는 점점 더 자동화될 수 있으니까요.

그렇다면, 이 개선 루프에서 정확히 어느 지점에 개입해 멈출 수 있는지가 자연스러운 질문으로 따라오겠죠.

지금 시스템에서는 멈추는 일 자체가 비교적 단순합니다. 실험이 정해진 컴퓨팅 한도에 도달하거나, 테스트를 통과하지 못하거나, 다른 평가 지표에서 더 낮은 성능을 보이는 경우가 그렇죠. 결과가 다른 환경에서는 재현되지 않는 경우도 마찬가지입니다. 이럴 때 연구자는, 평가를 비롯한 과정의 일부가 영전히 개선 대상 시스템의 ‘바깥’에 남아 있으니, 해당 변경을 기각하고 이전 버전으로 되돌아가면 됩니다.

문제는 이 '바깥에 있던 부분'들마저 수정 가능한 대상이 될 때 시작됩니다.

AI가 새 평가 모델을 만들었고, 그 모델이 "이번 연구 전략이 더 낫다"고 판단했다고 해봅시다. 그러면 우리는 이 새 평가 모델을 믿어도 될 근거부터 찾아야 하는데, 사람의 판단과 대조해 볼 수도, 별도로 보관해 둔 테스트 데이터에 맞춰볼 수도, 독립된 또 다른 평가와 비교해 볼 수도 있겠죠. 문제는 시스템이 이 평가 과정 자체마저 손댈 수 있게 되는 순간부터 시작되는데, 그러면 우리는 같은 질문을 한 단계 위로 밀어 올렸을 뿐 사실상 아무것도 해결하지 못한 셈이 됩니다.

'AI 보조 연구'를 둘러싼 논의에서 검증(Verification)이 갈수록 핵심 화두로 떠오르는 이유도 여기에 있습니다. 어떤 개선 사항의 경우에는 확인이 어렵지 않아서, 코드는 돌려보면 되고 커널은 속도를 재고 별도로 정확성만 확인하면 되고 수학적 결과의 일부는 형식적으로 증명까지 가능합니다. 하지만 새로운 연구 전략이 정말 더 나은지, 시스템이 스스로 고른 실험이 애초에 제대로 된 실험인지를 판단하는 일은 차원이 다르게 어렵습니다.

여기서 AI가 뭔가를 몰래 바라거나 인간에게 저항하거나 자기보존 본능을 갖는다는 상상은 전혀 필요 없고, 그보다 훨씬 단순한 문제가 밑에 깔려 있습니다. 시스템이 특정 지표를 기준으로 계속 최적화를 반복한다면 우리는 그 지표가 여전히 우리가 정말 신경 쓰는 것을, 중요하다고 생각하는 것을 제대로 대변하는지 확인해야 하고, 그 측정 과정마저 시스템이 바꿀 수 있게 된다면 결과를 확인할 또 다른 방법이 필요해지는 거고요.

"AI가 AI를 개선한다"는 이야기는 이제 낯설지 않은 상태가 되었지만, 정작 눈여겨봐야 할 건 AI에게 허용되는 변경의 범위가 조금씩 넓어지고 있다는 사실입니다.

이렇게 보면, 재귀적 자기개선을 훨씬 실용적으로 다룰 수 있는데, 새로운 결과가 나올 때마다 AI가 바꾸고 있는 건 정확히 무엇인지, 그게 진짜 개선이라는 건 어떻게 확인하는지, 그리고 아직 이 루프 바깥에 남아 있는 건 무엇인지, 이 세 가지만 물으면 될 겁니다.

앞으로 저희는 ‘재귀적 자기개선’에 대해서, 거창한 논쟁 대신 RSI 관련 소식들을 이 세 가지 질문에 하나씩 대입해 보면서 따라가 보도록 하겠습니다.