오픈AI 전략의 핵심은, 에이전틱 워크플로우를 API에 직접 내장하는 겁니다. 상태 관리 기능을 무료로 제공하고 관찰 가능성을 기본 기능으로 통합해서, 오픈AI는 개발자들이 AI 에이전트를 만들 때 항상 맞닥뜨리게 되는 흔한, 일반적인 문제점을 원초적으로 제거해 줍니다.

여전히, 앤쓰로픽의 MCP는 오픈AI의 Agents Platform과 경쟁할 강력한 대안입니다. 장기적인 상호 운용성을 위한 기반으로, 개방성, 그리고 플랫폼 간 호환을 강조하는데, ‘즉각적이고 즉시 사용 가능한 경험’을 강조하는 오픈AI와는 거의 정반대 관점이라고 할 수도 있겠죠.

CoreWeave가 오픈AI에 AI 인프라를 공급하는 대규모 계약을 체결했다고 합니다. 그 계약만 최대 119억 달러 정도 가치라고 하는데요. 게다가 오픈AI는 CoreWeave에 3억 5천만 달러의 지분 투자도 단행했습니다. 마이크로소프트, 오라클, 이제 CoreWeave까지 자사의 컴퓨팅 인프라 자원에 포함시키면서, 오픈AI는 AI 군비 경쟁을 위한 동맹들을 착실히 늘려가고 있습니다.

그런데, CoreWeave가 IPO 로드쇼를 기존보다는 좀 더 보수적인 관점에서 시작하는 것으로 알려지고 있습니다 - Cash Burn이 기존의 예상보다 훨씬 높을 것으로 판단된다고 합니다.

Cerebras Systems가 사업 규모를 빠르게 확장하고 있습니다. 북미, 유럽 전역에 여섯 개의 새로운 AI 추론 (Inference) 데이터센터를 구축하는 것으로, 자국 내 최대 규모의 고속 추론 클라우드로 자리매김하고 있습니다. Cerebras의 데이터센터는 초당 4천만 개의 Llama 70B 토큰을 처리하는 빠른 서비스를 제공하는데요. 오픈AI의 o3나 DeepSeek-R1 모델 등, 더 빠른 응답속도가 필요한 최신 모델들이 늘어나면서, Cerebras는 ‘실시간 (Real-time)’ AI 경쟁에서 우위를 차지하기 위해 큰 베팅을 하고 있는 것 같네요.

그리고 허깅페이스와도 파트너십을 맺고, 5백만에 달하는 개발자들이 허깅페이스를 통해서 Cerebras의 고속 추론 서비스를 활용해 볼 수 있도록 한다고 합니다.

우선 BLOOM은 허깅페이스가 이전에 개발한 거대 오픈소스 AI 언어 모델의 이름이죠. ‘BigScience Large Open-science Open-access Multilingual’의 약자구요.

BOOM은 허깅페이스가 PrimeIntellect와 함께 진행하는 또 하나의 프로젝트로, 여러 개의 데이터센터에서 AI 모델을 ‘분산’해서 트레이닝하도록 하는 프로젝트입니다. 이런 방법이 잘 된다면, AI 모델 트레이닝의 확장성이 새로운 전기를 마련할 수도 있을 것 같네요.

다들, “드디어 구글이 저력을 발휘하는구나” 하는 느낌을 받지 않으셨나요? 구글이 최근에 발표한 Gemini 2.0 Flash Experimental 모델, Gemma 3, Gemini Robotics 등의 성능을 시장과 업계에서 놀라운 눈으로 바라보고 검토하고 있습니다.

Gemini Robotics는 최근 ARK Invest와 구글, 재팬포스트, 한국투자파트너스, 신한벤처투자 등에서 투자한 Apptronik과도 파트너십을 맺었네요.

Stuart Russell, Oren Etzioni, Peter Norvig, Yoshua Bengio 등이 함께 참여한 ‘Future of AI Research’ 보고서

Azeem Azhar의 ‘When AI met venture capital’

Max Read의 ‘Is OpenAI’s new story-generating model good at writing? And some AGI talk’

Little Gemma 3 that you can run on a single GPU or TPU is better than big Gemini – 구글 딥마인드 연구진이 하나의 GPU/TPU에서 실행할 수 있게 최적화한 경량의 최첨단 오픈 AI 모델 ‘Gemma 3’를 발표했습니다. 이 모델은 140개 언어를 지원하고, 128K 토큰 컨텍스트 윈도우, 그리고 고도화된 텍스트-시각 추론 기능을 갖추고 있습니다. 4B 이미지 안전 검사기인 ShieldGemma 2로 자체적으로 ‘안전한 AI’를 구현합니다.

Command A from Cohere unveiled a highly efficient generative AI model optimized for enterprise use. - 이 모델은 비즈니스, STEM, 코딩 등의 작업에서 GPT-4o라든가 DeepSeek-V3와 비슷하거나 더 뛰어난 성능을 보이면서도, 단 2개의 GPU만으로 원활하게 작동합니다. Command A는 초당 156 토큰을 처리하는데, 이건 GPT-4o보다 1.75배 빠른 수치이고, 256K 컨텍스트 길이를 지원합니다.

OLMo 2 and Building Effective Teams for Training Language Models
– AI2의 연구진이 7B, 그리고 13B 파라미터의 오픈소스 LLM을 출시했습니다. 각각 4T와 5T 토큰으로 학습시켰고, OLMo 2 Instruct는 Llama 3.1 8B Instruct, Qwen 2.5 Instruct보다 더 좋은 성능을 보여줍니다. 연구진은 RLVR을 포함한 Tulu 3의 사후 학습 방식을 사용해서 점수를 4점 이상 향상시켰다고 합니다. FLOP 효율성, 학습의 우선순위 지정, RL 파인튜닝의 안정성을 중심으로 오픈소스 AI를 더욱 발전시켰습니다.

Baidu Unveils ERNIE 4.5 and Reasoning Model ERNIE X1, Makes ERNIE Bot Free Ahead of Schedule. - ERNIE 4.5는 멀티모달 파운데이션 모델, ERNIE X1은 심층적인 사고 추론 모델입니다. ERNIE 4.5는 GPT-4.5 비용의 1%에 해당하는 비용으로 더 뛰어난 성능을 보여주는데, 입력/출력 비용은 1,000 토큰당 0.004/0.016 위안입니다. 추론과 Tool 사용을 잘 하는 ERNIE X1은, 1,000 토큰당 0.002/0.008 위안이 드네요. 두 모델 모두 개인 사용자에게는 무료, 기업은 Baidu AI Cloud의 Qianfan 플랫폼을 통해 활용할 수 있습니다.

Open-sourced MM-Eureka – 상하이 AI 연구소에서 이미지-텍스트 작업을 타겟으로 해서 대규모의 규칙 기반 강화학습(RL)을 적용한 멀티모달 추론 모델을 개발했습니다. 이 모델은 안정적인 정확도 향상을 이뤘고, 응답 길이가 길어졌을 뿐 아니라, 시각적인 ‘Aha Moment’라고 할 만한 ‘회고’ 능력도 보여줍니다. 54K 샘플로 훈련한 이 모델은 100만 개 이상의 데이터를 사용했을 때보다 뛰어난 성능을 달성, 데이터의 효율성이 상당히 높습니다.

Sesame AI Labs open-sources its conversational speech model CSM 1B.
- 이 모델은 Llama 기반의 백본과 Mimi 오디오 코드를 생성하는 오디오 디코더를 사용해서, 텍스트로부터 고품질의 음성을 생성합니다. 컨텍스트를 이해하는 음성 생성을 지원하고 화자 전환을 자연스럽게 처리할 수 있습니다. 그러나 사전 정의된 목소리가 없고 특정 목소리에 대한 파인튜닝은 조금 부족합니다. 모델 사이즈는 1.55B 파라미터이고, 영어를 메인으로 지원하고, 연구 및 교육 목적으로 오픈소스로 제공됩니다.

이스라엘 예루살렘 히브리 대학교 컴퓨터 과학 및 공학 학부에서 만든, Charting and Navigating Hugging Face’s Model Atlas

🌟 Transformers without Normalization - 정규화 (Normalization) 레이어를 쓰지 않고 경량 트랜스포메이션을 대체로 사용해서, 모델의 정확도를 유지하면서도 학습 및 추론 속도를 향상시킵니다.

SEAP: Training-free Sparse Expert Activation Pruning - 관련이 있는 모델 파라미터만을 선택적으로 활성화해서 계산 비용을 줄이고, 성능은 유지하면서 효율성을 향상시킵니다.

DistillM-2: A Contrastive Approach Boosts the Distillation of LLMs - 대조 손실 함수 (Contrastive Loss Functions)를 통해서 지식 증류 (Knowledge Distillation)작업을 최적화, LLM의 선호도에 대한 Alignment, 그리고 디코딩의 효율성을 향상시킵니다.

OmniMamba: Efficient and Unified Multimodal Understanding - 상태 공간 모델 (State-Space Models)을 활용해서 멀티모달 모델의 효율성을 개선, 메모리 비용을 줄이면서 높은 성능을 유지합니다.

🌟 Communication-Efficient Language Model Training Scales Reliably - 분산 학습에서의 통신 오버헤드를 줄여서 거대한 LLM을 효율적으로 학습시킬 수 있게 합니다.

🌟 Monitoring Reasoning Models for Misbehavior - LLM의 추론 단계를 감사해서 숨겨져 있는 Misalignment를 감지해 내서, 결국 투명성을 보장하는게 얼마나 어려운지 보여줍니다.

🌟 LMM-R1: Empowering 3B LMMs with Strong Reasoning - 두 단계로 이루어진 강화학습 프레임웍을 활용해서 멀티모달 추론 성능을 개선, 텍스트와 시각 기반 작업 모두를 잘 하게끔 해 줍니다.

Plan-and-Act: Improving Planning of Agents - LLM 에이전트에서 계획과 실행을 분리해서, 구조화된 합성 데이터로 장기 (Long-Horizon) 과제의 수행 성능을 향상시켜 줍니다.

Gtr: Guided Thought Reinforcement Prevents Thought Collapse - 추론 다양성 (Reasoning Diversity)의 손실을 방지해서 강화하습 기반의 비전-언어 모델을 강화하고, 구조화된 문제 해결 능력을 개선합니다.

Implicit Reasoning in Transformers is Reasoning through Shortcuts -
트랜스포머가 진짜 제대로 된 다단계 추론을 하기보다는 ‘통계적 지름길 (Statistical Shortcuts)’에 의존하는 경우가 많다는 사실을 밝힙니다.

Unified Reward Model for Multimodal Understanding - 이미지와 비디오 작업 모두를 평가하는 보상 모델을 도입해서, 멀티모달 모델의 선호도 Alignment를 개선합니다.

VisualPRM: An Effective Process Reward Model - 보상 기반 접근 방식을 사용해서 멀티모달 모델의 추론 능력을 강화하고, 결과적으로 작업을 잘 구조화해서 완료할 수 있도록 해 줍니다.

Taking Notes Brings Focus? Multi-Turn Multimodal Dialogue 시각적 메모리와 단계별 추론 모듈을 통합해서, 멀티턴 대화를 잘 추적하도록 해 줍니다.

MM-Eureka: Exploring Visual Aha Moment - 멀티모달 모델이 추론 과정에서 ‘Aha-moment’를 만들어내도록 훈련해서, 수학 및 시각 기반 작업의 성능을 향상시킵니다.

World Modeling Makes a Better Planner - ‘상태 예측’, 그리고 ‘행동 선택’을 쌍으로 최적화해서, Embodied AI 시스템의 계획 능력을 개선합니다.

MRT: Optimizing Test-Time Compute via Meta Reinforcement Fine-Tuning - 정확도를 희생하지 않으면서도 LLM의 응답 길이를 줄여서 Test-Time 효율성을 높여줍니다.

FedRand: Enhancing Privacy in Federated Learning - 모델의 파라미터를 선택적으로 업데이트해서 연합 학습(Federated Learning)의 보안 문제를 개선하고, 데이터 유출 위험을 줄입니다.

Exploiting Instruction-Following Retrievers for Malicious Information Retrieval - LLM 검색기(Retrievers)를 어떻게 유해한 쿼리를 수행하게끔 조작할 수 있는지 분석해서, 안전에 대한 경각심을 가지도록 합니다.

Exploring the Vulnerabilities of Federated Learning - 연합 학습에서의 그래디언트 역변환 공격(Gradient Inversion Attacks)을 검토하고 보안 위험을 완화하기 위한 방어책을 제안합니다.

Search-R1: Training LLMs to Reason with Search - LLM이 자율적으로 검색 엔진에 질의하도록 훈련을 시켜, 검색 증강 추론(Retrieval-Augmented Reasoning) 성능을 개선합니다.

New Trends for Modern Machine Translation - ‘기계 번역’을 ‘추론’ 작업으로 재정의해서 실행하게 함으로써, 문맥 및 대화 수준의 정확도를 향상시킵니다.

Gemini Embedding: Generalizable Embeddings - 다국어 텍스트 임베딩 모델을 강화해서 검색, 클러스터링, 분류 작업 전반에 걸쳐 성능을 개선합니다.

Block Diffusion: Interpolating Between Autoregressive and Diffusion Models - 자기회귀(Autoregressive), 그리고 확산(Diffusion) 기법을 합쳐서 샘플의 품질을 유지하면서 생성 단계를 줄여 줍니다.

Sana-Sprint: One-Step Diffusion for Text-to-Image - 텍스트-이미지 확산 모델을 빠르게 작동하게 만들어서, 이미지의 충실도는 유지한 채 추론 시간을 단축할 수 있게 해 줍니다.

CoRe2: Collect, Reflect and Refine for Text-to-Image - 다단계 추론을 통해서 텍스트-이미지 모델의 효율성을 개선하고 계산 비용을 줄여 줍니다.

Auditing Language Models for Hidden Objectives - LLM이 어떻게 은밀하게 사용자의 의도와 합치하지 않는 목표를 만들어낼 수 있는지 조사하고, 더 정교한 Alignment 체크가 필요하다고 강조합니다.

Can Large Reasoning Models do Analogical Reasoning? - ‘인식적 불확실성’ 하에서 LLM의 추론 능력을 평가하고 유추 추론의 약점을 보여줍니다.

API Agents vs. GUI Agents: Divergence and Convergence - API 기반, 그리고 GUI 기반 AI 에이전트를 비교하고 그들의 강점과 향후 두 가지 방향이 합쳐질 전망에 대해 논의합니다.