headroom — LLM에 도달 전 토큰을 압축해 비용 절감하는 도구

2026년 06월 22일 · #AI #LLM #트렌드 #기술블로그

arXiv 논문

Moebius: 0.2B Lightweight Image Inpainting Framework with 10B-Level Performance

모델/아키텍처

#MoE #Diffusion

100억 파라미터 수준의 대규모 이미지 인페인팅 모델은 성능은 뛰어나지만 높은 연산 비용 때문에 실제 활용이 어렵습니다. 이를 해결하기 위해 ‘뫼비우스(Moebius)’는 확산 모델의 구조를 체계적으로 재구성하여, 0.2B의 경량 모델임에도 10B 수준의 고성능을 달성하는 효율적인 프레임워크를 제안합니다.

112

DragMesh-2: Physically Plausible Dexterous Hand-Object Interaction with Articulated Objects

추론/검색

#RAG

여러 손가락을 가진 로봇 손이 문손잡이나 가위처럼 관절이 있는 물체와 상호작용하는 것은 정적인 물체를 다루는 것보다 훨씬 복잡합니다. ‘DragMesh-2’는 손과 물체 간의 지속적인 물리적 접촉을 통해 움직임이 발생하는 과정을 시뮬레이션하여, 물리적으로 그럴듯하고 자연스러운 손-물체 상호작용을 생성하는 기술을 제안합니다.

Multi-LCB: Extending LiveCodeBench to Multiple Programming Languages

모델/아키텍처 개발 도구

#Eval

대규모 언어 모델(LLM)의 코드 생성 능력을 평가하는 ‘LiveCodeBench(LCB)’는 널리 사용되지만 파이썬 언어에만 국한되어 있다는 한계가 있었습니다. ‘Multi-LCB’는 이 벤치마크를 여러 프로그래밍 언어로 확장하여, LLM이 다양한 언어 환경에서도 일반화된 코딩 능력을 발휘하는지 종합적으로 평가할 수 있는 새로운 기준을 제시합니다.

MolmoMotion: Forecasting Point Trajectories in 3D with Language Instruction

에이전트

에이전트가 행동을 계획하고 물리적 상호작용을 이해하기 위해서는 물체의 움직임을 예측하는 능력이 필수적입니다. ‘MolmoMotion’은 짧은 영상과 “서랍을 여세요” 같은 자연어 지시를 바탕으로, 객체를 구성하는 3D 점들의 미래 궤적을 예측하는 새로운 목표 지향적 3D 모션 예측 기술을 제시합니다.

Playful Agentic Robot Learning

에이전트

#Coding Agent

현재의 에이전트 로봇 시스템은 명시적인 지시가 있을 때만 기술을 학습하며, 스스로 재사용 가능한 기술을 습득하는 데에는 한계가 있습니다. ‘Playful Agentic Robot Learning’은 로봇이 특정 과업을 받기 전에 ‘놀이’를 통해 스스로 다양한 기술을 지속적으로 학습하는 새로운 패러다임을 제안합니다. 이를 위해 ‘RATs(Robotics Agent Teams)’라는 에이전트 팀을 설계하여 로봇이 놀이 시간을 통해 능동적으로 기술을 습득하는 과정을 구현했습니다.

Hugging Face Blog

JanusMesh: Fast and Zero-Shot 3D Visual Illusion Generation via Cross-Space Denoising

JanusMesh는 여러 시점에서 완전히 다른 모습으로 보이는 3D 시각적 착시 효과를 만드는 빠르고 효율적인 프레임워크를 제안합니다. 기존 방식의 느린 속도와 부자연스러운 결과물 문제를 해결하기 위해, 별도의 학습 없이 텍스트 설명만으로도 기하학적으로 일관된 3D 모델을 생성할 수 있습니다.

Siang-Ling Zhang, Huai-Hsun Cheng, Tsung-Ju Yang

Current World Models Lack a Persistent State Core

개발 도구

#Eval

현재의 AI 월드 모델은 그럴듯한 장면을 생성할 수는 있지만, 관찰 여부와 무관하게 독립적으로 계속 변화하는 ‘지속적인 상태’를 내부에 유지하는 핵심 기능이 부족하다고 지적합니다. 진정한 월드 모델은 관찰되지 않는 동안에도 객체와 사건이 지속된다는 것을 이해해야 합니다.

Jinpeng Lu, Dexu Zhu, Haoyuan Shi

LedgerAgent: Structured State for Policy-Adherent Tool-Calling Agents

추론/검색 에이전트 개발 도구

#RAG

LedgerAgent는 고객 서비스 분야에서 정해진 정책을 준수하며 도구를 호출해야 하는 AI 에이전트를 위한 새로운 구조를 제시합니다. 기존 에이전트와 달리, 대화의 맥락과 상태 정보를 별도의 구조화된 데이터로 관리하여 매번 프롬프트에서 상태를 재구성할 필요 없이 일관되고 정확하게 작업을 수행하도록 돕습니다.

Md Nayem Uddin, Amir Saeidi, Eduardo Blanco