vllm — LLM 고성능 추론 및 서빙 엔진
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
Matrix-Game 4.0: Harnessing Video Models for Real-Time Playable Game Worlds
단순히 제어 가능한 비디오를 넘어 실시간으로 플레이할 수 있는 게임 세계를 구축하기 위한 새로운 접근법 Matrix-Game 4.0을 제안합니다. 이 시스템은 게임 규칙 실행과 시각적 생성을 분리하는 구조를 채택했으며, 가벼운 게임 엔진이 세계 상태를 관리하고 멀티모달 코딩 에이전트가 플레이어의 아이디어를 게임 내 행동으로 변환합니다.
Ropedia W0: Scaling Loco-Manipulation World Models across Embodiments with Human Experience
다양한 형태의 로봇과 인간을 아우르는 최초의 자아 중심 이동-조작(loco-manipulation) 월드 파운데이션 모델 Ropedia W0를 제안합니다. 이 모델은 1만 시간 이상의 인간 경험 데이터와 3천 시간의 로봇 데이터를 통합 학습하여, 서로 다른 신체 구조를 가진 에이전트가 행동의 결과를 효과적으로 예측할 수 있도록 돕습니다.
PAR: Progress-Aligned Recurrence for Length Generalization in State Tracking
순차적인 상태 추적 문제에서 언어 모델이 더 긴 시퀀스를 처리할 수 있도록 일반화 성능을 높이는 새로운 기법 PAR(Progress-Aligned Recurrence)을 소개합니다. 이 방법은 모델의 반복적인 연산 각 단계(k번째)의 예측이 실제 k번의 연산 후 상태와 일치하도록 학습시키고 순환 상태의 스케일을 조정하여 안정적인 문제 해결을 가능하게 합니다.
S-Agent 2.0: Spatial Reasoning with a General Coding Agent
3D 공간 추론 능력을 향상시키기 위한 에이전트 시스템 S-Agent 2.0은 기존 모델들이 3D 인식 도구로 올바른 증거를 수집하고도 정답을 찾지 못하는 문제를 해결합니다. 이 시스템은 범용 코딩 에이전트를 활용하여 도구에서 얻은 원시 데이터를 분석하고 추론함으로써, 복잡한 공간 관계 및 움직임에 대한 질문에 더 정확하게 답변할 수 있습니다.
CoEvo-RSI: When Harnesses Evolve, Which Models Should Follow?
재귀적으로 자기 개선(RSI)하는 AI 에이전트에서 모델(두뇌)과 실행 프레임워크(몸체)가 함께 진화할 때 발생하는 ‘두뇌-몸체 불일치’ 문제를 탐구합니다. 이러한 불일치 문제를 해결하기 위해 CoEvo-RSI 프레임워크를 제안하며, 에이전트가 직접 어떤 모델과 프레임워크 조합이 가장 유망한지 판단하여 진화 방향을 결정하도록 합니다.
Hugging Face Blog
SolarRenderer: Few-Step Generative Reference Rendering
기존 렌더러는 게임 엔진 등에서 지정한 장면 구조를 사실적인 비디오로 변환할 때 특정 엔진에 종속되거나 많은 연산 비용이 드는 한계가 있었습니다. ‘SolarRenderer’는 이러한 문제를 해결하는 구조 조건부 비디오 렌더링 기술로, 주어진 구조를 충실히 따르면서도 적은 단계만으로 효율적인 고품질 비디오 생성을 목표로 합니다.
Joints, Camera, Action! Co-Generating 3D Motion and Video for Arbitrary Rigs
기존 비디오 생성 모델은 사실적인 움직임을 픽셀로만 보여줄 뿐, 이를 3D 에셋에 적용할 수 있는 모션 데이터로 만들지는 못했습니다. 이 연구는 사용자가 제공하는 어떤 3D 캐릭터(rig)에 대해서도 비디오와 3D 모션을 동시에 생성하는 새로운 모델을 제시하여, 생성된 움직임을 3D 씬에서 직접 재현할 수 있게 합니다.
Evolving Agent Interfaces
기존 AI 에이전트는 인간이 설계한 인터페이스의 한계 때문에 컴퓨터 작업을 비효율적으로 수행하는 경우가 많았습니다. 이 연구는 인터페이스 설계 자체를 에이전트의 핵심 역량으로 삼아야 한다고 주장하며, 스스로 더 나은 인터페이스를 개발하고 진화시켜 문제를 해결하는 ‘Agent S4’를 제안합니다.
GitHub Trending
vllm-project/vllm
vLLM은 대규모 언어 모델(LLM)을 위한 추론 및 서빙 엔진입니다. 높은 처리량과 메모리 효율성을 특징으로 하여 LLM 기반 서비스를 더 빠르고 경제적으로 운영할 수 있도록 지원합니다.
stablyai/orca
Orca는 여러 AI 코딩 에이전트를 한곳에서 통합 관리하고 실행할 수 있는 플랫폼입니다. 사용자는 자신의 구독 계정을 이용해 Grok, Claude 등 다양한 에이전트를 데스크톱, 모바일 등 여러 환경에서 손쉽게 활용할 수 있습니다.
headroomlabs-ai/headroom
Headroom은 LLM에 전달되는 데이터를 압축하여 토큰 사용량을 획기적으로 줄여주는 도구입니다. 로그, 파일, RAG 청크 등을 압축해 동일한 답변 품질을 유지하면서도 코딩 에이전트의 토큰을 20%, JSON 데이터는 최대 95%까지 절약합니다.
DietrichGebert/ponytail
Ponytail은 AI 에이전트가 마치 ‘게으른 시니어 개발자’처럼 가장 효율적인 해결책을 찾도록 유도하는 프로젝트입니다. 불필요한 코드를 작성하기보다 기존의 해결책을 재사용하거나 더 간단한 방법을 모색하여 ‘작성하지 않은 코드가 최고의 코드’라는 철학을 구현합니다.
Comfy-Org/ComfyUI
ComfyUI는 그래프와 노드 기반의 인터페이스를 갖춘 강력한 디퓨전 모델용 GUI 및 백엔드 시스템입니다. 복잡한 이미지 생성 워크플로우를 직관적으로 설계할 수 있으며, 세계 최고 수준의 빠른 로컬 추론 속도를 자랑합니다.
오늘의 키워드
Multimodal Agent Vision Reasoning Distillation LLM Inference Claude Claude Code RAG