OmniRoute — 단일 엔드포인트로 500개 이상 AI 모델 통합 게이트웨이
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
LongStraw: Long-Context RL Beyond 2M Tokens under a Fixed GPU Budget
최신 AI 모델의 추론 컨텍스트 길이는 수백만 토큰에 달하지만, 강화학습(RL) 후속 훈련은 여전히 짧은 컨텍스트에 머물러 있습니다. LongStraw는 고정된 GPU 예산 내에서도 2백만 토큰 이상의 긴 컨텍스트를 처리할 수 있는 RL 후속 훈련 스택을 제안하여, 긴 작업 기록을 처리해야 하는 AI 에이전트의 성능을 향상시킵니다.
VideoChat3: Fully Open Video MLLM for Efficient and Generalist Video Understanding
기존 오픈소스 비디오 이해 모델들은 특정 영역에서만 효과적이거나 계산 비용이 높고, 핵심 구성 요소가 공개되지 않는 한계가 있었습니다. VideoChat3는 이러한 문제를 해결하기 위해 효율성과 범용성을 갖춘 완전한 오픈소스 비디오 멀티모달 LLM으로, 다양한 유형의 비디오를 효과적으로 이해할 수 있도록 설계되었습니다.
RESOURCE2SKILL: Distilling Executable Agent Skills from Human-Created Multimodal Resources
기존 소프트웨어 에이전트의 ‘스킬’은 주로 텍스트 기반으로 수동 제작되어, 튜토리얼 영상과 같은 멀티모달 리소스를 제대로 활용하지 못했습니다. RESOURCE2SKILL은 튜토리얼 영상, 기술 문서, 코드 저장소 등 다양한 멀티모달 자료로부터 에이전트가 직접 실행할 수 있는 스킬을 자동으로 추출하는 프레임워크를 제시합니다.
RAGU: A Multi-Step GraphRAG Engine with a Compact Domain-Adapted LLM
기존의 GraphRAG 시스템은 단일 단계로 지식 그래프를 구축하여 데이터 노이즈와 불안정한 검색 성능 문제를 겪었습니다. RAGU는 정보 추출과 통합 단계를 분리하는 다단계 접근법을 통해 이 문제를 해결하며, 데이터 중복 제거 및 커뮤니티 탐지 등을 통해 더 정제된 지식 그래프를 생성하는 오픈소스 GraphRAG 엔진입니다.
SearchOS-V1: Towards Robust Open-Domain Information-Seeking Agent Collaboration
웹 검색을 활용하는 정보 탐색 에이전트는 작업이 길어지거나 검색에 실패할 경우, 비생산적인 반복 루프에 빠져 최종 결과물의 품질이 저하되는 문제가 있습니다. SearchOS는 여러 에이전트가 협력하여 작업 진행 상황을 효과적으로 추적하고 반복적인 실패를 방지하도록 돕는 시스템 수준의 프레임워크로, 정보 탐색의 견고성과 효율성을 높입니다.
Hugging Face Blog
When Does Muon Help Agentic Reinforcement Learning?
이 연구는 Muon 옵티마이저가 에이전트 기반 강화학습(RL)에서 어떤 효과를 보이는지 AdamW와 비교 분석했습니다. 희소 보상(sparse-reward) 환경에서 GiGPO 프레임워크를 통해 Muon을 적용한 결과, 최종 검증 성공률이 88%나 향상되어 AdamW를 크게 능가하는 성능을 입증했습니다.
Audio-Visual Flamingo: Open Audio-Visual Intelligence for Long and Complex Videos
Audio-Visual Flamingo(AV-Flamingo)는 오디오, 이미지, 그리고 긴 비디오를 종합적으로 이해하고 추론하는 새로운 오픈소스 대규모 언어 모델(AV-LLM)입니다. 기존 모델들이 짧은 영상 처리에 국한되었던 한계를 넘어, 길고 복잡한 실제 영상에 대한 심층적인 분석과 추론 능력을 제공하는 것이 특징입니다.
FVAttn: Adaptive Sparse Attention with Runtime Load Balancing for Video Generation
FVAttn은 고해상도 비디오 생성 시 셀프 어텐션으로 인해 발생하는 성능 병목 현상을 해결하기 위한 새로운 희소 어텐션(sparse attention) 시스템입니다. 멀티 GPU 환경에서 발생하는 작업 부하 불균형 문제를 실시간으로 해결하여, 별도의 학습 없이도 분산 처리 효율을 크게 향상시킵니다.
GitHub Trending
tirth8205/code-review-graph
이 프로젝트는 로컬 코드베이스의 구조를 분석하여 지능형 그래프를 생성하는 도구입니다. 생성된 그래프를 통해 AI 코딩 도구가 코드 리뷰나 대규모 저장소 작업 시 불필요한 부분을 제외하고 핵심적인 맥락만 파악하도록 도와 효율성을 크게 향상시킵니다.
diegosouzapw/OmniRoute
OmniRoute는 단일 엔드포인트를 통해 Claude, GPT, Gemini 등 500개 이상의 다양한 AI 모델을 무료로 사용할 수 있게 해주는 통합 AI 게이트웨이입니다. 쿼터에 따른 자동 대체 작동과 토큰 사용량을 줄여주는 압축 기능 등을 지원하여, 개발자가 중단 없이 코딩에 집중할 수 있도록 돕습니다.
rohitg00/ai-engineering-from-scratch
이 저장소는 AI 엔지니어링의 전 과정을 처음부터 학습하고 직접 구축하며 배포까지 해볼 수 있도록 구성된 교육 자료입니다. ‘배우고, 만들고, 출시하라’는 모토처럼, 이론에 그치지 않고 실제 제품을 만드는 실용적인 경험을 제공하는 것을 목표로 합니다.
msitarzewski/agency-agents
이 프로젝트는 마치 하나의 완전한 AI 에이전시처럼 작동하는 특화된 AI 에이전트 모음입니다. 프론트엔드 전문가부터 커뮤니티 관리자까지, 각 에이전트는 고유한 개성과 전문성을 가지고 정해진 프로세스에 따라 구체적인 결과물을 만들어냅니다.
kvcache-ai/ktransformers
ktransformers는 다양한 하드웨어 환경에서 대규모 언어 모델(LLM)의 추론 및 미세조정(Fine-tune) 성능을 최적화하기 위한 유연한 프레임워크입니다. 개발자들이 이기종 컴퓨팅 환경의 특성을 최대한 활용하여 LLM의 성능을 실험하고 개선할 수 있도록 돕는 것을 목표로 합니다.
AI Weekly
AI Weekly Issue #515: China's AI is redrawing the AI race
중국의 오픈소스 모델이 미국 중심의 폐쇄적 AI 생태계에 큰 파장을 일으키고 있습니다. 이 모델의 등장은 막대한 AI 인프라 투자에 대한 회의감을 키워 반도체 주가 하락을 유발했으며, 보안 사고 분석 과정에서는 오히려 폐쇄적인 미국 모델의 한계를 드러내는 계기가 되었습니다.
오늘의 키워드
Inference AI Agent LLM Multimodal Agent RAG Eval Transformer Workflow AI Coding