colibri — 로컬 하드웨어에서 MoE 모델을 구동하는 C 엔진
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
Scaling Automatic Research Agents via World Models
LLM을 활용한 자동화 연구(AutoResearch) 에이전트는 강화학습(RL)을 통해 발전하고 있지만, 에이전트 생성과 환경 실행 간의 비용 및 시간 불일치로 인해 규모 확장에 어려움을 겪고 있습니다. 이 논문은 연구 환경을 시뮬레이션하는 ‘월드 모델’을 도입하여 이러한 문제를 해결하고, 이를 통해 더 효율적이고 확장 가능한 방식으로 자동 연구 에이전트를 훈련하는 방법을 제안합니다.
NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction
이 논문은 기존의 다음 토큰 예측(NTP) 방식을 넘어, 여러 토큰에 걸친 추상적인 개념을 예측하는 ‘다음 개념 예측(NCP)’ 기술을 함께 사용하는 새로운 잠재 공간 언어 모델 NCP-ArchPreview를 소개합니다. 이 모델은 토큰 단위의 생성 능력을 유지하면서도, 더 도전적인 개념 수준의 학습 목표를 추가하여 개념 어휘로 구성된 잠재 공간을 구축합니다.
SenseNova-U1.5: Towards Native Unified Visual Intelligence
이 논문은 별도의 인코더나 VAE 없이 시각적 콘텐츠를 이해하고 생성하는 80억 파라미터 규모의 네이티브 통합 멀티모달 모델 SenseNova-U1.5를 공개합니다. 이 모델은 공간적으로 일관된 패치 재구성으로 시각적 인터페이스를 강화하고, 최대 4K 해상도를 지원하며, 시각적 미학 등을 위한 전문가 모델 최적화를 통해 성능을 높였습니다.
SpatialBlock: Enhancing Spatial Intelligence in LVLMs via Synthetic Block-Stacking Problem
대형 비전-언어 모델(LVLM)은 2D 이미지 속 3D 구조를 이해하는 공간 지능이 부족하며, 기존 학습 데이터셋은 제작 비용이 높고 노이즈가 많다는 한계가 있습니다. 이 연구는 블록 쌓기 문제를 합성하여 생성한 ‘SpatialBlock’ 데이터셋을 통해 LVLM의 공간 추론 능력을 효과적으로 향상시키는 새로운 접근법을 제안합니다.
AgentGrad: Intervention-guided Prompt Optimization for Multi Agent Systems
LLM 기반 다중 에이전트 시스템(MAS)의 성능은 각 에이전트의 프롬프트 설계에 크게 의존하지만, 기존의 텍스트 그래디언트 기반 최적화 방식은 피드백 추출 및 통합 과정에 한계가 있습니다. 이 논문은 ‘개입 기반’ 피드백을 통해 문제의 원인이 되는 프롬프트를 더 정확히 식별하고 최적화하는 새로운 방법론인 AgentGrad를 제안하여 이러한 문제를 해결합니다.
Hugging Face Blog
SenseNova-U1.5: Towards Native Unified Visual Intelligence
SenseNova-U1.5는 인코더와 VAE 없이 시각 콘텐츠를 이해, 추론, 생성하는 80억 파라미터 규모의 네이티브 통합 멀티모달 모델입니다. 이 모델은 공간적으로 일관된 패치 재구성 기술로 시각 인터페이스를 강화했으며, 엄선된 데이터와 최대 4K 해상도 학습을 통해 시각적 미학에 최적화되었습니다.
Biology-in-the-loop: Amortized Adaptive Hit Discovery in CRISPR Screens
CRISPR 스크리닝과 같이 예산이 제한된 생물학적 발견 문제에서는 여러 실험 라운드에 걸쳐 후보군 우선순위를 정하는 것이 중요합니다. 이 연구는 기존 벤치마크의 한계를 지적하며, 적응형 히트 발견(adaptive hit discovery)을 위한 대규모 벤치마크인 AssayBench-Loop를 새롭게 제안합니다.
MindTopo: Can Foundation Models Reason in Topological Space?
공간 추론 능력은 거리나 각도 같은 측정 속성뿐만 아니라 연속적인 변형에도 변치 않는 위상학적(topological) 관계에 의존합니다. 이 연구는 기존 파운데이션 모델 평가가 위상학적 관계를 간과하고 있음을 지적하며, 모델의 위상학적 직관을 평가하는 MindTopo 벤치마크를 제시합니다.
GitHub Trending
JustVugg/colibri
개인이 소유한 일반 하드웨어에서도 최신 MoE(Mixture of Experts) 모델을 실행할 수 있게 해주는 프로젝트입니다. 순수 C언어로 작성되어 의존성이 전혀 없으며, 디스크에서 전문가 모델을 스트리밍하여 작은 엔진으로도 거대한 모델을 구동할 수 있습니다.
tech-leads-club/agent-skills
전문적인 AI 코딩 에이전트를 위한 안전하고 검증된 스킬 등록소입니다. 이 프로젝트를 통해 개발자들은 Antigravity, Claude Code, Cursor, Copilot과 같은 다양한 AI 에이전트의 기능을 높은 신뢰성을 바탕으로 확장할 수 있습니다.
melgarafael/DeskcommCRM
자체 서버에 직접 설치하여 사용하는 오픈소스 AI 영업 운영체제(OS)입니다. AI 에이전트와 WhatsApp 연동 기능이 내장된 CRM으로, 채팅을 통해 영업하는 비즈니스에 Kommo나 Intercom의 훌륭한 대안이 될 수 있습니다.
calesthio/OpenMontage
세계 최초의 오픈소스 에이전트 기반 영상 제작 시스템입니다. 12개의 제작 파이프라인과 100개 이상의 도구, 700개 이상의 에이전트 스킬을 제공하여, 기존의 AI 코딩 어시스턴트를 완전한 영상 제작 스튜디오로 변모시킬 수 있습니다.
asgeirtj/system_prompts_leaks
주요 AI 모델들에서 추출한 시스템 프롬프트를 모아놓은 저장소입니다. Anthropic의 Claude, OpenAI의 ChatGPT, Google의 Gemini 등 최신 LLM의 내부 동작 방식을 엿볼 수 있는 귀중한 자료들이 정기적으로 업데이트됩니다.
AI Weekly
AI Weekly Issue #530: Applied AI This Week
기업들이 보안 카메라 확인, 농업 기록 분석, 위성 이미지 검색, 영업 견적서 준비 등 특정 업무에 AI를 적극적으로 활용하고 있습니다. 이번 호에서는 해당 AI 도구들의 작동 방식과 사용 대상, 그리고 실제 기업들이 거둔 성과를 심도 있게 다룹니다.
오늘의 키워드
LLM Agent Multimodal Prompt Vision Benchmark Reasoning Eval MoE Claude