Less is Enough — feature space로 측정하는 데이터 다양성

· #AI #LLM #트렌드 #기술블로그


arXiv 논문

Less is Enough: Synthesizing Diverse Data in Feature Space of LLMs

모델/아키텍처 추론/검색

LLM의 성능을 높이기 위해 데이터의 다양성을 텍스트가 아닌 특징 공간(Feature Space)에서 측정하는 ‘Feature Activation Coverage(FAC)’를 제안한 논문입니다. 언어적 변화뿐만 아니라 실제 작업에 중요한 특징들을 분석하여, 더 적은 데이터로도 효율적인 학습이 가능함을 보여줍니다.

SQuTR: A Robustness Benchmark for Spoken Query to Text Retrieval under Acoustic Noise

추론/검색 개발 도구

음성 쿼리 검색 시스템이 시끄러운 환경에서도 잘 작동하는지 평가하기 위한 새로운 벤치마크 ‘SQuTR’를 소개합니다. 단순한 소음 조건을 넘어 복잡한 음향 환경에서도 모델의 견고함을 테스트할 수 있는 대규모 데이터셋과 표준화된 평가 방법을 제공합니다.

Composition-RL: Compose Your Verifiable Prompts for Reinforcement Learning of Large Language Models

개발 도구

LLM 강화학습(RL)에서 검증 가능한 프롬프트를 더 효율적으로 활용하기 위해 ‘Composition-RL’이라는 기법을 제안합니다. 학습이 진행될수록 쉬운 데이터만 많아지는 문제를 해결하고, 데이터를 합성하여 학습 효율과 성능을 동시에 높이는 방법에 초점을 맞췄습니다.

DeepGen 1.0: A Lightweight Unified Multimodal Model for Advancing Image Generation and Editing

모델/아키텍처

이미지 생성과 편집을 위한 50억(5B) 파라미터 규모의 경량화된 멀티모달 모델인 ‘DeepGen 1.0’을 선보입니다. 거대 모델에 비해 훨씬 가볍지만, Stacked Channel Bridging(SCB) 기술을 도입해 의미 이해와 세밀한 제어 능력에서 매우 뛰어난 성능을 발휘합니다.

MedXIAOHE: A Comprehensive Recipe for Building Medical MLLMs

모델/아키텍처 추론/검색 개발 도구

실제 의료 현장에서 활용 가능한 의료 특화 시각-언어 모델(Medical MLLM)인 ‘MedXIAOHE’를 제안합니다. 독자적인 사전 학습 방식을 통해 의료 지식 범위를 넓혔으며, 다양한 의료 벤치마크에서 기존 비공개 모델들을 뛰어넘는 성과를 달성했습니다.


Hugging Face Blog

Custom Kernels for All from Codex and Claude

모델/아키텍처

Codex나 Claude 같은 LLM을 활용해 누구나 쉽게 맞춤형 GPU 커널을 작성할 수 있는 방법을 다룹니다. 복잡한 하드웨어 지식 없이도 AI의 도움을 받아 연산 속도를 최적화하는 흥미로운 가능성을 제시합니다.

Hugging Face

OpenEnv in Practice: Evaluating Tool-Using Agents in Real-World Environments

에이전트 개발 도구

도구를 사용하는 AI 에이전트들이 실제 환경에서 얼마나 잘 작동하는지 평가하는 ‘OpenEnv’의 활용 사례를 소개합니다. 단순한 테스트를 넘어, 복잡한 현실 세계의 문제들을 해결하는 에이전트의 실질적인 능력을 검증하는 데 중점을 둡니다.

Hugging Face

Transformers.js v4 Preview: Now Available on NPM!

모델/아키텍처

웹 브라우저에서 직접 최신 AI 모델을 실행할 수 있는 Transformers.js의 v4 프리뷰 버전이 NPM에 공개되었습니다. 이번 업데이트로 더 많은 모델 지원과 성능 개선이 이루어져, 자바스크립트 환경에서도 강력한 머신러닝 기능을 손쉽게 구현할 수 있습니다.

Hugging Face


alibaba/zvec

알리바바에서 공개한 초경량, 초고속 인프로세스(in-process) 벡터 데이터베이스입니다. 별도의 무거운 서버 구축 없이도 애플리케이션 내부에서 빠르고 간편하게 벡터 검색 기능을 구현할 수 있어 매우 효율적입니다.

rowboatlabs/rowboat

사용자와의 상호작용을 기억하는 ‘메모리’ 기능을 갖춘 오픈소스 AI 동료 프로젝트입니다. 과거의 대화나 업무 맥락을 유지하며 협업 툴처럼 자연스럽게 업무를 지원하는 것을 목표로 합니다.

steipete/gogcli

Gmail, 캘린더, 드라이브 등 구글의 주요 서비스들을 터미널에서 명령줄(CLI)로 제어할 수 있는 도구입니다. 개발자나 파워 유저들이 마우스 없이도 구글 스위트의 기능을 자동화하거나 빠르게 관리할 수 있게 도와줍니다.

openclaw/openclaw

어떤 운영체제나 플랫폼에서도 실행 가능한 개인용 AI 비서 프로젝트입니다. 사용자의 환경에 구애받지 않고 유연하게 설치하여 개인화된 AI 경험을 제공하는 것을 목표로 합니다.

SynkraAI/aios-core

풀스택 개발 과정을 위해 AI가 시스템 전체를 조율하는 ‘Synkra AIOS’의 핵심 프레임워크입니다. AI가 개발 프로세스를 주도적으로 관리하고 최적화하여 개발자의 생산성을 극대화하도록 설계되었습니다.


오늘의 키워드

LLM RAG Retrieval Eval Prompt Multimodal Benchmark Claude Agent Transformer