AirLLM, 단일 4GB GPU로 70B 모델 추론 성공
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
Qwen-UI-Agent Technical Report: Toward Next-Generation Real-World Centric Foundation GUI Agents
기존 디지털 기기를 위한 범용 실행 에이전트의 가능성을 탐구하며, 실제 환경 중심의 차세대 GUI 에이전트인 Qwen-UI-Agent를 제안합니다. 이 에이전트는 실제 기기에서 안정적으로 작동하고 여러 플랫폼을 넘나드는 워크플로우를 실행하며, 장기적인 작업을 완료하고 스스로 역량을 개선하는 것을 목표로 합니다.
From RLVR to RLSVR: Task Transformation Induces Self-Verifiable Rewards for Open-Ended LLM Self-Improvement
기존의 검증 가능한 보상을 통한 강화학습(RLVR)은 수학처럼 정답이 명확한 분야에만 적용되는 한계가 있었습니다. 이를 해결하기 위해, 개방형 과제 스스로가 검증 가능한 보상을 생성하도록 변환하는 RLSVR 기법을 제안하여 LLM의 자체 개선 능력을 확장합니다.
Mental World Modeling
기존 월드 모델은 물리적 세계의 변화만 예측할 뿐, 인간 행동의 원인이 되는 신념이나 의도 등 내면의 정신 상태를 파악하지 못하는 한계가 있습니다. 이 논문은 물리적 환경과 함께 각 행위자의 정신 상태까지 모델링하는 ‘멘탈 월드 모델링’ 개념을 제안하여 인간 행동을 더 정확하게 예측하고자 합니다.
Memory Decoder at Scale: A Pretrained, Parametric Long-Term Memory
디코더-온리 언어 모델은 장기 기억과 추론 능력이 얽혀 있어 기억 용량만 독립적으로 확장하기 어려운 문제가 있습니다. 이 연구는 파라미터 기반의 장기 기억 모듈인 ‘메모리 디코더’를 69억 파라미터 규모로 확장하고 대규모 데이터로 사전 학습시켜, 효율적인 메모리 확장 가능성을 보여줍니다.
N_0-VTLA: Scaling Vision-Tactile-Language-Action Model with Latent Tactile Tokens
시각, 촉각, 언어, 행동을 통합한 기초 모델인 N_0-VTLA를 제안하여 로봇의 정교한 조작 능력을 향상시킵니다. 이 모델은 촉각 인식을 통해 섬세한 작업을 수행하고, 저장된 데이터를 통해 오프라인에서 정책을 개선하는 능력을 갖추었습니다.
Hugging Face Blog
Scaling Properties of Text Conditioning in Visual Generation
이 연구는 시각적 생성 모델에서 텍스트 프롬프트의 복잡성이 모델 성능에 미치는 영향을 분석합니다. 놀랍게도, 프롬프트에 포함된 구조화된 언어의 양이 많을수록 확산 모델의 최종 손실 값이 개선되는 확장 법칙(scaling law)을 발견했으며, 이를 측정하기 위해 GPG와 ED라는 새로운 지표를 제안했습니다.
ExtractBench: A Benchmark for Schema-Guided Enterprise Document Extraction
이 연구는 기업 문서에서 스키마 기반으로 정보를 추출하는 AI 에이전트의 성능을 평가하기 위한 새로운 벤치마크 ‘ExtractBench’를 제안합니다. ExtractBench는 추출된 값의 정확성, 완전성, 근거 데이터 제시(grounding) 및 비용까지 종합적으로 측정하는 최초의 벤치마크입니다.
Toward Robust and 3D-Aware RGB-NIR Imaging in the Dark
이 논문은 저조도 환경에서 강건한 이미징을 위해 RGB와 근적외선(NIR) 데이터를 융합하는 새로운 접근법을 제시합니다. 3D-aware 신경망 모델링을 도입하여 깨끗한 RGB 데이터 없이도 노이즈가 심한 RGB-NIR 데이터를 효과적으로 융합하고 3차원 정보를 인식하는 강력한 모델을 구현했습니다.
토스 기술블로그
DS와 MLE가 함께 일하는 법
데이터 사이언티스트(DS)는 주로 노트북 환경에서 모델을 실험하고 개발하는 반면, 머신러닝 엔지니어(MLE)는 이 모델을 실제 서비스에 배포하고 운영하는 역할을 담당합니다. 이 글은 두 직군이 어떻게 협업하여 아이디어를 실제 제품으로 만들고, 실험 환경과 서빙 환경 사이의 간극을 효과적으로 메우는지에 대한 구체적인 방법을 제시합니다. 이를 통해 성공적인 머신러닝 프로젝트를 위한 협업 문화를 강조합니다.
GitHub Trending
lyogavin/airllm
AirLLM은 단일 4GB GPU라는 매우 적은 자원으로 70B 규모의 거대 언어 모델 추론을 가능하게 하는 기술입니다. 이를 통해 저사양 하드웨어에서도 고성능 LLM을 활용할 수 있는 길을 열어줍니다.
zhaoxuya520/reverse-skill
이 프로젝트는 리버스 엔지니어링, 모의 해킹 등 보안 연구를 위한 AI 기반 스킬 라우터입니다. AI가 자동으로 작업을 처리하고 필요에 따라 도구를 설치하며, 지식 기반을 스스로 발전시켜 다양한 AI 코딩 클라이언트를 지원합니다.
esengine/DeepSeek-Reasonix
DeepSeek-Reasonix는 터미널에서 바로 사용할 수 있는 DeepSeek 네이티브 AI 코딩 에이전트입니다. 프리픽스 캐시 안정성을 중심으로 설계되어, 종료하지 않고 계속 실행해 둘 수 있는 점이 특징입니다.
TencentCloud/TencentDB-Agent-Memory
TencentDB Agent Memory는 AI 에이전트를 위한 팀 단위 메모리 허브입니다. 대화, 문서, 코드를 재사용 가능한 메모리 자산으로 변환하여 여러 에이전트와 프레임워크에서 공유하고 활용할 수 있도록 지원합니다.
microsoft/AI-For-Beginners
마이크로소프트에서 제공하는 초보자를 위한 AI 교육 과정입니다. 총 12주 동안 24개의 강의로 구성되어 있으며, 누구나 인공지능의 기초부터 체계적으로 학습할 수 있도록 설계되었습니다.
오늘의 키워드
Vision Agent LLM Inference Eval Reasoning Prompt Grounding Claude AI Coding