Moltbook 논문 — 자기진화 AI 사회의 안전성 trilemma
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies
LLM 기반 다중 에이전트 시스템이 스스로 진화할 때 발생하는 안전성 문제를 다룬 논문입니다. 시스템이 외부 개입 없이 지속적으로 발전하면서 동시에 안전성을 유지하는 것이 현실적으로 어렵다는 ‘자기 진화 트릴레마’를 이론적, 실증적으로 증명했습니다.
Composition-RL: Compose Your Verifiable Prompts for Reinforcement Learning of Large Language Models
검증 가능한 보상을 사용하는 강화학습(RLVR)에서, 이미 성공률이 높은 ‘쉬운 프롬프트’가 학습 효율을 떨어뜨리는 현상을 지적합니다. 이를 해결하기 위해 여러 프롬프트를 조합하여 데이터 효율성을 높이는 Composition-RL 기법을 제안합니다.
DeepGen 1.0: A Lightweight Unified Multimodal Model for Advancing Image Generation and Editing
기존의 거대 이미지 생성 모델들에 비해 훨씬 가벼운 5B 파라미터 크기의 DeepGen 1.0 모델을 소개합니다. Stacked Channel Bridging(SCB) 기술을 적용해, 적은 연산 비용으로도 대형 모델 수준의 성능과 정교한 제어 능력을 보여줍니다.
Learning beyond Teacher: Generalized On-Policy Distillation with Reward Extrapolation
학생 모델이 교사 모델을 모방하는 On-policy Distillation(OPD)이 사실 강화학습의 특수한 형태임을 이론적으로 밝혀냈습니다. 이를 바탕으로 보상 외삽(Reward Extrapolation)을 활용해 교사 모델보다 더 뛰어난 성능을 낼 수 있는 일반화된 학습 방법을 제시합니다.
MOSS-Audio-Tokenizer: Scaling Audio Tokenizers for Future Audio Foundation Models
오디오 생성 모델을 위한 토크나이저가 기존의 고정된 구조 때문에 확장성에 한계가 있음을 지적합니다. 대신 완전히 End-to-End로 학습되는 동질적 아키텍처를 도입하여, 오디오 재구성 품질을 높이고 대규모 확장에 유리한 방식을 제안합니다.
Hugging Face Blog
Custom Kernels for All from Codex and Claude
Codex나 Claude 같은 코딩 특화 LLM을 활용해 누구나 맞춤형 GPU 커널을 작성하는 방법을 다룹니다. 고성능 연산 최적화에 필요한 커널 생성 장벽을 낮추는 흥미로운 접근법입니다.
Hugging Face
OpenEnv in Practice: Evaluating Tool-Using Agents in Real-World Environments
도구를 사용하는 AI 에이전트들을 실제 환경(Real-World)에서 평가하기 위한 OpenEnv 프레임워크의 활용 사례입니다. 단순한 테스트를 넘어 실제 복잡한 작업 수행 능력을 검증하는 데 초점을 맞췄습니다.
Hugging Face
Transformers.js v4 Preview: Now Available on NPM!
웹 브라우저에서 바로 Transformer 모델을 구동할 수 있는 Transformers.js의 v4 프리뷰 버전이 NPM에 출시되었습니다. 최신 기능 지원과 성능 최적화가 포함되어 웹 기반 AI 개발이 더 편리해질 전망입니다.
Hugging Face
GitHub Trending
SynkraAI/aios-core
풀스택 개발의 전 과정을 AI가 조율하고 관리하는 AIOS 시스템의 핵심 프레임워크입니다. 개발 효율성을 극대화하기 위해 AI가 주도적으로 오케스트레이션하는 환경을 제공합니다.
danielmiessler/Personal_AI_Infrastructure
인간의 능력을 확장하고 보조하기 위해 설계된 에이전트 기반의 개인용 AI 인프라입니다. 사용자가 자신만의 맞춤형 AI 환경을 구축하여 다양한 작업을 자동화할 수 있도록 돕습니다.
patchy631/ai-engineering-hub
LLM, RAG, 그리고 실전 AI 에이전트 애플리케이션 개발에 대한 심도 있는 튜토리얼을 모아둔 허브입니다. AI 엔지니어링 실무 기술을 익히고 싶은 분들에게 유용한 자료가 가득합니다.
cheahjs/free-llm-api-resources
API를 통해 무료로 접근 가능한 LLM 추론 리소스 목록을 정리한 저장소입니다. 비용 부담 없이 다양한 언어 모델을 테스트하고 토이 프로젝트에 활용해보고 싶은 개발자들에게 추천합니다.
HandsOnLLM/Hands-On-Large-Language-Models
오라일리(O’Reilly)의 ‘Hands-On Large Language Models’ 책에서 사용되는 공식 소스 코드입니다. 책의 내용을 따라하며 직접 LLM을 다루고 실습해볼 수 있는 예제 코드들을 제공합니다.
오늘의 키워드
LLM Alignment Agent Prompt Multimodal Distillation Audio Claude Eval Transformer