Lost in Stories — LLM 장편 생성의 일관성 결함
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
Lost in Stories: Consistency Bugs in Long Story Generation by LLMs
LLM이 수만 단어에 달하는 긴 이야기를 생성할 때 설정이나 캐릭터 특징을 잊어버리는 일관성 문제를 다루는 논문입니다. 기존에는 플롯 품질에만 집중했던 것과 달리, 이러한 모순을 평가하고 해결하기 위해 ‘ConStor’라는 새로운 벤치마크를 제안합니다.
Holi-Spatial: Evolving Video Streams into Holistic 3D Spatial Intelligence
공간 지능을 구현하기 위해 웹의 원본 비디오 스트림을 대규모 3D 공간 데이터로 변환하는 방법을 연구했습니다. 기존의 제한된 수동 주석 방식에서 벗어나, 데이터 확장성을 크게 높이고 모델 성능을 향상시키는 새로운 접근법을 제시합니다.
LoGeR: Long-Context Geometric Reconstruction with Hybrid Memory
분 단위의 매우 긴 비디오 영상을 후처리 없이도 고품질의 3D로 재구성할 수 있는 ‘LoGeR’ 아키텍처를 소개합니다. 비디오를 청크 단위로 나누고 하이브리드 메모리를 활용하여 기존 모델들의 연산 복잡도와 메모리 한계 문제를 깔끔하게 해결했습니다.
Believe Your Model: Distribution-Guided Confidence Calibration
대규모 추론 모델이 여러 후보 답변 중 가장 정확한 것을 선택할 수 있도록 돕는 신뢰도 보정 기법을 다룹니다. 모델 내부의 신뢰도 점수와 정답률 사이의 분포 관계를 적극적으로 활용하여 답변 선택의 신뢰성을 한층 높였습니다.
How Far Can Unsupervised RLVR Scale LLM Training?
정답 라벨 없이도 LLM의 학습 성능을 크게 끌어올릴 수 있는 ‘URLVR(검증 가능한 보상 기반 비지도 강화학습)’의 가능성과 한계를 심층적으로 분석한 연구입니다. 이 학습법의 구조와 이론을 체계적으로 분류하고 광범위한 실험을 통해 실제 활용 가치를 검증했습니다.
Hugging Face Blog
How NVIDIA Builds Open Data for AI
NVIDIA가 AI 생태계를 위해 고품질의 오픈 데이터를 어떻게 구축하고 기여하는지 그 과정을 상세히 소개합니다. 대규모 데이터를 수집하고 처리하는 그들만의 실무적인 노하우를 엿볼 수 있습니다.
Hugging Face
Introducing Storage Buckets on the Hugging Face Hub
Hugging Face Hub에 새롭게 도입된 Storage Buckets 기능을 소개하는 글입니다. 이제 대규모 모델이나 데이터셋을 폴더 단위로 더욱 유연하고 효율적으로 저장하고 관리할 수 있게 되었습니다.
Hugging Face
Keep the Tokens Flowing: Lessons from 16 Open-Source RL Libraries
16개의 다양한 오픈소스 RL(강화학습) 라이브러리들을 분석하고 그 과정에서 얻은 귀중한 인사이트를 공유합니다. 각 라이브러리의 장단점과 효율적인 모델 학습을 유지하기 위한 핵심 팁들을 배울 수 있습니다.
Hugging Face
GitHub Trending
msitarzewski/agency-agents
프론트엔드 개발부터 커뮤니티 관리까지 각 분야의 전문가 역할을 수행하는 AI 에이전트 모음집입니다. 고유한 성격과 작업 프로세스를 갖춘 에이전트들을 통해 손쉽게 나만의 AI 에이전시를 꾸릴 수 있습니다.
promptfoo/promptfoo
LLM, RAG, 에이전트의 성능을 비교하고 보안 취약점을 테스트할 수 있는 강력한 AI 레드티밍 도구입니다. GPT, Claude, Llama 등 다양한 모델을 지원하며, 명령어 기반의 설정과 CI/CD 파이프라인 통합이 매우 간편합니다.
GoogleCloudPlatform/generative-ai
Google Cloud 환경에서 생성형 AI를 활용할 수 있는 다양한 샘플 코드와 노트북을 모아둔 레포지토리입니다. 특히 Vertex AI를 활용해 Gemini 모델을 실전에 적용하는 방법을 쉽고 친절하게 배울 수 있습니다.
virattt/ai-hedge-fund
여러 AI 에이전트들이 팀을 이루어 투자 전략을 세우는 흥미로운 AI 헤지펀드 시뮬레이션 프로젝트입니다. 데이터 분석부터 거래 결정까지 AI가 어떻게 금융 시장을 다루고 협업하는지 살펴볼 수 있습니다.
karpathy/nanochat
단 100달러의 비용만으로도 훌륭한 성능을 내는 나만의 소형 챗봇을 구축할 수 있는 가성비 프로젝트입니다. 누구나 부담 없이 가볍게 개인용 LLM 채팅 환경을 만들고 테스트해 볼 수 있도록 돕습니다.
오늘의 키워드
LLM Benchmark RAG Reasoning Agent Red team Prompt Gemini GPT