AI Tech - 2026-05-24
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
DelTA: Discriminative Token Credit Assignment for Reinforcement Learning from Verifiable Rewards
검증 가능한 보상 기반 강화학습(RLVR)은 LLM의 추론 능력을 향상시키는 핵심 기술이지만, 응답 전체에 대한 보상이 개별 토큰에 어떻게 영향을 미치는지는 불분명했습니다. 이 논문은 RLVR 업데이트를 판별자(discriminator) 관점에서 분석하여, 어떤 토큰이 보상을 받아야 하는지 결정하는 메커니즘을 설명하고 이를 통해 토큰 수준의 신용 할당을 최적화하는 새로운 방법을 제안합니다.
TransitLM: A Large-Scale Dataset and Benchmark for Map-Free Transit Route Generation
기존 대중교통 경로 탐색은 정형화된 지도 데이터와 복잡한 라우팅 엔진에 의존하는 한계가 있었습니다. 이 연구는 지도 없이도 대중교통 경로를 생성하는 모델을 훈련시키기 위해, 4개 중국 도시의 1300만 건 이상의 경로 탐색 기록을 담은 대규모 데이터셋 ‘TransitLM’을 공개하고 모델 성능을 평가할 벤치마크 과제들을 함께 제시합니다.
Perception or Prejudice: Can MLLMs Go Beyond First Impressions of Personality?
멀티모달 LLM(MLLM)이 사람의 성격을 제대로 인식하는지, 혹은 피상적인 특징만으로 편견에 기반한 판단을 내리는지에 대한 의문이 제기되고 있습니다. 이 연구는 기존 벤치마크의 한계를 지적하며, 모델이 실제 행동에 근거하여 성격을 추론하는 능력을 평가하기 위한 새로운 과제인 ‘근거 기반 성격 추론(GPR)’을 제안합니다.
π-Bench: Evaluating Proactive Personal Assistant Agents in Long-Horizon Workflows
LLM 기반 개인 비서 에이전트는 사용자가 명시적으로 말하지 않은 숨은 의도나 요구사항을 먼저 파악하고 처리하는 ‘선제적 지원’ 능력이 중요합니다. 이 논문은 기존 벤치마크가 이러한 능력을 제대로 평가하지 못하는 문제를 해결하기 위해, 장기적인 작업 흐름 속에서 에이전트의 선제적 지원 능력을 측정하는 새로운 벤치마크 ‘π-Bench’를 제안합니다.
Full Attention Strikes Back: Transferring Full Attention into Sparse within Hundred Training Steps
LLM에서 긴 컨텍스트를 처리할 때 풀 어텐션(full attention)의 연산 비용은 큰 부담이지만, 기존의 희소 어텐션(sparse attention) 방식들은 정확도나 훈련 비용 측면에서 단점이 있었습니다. 이 연구는 풀 어텐션 모델이 이미 내재적으로 희소한 특성을 가지고 있음을 발견하고, 단 수백 번의 추가 학습만으로 풀 어텐션 모델을 고효율의 희소 모델로 전환할 수 있는 새로운 방법을 제시합니다.
Hugging Face Blog
Sensor2Sensor: Cross-Embodiment Sensor Conversion for Autonomous Driving
자율주행 시스템 훈련에 필요한 대규모 데이터 확보를 위해, ‘Sensor2Sensor’는 대시캠과 같은 일반 영상 데이터를 특정 자율주행 차량의 센서 데이터 형식으로 변환하는 기술을 제안합니다. 이를 통해 데이터의 규모와 다양성 한계를 극복하고, 희귀하거나 새로운 주행 환경까지 학습에 활용하여 모델의 강건성을 높일 수 있습니다.
Gated DeltaNet-2: Decoupling Erase and Write in Linear Attention
기존 리니어 어텐션 모델은 메모리에서 정보를 지우고 쓰는 과정을 하나의 게이트로 처리하여 효율성이 떨어지는 문제가 있었습니다. ‘Gated DeltaNet-2’는 이 ‘삭제’와 ‘쓰기’ 연산을 분리하는 새로운 게이트 메커니즘을 도입하여, 기존 정보와 충돌 없이 더 정교하게 메모리를 편집할 수 있게 합니다.
DecQ: Detail-Condensing Queries for Enhanced Reconstruction and Generation in Representation Autoencoders
표현 오토인코더(RAE)는 사전 훈련된 모델을 사용해 의미 이해는 뛰어나지만 이미지의 세부 묘사에는 약점이 있었습니다. ‘DecQ’는 ‘디테일 응축 쿼리’라는 개념을 도입하여, 사전 훈련된 모델의 장점은 그대로 살리면서도 이미지의 미세한 디테일까지 포착하고 복원하는 능력을 크게 향상시킵니다.
GitHub Trending
Lum1104/Understand-Anything
이 프로젝트는 어떤 코드든 상호작용이 가능한 지식 그래프로 변환해주는 도구입니다. 생성된 그래프를 통해 코드 구조를 탐색하고 검색하며, Claude Code나 Copilot 같은 다양한 AI 도구와 연동하여 질문도 할 수 있습니다.
anthropics/claude-plugins-official
이 저장소는 Claude의 개발사인 Anthropic이 직접 관리하는 공식 Claude 코드 플러그인 디렉토리입니다. 사용자는 이곳에서 Anthropic이 검증한 고품질 플러그인들을 찾아 Claude의 기능을 확장할 수 있습니다.
colbymchenry/codegraph
이 프로젝트는 다양한 AI 코딩 에이전트를 위한 사전 인덱싱된 코드 지식 그래프를 제공합니다. 100% 로컬 환경에서 실행되어 더 적은 토큰과 API 호출로 효율적인 코드 분석이 가능한 것이 특징입니다.
rohitg00/ai-engineering-from-scratch
AI 엔지니어링 기술을 처음부터 학습하고, 직접 구축하며, 실제 서비스로 배포하는 전 과정을 다루는 학습 자료입니다. 이론 학습에 그치지 않고 실제 제품을 만들어 다른 사람들이 사용할 수 있도록 하는 실용적인 접근법을 강조합니다.
multica-ai/andrej-karpathy-skills
이 프로젝트는 안드레이 카파시(Andrej Karpathy)가 관찰한 LLM의 코딩 문제점에 대한 통찰을 바탕으로 Claude의 코드 생성 능력을 향상시키는 단일 마크다운 파일입니다. CLAUDE.md 파일을 통해 Claude가 더 정확하고 효율적인 코드를 작성하도록 유도할 수 있습니다.
오늘의 키워드
Reasoning LLM Eval Agent Inference RAG Vision Fine-tuning Claude Knowledge Graph