shannon, XBOW 96% 성공률의 자율 AI 해커
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
CAR-bench: Evaluating the Consistency and Limit-Awareness of LLM Agents under Real-World Uncertainty
실제 사용자 환경, 특히 차량 내 음성 비서와 같은 상황에서 LLM 에이전트의 일관성과 한계 인식 능력을 평가하는 CAR-bench를 소개합니다. 불완전하거나 모호한 명령이 주어지는 불확실한 상황에서 에이전트가 얼마나 안정적으로 대응하는지 측정합니다.
Spider-Sense: Intrinsic Risk Sensing for Efficient Agent Defense with Hierarchical Adaptive Screening
LLM 에이전트의 보안을 위해 모든 단계에서 강제적인 검사를 수행하는 대신, 내부적으로 위험을 감지하는 Spider-Sense 프레임워크를 제안합니다. 이를 통해 에이전트는 필요한 순간에만 선별적으로 보안 메커니즘을 작동시켜 효율성을 높일 수 있습니다.
Length-Unbiased Sequence Policy Optimization: Revealing and Controlling Response Length Variation in RLVR
RLVR(검증 가능한 보상을 통한 강화학습) 과정에서 응답 길이가 길어지는 현상이 추론 능력 향상과 어떤 관계가 있는지 분석한 연구입니다. 응답 길이에 대한 편향 없이 추론 성능을 최적화하고 제어할 수 있는 새로운 정책 최적화 방법을 제시합니다.
MemSkill: Learning and Evolving Memory Skills for Self-Evolving Agents
에이전트의 메모리 관리를 고정된 규칙이 아닌 학습 가능한 ‘기술’로 정의한 MemSkill을 소개합니다. 긴 대화 기록 속에서도 에이전트가 스스로 정보를 추출, 정리, 삭제하는 법을 발전시켜 유연하게 기억을 관리하도록 돕습니다.
Context Forcing: Consistent Autoregressive Video Generation with Long Context
실시간 긴 비디오 생성 시 발생하는 교사 모델(짧은 문맥)과 학생 모델(긴 문맥) 간의 불일치 문제를 해결하는 Context Forcing 기법입니다. 이를 통해 긴 시간적 흐름에서도 일관성을 잃지 않는 고품질 비디오 생성이 가능해집니다.
Hugging Face Blog
Introducing SyGra Studio
SyGra Studio라는 새로운 도구의 출시를 알리는 내용으로 보입니다. (본문 내용이 없어 상세 요약이 불가능합니다.)
Hugging Face
Nemotron ColEmbed V2: Raising the Bar for Multimodal Retrieval with ViDoRe V3’s Top Model
ViDoRe V3 벤치마크에서 최고 성능을 기록한 NVIDIA의 Nemotron ColEmbed V2 모델을 소개합니다. 멀티모달 검색(Retrieval) 분야의 성능 기준을 한 단계 높인 모델입니다.
Hugging Face
Community Evals: Because we're done trusting black-box leaderboards over the community
내용이 불투명한 기존의 리더보드 시스템을 넘어서, 커뮤니티가 주도적으로 모델을 평가하고 검증하는 새로운 평가 방식(Community Evals)을 제안합니다.
Hugging Face
GitHub Trending
KeygraphHQ/shannon
웹 애플리케이션의 실제 보안 취약점을 찾아내는 완전 자율 AI 해커 도구입니다. 소스 코드를 인지하는 XBOW 벤치마크에서 96% 이상의 높은 성공률을 기록했습니다.
openai/skills
OpenAI Codex 모델을 효과적으로 활용하기 위한 기술(Skills)과 예제들을 모아둔 카탈로그입니다. 코드 생성 및 프롬프트 엔지니어링에 유용한 리소스를 제공합니다.
p-e-w/heretic
언어 모델(LLM)에 적용된 검열이나 안전 필터를 자동으로 제거하는 도구입니다. 모델의 제약을 풀어 자유로운 답변을 생성할 수 있도록 개조하는 데 사용됩니다.
OpenBMB/MiniCPM-o
모바일 기기에서 구동 가능한 Gemini 2.5 Flash 수준의 고성능 멀티모달 LLM입니다. 시각, 음성 처리는 물론 양방향 실시간 스트리밍까지 지원하여 온디바이스 AI 활용성을 극대화했습니다.
aquasecurity/trivy
컨테이너, Kubernetes, 클라우드, 코드 저장소 등 다양한 인프라의 보안 취약점을 찾아주는 올인원 스캐너입니다. 잘못된 설정이나 노출된 비밀 키 등을 빠르고 정확하게 탐지합니다.
오늘의 키워드
LLM Tool Use Agent Eval Vision Long Context Multimodal Retrieval Benchmark