strix — 앱 취약점을 찾는 오픈소스 AI 침투 테스트 툴
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
Orca: The World is in Your Mind
Orca는 다중 모달 신호로부터 통합된 잠재 공간을 학습하는 범용 월드 파운데이션 모델입니다. 이 모델은 단순히 다음 토큰이나 프레임을 예측하는 대신, ‘다음 상태 예측(Next-State-Prediction)’ 모델링에 집중하여 세상을 이해하고 예측하며 행동하는 통합된 경로를 제시합니다.
Dockerless: Environment-Free Program Verifier for Coding Agents
Dockerless는 Docker와 같은 별도의 실행 환경 없이도 코딩 에이전트가 생성한 코드를 검증하는 새로운 프로그램 검증기입니다. 기존 방식의 높은 환경 설정 비용 문제를 해결하기 위해, Dockerless는 코드를 직접 실행하지 않고도 생성된 코드 패치의 유효성을 평가하여 효율성을 높입니다.
DOPD: Dual On-policy Distillation
DOPD(Dual On-policy Distillation)는 기존의 온폴리시 증류(OPD) 방식에서 발생하는 ‘특권 환상’ 문제를 해결하기 위한 새로운 기법입니다. 이 방법은 모델이 실제 능력 대신 특권 정보에 의존하는 잘못된 패턴을 학습하는 것을 방지하여, 더 효과적으로 모델의 성능을 이전하고 향상시킵니다.
BlockPilot: Instance-Adaptive Policy Learning for Diffusion-based Speculative Decoding
BlockPilot은 디퓨전 기반 추론 가속 기술인 추측 디코딩의 성능을 향상시키는 새로운 기법입니다. 기존 방식이 고정된 블록 크기를 사용하는 것과 달리, BlockPilot은 각 인스턴스에 맞춰 최적의 디코딩 전략을 동적으로 학습하여 추론 속도를 더욱 효과적으로 높입니다.
Does VLA Even Know the Basics? Measuring Commonsense and World Knowledge Retention in Vision-Language-Action Models
이 연구는 로보틱스 데이터로 미세조정된 VLA(Vision-Language-Action) 모델이 얼마나 많은 상식과 세상 지식을 유지하는지 측정하는 새로운 프로토콜 ‘Act2Answer’를 제안합니다. 에이전트가 지식 기반 질문에 대해 물리적 ‘행동’으로 답하게 함으로써, 모델의 지식 부족과 제어 능력 부족을 명확히 구분하여 평가할 수 있게 해줍니다.
Hugging Face Blog
GEAR: Guided End-to-End AutoRegression for Image Synthesis
GEAR는 기존의 2단계 이미지 생성 방식과 달리, 벡터 양자화(VQ) 토크나이저와 자기회귀(AR) 생성기를 동시에 종단간(end-to-end)으로 학습시키는 새로운 방법론입니다. 이 통합 학습 방식은 생성기가 모델링하기 쉬운 방향으로 토크나이저를 최적화하여, 더욱 효율적이고 고품질의 이미지 합성을 가능하게 합니다.
Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs
LLM은 자신의 지식 한계를 인지하지 못하고 불확실성을 잘못 표현하는 메타인지 능력 부족 문제를 보입니다. 이 연구는 메타인지 피드백을 활용한 강화학습을 통해 LLM이 스스로의 불확실성을 더 정확하게 표현하도록 훈련시켜 신뢰도를 높이는 방법을 제안합니다.
QVal: Cheaply Evaluating Dense Supervision Signals for Long-Horizon LLM Agents
QVal은 수백 개의 행동을 수행하는 장기 과제 LLM 에이전트에게 주어지는 중간 단계별 보상 신호의 품질을 저렴하고 효율적으로 평가하는 새로운 방법론입니다. 최종 과제 결과를 기다릴 필요 없이 중간 단계의 감독 신호가 얼마나 유용한지 신속하게 판단하여 에이전트 성능 향상에 기여합니다.
GitHub Trending
msitarzewski/agency-agents
프론트엔드 개발부터 커뮤니티 관리까지, 각기 다른 개성과 전문성을 가진 AI 에이전트들을 모아 하나의 완전한 AI 에이전시처럼 구성한 프로젝트입니다. 각 에이전트는 특정 업무를 수행하도록 설계되어 있어, 사용자는 필요한 전문가를 즉시 활용할 수 있습니다.
usestrix/strix
AI를 활용하여 애플리케이션의 보안 취약점을 자동으로 찾아내는 오픈소스 모의 해킹 도구입니다. 개발자는 이 도구를 통해 잠재적인 보안 위협을 사전에 발견하고 신속하게 해결할 수 있습니다.
hasaneyldrm/exercises-dataset
총 433가지 피트니스 운동 정보를 담고 있는 포괄적인 데이터셋입니다. 각 운동 항목은 이름, 종류, 목표 근육, 필요 장비, 설명은 물론 썸네일 이미지와 애니메이션 영상까지 상세한 정보를 포함하고 있어 활용도가 높습니다.
diegosouzapw/OmniRoute
230개 이상의 다양한 AI 모델을 단일 엔드포인트로 통합해주는 무료 AI 게이트웨이입니다. 토큰 사용량을 절약하는 압축 기술과 자동 대체(fallback) 기능을 통해 개발자가 비용 효율적으로 여러 AI 서비스를 이용할 수 있도록 돕습니다.
allenai/olmocr
LLM 데이터셋 구축 및 학습을 위해 PDF 문서를 처리하는 툴킷입니다. 이 도구는 복잡한 구조의 PDF 파일을 LLM이 이해하기 쉬운 선형적인 텍스트 형태로 변환하는 기능을 제공합니다.
오늘의 키워드
Multimodal Fine-tuning Agent Eval Vision Distillation Inference Alignment LLM GPT