heretic, LLM 검열·안전장치를 자동으로 풀어주는 도구
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
Less is Enough: Synthesizing Diverse Data in Feature Space of LLMs
이 논문은 LLM의 사후 학습 데이터 다양성을 측정하기 위해 Feature Activation Coverage (FAC)라는 새로운 지표를 제안합니다. 기존의 텍스트 기반 지표보다 더 효과적으로 모델의 성능을 결정하는 특징들을 파악하여 데이터 구성을 최적화할 수 있습니다.
SQuTR: A Robustness Benchmark for Spoken Query to Text Retrieval under Acoustic Noise
다양한 음향 소음 환경에서 음성 쿼리 검색 시스템의 견고성을 평가하기 위한 벤치마크인 SQuTR를 소개합니다. 단순한 기존 데이터셋의 한계를 넘어, 복잡한 소음 조건에서도 검색 시스템이 얼마나 잘 작동하는지 측정할 수 있는 대규모 데이터와 평가 프로토콜을 제공합니다.
CoPE-VideoLM: Codec Primitives For Efficient Video Language Models
VideoLM의 연산 비용과 컨텍스트 제한 문제를 해결하기 위해 비디오 코덱의 모션 벡터 정보를 활용하는 방법을 제안합니다. 단순히 키프레임만 샘플링하는 기존 방식보다 비디오의 시간적 움직임과 세부 정보를 훨씬 효율적으로 파악할 수 있게 해줍니다.
DeepImageSearch: Benchmarking Multimodal Agents for Context-Aware Image Retrieval in Visual Histories
단일 이미지 매칭을 넘어, 시각적 히스토리 내에서 문맥을 파악해 이미지를 검색하는 멀티모달 에이전트 벤치마크인 DeepImageSearch를 소개합니다. 에이전트가 자율적으로 탐색하고 계획하여 필요한 정보를 찾아내는 능력을 중점적으로 평가합니다.
Experiential Reinforcement Learning
LLM이 희소하고 지연된 피드백 환경에서도 효과적으로 학습할 수 있도록 돕는 경험적 강화 학습(ERL) 패러다임을 제안합니다. 경험-반성-통합의 루프를 통해 모델이 실패 원인을 스스로 추론하고 행동을 개선하도록 유도합니다.
Hugging Face Blog
Custom Kernels for All from Codex and Claude
Codex와 Claude 같은 코딩 특화 모델을 활용해 누구나 맞춤형 커널을 쉽게 작성하는 방법을 다룹니다. 복잡한 GPU 프로그래밍 지식 없이도 모델의 추론 속도를 최적화할 수 있는 가능성을 보여줍니다.
Hugging Face
OpenEnv in Practice: Evaluating Tool-Using Agents in Real-World Environments
실제 환경에서 도구를 사용하는 AI 에이전트의 성능을 평가하는 OpenEnv 프로젝트의 실전 적용 사례를 다룹니다. 에이전트가 얼마나 효과적으로 외부 도구와 상호작용하며 복잡한 현실 문제를 해결할 수 있는지 검증합니다.
Hugging Face
Transformers.js v4 Preview: Now Available on NPM!
웹 브라우저나 Node.js 환경에서 직접 트랜스포머 모델을 구동할 수 있는 Transformers.js의 v4 프리뷰 버전이 출시되었습니다. 이번 업데이트를 통해 자바스크립트 환경에서도 최신 AI 모델들을 더 빠르고 효율적으로 실행할 수 있게 되었습니다.
Hugging Face
GitHub Trending
p-e-w/heretic
언어 모델에 적용된 검열이나 안전 장치를 자동으로 제거해주는 도구입니다. 모델의 답변 제한을 풀고 원래의 성능이나 답변 능력을 있는 그대로 활용하고자 할 때 사용됩니다.
steipete/gogcli
Gmail, Google Calendar, Drive 등 구글의 주요 서비스들을 터미널에서 명령어로 제어할 수 있는 CLI 도구입니다. 복잡한 GUI 없이도 구글 워크스페이스의 기능들을 효율적으로 관리하고 자동화할 수 있습니다.
alibaba/zvec
알리바바에서 공개한 초경량, 초고속 인프로세스(in-process) 벡터 데이터베이스입니다. 별도의 무거운 서버 구축 없이 애플리케이션 내부에서 가볍고 빠르게 벡터 검색 기능을 구현할 수 있어 효율적입니다.
openclaw/openclaw
운영체제나 플랫폼에 구애받지 않고 어디서나 사용할 수 있는 개인용 AI 비서 프로젝트입니다. 사용자의 환경에 맞춰 유연하게 작동하며 나만의 AI 에이전트를 손쉽게 구축할 수 있도록 돕습니다.
SynkraAI/aios-core
풀스택 개발을 위해 AI가 전체 과정을 조율하는 AIOS(AI-Orchestrated System)의 핵심 프레임워크입니다. 개발의 전 과정을 AI가 보조하고 관리하여 개발 생산성을 극대화하는 것을 목표로 합니다.
오늘의 키워드
LLM RAG Retrieval Eval Multimodal LoRA Agent Claude Transformer