ToolJet — AI 에이전트 및 내부 툴 빌더 오픈소스 플랫폼
· #AI #LLM #트렌드 #기술블로그
arXiv 논문
OpenART: Scaling Agent Red Teaming via Open-Ended Environment Evolution
기존 AI 에이전트 안전성 벤치마크는 단기적이고 정적인 작업에 초점을 맞춰 누적되는 위험을 제대로 포착하지 못하는 한계가 있습니다. 이를 해결하기 위해 OpenART는 개방형 환경을 제공하여, 장기적인 워크플로우에서 발생하는 에이전트의 잠재적 위험을 효과적으로 발견하고 테스트하는 확장 가능한 레드팀 검증 방법을 제안합니다.
Alaya-EVOKE: From Linear-Scaling Supervision to Endless World
상호작용형 월드 모델은 긴 메모리를 유지하는 데 따르는 비용 증가와 빠른 상호작용을 위한 생성 능력의 한계라는 상충된 요구사항에 직면합니다. Alaya-EVOKE는 영구적인 월드 상태를 모델 외부로 분리하여, 긴 세션에서도 비용 효율적으로 메모리를 유지하고 동시에 지연 시간이 짧은 상호작용을 가능하게 함으로써 이 문제를 해결합니다.
LLMRouter: Unified Infrastructure for Developing, Evaluating, and Deploying LLM Routers
모든 작업에 최적화된 단일 LLM은 없기 때문에, 비용 효율적인 배포를 위해서는 쿼리에 맞는 최적의 모델을 선택해주는 LLM 라우터가 필수적입니다. LLMRouter는 다양한 라우터들을 공정하게 비교하고 확장하기 어려운 문제를 해결하고자, 라우팅을 5가지 요소로 구성된 순차적 의사결정 과정으로 정의하는 통합 프레임워크를 제시합니다.
DreamX-Phi 1.0: Action-Conditioned Video World Model for Robotic Manipulation
DreamX-Phi 1.0은 이미지, 언어 지시, 그리고 로봇 팔의 동작 순서가 주어졌을 때 미래의 영상 프레임을 예측하는 로봇 조작용 비디오 월드 모델입니다. 이 모델은 단순히 사실적인 영상을 생성하는 것을 넘어, 각 로봇 팔에 대한 정확한 경로 정보를 주입하여 예측된 영상이 주어진 명령을 충실히 따르도록 보장합니다.
Mechanist: AI as a Scientific Instrument for Discovering the Mechanisms of Intelligence
AI 모델의 성능은 급격히 발전하고 있지만, 그 내부 작동 원리나 잠재적 위험에 대한 이해는 여전히 부족하여 기술 격차가 커지고 있습니다. Mechanist는 이러한 격차를 해소하기 위해 AI를 과학적 도구로 활용하여 다른 AI 모델의 지능 메커니즘을 자율적으로 탐색하고 분석하는 에이전트 시스템을 제안합니다.
Hugging Face Blog
AutoDesign: Meta-Harness Optimization for Long-Horizon Agentic Design
멀티모달 소스를 구조화된 미디어로 변환하는 작업은 긴 호흡의 에이전트 프로세스로 볼 수 있습니다. 이 연구는 기존의 정적인 시스템을 넘어, 인간의 설계 방식과 경험적 탐색을 통해 스스로 개선하는 ‘AutoDesign’ 프레임워크를 제안하여 이 과정을 최적화합니다.
OmniScientist: An Omni-Modal Omni-Discipline AI Scientist
기존의 AI 과학자 모델은 텍스트나 코드 등 제한된 데이터 유형만 처리하여 과학적 발견에 필요한 모든 증거를 활용하지 못하는 한계가 있었습니다. ‘OmniScientist’는 이러한 한계를 극복하고자 텍스트를 넘어 공간, 시간, 절차 등 모든 형태의 데이터를 모든 학문 분야에 걸쳐 종합적으로 추론하는 새로운 AI 과학자 모델입니다.
Behavioral Reprogramming of Open-Weights Models: Cognitive Plasticity and Alignment Bounds
대부분의 LLM은 수동적인 비서 역할에 맞춰져 있지만, 이 연구는 오픈소스 모델의 행동을 재프로그래밍하여 이러한 기본 패러다임에 도전합니다. 엄격한 컴퓨팅 자원 제약 하에서 모델이 소크라테스처럼 능동적으로 질문하는 대화 방식으로 작동하도록 유도함으로써, LLM의 인지적 유연성과 행동 변화의 한계를 탐구합니다.
GitHub Trending
unslothai/unsloth
Unsloth는 로컬 환경에서 LLM과 확산 모델을 실행하고 훈련시킬 수 있는 UI를 제공하는 도구입니다. Qwen, Gemma, DeepSeek 등 최신 모델들을 지원하여 사용자가 자신의 컴퓨터에서 손쉽게 AI 모델을 다룰 수 있도록 돕습니다.
ToolJet/ToolJet
ToolJet은 기업용 내부 도구나 대시보드, 비즈니스 애플리케이션 등을 구축하기 위한 오픈소스 앱 생성 플랫폼입니다. 사용자는 이를 통해 복잡한 워크플로우와 AI 에이전트까지 손쉽게 개발하여 업무 효율성을 높일 수 있습니다.
cactus-compute/needle
Needle은 14MB에 불과한 초소형 파운데이션 모델로, 저사양 소형 기기에서 동작하도록 설계되었습니다. 스마트폰, 웨어러블, 스마트홈 기기, 로봇 등 엣지 디바이스에 탑재되어 온디바이스 AI 기능을 구현하는 데 사용될 수 있습니다.
unslothai/unsloth
Unsloth는 로컬 환경에서 LLM과 확산 모델을 실행하고 훈련시킬 수 있는 UI를 제공하는 도구입니다. Qwen, Gemma, DeepSeek 등 최신 모델들을 지원하여 사용자가 자신의 컴퓨터에서 손쉽게 AI 모델을 다룰 수 있도록 돕습니다.
cactus-compute/needle
Needle은 14MB에 불과한 초소형 파운데이션 모델로, 저사양 소형 기기에서 동작하도록 설계되었습니다. 스마트폰, 웨어러블, 스마트홈 기기, 로봇 등 엣지 디바이스에 탑재되어 온디바이스 AI 기능을 구현하는 데 사용될 수 있습니다.
AI Weekly
AI Weekly Issue #522: Zuckerberg promises superintelligence for all. Experts aren't sold.
마크 저커버그는 모든 사람에게 초지능을 제공하겠다는 비전을 제시했지만, AI 전문가들은 그의 주장에 대해 대체로 비판적인 반응을 보였습니다. 전문가들은 저커버그의 제안 외에도 AI 에이전트의 해킹 사례나 보이지 않는 워터마크로 인한 구독 취소 등 AI 기술의 현실적인 문제와 부작용에 더 주목하고 있습니다.
오늘의 키워드
Red team AI Agent Benchmark Vision LLM Eval LoRA Agent Multimodal RAG