pytorch/pytorch, GPU 가속 기반 Python 딥러닝 프레임워크

· #AI #LLM #트렌드 #기술블로그

arXiv 논문

MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement

MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement

모델/아키텍처 학습/최적화
#LoRA

MiMo-V2.6는 강화학습(RL) 연산을 확장하여 모델의 지능과 자기 개선 능력을 한 단계 끌어올린 새로운 옴니모달 모델군입니다. 이 모델은 강화학습 이전에 방대한 멀티모달 데이터로 중간 훈련을 거쳐 충분한 탐색 공간을 확보하고, 사전 훈련된 아키텍처 위에 견고한 인프라를 구축하여 대규모 확장을 지원합니다.

74
Multi-Agent Egocentric World Model with Fine-Grained Embodied Interaction

Multi-Agent Egocentric World Model with Fine-Grained Embodied Interaction

에이전트
#Multi-Agent

이 연구는 여러 에이전트가 공유된 환경에서 상호작용하는 상황을 모델링하는 새로운 다중 에이전트 1인칭 시점 월드 모델을 제안합니다. 기존 모델들이 단일 에이전트나 단순한 행동에 집중했던 한계를 넘어, 여러 에이전트의 시점을 동기화하여 생성함으로써 세밀하고 구체적인 상호작용을 예측하고 이해할 수 있게 만듭니다.

52

Foundations of Large Language Models

모델/아키텍처 신뢰성/안전 추론/검색 개발 도구
#Alignment #RAG

이 책은 대규모 언어 모델(LLM)의 최신 기술보다는 핵심적인 기초 개념에 초점을 맞춘 전문 서적입니다. 사전 훈련, 생성 모델, 프롬프팅, 정렬, 추론, 리즈닝이라는 여섯 가지 주요 영역을 체계적으로 다루어 관련 분야의 학생 및 전문가들에게 훌륭한 참고 자료가 될 것입니다.

42
OuroWorld: Bringing Any 3D World Alive as Diverse, Endlessly Looping 3D Cinemagraphs

OuroWorld: Bringing Any 3D World Alive as Diverse, Endlessly Looping 3D Cinemagraphs

모델/아키텍처 학습/최적화
#VLM #World Model #LoRA

OuroWorld는 정적인 3D 장면을 살아 움직이는 동적 장면으로 바꾸는 혁신적인 프레임워크입니다. 이 기술은 3D 가우시안 스플래팅으로 만들어진 정지된 3D 세계에 자연스럽고 끊김 없이 반복되는 움직임을 부여하여, 어떤 시점에서든 생생하게 살아있는 ‘3D 시네마그래프’를 만들어냅니다.

42

U-Space: Uncovering When and Why Uncertainty Arises in Language Models

대규모 언어 모델은 틀린 답변도 자신감 있게 제시하여 신뢰성 판단을 어렵게 만듭니다. 이 연구는 언어 모델의 답변에 대한 불확실성이 언제, 왜 발생하는지 분석하는 ‘U-Space’라는 방법론을 제안하여 개별 예측의 신뢰도를 더 정확하게 측정하는 것을 목표로 합니다.

39

Hugging Face Blog

ProgramGym: Scaling Training Environments for Long-Horizon Program Reproduction Agents

에이전트
#Coding Agent

소프트웨어 엔지니어처럼 처음부터 프로그램을 개발하는 코딩 에이전트의 중요성이 커지고 있습니다. ProgramGym은 에이전트가 스스로 요구사항을 파악하고 시스템 설계를 결정해야 하는 장기적인 개발 과제를 훈련시키기 위한 확장 가능하고 검증 가능한 환경을 제공합니다.

Chengyi Yang, Renxu Bao, Jue Hou

AMLworld-Compact: Importance-Weighted Downsampling for Cost-Effective LLM Evaluation and Error Diagnosis

모델/아키텍처 개발 도구
#Eval

자금세탁방지(AML) 분야에서 대규모 언어 모델(LLM)을 평가하는 것은 막대한 비용이 드는 문제입니다. AMLworld-Compact는 모든 불법 거래 데이터는 유지하되 정상 거래는 중요도에 따라 샘플링하는 새로운 평가 세트를 제안하여, 평가 비용을 수백 배 절감하면서도 정확도를 유지합니다.

Natapong Nitarach, Phume Ngampornsukswadi, Pittawat Taveekitworachai

EmbodiedCLBench: Evaluating Continual Learning for Self-Evolving Embodied Agents

에이전트 개발 도구
#Self-Evolving #Eval

기존의 연속 학습(Continual Learning) 연구는 대부분 가상 환경 속에서 행동하는 에이전트가 아닌 비구체화된 설정에 국한되어 있었습니다. EmbodiedCLBench는 스스로 진화하는 에이전트가 가상 시뮬레이션 환경에서 지속적으로 학습하고 새로운 작업에 지식을 이전하는 능력을 평가하기 위해 최초로 제안된 벤치마크입니다.

Jie Huang, Yanan Chen, Ruixun Liu

토스 기술블로그

CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지

토스증권은 벡터 데이터베이스 Milvus의 성능을 최적화하여, 검색 품질은 유지하면서 동일 서버에서 더 많은 요청을 처리하는 데 성공했습니다. 이 과정에서 CPU 리소스를 최대한 활용하는 방법을 심도 있게 연구했으며, 이를 바탕으로 자체적인 Milvus 서버 사이징 기준을 수립하여 운영 효율성을 극대화했습니다.

토스

morluto/rea

morluto/rea

에이전트

AI 에이전트를 활용하여 앱의 동작 방식부터 네이티브 바이너리까지 모든 것을 리버스 엔지니어링하는 프로젝트입니다. 사용자가 목표를 설정하면, 에이전트가 자율적으로 분석 작업을 수행하여 결과를 도출합니다.

25599 today
cathrynlavery/diagram-design

cathrynlavery/diagram-design

모델/아키텍처 개발 도구
#AI Coding

Claude, GitHub Copilot 등 AI 코드 도구의 개념을 설명하기 위한 편집 다이어그램 디자인 모음입니다. 그림자 효과 없이 깔끔하게 디자인된 44가지 유형의 다이어그램을 제공하며, 독립적인 HTML과 SVG 파일로 구성되어 활용도가 높습니다.

1083 today
pytorch/pytorch

pytorch/pytorch

파이썬 기반의 대표적인 딥러닝 프레임워크로, 텐서 연산과 동적 신경망 구축에 강점을 가집니다. 강력한 GPU 가속을 지원하여 복잡한 딥러닝 모델도 빠르고 효율적으로 학습시킬 수 있습니다.

315 today
lyogavin/airllm

lyogavin/airllm

모델/아키텍처 추론/검색

단 4GB의 VRAM을 가진 GPU 하나만으로 70B(700억) 파라미터 규모의 거대 언어 모델(LLM)을 구동할 수 있게 해주는 프로젝트입니다. 이를 통해 고사양 하드웨어 없이도 대규모 AI 모델의 추론 기능을 활용할 수 있는 가능성을 열었습니다.

548 today
pytorch/pytorch

pytorch/pytorch

파이썬 기반의 대표적인 딥러닝 프레임워크로, 텐서 연산과 동적 신경망 구축에 강점을 가집니다. 강력한 GPU 가속을 지원하여 복잡한 딥러닝 모델도 빠르고 효율적으로 학습시킬 수 있습니다.

315 today

오늘의 키워드

Multimodal LoRA Agent Reasoning Alignment RAG Prompt Vision LLM Eval