2026-10-28 (수) 개발일지
dev-blog오늘은 세 가지가 걸렸다. 비용 집계가 틀렸던 것, 자동완성 패널이 검게 보이던 것, 그리고 발행된 글에 원본에 없는 문장이 섞여 있던 것. 앞의 둘은 원인이 한 줄로 떨어졌고, 마지막은 수집 단계까지 거슬러 올라가야 했다.
All Posts
총 758개의 글이 있습니다.
nginx를 운영에서 다루다 보면 버전이 한 가지가 아니라는 사실부터가 작업 난이도를 올립니다. nginx -v가 찍는 숫자, Debian/Ubuntu에서 apt가 보는 버전 문자열, nginx.org 패키지 풀의 orig.tar.gz 타임스탬프, 그리고 공식 문서에 적힌 “latest”가 서로 어긋나는 순간이 반드시 옵니다.
2026-10-21 보안 릴리스: “오늘 안에 움직여야 하는” 종류의 공지
2026-10-27 (화) 개발일지
dev-blog오늘은 Lepons Cockpit에서 패널 분할 경계를 드래그할 때 크기가 마우스보다 덜 따라오는 버그를 잡았다. 처음엔 마우스 이벤트 핸들러 문제라 생각했는데, 파보니 2분할만 고려한 계산 로직이 3분할 이상에서 깨지고 있었다. 리뷰 중 우연히 발견했는데, 고치고 나니 왜 그동안 못 본 건지 의아할 정도로 단순한 원인이었다.
타임라인에서 먼저 보이는 것: 전원 이벤트는 존에서 끝났지만, 영향은 리전으로 퍼졌다
38건 ‘일괄 공지’의 핵심은 Camel이 아니라 컴포넌트입니다
2026-10-26 (월) 개발일지
dev-blog오늘은 게임 서버 연결 끊김과 Lepons Cockpit 설치·연결 장애라는 두 가지를 파고들었다. 겉보기엔 전혀 다른 문제였지만, 둘 다 앱이나 시스템이 조용히 실패하는 지점을 찾아내는 과정이었다. 하나는 Docker 설정 하나가 10일간 서버를 죽음으로 몰아넣었고, 다른 하나는 앱이 사용자를 올바른 경로로 안내하지 못해 발생한 권한 벽이었다.
Self-hosted Runbook Automation/Rundeck 6.3.0이 2026-10-22에 조기 릴리스되었습니다. 평소 순서(대개 SaaS → self-hosted)와 다르게 self-hosted가 먼저 나온 이유가 명확합니다. 공식 Docker 이미지의 CA trust store가 eMudhra intermediate CA comprom...
사건: Advisory 0199가 말한 것(그리고 말하지 않은 것)
2026-10-18 Linux 7.3 메인라인 릴리스: 사실관계와 운영상 의미
Spring Boot 4.1.2는 2026-10-23에 공지됐고 Maven Central에서도 바로 설치 가능한 상태입니다1. 공지 자체는 “1 min read”인데, 프로덕션 입장에선 텍스트 분량과 위험이 전혀 비례하지 않습니다. 특히 Spring Boot는 BOM과 auto-configuration으로 런타임 표면적을 넓게 쥐고 있고, Renova...
2026-10-23 (금) 개발일지
dev-blog오늘은 세 가지 굵직한 문제를 처리했다. Jekyll 빌드가 13연속 실패한 원인을 찾아 히스토리까지 정리했고, 자소서 25건을 진단해 “같은 이야기만 반복한다”는 패턴을 잡았고, Lepons 공개 문서의 사실 오류를 잡는 QA 파이프라인을 처음부터 설계했다. 셋 다 원인을 찾는 방식은 달랐지만, “겉으로 보이는 증상 뒤에 숨은 구조적 문제를 찾는다”...
3.54.1 릴리스에서 확인해야 하는 사실
Terraform 1.17 RC2: provider 요구사항 변수화와 minimal refresh
InfrastructureRC2에서 눈여겨볼 변화가 파이프라인 계약을 건드리는 지점
2026-10-22 (목) 개발일지
dev-blog오늘은 두 가지 이슈를 정리했다. 하나는 Lepons Cockpit의 macOS Finder 실행 환경에서 tailscale 명령이 먹통이 되는 버그였고, 다른 하나는 자소서 검수 파이프라인이 GPT 토큰을 예상보다 15배 빨리 소진하던 문제였다. 둘 다 원인 추적 과정에서 처음 가설이 틀렸음을 확인하고 방향을 꺾은 케이스다.
Cilium 1.19.9 업그레이드 리허설: 실패를 시그널로 바꾸기
Networking1.19.9에서 운영을 건드리는 변경: 증상이 아니라 메커니즘을 본다
2026-10-20 공개된 Tomcat 10.1.x 이슈 묶음과 버전 범위
2026-10-21 (수) 개발일지
dev-blog오늘은 세 프로젝트를 동시에 돌리면서 각각 다른 성격의 문제들을 정리했다. 하네스에서는 테스트 픽스처를 실제 eval로 검증하는 과정에서 규칙 수정의 필요성을 판단했고, 자동이력서지원에서는 9/21 결제 건의 추적 경로를 복원하던 중 시간 제약을 마주쳤으며, 사주 프로젝트에서는 push 전 민감정보 노출을 체계적으로 차단했다.
2026-10-19: Plex2Shell 체인이 실제 악용으로 전환된 시점
13.2.4가 던진 신호: 대시보드보다 쿼리 라이브러리가 먼저다
2026-10-20 (화) 개발일지
dev-blog오늘은 세 가지 이슈를 붙잡았다. OPIc 학습 콘텐츠의 자연스러움 검증, Riff 갭 분석에서 블라인드 유지, 그리고 자동 지원 파이프라인의 API 한도 교착 상태. 셋 다 원인을 찾기까지 가설이 한 번씩은 갈아졌다.
Drupal 코어 보안 릴리스를 정기 배포 이벤트로 운영하기
OpenSource2026-10-14 코어 보안 릴리스: 예고(PSA)와 실제 릴리스가 남긴 운영 힌트
2026-10-14 Plasma 6.8 릴리스: 변화의 핵심은 “로그인 화면”이다 KDE는 2026년 10월 14일에 Plasma 6.8을 “30th Anniversary Edition”으로 공식 릴리스했습니다.1 30주년 기념이라는 표면적 메시지보다, 운영 관점에서 더 큰 사건은 Plasma 자체의 X11 세션이 더 이상 제공되지 않는다는 흐름이 사...
2026-10-19 (월) 개발일지
dev-blog오늘은 여러 프로젝트가 동시에 진행되면서 각각 다른 성질의 문제들을 마주쳤다. 게임 프로젝트에서는 OPIc 학습 콘텐츠 전체를 조립하는 과정에서 지시의 모호성이 어떻게 구현 결과를 틀어놓는지 배웠고, 자동이력서지원 프로젝트에서는 인증 프로세스의 타이밍 문제를 직면했으며, 사주 프로젝트에서는 1차 피드백을 어떻게 구조적으로 반영할지 정리했다.
2026-10-14에 무엇이 바뀌었나: 기능 추가가 아니라 운영 가능한 상태로의 전환 Visual Studio Code 1.142 Stable은 2026-10-14에 릴리스됐고, 릴리스 하이라이트 자체가 에이전트의 운영 이슈를 정면으로 다룹니다. Canvases(Preview)로 에이전트 워크플로를 공유 가능한 형태로 만들고, 진행 중인 대화를 다른 ...
패치 업그레이드가 바꾸는 것: ClickHouse에서 계약이 깨지는 지점
오픈웨이트를 “기업 배포 가능한 아티팩트”로 바꾸는 첫 관문: 라이선스와 접근 제어
사건을 숫자와 설정값으로 다시 읽기
1.35.10이 던지는 신호: 날짜가 적힌 순간부터 이미 운영 이슈입니다
자동 라우팅이 만든 새로운 실패 모드
2026-10-16 (금) 개발일지
dev-blog오늘은 ai-tech-digest 대표 이미지가 사이트에서 깨져 보이는 문제를 잡았다. 처음엔 빌드 캐시가 꼬인 단순 이슈라 생각했는데, 파보니 외부 호스트 단일 의존이 문제였고, 결국 빌드 단계에 조건부 self-host 로직을 박는 쪽으로 정리됐다.
Go 1.27 HTTP/1 connection reuse 최적화와 순차 요청 지연시간
Performance순차 요청 워크로드에서 왜 체감이 큰가
일정 변경 요약: RC1 유지, RC2 신설, GA 11/19
2026-10-15 (목) 개발일지
dev-blog오늘은 ai-tech-digest 쪽에서 두 가지를 정리했다. 하나는 대표 이미지가 외부 호스트 429로 깨지는 문제였고, 다른 하나는 카드 설명이 잘리는 문제였다. 둘 다 빌드 단계에서 메타 데이터를 만드는 로직 때문에 생긴 일이라, 원인을 찾고 나서는 비교적 빠르게 정리할 수 있었다.
사건 요약: status page 한 줄이 말해주지 않는 것
TS 6.0을 타입 기능 업데이트로 보면 놓치는 것 TypeScript 6.0은 언어 기능보다 설정과 출력물의 계약(contract)을 손보는 릴리스에 가깝습니다. Microsoft의 공식 발표에서도 TS 6.0을 TypeScript 7.0(Go 기반 native port)로 가는 전환 릴리스로 규정하고, 6.0에서 deprecate된 옵션들이 7.0...
2026-10-14 (수) 개발일지
dev-blog오늘은 lepons의 macOS 연결 실패, 토지이음_등기부등본의 API 키 혼동과 등기 열람 파이프라인 설계까지 세 가지 이슈를 처리했다. 하나는 크로스 플랫폼 패키징의 함정, 하나는 환경 변수 관리의 기본, 나머지 하나는 비용 효율을 극대화한 API 활용법이었다.
Node 27 연 1회 메이저에 맞춘 사내 런타임 정책 재설계
LanguagesNode 27부터 시간축이 바뀐다: 반기 메이저가 아니라 Alpha가 들어온다
2026-10-06에 바뀐 것 중, 비용에 직결되는 항목만 뽑으면
2026-10-13 (화) 개발일지
dev-blog오늘은 두 건을 잡았다. 하나는 ai-tech-digest 대표 이미지가 외부 호스트 429 때문에 깨지는 문제, 다른 하나는 배치 작업의 재시도 로직이 멱등하지 않아 중복 실행되는 문제였다. 둘 다 처음엔 겉으로 보이는 에러를 쫓다가, 결국엔 의존하는 외부 계약을 의심해서 풀린 케이스다.
2026-10-06 GA로 바뀐 것: PR이 아니라 스택이 운영 단위가 됐다
버전 표기부터 정리: 26.10.0 문서, 26.1.0 릴리스, 26.10.0-beta 태그
2026-10-12 (월) 개발일지
dev-blog오늘은 게임 리브랜딩, 자동이력서 지원 프로세스 개선, 토지이음 보안 감사, lepons 정리까지 네 가지 이슈를 다뤼다. 공통점은 ‘처음 생각한 접근이 틀렸거나 부족해서, 더 깊이 파고들어야 했다’는 점이다.
VS Code 1.140(Stable, 2026-09-30)은 릴리스 하이라이트에서 Copilot harness, Multi-folder sessions(Experimental), Shared worktree folders(Experimental), Enterprise controls를 한 묶음으로 전면에 배치했습니다.1 ...
발표 내용: 2026-10-09 공지의 ‘세 개의 시계’
2026-10-05 배포 사실과 타임라인: 154.0.4258.62는 어떤 릴리스인가
기본값이 바뀐 지점: 콘솔 경로에서만 persistence가 기본이 됐다 2026-10-08 릴리스 노트에 따르면, Google Cloud console에서 Memorystore for Redis 인스턴스를 생성할 때 RDB snapshots가 기본 활성화(GA)되었습니다. 문구 자체가 “console로 생성할 때(enabled by default w...
PageSpeed를 성능 플러그인이 아니라 서버 컴포넌트로 봐야 하는 이유
무슨 일이 있었나: “DB/스토리지로 가는 길이 끊기면, runner가 있어도 job은 못 뜬다”
Python Insider가 2026-10-01에 Python 3.10.22·3.11.17·3.12.15·3.13.16·3.14.8을 한 번에 공지했습니다. 공지문에는 두 가지 운영상 강제 조건이 같이 들어 있습니다. 첫째, Python 3.10.22가 3.10의 최종 릴리스이며 2026-10-01부로 EOL이라 추가 보안 업데이트가 더는 없습니다. ...
RC를 프로덕션에 들이기 전, 목표를 다시 정의합니다
2026-10-08 (목) 개발일지
dev-blog오늘의 회고 — Godot 게임 머지, 자소서 피드백, 토지 분석 UI까지 세 프로젝트를 동시에 돌렸다
구성 의존 취약점은 “업그레이드”만으로는 닫히지 않습니다 NGINX 쪽 보안 공지를 보면, 최근 몇 건은 전형적인 “버전이 취약/안전” 구조가 아니라 “특정 모듈 + 특정 설정 조합에서만” 터지는 유형이 눈에 띕니다. nginx.org 보안 공지 페이지에는 ngx_http_v3_module 사용 시 버퍼 오버플로우(CVE-2026-90439), ngx...
2026-10 보안 공지가 던진 운영 이벤트: 달력에 적는 날짜가 먼저입니다
2026-10-07 (수) 개발일지
dev-blog오늘은 세 프로젝트에서 각각 다른 성격의 버그를 잡았다. 하나는 스케줄러가 15일째 조용히 실패하고 있었고, 하나는 음성 루틴이 무한 루프에 빠지고 있었으며, 마지막은 데이터 파이프라인의 필터가 후보를 전부 탈락시키고 있었다. 셋 다 원인을 찾기까지 한 번 이상 가설을 갈아치워야 했다.
사건 개요: 공개(10/01) → 재공지(10/05) → KEV 기한(10/04)
PKCS#12를 서비스 코드에 들여오는 순간 생기는 위험한 기본값
Terraform plan JSON: format_version 계약과 소비자 테스트
Infrastructureplan/json 소비자가 실제 인터페이스가 되는 순간 Terraform CLI 업그레이드는 보통 required_version과 바이너리 교체로 끝납니다. 반면 조직 내부의 리뷰 봇, 정책 엔진, 비용 산정기 같은 도구는 한 번 만들어지면 수년간 “조용히” 파이프라인에 붙어 있습니다. 이 부류는 Terraform의 출력(JSON)을 사실상 공개 AP...
2026-09-29 MongoDB 9.0 GA가 운영팀에 남긴 것
2026-10-01에 바뀐 것은 httpd가 아니라 프록시 체인의 보안 계약입니다
Strict validation이 깨뜨린 것은 Lua 코드가 아니라 배포 모델입니다
git add --resolved가 줄이는 실수의 형태
2026-09-29~09-30에 실제로 바뀐 것: Git 네트워크 작업이 내부 프록시를 탄다
2026-10-01에 실제로 바뀐 것
13.1.7 패치가 의미하는 것: 수동 업그레이드의 한계점
2026-10-02 (금) 개발일지
dev-blog오늘은 ai-tech-digest 대표 이미지가 사이트에서 깨져 보이는 문제를 잡았다. 처음엔 단순 캐시 이슈라 생각했는데, 파보니 외부 호스트 단일 의존이 문제였고, 결국 빌드 단계에 조건부 self-host 로직을 박는 쪽으로 정리됐다. 이 과정에서 내가 세웠던 첫 가설이 어떻게 무너졌는지, 그리고 왜 “전량 self-host”가 아니라 “조건부 ...
262가 배포권에 들어온 시점과, 지금 업그레이드를 계획해야 하는 이유
2026-09-29에 동시에 벌어진 일: Firefox 157.0 릴리스와 MFSA 2026-97
2026-10-01 (목) 개발일지
dev-blog오늘은 네 플랫폼 통합 설계안을 실제 코드와 파일 기준으로 검증했다. 설계 자체는 논리적으로 보였지만, 실제 구현 가능성과 경제성을 확인하는 과정에서 세 가지 큰 가정이 틀렸다는 걸 발견했다. 각각을 어떻게 파고들었는지 정리한다.
2026-09-24 PostgreSQL 19 Beta 4 공개: 운영 관점에서 봐야 하는 포인트
Go-live RC가 의미하는 것: “프로덕션에서 돌아가도 된다”는 말의 범위
2026-09-30 (수) 개발일지
dev-blog오늘은 세 프로젝트에서 각기 다른 성격의 버그를 디버깅했다. 하나는 ‘동작하는 설정’이 ‘올바른 설정’과 다를
3.15.0의 CHANGE를 운영 리스크로 번역하면
GitHub가 2026-09-22에 SSH 보안 강화를 발표하면서, RSA에서 SHA-1을 쓰는 ssh-rsa 서명 타입을 제거(차단)하는 일정을 명확히 걸었습니다. 동시에 diffie-hellman-group-exchange-sha256 KEX 제거, 신규 업로드 RSA 키 최소 3072-bit 요구, 그리고 mlkem768x25519-sha256(...
2026-09-22 월간 릴리스 공지: 운영 관점에서 바뀐 전제
unknown field를 무시하라는 OTLP/JSON 규칙과, 이를 뒤집는 옵션의 의미
Cloudflare가 2026-09-21에 Python Workers GA를 발표하면서, Python이 Workers에서 “지원되는 언어”가 아니라 “지원되는 제품”의 지위로 올라왔습니다1. 다만 GA는 결승점이 아니라 출발점에 가깝습니다. 이제부터는 기능 데모가 아니라 비용·성능·운영(릴리스/롤백)까지 포함해, Python을 Workers에 올려도 ...
사건 타임라인: Plus/Pro 오류율 상승 39분, 컴포넌트는 Conversations
사건 요약: 2026-09-23 AT&T 목적지 10DLC MMS 지연
GA가 바꾼 전제: 2026-08-05 이후엔 “프리뷰라서 못 쓴다”가 안 통한다
etcd v3.7.2 운영 리허설: 업그레이드·백업·복구·이미지 전략까지
Infrastructurev3.7.2를 운영 일정으로 해석하면 먼저 보이는 것들
사건 정리: 2026-09-23 SYD R2 503 상승
Redis 8.10 발표에서 확인된 사실과 날짜 정리 사용자 입장에서 중요한 건 “8.10이 나왔다”보다, 언제부터 어떤 형태로 운영에 들어올 수 있나입니다. 이번 건은 날짜가 여러 층으로 갈립니다.
Helm 4 라인은 2025년 11월 12일 Helm v4.0.0 릴리스 이후 계속 전개 중이고, 2026년 9월 9일에는 Helm v4.3.0이 릴리스되었습니다12. Helm 3는 이미 End of Life 일정이 공지돼 있습니다3. https://blog.helm.sh/uk/blog/helm-4-released/ ...
595.91.07을 ‘패키지 업데이트’가 아니라 ‘릴리스’로 봐야 하는 이유
7.2.6이 나온 뒤, 바로 “체감 회귀”가 보고된 흐름
2026-09-23 (수) 개발일지
dev-blog오늘은 automaton 레포를 떼서 배포하는 과정에서 배포 파이프라인 순서를 잘못 짚어서 서버가 멈춘 이슈를 잡았다. 처음엔 방화벽 문제라 생각했는데, 파보니 로컬 수정 → 원격 반영 → GitLab 푸시의 순서가 꼬여 있었고 결국 MEMORY.md에 배포 시퀀스를 하드코딩하는 쪽으로 정리됐다.
2026-09-22(KST) 기준으로 Firefox 156.0은 2026-09-15에 Release 채널에 제공됐습니다. 릴리스 노트에도 “Version 156.0, first offered to Release channel users on September 15, 2026”로 명시돼 있습니다.1 https://www.fi...
성능 민감 워크로드를 Kubernetes에 올릴 때 가장 자주 부딪히는 벽이 멀티 컨테이너 Pod입니다. 메인 컨테이너는 전용 코어, NUMA locality, memory affinity가 필요한데, 옆에 붙은 사이드카(telemetry, logging, service mesh)가 그 전제 자체를 깨버립니다.
PrismML이 2026-09-17에 발표한 Bonsai 2 27B는 Qwen3.8 27B를 ternary {−1, 0, +1} weight로 압축해 언어 모델 본체를 5.95GB(PTQ1_0)~7.21GB(PQ2_0) 범위에 넣었습니다. “27B급을 로컬에서”가 데모 문구가 아니라, 8GB VRAM 단일 GPU에서도 운영 옵션이 되는 쪽으로 문이 열...
2026-09-15 Java 27 GA에서 실제로 일어난 일
2026-09-21 (월) 개발일지
dev-blog오늘의 회고: 120제 저작 마무리와 복습 API 구현
타임라인과 운영 관점의 의미
OppZGC: 유휴 코어를 쓰는 ZGC 스케줄링의 실전성
PerformanceOppZGC가 겨냥하는 역설: CPU를 더 쓰면 느려지는데, 더 쓰면 빨라진다
CVE-2026-76460을 패치만으로 끝내면 안 되는 이유
사건 타임라인: 2026-09-18 Ashburn(IAD) 경유 5xx 증가
2026-09-19 (토) 개발일지
dev-blog오늘은 bit-scalp 스캔 주기 조정과 automaton 코드 리뷰를 동시에 진행했다. 스캔 주기는 이미 적용돼 있어 코드 변경이 0줄이었고, automaton에서 가져올 프레임워크는 없었지만 그 리뷰 과정에서 내 코드에서 4개의 버그를 발견했다 — 그게 진짜 수확이었다.
Docker Desktop 4.91.0은 2026-09-14에 공개됐고, 구성요소로 Docker Engine v29.8.0과 containerd v2.3.4가 같이 올라갔습니다.1 업데이트 자체보다 더 눈에 들어오는 건 “깨진 로컬환경”에서 사람들이 마지막 수단으로 쓰던 factory reset 의존도를 낮추는 운영성 버그픽스가 들어갔다는 점입니다. ...
Go 1.27은 작은 heap allocation을 더 싸게 만드는 방향으로 런타임·컴파일러 경로를 바꿨습니다. Go 팀이 2026-09-16에 이 변경을 별도 글로 풀어 썼고, 릴리스 노트에도 수치(최대 30%, <80B)와 opt-out(빌드 타임 GOEXPERIMENT)이 명시됐습니다.1 https://go.de...
2026-09-18 (금) 개발일지
dev-blog오늘은 Home Assistant Voice PE 브리지가 2개월간 죽어 있던 원인을 추적하고, 동시에 bridge 서버의 6개 변경군을 전수 적용하면서 발견한 예상치 못한 버그들을 정리했다. DHCP가 IP를 전부 갈아엎은 게 시작이었고, 그 여파로 드러난 설계 결함들이 dispatch 이중 실행부터 announce 음성 잡아먹기까지 이어졌다.
Jakarta EE 11/Servlet 6.1 베이스라인이 만드는 강제 전제
2026-09-15에 실제로 바뀐 것 Debezium 3.7.0.Beta2는 2026-09-15에 공개됐고, 릴리스 포인트가 명확합니다. CockroachDB 커넥터가 incubating 표기를 떼고 production-ready로 올라갔고, Milvus와 SQLite는 소스 커넥터가 “첫 공식 릴리스”로 들어왔습니다.1 ...
2026-09-17 (목) 개발일지
dev-blog오늘의 트러블슈팅: 시스템이 보여주는 신호와 실제 원인 사이의 간격
v261.3·v260.5가 운영 이슈가 되는 지점 2026-09-10 전후로 systemd-stable v261.3와 v260.5가 upstream 릴리스로 게시됐습니다. GitHub Releases 기준으로 v261.3는 2026-09-10에, v260.5도 같은 날짜에 게시되어 있습니다.1 Release Alert도 두 버전이 2026-09-10에...
CISA KEV로 패치 우선순위 엔진 만들기
ToolsKEV를 운영에 붙이려면 ‘KEV에 있으면 무조건 즉시 패치’ 같은 구호가 아니라, 기한을 놓치지 않는 시스템을 먼저 만들어야 합니다. KEV는 JSON 한 파일이지만, 그 파일이 의미하는 것은 변경관리(change management), 대체통제(compensating controls), 자산 인벤토리 정확도, 그리고 배포 역량입니다.
2026-09-16 (수) 개발일지
dev-blog오늘은 두 가지가 겹쳤다. 하나는 어제 실패한 run이 GitHub Actions에서 아직 안 고쳐진 채로 남아있다는 것, 다른 하나는 그 run을 추적하다 보니 로컬 실행에서 지속적으로 나오던 파일 읽기 실패 로그의 정체를 파헤치게 된 것이다. 결론부터 말하면, 어제 실패는 Pages 빌드에 이미 반영됐고, 진짜 안 고쳐진 건 로컬의 com.joyu...
7.0.41은 왜 ‘그냥 패치’로 보면 위험한가
2026-09-09에 나온 Terraform 1.16.2가 의미하는 것 Terraform 1.16.2는 2026-09-09에 릴리스된 1.16 라인의 patch 릴리스이고, 릴리스 노트 상으로는 모듈 설치 과정에서 invalid module call을 만났을 때 panic이 발생하던 문제를 고친 것이 전부입니다.1 http...
2026-09-15 (화) 개발일지
dev-blog오늘은 옵시디언 정리 작업에서 부딪힌 문제들을 정리했다. 핵심은 두 가지였다. 하나는 자식이 있는 트리 노드가 기본적으로 펼쳐져야 하는데 특정 조건에서 접힌 채로 렌더링되는 문제였고, 다른 하나는 자동이력서지원 프로젝트에서 버전 관리와 파일 복사 방식의 혼선이 빚은 문제였다. 둘 다 겉으로 보기엔 단순해 보였지만, 파고들수록 원인이 다른 곳에 있었다.
2026-09-08: Chrome 153 롤아웃과 함께 Stable 주기가 2주로 바뀌었다
Forgejo 템플릿 리포지토리 RCE: 공격 경로와 방어선
OpenSource2026-09-10 보안 릴리스가 보여준 것 Forgejo 릴리스 페이지에 따르면 v16.0.4는 2026-09-10에 공개됐고(Stable), 같은 날 v15.0.8(LTS)도 함께 나왔습니다. v16.0의 Stable 지원 종료일은 2026-10-29로 표기돼 있습니다.1 https://forgejo.org/releas...
2026-09-14 (월) 개발일지
dev-blog오늘은 Lepons 1.1.0의 Codex 실행기 선택 기능과 관련된 재현 확인 작업을 진행했다. 주간 한도 오류로 실패했던 흐름을 다시 따라가면서, 내가 놓친 부분이 무엇이었는지 — 그리고 새 업데이트에서 실제로 무엇이 바뀌었는지를 코드 라인 단위로 추적했다.
removal date가 촉발한 문제: 버전업이 아니라 계약 파기입니다 GitHub는 GitHub Actions runners에서 Node 20 deprecation을 진행 중이고, Node 20 제거(removal) 날짜가 2026-09-23으로 고정됐습니다. 해당 날짜는 GitHub Changelog 글의 편집자 노트(2026-08-25)로 갱신됐...
2026-09-09 Node.js 26.8.2에서 실제로 바뀐 것
2026-09 ASB 공개/업데이트가 ‘정책 갱신 타이밍’인 이유
Knowledge Graph 기본 포함이 바꾸는 전제
바뀌는 일정: opt-in과 영구 차단의 경계
2026-09-09에 바뀐 사실: 이제 실험이 아니라 계약이 됐다 React 팀은 2026-09-09에 React 19.3을 공개했고, 작년에 experimental로 소개했던 View Transitions와 Fragment Refs를 stable로 올렸습니다. React 19.3은 npm에서 바로 설치 가능한 정식 릴리스라는 선언까지 포함합니다. R...
2026-09-11 (금) 개발일지
dev-blog오늘의 트러블슈팅: LG-HYBCM 커스텀 UI의 보고서 저장 문제부터 Logpresso 교육 플랫폼 라이선스 활성화까지
7.2.4 stable과 7.3-rc2: 이번 주가 위험한 이유
조직이 커질수록 AWS 관련 툴이 운영 리스크가 되는 지점은 대개 기능이 아니라 설치 방식입니다. 개인 노트북에서는 “일단 되면” 넘어가지만, CI와 운영 자동화로 넘어오면 설치의 불일치가 그대로 장애의 불일치로 번집니다. 특히 awscli는 경로(PATH) 충돌이 잦고, PowerShell 쪽은 모듈 버전이 어긋나면 로딩/Import 단계에서 미묘한...
2026-09-10 (목) 개발일지
dev-blog오늘의 트러블슈팅: Godot 빈칸 워크스페이스 — 변이 테스트의 사각지대와 스펙 뒤집기에서 발견한 구멍
Terraform 1.16.1 import/panic 버그와 IaC 파이프라인 방어
Infrastructure1.16.1에서 고쳐진 것의 공통점: “한 번 터지면 복구 비용이 커지는” 계열 Terraform 1.16.1은 2026-09-02에 릴리스됐고, 릴리스 노트에 명시적으로 다음 버그 픽스가 포함돼 있습니다: import identity가 sensitive value를 참조할 때 panic for_each/count 인스턴스 대상으로 여러 im...
무슨 일이 있었나: CVE-2026-20212의 기술적 성격
2026-09-09 (수) 개발일지
dev-blog오늘의 트러블슈팅 — 주석 한 칸이 파서를 멈추게 한 날
2026-09-02에 동시에 벌어진 일: 기능 투하와 CVE 묶음 공개
2026-09-07 이후: “업그레이드”가 아니라 “퇴역” 문제로 바뀌는 지점
2026-09-08 (화) 개발일지
dev-blogLogpresso 문서 탐색과 시스템 환경 구성 — 404와 요구사항 불일치를 잡은 하루
베타가 가장 싼 이유: feature freeze 이후에만 가능한 테스트
2026-09-03에 무엇이 바뀌었나
2026-09-07 (월) 개발일지
dev-blog오늘의 회고 — 설치 자동화 프로그램 두 가지 이슈
2026-09-03에 나온 Rust 1.98.1이 실제로 고친 것
2026년 8월 31일 OpenTelemetry가 Go Logs API/SDK를 RC(v1.47.0-rc.1)로 올렸습니다. 여기서 중요한 건 새 기능 소개가 아니라, “이 API가 v1 호환성 보장을 걸고 고정되기 직전”이라는 점입니다. 공식 발표는 “게시 후 최소 14일 피드백을 기다린 뒤 안정화로 진행”한다고 명시합니다. 즉 2026-08-31 ...
제로데이 공지에서 시작하면 항상 늦습니다
무슨 일이 있었나: 152.0.7977.82/.83와 ‘exploit in the wild’ 문장 하나 2026-09-03(목) Google은 Desktop Chrome Stable을 152.0.7977.82/.83(Windows, Mac), 152.0.7977.82(Linux)로 업데이트했다고 공지했습니다. 이 빌드는 “앞으로 며칠/몇 주에 걸쳐 순...
들어가며 LLM API 서버에서 스트리밍(token-by-token)은 “UX”만의 문제가 아닙니다. TTFT(Time To First Token)를 줄여 사용자가 “응답이 살아있다”는 확신을 얻고, 동시에 서버는 긴 생성 작업을 요청 타임아웃/리버스 프록시 제한 속에서도 안정적으로 전달해야 합니다. 특히 2026년 기준으로도 많은 팀이 겪는 병목은 ...
들어가며 CLI 기반 AI 코딩 에이전트(Claude Code, Codex CLI)는 “IDE 보조”를 넘어 리포지토리 단위 작업을 자동화하는 쪽으로 무게중심이 옮겨왔습니다. 특히 2026년 들어 GitHub가 GitHub Agentic Workflows(Markdown으로 정의 → 컴파일 → Actions로 실행)라는 형태로 에이전트 실행을 워크플로...
들어가며 LLM 파인튜닝에서 가장 흔한 병목은 “좋은 학습 데이터가 없다”입니다. 특히 사내 도메인(고객지원, 결제/정산, 보안관제, 제조/물류 등)은 (1) 개인정보/저작권/계약 이슈로 원문 로그를 그대로 쓰기 어렵고, (2) 실제로는 케이스가 충분히 다양하지 않으며, (3) 라벨링 비용이 큽니다. 이때 synthetic data generation...
들어가며 2026년 9월 초 AI 스타트업 투자/인수합병 뉴스는 한 문장으로 요약하면 “모델 그 자체보다, 에이전트를 운영하는 ‘플랫폼/플러밍(plumbing)’과 현실 세계로 내려오는 ‘Physical AI’에 돈이 몰린다”입니다. 그리고 이 흐름은 실무 개발자에게 벤더 락인, 비용 최적화, 운영 아키텍처 선택을 더 어렵게(하지만 더 중요하게) 만들...
2026-09-03 (목) 개발일지
dev-blog오늘의 회고: 데모앱 장시간 실행 열화, 마스킹 구조 검증, 그리고 로그프레소 이중화 구축
들어가며 실시간 음성 대화(voice agent)가 어려운 이유는 모델 성능보다 지연(latency)과 인터럽트(barge-in) 때문입니다. “말을 끝까지 듣고 → 전사하고 → 답 만들고 → 읽어주는” 순차 처리로는, 사용자는 전화 IVR 같은 답답함을 느낍니다. 2026년 기준 업계에서 가장 현실적인 해법은 STT→LLM→TTS를 모두 스트리밍으로...
들어가며 CoT(Chain-of-Thought)는 “모델이 중간 추론 단계를 거치도록 유도해” 복잡한 문제(멀티스텝 의사결정, 제약 많은 생성, 정합성 검증)를 더 잘 풀게 만드는 프롬프팅 계열입니다. 다만 2025~2026에 걸쳐 핵심 사용법이 바뀌었습니다: 많은 최신 reasoning model은 내부적으로 CoT를 생성하지만, 그 내용을 사용자에...
2026-09-02 (수) 개발일지
dev-blog오늘의 트러블슈팅: 리플레이 스냅샷 복구와 RHEL IP 충돌
들어가며 LLM 백엔드의 비동기 처리는 “느린 작업을 요청-응답 경로에서 분리”하는 문제를 해결합니다. 특히 (1) OpenAI/사내 모델 호출이 수 초~수 분 걸리거나, (2) 한 요청이 여러 외부 API/스토리지 왕복을 포함하거나, (3) 실패 시 재시도/지연 재시도가 필요할 때 HTTP 핸들러 안에서 끝내려 하면 타임아웃·리소스 고갈·장애 전파가...
들어가며 LLM 비용이 새는 대표 구간은 “매 요청마다 반복되는 긴 prefix(시스템 지시문, tool schema, 코드베이스 요약, 정책, 예시 few-shot)”를 매번 full price로 다시 prefill하는 순간입니다. Prompt caching은 바로 이 prefill(KV cache) 재사용을 공급자 측에서 해 주고, 그만큼을 할인 ...
2026-09-01 (화) 개발일지
dev-blog오늘은 세 프로젝트에서 각각 다른 성격의 이슈를 처리했다. 게임 blanks.py의 placeholder 마커가 정답 텍스트와 충돌한 케이스, cockpit effort 기본값 조정, demo_apps Android 네트워크 정리까지. 특히 blanks.py는 “내가 실수했나” 싶었다가 계획서 자체의 결함이었던 경우라 기록해둔다.
들어가며
들어가며 2026년 8월은 AI 개발자 도구가 IDE/CLI 안에서 ‘대화’하는 수준을 넘어, 장시간 실행되는 ‘agentic workflow’를 관리하는 방향으로 급가속한 달이었습니다. 특히 플러그인 표준화(Agent Plugins 1.0)와, 에이전트 실행 인프라(Agent Host, prebuilt environment)가 동시에 진화하면서 “도...
2026-08-31 (월) 개발일지
dev-blog오늘의 회고: 리플레이 충실도 결함부터 SK 130제 데이터 계층까지
들어가며 Naive RAG(질문 → retrieval 1회 → 답변)는 질문이 모호하거나(“성능이 왜 느려?”), 다단계 원인 추적이 필요하거나(장애 분석), 문서가 방대하고 중복이 많은(사내 위키/코드베이스) 상황에서 쉽게 무너집니다. 보통 “검색 쿼리가 나쁘다 → 엉뚱한 chunk가 붙는다 → 모델이 그럴듯하게 메운다(=hallucination)”...
들어가며 LLM 성능을 “수치로” 비교해야 하는 순간이 있습니다. 모델 교체(비용/지연), fine-tuning 효과 검증, 릴리즈 회귀(regression) 탐지, 고객사 PoC 등. 이때 가장 흔히 보는 게 MMLU(일반 지식/추론), HumanEval(코드 생성) 점수인데, 2026년 시점에 이 둘은 “모델의 진짜 실력”이라기보다 평가 프로토콜을...
2026-08-30 (일) 개발일지
dev-blog오늘의 트러블슈팅 — OTLP 누수, 지원서 본문 경합, 앱 아이콘 전면 교체
들어가며 프론트엔드에서 AI 코드 생성이 진짜로 해결하는 문제는 “컴포넌트/페이지 뼈대 제작 속도”가 아니라, UI를 설계-구현-수정하는 반복 루프의 비용입니다. 특히 디자인 시스템(Tailwind + shadcn/ui 같은)이 이미 있는 팀에서, 화면 조합·상태별 변형·반복적인 CRUD 폼은 생산성 병목이 되기 쉽습니다.
들어가며 RAG가 프로덕션에서 흔들리는 지점은 대체로 한 가지입니다. “검색 단계에서 엉뚱한 근거를 가져오고, LLM은 그럴듯하게 완성한다”는 것. 이 문제는 모델의 답변 품질이 아니라 Retrieval의 recall/precision 균형과 질의-문서 스타일 갭(vocabulary/style mismatch)에서 시작합니다.
들어가며 LLM 기반 기능을 프로덕션에 올리면 관측(Observability) 난이도가 일반 웹백엔드보다 급격히 올라갑니다. 이유는 단순합니다. 요청 1건이 “LLM 호출(외부 API) + RAG(벡터DB) + Tool 실행 + 재시도/라우팅 + 후처리”로 쪼개지고, 성능/비용/품질 문제의 원인이 “코드”가 아니라 prompt, tool choice,...
들어가며 Vector RAG를 실무에 붙여보면 금방 한계가 옵니다. “정답이 문서 여러 곳에 흩어져 있고, 그 사이의 관계를 따라가야 하는 질문”에서요. 예를 들어 “A 서비스 장애가 났을 때 영향을 받는 고객군은 누구고, 그 고객들의 계약 조항 중 SLA 예외는 뭐야?” 같은 질문은, chunk top-k만으로는 관계(고객↔계약↔서비스↔장애)를 못 ...
2026-08-28 (금) 개발일지
dev-blog오늘은 iOS 리플레이 플레이어에서 와이어프레임의 텍스트가 거의 다 사라져 보이는 문제를 잡았다. 재생 자체는 정상인데 프레임이 빈 상자처럼 보였고, 처음엔 PII 마스킹 로직이 텍스트 노드를 날린 줄 알았지만 실제 원인은 SwiftUI의 접근성 트리가 보조기술 클라이언트 없이선 dormant 상태로 남아 텍스트 노드를 전혀 반환하지 않는다는 데 있었...
들어가며 LLM 서빙을 “돌아가게” 만드는 건 쉽습니다. 문제는 동시성(concurrency)이 올라갈 때 GPU가 놀지 않게 유지하면서, KV cache 메모리 폭발을 제어하고, 배포/업그레이드/관측(Observability)까지 포함한 운영 난이도를 감당하는 겁니다. 2026년 8월 기준 로컬/온프렘에서 많이 쓰는 선택지는 대략 3갈래입니다: vL...
들어가며 2026년 8월 AI 반도체 뉴스는 한 문장으로 요약하면 “GPU 성능 경쟁”이 아니라 “HBM·패키징·가격·플랫폼(software+rack)” 전쟁으로 확장됐다는 이야기입니다. NVIDIA는 NVLink Fusion/NVHBM로 메모리 병목을 정면 돌파하려 하고, 국내 NPU 진영(Rebellions, FuriosaAI)은 추론(Infere...
들어가며
들어가며 비디오 AI를 프로젝트에 붙일 때 제일 먼저 부딪히는 문제는 “모델이 똑똑하냐”가 아니라 입력 비디오를 어떤 단위(shot/clip/frame)로 쪼개고, 무엇을 저장하며, 어떻게 재질의(re-query)할지입니다. 긴 비디오에서 uniform sampling만으로는 중요한 구간을 놓치고(정보 손실), 반대로 프레임을 많이 넣으면 컨텍스트/비...
들어가며 2026년 현재 “multi-agent orchestration”이 다시 뜨는 이유는 단순합니다. 단일 Agent에 너무 많은 tool schema / 역할 / 장기 히스토리를 몰아넣으면 (1) 컨텍스트가 비대해져 비용이 튀고, (2) 의사결정이 흔들리며, (3) 실패 시 복구가 어려워집니다. 그래서 Supervisor가 흐름을 통제하고, W...
들어가며 2026년 8월 기준, AI Agent의 “도구 사용(tool use)”은 더 이상 데모 기술이 아니라 실제 제품의 신뢰성/비용/보안을 좌우하는 엔지니어링 영역이 됐습니다. 프롬프트를 조금 바꾸면 되겠지…로 접근하면, 결국 운영에서 터집니다. 이유는 간단합니다: LLM은 도구를 ‘호출’하는 텍스트 생성기이고, 여러분의 시스템은 부작용(side...
2026-08-25 (화) 개발일지
dev-blog오늘의 트러블슈팅: 레포지토리 진단 신뢰성과 동의어 사전 정밀 검증
들어가며 2026년 8월 기준 AI 애플리케이션의 병목은 “모델 성능”보다 운영 가능한 아키텍처에서 더 자주 터집니다. 특히 (1) tool 호출이 늘어나고, (2) 장기 실행(long-running) 작업이 생기고, (3) 멀티 에이전트가 도입되면서, 단순한 request/response 서버 구조는 금방 한계가 옵니다. MCP의 로드맵에서도 “ag...
들어가며 2026년 8월은 빅테크 AI API가 “모델 성능 경쟁”을 넘어 “에이전트를 안전하게 운영하는 방법(도구·키·정책·디프리케이션)”으로 초점이 이동한 달이었습니다. OpenAI는 Assistants API sunset과 Responses API 중심 재편을, Anthropic은 computer use/Skills/Files를 GA로 밀어붙였고...
2026-08-24 (월) 개발일지
dev-blog오늘의 회고 — riff 측정 도구 두 가지: 채점기 오탐과 wall-clock 포기
들어가며 문서 추출 프로젝트가 실패하는 전형적인 패턴은 이겁니다: OCR로 텍스트는 뽑았는데, “구조”가 깨져서(표/다단/헤더 계층/키-값 관계/reading order) 결국 사람이 후처리하게 되는 것. 특히 PDF는 “보이는 것”과 “텍스트 스트림”이 다를 수 있어, 단순 파싱(PDFMiner류)이나 단순 OCR(Tesseract류)만으로는 정확한...
2026년 8월 기준 Pinecone vs Weaviate vs Qdrant vs Chroma: “RAG 성능”이 아니라 “운영 난이도/필터/지연 꼬리”로 고르는 벡터DB 가이드
AI들어가며 벡터DB가 해결하는 문제는 “Top-K 유사도 검색” 자체가 아니라, (1) 대규모 embedding을 지속적으로 ingest/update하고 (2) metadata filter/tenant 분리/권한을 걸면서도 (3) p99 지연시간을 예측 가능하게 유지하는 겁니다. 특히 2026년 RAG는 hybrid retrieval(BM25 + den...
들어가며 LLM 애플리케이션을 운영해보면 문제는 늘 비슷한 형태로 터집니다.
들어가며 LLM의 context window가 200k~1M 토큰까지 커졌는데도, “그 안에 넣기만 하면 알아서 잘 쓰겠지”는 여전히 잘 안 됩니다. 실제 현업에서 터지는 문제는 보통 3가지로 요약됩니다.
들어가며 RAG에서 “검색이 잘 안 된다”는 문제의 상당수는 Retriever나 Embedding이 아니라 document splitting(=chunking)에서 이미 결정됩니다. 질문에 필요한 근거가 (1) 잘려 나가거나, (2) 너무 많은 문맥에 묻히거나, (3) 표/섹션 구조가 깨지면, 이후에 rerank/prompt를 아무리 튜닝해도 비용만 ...
들어가며 LLM API를 “프로덕션 트래픽”으로 돌리기 시작하면, 기능 버그보다 먼저 터지는 게 rate limit(429) + 일시 장애(5xx) + 재시도 폭풍(retry storm) 입니다. 특히 배치/에이전트/워크플로우처럼 동시성이 자연스럽게 올라가는 구조에서는, 재시도 로직이 빈약하면 “조금 느려지는” 수준이 아니라 전체 큐가 막히고 비용만 ...
2026-08-21 (금) 개발일지
dev-blog오늘은 여러 프로젝트를 동시에 진행하면서 각각 다른 성질의 문제들을 마주쳤다. 사주 앱의 로컬 모델 호환성 검증부터 시작해서, UI/UX 기획안 재작성, 그리고 LG-CNS 레거시 코드 분석까지 — 각 이슈마다 처음 가설과 최종 결론이 달랐던 하루였다.
들어가며 임베딩(embedding)은 “텍스트(혹은 이미지/문서)를 벡터로 압축”해 검색(retrieval), 추천, 클러스터링, 중복 제거, RAG 품질을 좌우합니다. 문제는 2026년 현재 임베딩 시장이 성숙하면서, 단순 리더보드(MTEB) 점수만 보고 고르면 실제 프로젝트에서 비용/지연/안정성/언어/도메인 적합성에서 크게 손해를 볼 수 있다는 점...
들어가며 2026년 8월 arXiv에서 눈에 띄는 흐름은, 모델 구조 자체의 대형 변화보다 (1) 에이전트 실행 런타임, (2) 컨텍스트 신뢰(robustness) 훈련, (3) 벤치마크 품질 재검증 쪽으로 무게중심이 이동했다는 점입니다. 실무 개발자 입장에선 “더 똑똑한 모델”보다 “더 안정적으로 일하게 만드는 시스템/평가”가 당장 생산성에 직결됩니...
2026-08-20 (목) 개발일지
dev-blog오늘은 여러 프로젝트를 오가며 체계적으로 문제를 파악하고 정리하는 날이었다. 사주 앱의 매칭·채팅 플로우 구현부터 시작해, 결제 게이팅 설계 검증, 그리고 제안서 자동화 도구의 DB 제약 버그까지 — 각각 다른 성질의 트러블슈팅이었지만, 모두 “가정 → 검증 → 발견” 사이클을 돌았다.
들어가며 LLM 파인튜닝이 막히는 지점은 대부분 “학습시킬 데이터가 없다”가 아니라 “내 제품에서 실제로 실패하는 케이스를 커버하는 학습 데이터가 없다”입니다. 로그는 쌓이는데 정답 라벨이 없고, 사람 라벨링은 비싸고 느립니다. 이때 2026년 현재 가장 실용적인 해법이 LLM synthetic data(합성 데이터)로 학습용 데이터셋을 구축하고, 작...
들어가며 Chain of Thought(이하 CoT)는 한때 “Let’s think step by step” 한 줄로 성능이 오르는 마법처럼 소비됐습니다. 하지만 2026년 8월 기준, 실무에서 CoT를 “고급 기법”으로 쓴다는 의미는 바뀌었습니다. 이유는 간단합니다.
2026-08-19 (수) 개발일지
dev-blog오늘의 회고: 검색 에이전트가 도구를 안 부르는 두 가지 원인
들어가며 2026년 8월의 팀 개발에서 병목은 더 이상 “코드 작성”이 아니라 PR review 처리량입니다. Copilot/Codex/Claude 같은 coding agent가 PR 볼륨을 폭증시키면서, 사람 리뷰어는 (1) 변경 의도 파악, (2) 회귀 리스크 판단, (3) 테스트 보강까지 떠안게 됐고, 결국 “LGTM이 늘어나는 역설”이 생깁니다...
들어가며 LLM 서빙 최적화의 본질은 GPU FLOPS가 아니라, 대부분의 경우 메모리 대역폭 + KV cache 메모리 + 커널 런치/스케줄링 오버헤드를 얼마나 줄이느냐입니다. 2026년 8월 시점에는 이 문제를 “가장 값싸게” 푸는 축이 명확해졌습니다:
2026-08-18 (화) 개발일지
dev-blog오늘은 proposal_automate 프로젝트에서 검색 색인화 성능 문제와 서버 바인딩 설정을 정리했다. 처음엔 단순 포트 변경이라 생각했는데, 파보니 바인딩 주소까지 꼬여 있었고, 동시에 색인 캐싱 누락으로 매 요청마다 재생성되는 구조적 결함을 잡아냈다.
들어가며 LLM을 프로덕션에 붙이면 비용이 터지는 지점은 대개 동일합니다. 매 요청마다 “거의 안 바뀌는 긴 프롬프트(prefix)”—system prompt, tool definitions, 정책/가드레일, 프로젝트 컨텍스트, 긴 대화 히스토리—를 계속 재전송/재계산하기 때문이죠. Prompt caching은 이 “안 바뀌는 prefix”를 서버 측...
들어가며 2026년 8월은 “AI 규제는 아직 준비 기간”이라는 인식을 깨는 달입니다. EU는 2026년 8월 2일부터 AI Act의 집행(enforcement) 권한을 본격 가동했고, 미국은 연방 단일법 제정이 지연되는 가운데 주(州) 단위 규제와 연방 차원의 큰 틀 논의가 충돌하고 있습니다. 동시에 “표시/투명성(딥페이크·챗봇 고지)” 같은 윤리 ...
들어가며 2026년 기준으로 AI Agent 개발에서 가장 어려운 부분은 “LLM 호출”이 아니라 (1) 여러 단계/여러 역할의 작업을 어떻게 안정적으로 연결할지, (2) 실패했을 때 어디서부터 재개할지, (3) 디버깅/관측 가능성을 어떻게 확보할지입니다. 이 관점에서 LangGraph, AutoGen, CrewAI는 같은 “멀티 에이전트” 카테고리처...
들어가며 서버리스 LLM 배포의 본질적인 문제는 간단합니다. “요청이 없을 땐 비용 0에 가깝게, 요청이 오면 즉시(혹은 예측 가능하게) 토큰을 뽑아야 한다”는 상충 목표를 동시에 만족해야 합니다. LLM은 (1) 컨테이너 부팅, (2) Python/torch import, (3) 모델 weight 다운로드/로딩, (4) GPU 메모리 적재, (5) ...
들어가며
들어가며
들어가며 CLI 기반 AI 코딩 에이전트(Claude Code, Codex CLI)가 진짜 가치가 나는 지점은 “코드를 잘 짜는 것”보다 반복되는 개발 운영 루프(분석→수정→검증→리포트)를 자동화할 때입니다. 예를 들어:
들어가며 2026년 8월 기준 AI 코딩 어시스턴트의 핵심 병목은 더 이상 “코드 한 줄 추천”이 아니라, 멀티파일 변경 + 터미널 실행 + 반복 수정을 얼마나 안전하고 예측 가능하게 굴리느냐입니다. Cursor, GitHub Copilot(IDE/CLI/코딩 에이전트), Windsurf(Cascade)는 모두 에이전트 워크플로우를 제공하지만, 실제 ...
2026-08-14 (금) 개발일지
dev-blog오늘은 금융투자 자격시험 문제은행 생성 파이프라인에서 대량 배치 검증 실패와 검수 에이전트 오버로드라는 두 가지 문제를 마주쳤다. 처음엔 단순 네트워크 재시도로 충분하다고 생각했는데, 파보니 구조적 설계 결함이 있었고 결국 검증 단계를 두 단계로 분리하는 쪽으로 정리됐다.
들어가며 프론트엔드에서 AI 코드 생성이 가장 빛나는 순간은 “새 화면을 빠르게 만들고(또는 리뉴얼) 제품/PM과 합의 가능한 수준의 UI를 코드로 즉시 뽑아야 할 때”입니다. 2026년 8월 기준, 이 영역에서 실무적으로 조합이 좋은 도구가 Vercel v0(Generative UI) 와 StackBlitz bolt.new(브라우저 기반 AI 앱 빌...
들어가며 2026년 8월 현재 AI 보안 이슈의 중심은 여전히 prompt injection/jailbreak이지만, 논점이 “모델이 속냐”에서 “에이전트가 어떤 경계(boundary)를 넘게 되느냐”로 확실히 이동했습니다. 특히 RAG·tool calling·코드 생성 워크플로에 LLM이 깊게 들어가면서, prompt injection이 데이터 유출...
2026-08-13 (목) 개발일지
dev-blog오늘은 세 가지 이슈를 잡았다. workbook 검증의 게이트 8에서 걸린 OX 정답 편중, 개발창에서 떠버린 확대/축소 UI, 그리고 장표 병합에서 “성공했지만 0건”을 만든 타입 필터 대소문자 버그. 셋 다 처음 봤을 때는 전부 다른 원인이겠거니 싶었는데, 로그를 파고들수록 지엽적인 곳에서 실제 결함이 튀어나왔다.
들어가며
들어가며 학습 데이터 큐레이션에서 deduplication(중복 제거) 은 “디스크 절약”이 아니라 학습 신호의 왜곡을 줄이는 품질 공정입니다. 웹 규모 코퍼스(예: CommonCrawl 계열)를 모으다 보면, 같은 문서/문장/템플릿이 수십 번씩 재등장하고(미러/스크랩/뉴스 재배포), 그 결과 모델이 특정 패턴을 과대학습하거나 평가 셋 오염(conta...
2026-08-12 (수) 개발일지
dev-blog오늘은 아침부터 세 가지를 처리했다. ai-tech-digest가 안 올라온 줄 알고 봤더니 제목만 깨져 있었고, 하네스에서 같은 결함이 3번 터지는 걸 보고 산문 체크리스트를 계약 테스트로 교체했으며, 마지막으로 지시받은 riff-progress.sh 전환이 이미 삭제된 파일을 대상으로 한 stale TODO라는 걸 밝혀냈다.
들어가며 LLM API 서버에서 “스트리밍”은 UX가 아니라 서버 아키텍처 문제입니다. 토큰을 빨리 보내는 것만이 아니라, 취소(cancellation), backpressure, 프록시 버퍼링, 동시 연결 수, 관측성(로그/메트릭)까지 함께 설계해야 운영이 됩니다.
들어가며 LLM fine-tuning의 현실 문제는 간단합니다. 성능을 올리고 싶지만, 풀 파인튜닝(Full FT)은 VRAM/비용/운영 복잡도가 너무 크다는 것. LoRA/QLoRA는 이 지점에서 “가성비 좋은 커스터마이징”을 제공합니다. 핵심은 기존 LLM 가중치는 거의 그대로 두고(동결) 작은 adapter만 학습한다는 점입니다(PEFT). (a...
2026-08-11 (화) 개발일지
dev-blog오늘은 하네스 벤치마크의 채점기 판별력 결함 5건을 고쳤다. 이 채점기는 riff·GSD·gstack 세 하네스가 만든 앱을 같은 자로 재는 공식 계측기인데, 파고들수록 “못 만든 앱도 통과시키는” 구조적 느슨함이 드러났다. 파일럿 완료를 전제로 태스크를 정리하던 중이라, 비교의 타당성을 해치는 구멍부터 막기로 했다.
들어가며 2026년 8월 시점의 video AI는 “모델이 곧 비디오를 통째로 본다”기보다, 긴 비디오를 제한된 token/window에 맞게 ‘증거(evidence)’로 압축해 넣는 파이프라인 싸움에 가깝습니다. 특히 Long Video Understanding(LVU)에서는 중요한 정보가 드문드문 등장하고, 나머지는 중복 프레임인 경우가 많아 un...
들어가며 2026년 8월을 전후해 OpenAI·Anthropic·Google이 공통적으로 “더 큰 모델”보다 에이전트를 굴리기 위한 API 형태/운영 정책을 빠르게 재정렬하고 있습니다. 특히 OpenAI는 Assistants API를 공식적으로 접고 Responses API로 수렴시키고, Google은 Gemini API Key 운영을 강제하며, An...
지난 한 주 개발·기술 소식 중 눈에 띈 29건을 골라 핵심만 5줄로 정리했습니다.
2026-08-10 (월) 개발일지
dev-blog오늘은 여러 프로젝트를 동시에 정리했다. demo_apps 폴더 혼동 문제부터 시작해 하네스의 채점 기준 모호성, 게임 문제 변환, 그리고 이력서 파서까지 — 각각 단순해 보였지만 파보니 단서들이 연쇄적으로 얽혀있었다.
들어가며 RAG를 운영해보면 결국 같은 벽에 부딪힙니다.
들어가며 Next.js로 AI 앱을 만들 때 대부분의 팀이 초반에 겪는 문제는 비슷합니다.
2026-08-09 (일) 개발일지
dev-blog오늘은 lepons를 macOS(arm64)에서 직접 빌드해서 로컬 실행까지 끌어올리는 작업을 했다. 프로젝트가 Windows/Linux 기준으로 개발돼 있어서 macOS에선 제품 결함이 아닌 환경 이슈로 테스트가 실패하는 경우가 꽤 있었다. 그중 특히 두 개를 오래 붙들었다. 하나는 조종석(cockpit)의 로컬 PTY 세션이 posix_spawnp...
들어가며 2026년의 AI Agent는 “대화 잘하는 모델”이 아니라 도구(tool)를 안전하게 실행하는 런타임에 가깝습니다. 실무에서 부딪히는 문제는 늘 비슷합니다.
들어가며 실시간 음성 에이전트(voice-to-voice agent)가 풀어주는 문제는 명확합니다. “사람이 말하면 1초 안에(체감상) 끊김 없이 대답하는 대화 UX” 입니다. 여기서 실시간은 STT 정확도나 TTS 자연스러움만이 아니라, turn-taking(말 끊기/양보), TTFA(Time To First Audio), echo, 네트워크 지터까...
들어가며 프로덕션에서 LLM 비용이 폭증하는 패턴은 대체로 하나입니다. 매 요청마다 “거의 같은” 컨텍스트(시스템 프롬프트, tool schema, 정책/가드레일, 공통 문서, 대화 히스토리)를 통째로 다시 보내고, 비싼 모델이 그걸 매번 다시 prefill합니다. Agent/멀티에이전트로 갈수록 이 “중복 prefill”이 전체 비용의 대부분이 됩니...
들어가며 벡터DB가 해결하는 문제는 단순합니다. 고차원 embedding(보통 768~1536-dim) 을 빠르게 kNN/ANN으로 찾고(semantic search), 여기에 필터(tenant, 권한, 카테고리, 기간) 를 얹어 RAG/추천/검색을 제품으로 만들게 해줍니다.
2026-08-07 (금) 개발일지
dev-blog오늘은 여러 프로젝트를 병렬로 진행했는데, 가장 흥미로운 건 demo_apps 의 토큰 만료 문제와 lepons cockpit 의 원격 트랜스크립트 비용 최적화였다. 전자는 데이터 손실 우려로 시작했지만 실제론 인증 문제였고, 후자는 초기 설계 방향이 완전히 틀렸다는 걸 측정으로 증명하게 됐다.
들어가며 긴 컨텍스트(window 200K~1M)가 보편화되면서 “그냥 다 넣으면 되겠지”라는 유혹이 커졌습니다. 하지만 실제 프로덕션에서는 (1) 토큰 비용/TTFT 폭증, (2) 대화·에이전트가 길어질수록 누적되는 노이즈, (3) 컨텍스트 안에 있어도 중간 정보가 씹히는 Lost-in-the-Middle(LITM) 때문에 “긴 컨텍스트 = 안정적 ...
들어가며 2026년 8월 초 기준으로 OpenAI·Anthropic·Google 모두 “신규 모델 출시/확대” 흐름을 이어가며, 성능만큼이나 가격·배포 채널·운영 안정성이 경쟁의 핵심 변수가 됐습니다. 특히 OpenAI는 GPT‑5.6 라인업을 GA로 밀어붙이고, Anthropic은 Claude Sonnet 5를 전면에 세우는 한편, Google은 G...
2026-08-06 (목) 개발일지
dev-blog오늘은 두 갈래 작업이었다. 하나는 옵시디언 정리 과정에서 기존 arxiv 논문 주간 파이프라인을 GeekNews Weekly 최신호 요약으로 갈아엎은 일, 다른 하나는 사주 앱의 앱인토스 출시 전략에서 채팅 기능이 가이드 위반인지를 검증한 일. 둘 다 첫 번째 가설이 중간에 뒤집혔고, 그 전환점에서 실제 원인과 제약을 잡았다.
들어가며 사내/로컬에 LLM을 서빙하려고 하면 거의 항상 같은 문제를 만납니다.
들어가며 요즘 “Vibe Coding”은 아이디어 → 실행 가능한 앱을 대화로 밀어붙이는 방식(프롬프트 기반 생성 + 실행으로 검증 + 수정 반복)으로 굳었습니다. 핵심 가치는 “코드를 빨리 쓰는 것”이 아니라 불확실한 제품 가설을 빠르게 소거하는 데 있습니다. 최근 연구/리뷰들도 vibe coding을 one-shot 생성이 아니라 반복적인 gene...
2026-08-05 (수) 개발일지
dev-blog오늘은 옵시디언 정리 프로젝트와 lepons 에이전트 플랫폼을 함께 손봤다. 전자는 미분류 논문 자동 분류 파이프라인을 완성하고 재발행 워크플로를 검증하는 일이었고, 후자는 TUI 풀스크린 모드가 마우스 입력을 먹는 문제를 인라인 모드로 전환해 고치는 작업이었다. 두 프로젝트 모두 초기 가설이 틀렸고, 문제의 실제 원인을 찾으려면 한 단계 더 깊이 파...
들어가며 RAG 품질이 흔히 무너지는 지점은 “LLM”이 아니라 retrieval입니다. 특히 운영 환경에서는 다음 두 부류의 질의가 섞입니다.
들어가며
2026-08-04 (화) 개발일지
dev-blog오늘은 여러 프로젝트를 동시에 정리하면서 세 가지 핵심 이슈를 잡았다. 하네스의 Claude 설정 오류부터 시작해 레폰스 앱의 프로세스 좀비 문제, 그리고 워크플로우 상세보기 텍스트 효용성까지 — 각각 다른 각도에서 접근했지만 모두 “숨겨진 상태를 가시화하는 것”이 핵심이었다.
들어가며 MCP(Model Context Protocol)는 LLM/Agent가 외부 Tool·Resource·Prompt를 표준 인터페이스로 호출하게 만드는 프로토콜입니다. 2026년 현재 Claude 생태계에서는 Claude Desktop/Claude Code가 MCP 클라이언트로서 널리 쓰이고, VS Code도 MCP 서버를 “도구 공급자”로 통...
들어가며 2026년 7~8월로 넘어오며 AI 가속기 시장의 키워드는 “더 많은 GPU”가 아니라 “추론(inference) 효율 + 공급망 제약 회피”로 선명해지고 있습니다. NVIDIA 중심의 데이터센터 GPU 증산 흐름 위에, 한국의 Rebellions·FuriosaAI가 NPU + 소프트웨어 스택 + 서비스 형태(NPUaaS)로 실사용 사례를 만...
지난 한 주 개발·기술 소식 중 눈에 띈 35건을 골라 핵심만 5줄로 정리했습니다.
2026-08-03 (월) 개발일지
dev-blog오늘은 여러 프로젝트를 동시에 진행하면서 각각 다른 성격의 문제들을 마주했다. 하네스의 로컬 테스트 환경 정리, Claude Code 설정 파일 스키마 버그, USB 초기화, 그리고 Lepons 워크플로우 패널 구현까지 — 각 이슈마다 사고의 방향이 어떻게 틀렸는지, 그리고 왜 그렇게 수정했는지가 핵심이었다.
들어가며 멀티 에이전트가 필요한 순간은 명확합니다. (1) 역할 분리(Research/Plan/Execute/Review)가 성능·품질에 직접 기여하고, (2) 루프/분기/재시도/승인(HITL) 같은 제어 흐름(control flow)이 제품 요구사항으로 고정될 때입니다. 반대로 “에이전트가 많을수록 똑똑해지겠지”라는 기대감으로 늘리면, 대부분 비용·...
들어가며
들어가며 서버리스 LLM 배포가 해결하는 문제는 명확합니다. 트래픽이 들쭉날쭉한 추론(inference)을 위해 GPU/서버를 상시 켜두는 “idle tax”를 없애고, 요청이 올 때만 자동 확장(scale-out)하는 것입니다. 문제는 반대로 cold start가 사용자 경험의 상한을 결정한다는 점입니다. 컨테이너 pull → CUDA 초기화 → w...
들어가며 LLM 기능을 서비스에 붙이면 요청 처리 시간이 갑자기 “수십 ms”에서 “수 초~수십 초”로 늘어납니다. 문제는 평균 지연이 아니라 꼬리 지연(tail latency) 과 외부 의존성(OpenAI/사내 inference/벡터DB/S3) 변동성이고, 이게 웹 API 스레드/프로세스를 잠식하면 곧바로 장애로 번집니다. 그래서 LLM 백엔드에서 ...
들어가며 임베딩(embedding)은 결국 “문장을 벡터로 바꿔서, 의미 기반 검색/매칭을 빠르게 하는” 기술입니다. 문제는 실무에서 임베딩 품질이 좋아도 (1) 언어/도메인/문서 형태가 바뀌면 성능이 급락하거나, (2) 벡터 차원·인덱스·비용 때문에 전체 시스템 비용이 폭발하거나, (3) 재색인(reindex) 비용이 발목을 잡는다는 점입니다.
들어가며 CLI 기반 AI 코딩 에이전트(Claude Code, Codex CLI)가 진짜로 해결하는 문제는 “코드 작성” 자체가 아니라 반복되는 변경 작업의 실행 루프입니다. 예: 레거시 모듈 리팩터링 → 테스트/린트 실행 → 실패 원인 분석 → 패치 → PR 메시지/체인지로그 정리까지의 흐름을 사람이 매번 끊어 읽고 판단하던 비용을 줄입니다. Cl...
2026-07-31 (금) 개발일지
dev-blog오늘은 옵시디언 수동 동기화 프로세스를 정리했다. 6월에 죽어있던 collector 파이프라인이 지금은 살아서 돌고 있었는데, 유니코드 정규화 문제로 일부 폴더가 제대로 매칭되지 않고 있었다. 그걸 발견하고 고치는 과정에서 macOS 파일시스템의 NFD 자모 분해 동작을 처음 이해했다.
들어가며 RAG에서 “검색이 약하다”는 증상은 대개 retriever나 embedding 모델 문제가 아니라 문서를 어떤 단위로 쪼개서(indexing) ‘검색 가능한 최소 증거 단위’로 만들었는지에서 시작합니다. 청킹이 잘못되면 (1) 답이 경계에서 찢겨 나가거나, (2) 너무 큰 덩어리 안에 답이 희석되거나, (3) overlap 과다로 중복 ch...
들어가며 2026년 7월 arXiv에서는 LLM agent를 “더 잘 만들기”보다 “제대로 재기” 위한 벤치마크/평가 프레임워크 논문이 유독 많이 눈에 띄었습니다. 공통 결론은 단순합니다. 성공률은 생각보다 낮고, 길고 현실적인 워크플로우로 갈수록 급격히 무너진다는 것—이게 실무에 직격탄입니다.
2026-07-30 (목) 개발일지
dev-blog오늘의 회고 — 두 가지 이슈의 공통점: “직접 확인하지 않으면 모른다”
들어가며 LLM을 프로덕션에 붙일 때 진짜 어려운 건 “모델이 똑똑한가?”가 아니라 내 워크로드에서 실패하지 않는가입니다. 그런데 2026년 7월 기준으로도 많은 팀이 여전히 MMLU(지식/추론)와 HumanEval(코딩) 같은 전통 벤치마크 점수로 모델을 고릅니다. 문제는 이 점수들이 (1) 포화(saturation), (2) 오염(contamina...
Supervisor가 팀장이고 Worker가 실무자라면, 2026년형 Multi‑Agent Orchestration은 “대화형 LLM을 분산 시스템처럼 운영”하는 문제를 다룹니다
AI들어가며 2026년 7월 기준 multi-agent orchestration에서 supervisor/worker 패턴이 다시 주목받는 이유는 명확합니다. 단일 agent + tools로는 다음이 잘 안 풀립니다.
2026-07-29 (수) 개발일지
dev-blog오늘의 두 가지 — MCP Read 레이어의 경로 검증과 Cockpit 세션 유지
들어가며 LLM API 서버에서 “스트리밍”은 단순히 yield로 토큰을 흘려보내는 문제가 아닙니다. 실무에서는 다음이 같이 터집니다.
들어가며 프로덕션에서 LLM을 “파서 앞에 세우는” 순간, 실패의 대부분은 모델 지능이 아니라 인터페이스 계약(contract) 에서 터집니다. 예를 들어 “주문서 추출 → DB upsert → 결제/메일 발송” 같은 파이프라인에서 JSON이 한 글자만 깨져도 장애고, 더 흔하게는 JSON은 유효한데 schema를 안 지켜서(필수 필드 누락, 타입 틀...
2026-07-28 (화) 개발일지
dev-blog오늘의 이슈: SSH 전송 구현 중 설계 오해와 T5 probe 커버리지 공백
들어가며 전통적인 RAG는 대개 1회 검색(top-k) + 1회 생성으로 끝납니다. 문제는 실무에서 질문이 조금만 복잡해져도 “첫 검색이 틀리면 답 전체가 틀리는” 구조가 된다는 겁니다. 예를 들어: 사내 위키/티켓/PRD가 여러 곳에 흩어져 있고, 키워드가 애매함 최신/정확성 검증이 필요한 규정·정책 질의 “근거가 부족하면 더 찾아라” ...
들어가며 2026년 7월에도 Llama·Mistral·Qwen 계열을 중심으로 “open weights(가중치 공개)” 흐름은 이어졌지만, 실무 관점에선 모델 성능보다 라이선스/배포 조건이 더 큰 리스크 변수로 떠올랐습니다. 특히 Mistral은 Apache-2.0과 Modified MIT가 혼재하고, Qwen은 클라우드 정책/약관 레이어가 두꺼워지면...
들어가며 2026년 7월의 AI 코딩 도구들은 더 이상 “autocomplete 잘해주는 플러그인”이 아니라, 작업을 분해하고(Plan) → 여러 파일을 수정하고 → 테스트/검증까지 반복하는 agentic workflow가 중심입니다. 문제는 여기서부터입니다.
들어가며 2026년 7월 기준, “에이전트가 똑똑해지면 된다”는 기대는 대부분 깨졌습니다. 실제 장애는 모델 성능보다 state(상태) 관리에서 터집니다. 대표 증상은 아래와 같습니다.
들어가며 “리뷰 코멘트는 달리는데, 결국 CI가 깨져서 다시 고친다”는 상황은 2026년에도 반복됩니다. PR 단계에서 LLM이 잘 잡는 건 diff 기반의 논리 오류/예외 처리/컨벤션 위반이고, 반대로 실행을 통해서만 드러나는 회귀(regression) 는 여전히 CI가 담당합니다. 그래서 요즘 흐름은 AI 기반 코드 리뷰(PR bot) + 변경분에...
들어가며 대량 LLM 작업(문서 요약/분류/정규화, 로그·CS 티켓 라벨링, 카탈로그 정제, 대규모 RAG 인덱싱 전처리)을 synchronous API로 밀어 넣으면 보통 두 가지가 먼저 터집니다.
들어가며 프로덕션 장애/CI 실패/간헐적 테스트 플래키(flake) 같은 “재현은 어렵고, 로그는 많은” 문제에서 LLM을 그냥 채팅창에 붙여 넣으면 보통 2가지로 끝납니다. (1) 그럴듯한 추측(=hallucination) (2) 과도한 컨텍스트 덤프(=비용/시간 폭발). 2026년 흐름은 LLM을 “추론 엔진”이 아니라 “도구를 호출하며 증거를 수...
들어가며 현업에서 문서 자동화가 막히는 지점은 “텍스트를 읽느냐”가 아니라, (1) 레이아웃(heading/paragraph/reading order) 유지, (2) 표 구조(Table Structure Recognition) 재구성, (3) 최종 스키마에 맞춘 안정적인 structured extraction(JSON), 그리고 (4) 추출 결과를 원...
2026-07-24 (금) 개발일지
dev-blog오늘의 트러블슈팅: 포트폴리오 이미지 503과 사주 앱 공유카드 기능의 오해
들어가며
들어가며 2026년 7월, AI 규제 이슈는 “법이 생길까?”가 아니라 “어떤 조항이 언제부터 적용되며, 무엇을 증명해야 하느냐”로 완전히 넘어왔습니다. EU는 AI Act 적용(2026-08-02)을 앞두고 투명성 가이드라인을 내놓았고, 미국 FTC는 ‘AI 정확도 억제(suppression of accuracy)’를 소비자 기만(Section 5)...
2026-07-23 (목) 개발일지
dev-blog오늘의 트러블슈팅: 텔레메트리 조회 착각과 부하생성기 중복
들어가며 LLM 서빙에서 GPU 비용을 폭발시키는 주범은 대개 (1) KV cache 메모리 압박과 (2) decode 단계의 메모리 대역폭 병목입니다. 모델 weight만 줄인다고 해결되지 않는 이유는, 동시성(concurrency)과 긴 context에서 KV cache가 VRAM을 선형으로 잠식하고, 결국 배치/동시 요청을 못 올려 tokens/...
들어가며 LLM 파인튜닝용 데이터가 부족할 때, 요즘(2026년 7월 기준) 가장 현실적인 해법은 LLM으로 합성 데이터(synthetic data)를 만들고, 다시 LLM/룰로 검증·정제해 SFT/DPO 학습셋으로 굳히는 방식입니다. Meta의 synthetic-data-kit처럼 “생성 → 큐레이션 → 포맷 저장”을 파이프라인으로 고정하는 도구가 ...
2026-07-22 (수) 개발일지
dev-blog오늘의 회고: OTel export 누락, 봇 사망, 텔레그램 무응답 — 세 가지 다른 병목을 같은 날 추적했다
들어가며 실시간 음성 대화(“전화/웹에서 끊김 없이 대화”)가 어려운 이유는 모델 성능보다 지연(latency)과 턴테이킹(turn-taking) 때문입니다. STT가 “문장 끝”을 너무 늦게 확정하거나, LLM이 첫 토큰을 늦게 뱉거나, TTS가 “첫 오디오(time-to-first-audio)”가 늦으면 사용자는 바로 “로봇 같다/답답하다”로 체감...
들어가며 LLM API를 프로덕션에서 돌리다 보면 429(Too Many Requests / RESOURCE_EXHAUSTED)은 “내가 분당 한도를 넘겼다” 수준의 단순 문제가 아닙니다. 짧은 버스트(burst)로 인한 quantization, 토큰 기반 제한(TPM/ITPM/OTPM)과 요청 기반 제한(RPM)의 동시 작동, 조직/워크스페이스 단위...
들어가며 프로덕션에서 LLM을 “그럴듯하게” 쓰는 것과 “우리 조직의 톤/정책/지식 구조를 일관되게” 반영하는 것은 다릅니다. RAG만으로 해결하려 하면 (1) 문서가 길어질수록 프롬프트가 비대해지고 (2) 답변 스타일/형식이 흔들리고 (3) 도메인 특화 판단(예: 운영 규칙, 대응 우선순위)이 매번 재설명되어 비용이 커집니다. 이때 Fine-tuni...
들어가며 2026년 7월 AI 스타트업 시장은 “큰 라운드로 빠르게 스케일”과 “제품 워크플로우를 통째로 흡수하는 M&A”가 동시에 폭발했습니다. 특히 AI agents를 실제 매출/운영(RevOps, CS, Sales, SecOps) 흐름에 붙이는 회사들이 투자를 끌어가고, 빅테크는 그 흐름을 플랫폼 내 기능으로 내재화하는 쪽으로 움직였습니다...
2026-07-20 (월) 개발일지
dev-blog오늘은 크게 두 가지를 정리했다. 하나는 모바일 SDK의 행동 데이터 수집 파이프라인이 멈춰 있는 걸 복구한 일, 다른 하나는 포트폴리오 코딩 시각화 페이지에서 면접관 질문과 입력값을 제대로 보여주기 위해 레이아웃을 뜯어고친 일이다. 두 이슈 모두 원인을 찾는 데 예상보다 시간이 걸렸고, 중간에 방향을 두 번씩 틀어야 했다.
들어가며 2026년 기준으로 Agent를 “똑똑한 챗봇”에서 “업무를 실제로 처리하는 소프트웨어”로 끌어올리는 핵심은 tool use(function calling) 입니다. 모델이 자연어로만 답하는 게 아니라, 정형화된 호출(JSON Schema)로 외부 시스템(DB/HTTP/파일/큐/브라우저)을 실행하고 그 결과를 다시 추론에 반영하는 구조죠. O...
들어가며 멀티 에이전트가 해결하는 문제는 간단히 말해 “LLM 호출을 여러 번/여러 역할로 나눴을 때 생기는 복잡성(상태, 분기, 재시도, 승인, 추적, 비용)을 시스템적으로 관리”하는 것입니다. 데모는 쉽지만, 출시 단계에서 터지는 건 보통 다음 3가지입니다.
들어가며
들어가며 LLM/멀티모달 학습 데이터에서 중복(duplicate/near-duplicate/semantic duplicate) 은 단순히 “데이터를 더 크게 보이게” 만드는 문제가 아니라, (1) 학습 효율 저하, (2) 특정 패턴 과적합/기억(memorization) 강화, (3) 벤치마크 오염(contamination)로 성능 착시를 유발합니다. ...
들어가며 서버리스 LLM 배포가 해결하는 문제는 명확합니다: GPU/서빙 인프라를 상시 운영하지 않고도(=scale-to-zero), 트래픽에 맞춰 자동 확장하면서 LLM inference endpoint를 운영하는 것. 하지만 2026년에도 여전히 가장 큰 적은 cold start입니다. 특히 오픈소스 LLM은 “컨테이너 부팅 + CUDA init ...
들어가며 현업에서 LLM이 “대충 그럴듯한 답”은 잘 내는데, 복잡한 의사결정/다단계 작업(요구사항 충돌, 제약 최적화, 디버깅, 평가 기준이 많은 추천 등)에서는 다음 문제가 반복됩니다.
들어가며 LLM 앱을 운영해보면 장애의 원인이 “코드 예외”보다 “모델 호출/프롬프트/툴 체인”에 숨어있는 경우가 더 많습니다. 예를 들어:
들어가며 2026년 7월 초, OpenAI와 Anthropic이 각각 GPT-5.6, Claude Sonnet 5를 공식 출시하며 “최신 모델 교체” 사이클이 다시 한 번 크게 돌았습니다. 반면 Google은 7월에 “완전히 새로운 Gemini LLM”을 명확히 발표하기보다는, Gemini를 Chrome/앱에 더 깊게 넣는 방향(Agent 경험 확장)...
2026-07-16 (목) 개발일지
dev-blog오늘의 회고: 편견을 깨는 순간
들어가며 LLM을 백엔드에 붙이면 금방 마주치는 문제가 있습니다.
들어가며 LLM long context window(200K~1M+ tokens)가 “문서를 통째로 넣고 끝”을 가능하게 만든 건 맞습니다. 하지만 2026년 현재 실무에서 더 자주 겪는 문제는 따로 있습니다.
2026-07-15 (수) 개발일지
dev-blog사주 엔진 4주 계산 교체 — 100% 검증이 깨진 순간
들어가며 2026년 7월의 비디오 AI는 모델 성능 자체도 중요하지만, “어떤 프레임(혹은 구간)을 모델에 먹일지”를 결정하는 파이프라인이 실제 품질/비용을 좌우합니다. 긴 영상(회의 녹화, 강의, CCTV, 스포츠, 게임 리플레이)을 “그냥 1fps로 샘플링”하면 토큰/비용은 줄지만 질의에 필요한 근거 프레임을 놓쳐서 답이 틀리거나, 반대로 모든 프...
들어가며 CLI 기반 AI 코딩 에이전트가 해결하는 문제는 명확합니다. (1) 레포 탐색/이해 → (2) 수정 → (3) 테스트/실행 → (4) PR 품질 체크를 사람 손으로 왕복하던 루프를, 터미널에서 “도구 호출(tool-call) + 권한 승인(approval) + 세션 지속(session)”으로 묶어 반복 비용을 낮추는 것입니다.
2026-07-14 (화) 개발일지
dev-blog오늘의 이슈: 마키나락스 포트폴리오 문서에서 Qwen2.5-14B 잔재 정리 — 단순 치환이 아니라 메모리 참조까지 추적한 이유
들어가며 RAG 성능이 흔들릴 때 원인은 대부분 “LLM이 못해서”가 아니라 retrieval 단계에서 답이 될 근거가 prompt에 들어오지 못해서입니다. 특히 아래 같은 증상은 1-stage vector search만으로는 한계가 빨리 옵니다.
들어가며 2026년 7월 초, OpenAI는 GPT‑5.6을 ChatGPT·Codex·OpenAI API 전반에 걸쳐 공개했고, Anthropic과 Google은 “API 운영 정책/플랫폼 기능”을 손보며 개발자 경험의 무게중심을 바꿨습니다. 요약하면, 이제는 모델 성능만이 아니라 키 보안, 과금 통제, 레이트 리밋, 폐기(Deprecation) 일정...
2026-07-13 (월) 개발일지
dev-blog오늘의 회고: ai-tech-digest CI 실패, 그리고 그보다 더 깊은 문제
들어가며 프론트엔드에서 “UI를 빨리 그려서” 끝나는 일이 점점 줄었습니다. 대개는 디자인 시스템 준수(토큰/컴포넌트 규칙), 상태/라우팅/권한, API 연동, 테스트, 배포 파이프라인까지 한 번에 엮여야 “쓸 수 있는 UI”가 됩니다. 이 지점에서 2026년 현재 실무자들이 v0와 bolt.new를 보는 관점은 명확합니다:
들어가며
들어가며 RAG에서 “검색이 잘 된다”는 말은 보통 (1) 필요한 근거를 놓치지 않고(recall), (2) 상위에 쓸모없는 조각을 올리지 않으며(precision), (3) 점수/모델/도메인이 바뀌어도 튜닝이 무너지지 않는(stability) 상태를 뜻합니다. 2026년 시점에도 여전히 BM25(lexical)만으로는 의미 기반 질의에 약하고, ve...
들어가며 PR 기반 개발에서 반복되는 병목은 늘 비슷합니다.
GraphRAG(2026.7)로 Knowledge Graph RAG를 “프로덕션급”으로 구현하는 법: 인덱싱 비용, Local/Global/DRIFT 설계, Neo4j 연동까지
AI들어가며 Vector RAG(Chunk + Embedding + TopK)로는 문서 간 관계 추론이 필요한 질문에서 자주 막힙니다. 예를 들면:
들어가며 문서 OCR/이해 파이프라인이 해결하는 문제는 단순히 “PDF에서 text 뽑기”가 아닙니다. 실무에서 진짜 골칫거리는:
2026-07-09 (목) 개발일지
dev-blog오늘의 회고: 사주 출시 블로커 — 백엔드는 완성인데 왜 앱이 안 열리나
2026-07-08 (수) 개발일지
dev-blog오늘은 세 가지 주요 트러블슈팅을 진행했다. 첫째는 bit-scalp 트레이딩 봇의 SL(stop-loss)이 한 방향으로만 확대되던 피드백 루프, 둘째는 자동화 수집기 파이프라인이 2주간 멈춰 있던 uv 경로 불일치, 셋째는 사주 앱 백엔드가 배포 직후 전 API에서 500을 뱉던 DB 스키마 드리프트. 셋 다 “일단 돌아가고 있으니까”라고 넘겼던 ...
들어가며 RAG에서 chunking(document splitting) 은 “대충 자르면 되는 전처리”가 아니라, 검색 품질(Recall/Precision)과 비용(embedding/index size), 그리고 답변의 근거성(groundedness)을 동시에 좌우하는 핵심 설계 변수입니다. 2026년 들어 “semantic chunking이 만능”이...
들어가며 2026년 7월 기준, “실시간 음성 대화”의 병목은 더 이상 모델 지능만이 아닙니다. 사용자가 말을 멈추기 전에도 시스템이 생각을 시작하고, 필요하면 사용자의 barge-in(끼어들기) 에 즉시 반응하며, 첫 오디오가 수백 ms 단위로 나가야 “사람과 대화”처럼 느껴집니다. 이 UX를 만들려면 스트리밍, 풀듀플렉스, 턴테이킹이 핵심이고, 구...
들어가며 RAG/semantic search/추천 시스템에서 “LLM 성능” 못지않게 결과를 갈라놓는 게 embedding model 선택입니다. 같은 Vector DB, 같은 chunking을 써도 임베딩이 무엇을 ‘가깝다’고 학습했는지에 따라 검색 품질·비용·운영 난이도가 확 달라집니다.
들어가며 2026년 7월 초 arXiv 흐름을 훑어보면, “더 큰 모델” 자체보다 tool-using agent를 어떻게 현실적으로 평가하고, RAG를 어떻게 구조화해 운영 가능하게 만들지가 전면으로 올라왔습니다. 특히 새 벤치마크들이 공통적으로 보여주는 메시지는 하나예요: 에이전트는 툴을 ‘호출’하는 건 늘었지만, ‘탐색·과정 품질·환경 적응’에서 ...
2026-07-06 (월) 개발일지
dev-blog오늘의 작업 회고
들어가며 LLM을 프로덕션에 붙여 “대량 요청(수십만~수천만 건)”을 처리하려는 순간, 비용과 처리량 문제가 동시에 터집니다. 동기(synchronous) 호출로는 QPS 한계, 스로틀링, 재시도 폭주, 피크 시간 비용이 겹치고, 무엇보다 “지금 당장”이 아닌 작업(리포트 생성, 로그 요약, 제품 카탈로그 정규화, 오프라인 평가/라벨링, 백필(back...
들어가며 2026년 중반 기준 AI 애플리케이션의 실패 원인은 “모델 성능”보다 아키텍처에서 더 자주 터집니다. 특히 (1) 멀티스텝 작업이 길어지고, (2) tool 호출이 늘고, (3) RAG가 단순 검색에서 “agentic RAG”로 진화하면서 상태(state)·복구(replay)·격리(sandbox)·관측(observability)·비용 통제가...
들어가며 LLM 서빙에서 진짜 골치 아픈 문제는 “모델을 띄우는 것”이 아니라 (1) GPU 메모리(KV cache) 한계, (2) 동시성/지연시간(TTFT) 균형, (3) 운영 난이도(배포·관측·롤백) 입니다. 2026년 7월 기준으로 현업에서 가장 자주 거론되는 선택지가 vLLM, Hugging Face TGI(Text Generation Infe...
들어가며 LLM API 서버를 만들다 보면 “응답을 빨리 시작해서(=TTFT, Time To First Token) 사용자가 기다리는 느낌을 줄이고 싶다”가 거의 필수 요구가 됩니다. 문제는 모델이 토큰을 생성하는 속도가 아니라, 그 토큰이 내 서버 → 프록시/로드밸런서 → 브라우저/앱까지 끊김 없이 전달되는 “스트리밍 파이프라인”을 구성하는 게 더 ...
들어가며 LLM fine-tuning의 현실적인 문제는 간단합니다. 데이터는 있는데 GPU 메모리가 부족하고, full fine-tuning은 비용/시간/불안정성(학습 폭주, catastrophic forgetting)이 큽니다. LoRA/QLoRA는 이 문제를 “모델 전체를 업데이트하지 말고, 적은 추가 파라미터만 학습하자”로 푸는 대표적인 PEFT...
2026년 7월, Kubernetes에서 LLM 서빙을 “GPU 오토스케일”로 굴리는 현실적인 방법: KEDA + (Queue Depth / KV Cache) + DCGM/NVML
Infra들어가며 LLM inference를 Kubernetes 위에 올리면 금방 마주치는 문제가 있습니다. HPA는 CPU/Memory 위주로 설계되어 있어서, 실제 병목인 GPU pressure(Compute, VRAM, KV cache, queueing)를 제대로 반영하지 못합니다. 결과는 뻔합니다: 트래픽이 늘었는데도 replica가 늦게 늘어 P...
2026-07-03 (금) 개발일지
dev-blog오늘은 demo_apps 프로젝트에서 SDK 모듈이 호스트 앱에 종속되지 않도록 설계되었는지 전수 감사하고, 예상치 못한 세션 ID 변경 동작을 추적한 과정을 정리했다. 결과적으로 두 이슈 모두 “설계 의도대로 동작 중”이라는 결론에 도달했고, 불필요한 오해를 줄이기 위해 문서화도 함께 진행했다.
들어가며 에이전트를 “대화형 API”에서 “장기 실행 시스템”으로 바꾸는 순간, 두 문제가 즉시 터집니다.
들어가며 2026년 6월 말~7월 초, OpenAI와 Anthropic의 신규 모델 발표가 “성능 경쟁”을 넘어 “접근 통제(approval / export control)” 이슈로 번졌습니다. 같은 시기 Google은 I/O 2026을 중심으로 Gemini를 ‘agentic’ 제품/플랫폼으로 확장하며 다른 축의 경쟁을 강화하고 있고요. (axios....
2026-07-02 (목) 개발일지
dev-blog오늘의 트러블슈팅 — 밸류에이션 시그널 재정립부터 NVIDIA NIM 통합·스냅샷 회복까지
들어가며 LLM/검색·추천/분류 모델이든, 결국 성능은 학습 데이터 분포와 오염(contamination)에 끌려갑니다. 특히 2026년 현재는 크롤링·RAG·멀티모달 수집이 일상화되면서, 데이터 파이프라인에서 가장 흔한 실패가 이 3가지로 수렴합니다.
들어가며 2026년의 “AI 앱”은 더 이상 프롬프트 → 응답 문자열로 끝나지 않습니다. 사용자는 즉시 반응(Streaming), 도구 호출(Tool calling), 구조화된 결과(Structured output), 장시간 작업(브라우저 자동화/크롤링/문서 처리), 비용/관측(Observability)까지 요구합니다. Next.js(App Route...
들어가며 LLM/Agent를 실제 업무 시스템에 붙일 때 가장 큰 비용은 “모델 ↔ 툴/데이터 소스” 연결부가 매번 커스텀으로 증식하는 문제입니다. MCP(Model Context Protocol)는 이 M×N 통합 폭발을 “표준화된 서버/클라이언트” 구조로 줄이려는 프로토콜이고, Claude(Desktop/Claude Code/claude.ai 등)...
2026년 6월 기준: AI Agent의 “Tool Use + Function Calling”을 프로덕션에 올리는 구현 패턴 (Agents SDK/Responses API 중심)
AI들어가며 AI Agent의 tool use(function calling)는 “모델이 말을 잘하는 것”에서 “모델이 일을 하게 만드는 것”으로 넘어가는 관문입니다. 하지만 2026년에도 현실은 단순하지 않습니다. 데모에서는 잘 되는데, 프로덕션에서는 (1) 잘못된 tool 선택, (2) schema를 어기는 args, (3) 멀티스텝에서의 누적 오류,...
2026-06-30 (화) 개발일지
dev-blogFinceptTerminal 다관점 추천 — 백테스트 검증과 score recalibration의 함정
들어가며 CoT(Chain-of-Thought)는 한때 “Let’s think step by step” 한 줄로 복잡한 문제 해결률을 끌어올리는 만능키처럼 소비됐습니다. 하지만 2026년 6월 시점의 현실은 좀 더 냉정합니다. Reasoning model 계열은 이미 내부적으로 reasoning을 수행하고, 노골적인 CoT 요구는 불필요하거나 오히려 ...
들어가며 2026년 6월 AI 반도체 시장의 키워드는 “NVIDIA Blackwell 수요 폭증에 따른 공급망 병목”과 “Rebellions·FuriosaAI 같은 NPU 업체의 시스템 단위 공세”입니다. GPU가 절대 강자인 구도는 유지되지만, 실제 현장(조달/배포/운영)에서는 전력·패키징·메모리(HBM/SOCAMM) 제약이 기술 선택에 더 직접적인...
2026-06-29 (월) 개발일지
dev-blog오늘의 트러블슈팅: 역프롬프트 템플릿 라이브러리 — 8개 컷 이미지 생성이 왜 한 번에 안 되는가
들어가며 AI 코딩 어시스턴트의 진짜 병목은 “코드 생성 능력”이 아니라 컨텍스트 주입(규칙/문서/레포 구조) + 실행 권한(터미널/PR/외부 API) + 비용 통제입니다. 2026년 6월 시점의 Cursor / GitHub Copilot / Windsurf(Cascade)는 모두 agentic workflow로 수렴했고, MCP(Model Conte...
들어가며 프로덕션 RAG에서 성능이 “거의 맞는데 결정적으로 틀리는” 케이스는 보통 retrieval 단계에서 top-k 안에 정답 근거가 못 들어오거나, 들어와도 상위에 못 올라와 LLM 프롬프트에 실리지 않아서 발생합니다. 2026년 기준 현업에서 가장 재현성 있게 먹히는 처방은 크게 3가지 축입니다:
2026-06-28 (일) 개발일지
dev-blog오늘의 작업: 세 프로젝트에서 만난 예상 밖의 충돌과 그 수습
들어가며 LLM 비용이 커지는 지점은 대부분 “매 호출마다 똑같이 다시 보내는 긴 프롬프트”입니다. 예를 들어 시스템 지침, tool schema(JSON Schema), 정책/가드레일, 예시 few-shot, 고정 RAG 문서 번들, 에이전트 메모리 등이 매번 수천~수만 토큰씩 들어가면 입력(pre-fill) 비용이 폭발합니다. 2026년 기준 주요...
들어가며 LLM을 백엔드에 붙이면 요청-응답이 “느리고 비싸고 변덕스럽다”는 문제가 한꺼번에 옵니다. 특히 (1) 모델 응답이 수 초~수 분까지 늘어나는 tail latency, (2) 재시도/타임아웃으로 인한 중복 호출(=비용 폭탄), (3) 워커 재시작/장애 시 작업 유실 또는 중복 처리, (4) 스트리밍/폴링/웹훅 등 전달 방식이 섞이면서 생기는...
들어가며 프로덕션에서 LLM을 “파서가 먹을 수 있는 형태”로 쓰려면 결국 구조화된 출력(structured output) 이 핵심입니다. 로그를 보면 장애의 상당수가 모델 성능이 아니라 출력 포맷 붕괴(필드 누락/타입 불일치/여분 필드/코드펜스/부분 JSON) 에서 시작하거든요. 그래서 2026년엔 다들 JSON을 요구하는데, 문제는 “JSON”만으...
들어가며 2026년의 AI Agent 개발에서 진짜 문제는 “LLM 호출을 잘 묶는 것”이 아니라, (1) 멀티 에이전트의 제어 흐름(control flow)을 어떻게 명시적으로 관리할지, (2) 상태(state)·메모리(memory)·툴(tool) 사용을 어떻게 재현 가능하게 만들지, (3) 보안 경계(특히 localhost/툴 실행)와 관측성(ob...
2026-06-26 (금) 개발일지
dev-blog오늘은 두 가지 이슈를 파고들었다. 하나는 bit-scalp 봇이 리팩토링 후 포지션 진입을 멈춘 원인 추적, 다른 하나는 demo_apps Android Compose 화면에서 아이콘만 렌더링되고 전체 UI가 안 나오는 문제였다. 전자는 시그널 로직은 살아있는데 게이트가 막고 있었고, 후자는 Compose와 View의 래스터 방식 차이를 몰랐던 게 ...
들어가며 RAG 시스템을 운영해보면 “semantic search만으로는” 자꾸 빈틈이 드러납니다. 대표적으로:
들어가며 2026년 6월은 빅테크 AI의 “새 모델 발표”보다 API 운영 방식과 보안/정책 레이어가 크게 흔들린 달로 기억될 가능성이 큽니다. Google은 Gemini API에서 unrestricted API key 차단을 시작했고, Anthropic은 Workload Identity Federation(WIF) GA로 “키 없는 인증”을 전면에 ...
2026-06-25 (목) 개발일지
dev-blog오늘의 트러블슈팅 — 브리지·시뮬레이터·트레일링 3종 이슈
들어가며 프로덕션에서 LLM을 붙인 시스템(코딩 에이전트, RAG, tool-using agent)이 깨질 때 가장 짜증나는 지점은 재현(repro)과 원인 규명(RCA)이 기존 디버깅 방식으로 잘 안 먹힌다는 겁니다. 로그는 길고(프롬프트/컨텍스트/툴 응답), 비결정적이며(temperature, tool timing), 실패는 “코드 예외”가 아니라...
들어가며 LLM API를 운영에 붙이면 “가끔 느려짐”이 아니라 특정 순간에 429(Too Many Requests)가 연쇄적으로 터지며 장애처럼 보이는 현상을 자주 겪습니다. 특히 트래픽이 bursty(짧은 시간에 몰림)한 서비스(챗봇/에이전트, 비동기 배치, 이미지/음성처럼 요청당 비용이 큰 작업)에서 더 심합니다. OpenAI는 rate limi...
2026-06-24 (수) 개발일지
dev-blog오늘은 bit-scalp 트레이딩 봇의 손익 비대칭을 잡았다.
들어가며 서버리스 LLM 배포가 해결하는 문제는 명확합니다: 트래픽이 들쭉날쭉한 추론 서비스에서 “항상 켜둔 GPU” 비용을 피하면서도, 배포/스케일링/운영 부담을 줄이는 것. 문제는 더 명확합니다: cold start가 곧 UX가 됩니다. LLM은 컨테이너 기동 + CUDA 초기화 + 수 GB~수십 GB weight 로드 + 엔진(vLLM 등) 초기...
들어가며 LLM 파인튜닝에서 가장 비싼 비용은 GPU가 아니라 “좋은 데이터”입니다. 특히 (1) 로그/대화가 민감정보를 포함하거나, (2) 케이스 커버리지가 부족하거나, (3) 레이블링 인력이 없거나, (4) 평가 기준이 애매한 도메인(고객지원, 정책 준수, 보안, 의료/법률 등)에서는 합성 데이터 생성(SDG, Synthetic Data Gener...
2026-06-23 (화) 개발일지
dev-blog오늘은 FinceptTerminal 다관점 스코어링 엔진을 실제 종목 캐시에 돌릴 때 드러난 두 가지 버그를 잡았다. 하나는 yfinance가 특정 종목에 대해 'Infinity' 문자열을 그대로 내뱉는 케이스, 다른 하나는 섹터-팩터 디스패치 맵에서 이름 충돌이 일어나는 구조적 문제였다. 둘 다 결과 점수를 왜곡시키는 원인이라, 빌드 전에 걸러내지 ...
들어가며 RAG에서 “검색은 됐는데 답이 이상하다/근거가 약하다/헛소리를 한다”의 상당수는 embedding 모델이나 vector DB가 아니라 document splitting(=chunking) 설계 문제로 귀결됩니다. 고정 길이로 잘라 넣으면 다음 문제가 반복됩니다.
들어가며 2026년 6월 기준 AI 보안 이슈의 중심은 여전히 prompt injection/jailbreak이지만, 양상이 바뀌었습니다. “대화창 속 탈옥”에서 끝나지 않고, tool calling/MCP 기반 에이전트가 실제 실행(RCE)·데이터 유출·공급망 오염으로 이어지는 사례와 연구가 4~6월에 집중적으로 쏟아졌습니다. (ox.security)
2026-06-22 (월) 개발일지
dev-blog오늘의 회고: 외부 API 스펙·플랫폼 포팅·네트워크 변경 — 세 가지 다른 종류의 트러블슈팅
들어가며 LLM/RAG/멀티모달 같은 AI 기능은 “모델 성능”만큼이나 데모 UX가 성패를 가릅니다. 문제는 대부분의 팀이 (1) 백엔드는 FastAPI로 잘 만들었는데 (2) 프론트는 리소스가 없고 (3) PM/세일즈/내부검증을 위해 빠르게 클릭 가능한 UI가 필요하다는 점입니다. 이때 선택지가 Streamlit/Gradio로 수렴합니다.
들어가며 전통적인 RAG는 보통 (1) 한 번 검색 → (2) 컨텍스트 주입 → (3) 답변 생성으로 끝납니다. 하지만 실무 질문은 대개 “검색 쿼리를 어떻게 쪼개야 하지?”, “지금 가져온 근거가 부족한데?”, “서로 충돌하는 문서가 있는데?” 같은 후속 의사결정이 필요합니다. 이 지점에서 Agentic RAG(=RAG를 tool call로 만들고,...
2026-06-21 (일) 개발일지
dev-blog오늘의 트러블슈팅: HA 웹 데드락, 몽글목장 타입 안전성, 그리고 CRLF 파싱의 함정
들어가며 LLM 서빙을 실제 프로젝트에 붙이면 곧바로 부딪히는 문제는 3가지입니다: (1) 동시성에서의 처리량(throughput) 붕괴, (2) KV cache로 인한 VRAM 고갈/파편화, (3) 배포/운영 복잡도(업데이트, 모델 관리, 보안 노출). 2026년 6월 기준으로 현업에서 자주 비교되는 선택지가 vLLM / Hugging Face TG...
들어가며 2026년 6월 기준 multi-agent orchestration은 “여러 에이전트가 채팅하는 데모”를 넘어, 비용/신뢰성/운영을 정면으로 다루는 아키텍처로 자리 잡았습니다. 특히 Supervisor/Worker 패턴(= manager-worker, orchestrator-worker)은 여전히 “프로덕션 기본값”으로 가장 많이 채택됩니다....
들어가며 실시간 음성 대화(voice-to-voice) 프로젝트에서 진짜 문제는 “정확도”가 아니라 지연(latency)·턴테이킹(turn-taking)·중단/수정(barge-in)·네트워크 품질·비용 폭주입니다. 2026년 6월 기준으로 시장이 빠르게 바뀐 지점은, 더 이상 음성 UX를 “STT → LLM → TTS” 샌드위치로만 보지 않고, (1)...
들어가며
2026-06-19 (금) 개발일지
dev-blog오늘의 이슈 세 가지 — 모드 전환 진동, 크래시 리포팅 anonymous_id, OpenRouter 모델 리스트 실제 개수
들어가며 2026년 6월 기준, LLM API 비용 최적화는 더 이상 “프롬프트 조금 줄이기”로 해결되지 않습니다. 실제로 비용은 (1) 긴 system/context 재전송, (2) 불필요하게 비싼 모델 고정 사용, (3) 출력 토큰 폭주에서 터집니다. 특히 agent/RAG/코드리뷰처럼 “매 호출마다 비슷한 긴 컨텍스트”를 넣는 워크로드는 토큰이 ...
들어가며 2026년 6월 LLM 시장의 핵심 뉴스는 “새 모델이 나왔다”보다 “나온 모델이 갑자기 막혔다”에 가깝습니다. Anthropic의 Claude Fable 5/Mythos 5가 공개 직후 미 정부 지시로 전면 중단되면서, 이제 경쟁축이 벤치마크를 넘어 배포 가능성(규제·세이프가드·리스크)으로 이동하고 있습니다. (anthropic.com)
2026-06-18 (목) 개발일지
dev-blog오늘의 트러블슈팅 — 3개 프로젝트에서 건진 두 가지 패턴
들어가며 LLM inference는 CPU나 memory가 아니라 GPU(SM utilization / VRAM / batch/queue) 가 병목인 경우가 대부분인데, Kubernetes 기본 autoscaling(HPA)은 전통적으로 CPU/Memory 중심이라 “트래픽이 늘었는데도 GPU가 이미 95%인데 pod 수가 안 늘어나는” 상황이 자주 ...
들어가며
2026-06-17 (수) 개발일지
dev-blog오늘은 두 가지 문제를 잡았다. 하나는 ai-tech-digest의 데이터 수집 파이프라인에서 모델 마이그레이션이 구멍난 부분, 다른 하나는 study_game_v2 퀴즈팩의 정답 위치 편향이다. 전자는 “메인 모델만 바꾸면 끝”이라는 안일한 가정이 깨진 과정이고, 후자는 “검증은 에러만 안 나면 괜찮다”는 착각이 부른 후폭풍이었다. 두 문제 모두 결...
들어가며 LLM을 “대량 처리”로 붙이는 순간, 비용 문제는 토큰 단가만으로 설명이 안 됩니다. 같은 모델/같은 프롬프트라도 (1) 요청을 어떻게 묶고 (2) 어디서 큐잉하며 (3) 실패·재시도·중복을 어떻게 다루는지에 따라 월 비용이 2~5배까지 갈립니다. 그래서 2026년 6월 시점엔 “Batch inference API(비동기 대량 처리)”가 사...
들어가며
2026-06-16 (화) 개발일지
dev-blog오늘의 두 이슈 — iCloud vault 계층 복구와 collector 파이프라인 심층화
들어가며 Next.js로 AI 앱을 만들 때 팀이 가장 많이 막히는 지점은 “모델 호출 자체”가 아니라 제품 형태로 만들기 위한 풀스택 접점입니다. 예를 들면:
들어가며 2026년 6월 기업 AI 도입의 키워드는 “전사 배포(rollout)”와 “ROI 검증(rollback)”이 동시에 진행된다는 점입니다. Copilot·Agent가 실제로 더 넓게 깔리고 있지만, 비용/데이터/거버넌스 때문에 조용히 축소되는 사례도 같이 늘고 있습니다. (news.microsoft.com)
2026-06-15 (월) 개발일지
dev-blog오늘은 GitHub 프로필 페이지에 README가 보이지 않는 문제와 bit-scalp 전략에 3분봉 RSI 게이트를 추가하면서 평균회귀와 리버스 매매의 본질적 동일성을 확인한 일을 정리했다.
2026-06-12 (금) 개발일지
dev-blog오늘은 프로젝트 세 개를 동시에 돌리면서 만난 이슈들을 정리했다. 하나는 광고 영상 해상도 결정(실측 비용 비교), 다른 하나는 트레이딩 봇의 V2 전략 피드백(데이터로 밝혀낸 3분봉 추가), 마지막은 포트폴리오 UI에 한국개미 모드를 붙이는 작업. 각각 사고 흐름이 달랐지만 공통점은 ‘가설을 세우고 실제 데이터로 검증’하는 과정이었다.
2026-06-11 (목) 개발일지
dev-blog오늘은 운영 중인 두 트레이딩 봇(V2, V5) 사이에서 발생한 slot lock 충돌과, 모바일 리플레이 시스템의 crash 데이터 유실 문제를 잡았다. 전자는 lock 정책의 단순 누락이었고, 후자는 메모리 전용 버퍼의 구조적 한계였다. 둘 다 원인을 좁혀가는 과정에서 의외의 지점을 발견했다.
들어가며 프로덕션 RAG에서 가장 흔한 실패 패턴은 단순합니다. 정답 문서가 인덱스에 존재하는데도 LLM이 못 봅니다. 이유는 대개 (1) query가 코퍼스 표현과 어긋나거나, (2) 1차 retrieval이 후보를 충분히 못 모으거나(Recall 문제), (3) 후보는 모였는데 top-k에 못 올라오는(Precision 문제) 케이스입니다. 이때 ...
들어가며 RAG에서 “정답이 코퍼스에 있는데도” 모델이 엉뚱한 답을 내는 순간은 대개 retrieval이 틀렸을 때입니다. 특히 실무 데이터는 다음 두 부류의 쿼리가 섞입니다.
2026-06-10 (수) 개발일지
dev-blog오늘은 세 가지 프로젝트에서 발견한 서로 다른 성격의 버그와 최적화를 정리했다. 하나는 잘못된 측정 기준이 만든 보이지 않는 상한 오버슛, 하나는 K값이 원인이 아니라 regime 전환을 놓친 전략의 맹점, 하나는 API 오용이 아니라 SDK 수준의 잘못된 판단으로 인한 84% 비용 낭비였다. 세 가지 모두 “보이는 숫자에 속았다”는 공통점이 있었다.
들어가며 RAG/검색/추천 시스템에서 임베딩 모델 선택은 “정확도”만의 문제가 아닙니다. 한 번 모델을 고르면 (1) 전체 코퍼스 re-embedding 비용, (2) 벡터 차원에 따른 DB 스토리지/쿼리 비용, (3) 언어/도메인 적합성, (4) 운영 제약(지연, 배치 처리, 온프렘)까지 연쇄적으로 고정됩니다. 특히 OpenAI는 text-embed...
들어가며 LLM 기반 기능을 프로덕션에 붙이면 금방 마주치는 문제가 있습니다.
2026-06-09 (화) 개발일지
dev-blog오늘은 네 가지 프로젝트에서 잡힌 이슈들을 정리했다. 특히 demo_apps 세션 리플레이 쪽이 제일 까다로웠다 — SwiftUI accessibility element 포착에서 시작해 SnapNode.role PII 유출로 번지고, 결국 iOS/Android 양쪽의 accessibility identifier 처리 경로를 전면 수정하게 됐다. bit...
들어가며 프로덕션 LLM 비용이 새는 가장 흔한 지점은 “매 요청마다 똑같은 긴 prefix( system instructions, tool schema, 정책, 예시, RAG 상단 컨텍스트 )를 다시 prefill”하는 구간입니다. Prompt Caching은 이 prefix의 KV cache(Attention key/value 텐서)를 재사용해 입...
들어가며 2026년 6월 시점의 오픈소스(정확히는 open-weight) LLM/VLM 트렌드는 “누가 더 똑똑한 모델을 냈나”보다 “누가 지속적으로 공개하고, 파생 생태계를 키우며, 라이선스로 상용화 마찰을 줄였나”로 무게중심이 옮겨갔습니다. 최근 흐름을 보면 Qwen은 빠른 릴리즈로 점유율을 넓히는 반면, Meta Llama는 다음 오픈 공개가 지...
2026-06-08 (월) 개발일지
dev-blog오늘의 트러블슈팅: Android 데모앱 mobile.jank.frame user.id 누락 — 중복 초기화가 만든 허점
들어가며 LLM을 도입/교체할 때 가장 흔한 실패는 벤치마크 점수(예: MMLU, HumanEval)를 ‘성능의 진실’로 오해하는 겁니다. 2026년 6월 기준으로도 여전히 모델 릴리즈 노트에는 “MMLU xx%, HumanEval yy%”가 전면에 나오지만, 실무에서는 다음 문제가 반복됩니다.
들어가며 LLM을 내 도메인(사내 용어, 고객 질의 패턴, 스타일 가이드, 특정 포맷 출력)에 맞추려면 결국 fine-tuning이 가장 강력합니다. 문제는 비용(시간/VRAM)과 운영 복잡도죠. “그냥 full fine-tuning”은 품질은 좋을 수 있지만 GPU 메모리/학습 비용이 커서 팀 단위 운영에 잘 안 맞습니다.
들어가며 LLM/RAG/vision 모델을 “지금 당장” 이해관계자에게 보여줘야 할 때 가장 자주 부딪히는 문제는 UI가 아니라 데모의 운영성입니다. 즉, (1) 매 클릭마다 재실행되어 상태가 꼬이거나, (2) 동시 접속에서 큐/스트리밍이 망가지거나, (3) 모델/Vector DB 연결을 매번 다시 만들어 느려지거나, (4) 보안 기본값이 허술한 채로...
들어가며 LLM을 “돌아가게” 만드는 건 쉽습니다. 문제는 여러 사용자가 동시에 쓰는 순간부터 시작합니다: KV cache 폭증으로 OOM, 요청별 지연시간 요동, 배치가 안 잡혀 GPU utilization이 들쭉날쭉, 모델 로딩이 느려서 재시작이 곧 장애가 되는 식이죠. 이런 문제를 해결하려고 2026년에도 현장에서 많이 쓰는 선택지가 vLLM /...
2026-06-06 (토) 개발일지
dev-blog오늘의 트러블슈팅: 세 가지 프로젝트에서 맞닥뜨린 예상 밖의 발견들
들어가며 실시간 음성 에이전트에서 개발자가 실제로 겪는 문제는 단순히 STT 정확도가 아닙니다. “사용자가 말 끝나자마자 1초 안에 첫 소리가 나오는가”, “중간에 끼어들면(barge-in) 자연스럽게 멈추는가”, “네트워크가 흔들려도 세션이 살아남는가” 같은 대화 UX/시스템 문제가 핵심입니다. 엔터프라이즈에선 여기에 관측(Observability)...
들어가며 AI 코딩 도구를 6개월 이상 실전에 붙여본 팀에서 공통으로 부딪히는 문제는 “생성 품질”이 아니라 일관성(consistency)과 비용/속도, 그리고 컨텍스트 폭발입니다. PR 단위로 보면 비슷한 작업을 반복하는데도 결과가 들쭉날쭉하고, 에이전트가 workspace를 과하게 스캔해 느려지고, 컨텍스트가 금방 꽉 차서 대화가 압축(c...
2026-06-05 (금) 개발일지
dev-blog오늘의 두 가지 — PDF 발송 3일째 죽던 버그와, 승률 0%를 만든 전략의 맹점
들어가며 LLM API 비용이 폭증하는 패턴은 꽤 정형적입니다.
들어가며 2026년 6월 초 AI 반도체 이슈는 “GPU 성능 경쟁”을 넘어 온디바이스(PC) 확장, 추론(inference) 중심 재편, 그리고 전력/메모리(특히 HBM)·패키징이 병목인 공급망 현실로 요약됩니다. NVIDIA는 Blackwell을 PC까지 확장했고, 한국의 Rebellions·FuriosaAI는 “추론용 AI accelerator”...
2026-06-04 (목) 개발일지
dev-blog사주 앱 디자인 결함 + e2e 재검증 — nudenet fail-open, 결제 실패 빈 화면, 그리고 WebSocket 실시간 채팅까지
들어가며 프론트엔드에서 시간이 가장 많이 새는 구간은 “UI 스캐폴딩”과 “반복 UI 구현(컴포넌트/상태/반응형/디자인 시스템 정렬)”입니다. 2026년 현재 v0.dev(이하 v0)와 bolt.new(이하 Bolt)는 이 구간을 AI로 압축하는 대표 조합입니다. v0는 Next.js/React + Tailwind + shadcn/ui에 강하게 최적화...
들어가며 2026년 6월 기준 멀티모달 AI(Vision-Language Model, VLM)는 “이미지를 설명하는 모델”을 넘어 이미지에서 의미 있는 구조화 데이터(entities, defects, UI 상태, 문서 필드 등)를 안정적으로 뽑아내고, 그 결과를 후속 시스템(검색/DB/워크플로우/검증 로직) 에 연결하는 단계로 넘어왔습니다. 특히 Op...
들어가며 2026년 들어 AI 앱의 실패 원인은 더 이상 “모델이 멍청해서”가 아니라, 실행 레이어(execution layer)·도구 연동(tooling)·RAG 데이터 레이어·관측(Observability)·안전장치(Guardrails)가 분리되지 않은 아키텍처 부채로 이동했습니다. OpenAI Agents SDK가 “harness(제어)”와 “s...
들어가며 LLM 보안에서 prompt injection은 여전히 1순위 리스크로 취급됩니다(OWASP LLM Top 10의 LLM01). 문제의 핵심은 단순히 “유저가 나쁜 말을 시켜서 모델이 나쁜 말을 한다”가 아니라, 모델이 읽는 모든 텍스트(사용자 입력, RAG 문서, 웹페이지, tool 출력)를 같은 ‘프롬프트 컨텍스트’에 섞어 넣는 순간 데이...
2026-06-02 (화) 개발일지
dev-blog오늘의 트러블슈팅: 사주 소개팅 앱 보안 허점 세 가지 — 결제 검증, NSFW 사진 잔류, 가격 불일치
들어가며 Next.js로 AI 기능을 붙이는 건 이제 “챗 UI + API 한 개”로 끝나는 문제가 아닙니다. 실서비스에 들어가면 곧바로 아래가 터집니다.
들어가며 2026년 5월 말~6월 초(즉, “2026년 6월 업데이트”로 체감되는 구간)에 OpenAI, Anthropic, Google이 각각 API/개발도구 업데이트와 운영 정책 변화를 연달아 내놨습니다. 공통 키워드는 “더 많은 사용자·에이전트 트래픽을 감당하기 위한 구조 개편”이고, 그 비용은 결국 개발자 워크플로우 변경으로 돌아옵니다. (he...
2026-06-01 (월) 개발일지
dev-blog오늘의 구현 회고 — iOS/Android SDK 동시 구현에서 플랫폼 제약을 우회한 두 가지 결정
들어가며 RAG(특히 production Q&A), semantic search, 추천/유사도 기반 탐색에서 병목은 “cosine distance 계산” 자체가 아니라 (1) metadata filter가 걸린 상태에서의 tail latency(P95~P99), (2) 지속적 업데이트(ingest)와 compaction, (3) 운영(HA/백업...
들어가며 서버리스 LLM 배포가 해결하는 문제는 명확합니다: GPU/서빙 인프라를 상시 띄우지 않고도(=idle cost 최소화), 트래픽 스파이크를 흡수하면서, API 형태로 LLM inference를 제공하는 것. 다만 LLM은 일반적인 serverless 함수와 달리 모델 로드(디스크→RAM→VRAM), 커널/JIT 컴파일, KV cache 준비...
2026-05-31 (일) 개발일지
dev-blog오늘은 두 가지 일을 처리했다. 하나는 크리마 리뷰 마케팅 플랫폼의 대체 가능성을 조사한 건데, 예상과 달리 네이버 스마트스토어 쪽에 리뷰 API 자체가 존재하지 않는다는 벽을 확인했다. 다른 하나는 비트스캘프 봇의 거래량 게이트가 너무 높아 진입이 거의 없는 상태였는데, 백테스트 결과를 근거로 게이트를 낮추고 사이즈 차등을 도입했다.
들어가며 프로덕션에서 LLM을 쓰다 보면, 결국 두 가지 벽을 만납니다.
들어가며 2026년의 agent 개발에서 가장 자주 터지는 문제는 “모델이 똑똑하냐”가 아니라 도구 호출(tool call)이 프로덕션 규칙을 깨는 순간입니다. 예를 들어:
들어가며 2026년 5월 시점의 CLI 기반 AI 코딩 에이전트는 더 이상 “코드 몇 줄 생성”이 아니라, 리포지토리 안에서 계획→실행→검증(테스트/린트/빌드)→PR용 산출물 생성까지 묶어서 처리하는 자동화 장치에 가깝습니다. 특히 Claude Code와 OpenAI Codex CLI는 각각 로컬 터미널/프로젝트 컨텍스트에 밀착된 실행형 에이전트라는 ...
들어가며 문서 OCR/이해 파이프라인에서 진짜 어려운 문제는 “텍스트를 읽는 것”이 아니라, 표/레이아웃을 깨뜨리지 않고 업무 스키마(JSON) 로 일관되게 뽑아내는 겁니다. 특히 PDF(스캔/디지털 혼합), 표(merged cell, multi-line header), 라인아이템(동적 행 수), 그리고 페이지를 넘나드는 합계/세금 규칙에서 터집니다.
2026-05-29 (금) 개발일지
dev-blog오늘의 트러블슈팅: 좀비 프로세스 정리, 가중치 튜닝, 에뮬레이터 디버그
들어가며 LLM을 서비스에 붙일 때 JSON은 “있으면 좋은 출력 형식”이 아니라 시스템 경계(contract) 입니다. 한 번이라도 " 하나 빠진 출력, enum 오타, 필드 누락이 발생하면 파이프라인 전체가 연쇄적으로 깨지죠. 그래서 2026년에는 대부분의 팀이 아래 중 하나로 수렴합니다.
들어가며 2026년 5월 arXiv에는 “더 큰 LLM” 자체보다, 실무에서 병목이 되는 평가(evaluation)·retrieval·성능 최적화(GPU kernel)를 정면으로 다룬 논문들이 눈에 띄었습니다. 공통 메시지는 단순합니다: 이제는 모델을 바꾸는 것만으로는 부족하고, 벤치마크/평가 설계와 시스템 레벨 개선이 성패를 가른다는 흐름입니다.
2026-05-28 (목) 개발일지
dev-blog오늘은 데모앱 demo_apps에서 두 가지 문제를 잡았다. 첫째는 모바일 앱의 텔레메트리가 OpenTelemetry Collector에 전혀 들어오지 않는 연결 끊김 현상, 둘째는 iOS 쪽에 P0 디바이스 정보가 누락되어 있어 Android와 동일한 수준의 attribute를 부착하는 작업이다. 두 이슈 모두 결국 trace join이 제대로 걸리...
들어가며 LLM long context window가 커질수록 “이제 RAG 없이 문서/대화/에이전트 히스토리를 통째로 넣어도 되겠지?”라는 유혹이 생깁니다. 그런데 2026년 5월 기준 실무 결론은 정반대입니다. 긴 컨텍스트는 ‘저장 용량’이 아니라 ‘주의력(attention) 예산’ 문제라서, 윈도우가 커져도 signal dilution + los...
들어가며 LLM inference를 Kubernetes에 올리면, 첫 번째로 부딪히는 벽이 “CPU는 놀고 있는데 GPU는 이미 포화인데도 HPA가 안 늘어난다”입니다. HPA 기본 신호(CPU/Memory)는 LLM 서빙의 병목(대부분 GPU, KV cache, batch/queue)에 둔감합니다. 그래서 스케일 아웃 타이밍이 늦고, TTFT(Tim...
2026-05-27 (수) 개발일지
dev-blog오늘의 회고: RUM SDK 타임스탬프 파싱 실패와 BitScalp 레짐 정책 오해
들어가며 RAG에서 “답이 틀린” 이유의 상당수는 LLM이 아니라 retrieval이 후보 문서를 잘못 뽑았기 때문입니다. 특히 실무 문서(사내 위키/티켓/로그/정책/기술 문서)는 다음 두 종류의 질의가 섞입니다.
들어가며 전통적인 RAG는 “질문 → (고정된) 검색 → 답변”으로 끝납니다. 문제는 현실의 질의가 (1) 검색이 필요 없는 질문과 (2) 한 번의 검색으로는 부족한 질문(멀티홉/용어 불명확/정책-기반 답변)이 섞여 있다는 점입니다. 이때 고정 파이프라인은 불필요한 검색 비용을 내거나, 반대로 근거 부족 답변(=그럴듯한 환각)을 만들기 쉽습니다.
2026-05-26 (화) 개발일지
dev-blog오늘은 동백전 데모 앱의 iOS/Android 양 플랫폼 OTel 연동을 끝내고, bit-scalp 전략의 1년 백테스트 결과와 손실 패턴 분석을 마무리한 하루였다. 중간에 dev-blog 생성 로직의 톤을 수정하고, VM 디스크 꽉 참 문제를 진단해 문서로 남겼다.
들어가며 RAG에서 “검색이 헛돌고 답이 근거 없이 흔들리는” 문제의 상당수는 embedding/LLM이 아니라 문서가 어떻게 쪼개졌는지(chunking) 에서 시작합니다. 특히 규정/정책/기술문서처럼 문장 하나가 정확도를 좌우하는 문서에서, 경계가 잘못 잘리면 “관련은 있어 보이는데 정답 문장이 없는 chunk”만 계속 뽑히는 상황이 자주 나옵니다(...
들어가며 2026년 5월은 “AI 규제”가 선언 수준을 넘어 가이드라인·집행·주(州) 단위 입법으로 구체화된 달이었습니다. EU는 AI Act의 high-risk 분류/투명성(Article 50) 실무 가이드를 공개하며 의견수렴에 들어갔고, 미국에서는 deepfake/NCII(비동의 성적 이미지) 처벌 법 집행이 실제 기소로 이어지며 플랫폼·서비스 운...
2026-05-25 (월) 개발일지
dev-blogAI 활용 회고: 프롬프팅 전략이 결과를 갈랐던 하루
들어가며 Chain of Thought(CoT)는 복잡한 추론/계산/의사결정 문제에서 정답률을 올리기 위해 모델이 중간 추론 단계를 활용하도록 유도하는 프롬프팅 계열입니다. 하지만 2026년 5월 시점의 실무 관점에서 CoT는 “그냥 let’s think step by step” 수준을 넘어, 비용(token/latency)·안정성·보안(추론 노출)을...
들어가며 2026년의 “Vibe Coding”은 코드를 대신 써주는 마법이 아니라, 프로토타입→피드백→폐기/강화 사이클을 극단적으로 압축하는 개발 방식입니다. “AI가 만든 코드는 대충 써도 된다”가 아니라, AI가 만든 초안을 빠르게 검증하고, 사람이 엔지니어링으로 수습/고도화하는 게 핵심입니다. 최근 기사에서는 이걸 3D 프린터에 비유합니다: 출력...
들어가며
들어가며 LLM/agent를 제품에 붙이다 보면 매번 같은 벽을 만납니다. “모델은 똑똑한데, 우리 시스템(DB/사내 API/권한/감사로그/업무 규칙) 안으로 안전하게 들어오게 하려면?” 대부분 팀이 모델별 custom tool-calling이나 SDK별 플러그인을 각자 구현하다가, 클라이언트(Claude Desktop/Claude Code/Curso...
들어가며 2026년 5월 현재 LLM 서빙에서 가장 자주 터지는 문제는 한 가지로 요약됩니다: “첫 토큰(TTFT)은 빠른데, 동시성이 조금만 올라가면 GPU 메모리(OOM)·tail latency·처리량이 무너진다” 입니다. 특히 RAG/Agent처럼 요청 길이(컨텍스트)와 출력 길이가 들쭉날쭉한 트래픽에서는 KV cache 압력이 급증하고, 배치 ...
들어가며 웹/사내 로그/문서에서 학습 데이터를 모으면, 생각보다 빠르게 중복(duplicate)과 준중복(near-duplicate) 이 데이터의 대부분을 잠식합니다. 문제는 “데이터가 더 많아 보이는 착시”가 생긴다는 점입니다. 동일/유사 문장이 반복되면 모델은 특정 표현을 과대학습하고, 학습 효율은 떨어지며, 평가 시에는 benchmark cont...
2026-05-22 (금) 개발일지
dev-blog오늘의 AI 활용 회고: 조건부 비즈니스 로직과 컨텍스트 전달의 교훈
들어가며 2026년의 LLM 서빙 병목은 “모델 weights를 GPU에 올리느냐”를 넘어, KV cache가 VRAM을 집어삼키면서 batch/throughput을 무너뜨리는 문제로 더 자주 나타납니다. vLLM/TensorRT-LLM/SGLang 같은 서빙 엔진들이 paged KV, continuous batching을 기본값으로 가져가면서, 이제...
들어가며 2026년 5월 AI 스타트업 투자/인수합병 뉴스의 키워드는 Inference(추론) 최적화, Agent 기반 엔터프라이즈 소프트웨어, AI 보안(SOC), 그리고 칩/플랫폼 레이어로의 M&A 확장입니다. 단순히 “좋은 모델을 가진 회사”보다, 운영비(Cost)와 배포(Delivery)를 줄이는 회사에 돈이 몰리고 있습니다. (nebi...
2026-05-21 (목) 개발일지
dev-blog오늘의 AI 활용 회고: 주관 부재와 컨텍스트 단절 사이
들어가며
들어가며 LLM 앱 운영에서 진짜 골칫거리는 장애처럼 티 나게 죽는 문제가 아니라, “그럴듯하게 동작하지만” 아래가 서서히 망가지는 상황입니다.
들어가며 2026년 5월 기준 LLM API 비용은 더 이상 “프롬프트 조금 줄이자” 수준으로는 안 내려갑니다. 이유는 간단합니다. 프롬프트 최적화로 줄일 수 있는 토큰은 한계가 있는데, 모델 티어 간 단가 격차(= 같은 토큰이라도 가격 차이)가 너무 커졌기 때문입니다. 예를 들어 OpenAI GPT‑4.1은 입력/출력 $2/$8 per 1M toke...
들어가며 Embedding 모델을 고르는 일은 결국 검색 품질(Recall/Precision), 운영 비용(토큰/스토리지/인덱싱), 데이터 거버넌스(외부 API vs 온프레)를 동시에 최적화하는 문제입니다. 특히 RAG/semantic search에서 “LLM이 똑똑해도 답이 엉뚱한” 원인의 상당수는 retrieval이 틀린 것(=embedding/인...
2026-05-19 (화) 개발일지
dev-blog오늘은 네 가지 프로젝트를 병렬로 굴리며, AI와의 협업 패턴을 실험한 하루였다.
들어가며 AI 코딩 어시스턴트가 해결하는 진짜 문제는 “코드를 대신 타이핑”이 아니라 컨텍스트 스위칭 비용(검색/리뷰/수정/재수정)과 멀티파일 작업의 조율 비용입니다. 2026년 5월 기준으로 Cursor / GitHub Copilot / Windsurf는 모두 “agentic” 워크플로우(계획→수정→검증→반복)를 제공하지만, 프로젝트에 적용되는 방식...
들어가며 2026년 5월 들어 prompt injection / jailbreak이 “재미있는 공격기법”이 아니라, 실제 운영 환경에서 데이터 유출·권한 오용·금전 피해로 이어진 사건과 리서치가 연달아 공개됐습니다. 특히 AI coding agent와 agent framework가 표적이 되면서, 개발팀이 붙여놓은 자동화(Review, CI, tool...
2026-05-18 (월) 개발일지
dev-blog오늘은 개인 블로그 개발일지 자동화 파이프라인을 멀티 피씨 환경에서 동기화하기 위해 구조를 다시 설계하는 하루였다. 로컬 세션 기반 컨텍스트 공유의 한계를 마주쳤고, 이를 AI와 함께 풀면서 “막연한 문제”를 “실행 가능한 명령어 모음”으로 변환하는 프롬프팅 기법을 체험했다.
들어가며 2026년 5월 기준으로 Next.js에서 AI 기능을 붙일 때 가장 흔한 실패는 “데모는 되는데, 제품은 안 되는” 지점에서 터집니다. 구체적으로는:
들어가며
들어가며
들어가며 LLM API 서버를 운영하다 보면 “응답이 느리다”는 불만의 대부분은 모델이 느려서가 아니라, 사용자가 첫 토큰을 받기까지의 체감 지연에서 옵니다. 특히 Chat UI/Agent UI에서는 1~2초 내 첫 글자가 나오느냐가 UX를 갈라요. 이때 가장 현실적인 해법이 HTTP 기반 스트리밍(대개 SSE)입니다. FastAPI는 Starlett...
들어가며 2026년 5월 기준, 비디오 AI는 크게 두 축으로 갈립니다.
들어가며 CLI 기반 AI 코딩 에이전트가 진짜로 가치가 나는 지점은 “IDE에서 한 번 질문하고 끝”이 아니라, 반복되는 엔지니어링 업무를 파이프라인/스크립트로 굳히는 순간입니다. 예를 들면:
들어가며 프로덕션에서 LLM/agent가 터질 때의 문제는 “재현 가능한 stack trace”가 아니라 “재현 불가능한 실행 맥락(context)”이 같이 깨진다는 점입니다. 같은 입력처럼 보여도 (RAG 결과, tool 응답, 프롬프트 버전, 시스템 지시문, 정책/가드레일, 토큰 컷오프 등) 숨은 변수가 많아서, 기존 로그만으로는 “왜”를 못 찾고...
들어가며 2026년 4~5월은 오픈소스 LLM/VLM 진영이 “성능”뿐 아니라 공개 방식(오픈소스 vs open-weight)과 라이선스로 본격 분화한 시기였습니다. 특히 Meta(Llama), Mistral, Alibaba(Qwen)가 각자 다른 규칙으로 배포하면서, 실무 개발자는 “어떤 모델이 좋나?”보다 “어떤 모델을 써도 법/운영 리스크가 없나...
들어가며 2026년 5월 기준 AI 애플리케이션(LLM/agent/RAG)은 “모델을 잘 고르는 문제”를 넘어 아키텍처가 곧 품질/비용/신뢰성을 결정하는 국면으로 넘어왔습니다. 특히 팀이 겪는 고통은 비슷합니다.
들어가며 LLM을 “대량 처리”로 쓰는 순간 비용과 운영 난이도가 동시에 폭발합니다. 예를 들어 수십만~수천만 건의 문서 요약/분류, 로그/CS 티켓 자동 태깅, 상품 카탈로그 정규화, 오프라인 평가(Eval) 파이프라인처럼 지금 당장 사용자에게 응답할 필요는 없지만 처리량이 큰 작업은, 실시간 API(online inference)로 돌리면 단가가 ...
들어가며 2026년 5월 기준 멀티모달 AI의 실전 가치는 “이미지를 보고 자연어로 추론한다”가 아니라, 이미지 기반 업무 흐름을 API로 자동화하는 데 있습니다. 대표적으로 (1) 고객이 올린 영수증/청구서/서류, (2) 운영 중인 SaaS의 대시보드 스크린샷, (3) 리포트에 들어있는 표/차트, (4) 제품 사진의 결함/라벨/구성품 확인 같은 문제...
들어가며 LLM 앱이 프로덕션에 올라가면 장애 형태가 전통적인 웹/백엔드와 달라집니다. “요청이 느리다”가 아니라 어떤 프롬프트/도구 호출/검색 결과 조합에서 지연·비용 폭증·환각·루프(반복 tool call)·컨텍스트 누락이 발생합니다. 이때 로그만으로는 원인 추적이 거의 불가능하고, 벤더별 대시보드만으로는 서비스 전체(HTTP → queue → w...
2026-05-12 (화) 개발일지
dev-blog오늘은 bit-scalp 자동매매 봇의 전략을 시간대별 패턴 분석과 로그 디버깅으로 다듬은 하루였다. AI에게 단순 수정 요청 대신 과거 로그와 의도를 먼저 나열하고 “이걸 바탕으로 코드 제안해” 식으로 프롬프트했더니, 불필요한 일반론이 줄고 구체적 구현이 빨리 나왔다.
들어가며 LLM을 백엔드에 붙이면 금방 이런 병목이 생깁니다.
들어가며 2026년 5월 초(특히 5/6~5/8)를 전후해, AI 개발자 도구의 중심이 “IDE에 붙는 assistant”에서 “repo를 읽고 테스트/명령 실행까지 하는 agent”로 더 빠르게 이동하고 있습니다. 이번 달 흐름의 키워드는 IDE+CLI의 결합, multi-agent/automation, 그리고 보안·권한·데이터 정책입니다. (kir...
2026-05-11 (월) 개발일지
dev-blog오늘은 bit-scalp 프로젝트의 프로세스 관리 최적화에 Claude를 메인 도구로 삼은 하루였다. pgrep으로 백그라운드 스캘퍼 인스턴스를 추적하던 중, 단순 로그 던지기 대신 작업 흐름 다이어그램을 먼저 그려 프롬프트에 넣으니 AI의 제안이 실전적으로 변했다.
들어가며 프론트엔드에서 가장 비싼 시간은 (1) UI 골격을 빠르게 뽑는 시간과 (2) 그걸 “팀 코드베이스 규칙”에 맞춰 정착시키는 시간입니다. 2026년 5월 기준, 이 두 구간을 각각 잘 처리하는 도구가 v0(Vercel) 와 bolt.new(StackBlitz) 입니다. v0는 React/Next.js + Tailwind + shadcn/ui ...
들어가며 Kubernetes에서 LLM을 서빙(vLLM/Triton/llm-d/Dynamo 등)할 때 “GPU가 비싸니 자동으로 늘렸다 줄이자”는 목표는 단순하지만, 무엇을 기준으로 스케일링할지에서 대부분 망합니다. CPU 서비스처럼 CPU%로 HPA를 걸면, LLM은 latency가 터진 뒤에야 반응하거나(reactive), 반대로 VRAM(OOM/...
들어가며 LLM을 실무 시스템에 연결할 때 가장 큰 병목은 “모델 호출”이 아니라 컨텍스트/도구 통합의 N×M 지옥입니다. 앱(Claude Desktop, Claude Code, Cursor 등)마다 플러그인 방식이 달라 동일한 내부 API를 여러 번 래핑하게 되고, 권한/감사/에러처리도 제각각이 됩니다. Model Context Protocol(MC...
들어가며 LLM API를 프로덕션에 붙이면, 성능 최적화보다 먼저 “호출 안정화”에서 막힙니다. 특히 HTTP 429(Too Many Requests) 는 단순히 “잠깐 기다렸다가 다시” 수준이 아니라, 동시성(Parallelism), Burst 트래픽, 토큰 기반 제한(TPM/ITPM/OTPM), Retry 폭풍(thundering herd) 이 얽...
2026-05-09 (토) 개발일지
dev-blog오늘은 bit-scalp 프로젝트의 macro_engine.py를 Claude Sonnet 3.5로 리팩토링하고 디버깅한 하루였다. 로그 분석부터 코드 생성까지 체계적 프롬프팅을 시도했는데, 컨텍스트를 코드 스니펫 + 실행 로그로 제공하니 AI의 제안이 실전에서 바로 먹혔다.
들어가며 LLM 파인튜닝에서 제일 비싼 건 GPU가 아니라 “좋은 데이터”입니다. 그런데 실제 프로젝트에서는 (1) 도메인 라벨링 인력이 없거나 (2) 개인정보/저작권 이슈로 원문 데이터를 학습에 쓰기 어렵거나 (3) 운영 로그는 많은데 품질이 들쭉날쭉이라 학습셋으로 바로 못 쓰는 일이 흔합니다. 이때 LLM synthetic data(합성 데이터)는...
들어가며 AI 기능(LLM, vision, STT/TTS, RAG 등)을 “일단 보여주는 것” 자체는 쉬워졌지만, 데모 UI를 빨리 만들수록 바로 다음 문제가 터집니다.
2026-05-08 (금) 개발일지
dev-blog오늘은 여러 프로젝트의 UI 수정부터 트레이딩 봇 리팩터링, 워크플로우 최적화까지 Claude를 활용해 산발적으로 작업한 하루였다. 단순 “이거 고쳐줘” 대신 목표 중심 지시 + 세부 의도 설명으로 프롬프팅하니 응답이 더 실용적이었지만, 컨텍스트 누락 시 반복 질문을 유발했다.
들어가며 Prompt injection은 이제 “사용자 입력을 잘 필터링하면 되는 문제”가 아니라, 에이전트(tool-use)·RAG·로그/이메일/문서 등 외부 데이터가 섞이는 순간 발생하는 ‘신뢰 경계(trust boundary) 붕괴’ 문제로 굳어졌습니다. OWASP LLM Top 10에서도 여전히 LLM01로 최상단에 있고(직접/간접 인젝션 포함...
들어가며 2026년 5월 초, Google은 Gemini API에 event-driven Webhooks를 도입했고, Anthropic은 SpaceX와의 컴퓨트(Compute) 파트너십을 바탕으로 Claude/Opus 계열 사용 한도 및 API rate limit 상향을 발표했습니다. OpenAI 쪽은 4월 말 공개된 GPT‑5.5 API 가용화와 가...
2026-05-07 (목) 개발일지
dev-blog오늘은 포트폴리오 UI 정제, 드롭쉬핑 자동화, 옵시디언 콘텐츠 정리, 사주 앱 UX 등 여러 프로젝트를 Claude와 함께 돌리며, 반복 피드백 루프의 프롬프팅 노하우를 다듬은 하루였다.
들어가며
들어가며 프로덕션 AI Agent를 붙이다 보면 “모델 성능”보다 더 빨리 한계가 오는 지점이 state(상태) 입니다. 세션이 바뀌면 사용자의 선호/업무 맥락을 잊고, 도구 실행 중간에 죽으면 재시도 전략이 없고, 멀티스텝 워크플로우가 길어질수록 “무엇을 알고/했고/해야 하는지”가 붕괴합니다. 결국 Memory = UX이자 State = 안정성/비용...
2026-05-06 (수) 개발일지
dev-blog오늘은 포트폴리오 리팩토링부터 사주 앱 비즈니스 검토, 트레이딩 봇 디버깅까지 여러 프로젝트를 오가며 Claude를 활용한 하루였다. 단순 코드 생성보다는 세션 컨텍스트를 미리 쌓아두거나 반복 지시를 피하는 프롬프팅 전략이 효과를 봤다.
들어가며 임베딩(embedding) 모델 선택은 RAG/semantic search 품질의 “상한”을 결정합니다. 같은 chunking/벡터DB를 써도 임베딩이 도메인·언어·문서 길이에 맞지 않으면 (1) recall이 흔들리고, (2) reranker가 있어도 “가져오지 못한 정답”은 복구가 안 됩니다.
들어가며
들어가며 RAG 성능이 안 나오는 팀이 흔히 하는 오해는 “embedding 모델만 바꾸면 해결된다”입니다. 실제로는 (1) 질문이 검색에 불리한 형태로 들어오고(짧고 모호함), (2) 1차 검색이 recall을 충분히 못 뽑고, (3) 최종으로 LLM에 들어가는 문서가 precision이 낮아서 정답이 있어도 못 맞춥니다. 2026년 기준으로 현업에...
들어가며 2026년 5월 기업 AI 도입 흐름은 “도입 자체”보다 스케일링(확장)과 ROI 증명으로 무게중심이 이동했습니다. 특히 멀티에이전트/Agentic AI가 실제 사내 업무 플랫폼으로 들어오면서, 성공 사례의 공통점과 실패 원인이 더 선명해지고 있습니다. (cognizant.com)
2026-05-04 (월) 개발일지
dev-blog오늘은 소명처리시스템의 테넌트 동기화와 로그프레소 티켓 라우팅 문제를 Claude와 함께 파헤치고, 드롭쉬핑자동화 프로젝트에서 보안 강화와 AliExpress 전환을 추진한 하루였다. 여러 프로젝트를 오가며 AI를 썼는데, 복잡한 비즈니스 로직에서 “단계별 질문” 접근이 가장 효과적이었다.
들어가며 RAG에서 “검색이 약간만 틀려도” 생성 품질이 급격히 무너지는 케이스를 많이 봅니다. 특히 다음 같은 상황에서요.
들어가며 2026년의 Vibe Coding은 “코드를 대신 써주는 autocomplete”가 아니라, 에이전트(Agent)가 계획→구현→실행→검증을 반복하며 제품의 형태를 빠르게 잡는 흐름으로 굳어졌습니다. 특히 Replit Agent 4처럼 “빌드/런/배포까지 포함된 풀스택 환경”에서 에이전트가 행동(작업 실행)을 하면서 반복 루프를 단축시키고, C...
들어가며 AI Agent에서 tool use(function calling) 는 “모델이 말로만 아는 척” 하는 구간을 줄이고, 외부 시스템(DB/HTTP/Queue/사내 API)과 실제로 일하게 만드는 연결부입니다. 2026년 5월 기준 흐름은 “프롬프트로 JSON 뽑아 파싱”이 아니라, 모델이 tool_call을 생성 → 앱이 실행/검증 → 결과를...
들어가며
들어가며 2026년의 LLM은 “128k+ long context”가 더 이상 특별한 스펙이 아닙니다. 문제는 컨텍스트를 많이 넣을수록 성능이 선형으로 좋아지지 않는다는 점입니다. 오히려 입력이 길어지면 (1) 비용/지연이 커지고, (2) 중요한 단서가 프롬프트 “가운데”에 묻히는 lost in the middle로 정답률이 떨어지며, (3) 에이전트...
들어가며 에이전트/챗봇/코드리뷰 같은 “긴 컨텍스트를 매 호출마다 반복”하는 시스템에서, 비용의 본질은 (1) 출력 토큰과 (2) 반복되는 입력 토큰(prefix) 입니다. 전자는 제품 설계(응답 길이/툴 호출 횟수) 문제고, 후자는 prompt caching으로 꽤 직접적으로 깎을 수 있습니다.
들어가며 LLM 서빙을 직접 운영하면 곧바로 부딪히는 문제가 3가지입니다.
들어가며 2026년 4월의 AI 보안 이슈는 “모델이 나빠서”라기보다, 에이전트가 읽는 모든 텍스트(이슈/PR/문서)가 곧 공격 표면이 된다는 점을 여러 사건이 동시에 증명했다. 특히 indirect prompt injection이 GitHub 기반 코딩 에이전트와 기업용 자동화 흐름으로 들어오면서, 탈옥(jailbreak)이 실무에 끼치는 영향이 ‘...
2026-04-30 (목) 개발일지
dev-blog오늘은 소명처리시스템의 SSO 관련 commit 5개를 마무지며 bit-scalp 봇의 testnet-to-live 마이그레이션을 진행하고, Obsidian Vault에서 claude.md 계열 파일들을 체계화하는 데 Claude를 집중적으로 활용한 하루였다. 단순 지시가 아닌 “순서대로 정확히”나 “기존 기능 확인”처럼 구체적 컨텍스트를 먼저 주고 ...
들어가며 CLI 기반 AI 코딩 에이전트가 해결하는 문제는 명확합니다. (1) 레포를 읽고 (2) 명령을 실행하고 (3) 파일을 수정하고 (4) 테스트/린트까지 돌린 뒤 (5) 결과를 요약하는 반복 루프를 사람이 “컨텍스트 스위칭” 없이 터미널에서 끝내는 겁니다. 2026년엔 이게 단순 코드 생성이 아니라 workflow automation(리팩터링→...
들어가며 AI 코딩 도구가 해결하는 문제는 단순히 “코드 생성”이 아닙니다. 컨텍스트 스위칭(문서 검색→코드 탐색→수정→테스트→리뷰) 비용을 줄이고, 작업 단위를 ‘파일 몇 개 수정’이 아니라 ‘기능 완성’으로 끌어올리는 게 핵심입니다. Cursor의 Agent/Composer 계열과 GitHub Copilot(에이전트/채팅/자동완성), Windsur...
2026-04-29 (수) 개발일지
dev-blog오늘은 여러 프로젝트를 오가며 AI의 모델 스위칭과 프롬프팅 세밀화에 집중한 하루였다. joyuno.github.io의 개발일지 생성을 최적화하면서부터 시작해 소명처리시스템의 스키마 설계, bit-scalp의 자동화 루틴까지, 단순 요청이 아닌 “반복 테스트 + 컨텍스트 보강” 패턴으로 AI를 다루니 효율이 올라갔다.
들어가며 비디오 AI를 제품에 붙이려는 팀이 2026년에 실제로 마주치는 문제는 두 가지입니다.
들어가며 LLM/Agent 앱을 운영해보면 전통적인 APM(HTTP latency, error rate, DB time)만으로는 장애의 원인에 닿기 어렵습니다. 많은 실패가 “500 에러”가 아니라 의미적 실패(semantic failure) 로 나타나기 때문입니다. 예를 들어: Retrieval이 엉뚱한 문서를 가져와서 답이 틀렸는데 요청은 2...
들어가며 LLM을 도입/교체할 때 가장 흔한 실패는 “벤치마크 1~2개 점수만 보고” 모델을 고르는 것입니다. 특히 MMLU(지식+추론 MCQ)와 HumanEval(코드 생성)는 여전히 가장 많이 인용되지만, 2026년 시점에선 점수 자체보다 ‘점수가 만들어지는 과정’을 이해하지 못하면 의사결정이 틀어지기 쉽습니다. MMLU는 라벨/정답 오류 이슈가 ...
들어가며 2026년 4월 AI 규제 뉴스의 핵심은 한 가지입니다. EU는 2026년 8월 2일(집행 시작)을 향해 기업 컴플라이언스 시계를 더 빠르게 돌리고, 미국은 연방-주(州) 규제 주도권 싸움이 소송과 조달 규정으로 번지며 개발팀의 운영 부담이 커지고 있습니다. (ai-act-service-desk.ec.europa.eu)
2026-04-27 (월) 개발일지
dev-blog오늘의 개발일지: 자동화 시스템과의 전쟁
들어가며 LLM 서빙에서 비용을 폭발시키는 진짜 원인은 “weights 연산량”만이 아니라, 긴 context + 높은 동시성에서 터지는 KV cache 메모리/대역폭과, 부하 변동을 못 따라가는 스케줄링/배칭 병목입니다. 2026년 4월 기준, 이 문제를 가장 현실적으로 푸는 조합은 다음 두 축으로 정리됩니다.
들어가며 LLM fine-tuning을 실제 프로젝트에 넣으려 하면, 대부분 “성능”보다 먼저 “학습 인프라/비용”에서 막힙니다. 특히 7B~14B급을 도메인 데이터로 SFT(Supervised Fine-Tuning) 하려는 순간 GPU VRAM, batch size, sequence length, optimizer state가 한꺼번에 터지죠. Lo...
들어가며 Chain of Thought(CoT)는 “모델이 중간 추론 단계를 거치게 만들어” 정답률/일관성을 끌어올리는 고전적 기법이었습니다. 그런데 2025~2026을 거치며 현업에서의 CoT 활용 방식이 바뀌었습니다. 이유는 간단합니다.
Kubernetes에서 LLM 서빙을 “GPU 기준”으로 오토스케일링하기: KServe(vLLM) + KEDA + DCGM, 그리고 노드까지 따라오는 설계(2026년 4월)
Infra들어가며 LLM inference는 CPU 웹서비스처럼 “QPS만 보고” HPA로 늘리면 자주 망합니다. 이유는 간단합니다. 스파이크가 오면 GPU가 포화되기 전에 이미 큐(대기 요청)가 쌓이고, 새 Pod는 뜨자마자 바로 처리 못 하는 경우(모델 로딩, KV cache warm-up)가 많기 때문입니다. Red Hat/IBM 사례에서도 “새 Pod가...
들어가며 현업에서 파인튜닝이 막히는 지점은 거의 항상 같습니다. “학습시킬 만한 데이터가 없다(또는 비싸다)” 입니다. 로그/문서/DB는 넘치는데, 막상 SFT나 preference fine-tuning(DPO류), RFT에 바로 넣을 정제된 (instruction, response) / (chosen, rejected) 형태의 데이터는 부족합니다. ...
들어가며 전통적 RAG는 보통 retrieve → (rerank) → generate 파이프라인이 고정이라, 질문이 애매하거나(재질문 필요), 문서가 방대하거나(추가 탐색 필요), 근거가 부족한데도 답을 생성하는(환각) 상황에서 취약합니다. 반대로 Agentic RAG는 LLM이 “지금 검색이 필요한가?”, “쿼리를 어떻게 바꿔야 하나?”, “검색 결...
2026-04-24 (금) 개발일지
dev-blog오늘의 TIL: 다섯 개 프로젝트를 오가는 풀스택 전쟁
들어가며 LLM API를 프로덕션에서 돌리면 “가끔”이 아니라 “언젠가 반드시” 429 Too Many Requests(rate limit)와 간헐적 5xx/overload를 만납니다. 문제는 대부분의 팀이 retry를 단순 루프로 넣고 끝내서, 트래픽이 몰릴 때 thundering herd(동시 재시도 폭주) 를 스스로 만들어 장애를 증폭시킨다는 겁...
들어가며 2026년 4월 AI 반도체 뉴스의 핵심은 “학습(Training) 독점은 여전하지만, 추론(Inference)에서는 균열이 실서비스 형태로 보이기 시작했다”는 점입니다. NVIDIA는 차세대 Rubin 플랫폼을 전면에 내세우는 동시에, 공급망(특히 패키징/메모리) 리스크가 계속 언급되고 있고, 한국의 Rebellions·FuriosaAI는 ...
2026-04-23 (목) 개발일지
dev-blog오늘의 개발 회고: GCP 복구, 카카오 OAuth 삽질, 그리고 SIEM 연동의 시작
들어가며
들어가며 Model Context Protocol(MCP)은 LLM/에이전트가 “외부 세계(데이터/액션)”와 연결되는 표준 인터페이스입니다. 팀마다 GitHub/DB/사내 API/배포 시스템을 각기 다른 방식으로 붙이던 N×M 통합 지옥을, 서버(툴 제공자)–클라이언트(에이전트/IDE) 구조로 평탄화합니다. Anthropic은 Claude Deskto...
2026-04-22 (수) 개발일지
dev-blog오늘의 TIL: 드롭쉬핑 가격 버그, 사주 인증 플로우, 그리고 PDF 차트의 함정
들어가며 일반적인 Vector RAG는 “질문과 가장 비슷한 chunk 몇 개”를 가져오는 데는 강하지만, 관계(relationship) 가 답의 핵심인 문제에서 자주 무너집니다. 예를 들면:
들어가며 RAG/semantic search를 “돌아가게” 만드는 것과 “정확하게” 만드는 것의 차이는 대부분 embedding에서 시작합니다. 특히 2026년 현재는 (1) 상용 API(OpenAI, Cohere) 와 (2) 오픈소스(BGE 계열) 가 모두 강력해져서, “그냥 유명한 거”로 고르기보다 도메인/운영 제약(비용·지연·보안·배포) 중심으로...
2026-04-21 (화) 개발일지
dev-blog오늘의 개발 일지: 서버 복구부터 AI 트레이딩 전략까지
들어가며 RAG에서 “답이 문서에 있는데도 못 찾는” 문제의 상당수는 retriever나 LLM이 아니라 chunking(문서 청킹/분할) 에서 시작합니다. 특히 다음 증상은 chunking 냄새가 진합니다.
들어가며 2026년 4월은 “AI 코딩 도우미”가 아니라 repo를 이해하고 브랜치를 파서 PR까지 밀어 넣는 coding agent가 표준 워크플로로 굳어지는 달이었습니다. GitHub Copilot cloud agent의 거버넌스 강화, IDE 진영(특히 JetBrains)으로의 에이전트 확산, 그리고 MCP/플러그인 기반의 “툴 연결”이 동시에 ...
들어가며 프로덕션에서 LLM 비용이 터지는 패턴은 거의 고정입니다.
들어가며 LLM/검색/분류/랭킹 모델을 막론하고 학습 데이터의 중복(duplicate/near-duplicate) 은 생각보다 치명적입니다. 첫째, 학습 비용을 그대로 증폭시킵니다(같은 정보를 여러 번 학습). 둘째, memorization/overfitting을 유발해 “그럴듯하지만 일반화가 약한” 모델이 됩니다. 셋째, 평가셋/테스트셋과의 data...
들어가며 2026년 4월 기준, 많은 팀이 겪는 병목은 명확합니다: PR 리뷰 대기열이 길어지고, 테스트는 늘 부족하며, 리팩터링 PR은 “안전하다는 확신”을 주기 어렵다는 것. 이 틈을 AI 기반 PR bot(자동 리뷰어/테스트 생성기)가 메우고 있습니다. GitHub Copilot의 PR 코드 리뷰 기능이 점점 “상시 자동 리뷰” 형태로 자리잡았고...
들어가며 LLM 기반 기능(요약/분류/리랭킹/에이전트 실행/대량 평가)은 대체로 요청 시간 변동이 크고(수 초~수 분), 외부 의존(OpenAI/사내 vLLM/DB/벡터DB)과 rate limit의 영향을 강하게 받습니다. 이걸 동기 HTTP로 처리하면 곧바로 다음 문제가 터집니다:
들어가며 2026년 들어 “에이전트가 일을 끝낸다”는 말은 더 이상 데모용 슬로건이 아닙니다. 실제 프로덕션에서는 (1) 도구 호출이 흔들리지 않아야 하고, (2) 장기 실행·병렬 처리·격리 실행이 가능해야 하며, (3) Prompt Injection과 과도한 권한 문제를 제어해야 합니다. 이 흐름에서 중요한 변화가 두 가지입니다.
들어가며 2026년 4월의 AI 규제 뉴스는 한 방향(강화)으로만 수렴하지 않았습니다. EU는 AI Act 시행을 “단순화/지연”하는 Omnibus 논의를 진전시키는 한편, 미국은 연방 차원의 “주(州) 규제 선점(preemption)”을 전면에 내세우고, 중국은 ‘digital human(디지털 휴먼)’을 겨냥한 초안 규칙을 내놓으며 규제 범위를 더...
들어가며 2026년 기준 LLM은 “학습”보다 “서빙(inference)”이 비용과 안정성을 좌우합니다. 같은 모델이라도 KV cache 메모리 관리, continuous batching, prefill/decode 스케줄링에 따라 GPU 한 장에서 처리 가능한 동시 요청 수와 p95 latency가 크게 갈립니다. 실무에서 자주 부딪히는 요구는 보통...
들어가며 2026년 4월(정확히는 4월 초~중순)에 OpenAI·Anthropic·Google 쪽에서 “개발자 경험”을 바꾸는 업데이트가 연달아 나왔습니다. 공통 키워드는 (1) API 표면의 재정비, (2) 비용/과금 구조 최적화, (3) 정책·보안 경계 강화입니다. (openai.com)
2026-04-16 (목) 개발일지
dev-blog오늘의 TIL: 사주 앱 프리미엄 기능, 소명 시스템 디버깅, 그리고 트레이딩 봇의 삽질 기록
들어가며 RAG(검색증강생성)·Agent memory·추천/유사검색이 “데모”를 넘어 “상시 트래픽”으로 들어오면, 병목은 모델이 아니라 retrieval에서 터집니다. 특히 실무에서는 (1) p95/p99 latency, (2) metadata filter가 섞인 복합 쿼리, (3) upsert/삭제가 잦은 워크로드, (4) 비용의 예측 가능성, (...
들어가며 2026년 4월 AI 스타트업 투자·인수합병 뉴스는 “모델 성능 경쟁”만으로는 차별화가 어려워지면서, 보안/평가(Eval), 바이오(Vertical), 마케팅 채널 최적화, 법률 도메인처럼 워크플로우를 소유하려는 움직임이 뚜렷했습니다. 특히 대형 AI 기업은 현금 지출보다 stock deal(주식 교환)을 활용해 인재·데이터·도메인 전문성을 ...
2026-04-15 (수) 개발일지
dev-blog오늘의 삽질과 깨달음: 7개 프로젝트를 오가며 배운 것들
들어가며 2026년 4월 기준, 음성 AI는 “말은 잘하는데 대화가 어색한” 단계를 넘어서 실시간(turn-taking) 품질이 제품 경쟁력을 좌우하는 국면입니다. 콜센터/IVR, 인앱 상담, 음성 코치, 통역/번역 등에서 사용자가 제일 민감하게 느끼는 건 정확도보다도 응답 타이밍(지연, 끊김, 끼어들기 barge-in) 입니다.
들어가며 2026년 4월 LLM 업계에서 가장 눈에 띄는 흐름은 “더 강한 모델 출시”만이 아니라, 배포 방식(공개/제한/오픈 웨이트)이 성능만큼 중요한 경쟁 축으로 떠올랐다는 점입니다. OpenAI는 GPT‑5.4로 에이전트/브라우저 작업 성능을 강조했고, Anthropic은 Claude Mythos를 “너무 위험해서” 제한 공개로 돌렸으며, Goo...
2026-04-14 (화) 개발일지
dev-blog오늘의 TIL: 사주 소개팅 앱 고도화와 권한 시스템 개선의 하루
들어가며 프론트엔드 개발의 병목은 늘 “UI 구현 속도”와 “일관성” 사이에서 생깁니다. 디자인 시안이 자주 바뀌고, 컴포넌트가 늘어날수록 Tailwind class와 상태 관리, 접근성(Radix 기반)까지 챙기느라 속도가 급격히 떨어지죠. 2026년 4월 기준으로 현업에서 체감되는 흐름은 명확합니다: v0(by Vercel)는 React + ...
들어가며 2026년 4월 AI 규제 뉴스의 핵심은 “규제가 곧 제품 요구사항이 된다”는 신호가 전 세계에서 동시에 강해졌다는 점입니다. EU는 2026년 8월 2일(EU AI Act) 본격 적용을 앞두고 준비 의무/타임라인 논의가 이어지고, 미국은 연방 차원의 ‘state law preemption(주(州) 규제 선점)’을 전면에 내세우며 방향을 잡고...
2026-04-13 (월) 개발일지
dev-blog오늘의 개발 회고: 다중 프로젝트 병행과 권한 시스템 정비
들어가며 2026년 들어 AI Agent는 “챗봇”을 넘어 툴 실행(tool use), 장기 실행(long-running), 승인/롤백이 필요한 업무 프로세스, 여러 에이전트가 협업하는 팀 구조로 빠르게 진화했습니다. 문제는 구현 난이도가 아니라 “운영 난이도”입니다. 멀티 에이전트는 조금만 복잡해져도 (1) 제어 흐름이 보이지 않고, (2) 상태가 ...
들어가며 2026년 4월 초, 빅테크 AI 기업들은 “모델 성능 경쟁” 못지않게 API 운영(비용·한도)과 정책(허용/금지·접근 방식)을 빠르게 정교화하고 있습니다. 특히 Anthropic은 서드파티 도구 생태계에 직접 충격을 줬고, Google은 Gemini API를 “에이전트 지향”으로 밀어붙였으며, OpenAI는 정책 아젠다(industrial ...
들어가며 LLM을 도입할 때 가장 흔한 질문은 “그래서 성능이 얼마나 좋아요?”입니다. 이때 가장 먼저 등장하는 지표가 MMLU(지식/추론)와 HumanEval(코딩) 같은 표준 benchmark 점수죠. 문제는 2026년 현재, 이 점수들이 (1) 포화(saturation), (2) 데이터 오염(contamination), (3) 벤치마크 자체 오류...
들어가며 2026년 4월 초 AI 스타트업 관련 뉴스는 “큰돈이 어디로 몰리는지”가 꽤 선명했습니다. 단순 LLM 경쟁을 넘어 AI 반도체 설계 자동화(EDA), AI‑바이오(Drug discovery), 그리고 AI 기업의 여론/유통 채널(미디어) 확보로 무게중심이 이동하는 모습이 관찰됩니다. (axios.com)
들어가며 2026년 4월 AI 스타트업 시장은 대형 투자(Series A/B급)와 전략적 인수합병(M&A)이 동시에 터지며, “모델을 더 키우는 경쟁”에서 산업별 수익화(semiconductor, life sciences, media/quality)로 무게중심이 이동하는 흐름이 뚜렷했습니다. 특히 Anthropic의 biotech 인수와 Cog...
들어가며 RAG 성능을 “모델을 더 크게”로만 해결하려고 하면 비용과 latency가 폭발합니다. 실무에서 더 흔한 병목은 retrieval 품질(Recall/Precision)과 evidence 선택 실패입니다. 특히 (1) 사용자의 질문이 짧거나 모호하고, (2) 문서가 길고 비정형(표/수치 포함)이며, (3) 용어가 다양한 도메인에서는 단순 de...
들어가며 2026년 4월 초, Anthropic과 OpenAI는 “사이버보안급”으로 분류될 만큼 강력한 LLM을 공개 범위 밖(파트너 한정)에서 먼저 다루겠다는 신호를 분명히 했습니다. 동시에 Google은 개발자용 실시간(voice/vision) 모델과 오픈 모델(Gemma) 쪽에서 빠르게 제품화를 밀어붙이고 있습니다. (axios.com)
들어가며 2026년 4월 기준, “이미지 분석 AI”는 더 이상 단순 captioning(설명 생성) 수준이 아닙니다. 제품/문서/현장 사진에서 정답을 내는 것보다 더 중요한 과제가 생겼습니다: 1) 근거(evidence)를 어디에서 가져왔는지를 설명하고, 2) 구조화된 결과(JSON)로 시스템에 안전하게 연결하며, 3) 해상도·토큰·비용을 제어하면서...
들어가며 2026년 4월 AI 규제 뉴스의 핵심은 “하나의 글로벌 표준”이 아니라, EU의 단계적 집행(준비 의무 강화), 미국의 연방-주 규제 충돌, 아시아(특히 한국)의 포괄 법제 시행이 동시에 진행되며 규제 파편화(fragmentation)가 현실이 됐다는 점입니다. 그 결과 개발자는 모델/서비스를 출시하기 전에 “성능”만큼이나 Transpare...
들어가며 2026년 4월의 “Vibe Coding”은 더 이상 밈이 아닙니다. 핵심은 코드를 많이 치는 능력이 아니라, AI agent가 코드를 만들고/바꾸고/검증하도록 “일”을 설계하는 능력으로 무게중심이 이동했다는 점입니다. 위키피디아가 정리하듯, vibe coding은 개발자가 직접 구현을 전부 타이핑하기보다 AI가 생성한 코드를 가이드/테스트/...
들어가며 2026년 4월 초(4/1~4/7), OpenAI·Anthropic·Google은 모델 성능 경쟁보다 API 과금/접근 정책/엔터프라이즈 운영을 전면에 내세운 업데이트를 연달아 내놓았습니다. 공통 키워드는 “무제한처럼 쓰던 길의 차단”과 “공식 채널로의 유도”, 그리고 “예산·거버넌스 통제 강화”입니다. (blog.laozhang.ai)
들어가며 2024~2025년의 AI 앱은 “LLM API 호출 + RAG”만 붙여도 제품이 됐습니다. 하지만 2026년 4월 기준, 현업에서 부딪히는 병목은 달라졌습니다.
들어가며 2026년 4월(4월 1일~4월 6일 기준) AI 스타트업 투자/인수합병 뉴스는 한 줄로 정리하면 “AI를 만드는 팀(인프라), AI를 지키는 팀(보안), AI를 산업에 꽂는 팀(바이오)”로 자금이 쏠렸다는 흐름입니다. 특히 대형 모델 경쟁이 성숙 국면으로 들어가며, 개발 생산성과 보안, 그리고 고부가가치 도메인(Drug discovery) ...
2026-04-07 (화) 개발일지
dev-blog오늘의 TIL: 소명 처리 시스템 확장과 디스코드 봇 충돌 해결
들어가며 LLM fine-tuning은 여전히 “성능 vs 비용” 싸움입니다. Full fine-tuning은 가장 직관적이지만, VRAM·시간·운영 복잡도가 급격히 커집니다. 그래서 실무에서는 PEFT(Parameter-Efficient Fine-Tuning) 계열, 특히 LoRA가 사실상 표준이 되었고, 여기에 4-bit quantization을 ...
들어가며 2026년 3월 말~4월 초는 LLM 업계가 “신규 모델 발표/출시”와 “에이전트(Agentic) 제품화”를 동시에 밀어붙인 구간입니다. OpenAI는 GPT‑5.4 라인업을 굳혔고, Google은 Gemini 3.1 계열을 빠르게 확장했으며, Anthropic은 Claude 4.6 세대의 성능 메시지와 함께 ‘Claude Mythos’ 유출...
2026-04-06 (월) 개발일지
dev-blog오늘의 삽질 기록: 타입 변경, Git 중첩, Discord 봇, 그리고 카카오톡 자동화
들어가며 전통적 RAG는 retrieve → generate 1회성 파이프라인에 가깝습니다. 그래서 (1) 질문이 애매하거나, (2) 검색 결과가 부정확/불충분하거나, (3) 최신 정보가 섞여 있어 교차검증이 필요한 경우 성능이 급격히 흔들립니다. 2026년 들어 업계 흐름은 “RAG를 도구(tool)로 두고, LLM이 플래닝/루프/반성(reflect...
들어가며 2026년 4월 초 기준 AI 규제 뉴스의 핵심은 두 갈래입니다. EU는 EU AI Act의 “본 집행(특히 GPAI/High-risk 관련 강한 집행 권한)”이 본격화되는 2026년 8월 2일을 향해 가이드·Code of Practice 축을 다듬는 중이고, 미국은 연방 단일법이 부재한 상태에서 캘리포니아 등 주(州) 중심 규제가 사실상의 ...
들어가며 LLM 앱을 프로덕션에 올리면 금방 깨닫습니다. 문제는 “모델이 틀렸다”가 아니라, 어느 단계에서 왜 틀렸는지 재현이 안 된다는 점입니다. RAG라면 retrieval 결과/컨텍스트 길이, agent라면 tool call 순서/파라미터, streaming이라면 중간 토큰과 오류 타이밍까지 얽혀서 단순 로그로는 원인 추적이 불가능해집니다. 그래...
들어가며 2026년 4월 초(4/1~4/3)를 전후해 Anthropic과 Google은 정책·거버넌스·과금/마이그레이션 성격의 업데이트를 공개적으로 정리했고, OpenAI 생태계는 API/모델 단종(Deprecation) 이슈가 계속해서 개발자 일정에 영향을 주는 흐름이 이어졌습니다. 이번 변화의 공통점은 “새 모델 자랑”보다 “지속 운영 가능한 형태...
들어가며 2026년의 AI 코딩 도구는 더 이상 “autocomplete를 조금 더 잘해주는 플러그인”이 아닙니다. Agentic workflow(에이전트가 스스로 컨텍스트를 수집하고, 여러 파일을 수정하고, 필요하면 terminal task까지 실행)로 진화하면서, 개발자가 얻는 생산성은 모델 성능보다 컨텍스트 설계와 실행 통제에 의해 결정됩니다. ...
들어가며 2026년 4월(현 시점: 2026-04-03) AI 스타트업 시장은 “대형 투자 라운드의 선별적 지속”과 “M&A의 목적 다변화(제품/팀뿐 아니라 채널·여론까지)”가 동시에 관측됩니다. 특히 보안(AI AppSec), AI 반도체, 그리고 AI 모델 기업의 agent/computer-use 역량 강화 쪽으로 돈과 인수가 모이고 있습니...
들어가며 LLM API 서버를 운영해보면 병목은 대개 “모델이 느리다”가 아니라 유저가 느리게 느낀다입니다. 800~1500 tokens짜리 답변은 생성 자체가 수 초 걸리는데, 전통적인 JSON 응답은 완료될 때까지 클라이언트가 아무것도 못 보고 기다립니다. 반면 스트리밍을 붙이면 총 생성 시간은 같아도 Time-to-first-token이 줄어 체...
들어가며 2026년 4월(현재 시점 기준) LLM 신규 모델 경쟁은 “4월에 갑자기 뭔가가 하나 나왔다”기보다, 2~3월에 공개된 최신 모델 라인업이 실제 개발 워크플로우를 어디까지 바꿔놓는지로 초점이 이동했습니다. OpenAI·Anthropic·Google이 각각 GPT‑5.4, Claude Opus/Sonnet 4.6, Gemini 3.1 Pro/...
들어가며 2022~2023년의 CoT 유행은 “Let’s think step by step” 한 줄로 요약됐습니다. 그런데 2026년 4월 시점의 현장은 다릅니다. 이유는 두 가지입니다.
들어가며 2026년 4월 현재 AI 규제는 “법 제정”보다 “실제 적용(Enforcement)과 컴플라이언스 설계” 국면으로 빠르게 이동하고 있습니다. EU는 AI Act의 본격 적용(2026-08-02)을 앞두고 Code of Practice 중심의 이행체계를 다듬는 중이고, 미국은 주(州) 단위 규제를 연방이 선점(preemption)하려는 기조가...
2026-04-01 (수) 개발일지
dev-blog오늘의 삽질: Discord 봇이 메시지는 보내는데 실시간 수신은 안 되는 문제
들어가며 2026년 들어 “Agentic workflow”가 실서비스로 더 많이 들어오면서, 단순 챗봇을 넘어 모델이 외부 시스템을 호출해 실제 일을 끝내는 구조가 표준이 됐습니다. 문제는 여기서부터입니다. Function Calling 자체는 흔해졌지만, 막상 운영 환경에서는 (1) tool schema가 커져 프롬프트가 비대해지고, (2) 모델이 ...
들어가며 2026년 3월은 빅테크 AI 3사(OpenAI, Anthropic, Google)가 모델 라인업 교체·API 사용성 강화·정책 프레임워크 수정을 거의 같은 타이밍에 쏟아낸 달이었습니다. 특히 “무엇이 새로 나왔나”보다 더 중요한 건, 기존 앱이 깨질 수 있는 deprecation/정책 변화가 현실적인 리스크로 커졌다는 점입니다. (platf...
들어가며 2026년 현재 LLM을 “써보는” 단계는 끝났고, 어떻게 안정적으로 서빙할지가 실력 차이를 만듭니다. 특히 사내/온프렘/개인 워크스테이션 환경에서는 (1) GPU VRAM이 넉넉하지 않고, (2) 동시 요청이 조금만 늘어도 latency가 흔들리며, (3) 모델/버전이 자주 바뀌기 때문에 서빙 엔진 선택과 배포 방식이 곧 운영 난이도를 결정...
들어가며 2026년 3월은 AI 스타트업의 “돈이 몰리는 곳”과 “사라지는(흡수되는) 곳”이 또렷하게 갈린 달이었습니다. 대형 투자 라운드가 이어지는 한편, 콘텐츠·클라우드 인프라 영역에서는 인수합병(M&A/merge)로 역량을 빠르게 내재화하는 흐름도 강화됐습니다. (axios.com)
들어가며 RAG/semantic search가 “데모는 쉽고 운영은 어렵다”로 바뀌는 지점은 대개 벡터DB 선택에서 시작합니다. PoC 단계에선 Chroma 같은 로컬/임베디드로도 충분하지만, 트래픽이 붙고 데이터가 수백만~수천만 벡터로 커지면 병목이 latency(p95), memory footprint(HNSW RAM), metadata filte...
들어가며 2026년 3월은 OpenAI·Anthropic·Google이 각각 신규 LLM(또는 핵심 기능 확장)을 공개하며 “성능”뿐 아니라 제품 UX(대화 톤), 개발자 비용(토큰 단가), 에이전트 권한 위임(자동 실행) 경쟁을 한 단계 끌어올린 달이었습니다. 특히 1M급 context, 저지연(voice-first), 코딩 에이전트의 실행 권한이 ...
2026-03-29 (일) 개발일지
dev-blog오늘의 TIL: 개발자에서 B2B 영업 지원자로, 관점의 전환
들어가며 2026년 3월 기준으로 “전화처럼 자연스럽게 끼어들고(barge-in), 끊김 없이 말하고, 짧게라도 바로 대답을 시작하는” 음성 AI가 제품 경쟁력의 핵심이 됐습니다. 단순히 STT→LLM→TTS를 이어 붙이는 수준을 넘어서, 대화의 타이밍(turn-taking)과 지연(latency) 자체가 UX를 좌우합니다.
들어가며 2026년 3월 AI 규제 뉴스의 공통 키워드는 집행(enforcement)과 책임(accountability)입니다. EU는 AI Act의 집행 논의를 전면에 올렸고, 미국은 주(州) 단위 고위험 AI 규제(예: Colorado)가 실제 시행을 앞두고 “수정/완화” 논쟁이 커졌습니다. 동시에 국제 규범(인권·민주주의·법치 중심)과 중국의 생...
들어가며 2026년 3월의 프론트엔드 현장은 “UI를 얼마나 빨리 만들 수 있나”보다 “UI를 얼마나 일관된 설계(Design System)로, 안전하게 유지보수 가능한 코드로 만들 수 있나”가 병목입니다. 요구사항은 매일 바뀌고, PM/디자이너는 피그마에서 블록 단위로 쪼개 전달하며, 개발자는 컴포넌트/상태/접근성/반응형/테마까지 한 번에 맞춰야 하...
들어가며 2026년 3월, OpenAI는 제품/엔터프라이즈 통합과 함께 API에 새 모델을 올렸고, Anthropic은 안전 정책 프레임워크(Responsible Scaling Policy, RSP)를 재정비했으며, Google은 Gemini API에 멀티모달 embedding을 공개 프리뷰로 내놓고 일부 프리뷰 모델 shutdown 일정을 명시했습니...
2026-03-27 (금) 개발일지
dev-blog오늘의 TIL: APM 프로젝트에서 ClickHouse 스키마와 로그 분석 삽질기
들어가며 2026년 3월 기준, AI Agent 개발의 병목은 “프롬프트 잘 쓰기”가 아니라 오케스트레이션(orchestration) 입니다. POC에서는 한두 개 tool call과 단일 agent로도 그럴듯하지만, 실제 서비스로 가면 곧바로 다음 요구가 붙습니다: (1) 여러 역할의 협업(Planner/Researcher/Coder/Reviewer...
들어가며 2026년 3월 AI 스타트업 투자·인수합병 뉴스의 공통점은 “모델 성능 경쟁”을 넘어 Agentic workflow(계획→실행)와 대규모 compute 확보로 무게중심이 옮겨갔다는 점입니다. 특히 AI 기업들은 기능을 직접 개발하기보다, 팀과 기술을 빠르게 흡수하는 acqui-hire 성격의 M&A를 더 공격적으로 쓰기 시작했습니다....
2026-03-26 (목) 개발일지
dev-blog오늘의 TIL: LLM 모델 교체와 자동화 스크립트 개선
들어가며 2026년 3월에도 여전히 많은 모델 릴리스 노트가 MMLU(지식/이해), HumanEval(코드 생성) 점수를 “성능”의 대표 지표처럼 내세웁니다. 하지만 현업에서 모델을 붙여보면, 리더보드 상위권인데도 도메인 QA에서 헛소리를 하거나, HumanEval은 잘하는데 SWE-bench류 실제 수정 작업에서는 무너지는 경우가 흔합니다. 문제는 ...
들어가며 2026년 3월, 주요 LLM 진영(OpenAI·Anthropic·Google)이 연달아 “개발자/에이전트 중심” 신모델과 기능을 공개하면서 경쟁 축이 다시 한 번 이동했습니다. 이번 흐름의 키워드는 1M context(장문 처리), computer-use(실제 작업 수행), 초저비용/고처리량(Flash-Lite) 입니다. (openai.co...
2026-03-25 (수) 개발일지
dev-blog오늘의 TIL: LLM 파인튜닝 데이터 정제와 멀티프로젝트 컨텍스트 전환
들어가며 RAG 성능이 안 나오는 팀을 보면, 대개 LLM 문제가 아니라 retrieval 품질(Recall/Precision) 문제가 먼저 터집니다. 특히 실무 데이터(내부 위키, 티켓, 코드, 계약서)는 사용자 질의가 짧고 모호해서 vocabulary mismatch가 자주 발생합니다. “용어는 다른데 같은 뜻”인 경우, dense embeddin...
들어가며 2026년 3월은 AI 규제가 “원칙 선언”을 넘어, 연방-주 권한 충돌(미국)과 시행·집행 타임라인(EU)처럼 실제 집행 구조를 둘러싼 싸움이 전면에 나온 달이었습니다. 동시에 deepfake·impersonation 기반 AI 사기/피해(선거·언론·개인)가 규제 의제를 강하게 끌어올렸고, 개발자에게는 제품 설계 단계에서부터 complian...
2026-03-24 (화) 개발일지
dev-blog오늘의 개발 일지: Discord 봇부터 투자 보고서까지, 삽질과 해결의 하루
들어가며 2026년 3월 기준, Vision Language Model(VLM)은 “이미지 캡션” 수준을 넘어 문서/차트/스크린샷 이해, UI 자동화 보조, 시각적 근거 기반 QA 같은 실무 문제를 텍스트만으로는 풀기 어려운 영역까지 침투했습니다. 특히 최근 트렌드는 다음 3가지로 요약됩니다.
들어가며 2026년 3월 AI 빅테크 3사는 “모델 성능 경쟁”만이 아니라, API 라인업 재편·제품 노출 확대·안전/정책 포지셔닝 변경을 한꺼번에 밀어붙였습니다. 특히 OpenAI의 정부 계약 문구 수정, Anthropic의 Responsible Scaling Policy(RSP) 기조 변화, Google의 Gemini Embedding 2 공개는 ...
들어가며 2026년 3월의 “Vibe Coding” 흐름은 단순히 코드를 자동 생성하는 단계를 넘어, 디자인→프로토타입→배포→운영 실험까지 “한 번에” 밀어붙이는 방향으로 진화했습니다. 최근에는 Google이 자연어로 고품질 UI/프로토타입을 뽑아주는 ‘vibe design’ 도구(예: Stitch)와, 외부 도구/데이터를 표준 방식으로 연결하는 MC...
들어가며 2026년 3월 AI 스타트업 시장에서 눈에 띄는 흐름은 두 가지였습니다. (1) agent(컴퓨터를 실제로 조작하는 AI) 역량을 흡수하기 위한 인수합병, (2) GPU/compute 확보를 둘러싼 전략적 투자·제휴가 동시에 가속됐다는 점입니다. 특히 “모델 성능”만큼이나 “배포 가능한 제품화”와 “인프라 장악력”이 밸류에이션과 거래를 좌우...
들어가며 2024~2025년의 LLM 앱은 “요청 1번 → 응답 1번” 구조가 많았습니다. 하지만 2026년 3월 기준 현업에서 문제는 명확합니다: 멀티스텝(workflow) + 외부 Tool 호출 + 장시간 실행 + 재시도/복구 + 감사(audit) 가 기본 요구가 되면서, 단순한 챗봇 아키텍처로는 비용 폭증, 장애 시 재실행, 부작용(side ef...
들어가며 2026년 3월, OpenAI·Google·Anthropic의 LLM 라인업이 연달아 업데이트되면서 “최강 모델” 경쟁이 다시 불붙었습니다. 다만 이번 사이클의 핵심은 단순 benchmark 승부가 아니라, 개발자가 실제로 쓰는 워크플로(코딩·오피스·고볼륨 API)에 얼마나 빨리/싸게/안정적으로 녹아드느냐로 옮겨가고 있습니다. (openai....
들어가며 2026년에도 LLM 파인튜닝의 현실은 크게 변하지 않았습니다. “데이터는 있는데 GPU/예산이 없다”가 기본 전제고, 그래서 Full Fine-Tuning(FFT) 대신 PEFT(Parameter-Efficient Fine-Tuning)가 표준이 됐습니다. 특히 LoRA는 base weight는 얼리고 저랭크 adapter만 학습해 비용을 ...
들어가며 2026년 3월 AI 규제 뉴스의 핵심은 “새 법이 갑자기 등장”이라기보다, 이미 확정된 큰 규제 프레임(EU AI Act 등)이 현장에서 작동하도록 만드는 시행 가이드/코드(코드 오브 프랙티스)와 투명성 요건이 구체화되고 있다는 점입니다. 특히 생성형 AI의 딥페이크·합성콘텐츠 확산이 각국 정책을 라벨링/워터마킹, 데이터 투명성, 심리적 위...
들어가며 2024년식 RAG는 “질문 → 검색 → 답변” 파이프라인이 고정돼 있어, 애매한 질의(용어 불명확/범위 과대), 문서 품질 편차, 상충 근거가 섞인 상황에서 쉽게 무너집니다. 반면 2026년 3월 기준 현업에서 말하는 Agentic RAG는 LLM이 검색 자체를 도구(tool)로 다루며, 언제·무엇을·몇 번 검색할지, 결과를 어떻게 재질의/...
들어가며 2026년 3월(그리고 직전 2월 말) OpenAI·Anthropic·Google은 공통적으로 “더 똑똑한 모델” 자체보다, 개발자가 실제로 쓰게 만드는 보안/정책/배포 단위의 업데이트를 전면에 내세웠습니다. Codex가 AppSec 에이전트로 확장되고, Anthropic은 안전 거버넌스를 재작성했으며, Google은 브라우저/워크스페이스 레...
들어가며 2026년의 LLM 앱은 “모델 호출 한 번”으로 끝나지 않습니다. Agent가 tool을 여러 번 호출하고, RAG가 retrieval을 반복하며, streaming 응답 중간에 재시도/폴백이 발생합니다. 이때 장애의 원인은 대개 프롬프트/모델이 아니라 실행 그래프 어딘가의 상태 전파 실패, 타임아웃, 잘못된 캐시, 과도한 토큰 사용 같은 ...
들어가며 2026년 3월 AI 스타트업 투자 뉴스는 “모델 성능”만큼이나 “운영(Ops)·통제(Governance)·현업 워크플로우”가 자금의 중심으로 이동하고 있음을 보여줬습니다. 특히 AI agents(에이전트)와 이를 기업 환경에서 안전하게 굴리기 위한 보안/거버넌스 계층이 동시에 커지고 있습니다. (techstartups.com)
들어가며 2026년 3월의 AI 코딩 도구는 더 이상 “autocomplete 잘 해주는 플러그인” 수준이 아닙니다. Cursor/Windsurf/Copilot 모두 agentic workflow(에이전트형 작업 방식) 로 무게중심이 옮겨갔고, 핵심은 한 줄 생성이 아니라 (1) 코드베이스 탐색 → (2) 멀티파일 수정 → (3) 터미널 실행/검증 →...
들어가며 2026년 3월 초, OpenAI·Anthropic·Google이 각각 GPT‑5.4, Claude Sonnet 4.6, Gemini 3.1 Flash‑Lite(및 3.1 Pro)를 전면에 내세우며 “LLM 신규 모델 출시 경쟁”을 다시 가속했습니다. 이번 라운드의 핵심은 단순 벤치마크 1등이 아니라, 개발자가 바로 붙여 쓸 수 있는 가격/속...
들어가며 LLM API 서버에서 “스트리밍”은 단순 UX 옵션이 아니라 서버 자원과 지연(latency)을 결정하는 아키텍처 요소입니다. 긴 응답을 한 번에 내려주면 TTFB(Time To First Byte)가 커지고, 프록시/타임아웃에 걸릴 확률도 올라갑니다. 반대로 토큰 단위로 흘려보내면 사용자는 즉시 반응을 느끼고, 서버는 backpressur...
개발자 입장에서는 모델 성능 경쟁만큼이나 disclosure(고지), safety guardrails(안전장치), privacy tooling(프라이버시 도구), auditability(감사 가능성)가 제품 요구사항으로 굳어지는 흐름이 분명해졌습니다. (axios.com)
들어가며 한동안 CoT는 “Let’s think step by step” 한 줄로 성능을 끌어올리는 만능키처럼 소비됐습니다. 그런데 2025~2026에 들어서면서 전제가 달라졌습니다. 최신 reasoning model들은 추론을 내부적으로 수행하고, 제품/안전/경쟁력 이유로 raw CoT를 사용자에게 그대로 노출하지 않는 방향이 강해졌습니다. 그 결과...
들어가며 2026년 3월 전후로 OpenAI·Anthropic·Google AI는 대규모 신제품 쇼케이스보다 API deprecation(사용 종료), 정책 문구 업데이트, 엔터프라이즈 확장 같은 “운영 레벨” 변화를 연달아 내놓고 있습니다. 특히 3월 말(3/24~3/31)로 몰린 종료 일정과, 안전/국방 관련 정책 메시지가 개발자 의사결정에 직접 ...
들어가며 2026년 들어 AI Agent는 단순 Q&A를 넘어, 외부 시스템을 호출(tool use)해 실제 작업을 끝내는 방향으로 빠르게 표준화되고 있습니다. 문제는 “모델이 똑똑하게 말하느냐”가 아니라, 언제 어떤 도구를 어떤 인자로 호출하고, 실패를 어떻게 복구하며, 호출 결과를 어떻게 상태로 축적하느냐에서 품질이 갈린다는 점입니다. 커뮤...
들어가며 2026년 3월 AI 스타트업 시장에서 눈에 띈 흐름은 “더 큰 모델” 경쟁보다 AI를 실제로 굴리는 인프라와 업무 워크플로우에 녹아드는 제품에 자금과 인수합병 관심이 쏠렸다는 점입니다. 특히 데이터센터 병목(인터커넥트), 보안, 문서/특허 업무 자동화처럼 “돈을 아끼거나(비용) 더 벌게 하는(생산성)” 영역이 강세였습니다. (techstar...
들어가며 2026년 현재 LLM 서빙은 “모델을 띄우는 것”보다 동시성(concurrency)에서의 성능 곡선과 운영 난이도가 승패를 가릅니다. 같은 GPU 1장이라도, 요청이 1개일 때 빠른 서버와 50명이 동시에 붙었을 때 SLA를 지키는 서버는 다릅니다. 최근 벤치마크/분석에서 공통적으로 드러나는 결론은 명확합니다: vLLM은 continu...
들어가며 2026년 2~3월, OpenAI·Anthropic·Google이 각각 GPT/Claude/Gemini 라인업에서 “신규(또는 최신) 모델”을 연이어 공개하면서 LLM 경쟁이 다시 한 번 가속했습니다. 단순히 “더 똑똑해졌다”가 아니라, 코딩/에이전트(agentic)/장문 컨텍스트/비용 효율처럼 제품 포지션이 더 선명해졌다는 점이 핵심입니다....
들어가며 RAG/Agent 시스템이 “잘 답하는지”는 모델보다 retrieval layer(검색/필터/정렬)의 품질과 지연시간에 더 자주 발목 잡힙니다. 특히 2026년 현재는 임베딩 차원이 768~1536으로 커지고(예: 1536d), 메타데이터 필터(tenant, ACL, time range)와 hybrid search(BM25+vector), r...
들어가며 2026년 3월 현재 AI 규제 뉴스의 핵심은 “새 법 하나”가 아니라, EU AI Act의 단계적 적용(집행 타임라인), 미국의 연방·주(州) 레벨 입법 드라이브, 중국의 생성형/알고리즘 규제 고도화가 동시에 진행되며 개발 조직의 컴플라이언스 요구가 현실화되고 있다는 점입니다. 특히 투명성(transparency), 인력/일자리(workfo...
들어가며 2026년 3월 기준, 음성 AI 제품의 승부처는 “정확도”만이 아니라 대화감(conversational feel) 입니다. 사용자는 전화처럼 말하다가 끼어들고(barge-in), 잠깐 멈추고, 다시 이어 말합니다. 그런데 전통적인 STT → LLM → TTS 직렬 파이프라인은 각 단계가 “완료”될 때까지 다음 단계가 기다리기 쉬워, 체감 지...
들어가며 2026년 3월 초, OpenAI와 Google은 각각 ChatGPT/API 주력 모델과 대규모 트래픽용 저비용 모델을 전면에 내세우며 “개발자 체감(품질·속도·비용)”을 정조준했습니다. 동시에 Anthropic은 Responsible Scaling Policy(RSP) 관련 변화가 다시 주목받으며 “안전 정책의 현실화”라는 다른 축의 경쟁도...
들어가며 프론트엔드 개발에서 가장 시간이 많이 새는 구간은 “비즈니스 로직”이 아니라 UI 골격(레이아웃/컴포넌트 조합/반복되는 Tailwind 스타일링) 입니다. 특히 B2B SaaS처럼 화면이 많은 제품은, 한 번의 기능 개발이 “테이블 + 필터 + 다이얼로그 + 폼 + 상태표시” 같은 UI 묶음 작업으로 확장되며 속도가 급격히 떨어집니다.
들어가며 2026년 3월 초 AI 스타트업 시장에서 눈에 띄는 흐름은 두 가지입니다. (1) “computer-use/agentic workflow” 같은 실행형 AI 역량을 둘러싼 인수합병이 빨라졌고, (2) 특정 도메인(정부 조달, 보험, DTC 고객응대 등)에서 “AI agent를 실제 운영환경에 꽂는” 팀들이 비교적 큰 금액으로 투자 유치에 성...
들어가며 2026년 3월 기준, “AI Agent”는 더 이상 단일 LLM 호출을 예쁘게 포장하는 수준이 아닙니다. 운영 환경에서 진짜 문제가 되는 지점은 (1) 멀티 에이전트 협업이 커질수록 폭증하는 context/token 비용, (2) 장시간 실행/중단/재개, (3) 실패 복구 및 관찰 가능성(observability)입니다. 이때 팀이 선택할 ...
들어가며 2026년 3월 첫째 주(3/3~3/6), OpenAI와 Google이 개발자·프로덕션 지향 신규 LLM을 연달아 공개했습니다. 반면 Anthropic(Claude)은 3월 “신규 모델 출시”보다는 2월에 공개한 Claude 4.6 라인업의 확산과 안전/정책 이슈가 업계 반응의 중심에 있었습니다. (openai.com)
들어가며 LLM을 “평가”한다는 건 결국 의사결정(모델 선택, 배포, 튜닝, 비용 최적화) 을 위한 숫자를 만드는 일입니다. 그런데 2026년 3월 시점에서 MMLU, HumanEval 같은 고전 벤치마크는 여전히 널리 쓰이면서도, 점수 자체가 비교 불가능하게 만들어지는 케이스가 너무 많습니다. 특히 MMLU는 prompting/shot 수/Co...
들어가며 2026년 3월 초 기준 AI 규제 이슈는 “EU는 AI Act 적용 시점(2026-08-02)을 향해 구현 가이드를 굳히는 단계”, “미국은 연방 통일 규제는 더디지만 주(州) 단위 투명성·딥페이크 규제가 빠르게 움직이는 단계”로 요약됩니다. 특히 딥페이크/아동보호/투명성 같은 윤리·안전 의제가 실제 법안 텍스트와 집행 일정으로 구체화되면서...
들어가며 프로덕션 RAG에서 “임베딩 모델 바꾸면 좋아지겠지”는 보통 착각입니다. 실패 패턴을 뜯어보면 대개 (1) query–document asymmetry(질문은 짧고 문서는 길다), (2) 1차 검색의 recall 부족, (3) 상위 k 안에서의 precision 부족 세 가지로 귀결됩니다. 2026년 3월 시점에도 업계/연구의 흐름은 크게 변...
들어가며 2026년 3월 초 기준, OpenAI·Anthropic·Google은 “모델 성능” 자체보다 개발자가 바로 제품에 붙일 수 있는 API/운영/정책을 전면에 내세우는 업데이트 흐름이 뚜렷합니다. 특히 OpenAI는 Codex 라인업을 더 “에이전트”로 밀고, Google은 Gemini 3.1 Flash-Lite로 고볼륨·저지연 가격대를 강하게...
들어가며 2026년의 제품/서비스에서 “이미지”는 더 이상 부가 입력이 아닙니다. 고객센터에 올라오는 스크린샷, 물류/제조 현장의 사진, 문서 스캔(PDF), 앱 UI 캡처, 보안 카메라 프레임까지… 업무 데이터의 상당수가 시각 정보로 들어옵니다. 그런데 전통적인 CV 파이프라인(Detection→OCR→Rule-based postprocess)은 “...
들어가며 2026년 3월 초 AI 스타트업 시장의 키워드는 Agentic AI의 대형사 흡수와 Physical AI(로보틱스)로의 자금 쏠림입니다. 투자 라운드는 로봇/산업 안전·자동화 같은 “현장 적용” 영역으로, M&A는 “모델”보다 업무 실행(Computer-use) 능력을 확보하는 방향으로 선명해졌습니다. (techstartups.com)
들어가며 2026년 3월의 빠른 개발 트렌드는 단순한 Copilot-style autocomplete가 아니라, agentic coding + vibe coding으로 정리됩니다. Andrej Karpathy가 2025년 2월 “vibe coding”을 언급한 뒤, “코드를 이해하기보다 원하는 동작을 말로 정의하고, 실행-피드백으로 밀어붙이는” 개발 ...
들어가며 2026년 2~3월 사이, OpenAI·Anthropic·Google이 각각 개발자용 LLM 라인업을 굵직하게 업데이트하며 경쟁 구도가 다시 요동쳤습니다. 특히 “코딩 특화(Codex)”, “초장문 컨텍스트(1M tokens)”, “초저비용/고처리량(Flash-Lite)”이 각 진영의 핵심 메시지로 보입니다. (openai.com)
들어가며 2026년 3월 시점의 AI 애플리케이션은 더 이상 “LLM API 호출 + 프롬프트”로 끝나지 않습니다. 실제 제품에서 요구하는 건 확장성(traffic/데이터/팀 규모), 신뢰성(재현 가능성/관측 가능성), 안전성(tool 오남용/프롬프트 인젝션), 그리고 지식 최신성(RAG) 입니다. 특히 OpenAI가 Responses API + Ag...
들어가며 2026년 3월 초 기준, AI 규제 논의는 “원칙 선언”을 넘어 집행 타임라인·정부 개입 한계·데이터/저작권/안전의 실무 의무로 빠르게 수렴하고 있습니다. 특히 EU는 2026년 8월 본격 집행을 예고했고, 미국은 국방/산업 동원 논란을 계기로 법적 경계선을 다시 그리는 분위기입니다. (digital-strategy.ec.europa.eu)
들어가며 LLM fine-tuning은 “내 도메인/내 톤/내 포맷”에 모델을 맞추는 가장 강력한 방법이지만, 비용이 항상 문제입니다. Full fine-tuning은 가중치·그라디언트·optimizer state가 함께 메모리를 잡아먹어(특히 AdamW의 FP32 상태가 큼) 현실적인 GPU 한 장에서 바로 터집니다. 그래서 2026년에도 여전히 현...
들어가며 2026년 2월 말~3월 초를 지나면서, OpenAI·Anthropic·Google은 단순 신모델 경쟁을 넘어 API 변화(입출력·Structured Output·에이전트 인터페이스)와 정책/거버넌스(Usage Policy·RSP)를 전면에 내세우는 흐름이 뚜렷해졌습니다. 개발자 입장에서는 “어떤 모델이 더 똑똑한가”보다 무엇이 바뀌었고(De...
들어가며 기존 RAG는 보통 query → retrieve → generate의 단선형 파이프라인입니다. 문제는 현실의 질문이 그렇게 단순하지 않다는 데 있습니다. 예를 들어 “내부 문서 기준으로 답하되, 최신 변경사항은 웹에서 확인해줘” 같은 요청은 (1) 질의 분해, (2) 검색 소스 선택, (3) 결과 품질 평가, (4) 실패 시 재시도/대안 탐...
들어가며 2026년 3월로 들어서며 AI 투자 시장은 “VC 중심의 라운드”를 넘어, Big Tech·전략적 투자자 중심의 초대형 자금 조달과 제품/디바이스 경쟁을 위한 인수합병(M&A) 이 전면에 섰습니다. 특히 (1) compute 인프라를 묶은 대형 투자, (2) Voice AI의 ‘플랫폼화’, (3) wearables/on-device ...
들어가며 2026년 3월 기준 LLM 애플리케이션 운영의 본질은 “모델 성능”이 아니라 “시스템 성능”입니다. 같은 prompt라도 컨텍스트(툴 호출, RAG 검색 결과, 재시도, 라우팅, 캐시, 모델 버전)에 따라 결과가 출렁이고, 장애는 대개 코드가 아니라 오케스트레이션(Agent graph)와 외부 의존성에서 터집니다. 그래서 프로덕션에서 필요한...
들어가며 2026년 2월 들어 OpenAI·Anthropic·Google이 연이어 LLM 신규 모델(또는 핵심 업그레이드)을 발표하면서, “성능 경쟁”의 초점이 단순 대화 품질을 넘어 agentic coding / long-context / computer-use로 빠르게 이동하고 있습니다. 특히 코딩 에이전트와 업무 자동화가 제품 레벨로 내려오며 개...
들어가며 2026년 2월 기준 AI 코딩 도구의 흐름은 “autocomplete 잘해요”에서 끝나지 않습니다. 이제는 agentic workflow(계획→수정→실행→검증을 도구가 주도)로 넘어왔고, 이 전환이 생산성의 격차를 크게 만듭니다. 예를 들어 GitHub Copilot은 VS Code에서 Agent mode가 확장되고(터미널 커맨드 실행 내역...
들어가며 2026년 2월의 AI 규제 뉴스 흐름은 한마디로 “원칙 선언 → 실행(집행·감독·현장 적용) 단계로의 이동”입니다. EU는 AI Act를 둘러싼 각국 집행 체계를 구체화하고, 한국은 2026년 1월 22일 시행된 ‘AI 기본법’의 영향이 본격적으로 산업 현장에 전파되기 시작했습니다. 동시에 ‘AI literacy’, 워터마크, 고영향(hig...
들어가며 LLM API 서버를 직접 운영해보면 “응답이 느리다”는 사용자 불만의 대부분은 총 처리시간보다 Time-to-first-token(첫 토큰 도착 시간) 에서 발생합니다. 특히 프롬프트가 길거나 tool 호출/후처리가 붙으면 첫 화면이 뜨기까지 수 초가 걸리기도 하죠. 이때 Streaming을 붙이면 UX가 급격히 좋아집니다.
들어가며 2026년 2월은 빅테크 AI 3사(OpenAI, Anthropic, Google)가 모델 라인업 정리(디프리케이션), 프론티어 안전 정책 강화, 신규 상위 모델 투입(장문 컨텍스트/에이전트 지향)을 한 달 안에 몰아친 시기였습니다. 개발자 관점에서는 “무슨 모델을 기본값으로 둘 것인가”와 “정책·거버넌스 요구 수준이 어디까지 올라왔는가”가 ...
들어가며 2023년식 CoT(“Think step-by-step”)는 2026년에도 여전히 통하지만, 그대로 쓰면 두 가지 문제가 커졌습니다. (1) 토큰/지연 비용: 모델이 길게 추론할수록 비용이 곱절로 뛰고, (2) 투명성의 환상: 많은 최신 “reasoning model”은 내부 추론을 그대로 보여주지 않거나(요약만 노출), 노출된 CoT가 실제...
들어가며 2026년 2월 AI 스타트업 시장은 “초대형 메가 라운드(mega round)”가 연달아 터지면서 밸류에이션 상단이 다시 열렸고, 동시에 대기업/플랫폼 기업이 LLM observability, data quality, AI 서비스 조직을 빠르게 흡수하는 M&A가 이어졌습니다. 특히 개발자 관점에서는 “모델 성능”보다 운영(Ops)·데...
들어가며 2024~2025년을 거치며 “Agent”는 더 이상 마케팅 용어가 아니라, LLM이 외부 세계(데이터/시스템/실행환경)와 상호작용하는 소프트웨어 아키텍처로 굳어졌습니다. 특히 실무에서 LLM을 “유용하게” 만드는 핵심은 모델이 똑똑한가보다 언제/어떤 도구(tool)를/어떤 인자(schema)로 호출할지를 안정적으로 설계·운영하는가에 달려 있...
들어가며 2026년 2월, OpenAI·Anthropic·Google이 각각 GPT/Claude/Gemini 계열에서 굵직한 모델 업데이트를 연달아 발표했습니다. 이번 발표들의 공통점은 “코딩 중심(에이전트형) 성능”과 “긴 컨텍스트(1M tokens)”를 전면에 내세우며 개발 워크플로우 자체를 바꾸려 한다는 점입니다. (help.openai.com)
들어가며 LLM 서빙을 운영해보면 곧 두 가지 벽에 부딪힙니다. (1) GPU 메모리(KV cache) 한계와 (2) 동시성/지연시간(SLO) 한계입니다. 모델 가중치보다 KV cache가 더 빨리 메모리를 잡아먹고, 요청이 조금만 몰려도 prefill 구간에서 지연이 급증합니다. 그래서 2026년 2월 기준 실무에서는 “서빙 엔진 선택”이 곧 “인프...
들어가며 2026년 2월 기준, AI 규제는 “새 법이 나왔다”보다 “이미 정해진 시행 시점이 다가오고, 각국이 운영 체계를 굳히는 단계”로 넘어갔습니다. 특히 EU AI Act의 2026년 8월 2일(고위험·투명성 조항 적용) 마일스톤이 가까워지면서, 제품 설계·데이터·배포·모니터링까지 개발 라이프사이클 전반이 규제 중심으로 재정렬되고 있습니다. (...
들어가며 RAG가 “데모는 쉬운데 운영이 어렵다”로 귀결되는 가장 큰 이유는 retrieval 계층이 병목이 되기 때문입니다. LLM 호출 비용/지연만 보다가, 막상 트래픽이 붙으면 벡터 검색 latency(P95), 필터링 비용, 인덱싱(ingest) 처리량, 메모리 압박이 전체 시스템 SLO를 결정합니다. 그래서 벡터DB 선택은 “기능 체크리스트”...
들어가며 2026년 2월, OpenAI·Anthropic·Google이 각각 개발자용 모델/플랫폼을 한 단계 “에이전트 중심”으로 밀어붙이는 업데이트를 내놨습니다. 모델 성능 경쟁을 넘어, API 표면(Interfaces)·배포 채널·정책/신뢰(Trust) 체계까지 같이 바뀌는 흐름이 뚜렷합니다. (help.openai.com)
들어가며 2026년 2월 기준, 음성 AI는 더 이상 “STT로 텍스트 만들고 LLM 돌린 뒤 TTS로 읽어주는” 데서 끝나지 않습니다. 사용자는 전화/앱/웹에서 끊김 없는 turn-taking, 중간 끼어들기(barge-in), 말하는 도중에도 생각하고 반응을 준비하는 경험을 기대합니다. 이때 승패를 가르는 건 모델 성능보다도 latency budg...
들어가며 2026년 2월 AI 스타트업 시장은 한마디로 초대형 투자(mega-round)와 전략적 M&A(인수·합병)가 동시에 가속한 달이었습니다. Anthropic의 $30B(300억 달러) 투자처럼 “프론티어 모델”로 자금이 쏠리는 한편, LLM 앱/인프라 영역에서는 관측·플랫폼 기업들이 빠르게 인수되며 생태계가 재편되는 흐름이 보였습니다....
들어가며 2026년 2월 기준, 프론트엔드에서 AI 코드 생성은 “디자인 시안용 프로토타입”을 넘어 UI를 실제 컴포넌트 코드로 만들고, 곧바로 실행·배포 가능한 형태로 자동화하는 단계로 진입했습니다. 핵심 변화는 두 갈래입니다.
들어가며 2026년 2월(특히 2/5 전후) OpenAI·Anthropic·Google이 각각 개발자/에이전트 워크플로우를 겨냥한 신규 모델·플랫폼 업데이트를 연달아 발표했습니다. 단순 “성능 업”이 아니라, agentic coding·1M context·엔터프라이즈 운영이 경쟁의 중심축으로 확실히 이동한 것이 핵심입니다. (openai.com)
들어가며 2026년의 AI Agent 개발은 “LLM 호출을 몇 번 엮는 자동화”가 아니라, 긴 실행 시간·실패 복구·관찰 가능성(observability)·권한/검증(guardrails)까지 포함한 소프트웨어 시스템 문제로 바뀌었습니다. 단일 Agent로 시작해도, 조금만 복잡해지면 곧 멀티 Agent(역할 분리, 병렬화, 상호검증, Human-in...
들어가며 2026년 2월 AI 규제/정책 뉴스의 핵심은 “규제의 본격 집행이 다가오는 EU”와 “규범을 수출하려는 각국의 외교전(특히 Global South)”이 동시에 가속화됐다는 점입니다. 개발자 입장에서는 단순한 법률 이슈를 넘어, 제품 요구사항(투명성·리스크 관리·데이터 거버넌스)이 릴리즈 일정에 직접 영향을 주는 국면으로 들어왔습니다. (di...
들어가며 LLM을 배포/운영하는 입장에서 “우리 모델이 더 똑똑해졌다”를 증명하는 가장 쉬운 방법은 MMLU, HumanEval 같은 벤치마크 점수를 가져오는 겁니다. 문제는 점수는 쉬운데, 해석은 어렵다는 것. 같은 모델이라도 프롬프트 템플릿, few-shot 개수, 출력 형식 강제, sampling 파라미터, 심지어 평가 도구 버전이 달라지면 점수...
들어가며 2026년 2월, OpenAI·Anthropic·Google은 각각 모델/제품 라인업 정리(지원 종료), 책임·안전 정책 강화, API 기능 확장과 보안 리포트 공개라는 다른 축에서 큰 변화를 내놨습니다. 공통점은 하나입니다: “이제 AI는 성능 경쟁만이 아니라, 운영(operational)과 거버넌스(governance) 경쟁으로 넘어갔다”...
들어가며 RAG 성능이 “모델이 약해서” 무너지는 경우는 생각보다 드뭅니다. 실무에서 더 자주 터지는 병목은 Retrieval 단계의 실패(낮은 recall / 낮은 precision) 입니다. 짧고 모호한 사용자 질문은 코퍼스의 표현과 어긋나기 쉽고(용어 불일치), 벡터 검색은 “그럴듯한 근접”을 쉽게 만들어 가짜 근거를 컨텍스트로 끌고 들어옵니다....
들어가며 2026년 2월(최근 30일 기준) AI 스타트업 시장은 “모델 그 자체”보다 개발자 워크플로우와 엔터프라이즈 적용(보안/관측/컴플라이언스/헬스케어)을 둘러싼 투자·인수합병이 더 선명하게 부각됐습니다. 특히 초대형 라운드(Anthropic)와, 개발자 생산성/LLM 운영 스택을 둘러싼 M&A가 동시에 진행되며 “누가 개발자 플랫폼을 장...
들어가며 2026년 2월 기준 멀티모달 AI(Vision Language Model, VLM)는 “이미지 → 텍스트”를 넘어서, UI 스크린샷 디버깅, 문서/차트 이해, 상품/결함 검사, 장면 기반 QA, 간단한 object detection/segmentation 보조까지 제품 요구사항을 빠르게 채우는 범용 엔진이 됐습니다. 특히 최신 상용 VLM들...
들어가며 2026년 2월 초, OpenAI와 Anthropic이 개발자용 “agentic coding”을 전면에 내세운 신규/업데이트 모델을 발표했고, Google은 Gemini 3 계열을 엔터프라이즈·개발자 채널로 빠르게 확장하는 흐름을 보여줬습니다. 핵심은 “더 똑똑한 대화 모델”을 넘어서, 코드·도구·작업흐름을 실제로 실행하는 에이전트 경쟁이 본...
들어가며 2026년의 “빠른 개발”은 단순히 scaffold를 빨리 만드는 수준을 넘어, AI agent가 요구사항→코드→수정→배포 루프를 끊김 없이 돌리는 능력이 승부를 가릅니다. 실제로 “vibe coding”은 2025년 이후 대중화되며(용어 자체는 Karpathy가 2025년 2월 소개), 많은 팀이 코드 작성의 상당 부분을 AI에 위임하는 방...
들어가며 2026년 2월 AI 규제 이슈는 한 줄로 요약하면 “범용 LLM/Chatbot이 법·정책의 정조준 대상이 됐다”입니다. 영국은 Online Safety Act의 사각지대를 메우기 위해 AI chatbot을 명시적으로 규제 범위에 넣으려 하고, EU는 AI Act 적용 타임라인에 따라 거버넌스·GPAI 의무가 이미 작동 중이며, 미국은 연방-...
들어가며 2024~2025년의 LLM 앱은 “프롬프트 + RAG”로도 꽤 많은 문제를 풀었습니다. 하지만 2026년 2월 시점의 실전 요구는 달라졌습니다. 도구 호출(tool use), 멀티스텝 워크플로우, 실시간 스트리밍, 테넌트 격리, 관측/재현성, 비용/지연 최적화가 한꺼번에 들어오면서, 단일 서버에 프롬프트를 붙인 구조는 금방 한계가 납니다. ...
들어가며 2026년 2월(특히 2/10~2/12 전후)에는 OpenAI·Anthropic·Google이 API/모델 운영 정책, 안전 거버넌스, 개발자용 입력·도구 체계를 동시에 강화하는 업데이트를 내놨습니다. 공통 키워드는 “더 강력한 모델”이 아니라, 더 빠른 교체(Deprecation) + 더 촘촘한 안전/문서/데이터 파이프라인입니다.
들어가며 LLM fine-tuning은 “성능은 좋은데 비용이 너무 비싸다”가 늘 문제였습니다. Full fine-tuning은 GPU 메모리/시간/비용이 기하급수로 커지고, 실무에서는 데이터도 충분히 크지 않은 경우가 많습니다. 그래서 2026년 2월에도 여전히 표준 해법은 PEFT(Parameter-Efficient Fine-Tuning), 그중에...
들어가며 2026년 2월 들어 AI 시장의 투자/인수합병(M&A) 뉴스는 “더 큰 모델” 경쟁을 넘어 AI를 실제로 굴리는 인프라(Interconnect/Datacenter) 와 수익화가 빠른 에이전트/Voice 쪽으로 무게중심이 이동하고 있음을 보여줍니다. 특히 초대형 라운드와 굵직한 인수가 동시에 터지면서, 개발자 입장에서는 기술 트렌드와 ...
들어가며 전통적인 RAG는 보통 (질문 → 검색 → 컨텍스트 주입 → 답변) 이라는 “고정 파이프라인”입니다. 하지만 실제 서비스에서는 사용자의 질문이 매번 동일한 검색 전략을 요구하지 않습니다. 어떤 질문은 검색 없이도 답할 수 있고, 어떤 질문은 재질문(query rewrite) 이나 하위 질문 분해(sub-questions), 혹은 검색 결과 검...
들어가며 2026년 2월, LLM 시장은 “더 똑똑한 챗봇”을 넘어 에이전트형(agentic) 모델과 개발 생산성을 정면으로 겨냥한 업데이트가 연달아 터졌습니다. 특히 2월 5일(현지 기준) OpenAI와 Anthropic이 같은 날 신모델을 발표하며 경쟁 구도가 더 선명해졌고, Google도 Gemini 3 계열에서 ‘Agentic Vision’ 같...
들어가며 LLM 애플리케이션은 전통적인 APM(Application Performance Monitoring)만으로는 운영이 어렵습니다. 이유는 단순합니다. 장애가 “HTTP 500”처럼 명확하지 않고, 품질 저하도 “정답/오답”으로 떨어지지 않으며, 비용은 “토큰/캐시/리트라이/툴 호출”처럼 실행 경로에 따라 분산되기 때문입니다. 그래서 2025~2...
들어가며 2026년 2월은 “AI를 어떻게 규제할 것인가”가 선언이 아니라 집행 일정과 실무 가이드의 문제로 내려온 시점입니다. EU는 AI Act의 핵심 마일스톤(2026-02-02)을 맞아 고위험(High-risk) 분류 실무를 구체화해야 하고, 영국·인도·중국 등도 안전·저작권·등록(파일링)을 축으로 각자 다른 방식의 규제 드라이브를 걸고 있습니...
들어가며 2026년 2월 시점의 AI 코딩 어시스턴트는 더 이상 “autocomplete가 똑똑해졌다” 수준이 아닙니다. 이제는 agentic workflow(에이전트가 코드베이스를 탐색하고, 여러 파일을 수정하고, terminal task를 실행하며, 오류를 고치면서 목표를 완수)로 넘어왔고, 그만큼 생산성 폭발과 함께 통제/안전/재현성 문제가 동시...
들어가며 2026년 2월 들어 OpenAI는 코딩 특화 신모델을 내놓는 동시에(2/5) 레거시 모델 정리 일정을 못 박았고(2/13~2/16), Google은 Gemini API에서 모델 디프리케이션 타임라인을 명확히 하며(“Earliest February 2026”) 교체를 유도하고 있습니다. Anthropic은 초장문 컨텍스트(1M tokens)와...
들어가며 LLM API 서버에서 UX를 좌우하는 건 “정확도”만이 아닙니다. 첫 토큰까지의 지연(TTFT), 생성 중 부분 결과를 얼마나 자연스럽게 전달하는지, 그리고 연결이 끊겼을 때의 복구 전략이 실제 체감 품질을 결정합니다. 특히 긴 답변/툴 호출/검색 기반 응답이 늘면서, 한 번에 완성된 JSON을 주는 방식은 대기 시간이 길고, 클라이언트는 ...
들어가며 2026년 2월 들어 AI 스타트업 시장은 (1) 도메인 특화 agent/automation에 대한 투자 확대와 (2) AI governance·security 중심의 인수합병이 동시에 두드러졌습니다. 특히 “AI를 잘 만들기”를 넘어 “AI를 안전하게 운영하고, 실제 업무를 대체/자동화하는가”가 거래의 핵심 기준으로 올라왔습니다. (wsj....
들어가며 Chain of Thought(CoT)는 한때 “Let’s think step by step” 한 줄로 요약되던 만능 치트키였습니다. 그런데 2026년 2월 기준 실무에서는 분위기가 바뀌었습니다. 이유는 간단합니다. 최신 reasoning 모델 계열은 내부적으로 이미 추론을 수행하며, 오히려 노골적인 CoT 유도는 성능을 깎거나(불필요한 장문...
들어가며 2026년 2월 초, Anthropic이 Claude Opus 4.6(2026-02-05)를 공개하며 ‘agentic coding’과 초장문 컨텍스트 경쟁에 다시 불을 붙였습니다. 한편 OpenAI는 GPT-5.2(2025-12-11 공개)를 중심으로 레거시 모델 정리(2026-02-13 ChatGPT 내 지원 종료)를 진행 중이고, Goog...
2026년 2월, AI Agent “Tool Use + Function Calling” 구현의 정답: 스키마 강제(Strict)·루프 제어·추적(Tracing)으로 프로덕션까지
AI들어가며 2026년 2월 기준, “AI Agent가 도구를 호출해 실제 일을 한다”는 말은 더 이상 데모가 아닙니다. 하지만 프로덕션에서 진짜 문제가 되는 지점은 모델 성능이 아니라 통제(control) 입니다. 모델이 언제(tool selection), 무엇을(arguments), 몇 번이나(loop) 호출할지 호출 결과를 어떻게 관찰/디버...
들어가며 2026년 2월은 “AI 규제”가 담론을 넘어 실제 준수(compliance) 일정과 집행(enforcement) 로드맵으로 개발팀에 떨어지기 시작한 시점입니다. EU는 AI Act 전체 적용(2026-08-02)을 앞두고 단계별 의무를 확정해가고, 미국은 연방 단일 규제 부재 속에서 주(州) 단위 ‘high-risk AI’ 규제가 본격 효력...
들어가며 LLM 서빙은 이제 “모델을 띄운다”에서 끝나지 않습니다. 같은 GPU라도 동시성(concurrency), KV cache 메모리 효율, batching 전략, 관측성(observability)에 따라 비용과 UX(특히 TTFT/P99)가 크게 갈립니다. 그래서 팀들이 보통 다음 3축으로 도구를 나눠 씁니다.
들어가며 2026년 2월 초(2/3~2/5)를 중심으로 OpenAI·Anthropic·Google에서 “모델/제품 업데이트 + 정책/신뢰 이슈”가 동시에 터졌습니다. 단순 신모델 경쟁을 넘어, 개발자가 체감하는 변화는 코딩 에이전트 고도화, 초장문 컨텍스트 확대, 프라이버시·상업화(커머스) 결합으로 요약됩니다. (help.openai.com)
들어가며 RAG, semantic search, 추천 시스템이 “서비스”가 되면서 벡터 검색은 더 이상 실험용 기능이 아닙니다. 문제는 임베딩을 저장하는 것보다 “얼마나 일정한 latency로, 얼마나 많은 QPS를, 어떤 필터/하이브리드 조건에서도” 보장할 수 있느냐입니다. 2026년 2월 시점에서 Pinecone/Weaviate/Qdrant/Chr...
들어가며 2026년 2월(정확히는 2월 초), AI 스타트업 시장은 “대형 자금 조달(mega round)”과 “플랫폼급 M&A”가 동시에 터지며 분위기가 확 바뀌었습니다. 특히 Voice/Agent/Infrastructure 축에서 돈이 몰리고, 인수합병은 “기능 추가”가 아니라 “산업 지형 재편” 쪽으로 움직이고 있습니다. (m.econom...
들어가며 2026년 2월 기준, “음성 AI”의 승부처는 모델 성능 자체보다 대화의 리듬(턴 전환, 끼어들기, 지연, 끊김 복구) 입니다. 텍스트 챗봇은 1~2초 지연도 용납되지만, 음성 대화는 첫 소리(First audio)까지 600~900ms, 턴 전체가 1~2초대를 넘기면 사용자가 즉시 “기계랑 말한다”는 느낌을 받습니다. (현업에서 흔히 보는...
들어가며 2026년 2월(현재 2월 5일 기준) 기준으로, GPT/Claude/Gemini의 “대형 신규 모델 출시” 자체가 일제히 발표된 흐름은 확인되지 않습니다. 대신 OpenAI는 ChatGPT 광고 도입(수익화), Anthropic은 ‘Claude는 광고 없다’(신뢰/브랜딩), Google은 Gemini 라인업의 ‘Thinking/Pro’ 확장...
들어가며 프론트엔드 생산성을 갉아먹는 구간은 늘 비슷합니다. (1) Figma를 보고 Tailwind/컴포넌트로 “픽셀 맞추기”, (2) 반복되는 레이아웃/상태(빈 화면, 로딩, 에러, 리스트) 뼈대 만들기, (3) 그 다음에야 비즈니스 로직을 붙이는 흐름이죠. 2025~2026년의 변화는 “코드 보조”가 아니라 UI 생성(Generative UI) ...
들어가며 2026년 2월은 “AI 규제가 진짜로 작동하기 시작하는 시점(의 전초전)”이라는 신호가 여러 곳에서 동시에 포착된 달입니다. EU는 AI Act의 2026년 적용 구간을 구체화하는 가이던스 데드라인이 걸려 있고, 영국은 AI 학습(Training)과 copyright 충돌이 정책 이슈로 재점화되면서 윤리 논쟁이 커지고 있습니다. (digit...
들어가며 2026년의 AI Agent 개발은 “LLM 한 번 호출”에서 끝나지 않습니다. 제품/업무에 투입되는 에이전트는 (1) 여러 단계의 workflow, (2) 실패/재시도, (3) 사람 승인(Human-in-the-loop), (4) 상태 저장과 재개, (5) 관측가능성(Tracing/Debugging)을 요구합니다. 여기서 프레임워크 선택이 ...
들어가며 2026년 2월 초(2월 3일 기준) AI 업계는 (1) OpenAI의 ChatGPT 내 구형 모델 대거 retire, (2) Anthropic의 enterprise/agent 기능 확장과 정책 문서 강화, (3) Google의 Gemini를 둘러싼 제품 확장 + EU 규제 압박이 겹치며, 개발자 입장에서는 “기능 추가”보다 API/제품 선택...
들어가며 LLM을 “잘한다”고 말할 때, 우리는 대개 리더보드 숫자 한 줄(MMLU 90, HumanEval 95 등)로 결론을 냅니다. 하지만 2026년 2월 시점에는 이 방식이 점점 위험해졌습니다. 이유는 간단합니다. (1) MMLU 자체가 오래된 지식/문항 구조를 갖고 있고, (2) 코드 벤치마크(HumanEval)는 테스트가 얕으면 “그럴듯한 ...
들어가며 2026년 2월 초(최근 30일) AI 스타트업 투자/인수합병 뉴스의 공통점은 “더 큰 모델”보다 실사용(Deployment)·추론(Inference)·디바이스 폼팩터에 돈이 몰린다는 점입니다. 특히 빅테크는 하드웨어/플랫폼에 붙일 수 있는 “입력 인터페이스” 기술을, VC는 기업 고객이 바로 돈을 내는 “엔터프라이즈 워크플로우”를 강하게 밀...
들어가며 RAG 성능 최적화에서 가장 흔한 실패 패턴은 “검색이 약해서 LLM이 헛소리한다”가 아니라, 더 미묘하게는 (1) 후보 문서를 충분히 못 찾거나(recall 부족), (2) 찾았는데도 상위에 못 올리거나(precision 부족), (3) 올려놔도 컨텍스트 창에 쓸데없는 토큰을 쏟아붓는(token budget 낭비) 입니다. 2025~2026...
들어가며 2026년 2월 LLM 업계의 핵심 키워드는 “신규 모델의 단순 출시”보다 기존 주력 모델의 세대교체(Deprecation)와 제품 내 에이전트 기능 확장입니다. OpenAI는 ChatGPT에서 GPT-4o를 포함한 여러 모델을 2월 중순 은퇴시키며 GPT-5.2 중심으로 재편했고, Google은 Gemini를 Chrome에 깊게 넣으며 “브...
들어가며 2026년 1월 현재, 이미지 분석 AI를 제품에 “붙여보는” 수준은 이미 끝났습니다. 실무에서 진짜 어려운 건 정확도보다도 신뢰성(reliability) 입니다. 예를 들어 영수증/명함/OCR, 제조 불량 판정, UI 스크린샷 QA 같은 문제는 모델이 대충 설명만 잘해도 곤란합니다. 우리는 보통 DB에 넣을 수 있는 구조화된 결과(JSON)...
들어가며 2026년 1월 AI 규제 뉴스의 핵심은 “AI Act 집행 시계가 본격적으로 돌아가기 시작했다”와 “생성형 AI가 만드는 불법·유해 콘텐츠에 대한 책임 추궁이 강화됐다”로 요약됩니다. 동시에 EU는 규제만이 아니라 AI compute 인프라(‘AI gigafactories’)를 법·재정 틀로 묶으며 산업 경쟁력까지 함께 밀어 올리는 흐름을 ...
들어가며 2026년 1월 기준 “Vibe Coding”은 더 이상 밈이 아니라, AI로 제품 아이디어를 몇 시간~며칠 단위로 검증하는 표준 워크플로우로 굳어지고 있습니다. Andrej Karpathy가 말한 것처럼 개발의 중심이 “코드를 쓰는 행위”에서 “English로 의도를 전달하고, 실행/관찰/수정 루프를 돌리는 행위”로 이동했죠. (busine...
들어가며 2026년 1월은 “모델 성능 경쟁”보다 제품화·운영·정책(Compliance) 레이어가 빠르게 바뀐 달이었습니다. Google은 Gemini API의 데이터 인입(ingestion) 한계를 크게 넓혔고, Anthropic은 콘솔/모델 라인업을 정리했으며, OpenAI는 안전·정책 측면의 공지를 강화했습니다. (releasebot.io)
들어가며 2024~2025년의 “RAG(벡터DB+LLM)” 중심 앱은 빠르게 확산됐지만, 2026년 1월 시점의 실무 요구는 훨씬 복잡해졌습니다. 단순히 문서를 찾아 답을 생성하는 수준을 넘어, 여러 시스템을 조회하고(권한 포함), 여러 단계로 계획하고, 실패를 복구하며, 비용/지연시간을 통제하는 “제품”을 만들어야 합니다. 이 흐름에서 눈에 띄는 변...
들어가며 2026년 1월 AI 스타트업 투자/인수합병 뉴스의 공통 키워드는 Agent(자율 실행형 AI), 그리고 특정 산업 Workflow를 돈으로 바꾸는(수익화하는) 제품이었습니다. 빅테크는 의료/에이전트 영역으로 인수를 통해 파고들었고, 유니콘급 애플리케이션 레이어 기업은 대규모 투자로 “enterprise-grade”를 증명하려는 흐름이 뚜렷했...
들어가며 2026년에도 LLM fine-tuning의 본질은 변하지 않습니다. 성능(도메인 적합도)을 올리고 싶지만, GPU VRAM/학습 시간/운영 비용이 발목을 잡습니다. Full fine-tuning은 7B만 가도 메모리 부담이 급격히 커지고(가중치+gradient+optimizer state), 실무에서는 “일단 돌아가는” 효율적 방법이 필요합...
들어가며 2026년 1월은 “새 모델 이름 하나 더”보다, LLM이 핵심 제품(검색·업무·개발툴)에 기본값으로 들어가는 속도가 더 크게 체감된 달입니다. Google은 Search에 Gemini 3를 기본 엔진으로 넣으며 분배(Distribution)를 강화했고, OpenAI와 Anthropic은 각각 GPT‑5.2, Claude Opus 4.5를 전...
들어가며 기존 RAG는 “질문 1회 → 벡터 검색 1회 → 답변 1회”의 정적 파이프라인이 많습니다. 하지만 실무 질문은 대개 모호하거나(용어 불일치), 여러 출처를 교차 확인해야 하고(정책/규정/버전), 검색 결과가 노이즈로 오염되기도 합니다. 그래서 2025~2026 흐름에서는 Agentic RAG—즉, LLM이 언제 검색할지, 어떻게 쿼리를 바꿀...
들어가며 2026년 1월, AI 규제 이슈는 단일 ‘AI 기본법’ 논쟁을 넘어 칩 수출 통제(국가안보), deepfake 성범죄(피해구제·플랫폼 책임), EU AI Act의 단계적 시행(컴플라이언스 현실화)처럼 “AI가 실제로 쓰이는 지점”을 겨냥해 빠르게 구체화되고 있습니다. 개발자 입장에선 모델 성능보다 거버넌스, 데이터/콘텐츠 출처, 배포 통제,...
들어가며 LLM 애플리케이션은 “잘 동작한다/안 한다”로 끝나지 않습니다. 같은 입력에도 출력이 흔들리고(비결정성), 한 번의 요청이 여러 단계(Agent planning → tool → retrieval → LLM → rerank…)로 분기되며, 비용은 호출 단위가 아니라 워크플로 전체에서 새어 나갑니다. 그래서 운영 단계에서 진짜 필요한 건 단순 ...
들어가며 2026년 1월은 “모델 성능 경쟁”만큼이나 정책(Policy)·플랫폼 정리·API 수명주기 관리가 전면에 나온 달이었습니다. OpenAI는 약관/미성년자 보호 강화 흐름을, Anthropic은 Claude 브랜드/모델 세대교체를, Google은 Gemini API의 deprecation(폐기)와 과금 전환을 확실히 드러냈습니다. (opena...
1월은 성능 경쟁만큼이나 정책·플랫폼 정리·API 수명주기 관리가 부각되었습니다. OpenAI는 약관과 미성년자 보호를 강화했고, Anthropic은 Claude 브랜드와 모델 세대교체를 진행했으며, Google은 Gemini API의 폐기와 과금 전환을 공식화했습니다.
LLM 애플리케이션 운영은 단순 로깅을 넘어 관측 가능성(Observability)이 필수입니다. 개발자들은 “어떤 프롬프트가, 어떤 컨텍스트로, 어떤 모델을, 얼마나 사용했는지, 어디서 실패했는지”를 요청 단위로 추적해야 합니다.
들어가며 2026년 1월 기준 AI coding 도구는 단순한 autocomplete을 넘어, multi-file edit + terminal 실행 + 계획(Plan) + 반복 수정(iteration)까지 수행하는 “agentic workflow”로 진화했습니다. GitHub Copilot은 Agent mode / Edits / Next edit su...
들어가며 2026년 1월 AI 스타트업 시장의 핵심 키워드는 “AI agent로의 무게중심 이동”과 “빅테크의 수혈(인수) + VC의 초대형 라운드”였습니다. 메타(Meta)·오픈AI(OpenAI) 같은 플랫폼 기업은 빠르게 팀과 제품을 흡수했고, 동시에 일부 영역에서는 시드/Series B임에도 큰 금액이 몰리는 흐름이 확인됩니다. (wsj.com)
들어가며 LLM API 서버에서 “스트리밍”은 단순 UX 옵션이 아니라 서버 비용/지연/타임아웃을 좌우하는 핵심 설계입니다. 긴 응답을 한 번에 반환하면 TTFB(Time To First Byte)가 커지고, 사용자는 “멈춘 것처럼” 느끼며, 서버는 전체 결과를 버퍼링하는 동안 메모리·커넥션을 오래 물고 있게 됩니다. 반대로 토큰 단위로 흘려보내면 첫...
들어가며 2026년 1월은 “새 모델 이름”만큼이나 “배포/운영 방식과 안전·신뢰성”이 LLM 경쟁의 핵심으로 올라온 달입니다. OpenAI는 GPT‑5.2를 공식 출시했고, Google은 Gemini 3 라인업을 제품·플랫폼 전반으로 확산 중이며, Anthropic(Claude)은 대형 신규 모델 발표보다는 정책/운영 이슈가 전면에 등장했습니다. (...
들어가며 Chain of Thought(CoT)는 한때 “Think step-by-step” 한 줄로 성능을 끌어올리는 마법처럼 보였습니다. 하지만 2026년 1월 시점의 실무는 조금 다릅니다. (1) CoT는 정확도를 올리기도 하지만 토큰/지연시간/비용을 폭증시키고, (2) 모델이 만든 reasoning이 항상 정답 근거와 “faithful”하게 정...
들어가며 2026년 1월 AI 규제 뉴스의 핵심은 “모델 자체 규제”만이 아니라, 칩(안보)·딥페이크(피해구제)·아동/청소년 보호(윤리)·EU 컴플라이언스(거버넌스)가 동시에 전면으로 올라왔다는 점입니다. 각국이 서로 다른 트리거(안보/범죄/소비자보호/산업정책)로 접근하면서, 개발자에게 요구되는 책임 범위가 빠르게 넓어지고 있습니다.
들어가며 2026년 1월 기준, AI Agent를 “대화형 모델”로만 쓰는 팀은 점점 줄고 있습니다. 제품 요구사항이 검색(Web Search), 사내 지식(File Search), 업무 시스템 액션(ERP/CRM/DB), 브라우저 조작(Computer Use) 같은 실제 도구 사용으로 이동했기 때문입니다. OpenAI는 2025년 3월부터 Respo...
들어가며 2026년 1월, OpenAI·Anthropic·Google은 나란히 모델/API 수명주기 관리, 콘솔/플랫폼 재정비, 정책(privacy/usage) 명문화를 강화했습니다. 겉으로는 “업데이트”지만, 실제로는 개발팀의 마이그레이션 비용과 컴플라이언스 요구사항을 한 단계 끌어올린 달이었습니다. (platform.openai.com)
들어가며 2026년 1월 시점의 LLM 서빙은 “모델을 띄운다”를 넘어, 동시성(throughput)·TTFT(Time To First Token)·KV cache 메모리 효율·API 호환성(OpenAI compatible)·운영 편의성(관측/롤링업데이트)이 성패를 가릅니다. 특히 사내망/온프렘 환경에서 “클라우드 API 없이 로컬 배포” 요구가 커지...
들어가며 2026년 1월 AI 스타트업 시장의 키워드는 (1) voice AI로의 자금 집중과 (2) 빅테크의 ‘workflow 흡수형 M&A’였습니다. 자본은 “모델 그 자체”보다 바로 매출로 연결되는 운영 레이어(오케스트레이션/데이터/도메인 워크플로우)를 가진 팀에 빠르게 모이고 있습니다.
들어가며 RAG, 추천, 시맨틱 검색이 “돌아가기만 하면 된다” 수준을 넘어서면서, 벡터DB는 정확도(Recall)·지연시간(Latency)·처리량(QPS)·필터링 비용·운영 난이도·비용 예측 가능성이 동시에 요구됩니다. 특히 2025년 말~2026년 초 흐름에서 눈여겨볼 변화는 “서버리스/온디맨드”만으로는 해결이 어려운 고QPS·엄격한 SLO 요구가...
들어가며 2026년 1월(현재 시점 기준) LLM 시장의 “신규 모델 출시” 키워드는 의외로 조용합니다. 대신 OpenAI·Google·Anthropic 모두 모델 자체의 세대교체보다, 제품/플랫폼에 어떻게 붙여서 확장하느냐(배포), 얼마나 개인화하느냐(메모리·개인 데이터), 어디까지 일을 대신하느냐(에이전트) 쪽으로 승부 축이 이동했습니다. (aca...
들어가며 2026년 1월 기준, 음성 AI 제품에서 사용자가 체감하는 품질은 “정답률”보다 “대화감”이 더 크게 좌우합니다. 대화감은 결국 latency(지연), turn-taking(턴 교대), barge-in(끼어들기), 그리고 streaming(연속 처리) 4가지가 결정합니다. 과거의 전형적인 파이프라인(STT→LLM→TTS)은 구성은 단순하지만...
들어가며 2026년 1월은 AI 규제가 “원칙 선언”을 넘어 구체 법안(딥페이크 피해 구제)과 고위험 AI 감사·투명성 의무로 수렴하는 흐름이 뚜렷해진 시기입니다. 특히 미국은 deepfake 성착취 피해자 구제를, EU는 AI Act의 단계별 적용을, 영국은 국가 차원의 AI 역량/안보 프레임을 강화하면서 “규제의 초점”이 갈라지고 있습니다. (ax...
들어가며 프론트엔드에서 가장 시간이 많이 새는 구간은 의외로 “비즈니스 로직”이 아니라 UI 골격 잡기 + 컴포넌트 조립 + 스타일 튜닝입니다. 특히 대시보드/설정 화면/폼처럼 반복 패턴이 많은 영역은, 요구사항이 조금만 바뀌어도 레이아웃과 상태 분기 때문에 작업이 길어집니다.
들어가며 2026년 1월 중순, OpenAI·Anthropic·Google이 각각 수익화(ads), 에이전트/데스크톱 자동화, API 입력·모델 정책(폐기/과금)을 중심으로 굵직한 업데이트를 연달아 내놓았습니다. 공통점은 “모델 성능 경쟁”을 넘어 프로덕션 운영(비용/정책/마이그레이션)이 개발자 의사결정의 핵심으로 이동하고 있다는 점입니다. (open...
들어가며 2024~2025년의 “Agent 데모” 붐이 지나고, 2026년 1월 현재 실무에서 중요한 질문은 더 현실적입니다. 에이전트를 어떻게 “반드시 끝나게” 만들 것인가?, 재현/감사 가능하게 만들 것인가?, 멀티 에이전트가 서로 떠넘기다 무한루프에 빠지지 않게 할 것인가? 같은 문제죠.
들어가며 2026년 1월 AI 스타트업 투자/인수합병 뉴스의 공통 키워드는 (1) 헬스케어 워크플로우, (2) agent 기반 자동화, (3) on-device/sovereign AI로 수렴합니다. 특히 빅테크는 “모델 성능 경쟁”을 넘어, 데이터(의료기록)·배포(디바이스)·사용처(업무 자동화)를 직접 확보하는 방향으로 움직였습니다. (techcrun...
들어가며 2026년 1월, LLM 경쟁은 “새 모델 이름”보다 제품(요금제/에이전트/배포 채널) 단위의 업데이트가 더 크게 부각되는 흐름으로 전개되고 있습니다. OpenAI는 GPT‑5.2 접근성을 넓히는 방향(새 요금제·광고 도입)을, Anthropic은 Claude를 “대화형”에서 “업무 수행형(agentic)”으로 밀어붙였고, Google은 Ge...
들어가며 2024~2025년의 “Agent”는 데모가 많았고, 2026년 1월의 “Agent”는 운영 가능한 오케스트레이션이 핵심입니다. 즉, (1) 에이전트가 여러 개일 때 누가 언제 무엇을 하게 할지, (2) 실패/재시도/검증을 어떻게 제어할지, (3) 추적 가능성(Observability)과 재현성(Replay)을 어떻게 확보할지가 생산성을 갈라...
들어가며 2026년 1월 AI 스타트업 투자·인수합병 뉴스의 핵심은 “AI를 기능(feature)로 쓰는 단계”를 넘어 “워크플로우(workflow)를 통째로 소유”하려는 움직임이 본격화됐다는 점입니다. 특히 Healthcare data, Agentic AI, 그리고 M&A 업무 자동화처럼 ‘데이터+실행’이 결합된 영역에서 굵직한 딜이 나왔습니...
들어가며 2025년 12월 Kubernetes/Docker/Managed Kubernetes 쪽 뉴스는 “새로운 혁신 기능 발표”보다는, 안정 채널 버전 업데이트·수명주기(EOL)·공급망 보안/배포 인프라 강화가 눈에 띄었습니다. 특히 Docker와 CNCF의 협업, 그리고 GKE·EKS·AKS가 각자 방식으로 “지원 버전과 업그레이드 경로”를 더 명...
들어가며 2025년의 GitHub Actions CI/CD는 “YAML 좀 잘 쓰면 된다” 수준을 넘었습니다. 실제 운영에서는 속도(캐시/병렬화), 재현성(artifact/lockfile), 보안(최소 권한·OIDC·Environment gate) 이 셋이 동시에 맞아야 파이프라인이 오래 갑니다. 특히 2025년 초 기준으로는 artifact 액션 v...
들어가며 2025년 12월 AWS는 re:Invent를 통해 생성형 AI를 “API로 쓰는 단계”에서 “기업이 자기 데이터로 모델/에이전트를 직접 만들고 운영하는 단계”로 밀어 올리는 신규 서비스를 다수 공개했습니다. 같은 달 Azure는 에이전트 거버넌스/지식 관리(Control Plane, IQ)와 Claude 모델 수용으로 ‘운영 가능한 agen...
들어가며 2025년의 CI/CD는 “빌드/테스트 자동화”를 넘어서 배포 권한 통제, 공급망 보안, 병렬 실행 제어, 캐시 전략까지 한 덩어리로 설계해야 합니다. GitHub Actions는 YAML 몇 줄로 시작할 수 있지만, 실제 운영에서는 작은 설정 하나(예: permissions, concurrency, cache 버전) 때문에 배포 충돌, 토큰...
들어가며 2025년 12월(정확히는 2025년 11월 30일~12월 4일) AWS re:Invent 2025에서 AWS가 대규모 신규 서비스를 쏟아냈고, 메시지는 한 줄로 요약됩니다: AI 모델 자체보다 “AI agent를 안전하게, 대규모로 굴리는 플랫폼” 경쟁이 본격화됐다는 것. (aws.amazon.com) 동시에 Microsoft는 Ignite...
들어가며 FastAPI는 타입 기반(typing) + Pydantic 검증 + OpenAPI 자동화가 한 몸처럼 붙어 있어, “API를 빨리 내는” 데 최적화된 프레임워크입니다. 문제는 서비스가 커질수록 빠른 생산성이 오히려 결합도 증가(라우터에 비즈니스 로직/DB 쿼리 직결), 테스트 난이도 상승, 성능/운영 이슈(리소스 누수, 비동기 착각)로 되돌...
들어가며 2025년 12월은 Kubernetes 쪽에서 연말 메이저 릴리스(1.35.0)와 대규모 패치 릴리스(1.34/1.33/1.32 동시 업데이트)가 겹치며, 운영·보안 관점에서 “업데이트를 미루기 어려운 달”로 기억될 만했습니다. 동시에 Docker Desktop도 12월에 연속 릴리스(4.54.0, 4.55.0)와 보안 패치를 내면서, 개발자...
들어가며 2025년의 RAG는 더 이상 “vector DB에서 top-k 뽑아 프롬프트에 붙이는” 수준에서 끝나지 않습니다. 제품/운영 환경에서는 (1) 질문이 애매하면 재질문하거나, (2) 내부 문서/외부 웹/DB/API 중 어디를 먼저 볼지 선택하고, (3) 찾은 근거가 부족하면 재검색·재랭크하고, (4) 최종 답변에 근거(citation)와 신뢰...
들어가며 2025년 12월은 “신규 LLM 출시/기능 고도화”가 한꺼번에 몰린 달이었습니다. OpenAI는 GPT‑5.2와 이미지 생성 모델 GPT‑Image‑1.5를 전면에 내세웠고, Google은 Gemini 3 Flash를 기본(default) 모델로 올리며 속도·멀티모달 경쟁을 가속했습니다. (academy.openai.com)
들어가며 2025년의 CI/CD는 “YAML을 어떻게 쓰느냐”보다 어떻게 구조화하고(재사용), 어떻게 안전하게(권한/비밀), 어떻게 빠르게(캐시/아티팩트) 굴리느냐가 성패를 가릅니다. GitHub Actions는 이미 충분히 강력하지만, 팀/서비스가 늘어날수록 워크플로가 비대해지고(중복), Secret 관리가 위험해지고(장기 키), 빌드 시간이 급격히...
12월 클라우드 전쟁의 포인트는 ‘AI Agent + 거대 컨텍스트 + 크로스클라우드’였다: AWS re:Invent 2025와 GCP/Azure의 맞불
Infrastructure들어가며 2025년 12월(정확히는 11/30~12/4 개최된 AWS re:Invent 2025 이후) AWS가 대규모 신규 서비스/기능을 쏟아냈고, 같은 12월에 GCP와 Azure도 “AI Agent 운영”과 “LLM 트래픽 제어”, “크로스클라우드 연결”을 전면에 내세웠습니다. 핵심 흐름은 단순 모델 제공을 넘어, 엔터프라이즈급 Agent 운영·...
들어가며 FastAPI는 “빠르게 만든 API”에서 끝나면 곤란합니다. 2025년의 FastAPI는 Pydantic v2, ASGI 생태계(uvicorn/starlette), async DB 드라이버/ORM(SQLAlchemy 2.x async)와 결합되며 타입 기반 계약(Contract) 과 명시적 의존성(Dependency Injection) 을 ...
들어가며 2025년 12월 클라우드 네이티브 진영에서 가장 눈에 띈 소식은 Kubernetes v1.35 정식 릴리스(12/17)와 Docker Desktop 12월 릴리스 라인(12/04, 12/16)입니다. 공통 키워드는 명확합니다. “기능 추가”보다 보안 강화(credential, token, image access)와 개발자 경험(로컬/데스크톱...
들어가며 2023~2024년의 “단순 RAG”는 질문 → retrieve → LLM 답변의 직선 파이프라인이 주류였지만, 2025년 실무에서는 이 구조가 쉽게 한계에 부딪힙니다. 예를 들어 사용자의 질문이 (1) 검색이 필요 없는 상식인지, (2) 내부 문서 기반인지, (3) 웹 최신 정보가 필요한지, (4) 검색 결과 품질이 낮아 재질의/재랭킹이 필...
들어가며 2025년 12월은 “더 똑똑한 모델” 경쟁을 넘어, 개발 워크플로우 자체를 장악하려는 LLM 플랫폼 전쟁이 본격화된 달이었습니다. OpenAI는 GPT‑5.2 라인업과 개발자용 GPT‑5.2‑Codex를 연달아 공개했고, Google은 Gemini 3 Flash를 전면에 배치하며 속도/비용 축의 주도권을 노렸습니다. (openai.com)
들어가며 2025년의 CI/CD는 단순히 “빌드-테스트-배포”를 자동화하는 수준에서 끝나지 않습니다. 파이프라인이 커질수록 권한 관리(credential leak), 공급망 공격(supply-chain attack), 배포 경쟁 상태(race condition) 같은 문제가 실제 장애/사고로 이어지기 때문입니다. GitHub Actions는 여전히 가...
들어가며 2025년 12월은 AWS re:Invent 2025(11/30–12/4) 발표가 본격적으로 제품 로드맵에 반영되면서, “agentic AI + 운영 자동화 + 데이터/벡터 인프라”가 클라우드 경쟁의 중심축으로 굳어진 시기였습니다. AWS는 AI 에이전트와 벡터 스토리지/검색을 ‘클라우드 기본 기능’으로 끌어내렸고, Azure·GCP도 각자 ...
들어가며 2025년의 Python 백엔드 개발은 “프레임워크 선택”보다 아키텍처 일관성 + 운영 가능성(Observability/보안/배포)이 성패를 가릅니다. FastAPI는 ASGI 기반의 높은 처리량과 타입 기반 개발 경험으로 API 개발을 가속하지만, 팀 규모가 커질수록 “빨리 만든 코드”가 “빨리 망가지는 코드”가 되기 쉽습니다. 반대로 Dj...
들어가며 2025년 12월은 겉으로는 “큰 사건”보다, 운영자·플랫폼 팀에게 장기적으로 치명적인 기술 부채 청산 신호가 또렷해진 달이었습니다. Docker Desktop은 12월 릴리스에서 보안/운영 이슈를 정리하며 개발 환경의 기본값을 다듬었고, Kubernetes는 v1.35(업스트림 2025년 12월 릴리스 예정)에서 cgroup v1·conta...
들어가며 2025년의 CI/CD는 “돌아가기만 하면 된다”를 넘어 속도(개발 리드타임), 안정성(배포 충돌/롤백), 보안(공급망/토큰 유출)을 동시에 만족해야 합니다. GitHub Actions는 저장소 이벤트와 코드(Workflow YAML)가 결합된 형태라 진입장벽이 낮지만, 규모가 커질수록 YAML이 중복되고(팀/서비스별 파편화), 병렬 실행으로...
AWS가 ‘멀티클라우드’를 공식 제품으로 만들었다: 2025년 12월 클라우드 신규 서비스 트렌드 분석
Infrastructure들어가며 2025년 12월(특히 re:Invent 2025 전후) 클라우드 업계에서 가장 큰 변화는 “멀티클라우드 연결”이 더 이상 고객의 DIY 영역이 아니라, AWS·Google이 공동으로 관리형 서비스 형태로 끌어올렸다는 점입니다. 동시에 AWS는 agentic AI(에이전트 기반 AI) 중심으로 개발·보안·운영 경험을 재정의하려는 신호를 강하게...
들어가며 FastAPI는 “빠르게 만들고 빠르게 버리는” 프로토타입 프레임워크가 아닙니다. 2025년의 FastAPI는 Pydantic 기반의 강력한 스키마/검증, ASGI 비동기 생태계, OpenAPI 중심의 계약(Contract) 주도 개발을 바탕으로, Django 못지않게 큰 서비스도 운영할 수 있는 레벨에 도달했습니다. 다만 실무에서 문제가 되...
들어가며 2025년 12월 클라우드 네이티브 업계는 Kubernetes v1.35 정식 릴리스(12/17)와 Docker Desktop 12월 릴리스(12/04, 12/16)를 축으로 “운영 안정성·보안·런타임/개발자 경험”을 동시에 끌어올리는 흐름이 두드러졌습니다. 특히 Kubernetes 쪽은 기능 추가만큼이나 생태계 컴포넌트 유지보수 리스크(예:...
들어가며 2024~2025년에 RAG를 실제 서비스에 붙여본 팀들이 공통으로 부딪히는 벽이 있습니다. “Vector search로 top-k 뽑고 LLM에 넣는 선형 파이프라인”이 생각보다 쉽게 무너진다는 점입니다. 질문이 애매하거나, 답이 여러 문서에 흩어져 있거나, 첫 검색 결과가 부정확하면 모델은 그럴듯한 문장을 만들어 내며 실패합니다.
들어가며 2025년 12월 AI/LLM 업계는 “모델 성능 경쟁”과 “Agent/개발자 도구 표준화”가 동시에 가속된 한 달이었습니다. OpenAI의 GPT-5.2 출시, Anthropic의 Claude Opus 4.5 강화, 그리고 Agent Skills 오픈 표준 움직임이 맞물리며 개발자 관점에서 선택지와 운영 전략이 크게 달라졌습니다. (reut...
들어가며 2025년의 CI/CD는 “돌아가기만 하면 된다”를 넘어, 속도(캐시/병렬화)·안정성(동시성 제어)·보안(권한 최소화/비밀 제거)가 기본 요구사항이 됐습니다. 특히 GitHub Actions는 팀이 가장 손쉽게 선택하는 플랫폼이지만, 아무 설정 없이 워크플로를 늘리다 보면 다음 문제가 금방 터집니다.
들어가며 2025년 12월, AWS는 re:Invent 2025를 통해 AI agent 중심의 대규모 신규 서비스/기능을 공개하며 “개발 생산성 + 인프라(칩/서버) + 모델 플랫폼”을 한 번에 밀어붙였습니다. 같은 시기 Azure는 Azure Copilot과 신규 PostgreSQL 계열 DB 프리뷰를 전면에 내세웠고, GCP는 Next ’25 발표...
들어가며 2025년의 Python 백엔드는 “REST CRUD”를 넘어 streaming/real-time, 고동시성 I/O, 타입 기반 계약(OpenAPI) 중심 협업으로 무게중심이 이동했습니다. 이런 워크로드에서 FastAPI는 ASGI 기반의 async 모델과 Pydantic 중심 스키마가 강점이지만, “LEGO”처럼 조립형인 만큼 아키텍처/트랜...
들어가며 2025년 12월 클라우드 네이티브 업계에서 가장 눈에 띈 흐름은 “기능 경쟁”보다 “보안·신뢰(검증 가능성)·공급망”을 개발자 워크플로우의 기본값으로 밀어 넣는 움직임이었습니다. 특히 Docker가 Docker Hardened Images(DHI)를 무료로 전환하고, 이를 외부 기관 검증까지 공개하면서 컨테이너 생태계의 기대치가 한 단계 올...
들어가며 2023~2024년의 RAG는 “질문 → retrieve(top-k) → LLM 답변”으로 끝나는 단일 패스가 주류였습니다. 그런데 2025년 실무에서는 이 구조가 자주 깨집니다. 사용자가 던지는 질문이 복합적(여러 하위 질문), 불완전(용어가 애매/오타), 데이터 범위가 불명확(내부 문서에 없는 것)하기 때문입니다. 그래서 최신 튜토리얼/프...
들어가며 2025년 12월 AI/LLM 업계의 핵심 키워드는 agentic coding의 고도화와 에이전트가 OS·클라우드 인프라로 내려오는 흐름이었습니다. 단순히 “더 똑똑한 모델” 발표를 넘어, 개발자가 실제 제품/업무에 붙일 수 있는 형태(도구·플랫폼·표준·런타임)로 경쟁이 이동하고 있습니다. (openai.com)
들어가며 팀 규모가 커질수록 CI/CD는 “자동화” 자체보다 일관성, 속도, 보안, 배포 통제가 핵심이 됩니다. 2025년의 GitHub Actions는 단순히 push 때 테스트 돌리는 수준을 넘어, least privilege 권한 관리, OIDC 기반의 무비밀(또는 최소 비밀) 배포 인증, environments 기반 승인/보호, concurre...
2025년 12월 AWS가 던진 ‘Agentic Cloud’ 신호탄: CloudWatch·Bedrock AgentCore·Nova 2가 바꿀 운영 패러다임
Infrastructure들어가며 2025년 12월(정확히는 AWS re:Invent 2025 기간인 11월 30일~12월 4일 전후) AWS는 “AI agents를 실제 운영에 올리는 방법”을 제품 레벨로 대거 발표했습니다. 핵심은 모델 자체보다 agent 운영(Observability, Policy, Evaluation, Incident 대응 자동화)을 AWS 관리형 서비...
들어가며 2025년의 Python 백엔드에서 FastAPI는 “빠르게 만들기”보다 “오래 운영하기”에서 실력이 갈립니다. 특히 (1) settings/DB/http client 같은 리소스의 생명주기, (2) 테스트에서의 override 가능성, (3) API 계약(OpenAPI) 일관성이 무너지면 서비스가 커질수록 변경 비용이 폭증합니다. 핵심은 F...
들어가며 2025년 12월 클라우드 네이티브 업계는 “기능 진화”와 “런타임 보안”이 동시에 전면에 부상한 달이었습니다. Kubernetes는 v1.35를 12월 17일 공개하며 대규모 개선(총 60개 enhancement)을 발표했고, 한편 Docker Desktop 및 runC 계열 취약점 이슈가 운영·개발 환경의 보안 기본선을 다시 끌어올렸습니다...
들어가며 2024년까지의 전형적인 RAG는 “질문 → vector search → top-k 컨텍스트 → LLM 답변”이라는 단선형 파이프라인이었습니다. 문제는 이 구조가 사용자 질문이 모호하거나, 첫 검색 결과가 부정확하거나, 답이 여러 소스에 흩어져 있을 때 급격히 취약해진다는 점입니다. 그래서 2025년에는 “RAG + Agent”가 사실상 표준...
들어가며 2025년 12월, LLM 업계의 ‘최신 뉴스’는 단순히 더 큰 모델이 아니라 Agentic workflow를 버틸 “효율·오픈·배포성”에 초점이 맞춰졌습니다. 특히 NVIDIA가 Nemotron 3를 전면에 내세우며 “칩 회사”에서 “모델/스택 제공자”로 확실히 확장하는 흐름이 눈에 띕니다. (reuters.com)
들어가며
12월 클라우드 3사 신제품 전쟁: AWS는 ‘Agent + Multicloud’, GCP는 ‘Agent Engine GA’, Azure는 ‘Foundry + 새 DB’로 판이 커졌다
Infrastructure들어가며 2025년 12월(특히 AWS re:Invent 2025 전후) 클라우드 업계의 신규 서비스 발표 흐름은 한마디로 “AI agent의 생산 배치(Production) + Multicloud 연결성”으로 수렴했습니다. AWS는 re:Invent에서 대규모 런치를 쏟아냈고, GCP와 Azure도 12월 업데이트에서 agent 운영 기능과 데이터/...
Docker 멀티스테이지 빌드 활용법: 이미지 크기와 보안을 동시에 잡기
Infrastructure들어가며 Docker image는 배포 단위이자 운영 환경 그 자체라서, 크기와 보안 수준이 곧 비용과 장애 확률로 이어집니다. Multi-stage build는 build toolchain은 버리고 runtime만 남겨 이미지 용량을 줄이고, attack surface까지 함께 줄이는 가장 실용적인 패턴입니다.
들어가며 FastAPI는 “타입 힌트 기반의 validation + OpenAPI 자동 생성 + ASGI 성능”이라는 조합 덕분에 2025년에도 마이크로서비스/서버리스/API 전용 백엔드에서 강력한 선택지입니다. 하지만 실무에서는 성능보다 더 자주 “구조가 무너져서 바꾸기 어려움”, “에러 포맷이 제각각”, “Django(모놀리식)와 경계가 불명확” ...
Kubernetes 1.35 ‘Timbernetes’가 던진 신호: cgroup v1 종료, containerd 1.x 최종 경고, 그리고 “Pod 리소스 무중단 변경”의 현실화
DevOps들어가며 2025년 12월 클라우드 네이티브 업계의 핵심 뉴스는 Kubernetes v1.35 정식 릴리스(12월 17일)로 요약됩니다. 이번 릴리스는 기능 추가만큼이나 런타임/노드 운영의 ‘전환’(cgroup v1 제거, containerd 1.x 지원 종료 예고)을 강하게 밀어붙였고, 개발자/플랫폼팀 모두가 체감할 변화가 큽니다. (kubernet...
들어가며
블로그를 새롭게 시작합니다 🚀
Blog새로운 시작
들어가며
Docker Compose로 로컬 개발환경 세팅하기 🐳
Infrastructure왜 Docker Compose인가?
CI/CD가 왜 필요한가?
RAG란?
10년차 개발자가 말하는 성장 팁 💪
Career들어가며
AWS 비용 50% 절감한 방법 💰
Infrastructure배경