ChatGPT처럼 한 글자씩 도착하는 응답의 뒤에는 Streamable HTTP가 있다. HTTP/1.1 chunked와 HTTP/2 DATA frame의 차이, LLM 토큰 스트리밍에서 버퍼링을 꺼야 하는 이유와 그 메모리 대가, 그리고 Envoy Gateway와 APISIX 선택 기준까지.
Codex OTEL 로그는 들어왔지만 Zeude 사용자 identity가 빠졌던 장면에서 출발해, AI CLI 관측이 왜 wrapper, identity, proxy, 저장소 설계의 운영 문제인지 정리했다.
여러 Git 저장소의 코드를 하나의 워킹트리에서 AI가 merge하는 패턴. 플러그인이 코어 소스를 수정해야 할 때, AI 코딩 에이전트가 충돌 해결 비용을 0으로 낮추면서 실용적인 선택지가 되었다.
100개 이상의 LLM을 단일 OpenAI 형식으로 통합하는 LiteLLM. SDK와 Proxy Server의 차이, 실제 운영 경험, 도입 판단 기준을 공유합니다.
Claude 구독 만료 대비 LiteLLM Proxy 기반 LLM fallback 인프라를 K3s + Cloudflare Tunnel로 구성한 과정을 정리합니다.
AI 에이전트에게 Bash를 주되 안전하게. NanoClaw는 Docker 컨테이너 격리로 Claude Agent SDK의 풀스택 능력을 안전하게 활용하는 오픈소스 아키텍처다.
NanoClaw의 Telegram 기능을 skills engine 기반으로 전환하고, upstream과 fork custom의 3계층 코드 구조를 확립한 과정을 정리합니다.
NanoClaw를 fork해서 운영하면서 upstream에 PR 4건을 제출한 경험. 1건 머지, 3건 자진 close한 판단 과정과 private fork에서 upstream PR을 보내는 절차를 정리합니다.