실행은 격리하고, 세션은 이어간다: 망분리 환경의 Agent Platform 설계기
토스 AI Platform 팀이 망분리 환경에서 안전한 코드 실행과 세션 지속성을 보장하는 Agent Platform 설계 구조를 공개했습니다.
출처: 토스 · · 원문 보기
토스 기술 블로그 글 모음
토스에서 발행한 기술 블로그 글 122편의 한 줄 요약 모음입니다. 블로그: https://toss.tech/
최근 글
TASTE, 토스의 추천 파운데이션 플랫폼
토스가 추천 파운데이션 플랫폼 TASTE를 구축하여 서비스 전반의 사용자 타기팅과 임베딩 기반 추론 성과를 개선했습니다.
출처: 토스 · · 원문 보기
손가락을 튕기기로 LLM 비용 줄이기
토스가 선택적 내재화 체계 SNAP을 통해 LLM 비용과 지연 시간을 대폭 절감했습니다.
출처: 토스 · · 원문 보기
머릿속에 있던 로그 정의 기준을 모두의 AI 스킬로 만들기
토스가 AI 스킬을 활용해 수동으로 관리하던 로그 정의 업무를 자동화했다.
출처: 토스 · · 원문 보기
평균 CPU는 여유로운데, 커밋은 왜 느릴까?
토스증권이 특정 CPU 소켓에 집중된 NIC 인터럽트 분산을 통해 Oracle DB의 커밋 지연 문제를 해결했다.
출처: 토스 · · 원문 보기
실행은 도메인별로, 문맥은 한 레포에
토스가 중앙 집중형 DW 파이프라인을 도메인별 Airflow와 dbt 기반 선언적 구조로 이전했다.
출처: 토스 · · 원문 보기
토스뱅크가 패키지를 관리하는 방식 #2: 토스뱅크 패키지의 세 가지 기준
토스뱅크가 패키지 개발 환경을 개선하기 위해 세 가지 관리 기준을 정했다.
출처: 토스 · · 원문 보기
토스뱅크가 패키지를 관리하는 방식 #1: 패키지를 ESM으로만 제공하기로 했어요
토스뱅크가 패키지 관리 복잡성을 줄이기 위해 사내 패키지를 ESM 전용으로 전환했다.
출처: 토스 · · 원문 보기
Spark Connect on Kubernetes #2: Operator로 만드는 Control Plane
토스증권은 Spark Tenant Operator와 두 가지 설정을 통해 쿠버네티스 환경에서 Spark Connect 서버의 생명주기와 메모리를 안정적으로 관리한다.
출처: 토스 · · 원문 보기
디자이너의 아이디어가 금융상품이 되기까지
토스뱅크 디자이너들이 게임 요소를 접목해 키워봐요 31일 적금을 출시했다.
출처: 토스 · · 원문 보기
서비스 개발에 집중할 수 있는 AI 플랫폼 만들기
토스가 서비스 개발 효율을 높이기 위해 통합 AI 플랫폼인 GenAI Portal과 Gateway를 구축했다.
출처: 토스 · · 원문 보기
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
토스증권이 Milvus 기반 벡터 검색 환경에서 NUMA 최적화로 처리량을 41% 높이고 자원 산정 기준을 마련했다.
출처: 토스 · · 원문 보기
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
토스증권이 벡터 검색 워크로드를 위한 Milvus 인프라 사이징 기준을 마련했다.
출처: 토스 · · 원문 보기
추천 후보는 많을수록 좋을까? TopK를 최적화해 전환율을 높인 방법
토스가 정수계획법으로 추천 후보 수를 절반으로 줄이고 구매 전환을 높였다.
출처: 토스 · · 원문 보기
9인조 다람쥐 아이돌을 데뷔시켰습니다
토스뱅크가 직접 저금하는 경험을 살리도록 키워봐요 적금의 다람쥐와 화면을 다시 설계했다.
출처: 토스 · · 원문 보기
연 300시간을 아낀 AI 상담 서비스
토스뱅크가 질문 예시를 제공해 AI 상담 사용을 늘리고 연 300시간을 절감했다.
출처: 토스 · · 원문 보기
방해하지 않고, 눈에 띌 수 있을까
토스뱅크가 자산관리 리포트를 플로팅 카드로 분리해 클릭률과 전환율을 3배 높였다.
출처: 토스 · · 원문 보기
쉼 없이 도는 테스트, 사람이 어디까지 돌봐야 할까요? - 토스닥터(Toss Doctor)
토스가 AI 코드 생성과 복구를 결합한 실기기 스모크 테스트 도구 토스닥터 V2를 만들었다.
출처: 토스 · · 원문 보기
도메인 지식 없는 디자이너가 팀의 기준을 바꾼 방법
토스뱅크가 사용자 불안을 기준으로 해외송금 경험을 다시 설계했다.
출처: 토스 · · 원문 보기
사용자를 위해 일부러 어렵게 만드는 경험, 어디까지 괜찮을까?
토스뱅크가 10대 저축을 돕는 잠금 저금통에 짧은 해제 지연을 설계했다.
출처: 토스 · · 원문 보기
리더보드 1등 LLM, 토스에서도 1등일까? - Toss Benchmark 구축기
토스가 실제 업무 성능과 연결되는 한국어·도메인 맞춤 LLM 평가 기준을 만들었다.
출처: 토스 · · 원문 보기
토스증권이 GPU-aware를 넘어 GPU-native 클러스터를 구축한 방법
토스증권이 GPU 상태 검증과 MIG 배치 정책을 더해 쿠버네티스 클러스터를 GPU-native하게 운영했다.
출처: 토스 · · 원문 보기
App Router의 장점은 우리에게도 장점일까요?
토스뱅크가 App Router 전환을 검토한 뒤 Pages Router 유지로 결정했다.
출처: 토스 · · 원문 보기
AI가 팀 규칙을 지키도록 하는 방법
토스뱅크가 코드 작성 순간에 팀 규칙을 전달하는 Coding Agent 플러그인을 만들었다.
출처: 토스 · · 원문 보기
2. Beyond Our Expertise
토스 테크니컬 라이터들이 문서 기준을 시스템으로 옮기는 내부 지식 플랫폼 todoc을 만들고 있다.
출처: 토스 · · 원문 보기
1. Creating a Role That Didn’t Exist Before
토스 기술 문서 팀이 문서 작성에서 조직 지식 시스템 설계로 역할을 넓혔다.
출처: 토스 · · 원문 보기
How Documents Find Developers at Toss
토스 프론트엔드 챕터가 문서 질의 챗봇과 대화 자동 기록 봇을 연결했다.
출처: 토스 · · 원문 보기
AI가 만든 코드가 어드민이 되기까지
토스가 브라우저 안에 Preview Runtime을 만들어 AI 생성 어드민의 첫 화면을 1.3초로 줄였다.
출처: 토스 · · 원문 보기
1%가 겪은 버그 고쳐야할까요?
토스는 핫픽스 판단과 재현·기록·재발 방지를 하나의 QA 체계로 관리한다.
출처: 토스 · · 원문 보기
토스증권 추천과 검색은 어떻게 진화하고 있을까?
토스증권이 추천을 실시간 개인화하고 RAG·그래프 검색을 공통 데이터 플랫폼으로 확장한 경험을 공유했다.
출처: 토스 · · 원문 보기
자주 다루는 주제
- AI 에이전트·MCP (536편)
- 백엔드 설계·MSA (435편)
- AI 운영·평가 (250편)
- 데이터 엔지니어링·분석 (208편)
- LLM 서빙·추론 (247편)
- LLM 활용·프롬프트 (245편)
- 데이터베이스·캐시 (170편)
- AI 코딩 도구 (248편)
- 프론트엔드 (137편)
- 개발 생산성·테스트 (194편)
- CI/CD·플랫폼 엔지니어링 (181편)
- 클라우드 아키텍처 (250편)
- 디자인 시스템·UX (83편)
- RAG·검색 (141편)
- GPU·AI 인프라 (194편)
- 쿠버네티스·컨테이너 (127편)
- 조직·문화·커리어 (285편)