어피닛 AI 엔진이 규칙 기반 심사 정책을 학습 정책으로 전환해가는 과정
규칙 기반 대출 심사 정책의 한계를 분석하고, 이를 학습 정책으로 안전하게 전환하는 3단계 프레임워크를 소개했습니다. 위험을 늘리지 않으면서 단계적으로 검증 범위를 넓히는 방법을 제시했습니다.
#ML#오프폴리시 평가#behavior cloning
2200
태그
모니터링 기술 블로그 글
모니터링 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
전체 272개최신 20개 표시
관련 태그
최신 게시글
20개 표시
Amazon GameLift Streams로 여는 클라우드 게이밍 시대: 클라이언트 설치 없이 게임 즐기기
Amazon GameLift Streams로 클라이언트 설치 없이 브라우저에서 게임을 즉시 실행하는 방법을 소개했습니다. 런타임, 스트림 클래스, 용량, 관측성까지 포함한 설계와 운영 흐름을 정리했습니다.
#AWS#cloud#WebRTC
1400
우리 팀만의 vLLM 플러그인 만들기 1편 - 검색 AI 모델 서빙 성능 극대화하기
검색·추천 스코어링 모델을 vLLM 기반 풀링 런타임과 IO Processor로 전환해 성능을 크게 높인 사례를 소개했습니다. 전후처리 통합과 배치 최적화로 처리량과 지연 시간을 개선했습니다.
#vLLM#검색#MLOps
4700
데이터 요청 응대 30분을 3분으로 줄인 n8n AI 에이전트
n8n AI 에이전트로 데이터 요청 응대 시간을 30분에서 3분으로 줄인 사례를 다뤘습니다. 미리디 데이터 분석가가 온콜 헬퍼봇을 만든 배경과 활용 방식을 소개했습니다.
#LLM#자동화#모니터링
4900
AI API Gateway, 무엇을 보고 골라야 할까? 도입부터 운영까지 선택 기준 5단계
AI API Gateway 선택 기준을 도입부터 운영까지 5단계로 정리했습니다. 여러 모델을 쓴다면 모델 다양성, 보안, 결제, 모니터링을 함께 검토해야 합니다.
#API Gateway#LLM#보안
3600
Amazon Aurora 및 Amazon RDS의 PostgreSQL 18: 보안, 모니터링 및 개발자 기능 향상
Amazon Aurora와 RDS의 PostgreSQL 18에서 보안, 모니터링, 복제, 개발자 기능 개선을 정리했습니다.\nMD5 인증 중단, uuidv7(), COPY 및 RETURNING 개선, 복제 슬롯 보호 방법을 함께 소개했습니다.
#PostgreSQL#Amazon Aurora#Amazon RDS
1600
AI 기반 온라인 서비스 24X7 즉시 대응 체계 구축
AI를 활용해 온라인 서비스의 24시간 즉시 대응 체계를 구축한 사례를 소개했습니다. 기존 모니터링과 알림 환경을 바탕으로 상시 관제 필요성을 다뤘습니다.
#모니터링#Slack
800
AI infra
AI-Ready Infrastructure를 물리 인프라, 데이터, 조직 준비도의 세 층위로 구분해 정리했습니다. 국내는 물리 인프라에 치우쳐 있어 GPU 운영 서비스화와 인력 전환이 차별화 포인트라고 제시했습니다.
#cloud#Kubernetes#GPU
2000
2주 만에 Strands SDK와 Amazon Bedrock AgentCore로 구현한 어스얼라이언스의 CS 환불 자동응답 에이전트 시스템
Strands SDK와 Amazon Bedrock AgentCore로 환불 CS 자동응답 에이전트를 2주 만에 구축했습니다. 내부 검수 초안 방식과 멀티턴 맥락·안전성 검증을 결합해 운영 가능성을 확보했습니다.
#Amazon Bedrock#LLM#AWS
1200
케클s피드 7월호｜AI 데이터센터의 새로운 기준을 말하다
AI 데이터센터와 클라우드 운영 전략을 다룬 뉴스레터였습니다. 전력, 냉각, 네트워크, 플랫폼 고도화와 사례를 폭넓게 소개했습니다.
#cloud#Kubernetes#OpenStack
12900
AI는 미래지만, 기본은 현재입니다
AI 전화 에이전트 도입을 위해 기존 전화 상담의 통계와 모니터링 기반을 먼저 다졌습니다. 고객사 인터뷰와 지표 정의 정리를 통해 실시간 운영과 사후 분석이 가능한 구조를 만들었습니다.
#모니터링#UI/UX#컨퍼런스
3200
Grafana Mimir에 Kafka를 도입하기 전 미리 알았다면
Grafana Mimir에 Kafka 기반 ingest-storage architecture를 도입한 경험과 운영상의 함정을 정리했습니다. partition과 ingester ordinal의 1:1 결합, backlog replay, scale-in 절차가 핵심 포인트였습니다.
#Grafana Mimir#Kafka#Kubernetes
19100
고객의 1초를 줄이기 위해, POS 결제 구조를 다시 설계하다
POS·SCO 결제 구조를 카드 식별과 승인 경로 중심으로 다시 설계해 속도와 안정성을 높였습니다. 카드 혜택 자동화와 이중화 체계까지 더해 운영 부담도 줄였습니다.
#POS#SCO#API
47500
VictoriaMetrics 운영기 2편 — 장비 증설 없이 리소스 위기를 해결한 3단계 최적화 전략
쿠버네티스 전환으로 커진 VictoriaMetrics 리소스 문제를 조회·저장·수집 세 레이어로 나눠 최적화했습니다. 쿼리 분할, 보관 기간 축소, 수집 대상 축소로 장비 증설 없이 안정화했습니다.
#VictoriaMetrics#Kubernetes#container
39100
제품을 만드는 시스템을 만드는 사람
Platform Engineer를 제품 개발을 받치는 시스템 설계자로 설명하며, 표준화와 자동화로 조직의 기준선을 높이는 역할을 강조했습니다. 추상화, 안전, 확산 가능성을 함께 판단하는 역량을 중요하게 보았습니다.
#Platform Engineer#SDK#배포 자동화
3900
통합 검색 임베딩 모델 개발기: 디자인 검색을 하나의 표현 공간으로 묶기
미리캔버스의 여러 검색 과제를 하나의 임베딩 공간으로 묶기 위한 모델 개발 과정을 소개했습니다. 태스크별 운영의 한계를 줄이고 디자인 도메인 특성에 맞게 학습한 방식이 핵심이었습니다.
#LLM#ML#검색
14300
[22. 11. 23] 에이아이트릭스, MEDICA에서 선정한 글로벌 TOP12 스타트업
에이아이트릭스의 AITRICS-VC가 MEDICA 스타트업 컴피티션 AI in healthcare 분야 TOP12에 선정되었습니다. 국내 유일 기업으로 뽑혀 식약처 허가 기술과 예측 기능도 함께 소개했습니다.
#ML#모니터링#의료기기
1800
JVM heap은 멀쩡한데 왜 메모리가 터질까? — Docker 환경 네이티브 메모리 삽질기 (Part 1)
Docker 환경에서 힙은 멀쩡한데 메모리가 계속 늘어나는 원인을 추적한 글입니다. NMT로 JVM 내부를 확인했지만 실제 RSS와 차이가 있어 네이티브 메모리 문제를 의심했습니다.
#Docker#JVM#모니터링
6020
AI 시대에 테스트 코드를 잘 쓰는 기준이 달라진다.
AI 협업 시대에는 테스트 코드가 미래 세션의 AI가 읽는 실행 가능한 프롬프트라는 관점이 중요합니다. @DisplayName과 실패 케이스로 비즈니스 의도를 남기고, 인간 검토와 교차 검증으로 맥락을 보완했습니다.
#test#Claude#LLM
2300
Amazon Bedrock AgentCore로 구축하는 AgentOps (1): 파운데이션과 게이트웨이
에이전틱 AI를 프로덕션에 올리기 위한 AgentOps와 파운데이션, 게이트웨이 패턴을 소개했습니다. Amazon Bedrock AgentCore로 모델, 도구, 에이전트 접근을 통합하는 방법을 설명했습니다.
#AWS#LLM#RAG
600