Velopers 홈

오늘 새 글

0개

오늘 조회수

235회

필터 1

· 2024년 12월 5일

데브옵스

[if(kakaoAI)2024] 카카오페이증권의 Kubernetes 지능형 리소스 최적화 (feat. Dr.Pym Project 공유)

if(kakaoAI)2024에서 공유된 카카오페이증권의 Kubernetes 지능형 리소스 최적화 발표를 소개했습니다. 본문에서는 Dr.Pym Project 관련 상세 내용을 추가로 공유하겠다고 밝혔습니다.

쿠버네티스를 활용한 검색추천 시스템 구축과 미디어 에이전트 적용 사례

쿠버네티스로 검색추천 시스템을 컨테이너화하고 미디어 에이전트 서비스에 적용한 사례를 소개했습니다. 클러스터 구성, 배포, 모니터링, 운영 이슈 대응까지 함께 정리했습니다.

#Kubernetes#container

33005분

· 2024년 11월 28일

Multimodal LLM을 직접 학습시켜 보자!

공개 한국어 표 데이터와 InternVL2-1B로 멀티모달 LLM을 직접 학습한 사례를 소개했습니다. 작은 모델과 적은 데이터로도 표 이해 챗봇 시나리오를 검증할 수 있었습니다.

Keycloak 활용한 SSO 구현 : #3 Keycloak 설치부터 설정까지: SSO를 위한 첫걸음

Kubernetes 클러스터에 Helm으로 Keycloak을 설치하고 SSO 환경을 준비하는 과정을 설명했습니다. Realm, Client, User 설정과 Ingress/TLS 연결 흐름까지 기본 구성 방법을 정리했습니다.

#Keycloak#SSO

25005분

대규모 AI 서비스 운영을 위한 Kubernetes GPU 클러스터 도입기

· 2024년 11월 26일

데브옵스

대규모 AI 서비스 운영을 위한 Kubernetes GPU 클러스터 도입기

스노우 AI 서비스의 GPU 서버 인프라를 Kubernetes 클러스터로 이전한 사례를 공유했습니다.\nGPU 자원 스케줄링과 운영 개선 관점을 함께 살펴볼 수 있습니다.

Trino resource optimize on YARN

YARN 환경의 Trino 리소스를 재조정해 장비 증설 없이 가용 메모리를 늘리는 과정을 정리했습니다. AM Container와 RESERVED Resource를 고려해 Worker 중심으로 설정을 최적화했습니다.

LLM 쉽고 빠르게 서빙하기

LLM을 서비스에 적용할 때의 속도와 서빙 복잡도를 줄이는 방법을 소개했습니다. vllm, Triton, Kserve를 활용해 쉽게 배포하고 운영하는 흐름을 정리했습니다.

Policy as Code(PaC) 접근을 통한 보안 관리 혁신

Policy as Code를 통해 보안 정책을 코드처럼 관리하고 실시간 검증을 제공하는 방법을 소개했습니다. YAML 파싱, PaC Schema, 오류 피드백으로 정책 관리의 안정성과 편의성을 높였습니다.

Kubernetes 클러스터의 안전한 운영을 위한 접근 제어

Kubernetes RBAC의 운영 복잡성과 기능 한계를 보완하기 위한 접근 제어 방식을 소개했습니다. 투명한 Proxy와 자체 Policy로 멀티 클러스터 권한 관리와 감사 기능을 강화했습니다.

#Kubernetes#RBAC

7005분

· 2024년 11월 22일

AI를 통한 개인정보 식별 및 분석 개선

대규모 데이터에서 개인정보를 정확히 식별하기 위해 AI 분류기를 적용했습니다. 문맥 분석과 모델 최적화로 규제 준수와 운영 효율을 높였습니다.

모두가 묵인하던 명령어 우회, 이제 터놓고 얘기해봅시다!

서버접근제어에서 스크립트와 셸을 이용한 명령어 우회 문제를 다뤘습니다. 실행 프로세스 추적과 중앙 정책 적용으로 우회 실행을 차단하는 방법을 설명했습니다.

QueryPie가 제시하는 새로운 패러다임, 연동을 넘어선 연결로

클라우드 전환으로 기존 폐쇄형 접근제어의 한계가 커졌다는 문제를 짚었습니다. IDP, 클라우드, SIEM, Vault 연동으로 보안을 연결형 플랫폼으로 확장하는 방향을 제시했습니다.

#cloud#Kubernetes

12005분