Keycloak 활용한 SSO 구현 : #3 Keycloak 설치부터 설정까지: SSO를 위한 첫걸음
Kubernetes 클러스터에 Helm으로 Keycloak을 설치하고 SSO 환경을 준비하는 과정을 설명했습니다. Realm, Client, User 설정과 Ingress/TLS 연결 흐름까지 기본 구성 방법을 정리했습니다.
#Keycloak#SSO
26005분
필터 0
TAG를 활용한 실용적 AI 서비스 구축하기
TAG를 활용해 CSV 테이블 기반 영화 추천 서비스를 구현하고 RAG와 비교했습니다.\n정형 데이터에서는 TAG가 더 정확한 질의 처리와 비용 효율성을 보였습니다.
#LLM#RAG
32005분
‘Teleport 공식 기술 문서 한글판 by 인포그랩’을 소개합니다
Teleport 공식 기술 문서 700여 개를 GPT-4o-mini로 한글 번역한 서비스와 기능을 소개했습니다. 사람과 AI 협업, MDX 형식 대응, 비용 절감과 접근성 향상도 함께 정리했습니다.
#Teleport#LLM
15005분
제7회 Kakao Tech Meet에 초대합니다!
X
#세미나
14005분
대규모 AI 서비스 운영을 위한 Kubernetes GPU 클러스터 도입기
대규모 AI 서비스 운영을 위한 Kubernetes GPU 클러스터 도입기
스노우 AI 서비스의 GPU 서버 인프라를 Kubernetes 클러스터로 이전한 사례를 공유했습니다.\nGPU 자원 스케줄링과 운영 개선 관점을 함께 살펴볼 수 있습니다.
#Kubernetes#GPU
43005분
카카오페이의 if(kakaoAI)2024 A to Z: 개발자 컨퍼런스 준비 맛보기
X
#컨퍼런스
20005분
Koyeb 에 docker 로 나만의 서비스 배포하기
Koyeb과 Docker를 이용해 개인 서비스를 간편하게 배포하는 과정을 정리했습니다. Docker Hub 이미지와 Koyeb Web 서비스 설정으로 서버 관리 없이 배포할 수 있었습니다.
#Docker#Koyeb
27005분
RAG의 발전과 효용성에 대한 소회
RAG는 LLM의 한계를 보완하며 실무에서 빠르게 활용할 수 있는 방식으로 정리했습니다. 다만 성능은 문서 추출과 임베딩, 커스터마이징 이해도에 크게 좌우된다고 보았습니다.
#RAG#LLM
29005분
Trino resource optimize on YARN
YARN 환경의 Trino 리소스를 재조정해 장비 증설 없이 가용 메모리를 늘리는 과정을 정리했습니다. AM Container와 RESERVED Resource를 고려해 Worker 중심으로 설정을 최적화했습니다.
#Trino#YARN
25005분
LLM 쉽고 빠르게 서빙하기
LLM을 서비스에 적용할 때의 속도와 서빙 복잡도를 줄이는 방법을 소개했습니다. vllm, Triton, Kserve를 활용해 쉽게 배포하고 운영하는 흐름을 정리했습니다.
#LLM#vllm
46005분
밸런스히어로, 대안신용평가시스템 고도화…AI 적용 확대
밸런스히어로, 대안신용평가시스템 고도화…AI 적용 확대
인도 중저신용자 대상 ACS에 AI와 LLM 적용을 확대했습니다. SMS 텍스트 분석 기반 부도 예측과 데이터 추출 정교화로 승인율과 리스크 관리를 개선했습니다.
#LLM#ML
0005분
밸런스히어로, 대안신용평가시스템 고도화…AI 적용 확대
인도 중저신용자 대상 대안신용평가시스템에 LLM과 AI NER2를 확대 적용했습니다. SMS 텍스트 기반 부도 예측 모델과 자동 평가 결과 생성으로 승인율과 응대 속도 개선을 노렸습니다.
#LLM#ML
8005분