Amazon EKS에서 Friendli Container로 LLM 추론 최적화하기
Amazon EKS에 Friendli Container Add-on을 추가해 LLM 추론 비용과 레이턴시를 줄였습니다. GPU 노드 구성, Pod Identity association, FriendliDeployment 배포 방법을 안내합니다.

Amazon EKS에 Friendli Container Add-on을 추가해 LLM 추론 비용과 레이턴시를 줄였습니다. GPU 노드 구성, Pod Identity association, FriendliDeployment 배포 방법을 안내합니다.
엑셀 기반 인사 관리에서 그룹웨어로 전환하면 자동화와 권한·보안 체계로 업무 부담이 줄었습니다. 실시간 공유와 모바일 접근으로 협업 효율과 법적 준수도 개선됩니다.
Flava의 통합 프라이빗 클라우드 진화 방향과 주요 과제들을 소개했습니다. 플랫폼 통합, 사용성 높은 보안, 스토리지·AI 통합 대응을 강조합니다.
배포 이후 FlashAttribute가 다중 WAS 환경에서 유실되어 가입 흐름이 랜덤 오류를 일으켰습니다. Gate 페이지를 redirect 대신 POST 렌더링으로 변경해 문제를 해결했습니다.
Apps Script로 전사 구성원이 설치 없이 자동화와 도구를 빠르게 만들도록 지원했습니다. 그 결과 AI 활용 장벽이 낮아지고 현업의 문제를 직접 해결할 수 있게 되었습니다.
Jenkins cron의 한계로 스케줄 실패와 가시성 문제를 겪어 Temporal을 도입했습니다. Temporal로 자동 재시도와 워크플로우 이력 가시성 확보해 운영 복구력 개선했습니다.
발표에서는 자연어 기반 AI 에이전트로 코딩 없이 대규모 유전체 분석 가능하다고 설명했습니다. AgentCore·MCP·S3 Tables로 프로덕션화와 비용·속도 최적화 가능하다고 정리했습니다.
애플리케이션 이식성은 컨테이너 이미지 불변성과 설정 외부화로 확보했습니다. 롤링·블루-그린·카나리 배포와 파이프라인 자동화로 빠른 복구와 무중단 배포를 달성합니다.
AI가 대신 쇼핑하는 환경에서 블록체인·스테이블코인·UCP/AP2/x402의 역할을 설명했습니다. 권한 위임과 실시간 결제로 제어 가능한 에이전트 커머스 시대를 준비해야 합니다
사내 RAG 기반 슬랙 챗봇의 구축 과정과 검색·응답 품질 개선 경험을 공유했습니다. 쿼카는 에이전트로 마이그레이션해 컨텍스트 유지와 SQL 검증 기능을 구현했습니다.