LLM 쉽고 빠르게 서빙하기
LLM을 서비스에 적용할 때의 속도와 서빙 복잡도를 줄이는 방법을 소개했습니다. vllm, Triton, Kserve를 활용해 쉽게 배포하고 운영하는 흐름을 정리했습니다.
#LLM#Triton Inference Server
5500
국내 IT 기업 기술 블로그 최신 글
새로운 기술 블로그가 추가되었어요
필터 1
Docker Desktop 없이 WSL로 Docker 사용하기
윈도우에서 Docker Desktop 없이 WSL2와 Ubuntu로 Docker Engine을 설치하는 과정을 정리했습니다. 또한 hello-world와 ubuntu 이미지를 실행해 정상 동작을 확인했습니다.
#Docker#WSL
2200
![[APP] 라이브방송에서 360 영상을 보여줄 수 있을까?](https://miro.medium.com/v2/resize:fit:1200/1*UgGw64douyfIFpmS9GuJFQ.png)
[APP] 라이브방송에서 360 영상을 보여줄 수 있을까?
360° 영상을 라이브 방송에 적용할 수 있는지 여러 장비와 송출 방식으로 테스트했습니다. 정상 재생은 확인했지만 지연과 화질, 제작 환경 등 상용화 과제가 남았습니다.
#Android#iOS
2700
온프레미스에서 서버리스 어떻게 실행할까?
클라우드 서버리스와 온프레미스 서버리스의 차이와 장점을 비교했습니다. OpenFaaS를 활용한 온프레미스 서버리스 실행 방법과 선택 기준도 함께 살펴봤습니다.
#serverless#OpenFaaS
3400
MySQL Multi-Source Replication - MSA로 서비스를 쪼개면 나중에는 반대로 DB를 합쳐야한다...?
MSA로 분리한 DB를 다시 통합하기 위한 방법으로 MySQL Multi-Source Replication을 소개했습니다. 다만 테이블 충돌과 운영 복잡성 때문에 신중한 접근이 필요하다고 정리했습니다.
#MySQL#MSA
3500
Locust를 활용한 부하 테스트 작성
Locust를 활용한 부하 테스트 작성
Locust를 활용해 부하 테스트 시나리오를 작성하고 실행하는 방법을 소개했습니다. 요청 제한, 분산 부하, 고유 사용자 테스트 예시로 주요 기능을 설명했습니다.
#Python#Golang
3500
〈Gen.View | FE - #1〉 굳이 Svelte 를 선택한 이유
Svelte를 선택한 이유를 프론트엔드 학습과 데모 개발 관점에서 설명했습니다. 간결한 문법과 컴파일러 기반 효율성, 빠른 학습 곡수를 장점으로 꼽았습니다.
#Svelte#SvelteKit
2400
![[Tech 세미나] Docker를 활용한 효율적 개발 및 보안전략](https://devocean.sk.com/thumnail/2024/9/19/2b06702e695e891aade8dafd0c3cf84f4740804454434c39d7741d56725998b0.png)
[Tech 세미나] Docker를 활용한 효율적 개발 및 보안전략
Docker를 활용한 효율적 개발과 보안 전략을 소개하는 Tech 세미나입니다.\nInner Loop, 이미지 빌드 Best Practices, Docker Scout와 Build Cloud를 다룹니다.
#Docker#보안
2400
쿠팡 파트너스
개발자를 위한 서적을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발서적#프로그래밍
에이닷 RAG 기능 개발을 위한 Qdrant 벡터 DB 구축 (from source tarball)
에이닷 RAG 기능을 위해 온프레미스 Qdrant VectorDB를 소스 컴파일 방식으로 구축한 과정을 소개했습니다. Rust 환경 준비부터 클러스터 구성과 Web UI 배포까지의 절차를 정리했습니다.
#RAG#Qdrant
3900
CodeDeploy를 이용한 배포 실패 Troubleshooting
Docker 기반 CodeDeploy 배포 실패를 추적해 원인을 찾아냈습니다. 부팅 시 cloud-init의 보안 업데이트로 Docker 시작이 늦어져 ValidateService가 Timeout 되었습니다.
#AWS#Docker
2000
[DevOps] GitLab 버전 업그레이드는 계속 된다.
GitLab 15.1.6을 16.9.4로 올리는 업그레이드 과정을 정리했습니다. 백업, PAT 정책, PostgreSQL, Runner 이슈 대응까지 함께 다뤘습니다.
#GitLab#AWS
3800
〈Gen.View | FE - #0〉 비개발 직군의 Frontend 업무 적용 스토리
비개발 직군이 업무 필요성에 따라 프론트엔드와 앱 개발을 학습한 경험을 공유했습니다. 직접 만든 웹·앱 결과물이 프로젝트 제안과 운영에 어떻게 활용됐는지 설명했습니다.
#Svelte#Flutter
2700
안정적인 블록체인 서비스를 위한 Full Node 구축기
Public LCD 의존으로 생길 수 있는 지연과 장애를 줄이기 위해 Full Node를 직접 구축했습니다.\n버전별 설정과 복구 절차를 맞추자 응답 성능도 크게 개선됐습니다.
#blockchain#Docker
1800
디자인 도구 Penpot(펜팟) 설치부터 활용까지
Penpot을 Windows WSL2와 Docker Desktop으로 셀프 호스팅하는 방법과 GitLab 연동, 라이브러리 활용 목업 작업을 소개했습니다. 자체 호스팅의 장점과 함께 한글 입력 버그, 성능 제약도 함께 짚었습니다.
#Docker#Windows
18200