필터 0
선택된 필터 없음
claude code의 reasoning effort는 vllm에도 효과가 있는가?
데보션
AI

claude code의 reasoning effort는 vllm에도 효과가 있는가?

Claude Code의 reasoning effort가 vLLM에서 어떻게 전달되는지 소스코드로 확인했습니다. high 외 값은 대부분 max로 처리돼 실질적 제어 효과가 제한적이라고 정리했습니다.

#vLLM#LLM
14005분
AI는 미래지만, 기본은 현재입니다
채널톡
AI

AI는 미래지만, 기본은 현재입니다

AI 전화 에이전트 도입을 위해 기존 전화 상담의 통계와 모니터링 기반을 먼저 다졌습니다. 고객사 인터뷰와 지표 정의 정리를 통해 실시간 운영과 사후 분석이 가능한 구조를 만들었습니다.

#모니터링#UI/UX
0005분
Grafana Mimir에 Kafka를 도입하기 전 미리 알았다면
채널톡
데브옵스

Grafana Mimir에 Kafka를 도입하기 전 미리 알았다면

Grafana Mimir에 Kafka 기반 ingest-storage architecture를 도입한 경험과 운영상의 함정을 정리했습니다. partition과 ingester ordinal의 1:1 결합, backlog replay, scale-in 절차가 핵심 포인트였습니다.

#Grafana Mimir#Kafka
15005분
우아한 형제들
아키텍처

BFF 서버에 SSE를 도입한 이유: 전시 서버의 통신 구조 재설계

가게목록 전시 구조를 1지면 1API와 BFF 기반 SSE 스트리밍으로 재설계했습니다. 첫 응답을 앞당기고 클라이언트 통신 복잡성을 줄이는 방향을 소개했습니다.

#SSE#BFF
19005분
[기술분석] 데이터센터 냉각수 효율(WUE) 개선: 전기산화 기반 하이브리드 수처리 전략
KT 클라우드
아키텍처

[기술분석] 데이터센터 냉각수 효율(WUE) 개선: 전기산화 기반 하이브리드 수처리 전략

AI 데이터센터의 WUE 개선을 위해 전기산화 기반 하이브리드 수처리 전략을 소개했습니다. 보충수 절감, CoC 향상, 운영비 감소 측면의 현장 적용 사례도 함께 정리했습니다.

#AI 데이터센터#WUE
7005분
[AI인프라] 네오클라우드 GPUaaS와 고밀도 AIDC의 공학적 결합
KT 클라우드
AI

[AI인프라] 네오클라우드 GPUaaS와 고밀도 AIDC의 공학적 결합

네오클라우드 GPUaaS와 고밀도 AIDC가 AI 인프라의 성능과 효율을 어떻게 뒷받침하는지 설명했습니다. MIG, RDMA, 액체 냉각 등 핵심 기술로 고전력 AI 워크로드를 수용하는 방식을 다뤘습니다.

#GPUaaS#AIDC
4005분
AITRICS
기타

[24. 8. 29] 에이아이트릭스 제품의 품질과 안전을 책임지는 RAQA 팀을 소개합니다

에이아이트릭스 RAQA 팀이 의료기기 규제 준수와 품질 보증을 어떻게 담당하는지 소개했습니다. FDA 510(k) 승인 경험과 함께 글로벌 인허가와 QMS 구축 목표도 공유했습니다.

#RAQA#의료기기
2005분
AITRICS
기타

[24. 8. 16] 한 여름의 더위를 식혀준 ‘BOKNAL Lunch’

X

#문화#회의
0005분
Ansible - 여러 서버의 설정을 한번에
넥스트리
데브옵스

Ansible - 여러 서버의 설정을 한번에

수십 대 서버의 Nexus 설정 반복 작업을 Ansible로 자동화한 사례를 소개했습니다. SSH 기반 실행과 멱등성 덕분에 일관성과 운영 편의가 크게 좋아졌습니다.

#Ansible#자동화
7005분
Vizend 구독 기능 설계 구현
넥스트리
아키텍처

Vizend 구독 기능 설계 구현

Showcase가 자기 자신을 배포 대상으로 삼는 구조에서 발생하는 정합성 문제를 상태 머신과 이벤트 분할로 해결했습니다. 재기동 후 버전 검증과 멱등 발행, GID 기반 식별로 분산 배포의 일관성을 확보했습니다.

#Kubernetes#GitOps
3005분
더 작고 강해진 Kanana SLM 개발
카카오
기타

더 작고 강해진 Kanana SLM 개발

X

#LLM#ML
14005분
KubeEdge 엣지 노드 장애 대응 가이드
넥스트리
데브옵스

KubeEdge 엣지 노드 장애 대응 가이드

KubeEdge 엣지 노드에서 자주 발생하는 3가지 장애와 대응 방법을 정리했습니다. EdgeStream, 디스크 사용량, DNS 상태를 먼저 확인하는 흐름을 제시했습니다.

#KubeEdge#Kubernetes
9005분