2부: 정책을 따르는 평가자, LLM-as-a-Judge
LLM-as-a-Judge를 설계해 설명 생성 품질을 자동 평가하는 방법을 소개했습니다. 체크리스트와 critique 구조화로 인간 평가와의 정합성을 높이고, 디버깅과 데이터 정제에도 활용했습니다.
#LLM#prompt#자동화
6400
모든 블로그
대표 인기 포스트Spring Transactional Rollback Deep Dive126 조회126 조회 AI AI AI AI AI AI AI AI AI AI AI AI
하이퍼커넥트
주요 카테고리 AI · 백엔드 · DevOps
활동 요약
- 최근 30일
- 0개
- 평균 조회
- 44
- 누적 조회
- 1,224
- 전체 글
- 28개
- 마지막 발행
- 2026. 4. 22.
하이퍼커넥트 기술 블로그 글 (12)
1부: 데이터도 정답도 없다: 하이퍼커넥트가 LLM을 길들이는 법
정답 데이터가 없는 설명 생성 문제에서 좋은 설명의 기준을 먼저 합의하고 정책으로 정리하는 과정을 소개했습니다. PM과 엔지니어가 pass/fail 평가와 critique를 반복하며 모델과 평가 기준을 함께 수렴시켰습니다.
#LLM#prompt#ML
7000
온디바이스 AI 얼굴 식별 파이프라인 최적화
온디바이스 얼굴 식별 파이프라인의 병목을 정량 분석해 최적화한 사례를 소개했습니다. 연산 흐름 조정과 병렬화로 응답 시간과 처리량을 크게 개선했습니다.
#Android#ML#TensorFlow Lite
6700
비즈니스 문제를 AI 문제로 정렬하는 방법
비즈니스 문제를 AI 문제로 바꾸는 완화 접근과 명시적 가정의 중요성을 설명했습니다. 아자르 추천 시스템 사례로 장기 매출을 대화 시간 예측 문제로 단계적으로 정렬하는 과정을 소개했습니다.
#ML#최적화#convex relaxation
10300
왜 막상 배포하면 효과가 없지? 타겟 지표에 맞는 ML모델 train/eval 설계하기
실제 서비스에 맞는 ML 타겟 메트릭과 학습·평가 설계를 소개했습니다. 랜덤 수집 데이터와 relative mean CR lift로 배포 효과를 오프라인에서 가늠했습니다.
#ML#A/B 테스트#인과 추론
5400
클릭 한 번으로 실험 시작! 이터레이션 사이클을 단축하는 추천 실험 시스템 개발기
추천 실험의 병목을 줄이기 위해 Policy와 Experiment를 분리하고 Python DSL과 Z3 검증을 도입했습니다. 그 결과 설정 작성과 리뷰 시간이 크게 줄고, 엔지니어 개입 없이 실험을 운영할 수 있게 했습니다.
#ML#A/B 테스트#DSL
2600
AI 실시간 추천 시스템을 위한 Flink 기반 스트림 조인 서비스 구축기
Azar의 실시간 추천 시스템을 위해 Flink KeyedProcessFunction 기반 스트림 조인과 배포 전략을 구축한 사례를 소개했습니다. Savepoint, Blue-Green 배포, Redis 중복 제거로 무중단과 Exactly Once를 구현했습니다.
#Apache Flink#Kafka#Redis
10300
아자르에서는 어떤 추천 모델을 사용하고 있을까?
아자르는 1:1 비디오 채팅 매칭을 위해 CUPID 추천 모델을 설계하고 적용했습니다. 투 타워 구조와 세션 임베딩 분리로 레이턴시를 줄이고 추천 성능을 높였습니다.
#추천#two-tower architecture#Wide&Deep
2500
협업 필터링을 넘어서: 하이퍼커넥트 AI의 추천 모델링
추천 시스템을 행렬 분해 관점에서 정리하고, 하이퍼커넥트 AI의 모델링 방향을 소개했습니다. 또한 SGD 기반 학습, 보조 정보 활용, GNN 도입 보류 이유를 함께 설명했습니다.
#추천#협업#행렬 분해
4000
Behind the Paper: 하이퍼커넥트 AI 조직이 제품에 기여하면서 연구하는 법
하이퍼커넥트 AI 조직이 제품 문제를 연구로 풀고 논문으로 확장한 과정을 소개했습니다.문헌 조사, 실험, 테크 스펙을 통해 성능과 운영성을 함께 검증했습니다.
#ML#test#노이즈 러닝
3200
아자르에서 AI 기반 추천 모델의 타겟 지표를 설정하는 방법 (feat. 아하 모멘트)
아자르가 추천 모델의 목표를 리텐션으로 두고 아하 모멘트 기반으로 1차 지표를 찾는 과정을 소개했습니다. 세그먼트 분석과 A/B 테스트를 통해 신규·기존 사용자 모두에서 유효한 지표를 검증했습니다.
#추천#리텐션#A/B 테스트
4500
ksqlDB를 이용하여 실시간 ML 피쳐 데이터를 계산하기
ksqlDB를 이용해 카프카 이벤트로부터 실시간 ML 피쳐를 계산하는 방법을 소개했습니다. 변환·필터링·윈도우 집계를 SQL만으로 구성하고, 제약과 주의점도 정리했습니다.
#ksqlDB#Kafka#ML
2200