언어 모델의 Fine-Tuning 성능 올리기
언어 모델의 fine-tuning 성능을 높이는 LoRA, TAPT, DAPT, Adversarial Training을 소개했습니다. 대규모 전체 학습보다 비용과 효율을 고려한 적용 방향을 정리했습니다.
#LLM#fine-tuning#LoRA
800
언어 모델의 Fine-Tuning 성능 올리기
모든 블로그
대표 인기 포스트딥러닝 추천 모델에 인과추론 접목시켜 전환율 예측 성능을 향상시키자!14 조회14 조회 AI AI AI AI AI AI
데이블
주요 카테고리 AI · 프론트엔드
활동 요약
- 최근 30일
- 0개
- 평균 조회
- 11
- 누적 조회
- 107
- 전체 글
- 10개
- 마지막 발행
- 2024. 7. 15.
데이블 기술 블로그 글 (6)
Bid Shading이란?
1등 가격 경매 환경에서 DSP가 경쟁 입찰가를 추정해 입찰가를 낮추는 Bid Shading 개념과 방법을 설명했습니다. 오프라인과 온라인 실험에서 잉여와 순이익 개선 가능성을 확인했습니다.
#ML#KDD#GCP
1300
Bid Shading이란?
딥러닝 추천 모델에 인과추론 접목시켜 전환율 예측 성능을 향상시키자!
추천시스템에서 상관관계만 학습할 때 생기는 편향과 누락 문제를 인과추론 관점에서 설명했습니다. 전환율 예측에서는 MTL과 IPW, DR을 결합한 방법으로 성능을 높이는 흐름을 소개했습니다.
#ML#추천#인과추론
1400
딥러닝 추천 모델에 인과추론 접목시켜 전환율 예측 성능을 향상시키자!
SHAP
SHAP의 기반인 Shapley Value를 예시와 수식으로 풀어 설명했습니다. 모델 예측을 특징별 기여도로 나누는 원리와 계산 시 주의점도 정리했습니다.
#SHAP#Shapley Value#ML
1000
SHAP
머신러닝으로 만드는 개인화 추천 시스템
머신러닝으로 개인화 추천 시스템을 설계하는 기본 흐름을 설명했습니다. 실험 환경에서 학습하고 배포 환경에서 pCTR과 CPM으로 광고를 선택하는 구조를 정리했습니다.
#ML#추천#calibration
1000
머신러닝으로 만드는 개인화 추천 시스템
Bayes Theorem
베이즈 정리의 기본 개념을 조건부 확률에서부터 차근차근 설명했습니다. 동전 던지기 예시와 수치해석, MCMC, PyMC로 사후분포를 추정하는 과정을 다뤘습니다.
#Bayes Theorem#Python#PyMC
1200
Bayes Theorem