AI 추론 능력을 극대화하는 DeepSeek-R1의 혁신
DeepSeek-R1의 강화 학습 기반 추론 향상 방식과 지식 증류 전략을 정리했습니다. 또한 API 활용, 소형 모델 성능, 향후 개선 과제까지 함께 살펴봤습니다.
#LLM#ML
3800
국내 IT 기업 기술 블로그 최신 글
새로운 기술 블로그가 추가되었어요
필터 1
효율적인 GPU 메모리 사용을 위한 여러 기법
GPU 메모리 사용을 줄이기 위한 그레이디언트 누적, 체크포인팅, ZeRO, LoRA, QLoRA를 정리했습니다. 각 기법이 절감하는 메모리 영역과 적용 효과를 예시와 함께 설명했습니다.
#GPU#ML
4400
AI 학습을 위한 LLM 스터디 - 배치 전략 및 어텐션 개선 방안
LLM 추론 효율을 높이기 위한 배치 전략과 어텐션 개선 방법을 정리한 글입니다. FlashAttention, 페이지 어텐션, 추측 디코딩의 개념과 장점을 설명했습니다.
#LLM#batch
3200
RAG를 활용한 검색 서비스 만들기
동네생활 게시글과 댓글에서 업체 추천 정보를 찾아 RAG 기반 검색 서비스로 연결했습니다.\n벡터 검색, LLM 요약, 적절성 필터링을 거쳐 신뢰도 높은 추천 결과를 제공했습니다.
#RAG#검색
24000
로봇 ML 모델의 경량화 2부: 양자화 인식 훈련
PTQ의 성능 저하 한계를 보완하기 위한 QAT 개념과 원리를 설명했습니다.\nNVIDIA pytorch-quantization으로 QAT를 수행하고 ONNX/TensorRT로 변환하는 절차를 소개했습니다.
#ML#양자 컴퓨팅
2800
차세대 HBM이라고 나타난 CXL 무엇일까?
CXL의 개념과 PCIe 기반 동작, 메모리 풀링·캐시 일관성 같은 특징을 정리했습니다. AI 연산 시스템과 데이터센터에서 메모리 확장성과 효율을 높이는 활용 가능성도 소개했습니다.
#CXL#ML
2100
제로 트러스트 보안: 초연결 시대의 사이버 보안을 다시 정의하다
제로 트러스트는 내부도 신뢰하지 않고 모든 접근을 지속적으로 검증하는 보안 모델입니다. 원격 근무와 클라우드 환경에서 보안을 강화하지만, 권한 관리와 모니터링을 철저히 해야 합니다.
#보안#cloud
1900
쿠팡 파트너스
개발자를 위한 서적을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발서적#프로그래밍
AI 명함촬영인식 ‘리오(RIO)’ 적용기 2부 — ML Model Converter와 안드로이드 앱 적용기
리오(RIO) 명함 촬영 인식을 모바일 기기에서 동작시키기 위해 모델 변환과 안드로이드 적용 과정을 정리했습니다. PyTorch를 TF Lite로 옮기고, JNI와 OpenCV로 후처리를 구성한 실험 내용을 공유했습니다.
#ML#Android
3500
리멤버 유저에게 보다 깨끗한 명함 이미지 제공을 위한 이미지 복원 방법
리멤버 명함 이미지 복원을 위해 전통적 방법과 딥러닝 기반 방법을 비교해 정리했습니다. 실서비스에서는 품질뿐 아니라 리소스와 추론 시간도 함께 고려해야 했습니다.
#ML#이미지 복원
4200
실시간 반응형 추천 개발 일지 2부: 벡터 검색, 그리고 숨겨진 요구사항과 기술 도입 의사 결정을 다루는 방법
실시간 행동 이력과 위치 정보를 반영하는 추천 시스템의 요구사항을 기술 문제로 풀어냈습니다. 벡터 검색 도입 과정에서 pre filter와 ANN의 한계를 검토하고 후보군 실험을 진행했습니다.
#벡터 검색#추천
3900
미우미우 핑크핀은 왜 안나오나요 ?
SSG.COM 검색 실패를 줄이기 위해 BERT 계열 모델과 벡터 DB 기반 매칭 방식을 도입했습니다. 적용 후 전체 검색 실패의 46%를 성공으로 전환했고 정확도 75%를 달성했습니다.
#검색#BERT
4600
FDS에 지속 성장하는 ML 모델 적용 이야기
카카오페이 FDS에 지속 성장하는 ML을 적용해 급변하는 사고 패턴에 대응한 사례를 소개했습니다. 지속적 학습과 자가 적응 피처로 신규 유형 사고 탐지 성능을 높였습니다.
#ML#MLOps
5200
To Mine or Not To Mine: 독일 법원이 AI 시대의 저작권 딜레마에 내린 판결
독일 법원의 LAION 판결을 통해 AI 학습용 데이터 수집과 저작권 보호의 균형을 살펴보았습니다. 국내 AI 기업도 TDM 예외와 opt-out 쟁점을 주의 깊게 확인할 필요가 있습니다.
#LLM#ML
2900
이번 주에 낚싯대는 몇 개가 팔릴까?
롱테일 상품과 간헐적 수요의 차이를 설명하고, 수요 패턴 분류 기준과 예측 난점을 정리했습니다. 또한 Croston 계열 기법과 머신러닝을 함께 쓰는 실무 전략을 소개했습니다.
#ML#EDA
2700