

Vision Transformer 구현 — TensorFlow/Keras로 손글씨(MNIST) 분류하기
Vision Transformer를 TensorFlow/Keras로 구현해 MNIST 손글씨 분류 과정을 단계별로 설명했습니다. 데이터 전처리부터 패치화, 어텐션, 인코더, 분류까지 텐서 흐름과 구현 포인트를 정리했습니다.
새로운 기술 블로그가 추가되었어요


Vision Transformer를 TensorFlow/Keras로 구현해 MNIST 손글씨 분류 과정을 단계별로 설명했습니다. 데이터 전처리부터 패치화, 어텐션, 인코더, 분류까지 텐서 흐름과 구현 포인트를 정리했습니다.

응급실에서 빠른 판단을 돕기 위한 AI 예측 모델 주제를 다뤘습니다. 활력징후, 혈액 검사, 엑스레이를 함께 활용하는 멀티모달 접근이 핵심입니다.

카카오뱅크가 보이스피싱 대응을 위해 거래 단위가 아닌 고객 행동 시퀀스를 분석하는 FDS 모델을 개발했습니다. ViT 변형, XAI, 실시간 서빙으로 대규모 탐지를 빠르게 처리했습니다.
당근의 지역 기반 추천 시스템에서 장기 유저 로그를 Transformer로 학습해 공통 임베딩을 만들었습니다. 이를 홈피드, 후보, 광고에 적용해 학습 신호와 온라인 지표를 함께 개선했습니다.

테이블 데이터를 위한 파운데이션 모델과 TabPFN의 개념을 설명하고, 실무에서의 활용 가능성을 정리했습니다. 빠른 베이스라인과 비교 모델로서의 장점과 기존 모델과의 병행 필요성도 함께 다뤘습니다.

장바구니 맥락을 반영한 추천 모델로 Item2Vec의 한계를 개선했습니다. 오프라인 평가와 A/B 테스트에서 담기율, 다양성, 주문율이 함께 향상되었습니다.


상품 텍스트를 Semantic ID로 압축하고 유저 행동을 Transformer로 해석해 개인화 추천 모델을 구축했습니다. 지식 증류와 데이터 엔지니어링으로 정확도와 속도를 함께 개선하고 A/B 테스트 성과를 확인했습니다.


상품 텍스트와 행동 시퀀스를 결합한 Collaborative Embedding 추천 모델을 구축했습니다.\n지식 증류로 검색 성능을 높이고 A/B·CRM 테스트의 지표 개선을 확인했습니다.
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.


Speculative Decoding으로 AI Agent의 응답 지연을 줄이는 원리를 설명했습니다. Small Model 예측과 Large Model 검증을 결합해 속도 개선 가능성을 제시했습니다.


효율적인 광고 제작을 위한 레이아웃 생성 기술을 주요 방식별로 정리했습니다. 각 모델의 장점과 한계를 비교하며 실전 선택 기준도 함께 제시했습니다.


Attention 메커니즘의 개념과 필요성을 설명하고, Q/K/V 기반 작동 흐름을 정리했습니다. 또한 PyTorch와 TensorFlow 예제로 실제 구현 방법을 보여주었습니다.

LLM이 입력을 받아 답변을 생성하기까지의 내부 동작을 6단계로 나눠 쉽게 설명했습니다. 백엔드 개발자가 프롬프트와 활용 방식을 이해하는 데 필요한 핵심 흐름을 정리했습니다.


GPT 기반 LLM의 추론 최적화와 양자화 개념을 설명했습니다. DeepSeek의 Latent Vector 기반 방식으로 KV Cache 메모리를 줄이는 사례도 다뤘습니다.