AI 학습을 위한 LLM 스터디 - 배치 전략 및 어텐션 개선 방안
LLM 추론 효율을 높이기 위한 배치 전략과 어텐션 개선 방법을 정리한 글입니다. FlashAttention, 페이지 어텐션, 추측 디코딩의 개념과 장점을 설명했습니다.
#LLM#batch
27005분
필터 1
Kubernetes Job과 커스텀 컨트롤러를 활용한 배치 처리 경험기
Kubernetes Job과 커스텀 컨트롤러를 활용한 배치 처리 경험기
Kubernetes Job으로 배치 작업을 클러스터에서 병렬 실행하도록 전환한 경험을 공유했습니다. 또한 커스텀 컨트롤러와 Kubebuilder로 순차 실행용 스케줄러를 구현한 방법을 설명했습니다.
#Kubernetes#batch
41005분
스마트 승급 시스템, 회원 승급 자동화의 혁신 스토리
회원 승급 작업을 수작업에서 AWS Batch 기반 자동화로 전환했습니다. Apache Kafka 도입으로 대용량 동기화 지연도 크게 줄였습니다.
#AWS Batch#Kafka
31005분
Airflow로 펀드 배치 시스템 완벽 구축하기
Airflow로 펀드 배치 시스템 완벽 구축하기
카카오뱅크가 퍼블릭 클라우드에 펀드 시스템을 구축한 사례를 소개했습니다. Airflow로 금융 규제를 충족하며 배치 작업을 효율화한 과정을 다뤘습니다.
#Airflow#batch
27005분
![[SpringBatch 연재 10] 스프링배치 플로우 컨트롤 하기](https://devocean.sk.com/thumnail/2024/11/29/20eb6934476f3b2a7a750153647d9f049eb9df33462a0b597ee5acfb5d95cf82.png)
[SpringBatch 연재 10] 스프링배치 플로우 컨트롤 하기
Spring Batch의 Flow Controller로 Step 실행 순서와 분기 방법을 설명했습니다. next, on, from, stop을 이용해 조건별 배치 흐름을 구성하는 방법을 정리했습니다.
#Spring Batch#Java
16005분
![[SpringBatch 연재 06] JpaPagingItemReader로 DB내용을 읽고, JpaItemWriter로 DB에 쓰기](https://devocean.sk.com/thumnail/2024/10/2/6fcf6f42a7137411e9966df3cba9520b9bbb7639fc4c76f85169f548440d0786.png)
[SpringBatch 연재 06] JpaPagingItemReader로 DB내용을 읽고, JpaItemWriter로 DB에 쓰기
Spring Batch에서 `JpaPagingItemReader`로 JPA 엔티티를 페이지 단위로 읽고 `JpaItemWriter`로 DB에 저장하는 방법을 소개했습니다. 또한 페이지 기반 처리의 누락 가능성과 JPA writer 설정상의 주의점도 함께 설명했습니다.
#Spring Batch#JPA
25005분