국내 IT 기업 기술 블로그 최신 글

필터 1
모델 설계부터 최적화까지: 풀스택으로 해결한 Jetson Orin NX 저조도 400 ms → 28 ms
노타
AI

모델 설계부터 최적화까지: 풀스택으로 해결한 Jetson Orin NX 저조도 400 ms → 28 ms

YUV 분리와 경량 DeltaViT 설계로 Jetson Orin NX의 저조도 복원 지연 시간을 400ms에서 28ms 미만으로 단축했습니다. 비참조 화질 지표와 다채널 처리 요구를 함께 검증했습니다.

#Jetson Orin NX#TensorRT
000
현관문에도 얼굴이 있다: 배송 완료 사진 기반 On-device 오배송 탐지 시스템
마켓컬리
AI

현관문에도 얼굴이 있다: 배송 완료 사진 기반 On-device 오배송 탐지 시스템

배송 완료 사진 임베딩의 거리 비교로 오배송을 탐지하는 장소 재인식 시스템을 구축했습니다. ONNX 기반 온디바이스 추론과 배치 임베딩 적재로 실시간성과 운영 효율을 확보했습니다.

#computer vision#ONNX
300
[넷츠프레소 딥다이브] 양자화부터 그래프 최적화까지, 단계별 모델 배포 파이프라인
노타
AI

[넷츠프레소 딥다이브] 양자화부터 그래프 최적화까지, 단계별 모델 배포 파이프라인

넷츠프레소의 AQ·GO·GQ 기반 모델 배포 파이프라인 구조를 설명했습니다. 양자화부터 그래프 최적화·온디바이스 검증까지의 흐름을 다뤘습니다.

#양자화#Edge AI
000
대규모 서비스 환경에서의 이미지 콘텐츠 모더레이션(feat. 멀티모달 LLM)
라인
AI

대규모 서비스 환경에서의 이미지 콘텐츠 모더레이션(feat. 멀티모달 LLM)

대규모 서비스의 이미지 콘텐츠 모더레이션을 위해 멀티모달 LLM과 전통적 ML을 결합한 구조를 소개했습니다. 정확도, 지연 시간, 비용, 정책 유연성을 함께 개선하는 최적화 과정을 다뤘습니다.

#LLM#멀티모달
5100
효율적 시맨틱 검색을 위한 kubernetes GPU inference 시스템 구축하기
데보션
데브옵스

효율적 시맨틱 검색을 위한 kubernetes GPU inference 시스템 구축하기

Kubernetes에 GPU 기반 Triton 추론 서버를 구축해 시맨틱 검색을 실시간으로 처리한 사례를 정리했습니다. ONNX 최적화와 배치·모니터링·배포 자동화로 성능과 운영 효율을 높였습니다.

#Kubernetes#GPU
6800
AI 명함촬영인식 ‘리오(RIO)’ 적용기 2부 — ML Model Converter와 안드로이드 앱 적용기
리멤버
AI

AI 명함촬영인식 ‘리오(RIO)’ 적용기 2부 — ML Model Converter와 안드로이드 앱 적용기

리오(RIO) 명함 촬영 인식을 모바일 기기에서 동작시키기 위해 모델 변환과 안드로이드 적용 과정을 정리했습니다. PyTorch를 TF Lite로 옮기고, JNI와 OpenCV로 후처리를 구성한 실험 내용을 공유했습니다.

#ML#Android
3700
로봇 ML 모델의 경량화 #1: 훈련 후 양자화
우아한 형제들
AI

로봇 ML 모델의 경량화 #1: 훈련 후 양자화

실외 자율주행 로봇에서는 서버용 ML 모델을 그대로 쓰기 어려워 경량화가 필요했습니다. 이 글은 PTQ와 TensorRT 기반 최적화, ONNX 변환 흐름을 설명했습니다.

#ML#NVIDIA
3700
엔비디아 TAO Toolkit 결과 모델을 다양한 엣지 장치에서 실행하기 위한 LaunchX 연동 방법
노타
AI

엔비디아 TAO Toolkit 결과 모델을 다양한 엣지 장치에서 실행하기 위한 LaunchX 연동 방법

TAO Toolkit 모델을 ONNX로 내보내 LaunchX와 연동하는 과정을 소개했습니다. PyNetsPresso로 여러 엣지 장치의 변환 및 벤치마크를 확인합니다.

#TAO Toolkit#ONNX
000
쿠팡 파트너스

광고

개발자를 위한 서적을 확인해 보세요

이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

#개발서적#프로그래밍
모바일 AI의 혁신 : 실시간 성능 향상을 위해 넷츠프레소로 의미론적 분할 모델을 가속하는 방법
노타
AI

모바일 AI의 혁신 : 실시간 성능 향상을 위해 넷츠프레소로 의미론적 분할 모델을 가속하는 방법

모바일 환경에서 PIDNet 의미론적 분할 모델의 실시간 처리 지연 문제를 다뤘습니다. NetsPresso 구조적 가지치기로 압축률별 정확도와 지연 시간의 균형을 비교했습니다.

#NetsPresso#의미론적 분할
500