국내 IT 기업 기술 블로그 최신 글

필터 1
Nota AI가 제안하는 Transformer 모델을 AWS Inferentia/Trainium에 손쉽게 배포하는 방법
AWS
AI

Nota AI가 제안하는 Transformer 모델을 AWS Inferentia/Trainium에 손쉽게 배포하는 방법

Hugging Face Transformer 모델을 AWS Inferentia/Trainium에 포팅하는 과정을 검증했습니다. return_dict=False 설정으로 tracing 오류를 줄여 12개 모델 모두 배포 가능함을 확인했습니다.

#AWS#Transformer
4000
NVIDIA Dynamo: 차세대 분산 추론 프레임워크 리뷰
데보션
AI

NVIDIA Dynamo: 차세대 분산 추론 프레임워크 리뷰

NVIDIA Dynamo는 분산 추론을 위한 오픈 소스 프레임워크로, Prefill·Decode 분리와 스마트 라우팅으로 성능을 높였습니다. KV cache 오프로딩과 NIXL 전송을 통해 GPU 자원 효율과 지연 시간 개선을 노렸습니다.

#LLM#Kubernetes
7200
RAG와 리랭커(Reranker): 검색 모델과 LLM의 상호작용
데보션
AI

RAG와 리랭커(Reranker): 검색 모델과 LLM의 상호작용

RAG에서 리랭커가 필요한 이유와 역할을 설명했습니다. 기존 방식과 LLM 기반 리랭킹, 적용 시 한계와 보완 방법도 함께 정리했습니다.

#RAG#LLM
8500
Data Forge와 함께하는 AI 혁신: 이미지 학습 데이터 증강 자동화
삼성
AI

Data Forge와 함께하는 AI 혁신: 이미지 학습 데이터 증강 자동화

생성형 AI 이미지 스타일 부여를 위해 LoRA 개발과 데이터 준비 부담을 다뤘습니다. Data Forge로 학습 데이터 증강을 자동화하는 방향을 소개했습니다.

#LLM#ML
900
MCP(Model Context Protocol) 시대의 PAM(Privileged Access Management)을 재정의 하다.
QueryPie
AI

MCP(Model Context Protocol) 시대의 PAM(Privileged Access Management)을 재정의 하다.

MCP로 AI 에이전트가 외부 시스템과 연결되는 구조와 그에 따른 보안 과제를 정리했습니다. PAM과 결합해 최소 권한, 가시성, 감사 가능성을 확보하는 통합 전략을 제안했습니다.

#MCP#PAM
1500
MCP(Model Context Protocol) 시대의 PAM(Privileged Access Management)을 재정의 하다.
QueryPie
AI

MCP(Model Context Protocol) 시대의 PAM(Privileged Access Management)을 재정의 하다.

MCP 기반 AI 에이전트의 보안 취약점을 정리하고, PAM을 결합한 통합 거버넌스 전략을 설명했습니다. AI 전용 권한 제어와 모니터링으로 안전한 기업 운영 방향을 제시했습니다.

#MCP#PAM
2300
MCP(Model Context Protocol) 시대의 PAM(Privileged Access Management)을 재정의 하다.
QueryPie
AI

MCP(Model Context Protocol) 시대의 PAM(Privileged Access Management)을 재정의 하다.

MCP로 AI 에이전트가 기업 시스템에 연결되는 만큼, 특권 접근 관리와의 통합이 중요하다고 설명했습니다. 보안 프록시, 최소 권한, 모니터링과 감사 체계를 통해 AI 거버넌스를 강화하는 전략을 제안했습니다.

#MCP#PAM
8100
쿠팡 파트너스

광고

개발자를 위한 서적을 확인해 보세요

이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

#개발서적#프로그래밍
Amazon Bedrock기반에서 Contextual Retrieval 활용한 검색 성능 향상 및 실용적 구성 방안
AWS
AI

Amazon Bedrock기반에서 Contextual Retrieval 활용한 검색 성능 향상 및 실용적 구성 방안

Amazon Bedrock에서 Contextual Retrieval로 RAG 검색 정확도를 높이는 방법을 설명했습니다. 전처리 컨텍스트 생성, 하이브리드 검색, 리랭킹, 프롬프트 캐싱까지 실무 구성을 함께 다뤘습니다.

#RAG#Amazon Bedrock
10600
Gemma 모델과 프롬프트를 활용한 On-Device AI: 에이닷 오토 차량제어 프로토타입
데보션
AI

Gemma 모델과 프롬프트를 활용한 On-Device AI: 에이닷 오토 차량제어 프로토타입

Gemma와 MediaPipe로 차량 제어용 On-Device AI를 프롬프팅만으로 구현한 실험 과정을 공유했습니다. 기본 명령은 잘 처리했지만, area 인식과 응답 일관성 보완을 위해 파인튜닝이 필요했습니다.

#LLM#prompt
10100
FE News 25년 4월 소식을 전해드립니다!
네이버 D2
AI

FE News 25년 4월 소식을 전해드립니다!

네이버 FE 엔지니어들이 25년 4월 FE News에서 LLM 실패 사례, 프롬프트 엔지니어링, Vibe Coding 등을 소개했습니다. 웹과 AI 관련 주요 기술 소식을 월간으로 큐레이션해 공유했습니다.

#LLM#prompt
13100
AI 툴 개발은 처음이라, 당근 비개발자 구성원들의 AI 도전기
당근마켓
기타

AI 툴 개발은 처음이라, 당근 비개발자 구성원들의 AI 도전기

당근에서 비개발자 구성원들이 AI 툴을 직접 만들며 업무 문제를 해결한 사례를 소개했습니다. 작은 실험을 빠르게 실행하고 공유하며 AI 실험 문화를 확산한 내용입니다.

#Cursor#자동화
19600
LinqAlpha 의 Amazon Bedrock과 Amazon OpenSearch 를 활용한 헤지펀드 투자사를 위한 Company Screener Agent
AWS
AI

LinqAlpha 의 Amazon Bedrock과 Amazon OpenSearch 를 활용한 헤지펀드 투자사를 위한 Company Screener Agent

Amazon Bedrock과 Amazon OpenSearch로 헤지펀드용 Company Screener Agent를 구현한 사례를 소개했습니다. 금융 특화 임베딩과 하이브리드 검색으로 종목 선별, 요약, 검증을 자동화한 효과를 설명했습니다.

#Amazon Bedrock#OpenSearch
3100
[Hands-On] AI 에이전트 직접 구현해보기
교보DTS
AI

[Hands-On] AI 에이전트 직접 구현해보기

기본형 AI 에이전트를 직접 구현하며 도구 사용과 반복 추론 구조를 설명했습니다. Gradio 테스트와 DB, Git 시나리오로 실제 동작도 확인했습니다.

#LLM#langchain
14800
딥시크(DeepSeek)에 이어 마누스(MANUS) 까지 – 다원화되는 중국 오픈소스 LLM 생태계
교보DTS
AI

딥시크(DeepSeek)에 이어 마누스(MANUS) 까지 – 다원화되는 중국 오픈소스 LLM 생태계

딥시크와 마누스의 등장으로 중국 오픈소스 LLM 생태계가 빠르게 다원화되고 있음을 정리했습니다. 딥시크는 고성능 개방형 LLM, 마누스는 자율 에이전트라는 서로 다른 방향을 보여주었습니다.

#LLM#오픈소스
8300