Inner Loop 엔지니어링으로 본 Deep Insight Chatbot – 대화형 분석 챗봇의 4가지 설계 결정
Deep Insight의 Inner Loop 챗봇 설계에서 데이터 보호, 속도, 신뢰성, 비용을 맞추는 4가지 결정을 정리했습니다. DuckDB 샌드박싱과 세션 단위 OLAP 상주, SQL 투명성, prompt cache로 대화형 분석 도구를 구현했습니다.
#AWS#DuckDB
29005분
필터 1
[현장 스케치] 국방 AX의 미래, 소버린 AI로 완성합니다: 네이버클라우드 국방 AX 발전 전략 세미나
[현장 스케치] 국방 AX의 미래, 소버린 AI로 완성합니다: 네이버클라우드 국방 AX 발전 전략 세미나
국방 분야에서 AI가 핵심 기술로 떠오르는 배경과 전략 세미나 내용을 소개했습니다. 풀스택 소버린 AI, FDE, 온톨로지 같은 국방 AX 전략 요소를 다뤘습니다.
#LLM#cloud
0005분
AI ENGINEER NIGHT Q&A 총정리
AI ENGINEER NIGHT Q&A 총정리
AI ENGINEER NIGHT에서 나온 RAG, 에이전트, 평가 관련 질문에 채널톡 AI팀이 답변을 정리했습니다. 문서 구조 보존 청킹과 재탐색 전략, 데이터 게이트와 pass@k 평가 방식을 소개했습니다.
#RAG#LLM
0005분
AI ENGINEER NIGHT Q&A 총정리
채널톡 AI팀의 AI ENGINEER NIGHT Q&A를 정리한 글입니다. RAG, 에이전트 설계, 데이터 평가와 운영 전략을 실무 관점에서 공유했습니다.
#RAG#LLM
98005분
MLXP : Kubernetes LLM Serving 최적화 기술 도입기
MLXP : Kubernetes LLM Serving 최적화 기술 도입기
Kubernetes 환경에 LLM 서빙 최적화 기술을 도입하며 발생한 충돌과 해결 과정을 공유했습니다. Istio, 스케줄러, Pod 보호 정책과의 실전 문제를 진단한 사례입니다.
#Kubernetes#LLM
60005분
Amazon Bedrock Vision LLM과 Amazon OpenSearch Service를 활용한 농약 제품 이미지 인식 시스템 구축기
농약 제품 사진을 인식해 정보를 찾는 3단계 AI 검색 시스템을 구축했습니다. Vision LLM 오인식을 오타 보정, OpenSearch Fallback, LLM Reranker로 보완했습니다.
#Amazon Bedrock#OpenSearch Service
32005분
팀장님이 QA 100번 시키길래 만들었습니다.
팀장님이 QA 100번 시키길래 만들었습니다.
AI 태스크 QA를 자동화하기 위해 시나리오 생성, AI 사용자 대화, 평가, 개선 루프를 구성했습니다.외부 API 의존을 줄이고 이벤트 기반 처리와 캐싱을 적용해 반복 검증 비용과 수작업을 줄였습니다.
#LLM#agent
0005분
팀장님이 QA 100번 시키길래 만들었습니다.
비결정적 AI 태스크를 자동으로 QA하는 에이전트 개발 과정을 소개했습니다. DFS 기반 시나리오 생성, AI 사용자 대화, 평가와 개선 루프까지 구현했습니다.
#LLM#API
80005분
![[AWS Summit Seoul 2026] 나야, 차세대 OpenSearch: 에이전틱 AI를 곁들인](https://tech.cloud.nongshim.co.kr/wp-content/uploads/tech_thumbnail.png)
[AWS Summit Seoul 2026] 나야, 차세대 OpenSearch: 에이전틱 AI를 곁들인
Amazon OpenSearch가 에이전틱 검색과 벡터 스토리지 혁신으로 진화하는 내용을 다뤘습니다. 운영 최적화와 AI 에이전트 연동을 함께 지원하는 플랫폼 방향을 소개했습니다.
#OpenSearch#AWS
32005분
프롬프트 인젝션 방어: AgentCore 기반 다층 보안 설계 패턴
프롬프트 인젝션에 대비해 에이전트 보안을 LLM 밖의 인프라에서 강제하는 다층 방어 패턴을 설명했습니다. AgentCore, JWT 전파, RLS, Index Mapper로 사용자 간 데이터 경계를 지키는 방법을 정리했습니다.
#LLM#보안
24005분
[AWS Summit Seoul 2026] 책임감 없는 AI에이전트, 주인은 누구인가
AI 에이전트의 자율성 확대에 따른 보안과 책임 문제를 다뤘습니다. 하네스 엔지니어링과 Datadog Agent Builder로 가드레일을 두는 방법을 소개했습니다.
#AWS#LLM
30005분
[AWS Summit Seoul 2026] 생성형 AI 시대의 새로운 개발 방법론: AI-DLC (AI-Driven Development Lifecycle)
생성형 AI의 한계를 넘기 위해 개발 전 과정을 AI와 함께 수행하는 AI-DLC 방법론을 소개했습니다. 기획부터 운영까지 컨텍스트와 이력을 보존하는 워크플로우를 통해 엔터프라이즈 개발 생산성을 높이는 접근을 다뤘습니다.
#AWS#LLM
31005분