
실시간 AI 스트리밍: WebSocket으로 완성하는 끊기지 않는 대화
실시간 AI 스트리밍에서는 모델 성능뿐 아니라 토큰 전달의 자연스러움이 중요하다고 설명했습니다. WebSocket, Lambda, DynamoDB를 활용한 연결 관리와 백프레셔, 순서 보장 방식을 정리했습니다.

실시간 AI 스트리밍에서는 모델 성능뿐 아니라 토큰 전달의 자연스러움이 중요하다고 설명했습니다. WebSocket, Lambda, DynamoDB를 활용한 연결 관리와 백프레셔, 순서 보장 방식을 정리했습니다.
![[에이닷 4.0 QE 여정3] LLM 품질 평가의 진화: SPeCTRA 2.0 톺아보기](https://devocean.sk.com/thumnail/2025/9/2/18a05ae6f560f5663e7ef7428eb491c7362f850ffff2113554dc7f15d3f4db6f.png)

에이닷 4.0 개편에 맞춰 SPeCTRA 2.0이 API 중심 Web 평가 도구로 진화했습니다. 내부 로그와 Memory까지 함께 검증해 품질 평가의 신뢰성과 속도를 높였습니다.

오픈챗 메시지에서 트렌딩 키워드를 뽑는 통계적 방법을 소개했습니다. 빈도 급증 탐지, 중복 제거, NPMI 필터, MMR 다양화로 품질을 높였습니다.

Amazon Bedrock 기반 AI Agent 솔루션 에이블의 AWS Marketplace 등록 소식입니다. 별도 설치 없이 클라우드에서 AI 에이전트를 생성·운영할 수 있고, 기업 데이터 벡터화와 지식 검색 기능을 제공합니다.

Kanana 언어모델에 추론 기능을 붙이는 Kanana-1.5를 소개하는 글입니다. OpenAI o1 출시를 계기로 추론형 언어모델 흐름을 다룹니다.


에이닷에 Agentic Memory를 도입해 대화를 구조화된 기억으로 저장하고 개인화 응답을 강화했습니다. 비동기 처리와 DSPy 최적화로 성능과 유지보수성도 함께 높였습니다.


LG전자 한국영업본부의 Agentic AI 기반 인사이트 추출 시스템 개발 사례를 소개했습니다. 데이터 접근성 개선과 분석 자동화를 통해 마케팅 업무 효율을 크게 높인 과정을 설명했습니다.
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

온라인 기반 LLM 서비스가 망 분리 도메인에서 갖는 제약을 다룹니다. Alpy의 RAG 활용을 주제로 제시합니다.

요기요는 사내 AI 챗봇 ‘조리’로 반복적인 IT/HR 문의와 일부 업무를 자동화했습니다. Slack 기반 멀티에이전트 구조와 외부 시스템 연동으로 응답과 액션을 함께 처리했습니다.


프롬프트 엔지니어링 기법을 조합해 GPT 앱을 만드는 방법을 소개했습니다. 연구기획서 자동 생성 예시로 역할 지정과 Tree of Thoughts 활용 흐름을 설명했습니다.


GS리테일은 Amazon Bedrock으로 와인 라벨 이미지 검색 서비스를 구축했습니다. Claude와 멀티모달 임베딩, Elasticsearch를 결합해 다국어 라벨 검색 품질을 높였습니다.


생성형 AI 합성 데이터의 개념과 활용 가능성을 논문, 도구, 사례를 통해 살펴보았습니다. 아직 한계는 있지만 품질 검증과 테스트 자동화 측면의 가능성도 함께 확인했습니다.


2025년 LLM의 Reasoning 흐름 속에서 Think-fusion의 구현 방식과 한계를 정리했습니다. GPT-5와 Qwen3 사례를 통해 모델 분리의 필요성과 효율성도 함께 살펴봤습니다.


NVIDIA Jetson Thor의 주요 사양과 Orin 대비 성능 향상을 리뷰하고 개봉기를 함께 소개했습니다. 로봇과 생성형 AI용 고성능 엣지 보드의 활용 가능성을 정리했습니다.