

네오사피엔스의 AWS g6e 기반 LLM 추론 배치 워크로드 최적화 사례
네오사피엔스가 AWS g5, g6e, g7e에서 LLM 추론 배치와 정밀도를 비교했습니다. 실제 운영 조건을 반영해 g6e + INT8 조합을 최적점으로 선택했습니다.


네오사피엔스가 AWS g5, g6e, g7e에서 LLM 추론 배치와 정밀도를 비교했습니다. 실제 운영 조건을 반영해 g6e + INT8 조합을 최적점으로 선택했습니다.

AI 에이전트가 SaaS의 UI 중심 구조와 사업 모델을 바꾸고 있다는 관점을 제시했습니다. QueryPie의 AI 네이티브 전환 사례를 통해 조직과 제품의 대응 전략을 설명했습니다.
AI 코딩이 보조 도구에서 에이전트 중심 개발로 바뀐 1년의 흐름을 정리했습니다. 스펙, 문서, 테스트를 레포 안에 쌓아 에이전트가 일할 환경을 설계한 과정입니다.

멀티 리전 AKS, Karmada, Istio로 대규모 LLM 추론 인프라를 중앙 관리했습니다. 스토리지·이미지 배포를 통합해 비용과 운영 리소스를 절감했습니다.

Kanana-V의 기능 확장 내용을 소개하는 글입니다. 한국 문화 이해와 문서, 다중 이미지, GUI 조작까지 다룹니다.

AWS re:Invent 2025에서 Agentic AI와 관리형 클라우드 기술의 방향을 살펴보았습니다. 프로덕션 운영과 보안 관점에서 카카오뱅크에 적용할 인사이트를 정리했습니다.
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

RAG의 필요성과 동작 원리를 설명하고, 교육 운영 시스템에 적용한 구현 사례를 정리했습니다. 6단계 구현 가이드와 색인·검색 설계 포인트도 함께 소개했습니다.

NeurIPS 2025에서 다뤄진 AI 가드레일 연구 흐름을 정책 코드화, 멀티모달 안전성, 프롬프트 인젝션 방어 관점에서 정리했습니다. 실서비스에서 안전성과 사용성을 함께 만족시키는 방향으로 가드레일이 진화하고 있음을 설명했습니다.

엔터프라이즈 LLM 서비스에서 파인 튜닝, 청킹, 복잡한 워크플로를 덜어내고 단순한 구조를 선택한 사례를 다뤘습니다. 문서 참조, 검색 후 자르기, ReAct 조합으로 응답률을 높인 운영 경험을 공유했습니다.


에이전틱 AI의 구조와 동작 방식을 OpenClaw와 MoltBook 사례로 설명했습니다. 자율성이 커질수록 보안 통제와 거버넌스가 중요하다는 점을 짚었습니다.

AI 코딩 에이전트를 통제와 자율의 균형 속에서 다루는 MoAI-ADK 개발기를 소개했습니다. TDD와 스펙 주도 개발로 환각, 컨텍스트 손실, 코드 품질 문제를 줄이는 방법을 다뤘습니다.

메리츠증권은 규제 준수와 성능을 함께 만족하는 AWS 기반 차세대 증권 플랫폼을 설계했습니다. EKS, MSK, ElastiCache, OpenSearch, Flink와 오픈소스 도구를 결합해 실시간 처리와 운영 자동화를 강화했습니다.


Astronomer Agents는 Airflow API와 로그를 활용해 Dag 개발, 테스트, 디버깅을 돕는 AI 도구입니다. 또한 마이그레이션과 데이터 분석까지 지원해 운영 효율을 높였습니다.


업스테이지 컨소시엄이 정부 독자 AI 모델 1차수 평가를 통과한 과정을 소개했습니다. 래블업과의 협업으로 인프라를 최적화하고 학습 효율과 장애 대응을 크게 개선했습니다.