Velopers
모든 블로그
교보DTS

교보DTS

도메인blog.kyobodts.co.kr
주요 카테고리 AI · DevOps

활동 요약

대표 인기 포스트AI 에이전트를 안전하게 움직이게 하는 설계도, ‘하네스 엔지니어링(Harness Engineering)’191 조회
최근 30일
2개
평균 조회
67
누적 조회
3,734
전체 글
56개
마지막 발행
2026. 11. 12.
블로그 방문

교보DTS 기술 블로그 글 (56)

AI

LLM은 꼭 한 토큰씩 답해야 할까

확산형 언어모델의 병렬 토큰 예측·반복 정제 방식과 블록 생성, 토큰 편집을 설명했습니다. 도입 시 TPS뿐 아니라 첫 응답 지연, 품질, 비용을 같은 조건에서 비교해야 합니다.

#LLM#Gemini#RAG
1900

AI

AI가 97% 확신한다면, 서버를 격리해도 될까?

AI 확률은 실행 권한이 아닌 판단 신호로 다뤄야 함을 설명했습니다. AWS에서 검증·정책 게이트·사람 승인·감사 기록을 분리하는 설계를 제안합니다.

#AWS#Security Hub#Step Functions
1600

데브옵스

장애 대응보다 중요한 장애 복구 설계 — RTO/RPO를 현실적으로 잡는 법

장애 대응과 별개로 복구 설계를 사전에 준비해야 한다는 점을 RTO/RPO로 설명했습니다. 워크로드 티어링과 DR 전략 선택, 정기적인 복구 테스트의 필요성을 정리했습니다.

#AWS#DR#RTO
3900

AI

AI 모델의 성능, 우리는 제대로 평가하고 있을까?

AI 벤치마크는 학습 데이터 오염으로 인해 점수 신뢰성이 흔들릴 수 있다고 설명했습니다. 이를 해결하기 위해 Secure Enclave 기반의 Double-Blind Evaluation 방식과 시범 적용 사례를 소개했습니다.

#LLM#ML#benchmark
4300

데브옵스

AI 시대, 클라우드 엔지니어에게 더 중요해지는 역량

생성형 AI는 클라우드 엔지니어의 업무를 빠르게 만들지만, 요구사항 해석과 트레이드오프 판단은 여전히 중요합니다. AI가 제시한 아키텍처와 코드를 검증하는 기본기와 시스템 전체를 보는 시야가 더 중요해졌습니다.

#AWS#Terraform#Kubernetes
4700

AI

LLM은 왜 Graph DB를 필요로 할까?

LLM은 문서 유사성뿐 아니라 데이터 간 관계를 함께 활용할 때 더 유용해졌습니다. Graph DB는 이런 관계 정보를 제공해 GraphRAG와 AI Agent의 탐색 범위를 넓혀줬습니다.

#LLM#Graph DB#RAG
9500

데브옵스

SSL/TLS 인증서 유효기간 단축, 우리의 대응 전략

SSL/TLS 인증서 유효기간이 계속 단축되는 흐름과 그에 따른 운영 리스크를 정리했습니다. 자동화와 모니터링을 중심으로 한 대응 전략도 함께 제시했습니다.

#SSL/TLS#cloud#Kubernetes
2300

AI

시그니처를 넘어 행위 기반으로: 지능형 변형 공격을 막는 다층 보안 아키텍처

생성형 AI 기반 변형 공격이 기존 시그니처 방어를 빠르게 우회하는 한계를 짚었습니다. 정상 행위를 학습하는 이상 탐지와 WAF의 다층 방어 체계가 대안으로 제시되었습니다.

#LLM#WAF#MSA
1300

AI

AI 에이전트를 안전하게 움직이게 하는 설계도, ‘하네스 엔지니어링(Harness Engineering)’

AI 에이전트가 실제 업무에서 안전하고 일관되게 일하도록 돕는 하네스 엔지니어링을 설명했습니다. 프롬프트를 넘어 규칙, 도구, 검증, 관측 체계를 설계하는 방법을 정리했습니다.

#LLM#prompt#test
19100

데브옵스

[Hands-On] AWS DevOps Agent를 활용한 CI/CD 파이프라인 자율 운영하기

AWS DevOps Agent로 CI/CD 배포 이벤트와 운영 데이터를 연동해 자동 조사를 구성하는 방법을 소개했습니다. 배포 후 오류 발생 시 근본 원인을 빠르게 찾고 예방 권장사항까지 얻는 흐름을 설명했습니다.

#AWS#CI/CD#GitHub
10700

아키텍처

[Hands-On] AWS IoT Core를 활용한 확장 가능한 IoT 아키텍처 설계

AWS IoT Core로 가상 디바이스 연결, MQTT 통신, 디바이스 섀도우 제어, 데이터 라우팅까지 실습했습니다. 또한 Kinesis, Lambda, DynamoDB, API Gateway를 연결해 확장 가능한 IoT 흐름을 구성했습니다.

#AWS IoT Core#MQTT#Kinesis
6400

AI

LLM의 환각을 잠재울 지식의 지도, ‘온톨로지(Ontology)’

온톨로지를 LLM 환각 완화용 지식 구조로 설명하고 RAG와의 차이를 정리했습니다. Graph RAG와 AWS 서비스 조합으로 하이브리드 활용 방안도 소개했습니다.

#LLM#RAG#온톨로지
16500

데브옵스

EKS Application 로그를 Amazon Bedrock으로 자동 요약하는 시스템 구축하기

EKS 애플리케이션 로그를 Athena와 Amazon Bedrock으로 자동 분석하는 파이프라인을 구축했습니다. 수작업 로그 분석을 줄이고 장애 원인과 패턴을 빠르게 파악하도록 구성했습니다.

#AWS#EKS#Athena
6000

AI

RAG 기반 AI 서비스의 신뢰성을 확보하는 방법: 자동화 평가 체계 및 운영 최적화

RAG 서비스의 신뢰성을 높이기 위해 RAGAS와 LLM-as-a-Judge 기반 자동 평가 체계를 소개했습니다. 또한 시맨틱 캐싱과 가드레일을 활용한 운영 최적화 방안도 함께 제시했습니다.

#RAG#LLM#Redis
7600

AI

피지컬 AI(Physical AI) – AI가 드디어 현실 세계로 나오다

피지컬 AI가 현실 세계에서 인식·판단·행동하는 차세대 패러다임으로 소개되었습니다. 휴머노이드, 자율주행, 스마트 팩토리 등 적용 분야와 함께 안전성·윤리 과제도 짚었습니다.

#LLM#로봇#자율주행
8700

AI

[Deep Dive] 고도화된 AI 에이전트 아키텍처: Zero Trust와 Human-in-the-Loop의 결합

업무를 수행하는 AI 에이전트의 보안 아키텍처를 AWS 기준으로 정리했습니다. 네트워크 격리, 권한 통제, 사람 승인, 감사 추적을 결합해 안전성을 높이는 방법을 설명했습니다.

#AWS#LLM#RAG
7500

아키텍처

Prompt Engineering 이후의 시대 : 프롬프트 중심 설계는 왜 한계에 도달했고, 무엇이 그것을 대체하는가

프롬프트 중심 설계가 왜 한계에 도달했는지 설명하고, 의도·정책·관측 기반 아키텍처로의 전환을 제안했습니다. 프롬프트는 주인공이 아니라 시스템이 생성하는 결과물로 다뤄야 한다고 강조했습니다.

#LLM#prompt#관측
11400

AI

Agentic AI: 판단을 돕는 새로운 AI 활용 방식 – AI는 어떻게 도구를 활용하는가

Agentic AI는 도구를 많이 연결하는 것보다 역할과 흐름을 잘 설계하는 것이 중요했습니다. LLM, Tool, 사람의 책임을 분리한 통제된 Workflow가 효율과 안정성을 높였습니다.

#LLM#Agentic AI#Tool
7300