AI
사내 AI 에이전트 개선기
두줄요약
사내 AI 에이전트 채널랩스를 OpenAI Agents SDK 기반으로 재설계하고, 컨텍스트 비용을 줄이는 구조를 정리했습니다. 파일·채널·스킬을 reference 중심으로 다루며 안전성과 예측 가능성을 높였습니다.
구조와 흐름
- 사내 AI 에이전트 채널랩스의 v1 단일 메시지 반복 구조를 OpenAI Agents SDK 기반 v2로 전환
- 세션, 런타임 컨텍스트, 도구 실행, 가드레일을 분리해 작업 실행 에이전트 구조를 정리
- 파일, 채널, 스킬 같은 외부 컨텍스트를 reference 중심으로 다루도록 설계
성능/운영 포인트
- system prompt와 tool output 누적으로 커지는 context 비용을 핵심 문제로 인식
- 파일은 lazy loading과 bounded read_file/search_file로 필요한 범위만 읽도록 개선
- 채널 목록과 스킬 문서는 최소 정보만 먼저 전달하고 필요 시 도구 조회로 제한
주의할 점
- tool output과 검색 결과를 신뢰 가능한 지시문이 아니라 외부 정보로 취급
- 검색된 채널과 실제 쓰기 대상 채널을 분리해 잘못된 수정 방지
- compaction보다 사전 budget control과 정확한 값 보존을 우선시
적용해볼 점
- API 응답과 모델용 도구 응답 스키마 분리
- 위험한 API 호출은 프롬프트가 아니라 런타임 정책으로 차단
- 멀티턴 에이전트에서는 사후 압축보다 컨텍스트 유입 자체를 줄이는 방식 검토