LLM 기반 Chat application framework ＇Aide＇ 개발기
LLM 기반 대화형 애플리케이션을 위한 자체 프레임워크 Aide 개발 과정을 소개했습니다. 멀티턴 대화와 Workflow 추상화로 복잡성을 줄이고 확장성을 높인 점을 정리했습니다.
#LLM#OpenAI API
2200
AI 기술 블로그 최신 글
필터 0
Responsible AI
Responsible AI의 개념과 핵심 원칙을 정리하고, ISO 42001과 주요 테크 기업의 적용 사례를 소개했습니다. AI의 윤리성과 투명성을 높이기 위한 관리 체계의 중요성을 설명했습니다.
#LLM#ISO 42001
2600
Uplift Modeling을 통한 마케팅 비용 최적화 (with Multiple Treatments)
마케팅 비용 최적화를 uplift modeling과 multiple treatments 관점에서 다룬 사례를 정리했습니다. 랜덤화 데이터 수집부터 DML 추정, AUUC 평가, CPA 검증까지의 실무 흐름을 설명했습니다.
#uplift modeling#causal inference
4600
아직도 포탈에서 검색?(LLM 검색 서비스를 알려드립니다. feat. 에이닷)
LLM 발전으로 검색 서비스가 어떻게 바뀌고 있는지 주요 서비스 사례를 중심으로 정리했습니다. 에이닷 멀티 LLM 에이전트에서 Perplexity와 다른 모델을 함께 쓰는 방식도 소개했습니다.
#LLM#검색
4000
네이버 지도 내비게이션, 꽃길만 가자 — 좁은 길 탐지 모델
네이버 지도 내비게이션 품질 향상을 위해 좁은 도로 탐지 모델을 개선한 사례를 소개했습니다. 수치지형도와 거리뷰 이미지를 활용해 더 정확한 도로 너비 판별 방식을 적용했습니다.
#ML#computer vision
3200
프롬프트 엔지니어링이란? 부제 : ‘2024 서울 프롬프톤’ 대회 참가
프롬프트 엔지니어링의 개념과 구성 요소, 작성 순서, 대표 기법을 정리했습니다. 공공문서 자동화 사례를 통해 실무 적용 가능성도 함께 살펴봤습니다.
#prompt#자동화
4200
삼성 리서치와 Team Atlanta, 사이버 추론 시스템으로 DARPA AIxCC에서 호평
삼성 리서치와 Team Atlanta, 사이버 추론 시스템으로 DARPA AIxCC에서 호평
삼성 리서치와 Team Atlanta가 DARPA AIxCC에 참가해 생성형 AI 기반 사이버 추론 시스템을 다뤘습니다. 본문은 오류 화면 때문에 상세 내용 확인이 어려웠습니다.
#LLM#보안
700
생성형 AI를 다루는 기술에 대하여
생성형 AI를 다루기 위한 LLM 원리와 프롬프트 엔지니어링의 핵심을 정리했습니다. 랭체인, RAG, ReAct 같은 확장 방법으로 더 지능적인 애플리케이션을 만드는 방향도 소개했습니다.
#LLM#prompt engineering
4400
에이닷, 주변 맛집 추천해줘!
에이닷 홈 에이전트에 function call을 도입해 음식점·카페 추천 기능을 강화한 사례를 다뤘습니다. 사용자 발화와 실시간 API를 연결해 맥락 기반 추천을 제공하기 위해 프롬프팅과 fine-tuning을 반복했습니다.
#LLM#function call
2100
AI 개발을 위해 꼭 필요한 ‘GPU’란? 개념부터 서비스 추천까지 완벽 정리!
AI 개발을 위해 꼭 필요한 ‘GPU’란? 개념부터 서비스 추천까지 완벽 정리!
GPU의 기본 개념과 CPU와의 차이, AI에서 중요한 이유를 정리한 글입니다. GPU 서버를 효율적으로 쓰는 서버호스팅과 코로케이션 서비스도 함께 소개했습니다.
#GPU#ML
3400
에이닷 RAG 기능 개발을 위한 Qdrant 벡터 DB 구축 (from source tarball)
에이닷 RAG 기능을 위해 온프레미스 Qdrant VectorDB를 소스 컴파일 방식으로 구축한 과정을 소개했습니다. Rust 환경 준비부터 클러스터 구성과 Web UI 배포까지의 절차를 정리했습니다.
#RAG#Qdrant
3900
PQC로의 여정: 양자 컴퓨터 시대에 데이터 지키기
양자 컴퓨터가 RSA와 ECC 같은 기존 암호를 위협하는 이유와 PQC 전환의 필요성을 설명했습니다. 하이브리드 모드로 단계적 전환을 준비해야 한다는 점도 정리했습니다.
#PQC#양자 컴퓨팅
3900
안드로이드에서 On-Device로 Gemma 1 ＆ 2 실행하기
안드로이드에서 Gemma 1과 Gemma 2를 On-Device로 실행하는 방법을 정리했습니다. MediaPipe와 MLC LLM의 설정 절차, 모델 실행 방식, 장점도 함께 소개했습니다.
#Android#LLM
4600
이제는 AI Agent 시대! RAG와 함께 Bedrock Agent를 활용해보자 - 2 (실습)
Amazon Bedrock Agent와 RAG로 EKS 클러스터를 조회하고 Trivy CIS 보고서를 요약하는 실습을 다뤘습니다. 지식 기반, Action Group, Lambda, OpenSearch Serverless를 연결해 한국어 자연어로 운영 자동화를 구현했습니다.
#LLM#RAG
3600