AI 모름, 진짜 모름 – 가난한 자의 AI 서비스 만들기 (Feat. llama-node )
Node.js와 llama-node로 로컬에서 동작하는 간단한 AI 텍스트 생성 서버를 구성했습니다. 복잡한 설정 없이 프롬프트 입력과 응답 생성을 빠르게 시험해볼 수 있습니다.
#JavaScript#node.js
3900
AI 기술 블로그 최신 글
필터 0
Gen AI를 활용한 리뷰 하이라이트
숙소 리뷰에서 핵심 정보만 뽑아 보여주기 위해 Gen AI 기반 리뷰 하이라이트를 구현했습니다.전처리와 프롬프트 개선, 사람의 검수를 거쳐 숙소별 TOP 키워드를 자동 추출했습니다.
#LLM#Azure OpenAI
3200
경량화 레시피: Teacher 지식 조린 소형 모델, 근데 성능을 곁들인
경량화 레시피: Teacher 지식 조린 소형 모델, 근데 성능을 곁들인
서비스용 LLM을 성능 저하 없이 소형화하는 경량화 레시피를 소개했습니다. 제목 추천과 키워드 추출 사례로 실무 적용 방식을 다뤘습니다.
#LLM#model
1700
복슬은퇴 계산기 사용 방법
은퇴 계산기를 통해 현재 자산과 지출, 수익률을 바탕으로 미래를 수치로 점검했습니다. 다만 물가와 수명 같은 변수가 많아 계산은 참고용에 가깝다고 정리했습니다.
#LLM#Cursor
6600
SMS 인증을 이용한 공격 증가, 머신러닝 기반 탐지 시스템으로 해결
SMS 인증을 이용한 공격 증가, 머신러닝 기반 탐지 시스템으로 해결
SMS 인증을 악용한 AIT 공격 증가와 그에 대한 머신러닝 기반 탐지 시스템 대응을 다뤘습니다. 서비스 비용 부담을 줄이기 위한 탐지 접근을 소개했습니다.
#SMS#ML
700
생성형 AI로 QA 업무 수행하기 : 똑똑한 소프트웨어 테스트의 시작
생성형 AI로 QA 업무 수행하기 : 똑똑한 소프트웨어 테스트의 시작
생성형 AI를 QA 업무에 적용해 요구 사항 분석과 테스트 케이스 작성, 결함 분석의 효율을 높이는 방법을 소개했습니다. 다만 복합 케이스와 최종 검증은 수작업 보완이 필요하다고 정리했습니다.
#LLM#ChatGPT
7100
![[에이닷 미디어 에이전트] 대화형 콘텐츠 탐색은 어디까지 왔을까](https://devocean.sk.com/thumnail/2024/10/31/3ae82ea55358fe590deb04dd7f3fc5c5017c61a18a2863712d1a416ac10aa6a3.jpg)
[에이닷 미디어 에이전트] 대화형 콘텐츠 탐색은 어디까지 왔을까
에이닷 미디어 에이전트의 대화형 콘텐츠 탐색 구조와 핵심 기술을 설명했습니다. LLM, RAG, 선제 추천을 활용해 개인화된 검색 경험을 강화했습니다.
#LLM#RAG
2600
카카오뱅크가 회고하는 if(kakaoAI)2024 ☕️
카카오뱅크가 회고하는 if(kakaoAI)2024 ☕️
카카오뱅크가 if(kakaoAI)2024에서 LLM 평가·스미싱 탐지·XAI 적용 사례를 공유했습니다. 금융 규제를 고려한 DevOps와 온프레미스 Kubernetes 운영 경험도 소개했습니다.
#컨퍼런스#LLM
3100
고등학생도 이해하는 Transformer (Deep Learning) #2
Transformer와 딥러닝을 이해하기 위한 기초로 내적의 의미를 그래픽스 예시로 설명했습니다. 회전 행렬과 Basis Vector 변환을 통해 좌표 변환을 직관적으로 풀어냈습니다.
#Transformer#ML
2400
에이닷 뮤직 에이전트 Multi Prompt Fine-tuning 도전기 (feat. gpt-4o-mini)
에이닷 뮤직 에이전트에 Multi Prompt Fine-tuning을 적용하며 겪은 시행착오와 개선 과정을 공유했습니다. gpt-4o-mini 전환으로 한글 깨짐과 품질 문제가 크게 완화된 사례였습니다.
#LLM#Fine-tuning
2300
LLM 품질 테스팅 시작하기
LLM과 sLLM의 자체 품질 평가 필요성을 정리하고, 리더보드 사례와 함께 LLM을 활용한 평가 프로세스를 설계한 글입니다. 프롬프트 일관성과 평가 기준 관리 같은 운영 과제도 함께 다뤘습니다.
#LLM#품질 평가
3300
구글 머신러닝 부트캠프 2024를 마무리하며
구글 머신러닝 부트캠프 2024 5기 졸업식과 함께 참가자들의 성과가 공유되었습니다. DLS, 캐글, 젬마 프로젝트를 통해 학습과 협업의 경험을 쌓았습니다.
#ML#LLM
1600
MNO Performance 마케팅용 최적 요금제 선택을 위한 하이브리드 ML 모델링
통신사 마케팅을 위해 요금제 변경 예측과 추천을 결합한 하이브리드 ML 모델을 소개했습니다. ARPU와 고객 만족도의 균형을 고려해 다운그레이드 방어와 업셀 전략에 활용했습니다.
#ML#XGBoost
3300
AI 산업에 필요한 HBM의 특징과 사용하는 이유
HBM의 구조와 원리를 통해 왜 AI 산업에서 고대역폭 메모리가 중요한지 설명했습니다. DRAM과 비교하며 속도, 대역폭, 용량 측면의 장점을 정리했습니다.
#DRAM#HBM
2700