AI가 내 프롬프트를 흘려듣는 이유: 원리부터 다시 본 컨텍스트 엔지니어링
AI가 규칙을 자꾸 어기던 문제를 계기로, 프롬프트보다 컨텍스트 엔지니어링과 하네스 설계가 중요하다는 점을 정리했습니다. 최신 모델에는 절차를 늘리기보다 성공 기준과 검증 규칙을 명확히 주는 방식이 더 잘 맞았습니다.
#LLM#prompt#MCP
1600
AI가 내 프롬프트를 흘려듣는 이유: 원리부터 다시 본 컨텍스트 엔지니어링
태그
Attention 기술 블로그 글
Attention 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
전체 7개최신 7개 표시
관련 태그
최신 게시글
7개 표시
Attention 메커니즘: 개념과 활용
Attention 메커니즘의 개념과 필요성을 설명하고, Q/K/V 기반 작동 흐름을 정리했습니다. 또한 PyTorch와 TensorFlow 예제로 실제 구현 방법을 보여주었습니다.
#Attention#Transformer#ML
9500
백엔드 개발자의 시선으로 풀어본 LLM 내부 동작 원리: 6단계로 쉽게 이해하기
LLM이 입력을 받아 답변을 생성하기까지의 내부 동작을 6단계로 나눠 쉽게 설명했습니다. 백엔드 개발자가 프롬프트와 활용 방식을 이해하는 데 필요한 핵심 흐름을 정리했습니다.
#LLM#자연어처리#Transformer
33900
예제의 택스트까지 학습해 정오답예측 정확도 높인 모델 ‘EERNN’
문제 텍스트를 임베딩해 학습자의 정오답을 예측하는 EERNN 구조를 소개했습니다. Attention 기반 과거 문제 연관성 활용과 실험 결과를 분석했습니다.
#EERNN#지식 추적#Word2Vec
1300
Transformer를 이용해 대량의 게임 데이터를 임베딩 해보자!
게임 행동 로그를 Transformer-Autoencoder로 임베딩해 긴 시퀀스 처리와 GPU 학습 효율을 개선했습니다. 부정사용자 탐지에서 LSTM 기반 임베딩보다 높은 F1 Score를 확인했습니다.
#Transformer#Autoencoder#임베딩
3800
꼼꼼하고 이해하기 쉬운 Reformer 리뷰
Reformer는 LSH Attention, Reversible Network, 청크 처리로 Transformer의 긴 입력 메모리 문제를 완화했습니다.\n실험을 통해 성능 저하를 작게 유지하며 Attention 복잡도를 선형 수준으로 개선했음을 살펴봤습니다.
#Transformer#Reformer#LSH
000
핑퐁팀 ML 세미나, 그 두 번째
핑퐁팀이 Question Answering을 주제로 진행한 ML 세미나 발표 자료를 모았습니다. Attention 설계와 외부 지식 통합을 통한 챗봇 응답 고도화 방향을 다룹니다.
#ML#NLP#질의응답
000
