![[VitalCare] #3 해석가능한 의료 인공지능 모델](https://miro.medium.com/v2/resize:fit:1200/1*nr62Quofp_31IgXqs0R5HA.png)
AI
[VitalCare] #3 해석가능한 의료 인공지능 모델
두줄요약
의료 인공지능에서 예측 근거와 임상적 타당성을 함께 제공해야 하는 이유를 설명했습니다.\nVitalCare의 Attention·GNN 기반 해석 기능과 멀티모달 모델 발전 방향을 소개합니다.
핵심 내용
- 고성능 딥러닝의 블랙박스 의사결정 과정을 설명하는 해석가능한 인공지능(XAI)
- 의료 판단의 환자 치료 연계성과 임상적 타당성으로 인한 설명 근거의 중요성
- Feature Importance, SHAP, GRAD-CAM, LRP, Attention 기반 해석 방법
구조와 흐름
- 입력 Feature별 Attention Score 기반 중요도 시각화
- Time Sequence별 Attention Score를 통한 예측 영향 시점 표시
- GNN의 노드·엣지 관계를 활용한 입력 Feature와 예측 결과의 상관관계 시각화
주의할 점
- 입력값과 예측값의 관계 설명만으로는 실제 의료진의 종합적 판단 과정 반영 한계
- 모델 해석 결과의 임상적 의미와 의료진 판단 보조 지표로서의 활용 필요
적용해볼 점
- EMR·이미지·환자 기록지를 통합하는 Multimodal 모델 연구
- 데이터 간 중요도와 결과 상관성 분석, 치료 후 예후 예측 및 치료 가이드 추천 지향