논문 소개

• XAI 기술들을 framework와 해부학적 위치를 기준으로 조사, 분류함.

Introduction

• EU의 General Data Protection Regulation (GDPR)은 ‘환자가 결론이 내려진 과정을 이해할 권리’를 요구함.
• 2020 10월까지의 논문을 포함함.
• 개요
  • Section 2 - XAI taxonomy와 XAI 기술 framework를 정의, 분류함.
  • Section 3 - XAI framework에 따라 분류.
  • Section 4
  • Section 5

XAI framework

• XAI 기술 분류
  • model-based vs post hoc
  • model specific vs model agnostic
  • global vs local (scope of the explanation)

Model-based vs post hoc explanation

Model-based

• 기존 머신러닝 기법에서는 설명 가능성을 위해 sparsity나 simulatability를 강제하였으나 딥러닝에서는 불가능함.

Post-hoc explanation

• Model-based는 우선 model을 학습시킨 후 행동을 설명하려고 하지만, post-hoc는 처음부터 설명 가능한 model을 만들고자 한다.
• 방법론에는 feature importance, interaction of features, 학습된 feature 조사, saliency map 확인

Model-specific vs Model agnostic explanation

Model-specific

• Model-specific이나 model-based는 아닐 수 있음.