XAI(eXplainable Artificial Intelligence) ΰ Ǵ ϴ о߷, ΰ ȮǸ鼭 ʿ伺 Բ ϰ ֽϴ. ̰ ˰ ΰ Ǵ ϴ ڽ ΰɰ ݴǴ Դϴ. XAI ΰ Ȯ ǻ ؼ ΰɿ ŷڼ ݴϴ.
å ӽŷ ִ XAI ֽ ִ XAI ϵ ֽϴ. XAI ΰ ǻ ϴ ̱ ̷лӸ ƴ϶ ߿մϴ. å XAI ٷ ʾҴ ڵ带 Բ ߽ϴ. ̷ нϰ ش ̷п ϴ ڵ带 ϸ鼭 ġ ̵ XAI ؼ Ȯ ֽϴ.
å ٷ
ó ߿䵵
κ ÷
XGBoost
LIME(Local Interpretable Model-agnostic Explanations)
SHAP(SHapley Additive exPlanations)
ðȭ
ռ Ű(CNN)
LRP(Layer-wise Relevance Propagation)
м 1: ſ м ϰ ϱ
м 2: м ϰ ϱ
01: ̾߱⸦
1.1. ٸ(DARPA) Ʈ
1.2. XAI (2016-2021)
1.3. XAI ϱ
___1.3.1. ӽŷ ̷ ϱ
___1.3.2. ϱ
1.4. xgboost XAI XAI?
1.5. λ
02: ǽȯ
2.1. ̽ ġ
2.2. PIP ġ
2.3. ټ÷ ġ
2.4. Ʈ
2.4.1. Tensorflow-GPU ġ Ȯ
03: XAI غ
3.1. ӽŷ
3.2. ڽ 鿩ٺ
3.3. ðȭ XAI ϱ
04: ǻ Ʈ
4.1. ǻ Ʈ ðȭ
4.2. ó ߿䵵 ϱ
4.3. κ ÷(PDP)
4.4. XGBoost Ȱϱ
___4.4.1. XGBoost
___4.4.2. XGBoost ƴϴ
___4.4.3. ⺻
___4.4.4. Ķ
___4.4.5. ۰
4.5. ǽ 1: Ǹ ε 索
___4.5.1. нϱ
___4.5.2. ϱ
___4.5.3. Ʃϱ
___4.5.4. ġ
05: 븮 м
5.1. 븮 м
___5.1.1. ۷ι 븮 м
___5.1.2. 븮 м(Local Surrogate)
5.2. LIME
___5.2.1. LIME ˰, ϱ
___5.2.2. ̷
___5.2.3. ǽ 2: ؽƮ Ϳ LIME ϱ
___5.2.4. ǽ 3: ̹ Ϳ LIME ϱ
___5.2.5. ġ
5.3. SHAP (SHapley Additive exPlanations)
___5.3.1. ̷
___5.3.2. ǽ 4: ŸƮ ø ϱ
___5.3.3. ǽ 5: ϱ
___5.3.4. ġ
06: ðȭ(Filter Visualization)
6.1. ̹ ðȭ
6.2. ϱ
___6.2.1. ռ Ű
6.3. ռ Ű ϱ
6.4. ǽ 6: ռ Ű ðȭϱ
___6.4.1. Է° ðȭϰ ϱ
___6.4.2. ðȭ
6.5. ġ
07: LRP(Layer-wise Relevance Propagation)
7.1. ̷
___7.1.1. (Decomposition)
___7.1.2. Ÿ缺
7.2. ǽ 7: ռ Ű
___7.2.1. ռ Ű нϱ
___7.2.2. ռ Ű κ ϱ
___7.2.3. ռ Ű LRP ϱ
___7.3. LRP XAI
7.4. ġ
08: м 1: ǻ Ʈ XAI
8.1. ſ м ΰ
___8.1.1.
___8.1.2. Į
___8.1.3. ҷ
___8.1.4. нϱ
8.2. XAI ϱ
8.3. XAI ľϱ
8.4. XAI ٰ ϱ
09: м 2: LRP XAI
9.1. м
___9.1.1.
___9.1.2. Į
___9.1.3. ҷ
___9.1.4. нϱ
9.2. XAI ϱ
9.3. XAI ΰ ϱ
9.4.
10: ̾߱⸦
10.1. 湰 ã
10.2. XAI
10.3. XAI ̷
11: ڷ
11.1. XAI ǽ ̺귯 ġϱ
___11.1.1. ̽