๐ SHAP ์ด๋?
SHAP (SHapley Additive exPlanations) ์ ๊ธฐ๊ณํ์ต ๋ชจ๋ธ์ ์์ธก์ ์ค๋ช
ํ๊ธฐ ์ํ ๋ฐฉ๋ฒ์ด์์.
- Shapley Value (๊ฒ์ ์ด๋ก ) ๊ธฐ๋ฐ: ๊ฐ feature๊ฐ ์์ธก์ ์ผ๋ง๋ ๊ธฐ์ฌํ๋์ง๋ฅผ ๊ณต์ ํ๊ฒ ๋๋ ๊ณ์ฐ
- Additive: ๋ชจ๋ feature์ ๊ธฐ์ฌ๋๋ฅผ ํฉ์น๋ฉด ์ต์ข
์์ธก๊ฐ์ด ๋จ
- Model-agnostic: ์ด๋ค ๋ชจ๋ธ์ด๋ (ํธ๋ฆฌ, ๋ฅ๋ฌ๋, ํ๊ท ๋ฑ) ์ ์ฉ ๊ฐ๋ฅ
๐ ์ฝ๊ฒ ๋งํด, โ์ด ๋ฐ์ดํฐ์์ ๋ชจ๋ธ์ด ์ด๋ฐ ์์ธก์ ๋ด๋ฆฐ ์ด์ ๋ฅผ feature๋ณ ๊ธฐ์ฌ๋๋ก ๋ณด์ฌ์ฃผ๋ ๋ฐฉ๋ฒโ ์
๋๋ค.