01 / UNDERSTAND
仕組みと使いどころ
解釈可能性は、モデルの構造、使用する特徴量、それらを組み合わせて出力を得る仕組みを理解するための考え方です。判断過程が比較的見えやすい決定木や線形回帰のほか、複雑なモデルに後から解釈手法を適用する方法があります。個別の予測を扱う局所的な解釈と、モデル全体の傾向を扱う大域的な解釈も区別されます。デバッグ、偏りの発見、監査や利用者への説明に役立ちますが、解釈可能性に普遍的な定義はありません。また、特徴量重要度などの結果は誤解を招く場合があり、モデルの正しさや公平性を自動的に保証するものではありません。
02 / IN PRACTICE
Interpretabilityの活用例
たとえば、こんな場面で
融資審査モデルについて、個別の判定に各入力項目がどのように影響したかを確認し、担当者が偏りや不自然な判断の兆候を調べる用途が考えられます。モデル全体の傾向を併せて確認する方法もあります。
03 / GOOD TO KNOW
使うときのポイント
特徴量重要度や寄与度だけを根拠に結論を出さず、その値が個別予測向けかモデル全体向けかを確認し、可能であれば分野の専門家による検証も行います。
参考資料
What Is AI Interpretability? | IBM （新しいタブで開きます）Overview - AWS Prescriptive Guidance （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。