01 / UNDERSTAND
仕組みと使いどころ
説明可能性は、AIの動作を支える仕組みや、予測・推奨に影響した要因を説明するための考え方です。出力を用途の文脈で理解する「解釈可能性」とは区別されますが、両者は利用者や監督者がAIの機能と信頼性を把握するうえで相互に役立ちます。説明は、モデル全体、特定のデータ群、個別の判断を対象にできます。デバッグ、監視、文書化、監査、ガバナンスにも活用できます。一方、説明手法には複数の説明が成り立つ曖昧さや、攻撃などに対する頑健性の不足があり得ます。また、説明できることだけで精度、公平性、安全性、プライバシーが保証されるわけではありません。
02 / IN PRACTICE
Explainabilityの活用例
たとえば、こんな場面で
融資審査AIを導入する際、申請者ごとの結果に影響した入力要因を示し、担当者が判断理由を確認できるようにする活用が考えられます。開発者はモデル全体や特定の利用者群の傾向も調べ、偏りや異常の把握に役立てられます。
03 / GOOD TO KNOW
使うときのポイント
誰に何を説明するのかを明確にし、利用者の役割や知識に合わせて内容を調整します。説明結果を正解そのものとみなさず、精度、公平性、安全性などを別途確認し、必要な特性間のトレードオフも利用状況に即して判断します。
参考資料
AI Risks and Trustworthiness - AIRC （新しいタブで開きます）What is Explainable AI? - Explainable AI (XAI) Explained - AWS （新しいタブで開きます）What is Explainable AI (XAI)? | IBM （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。