Explainable AI（説明可能なAI）とは？

01 / UNDERSTAND

仕組みと使いどころ

NISTは説明可能性を、AIシステムの動作を支える仕組みの表現としている。これとは別に、解釈可能性は、設計された機能上の目的に照らして出力の意味を捉えられることを指す。両者は、利用者や運用・監督担当者がシステムの機能や出力を理解する助けとなる。説明可能なシステムは、デバッグ、監視、文書化、監査、ガバナンスを行いやすい。ただし、説明可能性だけで正確性、安全性、プライバシー、公平性などが保証されるわけではなく、利用状況に応じて信頼性に関する複数の特性を考慮する必要がある。

02 / IN PRACTICE

Explainable AIの活用例

03 / GOOD TO KNOW

使うときのポイント

説明を受ける人の役割、知識、技能を明確にし、その人がシステムの仕組みや出力を理解できる内容に調整する。