01 / UNDERSTAND
仕組みと使いどころ
AIによる裁定では、証拠が結論を出すのに十分かを検討する作業にAIを利用します。失業保険裁定を対象とした研究では、情報が不足しているにもかかわらずAIが確信のある回答を出す傾向が課題とされました。同研究は、判断前に不足情報を明示的に特定する手順を設け、証拠が不十分な場合は判断を保留する方法を評価しています。裁定にAIを利用する際は、妥当性と信頼性に加え、透明性、説明可能性、公平性などを利用状況に応じて検討する必要があります。AIが人の判断を置き換えると決めつけず、追加の事実確認や人による監督につなげることが重要です。
02 / IN PRACTICE
AI adjudicationの活用例
たとえば、こんな場面で
失業保険の審査で、提出資料から確認済みの事実と不足している事実をAIに整理させます。結論に必要な証拠が不足している案件は判断を保留し、担当者が追加調査します。
03 / GOOD TO KNOW
使うときのポイント
評価時は、明確な案件の正確さだけでなく、情報不足を検出して適切に判断を保留できるかを確認します。出力の理由を確認できることと、人が介入できる手順も必要です。
参考資料
Learning When Not to Decide: A Framework for Overcoming Factual Presumptuousness in AI Adjudication （新しいタブで開きます）AI Risks and Trustworthiness - AIRC （新しいタブで開きます）NIST Asks A.I. to Explain Itself （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。