説明可能なAI (XAI)

説明可能なAI（XAI: Explainable AI）とは、AI（特にディープラーニングなどの中身が見えにくい「ブラックボックス型」AI）が、なぜそのような答えを出したのか、その「推論の根拠」や「判断プロセス」を人間が理解できるように説明する技術のことです。

なぜXAIが必要なのか

AIが医療診断や自動運転、融資の審査など、人命や人生に関わる重要な判断を行うようになるにつれ、「なぜその診断なのか？」「なぜ審査に落ちたのか？」という説明責任（アカウンタビリティ）が求められるようになりました。理由がわからなければ、医師はAIの診断を信じて手術を決断できず、ユーザーはAIサービスを安心して利用できません。

XAIのアプローチ

• 重要度の可視化: 画像のどの部分に注目して「猫」と判断したのかをヒートマップで表示する。
• 決定木の抽出: 複雑なモデルを、人間が理解しやすい「もしAならB」といったルールの形に近似して説明する。

信頼されるAIへ

XAIは、AIの信頼性を高め、社会実装を加速させるための鍵となる技術（ELSIの観点からも重要）です。