人工知能安全性特論

1年

2026年度前期

2単位

秋川　元宏

(授業の目的)
本講義では、人工知能の安全で信頼可能な利用を実現するために重要となる「解釈可能性」および「説明可能性」に関する基本的な考え方と代表的手法を理解することを目的とする。

(授業の到達目標)
到達目標1：解釈可能AIおよび説明可能AIの基礎概念を説明することができる
到達目標2：解釈可能AIおよび説明可能AIの代表的な手法の考え方、適用上の利点と限界について説明することができる
到達目標3：解釈可能AIおよび説明可能AIに関する専門書や論文を読み、最新の情報を取得することができる

基本的な知識取得のため、座学と演習を用いた講義を前半回で行う。後半回では、学生と教員が相談し決定した技術書または論文を学生が読み、内容を発表する演習を実施することで、最新の知識を学生自らが学修する力を身につけることを目指す。

(授業計画)
第1回　AIの普及と新たな要求(座学・演習)
第2回　AIの公平性・説明責任・透明性(座学・演習)
第3回　業務におけるAIの説明の必要性(座学・演習)
第4回　説明可能AIの動向(座学・演習)
第5回　大局説明と局所説明(座学・演習)
第6回　モデル依存性(座学・演習)
第7回　説明可能AIの活用方法(座学・演習)
第8回　ホワイトボックスモデル(座学・演習)
第9回　顕著性マップ(座学・演習)
第10回　モデルの表現と解釈(座学・演習)
第11回　公平性とバイアス(座学・演習)
第12回　解釈可能AIの活用方法(座学・演習)
第13回　技術書または論文選定(演習)
第14回　プレゼンテーション作成(演習)
第15回　プレゼンテーション発表(演習)

(授業の方法)
専門的な内容であるため、発表対象となる技術書または論文以外にも書籍、論文、Webページを調べる必要があります。
資料を読みを進める上で発生した問題、疑問については、教員に質問することで適切なアドバイスや説明を得ることができます。
ただし、学生自身による調査による解決を理想とします。

各自が選んだ技術書または論文
座学における講義資料(スライド)は配布します。

(事前学修)
前半回は授業資料を確認し、学修内容の把握をしてください
後半回はプレゼンテーションに間に合うように各自指定資料のしっかり読むこと、および関連事項の調査、資料作成を行なってください。

(事後学修)
前半回は、講義資料を見直し、内容をしっかり理解するようにしてください。
後半回は、プレゼンテーションでの理解の甘かった場所の調査を再び行う、またプレゼンテーションの良かった点、悪かった点を検討してください。

(成績評価の方法)
課題提出(100%)
課題にはプレゼンテーションの作成及び発表も含まれます。

(成績評価の基準)
到達目標1：解釈可能AIおよび説明可能AIの基礎概念を説明することができる
到達目標2：解釈可能AIおよび説明可能AIの代表的な手法の考え方、適用上の利点と限界について説明することができる
到達目標3：解釈可能AIおよび説明可能AIに関する専門書や論文を読み、最新の情報を取得することができる