Core Concepts
XAIツールをJupyterノートブック環境に組み込むことで、モデル開発プロセスの文脈でモデルの説明を提示し、ユーザーの入力を迅速に取り入れることができる。
Abstract
本論文では、JupyterLabにXAIシステムを組み込むための3つのデザインパターンを提案している。
Python からJavaScriptへの一方向通信
ユーザーの操作がPythonカーネルに反映されない静的なXAIシステム
データ探索や理解のためのツールとして有用
データ/状態の双方向同期
ユーザーの操作がPythonカーネルに反映され、後続のノートブックセルで利用可能
ドメイン専門家や最終ユーザーの知見を取り入れるための協調的なワークフローに適している
双方向コールバック
ユーザーの操作がPythonカーネルのデータ処理やモデル推論を自動的に実行
ユーザーがモデル開発に直接関与できる人間中心のAIアプローチを実現
これらのデザインパターンを実装したオープンソースツールキット「bonXAI」も提供している。ノートブック環境でのXAIシステムの統合と活用を支援するための指針と実装例を示している。