いつもお世話になっております。株式会社ヒロファーマコンサルティング® 集です。
さて、AI-PVを適用した場合に、規制当局からはどのような説明を求められるのでしょうか？
今回は、この点について HPCとしての考え方を示した LinKedInのシーズ投稿からの抜粋をお知らせします。
HPC新シリーズ AI-PV｜第4話：「監査でAIの説明を求められたら、何を示せばいい？」
「人が確認しているから大丈夫」と、本当に言い切れる？
監査でAIの説明を求められたら、何を示せばいい？
監査や査察で、
- 「このPV業務にAIは使用されていますか」
- 「AIはどの判断に関与しましたか」
- 「その出力を信頼できる根拠は何ですか」
と問われた場合、皆さまの組織では、すぐに説明できるでしょうか。
AIの透明性というと、モデル内部の複雑な計算ロジックをすべて説明することだと思われがちです。
しかし、PV部門にまず必要なのは、AIをどのように使用し、どの範囲を人間が管理し、どのような結果が得られているかを、再構成可能な形で説明することです。
少なくとも、次の情報は整理しておく必要があります。
1. AIを使用している業務と使用目的
2. AIが関与する判断と、関与しない判断
3. 使用したモデル、バージョン、設定、プロンプト又はルール
4. 稼働前に実施した性能評価と合否基準
5. 既知の限界、使用禁止条件、代表的なエラー
6. Human Oversight, HITL/ HOTLの役割と確認記録
7. 本番稼働後の性能監視結果
8. モデル、データ、設定、業務手順の変更履歴
9. ベンダーとMAHの責任分界
10. 問題発生時の是正、停止、エスカレーション方法
重要なのは、AIの内部を完全に説明できると主張することではありません。
組織として、AIをどこに、なぜ、どの条件で使い、どのように管理しているかを説明できることです。
さらに、個別のケースや処理結果について、
・どのAIバージョンが使われたか
・AIが何を出力したか
・人間が何を確認・修正したか
・最終判断を誰が行ったか
を追跡できなければ、説明責任を果たすことは難しくなります。
透明性は、きれいな説明資料を一度だけ作ることではありません。
日々の運用の中で証拠が自動的又は体系的に残るよう、ログ、記録、変更管理を設計することです。
説明責任は、監査の直前に作る文書ではなく、運用中に蓄積される証拠によって支えられます。
次回は、「一度バリデートしたAIを、いつまで信じていいのか？」
を取り上げます。
皆さまの組織では、AIが関与したPV処理を後から再構成できる記録が残っていますか？
※本投稿はHPCの実務的見解であり、規制当局、CIOMS、ISPEその他の機関の公式見解を示すものではありません。
#Pharmacovigilance #AIPV #AI #GVP #ContextOfUse #IntendedUse #RiskBasedApproach #PatientSafety #PV
AI導入時の管理モデル設計にお悩みの企業様は、ぜひお気軽にお問い合わせください。
