ISPE: Machine Learning Risk and Control Framework：機械学習におけるリスクとコントロールのフレームワーク　（概要紹介）ISPE : Machine Learning Risk and Control Framework

お客さま各位

いつも大変お世話になっております。ヒロファーマコンサルティング　集（あつまる　ひろつぐ）です。

さて今回は、ISPE official MagazineのGAMP^® 特集号:　2024年1月- 2月号で発表されています

 「Machine Learning Risk and Control Framework：機械学習におけるリスクとコントロールのフレームワーク」 の概要をご紹介します。　　　　　

医療機器製品への Artificial Intelligence (AI) and Machine Learning (ML)の組込みは、日々進化・変革をしており、最近では ChatGPTに代表される「生成型AI」の急速な普及もあり、医療分野への適用事例も増えてきています。このような変化に対応するために、AI/MLへのリスクコントロールとバリデーションの考え方や検証についての方法論が活発に議論されてきています。

また、ISPEでは、2022年 7月には、GAMP 5®　2^nd Editionを発表しており、その中には初版では含まれていなかった、AI/MLに対する追加の Appendix D11 [Artificial intelligence and Machine Learning (AI/ML)]が規定されました。

さて、このような背景から、今回のISPEの特集では、以下の考え方を元にした「医療機器業界特有のAI/MLリスクと制御のフレームワーク　AI RAMMモデル」を提示しています。

今回のISPE発表の主旨まとめは以下になります。

———————————————————————————————————————————————————————————————————————————-

Pharmaceutical Engineering: The Official Magazine of ISPE

January/ February 2024| Volume 44, Number 1  GAMP®　特集:　2024年1月/2月

https://ispe.org/pharmaceutical-engineering/january-february-2024/machine-learning-risk-and-control-framework#footnote15_qw7qhcs

機械学習におけるリスクとコントロールのフレームワーク

Rolf Blumenthal, Nico Erdmann, PhD, Martin Heitmann, FRM, Anna-Liisa Lemettinen, Brandi M.Stockton

「ICH Q9 (R1) ガイドラインの品質リスク管理プロセスに基づいて、業界固有のMLリスクと制御のフレームワークを作成しました。これには、AI成熟度モデル、¹⁴ GAMP 5 ® Second Edition ¹⁰ 、AIガバナンス&QAフレームワーク、¹⁵、およびRAMM ¹⁶ という4つの主要な概念が活用されています。

AI RAMMモデルと呼ばれるものには、主に2つの利点があります。1つ目は、マルチレベル構造により、チームがAIアプリケーション固有のリスクとそのスコアリングに対処し、実装プロジェクト全体でリスク軽減を定義できることです。2つ目は、わかりやすいカラーコードを使用して重要な領域を視覚的に強調表示することです。これにより、自律性の向上や監査時のプレゼンテーションとして、さらに重要性が高まるリスクレビューが容易になります。

さらに、AI RAMMモデルは、さまざまなMLアプリケーション間でリスクを比較するツールを組織に提供するため、アイデア、プラクティス、批判的思考の概念の共有を促進します。このアプローチは、リスクに関するアクティブラーニングを促進し、効果的なリスクモニタリングを可能にします。私たちのダウンストリームプロセス最適化のユースケースでは、ICH Q9 (R1) ガイドラインに沿ってML関連のリスクの複雑さを処理する際のMLリスクとコントロールフレームワークの有効性を実証し、リスク監視を構造化して改善するための概念的なハザードクラスターを例示しています。

結論として、動的なオンライン学習とML運用モデルを扱う状況でも、AIアプリケーションの効果的かつ効率的なリスク管理を促進することで、業界の規制された領域でのAI使用の受け入れを強化することができます。最後に、最大の効果をもたらし、その後のリスク管理の反復にフィードバックを提供できるリスク軽減アクティビティの優先順位付けは、AIアプリケーションと関連プロセスの品質を向上させる可能性があります。」

           「AI-RAMM (Risk Severity Matrix)  : ISPE Features: January / February 2024　Machine Learning Risk and Control Framework　page-16 ]

            [AI Maturity: AI成熟度]

• • • レベルI : システムは生産プロセスと並行して使用される（Parallel AI）
    • レベルII : 非AIアプリケーション（Classical Non-AI）
    • レベルIII : ロック状態で使用されるアプリケーション（Piece-Wise Locked-State Learning AI）
    • レベルIV : 自律的な自己トリガー学習—人間はループ内にいるが、常に更新を制御する操作中の人間と組み合わせて使用される（Self-Triggered Learning AI, Human Operation Control/ Human Controlled Update）
    • レベルV : 自律的な自己トリガー学習—人間はループ内にいない;人間の制御は操作後のサンプリングのみに依存する（Self-Triggered Learning AI, Human Controlled Update/ Human Sampled Operation Control）
    • レベルVI : 完全に自律的—定義された目標または直接的なフィードバックループに向けて最適化する（Autonomous Learning AI）

[Risk Impact：リスクインパクト]

• • • 間接的な影響のみ (Indirect Impact to Product Quality and Data Integrity)
    • GxPプロセスに直接影響するが、患者の安全性には直接影響しない (Direct Impact to GxP Process with No Direct Impact to Patient Safety)
    • 薬剤の放出を介して患者の安全性に直接影響する (Direct Impact to Patient Safety with Human in the Loop)
    • 直接的および即時的な影響 (Direct and Immediate Impact Patient without Human in the Loop)

—————————————————————————————————————————————————————————————–

                        [ISPE GAMP® 5 Guide: A Risk-Based Approach to Compliant GxP Computerized Systems (Second Edition) 2022. Page-271]

——————————————————————————————————————————————————————————————-

Pharmaceutical Engineering: The Official Magazine of ISPE

January/ February 2024| Volume 44, Number 1  GAMP®　特集:　2024年1月 – 2月号

https://ispe.org/pharmaceutical-engineering/january-february-2024/machine-learning-risk-and-control-framework#footnote15_qw7qhcs

Hirotsugu Atsumaru (Hiro)

HiroPharmaConsulting® Co., Ltd.

Representative Director

Email: hiro_atsumaru@hiropharmaconsulting.com

Mobile: +81-80-5699-3284 (080-5699-3284: Japan)