負責任 AI 中心

新北仁康醫院負責任AI中心計畫宣告

新北仁康醫院負責任AI中心成立於2024年,接受衛福部「次世代數位醫療平臺成立三大AI中心」計畫補助,於10/7正式啟動。中心推動人工智慧技術於醫療領域落地的應用,確保技術發展符合負責任AI執行原則,並有效提升醫療品質與患者安全。

成立緣由

因應AI技術快速發展,醫療領域的應用與治理問題在各國也受到重視。世界衛生組織(WHO)在其報告中強調,AI在醫療領域的應用必須遵循保護自主、確保透明、促進人類福祉等六項指導原則,並強調「以人為本」的發展原則,確保AI技術能真正提升醫療品質,而非增加臨床風險或加劇健康不平等。
然而目前全球AI治理的進展不均,美國與歐盟已分別制定相關管理法規,例如美國的HTI-1法案與歐盟的《人工智慧法案》(EU AI Act)。相較之下,許多國家仍停留在政策倡議階段,缺乏具體的執行方案與落實策略。
行政院去年提出《人工智慧基本法》草案,該草案第3條條文明訂AI使用的七大價值,包含自主、當責、透明、安全、公平、永續、隱私。這些價值不僅是AI治理的核心原則,也為臺灣推動醫療AI應用提供了法源基礎。
依循七大核心原則並落實至醫療場域,衛生福利部補助推動成立負責任AI執行中心計畫,這不僅是國內創舉,更是國際創新實踐案例。該計畫透過負責任AI落地管理的 「三大落實策略」,確保AI醫療應用產品在醫院的使用能夠達到以下三大目標:
(1)確保資安與隱私安全
(2)讓AI應用能受到醫師及病患信賴
(3)確保AI產品隨著時間推移持續受到監管
並定期重新驗證其有效性,以適應臨床需求的變化,確保AI診斷與輔助決策的可靠性。
透過這些策略,臺灣不僅在AI醫療應用的法規治理上與國際趨勢接軌,更率先制定具體的落地方案,為全球醫療AI治理先行示範。

Untitled (9)
圖1、AI發展七大核心原則

中心介紹與組織成員

負責任AI執行中心由一支跨領域專業團隊組成,包括管理部資訊部蔡秉晃副院長、謝宗運主任、醫療部賴宏賢主任、護理部吳水赺主任、外部委員智齡科技股份有限公司康仕仲執行長、資訊部專員吳建中幹事、行政助理陳以文,確保AI技術在醫療環境中能夠安全、負責地應用。負責任AI執行中心幹事吳建中,專責全院AI智慧醫療申請及監管,中心亦設有專責窗口,受理洽案諮詢及申請受理業務。

類別

姓名

現職

具體工作內容

計畫主持人

康義勝

新北仁康醫院   院長

統籌智慧醫療委員會、規劃專案執行方針

協同主持人

康仕仲

智齡科技股份有限公司 執行長

新北仁康醫院 資訊顧問

AI技術與醫院系統整合串接事宜規劃

協同主持人

吳水赺

新北仁康醫院 護理部主任

PAC病房結合AI技術落實事宜

協同主持人

謝宗運

新北仁康醫院 管理部主任

PAC病房結合AI技術成效事宜

協同主持人

吳建中

新北仁康醫院 資訊人員

電子化申請流程、AI審核表格、公共使用者查詢九大透明性內容網頁等系統管控、AI技術廠商資安查驗

醫療部委員

賴宏賢

新北仁康醫院 醫療部主任/全院性智慧醫療負責醫師

PAC病房結合AI技術判斷醫療行為成效事宜

 

   

負責任AI智慧醫療器材軟體落地管理辦法

2025.01.20 第三版

為因應人工智慧醫療器材軟體(Software as Medical Device,以下簡稱醫材軟體)及非醫材醫療應用軟體的特殊性、確保資訊安全性、病人資料不外洩及不影響本院資訊系統運作之前提下,並於AI產品落地後持續監測與管理,特訂新北仁康醫院「負責任AI落地管理辦法」作為依循。

申請臨床試用需填具「AI智慧醫療應用產品試用申請表」,由負責任AI執行中心收案,會同資訊室及相關單位進行審查並提送全院「智慧醫療委員會」決議。

一      總則

第1條             

目的:

新北仁康醫院(以下簡稱本院)為因應醫療器材軟體(Software as Medical Device,以下簡稱醫材軟體)的特殊性、確保醫材軟體的資訊安全、病人資料不外洩及不影響本院資訊系統運作,並持續評估醫材軟體之有效性,特定新北仁康醫院負責任AI智慧醫療器材軟體落地管理辦法(以下簡稱本辦法),供本院單位導入本院時有所依據。

第2條             

醫材軟體定義:

依據衛生福利部食品藥物管理署醫用軟體分類分級參考指引,醫材軟體無需為醫療器材硬體一部分,是可執行一個以上的醫療用途,適用於診斷、治療或是輔助應用之軟體。醫材軟體可在一般運算平台上使用,亦可與其他醫療器材結合或互通使用。若僅作為驅動醫療器材硬體之驅動程式,則不屬於醫材軟體之範圍。

「醫用軟體」泛指蒐集、儲存、分析、顯示、轉換人體健康狀態、生理參數、醫療相關紀錄等處理軟體,使用場所涵蓋醫療院所、個人居家使用及遠距醫療照護,而「醫用軟體」判定屬醫療器材管理者,在此則稱為「醫療器材軟體」(附件一)。

二      申請

第3條             

需求單位應提出需求規格,並公告開放廠商投標。投標廠商需填寫「新北仁康醫院智慧醫療器材軟體落地申請表」及檢附相關要求文件。由智慧醫療委員會受理後,協同資訊主管單位及相關單位進行審查資格。

三      智慧醫療委員會審查資格

第4條             

應循美國食品藥物管理局之風險分層判定辦法(附件二)進行醫材軟體風險評估,屬I, II級之低風險醫材軟體,需進行觀察型確效評估,可經智慧醫療委員會評估資格。

申請者應提供確效之參考標準,確效量測指標,於導入後提供確效評估結果,智慧醫療委員會得會同相關領域專家評估。

屬於III, IV級之高風險醫材軟體,需進行介入型確效評估,新北仁康醫院為地區醫院,無執行IRB之場域故不採用,即結案處理。

第5條             

申請導入之醫材軟體應確認是否通過台灣衛生福利部食品醫藥管理署許可證(TFDA)。無TFDA認證者,需由智慧醫療委員會依台灣醫療器材風險分級,屬低、中風險者需請智慧醫療委員會評定再依院長裁示,確認是否進行試用。如需試用者,待試用後確效評估為有效時,方可進行智慧醫療委員會評選流程。

四      評估流程

第6條             

資訊端

1.          醫材軟體之軟硬體配置及運算流程需符合資訊安全,且不得影響本院既有資訊系統之運作,運算輸入、處理過程及輸出結果需確保個資隱私不外洩。落地時應遵守行政院頒訂之個人資料保護法及資通安全管理法。

2.          依照九大透明性原則審查介入詳情及輸出、介入目的、介入的警告範圍外使用、介入開發詳情及輸入特徵、確保介入開發公平性的過程、外部驗證過程、模型表現的量化指標、介入實施和使用的持續維護、更新和持續驗證公平性評估規劃。

3.          資訊主管單位應依照申請單位填寫之申請書及送測樣機或軟體協助進行安全評估,通過後開始導入。

4.          為維護資訊安全,導入期間本院仍能持續進行資訊安全測試。如發現須改善之漏洞,管理單位(申請單位)應於收到通知後要求醫材軟體供應者限期修正。如超過可接受風險,需提報智慧醫療委員會審查,同時停止使用至改善完成。

第7條             

醫療端

1.        申請者應提供AI使用安全性與有效性之參考標準及量測指標,落地執行後應配合持續監測並定期彙總評估結果,由智慧醫療委員會得會同相關領域專家進行評估。

五、智慧醫療委員會進行評選

第8條             

需求單位申請導入案之投標廠商,由智慧醫療委員會確認廠商資格後,通知審核通過廠商之評選時間,由智慧醫療委員會進行評選,如需進行試用者,於試用確效評估後提供結果再進入評選,於評選後報請院長裁示,後得正式採購且上線使用。

第9條             

全程執行週期性監測,確保AI介入的有效性。每年由使用單位提出是否存在偏差數據的疑慮;若有疑慮,則由開發團隊會透過外部人體臨床試驗收集新樣本,進行效能評估與訓練,以確保效能維持在理想水準。

附件一

醫療器材軟體分類:參考自醫用軟體分類分級參考指引之第五點產品說明舉例

  • 醫院行政管理軟體
  • 用藥紀錄、計算用藥劑量軟體
  • 健康促進軟體(General Wellness Software)
  • 醫學影像處理軟體
  • 電腦輔助偵測/診斷/篩檢軟體
  • 手術治療計畫軟體
  • 病患生理參數監控軟體
  • 遠距醫療、照護軟體
  • 多項臨床生化指標分析軟體

適用之醫療照護情況

提供的資訊對於臨床照護決策之重要性

治療或診斷

驅動(Drive)

臨床管理

告知(Inform)

臨床管理資訊

危急情況

IV

III

II

嚴重情況

III

II

I

非嚴重情況

II

I

I

說明:

1.          治療或診斷:醫材軟體輸出資訊直接作為醫師治療或診斷的依據

2.          驅動(Drive)臨床管理:醫材軟體輸出的資訊啟動醫護人員對病人進行二度評估或介入

3.          告知(Inform)臨床管理資訊:醫材軟體輸出之資訊僅供參考,醫療診斷或決策由醫護人員執行

全院AI智慧醫療決策與管理

智慧醫療委員會

為確保AI技術在院內的合理運行,新北仁康醫院成立「智慧醫療委員會」屬於院層級委員會,統籌AI技術的決策與監管。該委員會由醫院康義勝院長、資訊部蔡秉晃副院長、管理部謝宗運主任、醫療部賴宏賢主任、護理部吳水赺主任、外部委員智齡科技股份有限公司康仕仲執行長等跨部門專家共同組成,負責以下職能:
• 審議AI技術導入策略,確保符合醫院的發展方向與臨床需求。
• 監督AI產品在醫院內的實施與成效評估,確保技術帶來實質醫療價值。
• 確立AI技術應用標準與持續監管,促進醫療AI的規範化與持續發展
• 確立AI技術的數據安全與隱私保護,確保患者權益不受侵犯。
• 落實負責任AI落地管理,確保AI醫療應用的持續安全及正確。

圖2、負責任AI執行中心組織架構圖

遵循AI發展的七大原則

為確保人工智慧技術的發展符合社會需求並促進產業創新,行政院推動《人工智慧管理基本法》,並依據其核心精神訂定AI發展的七大價值。本院管理辦法及申請表單亦遵循AI發展七大價值為依據為規劃基礎。

  1. 永續發展與福祉:應兼顧社會公平及環境永續。提供適當之教育及培訓,降低可能之數位落差,使國民適應人工智慧帶來之變革。
  2. 人類自主:應以支持人類自主權、尊重人格權等人類基本權利與文化價值,並允許人類監督,落實以人為本並尊重法治及民主價值觀。
  3. 隱私保護與資料治理:應妥善保護個人資料隱私,避免資料外洩風險,並採用資料最小化原則;同時促進非敏感資料之開放及再利用。
  4. 資安與安全:人工智慧研發與應用過程,應建立資安防護措施,防範安全威脅及攻擊,確保其系統之穩健性與安全性。
  5. 透明與可解釋:人工智慧之產出應做適當資訊揭露或標記,以利評估可能風險,並瞭解對相關權益之影響,進而提升人工智慧可信任度。
  6. 公平與不歧視:人工智慧研發與應用過程中,應盡可能避免演算法產生偏差及歧視等風險,不應對特定群體造成歧視之結果。
  7. 問責:應確保承擔相應之責任,包含內部治理責任及外部社會責任。

中心洽案諮詢窗口

負責任AI執行中心聯絡窗口:吳建中先生

電子信箱:njkhservice@gmail.com

連絡電話:02-2215-2345 #5105

廠商申請表單

智慧醫療器材落地申請表單依照資本資料、安全評估、效能評估、九大透明性原則、個資隱私、確效評估共有六大表單需請申請廠商進行填寫。