人工智能醫療器械臨床試驗倫理審查要點

?

　　近年來，隨著技術的不斷進步，診斷專家系統，醫療機器人等人工智能產品正不斷應用于醫療領域，大幅提升了效率和效益，減輕了醫護人員的工作量，但同時也不可避免地帶來了關于醫療人工智能技術的倫理問題。這些問題，既有人工智能的共性問題，也有與醫療相關的特殊性倫理問題。倫理委員會審查人工智能醫療器械的核心問題包括風險評估、數據庫、數據安全及軟件更新。

　　1.難以準確評估風險

　　人工智能醫療器械的使用與健康息息相關，風險評估尤為重要。臨床使用風險應考慮數據質量控制、算法泛化能力的直接影響和算力所用計算資源（即運行環境）失效的間接影響。為使風險最小化，確保人工智能醫療器械的可靠性，需在使用過程中評估其風險。倫理審查中應注意其考量因素是否包括了臨床使用中的假陽性、假陰性和進口軟件的中外差異，以及風險管理活動相關的預期用途、使用場景、核心功能及措施、要求。

　　2.構建恰當類型數據集

　　數據是人工智能醫療器械的核心要素，將成為制約人工智能醫療器械發展的瓶頸。因此，數據集的構建是人工智能醫療器械審批的先行之舉，2019年7月17日之前我國僅存在肺結節和眼底兩類影像標準數據集，未來將建立肺CT、腦磁共振、冠狀動脈CT血管造影等更多測試樣本標準數據集，且明確測試數據集的類型包含檢驗數據庫、真實世界數據?；谧銐驍盗康臄祿鞓颖居糜谟柧毴斯ぶ悄茚t療器械，將大幅降低其誤診率和漏診率。

　　3.確保數據安全

　　數據安全已成為人工智能的關注重點。企業作為運營者應承擔主體防護責任，主管部門應履行監管責任。數據安全性的提高需得到醫療機構的配合，醫療機構在對健康數據進行歸檔、備份等數據傳輸操作時，尤其是通過公共互聯網傳輸敏感數據時，若未對敏感數據進行加密處理，容易造成患者治療信息、基因等重要醫療健康數據信息泄露。

　　4.算法更新導致軟件迭代

　　軟件更新是導致人工智能軟件召回的主要原因之一，應考慮對軟件安全性和有效性的正面和負面影響。軟件更新包括數據驅動型和算法驅動型軟件更新，由此產生重大軟件更新、輕微軟件更新及其版本命名規則。人工智能的算法雖說只是一種數學表達，看似與價值無關，實際上卻不可避免地存在主觀偏見。這種偏見的來源是多方面的，既有可能來自于訓練系統的數據輸入，又有可能來自于編程人員的價值觀嵌入。為加快人工智能醫療器械的審批，基于現有歷史數據的回顧性研究可用于臨床評價，甚至算法性能評估可采用屬于回顧性研究的第三方數據庫。

　　參考文獻：

　　1）李鴻浩,段偉文,陳蕾,等.醫療人工智能技術研發與應用的倫理挑戰和對策——以我國大型公立醫院為例的思考[J].人工智能,2019,000（004）:P.70-78.
　　2）周吉銀,李紅英,楊陽.人工智能醫療器械的倫理審查要點[J].醫學與哲學,2020:35-39.
　　來源：CIRS