為進(jìn)一步完善我國科技倫理體系，提升科技倫理治理能力，有效防控科技倫理風(fēng)險，不斷推動科技向善、造福人類，實(shí)現(xiàn)高水平科技自立自強(qiáng)，近日，中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《關(guān)于加強(qiáng)科技倫理治理的意見》(以下簡稱《意見》)，從總體要求、明確科技倫理原則、健全科技倫理治理體制、加強(qiáng)科技倫理治理制度保障、強(qiáng)化科技倫理審查和監(jiān)管、深入開展科技倫理教育和傳播等方面對科技倫理治理工作做出了全面部署和指導(dǎo)。
目前，以人工智能（AI）為代表的新興技術(shù)正加速進(jìn)入醫(yī)學(xué)領(lǐng)域，也逐漸形成了醫(yī)學(xué)與新興科技融合的交叉研究范式以及臨床實(shí)踐。復(fù)旦大學(xué)生命醫(yī)學(xué)倫理研究中心主任王國豫教授表示，人工智能技術(shù)正在持續(xù)賦能醫(yī)學(xué)的科學(xué)研究和臨床實(shí)踐，已在破解蛋白質(zhì)結(jié)構(gòu)方面已經(jīng)取得了重大的突破，對于人類認(rèn)識和理解生命的本質(zhì)，開發(fā)新的臨床藥物具有重要的意義。而人工智能與醫(yī)學(xué)影像的深度融合可以提高影像醫(yī)師工作效率、降低漏診率、均衡醫(yī)療資源，這對于緩解醫(yī)療衛(wèi)生體系面臨的重大壓力、推動醫(yī)療公正都會產(chǎn)生積極的影響。另一方面，這些新技術(shù)的應(yīng)用也會帶來一系列新的倫理挑戰(zhàn)。例如，在人工智能醫(yī)學(xué)影像領(lǐng)域，大規(guī)模使用訓(xùn)練數(shù)據(jù)導(dǎo)致的數(shù)據(jù)隱私暴露的風(fēng)險、采用深度學(xué)習(xí)進(jìn)行算法訓(xùn)練帶來的“黑箱問題”，都是未來人工智能在生命醫(yī)學(xué)領(lǐng)域應(yīng)用必須直面的挑戰(zhàn)。
王國豫認(rèn)為，如果要想讓這些技術(shù)落地，就必須同步開展人工智能在生命醫(yī)學(xué)領(lǐng)域應(yīng)用的規(guī)范研究，明確人工智能系統(tǒng)在生命醫(yī)學(xué)領(lǐng)域應(yīng)用的可能性邊界，構(gòu)建和完善保護(hù)人類生命、保護(hù)個人生物信息和隱私的防火墻。為此，必須加強(qiáng)對相關(guān)科技活動的倫理規(guī)范性審查，通過教育和培訓(xùn)，提高相關(guān)科技人員的倫理意識和道德敏感性。
華東師范大學(xué)計算機(jī)科學(xué)技術(shù)學(xué)院副院長賀樑教授表示《意見》的發(fā)布對于科技創(chuàng)新健康機(jī)制的建立和制度保障體系的形成具有重要的推動作用，也是對國際社會注重建立科技倫理規(guī)范的積極響應(yīng)。
賀樑同時認(rèn)為當(dāng)前開展科技倫理治理工作，加快推進(jìn)科技倫理治理體系建設(shè)，也面臨一些挑戰(zhàn)。首先是人才缺乏的挑戰(zhàn)，尤其是了解科技倫理，且又了解具體領(lǐng)域科技工作的交叉性人才非常稀缺；其次是觀念的挑戰(zhàn)，一部分科技工作組只顧埋頭從技術(shù)角度看問題，習(xí)慣看眼前成果而非長遠(yuǎn)影響，要讓政府、企業(yè)和科技人員接受并具有一定主動性是一個長期過程；第三是方法層面上的挑戰(zhàn)，倫理問題本身并不容易界定，而且由于不少倫理問題產(chǎn)生的后果具有隱蔽性，所以在發(fā)現(xiàn)問題、改善問題，規(guī)范問題等方面總體上還是很缺乏方法學(xué)與技術(shù)層面上的好工具的；第四是不同科技領(lǐng)域之間的倫理問題具有較大的差異性，在應(yīng)針對各個關(guān)鍵科技領(lǐng)域印發(fā)不同的治理框架的同時，能否把握住倫理審查時的“寬與松”問題也是一項(xiàng)挑戰(zhàn)，加強(qiáng)科技倫理審查降低相關(guān)風(fēng)險的同時，不應(yīng)影響科技創(chuàng)新與發(fā)展的進(jìn)程。
賀樑介紹到在人工智能領(lǐng)域，隨著數(shù)據(jù)的積累、算力的提升以及算法的發(fā)展，人工智能技術(shù)近些年發(fā)展迅速，但隨之而來的倫理風(fēng)險越來越多。例如AI偽造越來越難識別、AI越來越能深度挖掘用戶隱私、AI帶來的信息繭房問題、AI的不可解釋性引發(fā)的偏見問題和決策風(fēng)險等等都需要高度關(guān)注。他表示建立基層倫理的機(jī)構(gòu)是非常關(guān)鍵的，例如在企業(yè)層面，企業(yè)應(yīng)具備倫理自查的能力，建立完善的科技倫理的管理制度，規(guī)范并落實(shí)智能產(chǎn)品從研究、設(shè)計、開發(fā)到使用等各個環(huán)節(jié)的倫理自查工作；加強(qiáng)對員工的培訓(xùn)，在企業(yè)內(nèi)普及加強(qiáng)科技倫理治理的理念，推廣倫理審查的相關(guān)技術(shù)與工具。在行業(yè)層面，應(yīng)促進(jìn)構(gòu)建科技倫理的標(biāo)準(zhǔn)體系，推廣第三方服務(wù)公司進(jìn)行倫理審查與評估。
上海交通大學(xué)醫(yī)學(xué)院附屬第九人民醫(yī)院放射科主任陶曉峰教授認(rèn)為，生命科學(xué)、醫(yī)學(xué)都是與人類健康密切相關(guān)的學(xué)科領(lǐng)域，因此，所有首次用于人體的新技術(shù)、新材料、新方法都必須經(jīng)過嚴(yán)格的倫理論證。目前各個有資質(zhì)的醫(yī)學(xué)單位，都成立了由醫(yī)學(xué)專家、生命科學(xué)專家、管理學(xué)專家等等組成的倫理委員會，負(fù)責(zé)審查和批準(zhǔn)新的醫(yī)療行為是否符合倫理要求。所有在人體上使用新技術(shù)發(fā)表的文章也必須具有符合倫理要求的證明。這些工作對保障生命科學(xué)和醫(yī)學(xué)領(lǐng)域的科技行為的合倫理性起到了非常積極的作用。
陶曉峰同時介紹到AI技術(shù)在推動并參與到生命科學(xué)研究和臨床工作的進(jìn)程中，倫理性評估依然面臨巨大挑戰(zhàn)，比如基因編輯技術(shù)在先天性基因病變的應(yīng)用，病理的AI技術(shù)可否替代一些人工服務(wù)，AI影像技術(shù)的成熟可否單獨(dú)用于臨床診斷等等，都是當(dāng)前亟需關(guān)注和解決的問題。在他看來，作為醫(yī)學(xué)新興科技領(lǐng)域的的科研人員，必須高度重視倫理問題，筑牢底線思維：一定要認(rèn)識到我們的研究對象是人，必須把研究風(fēng)險評估和倫理評估作為研究是否開展的首要問題。要嚴(yán)格遵守和執(zhí)行倫理委員要求的研究框架，不得隨意更改，加減研究內(nèi)容。在研究過程中以及結(jié)束后應(yīng)持續(xù)、及時向倫理委員會報告研究情況，確保潛在倫理風(fēng)險被及時發(fā)現(xiàn)并采取防范措施。
陶曉峰最后表示科技倫理治理問題是個大問題，但又不能成為探索人類奧秘的絆腳石。在鼓勵和大量發(fā)展新型技術(shù)的開放和推廣的同時，要合理合規(guī)，依法辦事，才能推動醫(yī)學(xué)研究不斷發(fā)展和不斷創(chuàng)新。
《意見》不僅提出了包括增進(jìn)人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風(fēng)險和保持公開透明等五項(xiàng)基本原則，而且要求制定完善科技倫理規(guī)范和標(biāo)準(zhǔn)，即要求將科技倫理的原則轉(zhuǎn)化行動的規(guī)則和指南，以引導(dǎo)科技機(jī)構(gòu)和科技人員合規(guī)地開展科技活動。因此，在醫(yī)學(xué)人工智能領(lǐng)域，應(yīng)鼓勵建立以倫理、科技和醫(yī)學(xué)的多學(xué)科團(tuán)隊(duì)，制定指導(dǎo)細(xì)則。目前，王國豫教授團(tuán)隊(duì)近年來開展了《精準(zhǔn)醫(yī)學(xué)的倫理政策與法規(guī)框架研究》《國家自然科學(xué)基金倫理手冊》等研究編撰，并正在聯(lián)合上海人工智能實(shí)驗(yàn)室、復(fù)旦大學(xué)附屬華山醫(yī)院、華東師范大學(xué)等機(jī)構(gòu)，共同組建跨學(xué)科研究團(tuán)隊(duì)編制《人工智能醫(yī)學(xué)影像倫理手冊》，希望通過這些規(guī)范研作為實(shí)踐基石，提升科技人員的倫理意識，支撐科技人員合倫理合規(guī)地開展科技活動，推進(jìn)科技活動倫理治理體系的建設(shè)。
（瞿晶晶、李郁欣、王祥豐、曹國英、金博）
責(zé)編：吳正丹
