《審查辦法》對(duì)于何種活動(dòng)需要進(jìn)行科技倫理審查采用了“一般列舉+專家復(fù)核活動(dòng)清單”的模式,其中對(duì)于《審查辦法》正文列舉的科技活動(dòng),企業(yè)需要進(jìn)行科技倫理審查;而對(duì)于附件清單列舉的科技活動(dòng),需要經(jīng)過企業(yè)委員會(huì)程序以外的專門的專家復(fù)核程序。同時(shí),《審查辦法》確立了對(duì)于清單的動(dòng)態(tài)調(diào)整機(jī)制。
1. 進(jìn)行科技倫理審查的主要科技活動(dòng)類型
開展以下科技活動(dòng)應(yīng)進(jìn)行科技倫理審查:
· 涉及以人為研究參與者的科技活動(dòng),包括以人為測(cè)試、調(diào)查、觀察等研究活動(dòng)的對(duì)象,以及利用人類生物樣本、個(gè)人信息數(shù)據(jù)等的科技活動(dòng)。
· 涉及實(shí)驗(yàn)動(dòng)物的科技活動(dòng)。
· 不直接涉及人或?qū)嶒?yàn)動(dòng)物,但可能在生命健康、生態(tài)環(huán)境、公共秩序、可持續(xù)發(fā)展等方面帶來倫理風(fēng)險(xiǎn)挑戰(zhàn)的科技活動(dòng)。
實(shí)踐中,相對(duì)寬泛的科技活動(dòng)會(huì)落入上述類型。例如,生物醫(yī)藥領(lǐng)域的相當(dāng)部分的研發(fā)試驗(yàn),因不可避免地以人為參與者,或者涉及實(shí)驗(yàn)動(dòng)物,所以需要進(jìn)行科技倫理審查。
再如,當(dāng)前討論、應(yīng)用相對(duì)密集的人工智能研發(fā)領(lǐng)域,特別是基于大型語言模型的技術(shù)研發(fā)和應(yīng)用測(cè)試,在相當(dāng)大量場(chǎng)景下不可避免地涉及利用個(gè)人信息數(shù)據(jù)進(jìn)行訓(xùn)練,所以需要進(jìn)行科技倫理審查。
2. 應(yīng)當(dāng)進(jìn)行專家復(fù)核的活動(dòng)
《審查辦法》規(guī)定,如下清單內(nèi)的科技活動(dòng),需要開展倫理審查的專家復(fù)核。并規(guī)定了這一清單由科技部動(dòng)態(tài)調(diào)整。
· 對(duì)人類生命健康、價(jià)值理念、生態(tài)環(huán)境等具有重大影響的新物種合成研究。
· 將人干細(xì)胞導(dǎo)入動(dòng)物胚胎或胎兒并進(jìn)一步在動(dòng)物子宮中孕育成個(gè)體的相關(guān)研究。
· 改變?nèi)祟惿臣?xì)胞、受精卵和著床前胚胎細(xì)胞核遺傳物質(zhì)或遺傳規(guī)律的基礎(chǔ)研究。
· 侵入式腦機(jī)接口用于神經(jīng)、精神類疾病治療的臨床研究。
· 對(duì)人類主觀行為、心理情緒和生命健康等具有較強(qiáng)影響的人機(jī)融合系統(tǒng)的研發(fā)。
· 具有輿論社會(huì)動(dòng)員能力和社會(huì)意識(shí)引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)。
· 面向存在安全、人身健康風(fēng)險(xiǎn)等場(chǎng)景的具有高度自主能力的自動(dòng)化決策系統(tǒng)的研發(fā)。
值得特別關(guān)注的是,除倫理審查制度歷來關(guān)注的對(duì)人和動(dòng)物的生物、行為、精神等方面的科研活動(dòng)外,清單將特定種類的“算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)”以及特定場(chǎng)景的“自動(dòng)化決策系統(tǒng)的研發(fā)”也歸入了需要開展科技倫理審查復(fù)核的科技活動(dòng)中。
在實(shí)踐中,人工智能研發(fā)及應(yīng)用(特別是基于大型語言模型的人工智能研發(fā)和應(yīng)用)的相當(dāng)大量場(chǎng)景可能具有輿論屬性、社會(huì)動(dòng)員能力,需要根據(jù)《審查辦法》的要求開展科技倫理審查,并且在申報(bào)單位通過科技倫理(審查)委員會(huì)的初步審查后,由該單位報(bào)請(qǐng)所在地方或相關(guān)行業(yè)主管部門組織開展專家復(fù)核。
根據(jù)《審查辦法》規(guī)定,高等學(xué)校、科研機(jī)構(gòu)、醫(yī)療衛(wèi)生機(jī)構(gòu)、企業(yè)等是本單位科技倫理審查管理的責(zé)任主體,其中:從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動(dòng)的單位,研究?jī)?nèi)容涉及科技倫理敏感領(lǐng)域的,應(yīng)設(shè)立科技倫理(審查)委員會(huì);其他有科技倫理審查需求的單位可根據(jù)實(shí)際情況選擇是否設(shè)立科技倫理(審查)委員會(huì)。
實(shí)踐中,部分企業(yè)已根據(jù)地方科技部門的發(fā)文申請(qǐng)成為科技倫理審查機(jī)構(gòu)試點(diǎn)單位,例如,湖南省科技倫理審查中心于2023年9月前往申報(bào)試點(diǎn)單位——南華生物醫(yī)藥股份有限公司現(xiàn)場(chǎng),對(duì)企業(yè)科研能力、科技倫理委員會(huì)建設(shè)、科技倫理審查制度建設(shè)等條件進(jìn)行審核;華大集團(tuán)組織聘用數(shù)名生命科學(xué)、醫(yī)學(xué)、信息和計(jì)算科學(xué)相關(guān)科研技術(shù)和管理人員以及社會(huì)代表擔(dān)任委員,分別組成涉及人的生命科技倫理審查委員會(huì)、動(dòng)物倫理和生態(tài)倫理審查委員會(huì)。四、科技倫理審查機(jī)制:內(nèi)外結(jié)合、“基于風(fēng)險(xiǎn)”的監(jiān)管路徑
1. 組織內(nèi)部的倫理審查機(jī)構(gòu)主導(dǎo)
A. 內(nèi)部組織機(jī)構(gòu)的設(shè)立要求
根據(jù)《審查辦法》第四條的規(guī)定,“從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動(dòng)的單位,研究?jī)?nèi)容涉及科技倫理敏感領(lǐng)域的,應(yīng)設(shè)立科技倫理(審查)委員會(huì)。其他有科技倫理審查需求的單位可根據(jù)實(shí)際情況設(shè)立科技倫理(審查)委員會(huì)。”因此,對(duì)于涉及科技倫理研究?jī)?nèi)容和敏感領(lǐng)域的生命科學(xué)、醫(yī)學(xué)和人工智能等科技單位應(yīng)當(dāng)設(shè)立科技倫理(審查)委員會(huì)(以下亦簡(jiǎn)稱“倫理委員會(huì)”)。對(duì)于其他類型的企業(yè),可以根據(jù)實(shí)際情況設(shè)立倫理委員會(huì)。例如,結(jié)合《JR/T 0258/2022 金融領(lǐng)域科技倫理指引》的規(guī)定以及《審查辦法》的要求,對(duì)于涉及科技倫理敏感領(lǐng)域的金融企業(yè),設(shè)立相應(yīng)的倫理委員會(huì)將是遵守科技倫理相關(guān)法律法規(guī)的良好實(shí)踐。針對(duì)倫理委員會(huì)的設(shè)立要求,結(jié)合《審查辦法》第七條的規(guī)定,倫理委員會(huì)人數(shù)應(yīng)不少于7人,并應(yīng)當(dāng)設(shè)置主任委員1人。同時(shí),倫理委員會(huì)應(yīng)當(dāng)由具備相關(guān)科學(xué)技術(shù)背景的同行專家、倫理、法律等相應(yīng)專業(yè)背景的專家組成,并應(yīng)當(dāng)有不同性別和非本單位的委員,涉及民族自治地方應(yīng)有熟悉當(dāng)?shù)厍闆r的委員。另外,倫理委員會(huì)的相關(guān)委員任期不超過5年,但是可以連任。針對(duì)倫理委員會(huì)的主要職責(zé),《審查辦法》在第五條進(jìn)行了明確說明,包括:制定完善倫理委員會(huì)的管理制度和工作規(guī)范;提供科技倫理咨詢,指導(dǎo)科技人員開展科技倫理風(fēng)險(xiǎn)評(píng)估;開展科技倫理審查,按要求跟蹤監(jiān)督相關(guān)科技活動(dòng)全過程;對(duì)擬開展的科技活動(dòng)的清單范圍作出判斷;組織開展對(duì)委員的科技倫理審查業(yè)務(wù)培訓(xùn)和科技人員的科技倫理知識(shí)培訓(xùn);受理并協(xié)助調(diào)查涉及科技倫理問題的投訴舉報(bào);根據(jù)法律法規(guī)的規(guī)定和監(jiān)管要求進(jìn)行登記和報(bào)告,并配合相應(yīng)主管部門開展涉及科技倫理審查的相關(guān)工作等。為履行倫理委員會(huì)的主要職責(zé),根據(jù)《審查辦法》第六條的規(guī)定,倫理委員會(huì)應(yīng)首先制定章程以明確倫理委員會(huì)工作的基本要求,同時(shí),應(yīng)當(dāng)結(jié)合公司現(xiàn)有合規(guī)制度體系建立健全審查、監(jiān)督、保密管理、檔案管理等制度規(guī)范等相關(guān)管理機(jī)制,以保障科技倫理審查合規(guī)、透明和可追溯要求。B. 倫理審查的程序
為規(guī)范企業(yè)內(nèi)部管理和科技倫理審查事項(xiàng),《審查辦法》第三章中規(guī)定了關(guān)于科技倫理審查的具體程序和要求;同時(shí),鑒于企業(yè)不同科技項(xiàng)目涉及的研發(fā)要求、倫理問題、業(yè)務(wù)范圍、影響程度等事項(xiàng)千差萬別,《審查辦法》規(guī)定了兩種審查程序,即一般程序和簡(jiǎn)易程序。無論一般程序還是簡(jiǎn)易程序,均要求相關(guān)企業(yè)的科技活動(dòng)負(fù)責(zé)人向倫理委員會(huì)申請(qǐng)倫理審查,并根據(jù)《審查辦法》第九條的規(guī)定提交申請(qǐng)材料。若申請(qǐng)材料不完整,倫理委員會(huì)有權(quán)要求相應(yīng)負(fù)責(zé)人一次性補(bǔ)充相關(guān)材料以完成申請(qǐng)審查。在接收相關(guān)材料后倫理委員會(huì)應(yīng)舉行會(huì)議對(duì)相關(guān)文件進(jìn)行審查,以確認(rèn)是否對(duì)該等倫理審查進(jìn)行受理。如果企業(yè)倫理委員會(huì)無法勝任審查工作要求或者企業(yè)自身未設(shè)立倫理委員會(huì)以及無企業(yè)人員開展的科技活動(dòng)需要進(jìn)行倫理審查時(shí),企業(yè)可以向其他倫理委員會(huì)提交材料并申請(qǐng)審查。另外,如果相關(guān)科技項(xiàng)目涉及多國合作,應(yīng)當(dāng)通過合作各方所在國家相關(guān)的科技倫理審查后,方可開展相關(guān)活動(dòng)。在倫理委員會(huì)受理相關(guān)材料后,應(yīng)當(dāng)進(jìn)行倫理審查,《審查辦法》對(duì)一般程序和簡(jiǎn)易程序的規(guī)定具體如下:(a) 倫理審查的一般程序
在開展倫理審查時(shí),應(yīng)當(dāng)由主任委員或其指定的副主任委員主持,同時(shí),到會(huì)委員應(yīng)不少于5人,且應(yīng)包括相關(guān)科學(xué)技術(shù)背景的同行專家、倫理、法律等相應(yīng)專業(yè)背景的專家委員。如果有必要,倫理委員會(huì)可以要求申請(qǐng)人到會(huì)并對(duì)相關(guān)科技項(xiàng)目進(jìn)行解釋說明,亦可要求與相關(guān)領(lǐng)域不存在直接利益關(guān)系的顧問專家到會(huì)以提供咨詢意見。在開展倫理審查時(shí),一般程序的審查期限為申請(qǐng)受理后的30日,且應(yīng)當(dāng)通過舉行會(huì)議的形式進(jìn)行審查;如果遇到特殊情況,倫理委員會(huì)有權(quán)適當(dāng)延長(zhǎng)并明確延長(zhǎng)的上述時(shí)限。在開展倫理審查過程中,倫理委員會(huì)可以作出批準(zhǔn)、修改后批準(zhǔn)、修改后再審或不予批準(zhǔn)等決定,但是相關(guān)審查決定應(yīng)當(dāng)經(jīng)由到會(huì)委員的三分之二以上同意。修改后批準(zhǔn)或修改后再審的,倫理委員會(huì)應(yīng)提出修改建議以明確修改要求;如果相關(guān)審查不予批準(zhǔn)的,倫理委員會(huì)應(yīng)當(dāng)向相關(guān)申請(qǐng)人說明理由。同時(shí),相關(guān)審查決定作出后,倫理委員會(huì)應(yīng)當(dāng)及時(shí)送達(dá)相關(guān)申請(qǐng)人。另外,我們也注意到,結(jié)合上述一般程序的30日期限問題,鑒于目前《審查辦法》并未明確如果出現(xiàn)修改后批準(zhǔn)等事項(xiàng)的審核期限,我們理解一般而言相關(guān)倫理審查應(yīng)當(dāng)在30日內(nèi)審核完畢,但是如果出現(xiàn)修改等特殊情況,則倫理委員會(huì)合理而言應(yīng)有一定的審查期限中止、中斷機(jī)制予以配套。在審查結(jié)束并通知申請(qǐng)人后,申請(qǐng)人可以向相關(guān)倫理委員會(huì)提出書面異議和申訴。申請(qǐng)人需要說明異議和申訴理由,并提供相關(guān)材料。如果相關(guān)理由和材料充分,則倫理委員會(huì)可以根據(jù)實(shí)際情況重新作出審查決定。在審查結(jié)束且申請(qǐng)人無異議的情況下,倫理委員會(huì)有權(quán)并應(yīng)當(dāng)在審查通過后進(jìn)行跟蹤審查,該等跟蹤審查間隔期不得超過12個(gè)月。如果跟蹤審查過程中發(fā)現(xiàn)違反科技倫理的相關(guān)情況,倫理委員會(huì)有權(quán)暫停或終止相關(guān)科技活動(dòng)。如果出現(xiàn)以下情況時(shí),科技活動(dòng)負(fù)責(zé)人應(yīng)當(dāng)及時(shí)向倫理委員會(huì)進(jìn)行報(bào)告:第一,科技活動(dòng)方案發(fā)生調(diào)整;第二,外部環(huán)境發(fā)生變化。此時(shí),倫理委員會(huì)應(yīng)當(dāng)對(duì)相關(guān)科技活動(dòng)的風(fēng)險(xiǎn)受益情況進(jìn)行評(píng)估,并提出繼續(xù)實(shí)施、暫停實(shí)施等意見。如果上述情形存在疑問并無法確認(rèn)是否可以繼續(xù)進(jìn)行相關(guān)科技活動(dòng)時(shí),倫理委員會(huì)有權(quán)重新開展倫理審查。· 多方合作項(xiàng)目的倫理審查協(xié)作機(jī)制如果相關(guān)科技活動(dòng)為多個(gè)合作機(jī)構(gòu)開展,那么牽頭企業(yè)或單位可以根據(jù)實(shí)際情況建立科技倫理審查協(xié)作機(jī)制和結(jié)果互認(rèn),加強(qiáng)科技倫理審查的協(xié)調(diào)管理。我們理解,在該等情形下,相關(guān)企業(yè)之間可以通過科技倫理制度建設(shè)、簽署合作協(xié)議等方式,對(duì)于科技活動(dòng)合作項(xiàng)目中倫理審查事項(xiàng)進(jìn)行規(guī)范和明確,以符合《審查辦法》的規(guī)定和要求。(b) 倫理審查的簡(jiǎn)易程序
為減輕企業(yè)合規(guī)壓力,《審查辦法》中亦規(guī)定了部分情況可以適用倫理審查簡(jiǎn)易程序和相關(guān)規(guī)范。因此,一般而言科技活動(dòng)涉及倫理審查的應(yīng)當(dāng)采用一般程序進(jìn)行審查,只有特別情況下才可適用簡(jiǎn)易程序。具體要求如下:根據(jù)《審查辦法》第二十二條的規(guī)定,以下情況下可以適用倫理審查的簡(jiǎn)易程序:第一,科技活動(dòng)倫理風(fēng)險(xiǎn)發(fā)生的可能性和程度不高于最低風(fēng)險(xiǎn);第二,對(duì)已批準(zhǔn)科技活動(dòng)方案作較小修改且不影響風(fēng)險(xiǎn)受益比;第三,前期無重大調(diào)整的科技活動(dòng)的跟蹤審查。需說明的是,結(jié)合《審查辦法》第五十二條的規(guī)定,適用簡(jiǎn)易程序情形的第一款中提及的“最低風(fēng)險(xiǎn)”是指日常生活中遇到的常規(guī)風(fēng)險(xiǎn)或與健康體檢相當(dāng)?shù)娘L(fēng)險(xiǎn)。同時(shí),《審查辦法》第二十二條的規(guī)定,倫理委員會(huì)應(yīng)當(dāng)制定適用簡(jiǎn)易程序?qū)彶榈墓ぷ饕?guī)程。因此,我們理解,企業(yè)在科技活動(dòng)中若希望適用簡(jiǎn)易程序進(jìn)行倫理審查,應(yīng)當(dāng)符合兩個(gè)要件:相關(guān)科技活動(dòng)觸發(fā)適用倫理審查簡(jiǎn)易程序的情形;第二,企業(yè)已經(jīng)制定簡(jiǎn)易程序倫理審查的相關(guān)工作規(guī)程。· 簡(jiǎn)易程序?qū)彶橐?/span>對(duì)于簡(jiǎn)易程序?qū)彶椋秾彶檗k法》僅強(qiáng)制要求規(guī)定需要倫理委員會(huì)制定指定兩名或兩名以上委員進(jìn)行審查;同時(shí),在審查決定相關(guān)文件中應(yīng)當(dāng)載明采取簡(jiǎn)易程序?qū)彶榈睦碛珊鸵罁?jù)。對(duì)于審核期限、是否必須舉行會(huì)議等其他內(nèi)容,該《審查辦法》并未強(qiáng)制要求,因此企業(yè)在貫徹落實(shí)倫理審查的簡(jiǎn)易程序時(shí),宜在不違反法律法規(guī)的前提下建立內(nèi)部的操作規(guī)范和流程,以合理運(yùn)營審查的簡(jiǎn)易程序。· 簡(jiǎn)易程序向一般程序的轉(zhuǎn)化 由于簡(jiǎn)易程序的審查內(nèi)容和要求相對(duì)簡(jiǎn)單,因此《審查辦法》第二十四條規(guī)定了在如下四種情況下需要調(diào)整為會(huì)議審查,并適用一般程序,具體包括:審查結(jié)果為否定性意見的;對(duì)審查內(nèi)容有疑義的;倫理委員會(huì)委員之間意見不一致的;倫理委員會(huì)委員提出需要調(diào)整為會(huì)議審查的。因此,若出現(xiàn)上述情況,應(yīng)當(dāng)結(jié)合法律法規(guī)規(guī)定和內(nèi)部建立的制度轉(zhuǎn)化為一般程序進(jìn)行倫理審查。2. “基于風(fēng)險(xiǎn)”的外部專家審議和復(fù)核制度
為加強(qiáng)科技倫理審查的規(guī)范、對(duì)高風(fēng)險(xiǎn)的科技活動(dòng)進(jìn)行倫理審查,《審查辦法》規(guī)定了科技活動(dòng)清單制度,也就是說在清單中列明的科技活動(dòng),均需要執(zhí)行外部專家審議和復(fù)核制度。A. 外部專家審議和復(fù)核制度的觸發(fā)機(jī)制
如上文提及,凡是屬于《審查辦法》附件清單內(nèi)的科技活動(dòng),均屬于“可能產(chǎn)生較大倫理風(fēng)險(xiǎn)挑戰(zhàn)的新興科技活動(dòng)”。這些科技活動(dòng)在通過倫理委員會(huì)的初步審查后,由本單位報(bào)請(qǐng)所在地方或相關(guān)行業(yè)主管部門組織開展專家復(fù)核。另外,根據(jù)《審查辦法》的說明,相關(guān)清單會(huì)根據(jù)科技發(fā)展和監(jiān)管趨勢(shì)進(jìn)行修訂,因此企業(yè)應(yīng)當(dāng)根據(jù)相關(guān)清單的更新及時(shí)調(diào)整和優(yōu)化科技倫理審查合規(guī)事項(xiàng)。B. 專家審議和復(fù)核申請(qǐng)
如果企業(yè)開展納入清單管理的科技活動(dòng),則在倫理委員會(huì)初步審查后,由企業(yè)報(bào)請(qǐng)所在地方或相關(guān)行業(yè)主管部門組織開展專家復(fù)核。如果相關(guān)科技活動(dòng)是多個(gè)企業(yè)或單位參與時(shí),則應(yīng)當(dāng)由牽頭單位匯總相關(guān)文件材料,并向所在地方或相關(guān)行業(yè)主管部門申請(qǐng)專家復(fù)核。相關(guān)復(fù)核材料,除了倫理委員會(huì)初步評(píng)審的材料外,倫理委員會(huì)初步審查意見或其未來復(fù)核單位要求提供的文件應(yīng)當(dāng)及時(shí)向相關(guān)部門提交。C. 復(fù)核專家人員要求
地方或相關(guān)行業(yè)主管部門組織在收到審議和復(fù)核申請(qǐng)后,應(yīng)當(dāng)成立復(fù)核專家組。該等專家組應(yīng)當(dāng)由科技活動(dòng)相關(guān)領(lǐng)域具有較高學(xué)術(shù)水平的同行專家以及倫理學(xué)、法學(xué)等方面的專家組成,且專家組人數(shù)不得少于5人。同時(shí),為避免利益輸送,倫理委員會(huì)的委員不得參與相關(guān)復(fù)核工作;另外,相關(guān)專家組成員也應(yīng)當(dāng)主動(dòng)申明是否與復(fù)核事項(xiàng)存在直接利益關(guān)系,以嚴(yán)格遵守保密規(guī)定和回避要求。D. 外部專家審議和復(fù)核制度的流程和期限
根據(jù)《審查辦法》第三十條的規(guī)定,復(fù)核專家組應(yīng)當(dāng)采取適當(dāng)方式開展復(fù)核,如果專家組認(rèn)為必要時(shí),可以要求相關(guān)倫理委員會(huì)、科技人員解釋說明有關(guān)情況。也就是說,專家審議和復(fù)審程序并未要求必須通過會(huì)議的方式進(jìn)行。復(fù)核專家組應(yīng)當(dāng)作出同意或不同意的復(fù)核意見,且該等復(fù)核意見應(yīng)當(dāng)經(jīng)過全體復(fù)核專家的三分之二以上同意。同時(shí),相關(guān)主管部門一般應(yīng)在收到復(fù)核申請(qǐng)后30日內(nèi)向申請(qǐng)單位反饋復(fù)核意見;相應(yīng)地,相關(guān)企業(yè)的倫理委員會(huì)應(yīng)當(dāng)根據(jù)專家復(fù)核意見作出科技倫理審查決定。由此可見,《審查辦法》并沒有規(guī)定審議和復(fù)核制度的特別情況延期規(guī)定,因此一般而言主管部門進(jìn)行外部專家復(fù)核時(shí)期限為30日。E. 跟蹤審查和重大變化再復(fù)核
根據(jù)《審查辦法》第三十三條的規(guī)定,倫理委員會(huì)應(yīng)當(dāng)加強(qiáng)對(duì)其企業(yè)開展的納入清單管理的科技活動(dòng)的跟蹤審查和動(dòng)態(tài)管理,同時(shí),跟蹤審查間隔一般不得超過6個(gè)月。也就是說,如果相關(guān)科技活動(dòng)納入清單管理后,相關(guān)跟蹤審查的間隔期將由原先不得超過12個(gè)月縮短至不得超過6個(gè)月。如果企業(yè)科技活動(dòng)的倫理風(fēng)險(xiǎn)發(fā)生重大變化時(shí),應(yīng)當(dāng)重新開展倫理審查并申請(qǐng)專家復(fù)核。也就是說,企業(yè)應(yīng)當(dāng)根據(jù)一般程序中規(guī)定的重新審查程序進(jìn)行倫理審查,并再次提請(qǐng)相關(guān)專家復(fù)核。F. 不進(jìn)行專家復(fù)核的情況
根據(jù)《審查辦法》第三十四條的規(guī)定, 如果國家對(duì)相關(guān)納入清單管理的科技活動(dòng)已經(jīng)實(shí)行監(jiān)管措施,并且將符合倫理要求作為審批條件、監(jiān)管內(nèi)容的內(nèi)容,則可不再開展專家復(fù)核。例如,根據(jù)《涉及人的生命科學(xué)和醫(yī)學(xué)研究倫理審查辦法》第三十九條規(guī)定,國家衛(wèi)生健康委會(huì)同有關(guān)部門共同負(fù)責(zé)全國涉及人的生命科學(xué)和醫(yī)學(xué)研究倫理審查的監(jiān)督管理。因此,我們理解關(guān)于生命科學(xué)和醫(yī)學(xué)研究倫理審查若與《審查辦法》規(guī)定的清單內(nèi)容競(jìng)合,則應(yīng)提請(qǐng)國家衛(wèi)生健康委進(jìn)行監(jiān)督管理。3. 委員會(huì)及倫理審查活動(dòng)的登記和備案報(bào)告制度
為對(duì)企業(yè)科技活動(dòng)中的倫理審查進(jìn)行監(jiān)管,《審查辦法》第四章著重對(duì)倫理委員會(huì)的相關(guān)審查活動(dòng)進(jìn)行了統(tǒng)籌管理。具體包括如下: A. 倫理委員會(huì)認(rèn)證機(jī)制構(gòu)建
根據(jù)《審查辦法》第四十一條的規(guī)定,國家將推動(dòng)建立倫理委員會(huì)認(rèn)證機(jī)制,鼓勵(lì)相關(guān)單位開展科技倫理審查認(rèn)證。也就是說,在未來監(jiān)管部門或其認(rèn)可的第三方機(jī)構(gòu)可能會(huì)根據(jù)其組織架構(gòu)、內(nèi)部制度以及人員管理情況,對(duì)企業(yè)的倫理委員會(huì)進(jìn)行認(rèn)證,以其倫理審查活動(dòng)進(jìn)行督導(dǎo)和支持。該等認(rèn)證機(jī)制亦可能和個(gè)人信息保護(hù)認(rèn)證機(jī)制的建立類似,通過辦法的發(fā)布、認(rèn)證機(jī)構(gòu)的委托等方式進(jìn)行統(tǒng)籌和構(gòu)建。B. 倫理委員會(huì)的備案要求
根據(jù)《審查辦法》第四十二條的規(guī)定,科技部將建設(shè)國家科技倫理管理信息登記平臺(tái)。同時(shí),結(jié)合《審查辦法》第四十三條的規(guī)定,企業(yè)在設(shè)立倫理委員會(huì)后30日內(nèi),應(yīng)當(dāng)通過國家科技倫理管理信息登記平臺(tái)進(jìn)行登記,登記的具體內(nèi)容包括如下:· 倫理委員會(huì)組成情況:該等事項(xiàng)包括倫理委員會(huì)的負(fù)責(zé)人、人員構(gòu)成、負(fù)責(zé)事項(xiàng)、基本信息以及專業(yè)背景等內(nèi)容。· 倫理委員會(huì)章程:該等事項(xiàng)包括倫理委員會(huì)的職能、在相關(guān)企業(yè)中的具體定位、與其他部門或現(xiàn)有制度之間的銜接和映射等內(nèi)容。· 倫理委員會(huì)工作制度:該等事項(xiàng)包括倫理委員會(huì)在進(jìn)行科技活動(dòng)的倫理審查中的基本流程,由其是關(guān)于一般程序、簡(jiǎn)易程序以及外部專家審議和復(fù)核制度的具體操作流程和銜接映射等內(nèi)容。另外,如果上述內(nèi)容發(fā)生變化時(shí),相關(guān)企業(yè)應(yīng)當(dāng)在平臺(tái)上及時(shí)更新相應(yīng)內(nèi)容,以滿足監(jiān)管要求。C. 納入清單管理的科技活動(dòng)登記要求
根據(jù)《審查辦法》第四十四條的規(guī)定,如果企業(yè)相關(guān)的納入清單管理的科技活動(dòng)獲得倫理審查批準(zhǔn)后,在該批準(zhǔn)日的30日內(nèi),應(yīng)當(dāng)通過國家科技倫理管理信息登記平臺(tái)進(jìn)行登記。上述登記的內(nèi)容應(yīng)當(dāng)包括科技活動(dòng)實(shí)施方案、倫理審查情況以及復(fù)核情況等材料。如果相關(guān)內(nèi)容發(fā)生變化時(shí),相關(guān)企業(yè)應(yīng)當(dāng)在平臺(tái)上及時(shí)更新相應(yīng)內(nèi)容,以滿足監(jiān)管要求和規(guī)定。D. 倫理委員會(huì)年度報(bào)告要求
根據(jù)《審查辦法》第四十五條的規(guī)定,企業(yè)應(yīng)當(dāng)在每年3月31日前,向國家科技倫理管理信息登記平臺(tái)提交上一年度的科技倫理(審查)委員會(huì)工作報(bào)告、納入清單管理的科技活動(dòng)實(shí)施情況報(bào)告等相應(yīng)材料。我們理解,該等年度報(bào)告要求是建立在企業(yè)已經(jīng)將其倫理委員會(huì)在科技倫理管理信息登記平臺(tái)上登記后的持續(xù)性義務(wù);因此,企業(yè)應(yīng)當(dāng)首先及時(shí)根據(jù)《審查辦法》的規(guī)定在監(jiān)管平臺(tái)上對(duì)其成立的倫理委員會(huì)進(jìn)行登記,并根據(jù)實(shí)際情況及時(shí)更新登記內(nèi)容。同時(shí),在每年截止日內(nèi),應(yīng)當(dāng)及時(shí)向監(jiān)管平臺(tái)報(bào)送上一年度的科技倫理(審查)委員會(huì)工作報(bào)告、納入清單管理的科技活動(dòng)實(shí)施情況報(bào)告和監(jiān)管部門要求的其他材料,以滿足監(jiān)管及時(shí)審查和管理的要求。 4. 科技倫理審查的審查標(biāo)準(zhǔn)
關(guān)于科技倫理審查,《審查辦法》中明確規(guī)定了一般程序、倫理跟蹤審查以及復(fù)核專家審查的不同要點(diǎn),為具體的倫理審查提供了基本綱要。A. 一般程序的科技倫理審查要點(diǎn)
倫理委員會(huì)應(yīng)按照如下的重點(diǎn)內(nèi)容和標(biāo)準(zhǔn)開展審查:· 擬開展的科技活動(dòng)應(yīng)符合本辦法第三條規(guī)定的科技倫理原則,參與科技活動(dòng)的科技人員資質(zhì)、研究基礎(chǔ)及設(shè)施條件等符合相關(guān)要求。· 擬開展的科技活動(dòng)具有科學(xué)價(jià)值和社會(huì)價(jià)值,其研究目標(biāo)的實(shí)現(xiàn)對(duì)增進(jìn)人類福祉、實(shí)現(xiàn)社會(huì)可持續(xù)發(fā)展等具有積極作用。科技活動(dòng)的風(fēng)險(xiǎn)受益合理,倫理風(fēng)險(xiǎn)控制方案及應(yīng)急預(yù)案科學(xué)恰當(dāng)、具有可操作性。· 涉及以人為研究參與者的科技活動(dòng),所制定的招募方案公平合理,生物樣本的收集、儲(chǔ)存、使用及處置合法合規(guī),個(gè)人隱私數(shù)據(jù)、生物特征信息等信息處理符合個(gè)人信息保護(hù)的有關(guān)規(guī)定,對(duì)研究參與者的補(bǔ)償、損傷治療或賠償?shù)群戏?quán)益的保障方案合理,對(duì)脆弱人群給予特殊保護(hù);所提供的知情同意書內(nèi)容完整、風(fēng)險(xiǎn)告知客觀充分、表述清晰易懂,獲取個(gè)人知情同意的方式和過程合規(guī)恰當(dāng)。· 涉及實(shí)驗(yàn)動(dòng)物的科技活動(dòng),使用實(shí)驗(yàn)動(dòng)物符合替代、減少、優(yōu)化原則,實(shí)驗(yàn)動(dòng)物的來源合法合理,飼養(yǎng)、使用、處置等技術(shù)操作要求符合動(dòng)物福利標(biāo)準(zhǔn),對(duì)從業(yè)人員和公共環(huán)境安全等的保障措施得當(dāng)。· 涉及數(shù)據(jù)和算法的科技活動(dòng),數(shù)據(jù)的收集、存儲(chǔ)、加工、使用等處理活動(dòng)以及研究開發(fā)數(shù)據(jù)新技術(shù)等符合國家數(shù)據(jù)安全和個(gè)人信息保護(hù)等有關(guān)規(guī)定,數(shù)據(jù)安全風(fēng)險(xiǎn)監(jiān)測(cè)及應(yīng)急處理方案得當(dāng);算法、模型和系統(tǒng)的設(shè)計(jì)、實(shí)現(xiàn)、應(yīng)用等遵守公平、公正、透明、可靠、可控等原則,符合國家有關(guān)要求,倫理風(fēng)險(xiǎn)評(píng)估審核和應(yīng)急處置方案合理,用戶權(quán)益保護(hù)措施全面得當(dāng)。· 科技倫理(審查)委員會(huì)認(rèn)為需要審查的其他內(nèi)容。B. 倫理跟蹤審查要點(diǎn)
倫理委員會(huì)在進(jìn)行跟蹤審查時(shí),應(yīng)當(dāng)包括如下內(nèi)容:第一,科技活動(dòng)實(shí)施方案執(zhí)行情況及調(diào)整情況;第二,科技倫理風(fēng)險(xiǎn)防控措施執(zhí)行情況;第三,科技倫理風(fēng)險(xiǎn)的潛在變化及可能影響研究參與者權(quán)益和安全等情況;第四,其他需要跟蹤審查的內(nèi)容。同時(shí),根據(jù)跟蹤審查需要,倫理委員會(huì)可以要求科技活動(dòng)負(fù)責(zé)人提交相關(guān)材料。C. 復(fù)核專家審查要點(diǎn)
復(fù)核專家組應(yīng)按照如下重點(diǎn)內(nèi)容和標(biāo)準(zhǔn)開展復(fù)核:第一,初步審查意見的合規(guī)性;第二,初步審查意見的合理性;第三,復(fù)核專家組認(rèn)為需要復(fù)核的其他內(nèi)容。可見,企業(yè)或組織在進(jìn)行科技活動(dòng)時(shí),應(yīng)當(dāng)考慮公司整體、科技活動(dòng)具象、對(duì)外合作等多重層面;同時(shí),應(yīng)當(dāng)結(jié)合業(yè)務(wù)維度、合規(guī)維度、數(shù)據(jù)維度等多重維度對(duì)整體科技倫理予以考量。以AI深度合成算法研發(fā)項(xiàng)目為例,在進(jìn)行AI深度合成算法研發(fā)及應(yīng)用時(shí),應(yīng)當(dāng)考慮到公司整體科技倫理、項(xiàng)目具體目標(biāo)科技倫理以及合作方科技倫理是否符合法律法規(guī)和社會(huì)價(jià)值體系要求。同時(shí),應(yīng)當(dāng)考慮如下事項(xiàng):· 從數(shù)據(jù)安全和個(gè)人信息保護(hù)角度:應(yīng)當(dāng)滿足法律法規(guī)的規(guī)定和基本要求,不得超范圍收集、加工和共享相關(guān)數(shù)據(jù)和個(gè)人信息,并采取合理的技術(shù)手段處理相關(guān)數(shù)據(jù)和個(gè)人信息。· 從算法設(shè)計(jì)角度:應(yīng)當(dāng)注意算法設(shè)計(jì)的包容性,防止不公平或歧視情況出現(xiàn),并關(guān)注農(nóng)村地區(qū)、偏遠(yuǎn)地區(qū)、老年人、殘障人士或少數(shù)民族群體的需求以提供無障礙服務(wù)。· 從公開透明角度:應(yīng)當(dāng)充分披露產(chǎn)品信息,對(duì)消費(fèi)者適當(dāng)性進(jìn)行管理,自覺接受外部監(jiān)督,并對(duì)內(nèi)強(qiáng)化科技倫理教育。· 從公平競(jìng)爭(zhēng)角度:應(yīng)當(dāng)注意防止濫用數(shù)據(jù)和流量,以公平公正使用智能算法為目標(biāo),并鼓勵(lì)算法依托的相關(guān)服務(wù)開放互通。· 從風(fēng)險(xiǎn)防控的角度:應(yīng)當(dāng)樹立風(fēng)險(xiǎn)底線意識(shí),自覺履行風(fēng)險(xiǎn)監(jiān)控責(zé)任,主動(dòng)做好創(chuàng)新風(fēng)險(xiǎn)補(bǔ)償機(jī)制,并創(chuàng)建創(chuàng)新退出機(jī)制和落實(shí)問責(zé)追責(zé)機(jī)制。· 從綠色低碳角度:應(yīng)當(dāng)注重綠色發(fā)展、以發(fā)揮改善相關(guān)行業(yè)環(huán)境為目標(biāo),同時(shí)應(yīng)注意促進(jìn)節(jié)約資源高效利用,避免浪費(fèi)。如果相關(guān)企業(yè)、科技人員、倫理委員會(huì)以及委員違反《審查辦法》中的相關(guān)規(guī)定,應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。具體情形如下:
· 科技活動(dòng)承擔(dān)單位和科技人員承擔(dān)法律責(zé)任的情形包括:第一,以弄虛作假方式獲得科技倫理審查批準(zhǔn),或者偽造、篡改科技倫理審查批準(zhǔn)文件的;第二,未按照規(guī)定通過科技倫理審查和專家復(fù)核擅自開展納入清單管理的科技活動(dòng)的;第三,未按照規(guī)定獲得科技倫理審查批準(zhǔn)擅自開展科技活動(dòng)的;第四,超出科技倫理審查批準(zhǔn)范圍開展科技活動(dòng)的;第五,干擾、阻礙科技倫理審查工作的;第六,其他違反本辦法規(guī)定的行為。· 倫理委員會(huì)、委員承擔(dān)法律責(zé)任的情形包括:第一,弄虛作假,為科技活動(dòng)承擔(dān)單位獲得科技倫理審查批準(zhǔn)提供便利的;第二,徇私舞弊、濫用職權(quán)或者玩忽職守的;第三,其他違反本辦法規(guī)定的行為。上述罰則未明確規(guī)定責(zé)任承擔(dān)的具體內(nèi)容,因此執(zhí)法機(jī)構(gòu)將從現(xiàn)有法律法規(guī)體系框架中對(duì)此予以觀察和梳理。目前,現(xiàn)有法律法規(guī)體系框架中已經(jīng)對(duì)違反科技倫理的處罰進(jìn)行了一定的規(guī)定,例如:· 根據(jù)《科學(xué)進(jìn)步法》第一百一十二條,如果從事違背科技倫理的科學(xué)技術(shù)研究開發(fā)和應(yīng)用活動(dòng)的,科學(xué)技術(shù)人員可能會(huì)被責(zé)令改正、終止或撤銷獲得用于科學(xué)技術(shù)進(jìn)步的財(cái)政性資金或者有違法所得、由有關(guān)主管部門向社會(huì)公布其違法行為、禁止一定期限內(nèi)承擔(dān)或者參與財(cái)政性資金支持的科學(xué)技術(shù)活動(dòng)、申請(qǐng)相關(guān)科學(xué)技術(shù)活動(dòng)行政許可等;并對(duì)直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員依法給予行政處罰和處分。· 根據(jù)《涉及人的生物醫(yī)學(xué)研究倫理審查辦法》第四十五條,醫(yī)療衛(wèi)生機(jī)構(gòu)未按照規(guī)定設(shè)立倫理委員會(huì)擅自開展涉及人的生物醫(yī)學(xué)研究的可能會(huì)被監(jiān)管部門要求責(zé)令限期整改、予以警告、處以罰款等;并對(duì)機(jī)構(gòu)主要負(fù)責(zé)人和其他責(zé)任人員,依法給予處分。由此可見,目前若違反《審查辦法》中的相應(yīng)規(guī)定,可能會(huì)觸發(fā)現(xiàn)行法律法規(guī)中明確規(guī)定的罰則。但是鑒于科技創(chuàng)新和技術(shù)進(jìn)步的步伐不斷加快,亦存在部分領(lǐng)域未能實(shí)現(xiàn)完全監(jiān)管的情況,因此我們傾向于認(rèn)為,未來主管機(jī)關(guān)會(huì)通過相關(guān)法律法規(guī)的頒布和更新等方式對(duì)違反《審查辦法》的情形進(jìn)行間接規(guī)定,并通過援引方式實(shí)現(xiàn)全面監(jiān)管。
《科技倫理審查辦法(試行)》管轄范圍內(nèi)的企業(yè)或組織宜為其相應(yīng)的科技活動(dòng)準(zhǔn)確理解、盡快建設(shè)倫理審查委員會(huì)制度并完成相應(yīng)登記。海問在此前處理大量人工智能、深度合成、腦機(jī)接口、生命科學(xué)等前沿領(lǐng)域項(xiàng)目經(jīng)驗(yàn)的基礎(chǔ)上,也將持續(xù)關(guān)注《科技倫理審查辦法(試行)》為實(shí)踐操作帶來的更新,在項(xiàng)目中提供緊跟監(jiān)管前沿、著眼于解決方案的法律服務(wù)。