引言
2023年4月11日發布的《生成式人工智能服務管理辦法(征求意見稿)》(“《生成式人工智能服務辦法》”)針對近期引起高度關注的ChatGPT、Midjourney等模式的生成類人工智能應用,提出了一系列合規要求,引起業界的廣泛討論。而《生成式人工智能服務辦法》的規管路徑,在一些方面也沿襲甚至直接引用了《互聯網信息服務算法推薦管理規定》(“《算法推薦管理規定》”)和《互聯網信息服務深度合成管理規定》(“《深度合成管理規定》”)的監管框架。
面對人工智能的“iPhone時刻”和走向通用人工智能的“關鍵一步”,面對許多商業主體在大型語言模型的基礎層、中間層和應用層都有機會開辟自身具有特色的服務和產品的商業背景,甚至面對有的人士提出的“絕大部分傳統應用的服務模式都值得根據大型語言模型重做一遍”的產業前瞻,熟悉生成式人工智能運營合規的要點,在牌照備案、數據安全、個人信息保護、運營合規、商業合同要點和知識產權保護等方面進行全景式的了解,是生成式人工智能開發者和服務提供者需要特別關注的內容。
1. 當我們討論《生成式人工智能服務辦法》及其監管時,其實是在討論哪些受到監管的技術與活動,這類技術的實踐應用主要有哪些?
以上范圍比較寬泛,和此前頒布的涉及生成合成類技術的規定也略有不同。例如,《算法推薦管理規定》監管的活動是“在中華人民共和國境內應用算法推薦技術提供互聯網信息服務”。而“應用算法推薦技術”指“利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息”。
在《深度合成管理規定》中,具體要求“在中華人民共和國境內應用深度合成技術提供互聯網信息服務,適用本規定”,而“深度合成技術”是指利用深度學習、虛擬現實等生成式算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術,包括但不限于:(一)篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容的技術;(二)文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術;(三)音樂生成、場景聲編輯等生成或者編輯非語音內容的技術;(四)人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特征的技術;(五)圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術;(六)三維重建、數字仿真等生成或者編輯數字人物、虛擬場景的技術。”
相比《算法推薦管理規定》和《深度合成管理規定》而言,《生成式人工智能服務辦法》希望管理和規制的活動,更為寬泛。該文件不繼續局限于利用“算法”生成結果的活動,而是一般性地規定為“基于算法、模型、規則”生成結果的活動。這一規定變化,一定程度上反映了實踐中遇到的難點與困惑。實際項目中,在很多場景下,對于何謂“算法”,對于什么活動真正屬于使用了“算法”,并沒有很明確的定義與區分。所以,在《生成式人工智能服務辦法》頒布之前,許多項目實踐中,也傾向于認為,如果使用了一定的相對復雜的規則、方法,生成了服務結果,則應當視為受到“算法”規則規制的活動。
2.除了ChatGPT、Midjourney等典型的基于大型語言模型或者預訓練方式研發的生成類產品外,《生成式人工智能服務辦法》是否也監管AR/VR等場景融合、合成和增強類產品?
《生成式人工智能服務辦法》規定的“生成式人工智能”指“基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術”,一定程度上包含了VR應用的部分場景中運用到的圖片、聲音、視頻等生成物。另外,上述規定采取了開放型的列舉模式,使用“等內容”進行兜底,在文意上并不排斥將AR/VR場景應用含括在內。
然而,從《生成式人工智能服務辦法》全文意在監管的活動來看,并沒有明顯跡象顯示這一文件意在監管傳統意義上以現實增強和虛擬場景生成作為主要功能的AR/VR服務。例如,該辦法第七條和第十七條多次提到產品的預訓練和優化訓練數據,再如辦法第十九條規定服務提供者對從事網絡炒作、惡意發帖跟評、制造垃圾郵件、編寫惡意軟件,實施不正當的商業營銷等行為,應當暫停或者終止服務。上述規定針對的還是典型的內容結果生成式人工智能服務,甚至意在指向基于大型語言模型、以預訓練方式形成產品基礎的人工智能服務模型。上述規定及其意圖,在AR/VR服務場景中并不容易找到典型的適用維度。
因此,取決于后續主管機關頒布的正式生效的《生成式人工智能服務辦法》規定,其宜被理解為指向基于大型語言模型、以預訓練方式形成產品基礎的人工智能服務,而并不直接針對典型的AR/VR服務。
當然,AR/VR服務中,也完全可能嵌入生成式服務內容(例如VR游戲中的NPC對話),對于這些典型的生成式服務內容,毫無疑問需要受到《生成式人工智能服務辦法》的規管。此外,AR/VR服務,視具體形態,也較有可能需要遵守《算法推薦管理規定》和《深度合成管理規定》的要求,履行這兩個規定中的合規義務。
3.在哪里開展生成式人工智能服務,需要受到《生成式人工智能服務辦法》的監管?
因此,如果生成式人工智能服務的提供者位于境外,但是面向中國境內公眾提供服務,例如面向中國境內公眾進行宣傳,設置有中文頁面,開通了面向和便利中國境內公眾進行付款的支付通道,都可能被認定為面向中國境內公眾提供服務。這一方面呼應(或反證)了實踐中的一些具體做法。例如,OpenAI在賬戶注冊環節,要求用戶輸入手機號,而輸入中國大陸地區手機號的用戶不被允許注冊,一定程度上可以理解為OpenAI并不意在面向中國大陸的公眾提供服務。在一些其他項目中,有的服務提供者不允許來自中國大陸IP地址的用戶進行注冊,也可以理解為并不意在面向中國大陸公眾提供服務。
另一方面,上述規定的方式也與《中華人民共和國個人信息保護法》(“《個保法》”)和《網絡數據安全管理條例(征求意見稿)》(“《網數條例》”)的規制路徑相類似?!秱€保法》第3條規定,在中國境外處理中國境內自然人個人信息的活動,如果以向境內自然人提供產品或者服務為目的,或者分析評估境內自然人的行為,則境外處理者的活動也適用《個保法》的監管?!毒W數條例》第2條規定,在中國境外處理中國境內個人和組織數據的活動,如果以向境內提供產品或者服務為目的,或者分析評估境內個人、組織的行為,則需要遵守《網數條例》的規定。
所以,《生成式人工智能服務辦法》的監管邏輯相比于此前頒布的《算法推薦管理規定》和《深度合成管理規定》都更加寬泛。例如,《算法推薦管理規定》要求,在中國境內應用算法推薦技術提供互聯網信息服務,需要適用該規定的監管。《深度合成管理規定》也規定,在中國境內應用深度合成技術提供互聯網信息服務,需要受到該規定的監管。上述兩個規定都要求在中國境內提供服務才受到相應監管。相比之下,《生成式人工智能服務辦法》并不要求這一地域限定,擴大了自身監管的對象范圍。
4. 生成式人工智能服務,總體而言需要注意哪些方面的法律合規要求或法律問題?
A. 取得必要的資質許可和完成必要的備案、登記
算法備案
在近幾個月生成式人工智能應用爆火之前,已經存在不少生成合成類服務,主管部門將其納入算法監管的范疇,發布了《算法推薦管理規定》進行管理。其中規定,具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息,履行備案手續?!渡墒饺斯ぶ悄芊辙k法》也規定,利用生成式人工智能產品向公眾提供服務,應當按照《算法推薦管理規定》履行算法備案和變更、注銷備案手續。
安全評估
《生成式人工智能服務辦法》規定,利用生成式人工智能產品向公眾提供服務前,應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估。此外,生成式人工智能服務也屬于《深度合成管理規定》規管的活動,而《深度合成管理規定》也規定,深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的,應當按照國家有關規定開展安全評估。因此,生成式人工智能服務提供者應當根據上述規定進行安全評估,并將安全評估報告通過全國互聯網安全管理服務平臺提交所在地地市級以上的主管部門。
增值電信業務經營許可
生成式人工智能服務,根據具體模式,需要判斷是否涉及增值電信服務的形態。如果不涉及增值電信服務形態,則不需要取得增值電信業務經營許可證;如果涉及,則需要取得。
一般而言,如果服務提供者僅進行軟件、算法開發,授權或部署給客戶使用,而不涉及其他更具互動性(特別是允許用戶進行互動或發送信息的功能)的線上服務形態,則可能不需要取得增值電信業務經營許可證。
如果服務提供者在提供生成式服務功能時,允許用戶發布信息、進行互動(典型如聊天室、論壇、即時通信等功能),則可能需要取得B25類(信息服務業務)增值電信業務經營許可證(即俗稱的“ICP證”)。如果服務提供者以生成式服務作為引流手段,同時經營電商平臺,則可能需要取得B21類(在線數據處理與交易處理業務,特別是其中的“交易處理業務”)增值電信業務經營許可證。服務提供者的其他一些服務和業務形態,如果屬于某種增值電信業務活動,則需要取得其他類型的相應子類別牌照。
文化視聽類許可
生成式人工智能服務如果僅僅生成問答文字,或者針對特定任務進行文字回答,一般不屬于需要取得《網絡出版服務許可證》《網絡文化經營許可證》《信息網絡傳播視聽節目許可證》《廣播電視節目制作經營許可證》等文化視聽類許可牌照的活動。
如果服務提供者通過網絡向用戶提供網絡出版物,則需要根據《網絡出版服務管理規定》等規則的要求,取得《網絡出版服務許可證》。對于什么是“網絡出版物”,《網絡出版服務管理規定》規定了比較寬泛的范圍,但是在實踐中,值得把握兩個特點:(1)《網絡出版服務管理規定》也明確規定,網絡出版物是“具有編輯、制作、加工等出版特征的數字化作品”,所以需要具有“出版特征”;(2)實踐認定過程中,對于通過對話進行的文字輸出,一般篇幅相對較短(當然也有例外),也缺乏編輯、加工等特征,一般不認定為出版物。
如果服務提供者提供互聯網文化產品及其服務,則需要取得《網絡文化經營許可證》?;ヂ摼W文化產品是指通過互聯網生產、傳播和流通的文化產品(例如網絡音樂娛樂、網絡演出?。ü潱┠俊⒕W絡表演、網絡藝術品、網絡動漫等)。
如果服務提供者提供了互聯網視聽節目服務(例如制作、編輯、集成并通過互聯網向公眾提供視音頻節目,以及為他人提供上載傳播視聽節目服務),則需要取得《信息網絡傳播視聽節目許可證》。
如果服務提供者從事廣播電視節目制作經營活動,需要取得《廣播電視節目制作經營許可證》。
B. 在業務運營過程中遵守合規要求
綜合《生成式人工智能服務辦法》《深度合成管理規定》及其他規定的要求,生成式人工智能服務提供者在業務運營過程中,需要關注如下專項合規要求:
用戶注冊與管理:需落實用戶實名制注冊;注意內容角度的用戶防沉迷;合理引導用戶使用生成式人工智能生成內容,不利用生成內容損害他人合法權益,不進行商業炒作、不正當營銷。
數據安全、個人信息保護:需關注訓練數據的合法性;保護用戶的注冊個人信息和使用過程中輸入的個人信息;對用戶的輸入信息和使用記錄進行保護。除非法律法規另有規定,不留存推斷用戶身份的輸入信息,不根據用戶輸入信息和使用情況進行畫像,不向他人提供用戶輸入信息。此外,由于生成式人工智能是典型的數據驅動型業務,在訓練、使用過程中也往往涉及大量個人信息,甚至是比較敏感的個人信息,所以需要全面遵守《個保法》和《中華人民共和國數據安全法》《中華人民共和國網絡安全法》的網絡安全、數據安全及個人信息保護要求。
內容生態治理:服務提供者需要注意避免提供帶有歧視性的內容生成;產品研制中采用人工標注時,應當制定符合要求的標注規則,對標注人員進行必要培訓,抽樣核驗標注內容的正確性;對于運行中發現、用戶舉報的不符合要求的生成內容,除采取內容過濾等措施外,應在3個月內通過模型優化訓練等方式防止再次生成。
其他:需要采取算法機制機理審核,信息發布審核,平臺內容管理,建立健全辟謠機制,并對人工智能生成內容進行不影響用戶使用的標識。
C. 關注知識產權風險,保護知識產權
生成式人工智能服務提供者需要關注,在訓練階段,使用的訓練資料以及生成的結果不應侵犯他人的知識產權。其中,對于生成的結果,視服務的形態和使用的技術模型的不同,侵權風險可能相差較大。在相當一部分場景下,特別是在文字生成任務中,基于大型語言模型的生成式人工智能服務產生的結果往往不是訓練語料的原文復述,所以具有相對較低的知識產權侵權風險。但是,在一些圖片生成模型的生成效果中,可能出現與訓練圖像較為近似的生成圖像結果。生成式人工智能服務提供者需要在模型設置、訓練資料的選取、以及訓練和調優過程中注意此類生成結果侵權的風險。
盡管相當一部分生成式人工智能模型的基礎邏輯原理都已經披露在公開的論文當中,但是在生成式人工智能模型的具體開發過程中,以及將生成式人工智能模型封裝為產品以及與其他軟件結合提供服務的過程中,可能涉及到開源代碼的使用。生成式人工智能服務提供者需要注意開源代碼許可證的許可條款要求,特別需要關注開源代碼許可證的許可條款是否要求“開源傳染性”,即要求使用了開源代碼的開發結果的代碼必須開源,以及其他附隨要求。
結語
以上,是我們在《生成式人工智能服務管理辦法(征求意見稿)》為首的監管規定背景下,對生成式人工智能服務運營合規在范圍和合規要求方面的概括介紹。后續,我們將從“牌照與備案”“業務運營合規”“商業協議關注點”“知識產權關注點”等角度,分別對運營過程中的合規要求和重點考慮要素進行更加詳細的介紹。
京ICP備05019364號-1
京公網安備110105011258